- 博客(6)
- 收藏
- 关注
原创 多GPU联合训练深度学习模型
rank = int(os.environ['RANK']) # 环境中变量,由命令行参数传入# 此处函数的含义与上类似,启动多个线程train()test()由于各进程中的模型,初始参数一致 (初始时刻进行一次broadcast),而每次用于更新参数的梯度也一致,因此,各进程的模型参数始终保持一致。而在中,全程维护一个optimizer,对各 GPU 上梯度进行求和,而在主 GPU 进行参数更新,之后再将模型参数broadcast到其他 GPU。相较于。
2023-09-01 18:00:57
527
1
原创 一个简单的JVM调优过程
进过仔细检查,发现时以前运行hadoop集群时没有关闭导致的,并且此时再次执行hadoop关闭指令依旧无法清除像对应的进程,这是由于hadoop打开后的进程信息会保存到temp文件夹下,而temp文件夹下的文件会被定期清理,从而导致再次执行hadoop关闭指令时,指令无法找到对应的执行西信息,从而导致指令失效。由于起初在window系统上的java版本为jdk11,而linux系统上的为jdk8,所以在linux上运行复制过来的class文件总是出现major version版本报错的问题)
2023-03-28 09:49:20
209
原创 关于Transformer你不可不知的几个点
读懂Transformer模型必须要了解的几个点,从模型的几个重要概念到需要注意的几个细节,都展示在了这篇文章
2023-03-22 20:07:36
773
原创 一个简单的springboot+Vue前后端框架搭建
根据网上的一些教程试着搭建了一个简单的前后端分离的用户管理系统。该系统使用Vue框架编写前端代码,Springboot编写后端代码,Mysql作为数据库存储系统的数据。本文着重介绍整个项目的搭建流程以及附加一些在搭建过程的想法和注意事项
2022-12-23 11:28:29
11117
1
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人