请打开微信扫一扫在手机上浏览
腾讯汤道生:在大模型的训练和使用过程中,需要大量异构算力的支持
发布时间 2023-06-21 13:03  |  作者 企查查  |  阅读 44
据腾讯官微,腾讯集团高级执行副总裁、云与智慧产业事业群CEO汤道生表示,在大模型的训练和使用过程中,需要大量异构算力的支持,对网络速度与稳定性要求也很高,加上GPU服务器比一般服务器稳定性更低一些,服务器的运维、问题的排查更频繁,整体运维的难度与工作量会高很多。在训练集群中,一旦网络有波动,训练的速度就会受到很大的影响;只要一台服务器过热宕机,整个集群都可能要停下来,然后训练任务要重启,这些问题会使得训练时间大大增加,投入在大模型的成本也会飙升。AI对世界的改变,一定也是通过与产业的融合实现的。机器决策、自主生成、自然交互等一系列变革,推动产业实现更高效率、更低成本、更好体验和更大创新。未来的企业,也将向智能原生进化。
据腾讯官微,腾讯集团高级执行副总裁、云与智慧产业事业群CEO汤道生表示,在大模型的训练和使用过程中,需要大量异构算力的支持,对网络速度与稳定性要求也很高,加上GPU服务器比一般服务器稳定性更低一些,服务器的运维、问题的排查更频繁,整体运维的难度与工作量会高很多。在训练集群中,一旦网络有波动,训练的速度就会受到很大的影响;只要一台服务器过热宕机,整个集群都可能要停下来,然后训练任务要重启,这些问题会使得训练时间大大增加,投入在大模型的成本也会飙升。AI对世界的改变,一定也是通过与产业的融合实现的。机器决策、自主生成、自然交互等一系列变革,推动产业实现更高效率、更低成本、更好体验和更大创新。未来的企业,也将向智能原生进化。

 
目录
首页 国内 国外 宏观 企业 人物 专题 创投 产业链 理财 股票 资管 并购 上市 债市 国企 机构 VCPE专项通道 上市公司专项通道 央国企专项通道 政策研究专栏 资源同步OA通道 机构数据API定制 科创企业申报 拟上市辅导 地图