华福证券:算力周跟踪:ChatGPT周访问量突破9亿,“精度感知”ScalingLaw再引关注

  • 2
  • 约 1.15MB
  • 约 5页
  • 2024-11-21 发布
  • 3金币
  • 预览图可能不清晰,实际为下载为清晰文档
投资要点:本周数据中心板块超微电脑涨势一骑绝尘,GPU/CPU板块表现活跃。(1)GPU/CPU:本周(1118-1120)除英特尔外,算力芯片板块普涨,其中英伟达+3.54%,AMD+3.33%,龙芯中科+8.95%,寒武纪+9.98%,海光信息+3.81%。英伟达将于美东时间周三盘后披露三季度财报,建议继续关注。(2)数据中心硬件:超微电脑+52.15%,先前受安永辞职影响,超微电脑股价遭遇重创,11月18日其宣布聘请了新的独立审计师BDO并提交了合规计划,增强了投资者对公司未来合规性的信心。“精度感知”scalinglaw首次提出,AI领域低精度加速时代即将结束。根据新智元11月17日报道,哈佛斯坦福MIT等机构研究人员发现低精度训练会降低模型的有效参数量,对此他们提出了“精度感知”scalinglaw。要点#1:传统scalinglaw忽视精度,低精度训练有效性受限。传统的scalinglaw主要关注参数规模和数据量,但忽视了精度这一关键因素。研究发现,低精度训练不仅影响模型的有效参数量,而且在推理过程中,随着训练数据量的增加,量化带来的性能损失也会增加,特别是在模型后期量化时...

华福证券:算力周跟踪:ChatGPT周访问量突破9亿,“精度感知”ScalingLaw再引关注.pdf

  1. 1、本文档共5页,其中可免费阅读5页,需付费后方可阅读剩余内容。
  2. 2、本文档内容版权归属内容提供方,所产生的收益全部归内容提供方所有。如果您对本文有版权争议,可选择认领,认领后既往收益都归您。
  3. 3、本文档由用户上传,本站不保证质量和数量令人满意,可能有诸多瑕疵,付费之前,请仔细先通过免费阅读内容等途径辨别内容交易风险。如存在严重挂羊头卖狗肉之情形,可联系本站下载客服投诉处理。

相关文档

相关热门