AI的本质是内存 GPU真正工作的时间只有10%-30%

md_5786

【HBM之父金正浩：AI的本质是内存 GPU真正工作的时间只有10%-30%】被誉为“HBM 之父”的韩国科学技术院（KAIST）电气系教授金正浩近日接受《东亚日报》采访时表示，AI 的核心竞争力正在从 GPU 转向内存。金正浩认为 AI 的本质是内存，GPU 在 AI 推理中的利用率远低于理论水平。AI 每次输出结果，都必须先从 HBM 读取数据、传到 GPU 进行计算，再将结果写回内存。就算部署 100 万块 GPU，真正用于计算的时间也只有 10%-30%。

王运成

感谢提供信息分享。

月光下守候

谢谢分享就像花儿一样芬芳