Thursday, January 20, 2022

OSCHINA 社区最新专区文章

OSCHINA 社区最新专区文章


AI算力的阿喀琉斯之踵:内存墙

Posted: 08 Apr 2021 11:09 PM PDT

作者 | Amir Gholami 翻译与编辑 | OneFlow社区 这篇文章是我(Amir Gholami), Zhewei Yao,Sehoon Kim,Michael W. Mahoney 和 Kurt Keutzer 等人共同协作完成的。本文中用到的数据可以参考链接https://github.com/amirgholami/ai_and_memory_wall 图表 1:该图表展示了,目前 SOTA 模型训练的浮点数运算量(以 FLOP...

No comments:

Post a Comment