一,我们需要多少张GPU?
GPT-5的训练,需要5万张H100加持。英伟达GPU已成为各大AI公司开发大模型的首选利器。然而,Sam Altaman自曝GPU很缺,竟不希望太多人用ChatGPT。

近来,社区广为流传的一张图「我们需要多少张GPU」,引发了众多网友的讨论。
根据图中内容所示:
- GPT-4可能在大约10000-25000张A100上进行了训练
- Meta大约21000 A1