[2F3-LS-8] ランチョンセミナー8（東京エレクトロンデバイス株式会社）

[2F3-LS-8-01] 7Bパラメーターを超えたモデルサイズから発生するLLMの深刻な学習課題　～Cerebras CS-3での解決法～

漢那 憲昭¹、中川 隆志¹ (1. 東京エレクトロンデバイス株式会社)

生成AI、大規模言語モデル (LLM) という言葉は私たちの生活に広く知れ渡りましたが、これらのAIはまだまだ進化を続けています。その進化において、益々大量のコンピュートリソースが要求されており、多くの方はモデルのサイズに応じて様々な課題に直面しています。本セッションでは巨大化するAIモデルを学習するために最適なAI専用アクセラレータであるCerebras CS-3について、ハードウェアとソフトウェアの両面から解説を致します。