[2L3-LS-8] SambaNova Cloud： 超高速推論プラットフォーム

[2L3-LS-8-01] SambaNova Cloud： 超高速推論プラットフォーム

鯨岡 俊則¹、中野 匡彦¹、シバタ アキラ²、山本 裕也² (1. SambaNova Systems、2. Weights & Biases)

2017年にスタンフォード大学教授らによってシリコンバレーで創業されたSambaNovaは独自の再構成可能なデータフローアーキテクチャに基づくAI半導体を開発し、GPUと比べてはるかに高速、低消費電力でAIの学習及び推論処理を実現しています。このセッションではSambaNovaの高性能AI半導体を手軽に利用できるSambaNova Cloudについて、超高速推論を活かしたエージェンティックAIの取り組みも含めてご紹介します。
またW&Bの緊急登壇が決定し、W&B WeaveとSambaNova Cloud連携のデモをご紹介します。