[4M1-GS-10] AI応用：知識・研究

[4M1-GS-10-04] AIアライメント言語: Align

AIアライメントパラダイム構築に向けて

〇田森 佳秀¹、吉澤 駿³、茂木 健一郎^1,2 (1. 東京大学大学院、2. ソニーコンピューターサイエンス研究所、3. 東海大学)

キーワード：人工知能、AIアライメント、AIアライメント言語

AI Alignmentは、AIを人間の倫理観、価値観、目的に沿って動作させることを目指す研究分野である。我々は、AIが特定の目的や倫理観に基づいて動作するようにデザインするためのプログラミング言語、すなわち「アライメント言語」の開発を行っている。

このアライメント言語は、AIの行動や判断基準を人間の倫理や目的に合わせるための具体的な規則や構造を提供する。AIの開発者は、この言語を使用してAIの目的や行動パターンを明確に定義し、AIが人間の意図に反する行動を取るリスクを最小化することができる。また、この言語は、AIが環境や状況に応じて適応する能力を獲得するためのプロンプト設計にも使用できる。

現在我々は、この言語の設計と実装の途中段階にあり、いくつかの課題に直面している。例えば、人間の倫理観や価値観の多様性をどのようにAIに組み込むか、AIの判断基準をどの程度柔軟にするか、また、未知の状況に対してAIがどのように対応すべきかなどである。発表では、これらの課題に対処するための、アライメントを設計するためのアライメント言語の構造について共有し議論する。