KGRI Challenge Grant: 説明可能なコンピューティング環境の実現に向けて

近年、深層学習に基づくAIツールが飛躍的に普及し、大量の学習データに依拠した大規模言語モデル（LLM）の説明可能性をめぐる諸問題が深刻化しつつある。本研究は、私たちの社会生活を取り巻くコンピューティング環境の説明可能性と公平性をめぐる諸問題の解決のために、日仏の国際連携のもと、論理的手法を利用した方法論を具体的に提示することを目的とする。日仏の研究連携を推進し、社会還元につながるLLMの説明可能性モデルを探究したい。

■2024年度の新規活動目標と内容、実施の背景

2024年度は、以下の二点を目標とする。第一に、論理的観点に基づいてコンピューティング環境の説明可能性の定義・基準の明確化を試みる。特に論理とリーズニングに基づく観点（日本側グループ）、及び、因果推論に基づく観点（フランス側グループ）という二つの観点から、説明可能性、及び、関連する公平性の概念を明確化する。第二に、実践推論に着目して大規模言語モデルの説明可能性を評価するための学習データ、及び、ベンチマーク構築を行う。また構築したベンチマークに基づいて現状のLLMの評価を行う。

KGRIのプロジェクトメンバー、所員について.pdf