AIセーフティインスティテュート、国産モデル評価指標を2026年度内に整備へ

日本のAIセーフティインスティテュート（AISI）は、日本語・文化・規制期待に合わせた国産のモデル評価ベンチマークを2026年度末までに整備する方針だと、Murakami Akiko所長が10月15日のITmediaインタビューで明らかにした。既にUK AI Safety InstituteのInspect評価枠組みを活用しており、丁寧語や行政プロンプト、国内の安全規範など、国際スイートが見落としがちな失敗モードを捉える国内試験を求めている。

Murakami Akiko所長は、配備を止めるのではなくフロンティアモデルのリスクに追いつく作業だと位置づけた。生成AIによるサイバー脆弱性発見の速度も上がっており、省庁や大口調達が参照できる再現可能な評価が必要だと指摘。テキストモデルの後は、誤作動のコストがチャットの誤りを超えるエージェントや産業用ロボットなどフィジカルAIへ評価を広げる計画だ。

安全面の動きは産業政策とも並走する。別途、赤沢経産相はGlobalFoundries関連を含む日米の半導体・データセンター連携を強調しており、東京は計算基盤とガードレールの両立を目指している。

実務で何が変わるか

国産ベンチマークは、省庁に「輸入だけではない」物差しを与え、NICTのWisdom ARによる生成AIのジェイルブレイク容易性検証など国内実験とも並ぶ。NTTが検討する大阪でのAnthropic基幹データセンター（約1兆円規模）のような国内ホスティングでも、現地評価要求が強まるだろう。展示面ではCEATEC 2026が焦点を当てる自律フィジカルAIロボットこそ、AISIが次の評価波に入れると語る対象だ。

政府・規制産業向けに売るベンダーは、英語の一般ベンチマークだけでなく日本語レッドチームやInspect互換ログを求められる。AISIの期限を無視すれば、新スイートを引用する2027年の公募から外れるリスクがある。

注目点は、2027年3月までに草案カタログが出るか、UK AI Safety Instituteや米系研究所手法とどこまで揃えるか、テキスト完了前にエージェント・ロボット評価のパイロットが始まるかだ。