総務省、AI事業者ガイドラインの改定に着手　AIエージェントとフィジカルAIの記述を拡充へ

総務省は10月30日、経済産業省と共同で定める「AI事業者ガイドライン」の改定に向けた議論を始めた。日経の報道によると、自律的に動くAIエージェントや、ロボットの制御などに使うフィジカルAIに関する記述を増やす。両省は2027年3月下旬をめどに更新版を公表する考えである。

議論は、同省の「AIガバナンス検討会」の第32回会合でオンライン形式で始まった。会合資料によると、事務局は2026年3月31日に公表した現行の第1.2版について、AIエージェントとフィジカルAIの定義を盛り込んだものの記載は基本的な内容にとどまり、従来型AIや生成AI向けの記述に付け加える形になっていると指摘した。そのうえで、6つの分類ごとに開発者・提供者・利用者がそれぞれ何をすべきかを整理した一覧の案を示した。

案では、開発者はモデルが参照できるデータを制限し、異常な動作を止める「サーキットブレーカー」を組み込む。提供者はツールやAPIの利用権限を最小限にし、サービス全体を監視する。利用者はエージェントが権限を逸脱していないかを定期的に確認し、問題が起きたときの停止手順を明確にしておく。人間による承認の手順、人間ではないアカウントや認証情報の管理、エージェントが記憶に取り込むデータの信頼性も項目に含まれる。ロボットなどのフィジカルAIについては、ソフトウェアから独立したハードウェアの安全装置、非常停止ボタン、導入前の仮想環境での検証を挙げた。

実務への影響

ガイドラインに罰則はないが、日本企業が社内のAIルールを作る際の拠り所となっており、同省の調査では認知度が81％、活用度が46％だった。新しい一覧ではログの確認から社員研修まで多くの対策が利用者側に割り当てられており、中小企業や自治体には負担が大きくなる可能性がある。この点で認知と活用の差は重い意味を持つ。デジタル庁は会合で、エージェントに関する新たな記載を政府のAI利用ルールに取り込む可能性があると説明した。こうしたルールは、同庁が安全ルールのもとで源内のAIエージェントを政府職員18万人に開放した取り組みの土台にもなっている。今回の改定は、政府が進める罰則の導入も検討するAI法の見直しとも並行して進む。

今後の焦点は、「対応が難しい対策はないか」という事務局の問いに検討会がどう答えるか、最終的な文書が企業規模に応じて最低限の対策と推奨される対策を分けて示すかどうか、そしてNISTのAIリスク管理フレームワークなど海外の枠組みとどこまで整合させるかである。