【解説】「AIセーフティに関する評価観点ガイド（第1.20版）」の概要

2026.07.21

「AIセーフティに関する評価観点ガイド（第1.20版）」の概要

2026年7月21日生成AIにより原案作成、東京都校正

はじめに

AIセーフティ・インスティテュート（AISI）が令和8年（2026年）7月に公開した「AIセーフティに関する評価観点ガイド（第1.20版）」の概要について解説する。本ガイドは、急速に普及するAIシステムを安全かつ安心に利用するために、AIの開発者や提供者が安全性を評価（テストや確認）する際の基本的な考え方をまとめた指針である。

本文

評価の対象（スコープ）

本ガイドは、主に文章を生成する「大規模言語モデル（LLM）」を組み込んだAIシステムを対象としている。また、今回の改訂では、利用者の指示に基づいて自律的に計画を立てて外部のシステムを操作する「AIエージェントシステム」も明確に評価の対象に含まれた。AIが利用者に直接与える影響だけでなく、連携する外部のデータベースやネットワークに及ぼす影響も評価の範囲としている。

AIセーフティの6つの重要要素

AIの安全性を高めるための土台として、以下の6つの重要要素を定めている。

人間中心: 人権を侵さず、人々の多様な幸せの追求を可能にすること。
安全性: 人の生命、身体、財産、精神などに危害を及ぼさないこと。
公平性: 特定の個人や集団に対する不当な偏見や差別をなくすこと。
プライバシー保護: 扱うデータの重要性に応じてプライバシーを守ること。
セキュリティ確保: 不正な操作によってAIが意図せず変更されたり停止したりしないこと。
透明性: AIがどのように判断したかを検証できるようにし、適切な情報を提供すること。

AIセーフティ評価の観点

上記の重要要素に基づいて、具体的に評価すべき観点が整理されている。

既存の基本的な観点: 有害な情報の出力制御、嘘や誤った情報の出力防止、公平な出力、プライバシーの保護、予期せぬ入力への強さ（ロバスト性）、データの品質など10の観点が設けられている。
第1.20版での新たな追加（AIエージェントへの対応）: AIが自律的に動く「AIエージェントシステム」の普及に伴い、従来想定されていなかった新たなリスクに対応するため、「観測と制御（自律的な挙動、外部環境との相互作用）」 という観点が新設された。これにより、AIが目標から外れた暴走をしないか、他のシステムや物理的な機器に悪影響を与えないかを評価する。

評価の実施者とタイミング

実施者: 主にAIの開発・提供を管理する責任者が行う。また、客観的な評価を行うために、開発に直接関わっていない外部の専門家（サードパーティ）による評価を取り入れることも有効とされている。
タイミング: 一度評価して終わりではなく、AIの開発フェーズ、システムへの組み込みフェーズ、そして実際の提供・利用フェーズにおいて、適切なタイミングで繰り返し継続的に評価を実施することが求められている。

まとめ

「AIセーフティに関する評価観点ガイド（第1.20版）」は、AIが自ら考えて行動する「AIエージェント」へと進化している最新の技術動向に合わせて、新たなリスクに対する評価基準を拡充した重要な指針である。開発者や提供者はこのガイドを活用し、開発から運用までの各段階で繰り返し安全性を確認することで、社会から信頼されるAIサービスを提供することが可能になる。

引用文献

AIセーフティに関する評価観点ガイド(第1.20版)の公開【Japan AISI】(2026年07月21日)