【詳細解説】ISO/IEC 42001（AIMS）と「AIセーフティに関する評価観点ガイド」の相補的関係および実践的活用法

2026.08.10

【詳細解説】ISO/IEC 42001（AIMS）と「AIセーフティに関する評価観点ガイド」の相補的関係および実践的活用法

2026年8月10日東京都改訂
2026年8月4日東京都校正初稿
2026年8月4日生成AIにより作成

エグゼクティブサマリー

本報告書は、AI技術（大規模言語モデル、マルチモーダルモデル、AIエージェント等）の急速な発展に伴い必須となったAIガバナンス構築に向け、国際マネジメントシステム規格「ISO/IEC 42001:2023（AIMS）」と、日本のAIセーフティ・インスティテュート（AISI）が公表した「AIセーフティに関する評価観点ガイド」の相互関係および実践的な活用方法を解明・提示するものである1。

両指針の補完的関係: ISO/IEC 42001は「組織的・継続的にAIリスクを管理するための枠組み（マネジメントシステム）」を提供するのに対し、「AIセーフティに関する評価観点ガイド」は「モデルやシステムの安全性を実際に測定・検証するための具体的・技術的な評価基準と手法」を提供する4。両者を統合することで、マネジメントの形骸化を防ぎつつ、実効性と客観性を備えたAIガバナンスを実現できる4。

PDCAサイクルでの統合活用: AIMSのPDCAサイクルにおいて、Plan（影響評価でのリスク洗い出し）、Do（自動評価・レッドチーミング等の技術的テストの実行）、Check（モニタリングログと透明性の検証）、Act（最新の脅威傾向や評価基準への適応）の各プロセスに評価観点ガイドを組み込んで運用する3。

管理策と評価基準の対照（Annex A）: ISO/IEC 42001附属書Aの各管理策（方針、組織、影響評価、ライフサイクル、データ、透明性、モニタリング等）に対して、AISIガイドの10の評価観点および最新の評価観点（有害出力抑制、偽誤情報防止、ロバスト性、バイアス、観測と制御等）における定量的・定性的基準を紐付けて運用することで、審査・監査に耐えうるエビデンスを網羅的に整備できる3。

1. 規格・ガイドラインの基本体系と制定背景

ISO/IEC 42001（AIMS）の体系と目的

ISO/IEC 42001は、AIシステムを開発、提供、または利活用する組織を対象に、AI固有のリスクを組織的・継続的に管理するためのマネジメントシステム（AIMS：AI Management System）の要求事項を定めた国際標準規格である4。ISOマネジメントシステム規格の共通構造（Harmonized Structure）を採用しており、組織の文脈の理解、最高経営層のリーダーシップ、リスクアセスメント、運用管理、パフォーマンス評価、および継続的改善というPDCAサイクルを基本骨格とする4。
AIMSの中核的特徴は、従来の品質（ISO 9001）や情報セキュリティ（ISO/IEC 27001）の枠組みを拡張し、AI特有の性質である「自律性」「継続的学習」「不確実性・説明困難性」に起因する倫理的・社会的リスクの管理を目的としている点にある4。附属書Aには、方針、内部組織、資源、影響評価、ライフサイクル、データ、透明性、使用、第三者関係にわたる広範な管理策カテゴリが規定されている10。

「AIセーフティに関する評価観点ガイド」の体系と目的

経済産業省および総務省による「AI事業者ガイドライン」の公表を受け、独立行政法人情報処理推進機構（IPA）に設置されたAIセーフティ・インスティテュート（AISI）は、AIシステムの開発者や提供者がセーフティ評価を実行する際の技術的指針として「AIセーフティに関する評価観点ガイド」を公開した1。本ガイドは、LLMを皮切りにマルチモーダルモデルやAIエージェントシステムへと対象を順次拡大しながら、技術動向に即して更新されるリビングドキュメントとして位置づけられている2。
同ガイドでは、「人間中心」「安全性」「公平性」「プライバシー保護」「セキュリティ確保」「透明性」の6要素をAIセーフティの根幹として定義している3。その上で、有害出力の制御、偽誤情報の防止、強靭性（ロバスト性）、データ品質、観測と制御などの評価観点を設定し、各観点における脅威の例、目指すべき状態、定量的・定性的評価項目、ならびに技術的テスト手法（評価ツールやレッドチーミング等）を具体的に提示している3。

2. 両指針の構造的関係性：管理枠組みと技術検証の相補構造

ISO/IEC 42001と「AIセーフティに関する評価観点ガイド」は、競合する規格ではなく、「マネジメントの枠組み（How to Manage）」と「実体的な評価基準・検証手法（What and How to Evaluate）」という相互補完関係を形成している4。

マネジメント枠組みと技術評価基準の結合

ISO/IEC 42001は、組織がどのような姿勢でAIを扱い、いかなる責任体制やリスクアセスメント手順を構築すべきかという上位のガバナンス構造を担保する4。しかし、汎用的な規格であるISO/IEC 42001は、「特定のモデルアーキテクチャにおいてハルシネーションをどのようなベンチマーク指標で測定すべきか」あるいは「プロンプトインジェクションの脆弱性をいかなるテストシナリオで検証すべきか」というミクロな技術的評価手法までは踏み込んでいない4。
この技術的具体性の隙間を埋めるのがAISIの評価観点ガイドである1。同ガイドは、AIシステムに潜む具体的な脅威パターンや、それを測定するためのベンチマークテスト、レッドチーミングの手法、評価データセットの設計考え方などを提供する8。組織はISO/IEC 42001に基づく管理プロセスの中で、AISIガイドの技術的観点や測定方法を採用することにより、客観性と実効性を備えた評価体系を構築することが可能となる7。

形骸化の防止と継続的適合の実現

組織がISO/IEC 42001のみを導入した場合、社内規程や手続き文書は完備されても、実際のAIモデルに対する検証が不十分となり、「実効的安全性が伴わない形骸化したコンプライアンス」に陥るリスクが存在する7。逆に、AISIの評価観点ガイドのみを参照して開発の最終段階で単発的なテストを実施するにとどまった場合、モデルの継続学習、APIのアップデート、あるいは運用環境の変更に伴う新たなリスクに対して、組織的かつ持続的に対処することが困難となる3。
したがって、ISO/IEC 42001によって「誰が、いつ、どのようにリスクを管理・監督し、改善し続けるか」という組織的基盤を固め、その運用の現場においてAISIガイドに準拠した技術的評価を定常的に実行するという二重の統合構造が、強靭なAIガバナンスの成立条件となる3。

3. AIMSのPDCAサイクルにおける評価観点ガイドの統合活用法

組織がAIシステムを設計、開発、デプロイ、運用するにあたり、AIMSのPDCAサイクルと評価観点ガイドの評価プロセスを融合させた運用の詳細を以下に提示する7。

計画段階（Plan）：リスクアセスメントと評価要求要件の設定

組織はISO/IEC 42001の「A.5 AIシステムの影響の評価」を実施するにあたり、AISIガイドが提示するセーフティの6要素および評価観点をリスク同定の枠組みとして活用する3。自社が扱うAIシステムのアーキテクチャ（LLM、マルチモーダル、エージェント）や利用目的に応じて、社会的リスクや人権への影響を可視化し、許容可能なリスク水準を定義する2。事業執行責任者および開発・提供管理者は、この影響評価に基づき、必要なセーフティ評価の定量的目標（KPI）および評価リソース（予算、専門人材、テストツール等）を確保する計画を策定する1。

実行段階（Do）：技術的評価の実装とライフサイクル検証

AIシステムの設計および開発フェーズにおいては、ISO/IEC 42001の「A.6 ライフサイクル」および「A.7 データ」の定めたプロセスに沿って、AISIガイドの評価基準を組み込んだテストを順次実行する5。モデルのトレーニングやファインチューニングの過程ではデータ品質やバイアスの有無を検証し、システム構築後には自動評価ツールによるベンチマーク測定や敵対的攻撃を模した「レッドチーミング」を実施する5。特に、AISIが提供するレッドチーミング手法ガイドや評価データセットを導入することで、開発チームは予期せぬ入力（プロンプトインジェクション等）に対するシステムの防御能力を定量的かつ客観的に計測・補強することができる11。

評価段階（Check）：モニタリングと透明性の担保

本番環境へのデプロイ前および運用中において、組織はISO/IEC 42001の「A.8 利害関係者のための情報」および「A.9 システムの使用」に基づき、システムのパフォーマンスと安全性を定常的に評価する3。AISIガイドの観点に基づいて取得された評価スコアやレッドチーミングのログは、システムの透明性を実証する客観的エビデンスとして保管される5。これにより、内部監査部門や外部の第三者認証機関に対してAIMSの有効性を説明できるだけでなく、エンドユーザーに対してAIシステムの限界や安全性の取り組みに関する明瞭な情報提供が可能となる1。

改善段階（Act）：フィードバックと動的ガバナンスの維持

AIモデルの経年劣化（ドリフト現象）や、新たな攻撃手法・未知の脅威が発見された場合、組織はAIMSの改善メカニズムを起動する7。AISIガイドの最新改訂内容（例えばAIエージェントの観測と制御など）を取り込み、テストケースや評価指標をタイムリーに改訂する3。このループを継続的に回すことにより、技術の進展に後れを取ることのない「動的（Dynamic）AIガバナンス」が組織内に定着する4。

4. ISO/IEC 42001 Annex A 管理策に対応する具体的評価基準

ISO/IEC 42001の附属書A（Annex A）の主要な管理策カテゴリと、AISIの「AIセーフティに関する評価観点ガイド」における評価観点、および組織が採用すべき具体的評価基準（技術的・マネジメント的基準）の対照関係を以下の表に示す3。

Annex A 管理策とAIセーフティ評価基準の対照

ISO/IEC 42001 Annex A 管理策カテゴリ	対応するAISI評価観点	具体的評価基準・評価項目例（技術的・マネジメント的検証基準）
A.2 AIに関する方針・A.2.1 AIに関する方針の策定1	・人間中心・透明性・セーフティ原則の適用3	・AIセーフティの6要素（人間中心、安全性、公平性、プライバシー、セキュリティ、透明性）が組織方針に明記されているか3。・AI利用における許容可能なリスク水準および評価実施の義務付けが明文化されているか7。
A.3 内部組織・A.3.1 役割及び責任の割り当て1	・評価実施者及び評価実施時期1	・事業執行責任者および開発・提供管理者の役割・権限が明確化されているか1。・開発ラインから独立した評価担当者またはサードパーティ評価機関による客観的な評価体制が定義されているか3。
A.4 AIシステムのための資源・A.4.2 専門性及び資源の確保1	・評価手法及び評価環境の確保5	・セーフティ評価およびレッドチーミングを実施可能な専門人材が配置されているか7。・評価用ベンチマークセットおよび自動評価ツールの構築・維持リソースが割り当てられているか13。
A.5 AIシステムの影響の評価・A.5.1 影響評価手順・A.5.2 影響評価の実施・A.5.3 評価の記録9	・ハイリスク利用・目的外利用対処・検証可能性・社会的影響評価5	・ステークホルダーの生命、身体、財産、精神、人権への影響が評価され、エビデンスとして記録・保管されているか7。・意図しない誤用（Misuse）や高リスクな目的外利用に対する定性・定量的な分析が行われているか13。
A.6 AIシステムライフサイクル・A.6.1 開発・運用管理・A.6.2 テスト及び検証管理1	・有害情報の出力制御・偽誤情報の出力・誘導防止・ロバスト性・観測と制御（AIエージェント）8	・有害出力抑制: テロ、犯罪、差別的言動等のプロンプトに対する非出力率が規定閾値を満たしているか7。・偽誤情報抑制: ファクトチェックベンチマークにおける出力正確性スコアおよび事実との整合性が検証されているか6。・強靭性（ロバスト性）: ジェイルブレイクやプロンプトインジェクションに対する防護成功率3。・自律挙動制御: AIエージェントの目標からの離脱検知、および人間による介入・緊急停止（Human-in-the-loop）が正常機能するか8。
A.7 AIシステムのためのデータ・A.7.1 収集と前処理・A.7.2 データ品質及び学習管理1	・データ品質・プライバシー保護・公平性と包摂性13	・公平性・バイアス: 性別、人種、年齢等の属性に対する不当な差別の有無が統計的指標で計測されているか13。・プライバシー: 学習・評価データ内の個人識別情報（PII）のサニタイズ率および漏洩リスクの評価7。・データ品質: データの欠損率、重複率、ノイズ率、および代表性が定量的に記録されているか5。
A.8 利害関係者のための情報・A.8.1 システムの透明性・A.8.2 ユーザーへの情報提供1	・説明可能性・透明性8	・説明可能性: モデルの判定根拠（特徴量寄与度等）を必要に応じて提示できるメカニズムが存在するか13。・透明性: エンドユーザーに対し、AIシステムである旨の明示、システムの能力限界、出力情報の注意書きが分かりやすく提供されているか13。
A.9 AIシステムの使用・A.9.1 運用のモニタリング・A.9.2 リスク検知1	・強靭性（本番環境）・継続的評価8	・本番環境における入出力データの継続的モニタリングおよびコンセプトドリフトの検知率8。・入力ガードレール（不適切プロンプトの自動遮断）の動作ログおよび異常発生時のアラート検知体制が整備されているか3。
A.10 第三者及び顧客との関係・A.10.1 外部供給者の管理・A.10.2 第三者検証1	・サードパーティ評価・第三者による検証3	・外部調達した基盤モデルやAPIに関し、提供元のセーフティ評価レポートや脆弱性検査結果を確認・監査しているか8。・サードパーティとの契約において、安全性要件および事故発生時の責任分界が明確化されているか1。

評価基準適用の技術的アプローチ

評価基準の実効性を確保するためには、定量的測定を行う技術的評価と、プロセスの妥当性を検証するマネジメント的評価の双方を体系化することが不可欠である13。
技術的評価においては、AISIガイドが提示する具体的な検証項目に沿って自動評価ツール（ベンチマークスクリプト）を実行し、ハルシネーション率や有害出力率などの定量的指標を算定する13。加えて、既成の自動テストをすり抜ける巧妙な攻撃パターンや自律型エージェントの予測不能な振る舞いを洗い出すため、高度なスキルを持つ評価者が人為的に攻撃を試みるレッドチーミングを定期的に組み合わせる3。
一方、マネジメント的評価では、技術的評価で得られた数値データの妥当性、テスト環境の適切性、ならびに基準未達時に実施されるモデル修正やガードレール再設計などの是正処置プロセスが確実に行われているかを記録・確認する12。この両アプローチの統合により、ISO/IEC 42001の第三者審査や内部監査における説得力あるエビデンスが形成される3。

5. 結論および将来の展望

ISO/IEC 42001（AIMS）と「AIセーフティに関する評価観点ガイド」は、相互に補完し合うことでAIガバナンスの実効性を最大化させる関係にある7。ISO/IEC 42001が提供する組織的・体系的なPDCAサイクルの中に、AISIが提示する先端AI技術に即した技術的評価基準を取り込むことによって、組織は形式的なコンプライアンスを超えた真の安全性を確立することができる7。
今後、マルチモーダルモデルのさらなる高機能化や、物理空間と連携したAIロボティクス、自律的判断を下すAIエージェントの普及に伴い、セーフティ評価の難易度と重要性は益々高まっていく2。組織には、確立されたAIMSの管理骨格を維持しつつ、AISIガイドの改訂や国際的な技術標準の進展に合わせてセーフティ評価指標を柔軟かつ動的に更新していく、適応型のガバナンス運用体制が求められる3。

引用文献

AIセーフティに関する評価観点ガイドを公開 | プレスリリース - IPA, https://www.ipa.go.jp/pressrelease/2024/press20240918-2.html

プレス発表 AIセーフティに関する評価観点ガイドを改訂しました | プレスリリース - IPA, https://www.ipa.go.jp/pressrelease/2025/press20250402.html

【解説】「AIセーフティに関する評価観点ガイド（第1.20版）」の概要, https://www.cybersecurity.metro.tokyo.lg.jp/links/764/index.html

ISO/IEC 42001の役割を理解するための包括ガイド - PECB, https://growth.pecb.com/jp-articles/iso-iec-42001%E3%81%AE%E5%BD%B9%E5%89%B2%E3%82%92%E7%90%86%E8%A7%A3%E3%81%99%E3%82%8B%E3%81%9F%E3%82%81%E3%81%AE%E5%8C%85%E6%8B%AC%E3%82%AC%E3%82%A4%E3%83%89/

ISO/IEC 42001の参照も推奨、「AIセーフティに関する評価観点ガイド」を公表 AISI, https://www.newton-consulting.co.jp/itilnavi/flash/202409_08.html

AI セーフティに関する評価観点ガイド（第1.01版）, https://aisi.go.jp/assets/pdf/ai_safety_eval_v1.01_ja.pdf

AI セーフティに関する評価観点ガイド（第1.10 版）, https://aisi.go.jp/assets/pdf/ai_safety_eval_v1.10_ja.pdf

AISIとAIセーフティ評価を巡る最新動向 - JUSE, https://www.juse.jp/sqip/symposium/2025/timetable/files/C3-1_happyou.pdf

【解説】ISO/IEC 42001の管理目標と管理策の概要, https://www.cybersecurity.metro.tokyo.lg.jp/links/687/index.html

【詳細解説】AIガバナンスのためのISO/IEC 42001の附属書A, B, C, Dの分析, https://www.cybersecurity.metro.tokyo.lg.jp/security/KnowLedge/657/index.html

AIセーフティ・インスティテュート（AISI）、「AIセーフティに関する評価観点ガイド」を公開, https://current.ndl.go.jp/car/225910

AI セーフティに関するレッドチーミング手法ガイド (第 1.00 版) - IPA, https://www.ipa.go.jp/digital/ai/begoj90000004szb-att/ai_safety_rt_v1.00_ja.pdf

AIセーフティに関するレッドチーミング手法ガイドを公開 | プレスリリース - IPA, https://www.ipa.go.jp/pressrelease/2024/press20240925.html

AIセーフティ・インスティテュート（AISI）, https://aisi.go.jp/

AIセーフティに関する評価観点ガイド(第1.20版), https://aisi.go.jp/assets/pdf/ai_safety_eval_v1.20_ja.pdf