生成AIのリスク予防・AI倫理・ガバナンス
AI出力の評価と検証(検証レベル・ファクトチェック・採否の判断)
承認されたAIでも出力は必ずしも正しくなく、リスクはゼロにならないため、用途と影響度に応じた深さで確認します。事実・数値・出典・最新性(ファクトチェック)、入力した前提、差別的な表現・第三者の権利・機密性を確かめ、採用・修正・破棄(迷ったら使わない)・専門家への相談を判断することを押さえると解けます。
要点 8件・基本問題 8問読む → 覚える → 解くまでこのページで完結

承認されたAIでも出力は必ずしも正しくなく、リスクはゼロにならないため、用途と影響度に応じた深さで確認します。事実・数値・出典・最新性(ファクトチェック)、入力した前提、差別的な表現・第三者の権利・機密性を確かめ、採用・修正・破棄(迷ったら使わない)・専門家への相談を判断することを押さえると解けます。
このサイトでの学習
学習優先度 A対応する一問一答 13問
AI出力の評価と検証(検証レベル・ファクトチェック・採否の判断)|リスクはゼロにならない
デジタル庁のガイドラインは、リスクへの対応をすべて行ったとしても、リスクをゼロにすることはできないとの前提に立ち、リスクが顕在化した場合への対応も準備しておく必要があるとしている。
この論点の用語
用語集をすべて見る →01AI出力の評価と検証(検証レベル・ファクトチェック・採否の判断)の重要暗記項目
AI出力の評価と検証(検証レベル・ファクトチェック・採否の判断)|リスクはゼロにならない
デジタル庁のガイドラインは、リスクへの対応をすべて行ったとしても、リスクをゼロにすることはできないとの前提に立ち、リスクが顕在化した場合への対応も準備しておく必要があるとしている。
ひっかけ注意「デジタル庁のガイドラインは、定められたリスク対応をすべて行った生成AIシステムであれば、出力によるリスクはゼロになるという前提に立っている」は誤り。 デジタル庁のガイドラインは、リスクへの対応をすべて行ってもリスクをゼロにすることはできないとの前提で、問題が起きたときの対応も準備しておくよう求めている。たとえば、社内で承認した要約AIを使っていても、重要な数字を読み違える可能性は残る。だからこそ、出力を確認する手順と、誤りが見つかったときの連絡先や直し方を、あらかじめ決めておく。
AI出力の評価と検証(検証レベル・ファクトチェック・採否の判断)|承認されたAIでも確認する
生成AIの出力結果は必ずしも正しいものとは限らないため、組織が承認したAIであっても、利用者が出力を確認してから使う必要がある。
AI出力の評価と検証(検証レベル・ファクトチェック・採否の判断)|確認の深さはリスクに応じて
出力の正確性や根拠・事実関係は、必要な範囲内でリスクに応じて確認する。
ひっかけ注意「デジタル庁のガイドラインは、出力の正確性や根拠の確認は、用途やリスクにかかわらず、すべての出力について同じ深さで行うよう求めている」は誤り。 デジタル庁のガイドラインは「正確性や根拠・事実関係を必要な範囲内でリスクに応じて確認すること」としている。用途と影響度(誤りが起きたときの影響の大きさ)で、確認の深さ(検証レベル)を変える。たとえば、社内のアイデア出しは軽く目を通す程度でよいが、顧客に出す見積書の金額は、元の資料と一つずつ照らし合わせる。
AI出力の評価と検証(検証レベル・ファクトチェック・採否の判断)|出典を参照できるかも見る
デジタル庁のガイドラインは、リスクレベルの判断では、リスク軸を形式的に適用するだけでなく、生成内容の出典が容易に参照可能になっているかなど、具体的な利用の在り方も合わせて総合的に判断することが重要としている。
AI出力の評価と検証(検証レベル・ファクトチェック・採否の判断)|一次情報にあたる
生成AIやSNSの情報は正しいとは限らないため、鵜呑みにせず、情報を拡散・発信する場合は一次情報にあたり、発信者や発信内容のファクトチェック等を行う。
AI出力の評価と検証(検証レベル・ファクトチェック・採否の判断)|入力データの最新性
AI利用者は、正確性・必要な場合には最新性(データが適切であること)等が担保されたデータを入力し、AIの出力について精度及びリスクの程度を理解した上で利用する。
ひっかけ注意「AI事業者ガイドラインは、AI利用者が入力するデータについて、正確性は求めているが、最新性まで考える必要はないとしている」は誤り。 AI事業者ガイドラインは、AI利用者に「正確性・必要な場合には最新性」が担保されたデータを入力するよう求めている。最新性とは、情報が今の状態に合っていること。たとえば、去年の価格表をAIに読ませて見積書を作らせると、計算が正しくても金額は古いままになる。出力を確かめるときも、日付や数値が今の情報に合っているかを見る。
AI出力の評価と検証(検証レベル・ファクトチェック・採否の判断)|入力前に前提を確かめる
正確性が求められる場面では特に、正確かつ最新のデータを入力する。不正確な回答につながるため、生成AIに入力する前に、前提が誤っている等の不正確な情報になっていないかを利用者自身でチェックする。
AI出力の評価と検証(検証レベル・ファクトチェック・採否の判断)|精度とリスクを理解して使う
AI利用者は、AI提供者が想定した範囲内で使うだけでなく、AIの出力について精度及びリスクの程度を理解し、様々なリスク要因を確認した上で利用する。
ひっかけ注意「AI事業者ガイドラインは、AI利用者は、AI提供者が設計で想定した範囲内で使っていれば、出力の精度やリスクの程度を理解しないまま利用してよいとしている」は誤り。 AI事業者ガイドラインの「U-2)i. 安全を考慮した適正利用」は、AI提供者が想定した範囲で使うことに加えて、「AIの出力について精度及びリスクの程度を理解し、様々なリスク要因を確認した上で利用する」としている。たとえば、提供者の説明どおり議事録の要約に使う場合でも、人名や数字を間違えることがあると知ったうえで、そこを重点的に確かめる。
覚える数字と、狙われる引っかけ
- ひっかけ「デジタル庁のガイドラインは、定められたリスク対応をすべて行った生成AIシステムであれば、出力によるリスクはゼロになるという前提に立っている」は誤り。デジタル庁のガイドラインは、リスクへの対応をすべて行ってもリスクをゼロにすることはできないとの前提で、問題が起きたときの対応も準備しておくよう求めている。たとえば、社内で承認した要約AIを使っていても、重要な数字を読み違える可能性は残る。だからこそ、出力を確認する手順と、誤りが見つかったときの連絡先や直し方を、あらかじめ決めておく。
- ひっかけ「デジタル庁のガイドラインは、出力の正確性や根拠の確認は、用途やリスクにかかわらず、すべての出力について同じ深さで行うよう求めている」は誤り。デジタル庁のガイドラインは「正確性や根拠・事実関係を必要な範囲内でリスクに応じて確認すること」としている。用途と影響度(誤りが起きたときの影響の大きさ)で、確認の深さ(検証レベル)を変える。たとえば、社内のアイデア出しは軽く目を通す程度でよいが、顧客に出す見積書の金額は、元の資料と一つずつ照らし合わせる。
- ひっかけ「AI事業者ガイドラインは、AI利用者が入力するデータについて、正確性は求めているが、最新性まで考える必要はないとしている」は誤り。AI事業者ガイドラインは、AI利用者に「正確性・必要な場合には最新性」が担保されたデータを入力するよう求めている。最新性とは、情報が今の状態に合っていること。たとえば、去年の価格表をAIに読ませて見積書を作らせると、計算が正しくても金額は古いままになる。出力を確かめるときも、日付や数値が今の情報に合っているかを見る。
- ひっかけ「AI事業者ガイドラインは、AI利用者は、AI提供者が設計で想定した範囲内で使っていれば、出力の精度やリスクの程度を理解しないまま利用してよいとしている」は誤り。AI事業者ガイドラインの「U-2)i. 安全を考慮した適正利用」は、AI提供者が想定した範囲で使うことに加えて、「AIの出力について精度及びリスクの程度を理解し、様々なリスク要因を確認した上で利用する」としている。たとえば、提供者の説明どおり議事録の要約に使う場合でも、人名や数字を間違えることがあると知ったうえで、そこを重点的に確かめる。
- ひっかけ「デジタル庁のガイドラインは、出力に差別用語などの問題のある表現が含まれていた場合でも、注記を付ければそのまま使ってよいとしている」は誤り。デジタル庁のガイドラインは、問題のある表現は「必ず修正又は削除すること」としている。確かめる観点は、差別用語や倫理に反する表現、第三者の権利侵害、人の生命・身体・財産への悪影響などである。たとえば、AIが作った求人広告に特定の性別や年代だけを歓迎するような偏った表現があれば、注意書きを足すのではなく表現そのものを直す。直せないなら使わない(破棄する)。
- ひっかけ「生成AIの出力結果は新たに生成された文章なので、要機密情報を入力して作らせた場合でも、出力結果の機密性を気にする必要はない」は誤り。デジタル庁のガイドラインは、業務への利用を判断するときに「要機密情報を入力、参照又は学習した場合の出力結果の機密性」に留意するよう求めている。出力は新しい文章でも、入力した情報の中身を含みうるからである。たとえば、社外秘の新製品計画をAIに要約させたら、その要約も社外秘として扱い、社外向けの資料に貼り付けない。
02試験で正誤を分けるチェック順
- 1デジタル庁のガイドラインは、リスクへの対応をすべて行ったとしても、リスクをゼロにすることはできないとの前提に立ち、リスクが顕在化した場合への対応も準備しておく必要があるとしている。
問題文の限定語を先に拾い、上の暗記項目と照合してから結論を出します。
- 2生成AIの出力結果は必ずしも正しいものとは限らないため、組織が承認したAIであっても、利用者が出力を確認してから使う必要がある。
問題文の限定語を先に拾い、上の暗記項目と照合してから結論を出します。
- 3出力の正確性や根拠・事実関係は、必要な範囲内でリスクに応じて確認する。
問題文の限定語を先に拾い、上の暗記項目と照合してから結論を出します。
- 4デジタル庁のガイドラインは、リスクレベルの判断では、リスク軸を形式的に適用するだけでなく、生成内容の出典が容易に参照可能になっているかなど、具体的な利用の在り方も合わせて総合的に判断することが重要としている。
問題文の限定語を先に拾い、上の暗記項目と照合してから結論を出します。
- 5生成AIやSNSの情報は正しいとは限らないため、鵜呑みにせず、情報を拡散・発信する場合は一次情報にあたり、発信者や発信内容のファクトチェック等を行う。
問題文の限定語を先に拾い、上の暗記項目と照合してから結論を出します。
- 6AI利用者は、正確性・必要な場合には最新性(データが適切であること)等が担保されたデータを入力し、AIの出力について精度及びリスクの程度を理解した上で利用する。
問題文の限定語を先に拾い、上の暗記項目と照合してから結論を出します。
- 7正確性が求められる場面では特に、正確かつ最新のデータを入力する。不正確な回答につながるため、生成AIに入力する前に、前提が誤っている等の不正確な情報になっていないかを利用者自身でチェックする。
問題文の限定語を先に拾い、上の暗記項目と照合してから結論を出します。
- 8AI利用者は、AI提供者が想定した範囲内で使うだけでなく、AIの出力について精度及びリスクの程度を理解し、様々なリスク要因を確認した上で利用する。
問題文の限定語を先に拾い、上の暗記項目と照合してから結論を出します。
- 9出力の安全性・公平性・客観性・中立性等に問題がないことを確認し、差別用語や倫理に反する表現、第三者の権利侵害、第三者に危害を及ぼす内容など問題のある表現は、必ず修正又は削除する。
問題文の限定語を先に拾い、上の暗記項目と照合してから結論を出します。
- 10AI生成物を利用する前に、既存の著作物と類似していないかをインターネット検索(文章検索・画像検索)などで確認する。
問題文の限定語を先に拾い、上の暗記項目と照合してから結論を出します。
- 11要機密情報を入力・参照・学習させた生成AIの出力結果には、その機密性が及ぶことに留意して、業務での利用を判断する。
問題文の限定語を先に拾い、上の暗記項目と照合してから結論を出します。
- 12生成AIの出力を業務で使う際は、利用者自身がAI生成物について説明できることを確かめ、必要に応じて言い換えて、自身で説明できる表現に修正してから使う。
問題文の限定語を先に拾い、上の暗記項目と照合してから結論を出します。
- 13トラブルの発生に備えて、専門家や相談窓口を確保しておく。
問題文の限定語を先に拾い、上の暗記項目と照合してから結論を出します。
03この論点の根拠
- 内容の基準日
- 2026-11-20
- 復習方法
- 要点を確認した後、○×一問一答で条件の違いを見分ける
法改正により扱いが変わる場合があります。試験日程や申込みに関する情報は、 必ず公式案内も確認してください。
問題演習
AI出力の評価と検証(検証レベル・ファクトチェック・採否の判断)の○×一問一答
1/8問解答 0・正解 0
生成AIのリスク予防・AI倫理・ガバナンス
AI出力の評価と検証(検証レベル・ファクトチェック・採否の判断)|リスクはゼロにならない
デジタル庁のガイドラインは、定められたリスク対応をすべて行った生成AIシステムであれば、出力によるリスクはゼロになるという前提に立っている。
AI出力の評価と検証(検証レベル・ファクトチェック・採否の判断)の○×一問一答13問|問題と解説
この論点で収録している13問を、正誤と解説つきで通して読めます。 上の演習で迷った問題を見直すときに使ってください。
問1
AI出力の評価と検証(検証レベル・ファクトチェック・採否の判断)|リスクはゼロにならないデジタル庁のガイドラインは、定められたリスク対応をすべて行った生成AIシステムであれば、出力によるリスクはゼロになるという前提に立っている。
答え:×(誤り)
解説
誤り。デジタル庁のガイドラインは、リスクへの対応をすべて行ってもリスクをゼロにすることはできないとの前提で、問題が起きたときの対応も準備しておくよう求めている。たとえば、社内で承認した要約AIを使っていても、重要な数字を読み違える可能性は残る。だからこそ、出力を確認する手順と、誤りが見つかったときの連絡先や直し方を、あらかじめ決めておく。 要点:デジタル庁のガイドラインは、リスクへの対応をすべて行ったとしても、リスクをゼロにすることはできないとの前提に立ち、リスクが顕在化した場合への対応も準備しておく必要があるとしている。
問2
AI出力の評価と検証(検証レベル・ファクトチェック・採否の判断)|承認されたAIでも確認する組織が導入を承認した生成AIであっても、その出力結果は必ずしも正しいとは限らないため、利用者による確認が必要である。
答え:○(正しい)
解説
正しい。デジタル庁のガイドラインは「生成AIの出力結果は必ずしも正しいものとは限らない」としている。ツールの承認は、安全に使える仕組みかを確かめたもので、一つひとつの出力が正しいことまでは保証しない。たとえば、会社が正式に導入した翻訳AIでも、契約書の『〜しなければならない』と『〜できる』を取り違えることはありうる。使う人が中身を確かめる。 要点:生成AIの出力結果は必ずしも正しいものとは限らないため、組織が承認したAIであっても、利用者が出力を確認してから使う必要がある。
問3
AI出力の評価と検証(検証レベル・ファクトチェック・採否の判断)|確認の深さはリスクに応じてデジタル庁のガイドラインは、出力の正確性や根拠の確認は、用途やリスクにかかわらず、すべての出力について同じ深さで行うよう求めている。
答え:×(誤り)
解説
誤り。デジタル庁のガイドラインは「正確性や根拠・事実関係を必要な範囲内でリスクに応じて確認すること」としている。用途と影響度(誤りが起きたときの影響の大きさ)で、確認の深さ(検証レベル)を変える。たとえば、社内のアイデア出しは軽く目を通す程度でよいが、顧客に出す見積書の金額は、元の資料と一つずつ照らし合わせる。 要点:出力の正確性や根拠・事実関係は、必要な範囲内でリスクに応じて確認する。
問4
AI出力の評価と検証(検証レベル・ファクトチェック・採否の判断)|出典を参照できるかも見るデジタル庁のガイドラインは、リスクの判定では表の軸を形式的に当てはめるだけでなく、生成内容の出典を容易に参照できるかなど、具体的な利用の在り方も合わせて総合的に判断することが重要としている。
答え:○(正しい)
解説
正しい。デジタル庁のガイドラインのとおり。リスクの判定では、業務の性格・誰が使うか・人の判断を経るかという軸に加えて、出典をすぐに確かめられるかなど、実際の使い方も合わせて考える。たとえば、回答の下に参照した社内規程のページへのリンクが付くAIなら、利用者がその場で元の文書を確かめられるので、出典が示されないAIより誤りに気付きやすい。 要点:デジタル庁のガイドラインは、リスクレベルの判断では、リスク軸を形式的に適用するだけでなく、生成内容の出典が容易に参照可能になっているかなど、具体的な利用の在り方も合わせて総合的に判断することが重要としている。
問5
AI出力の評価と検証(検証レベル・ファクトチェック・採否の判断)|一次情報にあたる生成AIの出力やSNSで見つけた情報を発信・拡散するときは、一次情報にあたって発信者や内容のファクトチェックを行うことが求められる。
答え:○(正しい)
解説
正しい。IPAの解説書のとおり。一次情報とは、官公庁や会社の公式発表、論文の原文など、情報の出どころそのもののこと。ファクトチェックとは、事実かどうかを確かめることである。たとえば、AIが『〇〇省が来年から新しい補助金を始める』と答えたら、まとめサイトではなく、その省のWebサイトの発表を開いて、日付や金額を確かめてから社内に共有する。 要点:生成AIやSNSの情報は正しいとは限らないため、鵜呑みにせず、情報を拡散・発信する場合は一次情報にあたり、発信者や発信内容のファクトチェック等を行う。
問6
AI出力の評価と検証(検証レベル・ファクトチェック・採否の判断)|入力データの最新性AI事業者ガイドラインは、AI利用者が入力するデータについて、正確性は求めているが、最新性まで考える必要はないとしている。
答え:×(誤り)
解説
誤り。AI事業者ガイドラインは、AI利用者に「正確性・必要な場合には最新性」が担保されたデータを入力するよう求めている。最新性とは、情報が今の状態に合っていること。たとえば、去年の価格表をAIに読ませて見積書を作らせると、計算が正しくても金額は古いままになる。出力を確かめるときも、日付や数値が今の情報に合っているかを見る。 要点:AI利用者は、正確性・必要な場合には最新性(データが適切であること)等が担保されたデータを入力し、AIの出力について精度及びリスクの程度を理解した上で利用する。
問7
AI出力の評価と検証(検証レベル・ファクトチェック・採否の判断)|入力前に前提を確かめる不正確な回答を防ぐため、生成AIに入力する前に、プロンプトに書いた前提が誤っていないかを利用者自身で確認することが求められている。
答え:○(正しい)
解説
正しい。デジタル庁のガイドラインの利活用ルールのとおり。前提が誤っていると、その前提に沿った不正確な回答が返ってくる。たとえば『先月の売上が前年より2割増えた理由を挙げて』と頼むと、実際は減っていても、増えた理由がもっともらしく並ぶことがある。入力の前提を確かめることは、出力の論理や抜け漏れを点検する妥当性レビューの出発点になる。 要点:正確性が求められる場面では特に、正確かつ最新のデータを入力する。不正確な回答につながるため、生成AIに入力する前に、前提が誤っている等の不正確な情報になっていないかを利用者自身でチェックする。
問8
AI出力の評価と検証(検証レベル・ファクトチェック・採否の判断)|精度とリスクを理解して使うAI事業者ガイドラインは、AI利用者は、AI提供者が設計で想定した範囲内で使っていれば、出力の精度やリスクの程度を理解しないまま利用してよいとしている。
答え:×(誤り)
解説
誤り。AI事業者ガイドラインの「U-2)i. 安全を考慮した適正利用」は、AI提供者が想定した範囲で使うことに加えて、「AIの出力について精度及びリスクの程度を理解し、様々なリスク要因を確認した上で利用する」としている。たとえば、提供者の説明どおり議事録の要約に使う場合でも、人名や数字を間違えることがあると知ったうえで、そこを重点的に確かめる。 要点:AI利用者は、AI提供者が想定した範囲内で使うだけでなく、AIの出力について精度及びリスクの程度を理解し、様々なリスク要因を確認した上で利用する。
問9
AI出力の評価と検証(検証レベル・ファクトチェック・採否の判断)|問題のある表現は直すデジタル庁のガイドラインは、出力に差別用語などの問題のある表現が含まれていた場合でも、注記を付ければそのまま使ってよいとしている。
答え:×(誤り)
解説
誤り。デジタル庁のガイドラインは、問題のある表現は「必ず修正又は削除すること」としている。確かめる観点は、差別用語や倫理に反する表現、第三者の権利侵害、人の生命・身体・財産への悪影響などである。たとえば、AIが作った求人広告に特定の性別や年代だけを歓迎するような偏った表現があれば、注意書きを足すのではなく表現そのものを直す。直せないなら使わない(破棄する)。 要点:出力の安全性・公平性・客観性・中立性等に問題がないことを確認し、差別用語や倫理に反する表現、第三者の権利侵害、第三者に危害を及ぼす内容など問題のある表現は、必ず修正又は削除する。
問10
AI出力の評価と検証(検証レベル・ファクトチェック・採否の判断)|既存の作品と似ていないかAI生成物を利用する前に、既存の著作物と類似していないかをインターネット検索などで確かめることは、著作権侵害のリスクを下げる取組みとして挙げられている。
答え:○(正しい)
解説
正しい。文化庁のチェックリスト&ガイダンスのとおり。著作権侵害になるのは、既存の作品と似ていて(類似性)、それをもとにしている(依拠性)場合なので、まず似ていないかを確かめる。たとえば、AIで作ったロゴやイラストを使う前に、画像検索にかけて、よく似た既存の作品が出てこないかを見る。生成に使ったプロンプトを記録しておくと、後で説明しやすい。 要点:AI生成物を利用する前に、既存の著作物と類似していないかをインターネット検索(文章検索・画像検索)などで確認する。
問11
AI出力の評価と検証(検証レベル・ファクトチェック・採否の判断)|出力にも機密性が残る生成AIの出力結果は新たに生成された文章なので、要機密情報を入力して作らせた場合でも、出力結果の機密性を気にする必要はない。
答え:×(誤り)
解説
誤り。デジタル庁のガイドラインは、業務への利用を判断するときに「要機密情報を入力、参照又は学習した場合の出力結果の機密性」に留意するよう求めている。出力は新しい文章でも、入力した情報の中身を含みうるからである。たとえば、社外秘の新製品計画をAIに要約させたら、その要約も社外秘として扱い、社外向けの資料に貼り付けない。 要点:要機密情報を入力・参照・学習させた生成AIの出力結果には、その機密性が及ぶことに留意して、業務での利用を判断する。
問12
AI出力の評価と検証(検証レベル・ファクトチェック・採否の判断)|説明できる形に修正生成AIの出力を業務で使う際は、必要に応じて言い換え、自分で説明できる表現に修正してから使うことが例として示されている。
答え:○(正しい)
解説
正しい。デジタル庁のガイドラインのとおり。出力をそのまま使う(採用)、直して使う(修正)、使わない(破棄)のうち、多くの場面で必要になるのが修正である。たとえば、AIが作った取引先への説明文に、自分では意味を説明できない専門用語が並んでいたら、自分の言葉に言い換えてから送る。質問されても答えられる文章にしておくことが、説明責任を果たすことにつながる。 要点:生成AIの出力を業務で使う際は、利用者自身がAI生成物について説明できることを確かめ、必要に応じて言い換えて、自身で説明できる表現に修正してから使う。
問13
AI出力の評価と検証(検証レベル・ファクトチェック・採否の判断)|専門家や相談窓口を確保IPAは、経営者層の対策として、AIの利用によるトラブルの発生に備えて専門家や相談窓口を確保しておくことを挙げている。
答え:○(正しい)
解説
正しい。IPAの解説書のとおり。法律・医療・契約など専門の判断が要る内容は、AIの出力を自分で確かめきれないことがある。たとえば、AIが作った利用規約の案を公開する前に、顧問弁護士や法務部門に確認してもらう。そうした相談先を前もって決めておけば、問題が起きたときにもすぐに頼れる。専門家への確認は、採否を決める手段の一つである。 要点:トラブルの発生に備えて、専門家や相談窓口を確保しておく。
AI出力の評価と検証(検証レベル・ファクトチェック・採否の判断)の問題を続けて解く
この論点に対応する13問を絞り込んで出題します。