2027年2月試験(新シラバス)対応2026年11月20日時点の法令・公表資料基準情報の正確さへの取り組み

生成AIのリスク予防・AI倫理・ガバナンス

生成AI利用者の基本マインドセット(最終責任は人間)

生成AIは仕事の道具で、出力をどう使うかの判断と責任は使う人にあります。出力は確率的に作られ、検索などで情報を補わない限り学習していない情報には答えられず、ハルシネーションを完全には防げないため、確認が欠かせません。用途と影響度に応じて、慎重に使う・使わないを決めることを押さえると解けます。

要点 8件・基本問題 8問読む → 覚える → 解くまでこのページで完結

生成AI利用者の基本マインドセット(最終責任は人間)の暗記図解。最終責任は人間。AIは道具、使い方を決めるのは人。AIのたとえ:時々大間違いをする新人。ハルシネーション:完全に防ぐ方法はまだ無い。自動化バイアス:承認の根拠を自分で考える。リスクベース:リスクの大きさに対策を合わせる。AIは新人、最後に決めるのは自分!
図で覚える

生成AIは仕事の道具で、出力をどう使うかの判断と責任は使う人にあります。出力は確率的に作られ、検索などで情報を補わない限り学習していない情報には答えられず、ハルシネーションを完全には防げないため、確認が欠かせません。用途と影響度に応じて、慎重に使う・使わないを決めることを押さえると解けます。

このサイトでの学習

学習優先度 A対応する一問一答 14問

最重要ポイント

生成AI利用者の基本マインドセット(最終責任は人間)|発展途上の新人と心得る

IPAは、生成AIを「知識はあっても正誤の判断ができず、時々とんでもない間違いをする発展途上の新人」だと思って使うよう勧めている。期待に反する動作の可能性が常にあるので、使いどころを考え、使うときも注意・確認を怠らない。

この論点の用語

用語集をすべて見る →

01生成AI利用者の基本マインドセット(最終責任は人間)の重要暗記項目

01

生成AI利用者の基本マインドセット(最終責任は人間)|発展途上の新人と心得る

IPAは、生成AIを「知識はあっても正誤の判断ができず、時々とんでもない間違いをする発展途上の新人」だと思って使うよう勧めている。期待に反する動作の可能性が常にあるので、使いどころを考え、使うときも注意・確認を怠らない。

02

生成AI利用者の基本マインドセット(最終責任は人間)|学習外の情報には答えられない

生成AIは学習済みの知識に基づいて回答を組み立てるため、RAGなどで情報を補わない限り、特定の会社の社内規定のような学習外の情報に基づく回答はできず、これがハルシネーションの原因にもなる。RAGは、生成AIが知らない情報を検索して補う仕組みである。

03

生成AI利用者の基本マインドセット(最終責任は人間)|自然な文章でも不正確

個人情報保護委員会は、生成AIサービスの応答結果は確率的な相関関係に基づいて生成されるため、自然な文章であっても不正確な内容が含まれるリスクがあるとしている。

ひっかけ注意「個人情報保護委員会は、生成AIサービスの応答は自然な文章で出力されるため、不正確な内容が含まれるおそれはないと説明している」は誤り。 個人情報保護委員会の注意喚起(令和5年6月2日)は、自然な文章でも不正確な内容が含まれるリスクがあるとしている。生成AIは事実を調べて書くのではなく、言葉のつながりの確率(確率的な相関関係)から文章を作るためである。たとえば、取引先の社長の経歴を尋ねると、ありがちな経歴をそれらしく組み合わせた文章が返ってくることがある。文章が滑らかでも、中身が正しい保証にはならない。

04

生成AI利用者の基本マインドセット(最終責任は人間)|ハルシネーションは防ぎきれない

IPA「AI利用者のためのセキュリティ豆知識」(2025年12月版)は、生成AIが出鱈目を答えるハルシネーションについて、完全に防ぐ方法はまだ分かっていないとしている。

ひっかけ注意「IPAの「AI利用者のためのセキュリティ豆知識」(2025年12月版)は、生成AIが出鱈目を答えるハルシネーションについて、完全に防ぐ方法がすでに確立しているとしている」は誤り。 IPAの資料(2025年12月版)は、ハルシネーションを完全に防ぐ方法は「まだ分かっていません」としている。ハルシネーションとは、生成AIが事実と違う内容をもっともらしく答えること。たとえば、存在しない社内規程の条番号をそれらしく挙げることがある。防ぎきれない以上、出力を鵜呑みにせず、大事な内容ほど確かめることが前提になる。

05

生成AI利用者の基本マインドセット(最終責任は人間)|自動化バイアスへの対策

AI事業者ガイドラインは、自動化されたシステムへの過度の信頼や依存(自動化バイアス)に注意を払うよう求め、対策として、AIの評価や判断を人間が承認する際には、承認する理由や根拠を人間自身が独自に考えてから承認すべきこと等が提案されているとしている。

06

生成AI利用者の基本マインドセット(最終責任は人間)|責任は使う人にある

文化庁「AIと著作権に関する考え方について」は、人がAIを高度な道具として補助的に用いることを原則とし、AIを道具として用いた行為の責任は、AIを道具として用いる人に帰属することを前提としている。

ひっかけ注意「文化庁「AIと著作権に関する考え方について」は、AIを道具として用いた行為の責任は、そのAIを開発した事業者に帰属することを前提としている」は誤り。 文化庁の考え方が前提にしているのは、責任が「AIを道具として用いる人」に帰属することである。人がAIを高度な道具として補助的に使うのが原則とされている。たとえば、電卓で計算した見積書が間違っていたら、見積書を出した人が責任を持つのと同じ考え方である。生成AIで作った文書を社外に出すなら、中身の責任は出した人と会社にある。

07

生成AI利用者の基本マインドセット(最終責任は人間)|出力による判断も説明責任

デジタル庁のガイドラインは、生成AIの出力結果に基づいて行われた判断も説明責任の対象に含まれることに留意し、利用者自身がAI生成物について説明できることを確かめた上で業務に使うよう求めている。

08

生成AI利用者の基本マインドセット(最終責任は人間)|人の判断を経ない使い方

デジタル庁のガイドラインは、生成物の誤りが重大な影響を及ぼしうる業務での利用や、出力結果の適切さを職員が判断せずにそのまま利用する業務設計を、リスクが高くなる要素としている。

ひっかけ注意「デジタル庁のガイドラインでは、生成AIの出力結果を職員が判断せずにそのまま利用する業務設計は、職員が判断してから利用する場合よりもリスクが低いと考えられている」は誤り。 デジタル庁のガイドラインは、職員が判断せずにそのまま使う業務設計を「リスクが高くなる」要素としている。生成AIの出力は必ずしも正しくないからである。リスクを高める要素には、誤りが国民の権利や安全に大きく影響する業務での利用や、外部の人が直接使うサービスもある。たとえば、社内の議事録の下書きを人が直して使うより、顧客への回答をAIがそのまま送るほうがリスクは高い。

生成AIのリスク予防・AI倫理・ガバナンスの暗記表をすべて見る →

覚える数字と、狙われる引っかけ

  • ひっかけ「個人情報保護委員会は、生成AIサービスの応答は自然な文章で出力されるため、不正確な内容が含まれるおそれはないと説明している」は誤り。個人情報保護委員会の注意喚起(令和5年6月2日)は、自然な文章でも不正確な内容が含まれるリスクがあるとしている。生成AIは事実を調べて書くのではなく、言葉のつながりの確率(確率的な相関関係)から文章を作るためである。たとえば、取引先の社長の経歴を尋ねると、ありがちな経歴をそれらしく組み合わせた文章が返ってくることがある。文章が滑らかでも、中身が正しい保証にはならない。
  • ひっかけ「IPAの「AI利用者のためのセキュリティ豆知識」(2025年12月版)は、生成AIが出鱈目を答えるハルシネーションについて、完全に防ぐ方法がすでに確立しているとしている」は誤り。IPAの資料(2025年12月版)は、ハルシネーションを完全に防ぐ方法は「まだ分かっていません」としている。ハルシネーションとは、生成AIが事実と違う内容をもっともらしく答えること。たとえば、存在しない社内規程の条番号をそれらしく挙げることがある。防ぎきれない以上、出力を鵜呑みにせず、大事な内容ほど確かめることが前提になる。
  • ひっかけ「文化庁「AIと著作権に関する考え方について」は、AIを道具として用いた行為の責任は、そのAIを開発した事業者に帰属することを前提としている」は誤り。文化庁の考え方が前提にしているのは、責任が「AIを道具として用いる人」に帰属することである。人がAIを高度な道具として補助的に使うのが原則とされている。たとえば、電卓で計算した見積書が間違っていたら、見積書を出した人が責任を持つのと同じ考え方である。生成AIで作った文書を社外に出すなら、中身の責任は出した人と会社にある。
  • ひっかけ「デジタル庁のガイドラインでは、生成AIの出力結果を職員が判断せずにそのまま利用する業務設計は、職員が判断してから利用する場合よりもリスクが低いと考えられている」は誤り。デジタル庁のガイドラインは、職員が判断せずにそのまま使う業務設計を「リスクが高くなる」要素としている。生成AIの出力は必ずしも正しくないからである。リスクを高める要素には、誤りが国民の権利や安全に大きく影響する業務での利用や、外部の人が直接使うサービスもある。たとえば、社内の議事録の下書きを人が直して使うより、顧客への回答をAIがそのまま送るほうがリスクは高い。
  • ひっかけ「デジタル庁のガイドラインでは、生成AIの出力結果を業務に使ってよいか判断に迷う場合は、そのまま利活用して後で問題があれば修正することとしている」は誤り。デジタル庁のガイドラインは、出力を業務に使って問題ないかを利用者が判断し、「判断に迷う場合は利活用しないこととする」例を示している。使わないことも大事な判断の一つである。たとえば、AIが作った法律の解説文が正しいか自分では確かめられないなら、社内報に載せるのをやめ、担当部署に確認を頼む。後で直せばよいと出してしまうと、誤りが先に広がる。
  • ひっかけ「AI事業者ガイドラインは、リスクの大小にかかわらず、すべての利用場面で同じように最大限の対策を講じることを求めている」は誤り。AI事業者ガイドラインは、リスクの大きさ(危害の大きさとその起こりやすさ)に対策の程度を合わせる「リスクベースアプローチ」を重要としている。過度な対策は、AIの活用やその便益を妨げるおそれがあるからである。たとえば、社内メールの言い回しの手直しと、顧客の契約内容の判断に、同じ厳しさの承認手続を課すと、便利さを失うだけになりかねない。AIを使わないことにもリスクがある。
  • ひっかけ「AI事業者ガイドラインの別添は、生成AIが作成したレポートをそのまま使うことで、学生の批判的思考が自然に育つと評価している」は誤り。AI事業者ガイドラインの別添は、生成AIのレポートをそのまま使うと、情報を探す・問いを立てる・根拠を確かめる過程が省かれ、批判的思考(うのみにせず、根拠を確かめて考えること)の発展が妨げられるリスクを挙げている。たとえば、企画書の市場分析をAIの出力の写しで済ませ続けると、数字の出どころを疑う力が育たない。AIの答えは材料にして、自分で問い直す。

02試験で正誤を分けるチェック順

  1. 1
    IPAは、生成AIを「知識はあっても正誤の判断ができず、時々とんでもない間違いをする発展途上の新人」だと思って使うよう勧めている。期待に反する動作の可能性が常にあるので、使いどころを考え、使うときも注意・確認を怠らない。

    問題文の限定語を先に拾い、上の暗記項目と照合してから結論を出します。

  2. 2
    生成AIは学習済みの知識に基づいて回答を組み立てるため、RAGなどで情報を補わない限り、特定の会社の社内規定のような学習外の情報に基づく回答はできず、これがハルシネーションの原因にもなる。RAGは、生成AIが知らない情報を検索して補う仕組みである。

    問題文の限定語を先に拾い、上の暗記項目と照合してから結論を出します。

  3. 3
    個人情報保護委員会は、生成AIサービスの応答結果は確率的な相関関係に基づいて生成されるため、自然な文章であっても不正確な内容が含まれるリスクがあるとしている。

    問題文の限定語を先に拾い、上の暗記項目と照合してから結論を出します。

  4. 4
    IPA「AI利用者のためのセキュリティ豆知識」(2025年12月版)は、生成AIが出鱈目を答えるハルシネーションについて、完全に防ぐ方法はまだ分かっていないとしている。

    問題文の限定語を先に拾い、上の暗記項目と照合してから結論を出します。

  5. 5
    AI事業者ガイドラインは、自動化されたシステムへの過度の信頼や依存(自動化バイアス)に注意を払うよう求め、対策として、AIの評価や判断を人間が承認する際には、承認する理由や根拠を人間自身が独自に考えてから承認すべきこと等が提案されているとしている。

    問題文の限定語を先に拾い、上の暗記項目と照合してから結論を出します。

  6. 6
    文化庁「AIと著作権に関する考え方について」は、人がAIを高度な道具として補助的に用いることを原則とし、AIを道具として用いた行為の責任は、AIを道具として用いる人に帰属することを前提としている。

    問題文の限定語を先に拾い、上の暗記項目と照合してから結論を出します。

  7. 7
    デジタル庁のガイドラインは、生成AIの出力結果に基づいて行われた判断も説明責任の対象に含まれることに留意し、利用者自身がAI生成物について説明できることを確かめた上で業務に使うよう求めている。

    問題文の限定語を先に拾い、上の暗記項目と照合してから結論を出します。

  8. 8
    デジタル庁のガイドラインは、生成物の誤りが重大な影響を及ぼしうる業務での利用や、出力結果の適切さを職員が判断せずにそのまま利用する業務設計を、リスクが高くなる要素としている。

    問題文の限定語を先に拾い、上の暗記項目と照合してから結論を出します。

  9. 9
    デジタル庁のガイドラインのリスク判定の例では、相手のメール内容に応じた返信メールを作成し、職員等の確認を経ずに自動的に返信するものは高リスクとされている。

    問題文の限定語を先に拾い、上の暗記項目と照合してから結論を出します。

  10. 10
    デジタル庁のガイドラインは、責任を持って出力結果の業務への利用判断を行う例として、判断に迷う場合は利活用しないこととする、を示している。

    問題文の限定語を先に拾い、上の暗記項目と照合してから結論を出します。

  11. 11
    AI事業者ガイドラインは、過度な対策もAIの活用やその便益を阻害しうるとして、リスクの大きさ(危害の大きさとその蓋然性)に対策の程度を対応させる「リスクベースアプローチ」を重要としている。

    問題文の限定語を先に拾い、上の暗記項目と照合してから結論を出します。

  12. 12
    AI事業者ガイドラインの別添は、挙げたリスクの存在を理由として直ちにAIの開発・提供・利用を妨げるものではなく、リスクの許容性と便益とのバランスを検討した上で、積極的にAIを活用することが期待されるとしている。

    問題文の限定語を先に拾い、上の暗記項目と照合してから結論を出します。

  13. 13
    AI事業者ガイドラインの基本理念は、人間がAIに過度に依存したり、人間の行動をコントロールすることにAIが利用されたりする社会ではなく、人間がAIを道具として使いこなし、人間の様々な能力をさらに発揮できる「人間の尊厳が尊重される社会」を掲げている。

    問題文の限定語を先に拾い、上の暗記項目と照合してから結論を出します。

  14. 14
    AI事業者ガイドラインの別添は、生成AIが作成した答案やレポートをそのまま用いると、情報を探索し、問いを立て、根拠を検討する過程が省かれ、批判的思考の発展が妨げられるリスクが懸念されているとしている。

    問題文の限定語を先に拾い、上の暗記項目と照合してから結論を出します。

03この論点の根拠

内容の基準日
2026-11-20
復習方法
要点を確認した後、○×一問一答で条件の違いを見分ける

法改正により扱いが変わる場合があります。試験日程や申込みに関する情報は、 必ず公式案内も確認してください。

問題演習

生成AI利用者の基本マインドセット(最終責任は人間)の○×一問一答

1/8問解答 0・正解 0

生成AIのリスク予防・AI倫理・ガバナンス

生成AI利用者の基本マインドセット(最終責任は人間)|発展途上の新人と心得る

IPAは、生成AIを「知識はあっても正誤の判断ができず、時々とんでもない間違いをする発展途上の新人」だと思って使うよう勧めている。

生成AI利用者の基本マインドセット(最終責任は人間)の○×一問一答14問|問題と解説

この論点で収録している14問を、正誤と解説つきで通して読めます。 上の演習で迷った問題を見直すときに使ってください。

  1. 問1

    生成AI利用者の基本マインドセット(最終責任は人間)|発展途上の新人と心得る

    IPAは、生成AIを「知識はあっても正誤の判断ができず、時々とんでもない間違いをする発展途上の新人」だと思って使うよう勧めている。

    答え:○(正しい)

    解説

    正しい。IPA「AI利用者のためのセキュリティ豆知識」のたとえで、知識は多いが、正しいかどうかを自分では判断できないという生成AIの性質を表している。たとえば、新人が作った取引先向けの資料を、上司が確かめずにそのまま送ることはしない。生成AIの出力も同じで、使いどころを考え、使うたびに注意と確認をするのが基本の姿勢になる。 要点:IPAは、生成AIを「知識はあっても正誤の判断ができず、時々とんでもない間違いをする発展途上の新人」だと思って使うよう勧めている。期待に反する動作の可能性が常にあるので、使いどころを考え、使うときも注意・確認を怠らない。

  2. 問2

    生成AI利用者の基本マインドセット(最終責任は人間)|学習外の情報には答えられない

    生成AIが学習済みの知識だけで回答を組み立てる場合、自社の社内規定のような学習していない情報に基づく回答はできず、その不足がハルシネーションの原因にもなる。

    答え:○(正しい)

    解説

    正しい。IPAの資料のとおり。生成AIは、あらかじめ学習した知識から答えを組み立てるので、自社だけの決まりは知らない。たとえば『うちの会社の出張旅費の上限は?』と聞くと、知らないのにもっともらしい金額を答えることがある。RAG(検索拡張生成。答える前に社内文書などを探して読み込む仕組み)は、社内の規程集を開いて確かめてから答える新人のように、この不足を補う。 要点:生成AIは学習済みの知識に基づいて回答を組み立てるため、RAGなどで情報を補わない限り、特定の会社の社内規定のような学習外の情報に基づく回答はできず、これがハルシネーションの原因にもなる。RAGは、生成AIが知らない情報を検索して補う仕組みである。

  3. 問3

    生成AI利用者の基本マインドセット(最終責任は人間)|自然な文章でも不正確

    個人情報保護委員会は、生成AIサービスの応答は自然な文章で出力されるため、不正確な内容が含まれるおそれはないと説明している。

    答え:×(誤り)

    解説

    誤り。個人情報保護委員会の注意喚起(令和5年6月2日)は、自然な文章でも不正確な内容が含まれるリスクがあるとしている。生成AIは事実を調べて書くのではなく、言葉のつながりの確率(確率的な相関関係)から文章を作るためである。たとえば、取引先の社長の経歴を尋ねると、ありがちな経歴をそれらしく組み合わせた文章が返ってくることがある。文章が滑らかでも、中身が正しい保証にはならない。 要点:個人情報保護委員会は、生成AIサービスの応答結果は確率的な相関関係に基づいて生成されるため、自然な文章であっても不正確な内容が含まれるリスクがあるとしている。

  4. 問4

    生成AI利用者の基本マインドセット(最終責任は人間)|ハルシネーションは防ぎきれない

    IPAの「AI利用者のためのセキュリティ豆知識」(2025年12月版)は、生成AIが出鱈目を答えるハルシネーションについて、完全に防ぐ方法がすでに確立しているとしている。

    答え:×(誤り)

    解説

    誤り。IPAの資料(2025年12月版)は、ハルシネーションを完全に防ぐ方法は「まだ分かっていません」としている。ハルシネーションとは、生成AIが事実と違う内容をもっともらしく答えること。たとえば、存在しない社内規程の条番号をそれらしく挙げることがある。防ぎきれない以上、出力を鵜呑みにせず、大事な内容ほど確かめることが前提になる。 要点:IPA「AI利用者のためのセキュリティ豆知識」(2025年12月版)は、生成AIが出鱈目を答えるハルシネーションについて、完全に防ぐ方法はまだ分かっていないとしている。

  5. 問5

    生成AI利用者の基本マインドセット(最終責任は人間)|自動化バイアスへの対策

    自動化バイアスへの対策として、AIの判断を人が承認するときは、承認する理由や根拠を人が自分で考えてから承認することが挙げられている。

    答え:○(正しい)

    解説

    正しい。AI事業者ガイドライン(第1.2版)は、自動化バイアスを「自動化されたシステムや技術への過度の信頼や依存」とし、承認の前に理由や根拠を自分で考える対策を紹介している。たとえば、AIが出した『この請求書は問題なし』という判定に、中身を見ずに承認印を押してしまうのが自動化バイアスである。承認する前に『なぜ問題ないと言えるか』を自分の言葉で説明できるかを確かめる。 要点:AI事業者ガイドラインは、自動化されたシステムへの過度の信頼や依存(自動化バイアス)に注意を払うよう求め、対策として、AIの評価や判断を人間が承認する際には、承認する理由や根拠を人間自身が独自に考えてから承認すべきこと等が提案されているとしている。

  6. 問6

    生成AI利用者の基本マインドセット(最終責任は人間)|責任は使う人にある

    文化庁「AIと著作権に関する考え方について」は、AIを道具として用いた行為の責任は、そのAIを開発した事業者に帰属することを前提としている。

    答え:×(誤り)

    解説

    誤り。文化庁の考え方が前提にしているのは、責任が「AIを道具として用いる人」に帰属することである。人がAIを高度な道具として補助的に使うのが原則とされている。たとえば、電卓で計算した見積書が間違っていたら、見積書を出した人が責任を持つのと同じ考え方である。生成AIで作った文書を社外に出すなら、中身の責任は出した人と会社にある。 要点:文化庁「AIと著作権に関する考え方について」は、人がAIを高度な道具として補助的に用いることを原則とし、AIを道具として用いた行為の責任は、AIを道具として用いる人に帰属することを前提としている。

  7. 問7

    生成AI利用者の基本マインドセット(最終責任は人間)|出力による判断も説明責任

    生成AIの出力をもとに業務上の判断をした場合でも、その判断は説明責任の対象に含まれるため、利用者が自分で説明できることを確かめてから使う必要がある。

    答え:○(正しい)

    解説

    正しい。デジタル庁のガイドラインの利活用ルールのとおり。説明責任とは、判断の理由を周りの人に説明できるようにしておく責任のこと。たとえば、AIの要約を見て取引先との契約更新を見送ったなら、『AIがそう言ったから』では説明にならない。要約の根拠になった資料を自分で確かめ、自分の言葉で理由を言える状態にしてから使う。 要点:デジタル庁のガイドラインは、生成AIの出力結果に基づいて行われた判断も説明責任の対象に含まれることに留意し、利用者自身がAI生成物について説明できることを確かめた上で業務に使うよう求めている。

  8. 問8

    生成AI利用者の基本マインドセット(最終責任は人間)|人の判断を経ない使い方

    デジタル庁のガイドラインでは、生成AIの出力結果を職員が判断せずにそのまま利用する業務設計は、職員が判断してから利用する場合よりもリスクが低いと考えられている。

    答え:×(誤り)

    解説

    誤り。デジタル庁のガイドラインは、職員が判断せずにそのまま使う業務設計を「リスクが高くなる」要素としている。生成AIの出力は必ずしも正しくないからである。リスクを高める要素には、誤りが国民の権利や安全に大きく影響する業務での利用や、外部の人が直接使うサービスもある。たとえば、社内の議事録の下書きを人が直して使うより、顧客への回答をAIがそのまま送るほうがリスクは高い。 要点:デジタル庁のガイドラインは、生成物の誤りが重大な影響を及ぼしうる業務での利用や、出力結果の適切さを職員が判断せずにそのまま利用する業務設計を、リスクが高くなる要素としている。

  9. 問9

    生成AI利用者の基本マインドセット(最終責任は人間)|自動返信は高リスク

    相手のメール内容に応じた返信メールを生成AIで作成し、人の確認を経ずに自動で返信する使い方は、デジタル庁のガイドラインのリスク判定の例で高リスクとされている。

    答え:○(正しい)

    解説

    正しい。デジタル庁のガイドラインのリスク判定の例のとおり。影響が大きい業務ではなく、使うのが組織の中の人だけでも、出力の適切さを人が判断しないまま外に出ることで高リスクと判定されている。たとえば、問い合わせメールにAIが自動で返事をして誤った料金を案内すれば、そのまま相手に届いてしまう。送る前に人が読む手順を入れるかどうかで、リスクの評価が変わる。 要点:デジタル庁のガイドラインのリスク判定の例では、相手のメール内容に応じた返信メールを作成し、職員等の確認を経ずに自動的に返信するものは高リスクとされている。

  10. 問10

    生成AI利用者の基本マインドセット(最終責任は人間)|迷ったら使わない

    デジタル庁のガイドラインでは、生成AIの出力結果を業務に使ってよいか判断に迷う場合は、そのまま利活用して後で問題があれば修正することとしている。

    答え:×(誤り)

    解説

    誤り。デジタル庁のガイドラインは、出力を業務に使って問題ないかを利用者が判断し、「判断に迷う場合は利活用しないこととする」例を示している。使わないことも大事な判断の一つである。たとえば、AIが作った法律の解説文が正しいか自分では確かめられないなら、社内報に載せるのをやめ、担当部署に確認を頼む。後で直せばよいと出してしまうと、誤りが先に広がる。 要点:デジタル庁のガイドラインは、責任を持って出力結果の業務への利用判断を行う例として、判断に迷う場合は利活用しないこととする、を示している。

  11. 問11

    生成AI利用者の基本マインドセット(最終責任は人間)|対策もリスクに見合う程度に

    AI事業者ガイドラインは、リスクの大小にかかわらず、すべての利用場面で同じように最大限の対策を講じることを求めている。

    答え:×(誤り)

    解説

    誤り。AI事業者ガイドラインは、リスクの大きさ(危害の大きさとその起こりやすさ)に対策の程度を合わせる「リスクベースアプローチ」を重要としている。過度な対策は、AIの活用やその便益を妨げるおそれがあるからである。たとえば、社内メールの言い回しの手直しと、顧客の契約内容の判断に、同じ厳しさの承認手続を課すと、便利さを失うだけになりかねない。AIを使わないことにもリスクがある。 要点:AI事業者ガイドラインは、過度な対策もAIの活用やその便益を阻害しうるとして、リスクの大きさ(危害の大きさとその蓋然性)に対策の程度を対応させる「リスクベースアプローチ」を重要としている。

  12. 問12

    生成AI利用者の基本マインドセット(最終責任は人間)|リスクを理由に直ちに止めない

    AI事業者ガイドラインの別添は、AIのリスクの存在を理由として直ちにAIの利用を妨げるものではなく、リスクの許容性と便益とのバランスを検討した上で積極的に活用することが期待されるとしている。

    答え:○(正しい)

    解説

    正しい。AI事業者ガイドライン(第1.2版)の別添のとおり。リスクを知ったうえで、受け入れられる程度か、得られる便益と比べてどうかを考え、積極的に使うことが期待されている。たとえば、ハルシネーションがあるから全面禁止にするのではなく、『社外に出す文書は必ず人が確認する』と決めて使い続けるのがこの考え方である。競争力の強化や価値の創出につながるとされている。 要点:AI事業者ガイドラインの別添は、挙げたリスクの存在を理由として直ちにAIの開発・提供・利用を妨げるものではなく、リスクの許容性と便益とのバランスを検討した上で、積極的にAIを活用することが期待されるとしている。

  13. 問13

    生成AI利用者の基本マインドセット(最終責任は人間)|道具として使いこなす

    AI事業者ガイドラインは、人間がAIに過度に依存したりAIに行動をコントロールされたりする社会ではなく、人間がAIを道具として使いこなして能力を発揮できる社会を基本理念の一つとしている。

    答え:○(正しい)

    解説

    正しい。AI事業者ガイドラインの基本理念「人間の尊厳が尊重される社会(Dignity)」のとおり。AIに任せきりにするのではなく、人が道具として使いこなし、より大きな創造性を発揮したり、やりがいのある仕事に取り組んだりする社会を目指している。たとえば、会議の議事録の下書きはAIに任せ、人は決まったことを次にどう進めるかを考える。これがAI時代に人に求められる役割のイメージである。 要点:AI事業者ガイドラインの基本理念は、人間がAIに過度に依存したり、人間の行動をコントロールすることにAIが利用されたりする社会ではなく、人間がAIを道具として使いこなし、人間の様々な能力をさらに発揮できる「人間の尊厳が尊重される社会」を掲げている。

  14. 問14

    生成AI利用者の基本マインドセット(最終責任は人間)|批判的思考が育たない懸念

    AI事業者ガイドラインの別添は、生成AIが作成したレポートをそのまま使うことで、学生の批判的思考が自然に育つと評価している。

    答え:×(誤り)

    解説

    誤り。AI事業者ガイドラインの別添は、生成AIのレポートをそのまま使うと、情報を探す・問いを立てる・根拠を確かめる過程が省かれ、批判的思考(うのみにせず、根拠を確かめて考えること)の発展が妨げられるリスクを挙げている。たとえば、企画書の市場分析をAIの出力の写しで済ませ続けると、数字の出どころを疑う力が育たない。AIの答えは材料にして、自分で問い直す。 要点:AI事業者ガイドラインの別添は、生成AIが作成した答案やレポートをそのまま用いると、情報を探索し、問いを立て、根拠を検討する過程が省かれ、批判的思考の発展が妨げられるリスクが懸念されているとしている。

次の学習

生成AI利用者の基本マインドセット(最終責任は人間)の問題を続けて解く

この論点に対応する14問を絞り込んで出題します。

○×一問一答へ