2027年2月試験(新シラバス)対応2026年11月20日時点の法令・公表資料基準情報の正確さへの取り組み

生成AIのリスク予防・AI倫理・ガバナンス

高度なAIシステムのリスク管理と社会への影響

高度なAIシステム(最先端の基盤モデル・生成AIを含む)には、リスクの大きさに対策を合わせるリスクベースアプローチと、広島プロセス国際指針の措置(レッドチーム、電子透かし等)で臨みます。偽情報、フィルターバブルとエコーチェンバー、回答の収束、偏見の再生成、デジタルタトゥー、雇用・格差・環境負荷・過度な依存といった社会への影響を、一次資料の言い方で押さえると解けます。

要点 8件・基本問題 8問読む → 覚える → 解くまでこのページで完結

高度なAIシステムのリスク管理と社会への影響の暗記図解。AIが社会に与える影響。偏りや偽情報が広がるリスクに注意。偽情報:本当らしい偽情報を誰でも作れる。デジタルタトゥー:ネットに出した内容は消しにくい。意見の収束:同じAIで考えの多様性が失われる。偏見の増幅:うのみで差別的な出力が広がる。うのみにせず、確かめてから発信!
図で覚える

高度なAIシステム(最先端の基盤モデル・生成AIを含む)には、リスクの大きさに対策を合わせるリスクベースアプローチと、広島プロセス国際指針の措置(レッドチーム、電子透かし等)で臨みます。偽情報、フィルターバブルとエコーチェンバー、回答の収束、偏見の再生成、デジタルタトゥー、雇用・格差・環境負荷・過度な依存といった社会への影響を、一次資料の言い方で押さえると解けます。

このサイトでの学習

学習優先度 A対応する一問一答 13問

最重要ポイント

高度なAIシステムのリスク管理と社会への影響|高度なAIシステムとは

「高度なAIシステム」とは、最先端の基盤モデル(いろいろな用途に使える大規模なAIモデル)や生成AIシステムを含む、最も高度なAIシステムのことで、AI事業者ガイドラインは広島AIプロセスの定義を引用している。

この論点の用語

用語集をすべて見る →

01高度なAIシステムのリスク管理と社会への影響の重要暗記項目

01

高度なAIシステムのリスク管理と社会への影響|高度なAIシステムとは

「高度なAIシステム」とは、最先端の基盤モデル(いろいろな用途に使える大規模なAIモデル)や生成AIシステムを含む、最も高度なAIシステムのことで、AI事業者ガイドラインは広島AIプロセスの定義を引用している。

02

高度なAIシステムのリスク管理と社会への影響|リスクベースアプローチ

リスクベースアプローチとは、AIの使い方によって起こりうる被害の大きさと起こりやすさ(リスクの大きさ)を見極め、それに見合った強さの対策をとる考え方である。

ひっかけ注意「AI事業者ガイドラインの「リスクベースアプローチ」は、リスクの大きさにかかわらず、すべてのAI利用に同じ水準の対策を講じる考え方である」は誤り。 「リスクの大きさにかかわらず同じ水準」が誤り。AI事業者ガイドラインは、リスクの大きさ(危害の大きさ及びその蓋然性)に対策の程度を対応させる考え方が重要としている。過度な対策はAI活用の便益を妨げうるからである。例:社内の会議メモの要約AIと、病気の診断を助けるAIとでは、誤りが起きたときの被害が違うので、確認の手間や承認の段階を変えるのが合理的である。

03

高度なAIシステムのリスク管理と社会への影響|導入前からのリスク評価

高度なAIシステムを開発する組織向けの広島プロセス国際指針は、レッドチーム(あえて攻撃者の立場でAIの弱点を探すテスト)などの方法を組み合わせ、世に出す前も含めて、AIの一生(ライフサイクル)全体を通じてリスクを見つけ、評価し、減らす措置を求めている。

04

高度なAIシステムのリスク管理と社会への影響|来歴データとユーザー情報

広島プロセス国際指針は、AIが作ったコンテンツを見分けられるよう、電子透かしなどで「誰が・何で作ったか」をたどれる仕組み(来歴)を求める。来歴データには、作ったサービスやモデルの識別子を入れるべきだが、利用者の情報まで入れる必要はない。

ひっかけ注意「広島プロセス国際指針は、AIが生成したコンテンツの来歴データには、コンテンツを作成したユーザーの個人情報を必ず含めるべきとしている」は誤り。 「ユーザーの個人情報を必ず含める」が誤り。原則7は、来歴データにはサービス又はモデルの識別子を含めるべきだが、ユーザー情報を含める必要はないとしている。電子透かしとは、画像などに目に見えにくい印を埋め込む技術である。例:ニュース写真に「この画像は○○社の画像生成AIで作成」と分かる印を入れても、作った個人の名前まで埋め込む必要はない。

05

高度なAIシステムのリスク管理と社会への影響|フィルターバブル

フィルターバブルとは、アルゴリズム(表示を決める仕組み)が一人ひとりの検索やクリックの履歴を学習して、見たい情報ばかりを優先して表示し、考えに合わない情報から切り離されて、泡(バブル)の中に閉じこもったようになる情報環境のことである。

06

高度なAIシステムのリスク管理と社会への影響|エコーチェンバー

自分の見たい情報にばかり囲まれるのが「フィルターバブル」、自分と同じような考えばかりが周りから返ってくるのが「エコーチェンバー」で、どちらも考えが極端になる心配が指摘されている。

ひっかけ注意「自分の見たい情報にだけ囲まれる現象をエコーチェンバー、自分と同じような考えばかりが周囲から返ってくる現象をフィルターバブルという」は誤り。 2つの名前が逆である。AI事業者ガイドラインの別添は、自分の見たい情報にのみ囲まれるのを「フィルターバブル」、同じような考えばかりが返ってくるのを「エコーチェンバー現象」としている。エコーチェンバーは「反響室」の意味で、自分の声がこだまのように返ってくる様子から来ている。例:同じ意見の人ばかりをフォローしたSNSで、自分の意見に賛成の声だけが返ってきて、それが世の中の多数派だと思い込む状態。

07

高度なAIシステムのリスク管理と社会への影響|偽情報への対策

生成AIによって、本当らしく見える偽の情報を誰でも簡単に作れるようになり、偽情報・誤情報・偏った情報が社会を混乱させるリスクが高まっている。このことを認識したうえで、必要な対策をとる。

08

高度なAIシステムのリスク管理と社会への影響|デジタルタトゥー

一度インターネットに出した内容は、完全に消すのが難しい(入れ墨のように残ることから「デジタルタトゥー」という)。真偽が分からない情報や人を攻撃する発言は控え、確かめてから慎重に発信する。

ひっかけ注意「インターネット上に一度発信した内容は、発信者が投稿を削除すれば完全に消去できるため、デジタルタトゥーの心配はない」は誤り。 「完全に消去できる」が誤り。IPA「情報セキュリティ10大脅威 2026」解説書は、一度インターネット上に発信した内容は完全に消去することは難しく、デジタルタトゥーと呼ばれているとしている。例:AIで作った面白半分の合成画像を投稿してすぐ消しても、誰かが保存して再投稿すれば、ずっと残り続ける。感情のままに発信せず、時間をおいてから投稿するのも一つの方法である。

生成AIのリスク予防・AI倫理・ガバナンスの暗記表をすべて見る →

覚える数字と、狙われる引っかけ

  • ひっかけ「AI事業者ガイドラインの「リスクベースアプローチ」は、リスクの大きさにかかわらず、すべてのAI利用に同じ水準の対策を講じる考え方である」は誤り。「リスクの大きさにかかわらず同じ水準」が誤り。AI事業者ガイドラインは、リスクの大きさ(危害の大きさ及びその蓋然性)に対策の程度を対応させる考え方が重要としている。過度な対策はAI活用の便益を妨げうるからである。例:社内の会議メモの要約AIと、病気の診断を助けるAIとでは、誤りが起きたときの被害が違うので、確認の手間や承認の段階を変えるのが合理的である。
  • ひっかけ「広島プロセス国際指針は、AIが生成したコンテンツの来歴データには、コンテンツを作成したユーザーの個人情報を必ず含めるべきとしている」は誤り。「ユーザーの個人情報を必ず含める」が誤り。原則7は、来歴データにはサービス又はモデルの識別子を含めるべきだが、ユーザー情報を含める必要はないとしている。電子透かしとは、画像などに目に見えにくい印を埋め込む技術である。例:ニュース写真に「この画像は○○社の画像生成AIで作成」と分かる印を入れても、作った個人の名前まで埋め込む必要はない。
  • ひっかけ「自分の見たい情報にだけ囲まれる現象をエコーチェンバー、自分と同じような考えばかりが周囲から返ってくる現象をフィルターバブルという」は誤り。2つの名前が逆である。AI事業者ガイドラインの別添は、自分の見たい情報にのみ囲まれるのを「フィルターバブル」、同じような考えばかりが返ってくるのを「エコーチェンバー現象」としている。エコーチェンバーは「反響室」の意味で、自分の声がこだまのように返ってくる様子から来ている。例:同じ意見の人ばかりをフォローしたSNSで、自分の意見に賛成の声だけが返ってきて、それが世の中の多数派だと思い込む状態。
  • ひっかけ「インターネット上に一度発信した内容は、発信者が投稿を削除すれば完全に消去できるため、デジタルタトゥーの心配はない」は誤り。「完全に消去できる」が誤り。IPA「情報セキュリティ10大脅威 2026」解説書は、一度インターネット上に発信した内容は完全に消去することは難しく、デジタルタトゥーと呼ばれているとしている。例:AIで作った面白半分の合成画像を投稿してすぐ消しても、誰かが保存して再投稿すれば、ずっと残り続ける。感情のままに発信せず、時間をおいてから投稿するのも一つの方法である。
  • ひっかけ「生成AIは既存の情報に基づいて回答を作るため、出力を鵜呑みにする状況が続いても、既存の情報に含まれる偏見が増幅されることはない」は誤り。「増幅されることはない」が誤り。AI事業者ガイドラインの別添は「バイアス等の再生成」として、偏見を増幅し、不公平・差別的な出力が継続・拡大する可能性があるとしている。例:男女差別が残る時代の資料をもとにした「理想のリーダー像」をAIに聞き、その答えを研修資料にそのまま使うと、古い偏見が新しい資料として再び広まってしまう。
  • ひっかけ「AI事業者ガイドラインは、計算量の多い生成AIについても、モデルの軽量化や目的に応じたモデルの使い分けは不要としている」は誤り。「不要」が誤り。「1)人間中心」の「⑥持続可能性の確保」は、ライフサイクル全体で地球環境への影響も検討し、特に生成AIなど計算量の多いAIシステムではモデルの軽量化や使い分け等の対策を講じるとしている。大きなAIを動かすデータセンターは多くの電力を使うためである。例:簡単な誤字チェックに最も大きく高性能なモデルを使わず、小さな軽いモデルで済ませるのも、環境負荷を減らす使い分けになる。

02試験で正誤を分けるチェック順

  1. 1
    「高度なAIシステム」とは、最先端の基盤モデル(いろいろな用途に使える大規模なAIモデル)や生成AIシステムを含む、最も高度なAIシステムのことで、AI事業者ガイドラインは広島AIプロセスの定義を引用している。

    問題文の限定語を先に拾い、上の暗記項目と照合してから結論を出します。

  2. 2
    リスクベースアプローチとは、AIの使い方によって起こりうる被害の大きさと起こりやすさ(リスクの大きさ)を見極め、それに見合った強さの対策をとる考え方である。

    問題文の限定語を先に拾い、上の暗記項目と照合してから結論を出します。

  3. 3
    高度なAIシステムを開発する組織向けの広島プロセス国際指針は、レッドチーム(あえて攻撃者の立場でAIの弱点を探すテスト)などの方法を組み合わせ、世に出す前も含めて、AIの一生(ライフサイクル)全体を通じてリスクを見つけ、評価し、減らす措置を求めている。

    問題文の限定語を先に拾い、上の暗記項目と照合してから結論を出します。

  4. 4
    広島プロセス国際指針は、AIが作ったコンテンツを見分けられるよう、電子透かしなどで「誰が・何で作ったか」をたどれる仕組み(来歴)を求める。来歴データには、作ったサービスやモデルの識別子を入れるべきだが、利用者の情報まで入れる必要はない。

    問題文の限定語を先に拾い、上の暗記項目と照合してから結論を出します。

  5. 5
    フィルターバブルとは、アルゴリズム(表示を決める仕組み)が一人ひとりの検索やクリックの履歴を学習して、見たい情報ばかりを優先して表示し、考えに合わない情報から切り離されて、泡(バブル)の中に閉じこもったようになる情報環境のことである。

    問題文の限定語を先に拾い、上の暗記項目と照合してから結論を出します。

  6. 6
    自分の見たい情報にばかり囲まれるのが「フィルターバブル」、自分と同じような考えばかりが周りから返ってくるのが「エコーチェンバー」で、どちらも考えが極端になる心配が指摘されている。

    問題文の限定語を先に拾い、上の暗記項目と照合してから結論を出します。

  7. 7
    生成AIによって、本当らしく見える偽の情報を誰でも簡単に作れるようになり、偽情報・誤情報・偏った情報が社会を混乱させるリスクが高まっている。このことを認識したうえで、必要な対策をとる。

    問題文の限定語を先に拾い、上の暗記項目と照合してから結論を出します。

  8. 8
    一度インターネットに出した内容は、完全に消すのが難しい(入れ墨のように残ることから「デジタルタトゥー」という)。真偽が分からない情報や人を攻撃する発言は控え、確かめてから慎重に発信する。

    問題文の限定語を先に拾い、上の暗記項目と照合してから結論を出します。

  9. 9
    社会全体が同じAIモデルを同じ使い方で使うと、そこから出てくる意見や答えが似通ってしまい(収束し)、考え方の多様性が失われるおそれがある。

    問題文の限定語を先に拾い、上の暗記項目と照合してから結論を出します。

  10. 10
    生成AIは既存の情報をもとに答えを作るので、その答えをうのみにし続けると、もとの情報に含まれていた偏見が増幅され、不公平・差別的な出力が続いたり広がったりするおそれがある。

    問題文の限定語を先に拾い、上の暗記項目と照合してから結論を出します。

  11. 11
    生成AIなどの導入で、働く人の負担を減らしたり生産性を上げたりできると期待される一方、仕事を失う心配や、格差が広がる心配も一部で指摘されている。

    問題文の限定語を先に拾い、上の暗記項目と照合してから結論を出します。

  12. 12
    AIを作る・使うときは、AIの一生(ライフサイクル)を通じて地球環境への影響も考える。特に生成AIのように計算量(コンピューターの処理量)が多いAIでは、モデルを軽くしたり、目的に合わせてモデルを使い分けたりする対策をとる。

    問題文の限定語を先に拾い、上の暗記項目と照合してから結論を出します。

  13. 13
    人工知能基本計画(第Ⅱ期)は、人権や倫理への配慮を欠かさず、AI社会から取り残される人を出さないよう格差や排除を防ぎ、深く考えなくなる(浅慮につながる)AIへの頼りすぎを避けるとしている。

    問題文の限定語を先に拾い、上の暗記項目と照合してから結論を出します。

03この論点の根拠

内容の基準日
2026-11-20
復習方法
要点を確認した後、○×一問一答で条件の違いを見分ける

法改正により扱いが変わる場合があります。試験日程や申込みに関する情報は、 必ず公式案内も確認してください。

問題演習

高度なAIシステムのリスク管理と社会への影響の○×一問一答

1/8問解答 0・正解 0

生成AIのリスク予防・AI倫理・ガバナンス

高度なAIシステムのリスク管理と社会への影響|高度なAIシステムとは

AI事業者ガイドラインは、広島AIプロセスの定義を引用して、「高度なAIシステム」を最先端の基盤モデル及び生成AIシステムを含む最も高度なAIシステムとしている。

高度なAIシステムのリスク管理と社会への影響の○×一問一答13問|問題と解説

この論点で収録している13問を、正誤と解説つきで通して読めます。 上の演習で迷った問題を見直すときに使ってください。

  1. 問1

    高度なAIシステムのリスク管理と社会への影響|高度なAIシステムとは

    AI事業者ガイドラインは、広島AIプロセスの定義を引用して、「高度なAIシステム」を最先端の基盤モデル及び生成AIシステムを含む最も高度なAIシステムとしている。

    答え:○(正しい)

    解説

    正しい。AI事業者ガイドライン(第1.2版)第1部の用語の定義のとおり。広島プロセス国際指針も同じ範囲を「高度なAIシステム」と呼ぶ。基盤モデルとは、大量のデータで学習し、文章作成・要約・翻訳など様々な用途に応用できるAIモデルのことである。例:一般の人も使える最新の対話型AIを支える大規模言語モデルが、典型的な高度なAIシステムにあたる。 要点:「高度なAIシステム」とは、最先端の基盤モデル(いろいろな用途に使える大規模なAIモデル)や生成AIシステムを含む、最も高度なAIシステムのことで、AI事業者ガイドラインは広島AIプロセスの定義を引用している。

  2. 問2

    高度なAIシステムのリスク管理と社会への影響|リスクベースアプローチ

    AI事業者ガイドラインの「リスクベースアプローチ」は、リスクの大きさにかかわらず、すべてのAI利用に同じ水準の対策を講じる考え方である。

    答え:×(誤り)

    解説

    誤り。「リスクの大きさにかかわらず同じ水準」が誤り。AI事業者ガイドラインは、リスクの大きさ(危害の大きさ及びその蓋然性)に対策の程度を対応させる考え方が重要としている。過度な対策はAI活用の便益を妨げうるからである。例:社内の会議メモの要約AIと、病気の診断を助けるAIとでは、誤りが起きたときの被害が違うので、確認の手間や承認の段階を変えるのが合理的である。 要点:リスクベースアプローチとは、AIの使い方によって起こりうる被害の大きさと起こりやすさ(リスクの大きさ)を見極め、それに見合った強さの対策をとる考え方である。

  3. 問3

    高度なAIシステムのリスク管理と社会への影響|導入前からのリスク評価

    広島プロセス国際指針は、レッドチーム等の手法を組み合わせ、導入前・市場投入前も含めてAIライフサイクル全体のリスクを特定・評価・軽減する措置を求めている。

    答え:○(正しい)

    解説

    正しい。高度なAIシステムを開発する組織向けの広島プロセス国際指針の原則1のとおり。世に出した後の弱点や悪用の監視・対処は原則2で求めている。例:新しい車を発売前に衝突試験で確かめ、発売後もリコール情報を集めて対応するのと同じで、AIも出す前の試験と、出した後の見守りの両方が必要になる。 要点:高度なAIシステムを開発する組織向けの広島プロセス国際指針は、レッドチーム(あえて攻撃者の立場でAIの弱点を探すテスト)などの方法を組み合わせ、世に出す前も含めて、AIの一生(ライフサイクル)全体を通じてリスクを見つけ、評価し、減らす措置を求めている。

  4. 問4

    高度なAIシステムのリスク管理と社会への影響|来歴データとユーザー情報

    広島プロセス国際指針は、AIが生成したコンテンツの来歴データには、コンテンツを作成したユーザーの個人情報を必ず含めるべきとしている。

    答え:×(誤り)

    解説

    誤り。「ユーザーの個人情報を必ず含める」が誤り。原則7は、来歴データにはサービス又はモデルの識別子を含めるべきだが、ユーザー情報を含める必要はないとしている。電子透かしとは、画像などに目に見えにくい印を埋め込む技術である。例:ニュース写真に「この画像は○○社の画像生成AIで作成」と分かる印を入れても、作った個人の名前まで埋め込む必要はない。 要点:広島プロセス国際指針は、AIが作ったコンテンツを見分けられるよう、電子透かしなどで「誰が・何で作ったか」をたどれる仕組み(来歴)を求める。来歴データには、作ったサービスやモデルの識別子を入れるべきだが、利用者の情報まで入れる必要はない。

  5. 問5

    高度なAIシステムのリスク管理と社会への影響|フィルターバブル

    フィルターバブルとは、アルゴリズムが利用者の検索履歴やクリック履歴を学習することで見たい情報が優先的に表示され、考えに合わない情報から隔離される情報環境を指す。

    答え:○(正しい)

    解説

    正しい。AI事業者ガイドライン(第1.2版)「1)人間中心」の注にある定義のとおり。例:動画サイトで健康法の動画を何本か見たら、似た主張の動画ばかりがおすすめに並び、反対の意見を目にしなくなる状態。AIによる個人向けのおすすめは便利な一方、こうした偏りを生みうるので、選択肢が知らないうちに狭まらないよう注意する。 要点:フィルターバブルとは、アルゴリズム(表示を決める仕組み)が一人ひとりの検索やクリックの履歴を学習して、見たい情報ばかりを優先して表示し、考えに合わない情報から切り離されて、泡(バブル)の中に閉じこもったようになる情報環境のことである。

  6. 問6

    高度なAIシステムのリスク管理と社会への影響|エコーチェンバー

    自分の見たい情報にだけ囲まれる現象をエコーチェンバー、自分と同じような考えばかりが周囲から返ってくる現象をフィルターバブルという。

    答え:×(誤り)

    解説

    誤り。2つの名前が逆である。AI事業者ガイドラインの別添は、自分の見たい情報にのみ囲まれるのを「フィルターバブル」、同じような考えばかりが返ってくるのを「エコーチェンバー現象」としている。エコーチェンバーは「反響室」の意味で、自分の声がこだまのように返ってくる様子から来ている。例:同じ意見の人ばかりをフォローしたSNSで、自分の意見に賛成の声だけが返ってきて、それが世の中の多数派だと思い込む状態。 要点:自分の見たい情報にばかり囲まれるのが「フィルターバブル」、自分と同じような考えばかりが周りから返ってくるのが「エコーチェンバー」で、どちらも考えが極端になる心配が指摘されている。

  7. 問7

    高度なAIシステムのリスク管理と社会への影響|偽情報への対策

    AI事業者ガイドラインは、生成AIで作られた偽情報・誤情報・偏向情報が社会を不安定化・混乱させるリスクが高まっていると認識したうえで、必要な対策を講じることを求めている。

    答え:○(正しい)

    解説

    正しい。AI事業者ガイドライン(第1.2版)「1)人間中心」の「③偽情報等への対策」のとおり。偽情報はわざと作られた嘘、誤情報は悪意なく広まる間違いのことである。例:災害時に「ダムが決壊した」というAI生成の偽画像がSNSで広まると、避難の混乱を招く。会社の公式アカウントで情報を広めるときは、出どころを確かめてから発信する。 要点:生成AIによって、本当らしく見える偽の情報を誰でも簡単に作れるようになり、偽情報・誤情報・偏った情報が社会を混乱させるリスクが高まっている。このことを認識したうえで、必要な対策をとる。

  8. 問8

    高度なAIシステムのリスク管理と社会への影響|デジタルタトゥー

    インターネット上に一度発信した内容は、発信者が投稿を削除すれば完全に消去できるため、デジタルタトゥーの心配はない。

    答え:×(誤り)

    解説

    誤り。「完全に消去できる」が誤り。IPA「情報セキュリティ10大脅威 2026」解説書は、一度インターネット上に発信した内容は完全に消去することは難しく、デジタルタトゥーと呼ばれているとしている。例:AIで作った面白半分の合成画像を投稿してすぐ消しても、誰かが保存して再投稿すれば、ずっと残り続ける。感情のままに発信せず、時間をおいてから投稿するのも一つの方法である。 要点:一度インターネットに出した内容は、完全に消すのが難しい(入れ墨のように残ることから「デジタルタトゥー」という)。真偽が分からない情報や人を攻撃する発言は控え、確かめてから慎重に発信する。

  9. 問9

    高度なAIシステムのリスク管理と社会への影響|回答の収束と多様性

    社会全体が同じモデルを同じ使い方で使うと、導かれる意見や回答がLLMによって収束し、多様性が失われる可能性が指摘されている。

    答え:○(正しい)

    解説

    正しい。AI事業者ガイドラインの別添が挙げる「多様性・包摂性の喪失」のリスクのとおり。LLM(大規模言語モデル)とは、大量の文章で学習し、自然な文章を作れるAIモデルのことである。例:多くの会社が同じAIに「新商品のキャッチコピー」を考えさせると、どこも似たようなコピーになり、個性のある発想が減っていく。 要点:社会全体が同じAIモデルを同じ使い方で使うと、そこから出てくる意見や答えが似通ってしまい(収束し)、考え方の多様性が失われるおそれがある。

  10. 問10

    高度なAIシステムのリスク管理と社会への影響|バイアスの再生成

    生成AIは既存の情報に基づいて回答を作るため、出力を鵜呑みにする状況が続いても、既存の情報に含まれる偏見が増幅されることはない。

    答え:×(誤り)

    解説

    誤り。「増幅されることはない」が誤り。AI事業者ガイドラインの別添は「バイアス等の再生成」として、偏見を増幅し、不公平・差別的な出力が継続・拡大する可能性があるとしている。例:男女差別が残る時代の資料をもとにした「理想のリーダー像」をAIに聞き、その答えを研修資料にそのまま使うと、古い偏見が新しい資料として再び広まってしまう。 要点:生成AIは既存の情報をもとに答えを作るので、その答えをうのみにし続けると、もとの情報に含まれていた偏見が増幅され、不公平・差別的な出力が続いたり広がったりするおそれがある。

  11. 問11

    高度なAIシステムのリスク管理と社会への影響|雇用と格差

    AI事業者ガイドラインの別添は、生成AIの導入で業務負担の軽減や労働生産性の向上が期待できる一方、失業リスクや格差の拡大も一部で懸念されているとしている。

    答え:○(正しい)

    解説

    正しい。AI事業者ガイドラインの別添が挙げる「労働者の失業」のリスク例のとおり。人工知能基本計画(第Ⅱ期)も、雇用への影響を、AIが人の仕事を置き換える面(代替性)と助ける面(補完性)の両方から調べるとしている。例:AIでデータ入力の仕事が減る一方、AIを使いこなせる人とそうでない人の間で、待遇の差が広がることが心配される。 要点:生成AIなどの導入で、働く人の負担を減らしたり生産性を上げたりできると期待される一方、仕事を失う心配や、格差が広がる心配も一部で指摘されている。

  12. 問12

    高度なAIシステムのリスク管理と社会への影響|環境への配慮

    AI事業者ガイドラインは、計算量の多い生成AIについても、モデルの軽量化や目的に応じたモデルの使い分けは不要としている。

    答え:×(誤り)

    解説

    誤り。「不要」が誤り。「1)人間中心」の「⑥持続可能性の確保」は、ライフサイクル全体で地球環境への影響も検討し、特に生成AIなど計算量の多いAIシステムではモデルの軽量化や使い分け等の対策を講じるとしている。大きなAIを動かすデータセンターは多くの電力を使うためである。例:簡単な誤字チェックに最も大きく高性能なモデルを使わず、小さな軽いモデルで済ませるのも、環境負荷を減らす使い分けになる。 要点:AIを作る・使うときは、AIの一生(ライフサイクル)を通じて地球環境への影響も考える。特に生成AIのように計算量(コンピューターの処理量)が多いAIでは、モデルを軽くしたり、目的に合わせてモデルを使い分けたりする対策をとる。

  13. 問13

    高度なAIシステムのリスク管理と社会への影響|格差・過度な依存の回避

    人工知能基本計画(第Ⅱ期)は、AI社会から取り残される者を生まないよう格差や排除を防ぎ、浅慮につながるAIへの過度な依存を回避するとしている。

    答え:○(正しい)

    解説

    正しい。2026年11月時点の人工知能基本計画(第Ⅱ期。2026年7月14日閣議決定)第3章第4節のとおり。人が判断の責任を持ち続けること(人的主体性)を大切にする考え方である。例:何でもAIに聞いて自分で調べたり考えたりしなくなると、AIの誤りに気づく力も落ちていく。高齢者などAIを使えない人が行政サービスから取り残されないことも求められる。 要点:人工知能基本計画(第Ⅱ期)は、人権や倫理への配慮を欠かさず、AI社会から取り残される人を出さないよう格差や排除を防ぎ、深く考えなくなる(浅慮につながる)AIへの頼りすぎを避けるとしている。

次の学習

高度なAIシステムのリスク管理と社会への影響の問題を続けて解く

この論点に対応する13問を絞り込んで出題します。

○×一問一答へ