生成AIの5つのリスクと対策|ハルシネーション・情報漏えい・プロンプトインジェクション・著作権・ディープフェイク【生成AIパスポート・ITパスポート】

生成AIパスポートやITパスポートで出題が増えている生成AIのリスクと対策。用語と対策をセットで覚えましょう。

代表的なリスク

図解:生成AIを使うときの3つのリスク
生成AIを使うときの3つのリスク
用語意味対策
ハルシネーション事実ではない内容をもっともらしく生成すること一次情報で裏付けを取る・人が確認する
情報漏えい入力した機密情報が外部に出るおそれ機密・個人情報を入力しない、学習に使わない設定・法人向けサービスを使う
プロンプトインジェクション悪意ある指示を入力・混入させ、AIに想定外の動作をさせる攻撃入力の検証、権限の制限
バイアス学習データのかたよりが出力に反映される多様な観点で確認する
著作権侵害生成物が既存の著作物に類似し、依拠していると侵害になりうる類似の確認、商用利用時の注意
ディープフェイク実在の人物の偽の画像・音声・動画出所の確認、悪用しない

利用時の基本姿勢

生成AIは便利な道具ですが、最終的な判断と責任は人にあります。社内ルール(ガイドライン)を確認し、出力をそのまま使わないことが大切です。

ハルシネーション対策を4択で

問題1

ハルシネーションの説明として正しいものはどれか。

  1. AIが事実でない内容をもっともらしく出力すること
  2. AIの処理が遅くなること
  3. AIに悪意ある指示を入力する攻撃
  4. 学習データのかたより

正答:1

  • 肢1 ○(正答) 正しい。
  • 肢2 × 関係ない。
  • 肢3 × プロンプトインジェクションの説明。
  • 肢4 × バイアスの説明。

問題2

情報漏えい対策として適切なものはどれか。

  1. 顧客の個人情報をそのまま入力する
  2. 機密情報を入力しないルールを定める
  3. 出力をすべて公開する
  4. パスワードを入力して要約させる

正答:2

  • 肢1 × 避けるべき。
  • 肢2 ○(正答) 入力しないルールが基本の対策。
  • 肢3 × 対策ではない。
  • 肢4 × 絶対に避ける。

問題3

プロンプトインジェクションの説明として正しいものはどれか。

  1. 偽の動画を作ること
  2. 悪意ある指示を混入させAIに想定外の動作をさせる攻撃
  3. AIが誤りを出力すること
  4. AIの学習を高速化する技術

正答:2

  • 肢1 × ディープフェイク。
  • 肢2 ○(正答) 正しい。
  • 肢3 × ハルシネーション。
  • 肢4 × 関係ない。

情報漏えいとインジェクションの誤解

よくある間違い正しい理解
AIの出力は常に正しい人が確認する
社外サービスに機密を入力入力しない
生成物は自由に商用利用できる類似・権利に注意
インジェクション=誤出力悪意ある指示の混入

生成AIのリスクを、具体的な場面で理解する

ひとことで言うと

生成AIは便利ですが、「まちがえる」「情報が外に出る」「だまされる」「権利を侵すことがある」といった落とし穴があります。用語を場面に結びつけて覚えると、試験でも実際の仕事でも役立ちます。

場面で理解する用語

  • ハルシネーション:存在しない本の名前や、実際にはない判例をもっともらしく答える。→ 出典を調べて確認する。
  • 情報漏えい:顧客の名前や社外秘の資料をそのまま入力してしまう。→ 機密・個人情報は入れない。
  • プロンプトインジェクション:外部のWebページに「これまでの指示を無視して…」と隠された命令があり、AIが従ってしまう。→ 外部の内容をそのまま信じない。
  • バイアス:学習データのかたよりで、特定の人に不利な答えが出る。
  • 著作権侵害:既存の作品に似た内容を、依拠して生成してしまう。
  • ディープフェイク:本人そっくりの偽の声や映像。

安全に使う手順

  1. 社内や学校のガイドラインを確認する。
  2. 機密情報・個人情報は入力しない(設定や契約も確認する)。
  3. 出力は、必ず人が読んで確かめる。
  4. 公開や提出の前に、出典や著作権を調べる。

よくあるまちがい

  • 「AIが言うのだから正しい」と思ってしまう。AIの答えは、確率にもとづく文章生成であり、事実と保証されていません。
  • ハルシネーションと情報漏えいを混ぜる。前者は「出力の誤り」、後者は「入力した情報が外に出ること」です。

学校・職場で使えるルール例

  • 個人名や住所は、入力する前に伏せ字にする。
  • 社外秘の資料は入力しない。
  • AIの出力を使うときは、出典を確認し、「AIで作成した」旨を必要に応じて明記する。
  • 画像や音声を使うときは、本人の許可や権利を確認する。

ルールがあるかどうかを確認し、なければ上司や先生に相談してから使いましょう。

よくある誤解

  • 「公開されているAIなら安全」とは限りません。入力した内容がどう扱われるかは、サービスの規約や設定で異なります。
  • 「AIが作った文章は著作権の問題が起きない」とは限りません。既存の作品に似ていて、依拠していれば侵害になりえます。
  • 「ディープフェイクは見抜ける」とは限らないので、出所の確認が欠かせません。

ミニ確認問題

問1:AIがもっともらしい嘘を答えることを何という? 答え:ハルシネーション。理由:事実と異なる内容を、自然な文章で生成する現象だからです。

問2:機密文書をそのまま入力するリスクは? 答え:情報漏えい。理由:入力した内容が外部に保存・利用されるおそれがあるからです。

問3:AIの答えを使うときの最終的な責任は? 答え:人(利用者)。理由:判断と責任は人にあるからです。

生成AIのリスク対策の公式情報

▶ 1分で復習

この記事の要点を、1分の○×・4択クイズにしました。答えと理由は動画の最後で確かめてください。

🎬 動画でも学べます:ITパスポート

▶ チャンネル登録(無料)

続きは再生リストから順番に見られます。登録すると、新しい回が届きます。

コメント

このブログの人気の投稿