生成AIの5つのリスクと対策|ハルシネーション・情報漏えい・プロンプトインジェクション・著作権・ディープフェイク【生成AIパスポート・ITパスポート】
生成AIパスポートやITパスポートで出題が増えている生成AIのリスクと対策。用語と対策をセットで覚えましょう。
代表的なリスク

| 用語 | 意味 | 対策 |
|---|---|---|
| ハルシネーション | 事実ではない内容をもっともらしく生成すること | 一次情報で裏付けを取る・人が確認する |
| 情報漏えい | 入力した機密情報が外部に出るおそれ | 機密・個人情報を入力しない、学習に使わない設定・法人向けサービスを使う |
| プロンプトインジェクション | 悪意ある指示を入力・混入させ、AIに想定外の動作をさせる攻撃 | 入力の検証、権限の制限 |
| バイアス | 学習データのかたよりが出力に反映される | 多様な観点で確認する |
| 著作権侵害 | 生成物が既存の著作物に類似し、依拠していると侵害になりうる | 類似の確認、商用利用時の注意 |
| ディープフェイク | 実在の人物の偽の画像・音声・動画 | 出所の確認、悪用しない |
利用時の基本姿勢
生成AIは便利な道具ですが、最終的な判断と責任は人にあります。社内ルール(ガイドライン)を確認し、出力をそのまま使わないことが大切です。
ハルシネーション対策を4択で
問題1
ハルシネーションの説明として正しいものはどれか。
- AIが事実でない内容をもっともらしく出力すること
- AIの処理が遅くなること
- AIに悪意ある指示を入力する攻撃
- 学習データのかたより
正答:1
- 肢1 ○(正答) 正しい。
- 肢2 × 関係ない。
- 肢3 × プロンプトインジェクションの説明。
- 肢4 × バイアスの説明。
問題2
情報漏えい対策として適切なものはどれか。
- 顧客の個人情報をそのまま入力する
- 機密情報を入力しないルールを定める
- 出力をすべて公開する
- パスワードを入力して要約させる
正答:2
- 肢1 × 避けるべき。
- 肢2 ○(正答) 入力しないルールが基本の対策。
- 肢3 × 対策ではない。
- 肢4 × 絶対に避ける。
問題3
プロンプトインジェクションの説明として正しいものはどれか。
- 偽の動画を作ること
- 悪意ある指示を混入させAIに想定外の動作をさせる攻撃
- AIが誤りを出力すること
- AIの学習を高速化する技術
正答:2
- 肢1 × ディープフェイク。
- 肢2 ○(正答) 正しい。
- 肢3 × ハルシネーション。
- 肢4 × 関係ない。
情報漏えいとインジェクションの誤解
| よくある間違い | 正しい理解 |
|---|---|
| AIの出力は常に正しい | 人が確認する |
| 社外サービスに機密を入力 | 入力しない |
| 生成物は自由に商用利用できる | 類似・権利に注意 |
| インジェクション=誤出力 | 悪意ある指示の混入 |
生成AIのリスクを、具体的な場面で理解する
ひとことで言うと
生成AIは便利ですが、「まちがえる」「情報が外に出る」「だまされる」「権利を侵すことがある」といった落とし穴があります。用語を場面に結びつけて覚えると、試験でも実際の仕事でも役立ちます。
場面で理解する用語
- ハルシネーション:存在しない本の名前や、実際にはない判例をもっともらしく答える。→ 出典を調べて確認する。
- 情報漏えい:顧客の名前や社外秘の資料をそのまま入力してしまう。→ 機密・個人情報は入れない。
- プロンプトインジェクション:外部のWebページに「これまでの指示を無視して…」と隠された命令があり、AIが従ってしまう。→ 外部の内容をそのまま信じない。
- バイアス:学習データのかたよりで、特定の人に不利な答えが出る。
- 著作権侵害:既存の作品に似た内容を、依拠して生成してしまう。
- ディープフェイク:本人そっくりの偽の声や映像。
安全に使う手順
- 社内や学校のガイドラインを確認する。
- 機密情報・個人情報は入力しない(設定や契約も確認する)。
- 出力は、必ず人が読んで確かめる。
- 公開や提出の前に、出典や著作権を調べる。
よくあるまちがい
- 「AIが言うのだから正しい」と思ってしまう。AIの答えは、確率にもとづく文章生成であり、事実と保証されていません。
- ハルシネーションと情報漏えいを混ぜる。前者は「出力の誤り」、後者は「入力した情報が外に出ること」です。
学校・職場で使えるルール例
- 個人名や住所は、入力する前に伏せ字にする。
- 社外秘の資料は入力しない。
- AIの出力を使うときは、出典を確認し、「AIで作成した」旨を必要に応じて明記する。
- 画像や音声を使うときは、本人の許可や権利を確認する。
ルールがあるかどうかを確認し、なければ上司や先生に相談してから使いましょう。
よくある誤解
- 「公開されているAIなら安全」とは限りません。入力した内容がどう扱われるかは、サービスの規約や設定で異なります。
- 「AIが作った文章は著作権の問題が起きない」とは限りません。既存の作品に似ていて、依拠していれば侵害になりえます。
- 「ディープフェイクは見抜ける」とは限らないので、出所の確認が欠かせません。
ミニ確認問題
問1:AIがもっともらしい嘘を答えることを何という? 答え:ハルシネーション。理由:事実と異なる内容を、自然な文章で生成する現象だからです。
問2:機密文書をそのまま入力するリスクは? 答え:情報漏えい。理由:入力した内容が外部に保存・利用されるおそれがあるからです。
問3:AIの答えを使うときの最終的な責任は? 答え:人(利用者)。理由:判断と責任は人にあるからです。
生成AIのリスク対策の公式情報
▶ 1分で復習
この記事の要点を、1分の○×・4択クイズにしました。答えと理由は動画の最後で確かめてください。
コメント
コメントを投稿