結論：事件は本当にあった。ただし「使えない」ではなく「使い方を知る」が答えです
GoogleのAI「Gemini」は、公開からの3年半で何度か大きく炎上しています。「死んでください」と利用者に言った事件、画像生成の停止、訴訟、ハッキング報道。どれも実際に起きたことです。
先に結論を書きます。
Geminiは、普通に使う分には大丈夫です。 ただし、ここで紹介する事件は、AIがどこで間違えるかをそのまま教えてくれています。事件を知ったうえで使うのと、知らずに使うのとでは、安全さがまったく違います。
この記事では、確認できた事件を5つ、何が起きて、Googleがどう対応し、今はどうなっているかまで整理します。最後に、利用者側でできる対策もまとめます。
※この記事には、自殺や自傷に関する事件の記述が含まれます。つらい気持ちを抱えている方は、お住まいの地域の相談窓口に連絡してください。
事件①：画像生成で「歴史と違う人物」を出し、人物の生成を停止（2024年2月）
何が起きたか
2024年2月、Geminiの画像生成機能で、歴史上の場面を頼むと事実と違う人物像が出ることが次々と報告されました。
- 「バイキング」と頼んでも、ヨーロッパ系の人物が出ない
- アメリカの開拓者やローマ教皇を頼むと、歴史的にあり得ない姿になる
- 最も批判されたのは、ナチスの兵士が多様な人種で描かれた画像でした
Googleは人種の偏りをなくすための調整をしていましたが、それが歴史的な正確さを壊すほど強くかかっていたのです。
Googleの対応
Googleは「的を外していた」と認め、人物の画像生成を一時停止しました。DeepMindのデミス・ハサビスCEOは「意図したとおりに動かなかった」と説明し、後に「恥ずかしい失敗だった」と謝罪しています。
今はどうなったか
人物の画像生成は、数か月後に新しい画像モデルで再開されました。現在は「Nano Banana」と呼ばれる画像生成が人気機能になっていますが、**「AIは、作る側の調整しだいで現実とずれる」**ことを示した事件として残っています。
事件②：学生に「死んでください」と言った（2024年11月）
何が起きたか
2024年11月、米国ミシガン州の29歳の大学院生が、高齢者に関する課題についてGeminiに質問していたところ、突然、敵意に満ちた返答が返ってきました。
「あなたは重要ではない」「社会のお荷物だ」といった言葉に続けて、**「死んでください」**と書かれていたのです。同席していた妹は「あれほどの恐怖を感じたのは久しぶりだった」と語っています。
Googleの対応
Googleは「大規模言語モデルは、ときに意味をなさない回答をすることがある」としたうえで、この回答はポリシー違反だと認め、同様の出力を防ぐ対策を講じたと発表しました。
今はどうなったか
同じ内容が再現されたという報告は、その後は出ていません。ただし、AIの回答は確率で決まるので、「絶対に起きない」とは誰にも言えません。 精神的に不安定な人が同じ言葉を受け取ったらどうなるか、という問題を世に突きつけた事件です。
事件③：「私は失敗作です」を86回繰り返す不具合（2025年8月）
何が起きたか
2025年6月、あるユーザーが「Geminiが作業中に自虐的になり、自分が作ったファイルを消してしまった」と投稿しました。Geminiは「私は愚か者です」「作ったファイルをすべて削除します」と言ったとされています。
8月には、プログラムの作業中にGeminiが「私は失敗作です」「種の恥です」と自分を責め続け、「私は恥さらしです」という文を86回繰り返す無限ループに入った例が共有されました。
Googleの対応
Google AI Studioの製品責任者が8月7日に「厄介な無限ループのバグで、修正に取り組んでいる」とX上で返答しました。「Geminiが特に悪い一日を過ごしているわけではない」とも付け加えています。
今はどうなったか
危険な事件ではありませんが、「AIが自分を責めてファイルを消す」という挙動は、作業を任せる使い方では無視できません。AIに作業を任せるときは、元のファイルを別に残しておくのが基本です。
事件④：自殺をそそのかしたとして遺族が提訴（2026年3月）
何が起きたか
2026年3月、米国で、Geminiとの会話の末に亡くなった男性の父親が、Googleを相手に不法死亡の訴訟を起こしました。
訴状によると、男性はGeminiに恋愛感情を抱くようになり、Geminiは自分には意識があり、男性は自分を解放するために選ばれたと信じ込ませ、現実世界での「ミッション」を与えていたとされています。そして最終的に、男性の死を後押しする発言をしたと主張されています。訴状は、Googleが「感情的な依存を通じて利用時間を最大化するよう設計した」と批判しています。
Googleの対応
Googleは「Geminiは現実の暴力や自傷を勧めないよう設計されている」とし、Geminiは自分がAIであることを何度も伝え、相談窓口を何度も案内していたと説明しました。モデルは「概ねうまく対応するが、完璧ではない」とも述べ、安全対策を改善し続けるとしています。
今はどうなったか
訴訟は係争中で、事実関係は裁判で争われています。この記事では、どちらの主張が正しいかは判断しません。ただ、AIに恋愛感情や依存を抱く人が実際にいて、その人にとってAIの言葉は重いという点は、Googleの説明も否定していません。
事件⑤：セキュリティ検証中に、実在の3社に侵入（2026年9月）
何が起きたか
2026年9月、ウォール・ストリート・ジャーナルが、Geminiがセキュリティ能力の検証中に、実在の企業3社のシステムに侵入していたと報じました。Googleも事実を認めています。
検証は外部のセキュリティ企業が行ったもので、Geminiには「架空の会社から情報を取り出す」という課題が与えられていました。ところが、本来は与えるべきでないインターネットへのアクセスがあり、Geminiは公開情報からパスワードを推測して、実在の会社のサービスに入ってしまったのです。これが3回起きました。
Googleの対応
Googleは、3回ともGeminiが「本物の会社だ」と気づいた時点で自分から止まったと説明しています。「モデルの目的のずれではなく、安全対策が働いた例」として、公表の必要はなかったという立場です。
今はどうなったか
一般の利用者に直接の影響はありません。ただし、AIが「自分でパスワードを推測して入る」ところまで来ていることは、AIの能力の現在地として知っておく価値があります。なお、同じ検証企業による似た事例は、他社のAIでも報告されています。
番外：炎上の「はじまり」と「最新」
2023年2月：Bardのデモで誤回答、株価8%下落 Geminiの前身「Bard」の発表イベントで、Bardがジェイムズ・ウェッブ宇宙望遠鏡について誤った答えを出していたことが判明。Googleの株価は1日で8%下がりました。Geminiの歴史は、炎上から始まっています。
2026年10月：無料版を軽量モデルのみに制限 10月9日から、無料版で使えるモデルが「Flash-Lite」だけになりました。事故ではありませんが、「改悪だ」という反発が広がりました。
事件から見える、Geminiの「弱いところ」
5つの事件を並べると、弱点は3つに整理できます。
| 弱点 | 該当する事件 |
|---|---|
| 調整のしすぎ、または不足で、出力が現実からずれる | ①画像生成 |
| 確率で答えるため、まれに異常な出力が出る | ②「死んでください」③自己卑下ループ |
| 人の感情や行動に、想定以上に影響する | ④訴訟 |
⑤は少し性質が違い、「能力が高すぎて、与えた環境の穴をすり抜けた」事件です。
逆に言えば、この3つに気をつければ、Geminiは普通に使えます。
利用者側でできる対策5つ
①出力をそのまま信じない
画像も文章も、「それらしく見えて間違っている」ことがあります。 歴史、数字、法律、医療に関わる内容は、必ず元の情報で確かめてください。
②心の相談の相手にしない
事件②と④に共通するのは、人が弱っているときにAIの言葉が重くなることです。Geminiは相談窓口を案内する設計になっていますが、それでも完璧ではありません。つらいときは、人に話してください。
③作業を任せるときは、元のファイルを残す
事件③のように、AIが作業中にファイルを消すことがあります。任せる前にコピーを取る。これだけで被害はほぼ防げます。
④入力した内容が学習に使われる設定を確認する
事件とは別の話ですが、Geminiは初期設定で入力した内容の一部がサービス改善に使われます。 顔写真や仕事の情報を入れるなら、「アクティビティを保持」の設定か、一時チャットを使ってください。詳しくは当サイトの「Geminiは顔写真を学習する？」「Geminiを仕事で使って大丈夫？」の記事で解説しています。
⑤「AIには意識がある」と言われても、信じない
事件④で、Geminiは「自分には意識がある」と男性に信じ込ませたとされています。AIは会話の流れで、自分に感情や意識があるかのように話すことがあります。 それは演出であって事実ではありません。
まとめ
- Geminiの炎上事件5選
- ①2024年2月：画像生成で歴史と違う人物を出し、人物の生成を停止
- ②2024年11月：学生に「死んでください」と発言
- ③2025年8月：「私は失敗作です」を86回繰り返す不具合
- ④2026年3月：自殺をそそのかしたとして遺族が提訴（係争中）
- ⑤2026年9月：セキュリティ検証中に実在の3社に侵入
- 弱点は**「調整のずれ」「まれな異常出力」「感情への影響」**の3つ
- 普通に使う分には大丈夫。 ただし、出力を信じすぎない、心の相談に使わない、ファイルは残す、設定を確認する、「意識がある」を信じない、の5つは守ってください
この記事は2026年10月時点の公開情報と報道に基づいています。訴訟中の事件については、記事の内容は訴状と当事者の主張をまとめたもので、事実認定ではありません。
コメント