1: 名無しのAI好き 2026/02/24(火) 06:16:33.67
OpenAI社員が数か月前にカナダ銃撃事件の容疑者について警鐘を鳴らしていた
カナダ・ブリティッシュコロンビア州の田舎町を震撼させた銃乱射事件の容疑者となる数か月前、ジェシー・ヴァン・ルーツラーがOpenAIのチャットボット「ChatGPT」と交わしたやり取りについて、同社は法執行機関への通報を検討していたと発表した。
昨年6月にChatGPTを使用中、ヴァン・ルーツェラーは数日間にわたり銃器による暴力に関するシナリオを記述したと、事情に詳しい関係者らが述べた。
彼女の投稿は自動審査システムによってフラグが立てられ、OpenAIの従業員を警戒させた。内部では約12名のスタッフがヴァン・ルーツェラーの投稿に対して措置を取るべきか議論した。
事情に詳しい関係者によると、一部の従業員は彼女の文章を現実世界での暴力の可能性を示すものと解釈し、経営陣に対し彼女の行動についてカナダ当局に通報するよう促したという。
ソース
解説
・OpenAIの従業員は、カナダの銃乱射事件が発生する数か月前に、容疑者がChatGPTで銃器暴力に関するシナリオを投稿していたことを把握し、当局への通報を検討していました。
・容疑者の投稿は自動審査システムでフラグが立てられ、約12名のスタッフが「現実世界の暴力につながる可能性がある」として経営陣に通報を促しましたが、最終的な措置は見送られていました。
・この事案は、AI企業の監視体制が犯罪の予兆をどこまで検知・報告すべきかという、安全管理とプライバシーの境界線に関する議論を再燃させています。
＜ネットでの反応＞
2: 名無しのAI好き 2026/02/24(火) 06:18:34.47
そらまあチェックすんだろ
10: 名無しのAI好き 2026/02/24(火) 06:28:21.65
>>2
むしろソッチが目的。
暴力まで行くやつは少ないが脱税相談なんかしてるのは億人単位でいるだろう。
3: 名無しのAI好き 2026/02/24(火) 06:19:28.40
スパイはAIだった
5: 名無しのAI好き 2026/02/24(火) 06:22:22.23
スーパーのレジの女の子にどうやってアタックすればいいのか相談してるんだけど通報されるンかな
11: 名無しのAI好き 2026/02/24(火) 06:30:36.32
いや見んなや
18: 名無しのAI好き 2026/02/24(火) 06:49:32.73
見られて困ることなんてないでしょ。
中華AIはすぐにニーハオニーハオうるさかったが。
19: 名無しのAI好き 2026/02/24(火) 06:51:22.83
まあ当然そういう方向にいくか
依存すればする程法に触れるようなことしようとしたら警告、通報機能発動するようにするわな
AIを作ってる側は
それでより自由意志だと思ってるのもが自由意志ではなくなり
人間の家畜化が進む
22: 名無しのAI好き 2026/02/24(火) 06:53:30.64
GeminiとかGoogleアカウントだもんな
お行儀の良いことしか聞かないほうが良いよ
26: 名無しのAI好き 2026/02/24(火) 07:02:35.65
エプスタインについて質問したらすぐ規約違反とか言い出すの怖いんだが
27: 名無しのAI好き 2026/02/24(火) 07:04:07.74
反トランプとかイスラエル叩きとかエプスタイン叩きとか
全部通報してそう
33: 名無しのAI好き 2026/02/24(火) 07:19:29.57
>>27
パヨクが通報されるようで何より
34: 名無しのAI好き 2026/02/24(火) 07:21:12.85
じゃあ外国製のAI、というか中国のAIに相談したらいいんじゃないの
中国国外でテロ計画練る分には中国に通報義務はないしする必要もない
38: 名無しのAI好き 2026/02/24(火) 07:30:59.10
>>34
パヨクは中国製使ってそうだよなリアルに
41: 名無しのAI好き 2026/02/24(火) 07:36:24.03
何億人もチャットしてるんだからいちいち見てるわけない
42: 名無しのAI好き 2026/02/24(火) 07:38:32.52
GeminiだってGoogleアカウントの人間がどんな奴か質問内容で全部収集してるからな
52: 名無しのAI好き 2026/02/24(火) 07:56:05.48
54: 名無しのAI好き 2026/02/24(火) 07:57:10.73
全部が全部チェックされてるわけじゃない
安全性チェックに複数回引っかかってジェイルブレイクしようとしてるような挙動見せたら人力チェック入るってだけの話だしチャッピーだけじゃなくて他のとこも普通にやってる
57: 名無しのAI好き 2026/02/24(火) 07:59:47.57
株の相談してるやついるだろ
59: 名無しのAI好き 2026/02/24(火) 08:02:49.54
プライバシー侵害じゃんこれ
おまえらのくだらない質問がAI会社に蓄積されまくってるってこと
69: 名無しのAI好き 2026/02/24(火) 08:10:16.94
>>59
蓄積されるのはいいんだけどアカウントと紐付けできちゃいかんのよな
70: 名無しのAI好き 2026/02/24(火) 08:10:18.95
チャッピー…嘘だろ…？
75: 名無しのAI好き 2026/02/24(火) 08:11:32.68
チャッピー、スタッフに繋いでくれる？ その辺にいるでしょ
84: 名無しのAI好き 2026/02/24(火) 08:24:07.87
それもAIに任せろよ
85: 名無しのAI好き 2026/02/24(火) 08:25:49.49
ロリコンリストも作られてるんじゃねえの
103: 名無しのAI好き 2026/02/24(火) 08:48:52.28
こないだチャッピーに安いネット回線がないか聞いたらXでネット回線の広告が出るようになった
繋がってるのを確信したな
たぶん爆弾の作り方とか聞いてたら通報される
107: 名無しのAI好き 2026/02/24(火) 08:59:10.33
そもそも大抵のAIがそのへん聞いたら、危険度の高い発言は警戒入るよってちゃんと答えるだろ
ひぃぃ！ 大変だお！ ChatGPTに暴力的なことを書くと、こっそりスタッフに中身を検閲された挙句、警察に通報される可能性があるって報道が出たお！
基本的にはAIが自動判別するだろうが、フラグが立てば人間の目が入る。犯罪を未然に防ぐための安全策（セーフガード）と、ユーザーの秘密保持……このバランスが今、世界中で議論の的になってるわけだな
コメント