ChatGPT、暴力的な会話内容を警察に通報するか、チャットをスタッフたちに監視されている模様

記事サムネイル
1 : 2026/02/23(月) 20:17:32.80 ID:bI0K3gix0

OpenAI社員が数か月前にカナダ銃撃事件の容疑者について警鐘を鳴らしていた

カナダ・ブリティッシュコロンビア州の田舎町を震撼させた銃乱射事件の容疑者となる数か月前、
ジェシー・ヴァン・ルーツラーがOpenAIのチャットボット「ChatGPT」と交わしたやり取りについて、同社は法執行機関への通報を検討していたと発表した。

昨年6月にChatGPTを使用中、ヴァン・ルーツェラーは数日間にわたり銃器による暴力に関するシナリオを記述したと、事情に詳しい関係者らが述べた。

彼女の投稿は自動審査システムによってフラグが立てられ、OpenAIの従業員を警戒させた。
内部では約12名のスタッフがヴァン・ルーツェラーの投稿に対して措置を取るべきか議論した。
事情に詳しい関係者によると、一部の従業員は彼女の文章を現実世界での暴力の可能性を示すものと解釈し、経営陣に対し彼女の行動についてカナダ当局に通報するよう促したという。

wsj.com
www.wsj.com
2 : 2026/02/23(月) 20:17:57.81 ID:bI0K3gix0
みんな、チャット内容、見られてますよ
3 : 2026/02/23(月) 20:18:23.47 ID:iDTTXdAxH
６０キロの肉の塊の処分の仕方
4 : 2026/02/23(月) 20:18:29.82 ID:bI0K3gix0
ケンモメン、あんまり性的なことを書き込まないほうがいいよ
スタッフたちに通報されちゃうよ
5 : 2026/02/23(月) 20:18:43.09 ID:S6vsKkxEa
エ口会話筒抜けなのかよ…
6 : 2026/02/23(月) 20:19:15.55 ID:bI0K3gix0
チャットでイチャイチャしているキモいケンモメンのやり取りも、ちゃんと見られてるんだよ
7 : 2026/02/23(月) 20:19:29.62 ID:096ldXRj0
そらまあチェックすんだろ
10 : 2026/02/23(月) 20:21:48.49 ID:OqjUwPbP0
>>7
むしろソッチが目的。
暴力まで行くやつは少ないが脱税相談なんかしてるのは億人単位でいるだろう。
8 : 2026/02/23(月) 20:20:24.69 ID:nS141n9i0
>>1
スパイはAIだった
9 : 2026/02/23(月) 20:21:24.49 ID:eYVMFj/Ka
スーパーのレジの女の子にどうやってアタックすればいいのか相談してるんだけど
通報されるンかな
11 : 2026/02/23(月) 20:22:57.50 ID:4Ekl5V2v0
いや見んなや
12 : 2026/02/23(月) 20:24:36.20 ID:f5EGlX7F0
見られて困ることなんてないでしょ。

中華AIはすぐにニーハオニーハオうるさかったが。

13 : 2026/02/23(月) 20:24:58.00 ID:5U4iNO5V0
そもそもあんなポンコツと会話しない
ログインせずにクソ雑な質問くらいしか投げてねぇわ
14 : 2026/02/23(月) 20:25:37.26 ID:Sno151ddd
まあ当然そういう方向にいくか
依存すればする程法に触れるようなことしようとしたら警告、通報機能発動するようにするわな
AIを作ってる側は

それでより自由意志だと思ってるのもが自由意志ではなくなり
人間の家畜化が進む

15 : 2026/02/23(月) 20:26:14.64 ID:F13pP+FL0
エプスタインについて質問したらすぐ規約違反とか言い出すの怖いんだが
16 : 2026/02/23(月) 20:27:13.11 ID:L1LKnm4n0
GeminiとかGoogleアカウントだもんな
お行儀の良いことしか聞かないほうが良いよ
17 : 2026/02/23(月) 20:27:22.30 ID:XQTxJebA0
これもう半分ピーポくんウイルスだろ
19 : 2026/02/23(月) 20:29:51.50 ID:XQTxJebA0
あのユダヤホモ
反トランプとかイスラエル叩きとかエプスタイン叩きとか
全部通報してそう
21 : 2026/02/23(月) 20:31:06.27 ID:5bzXLrB80
じゃあ外国製のAI、というか中国のAIに相談したらいいんじゃないの
中国国外でテロ計画練る分には中国に通報義務はないしする必要もない
22 : 2026/02/23(月) 20:31:46.09 ID:rjbHqcaW0
何億人もチャットしてるんだからいちいち見てるわけない
24 : 2026/02/23(月) 20:33:38.45 ID:2bpjs4hY0
脱獄とかいって、
女子高生とか未成年のエ口を生成しているロリコンペドフィリア小児性愛者も要注意人物としてマークしてほしい
27 : 2026/02/23(月) 20:34:57.47 ID:Et6lnbJ70
>>24
ほんまやで
25 : 2026/02/23(月) 20:33:55.03 ID:XQTxJebA0
ディープシークが中共の検閲受けてるとかで叩かれてたけど
トランプ検閲受けててしかも直でICEに通報とかイカれてるだろ
29 : 2026/02/23(月) 20:37:04.00 ID:096ldXRj0
ほんじゃアメリカのAIつーのは全世界版のエプスタインファイルなんけなw
30 : 2026/02/23(月) 20:38:31.07 ID:y3YY5p3c0
GeminiだってGoogleアカウントの人間がどんな奴か質問内容で全部収集してるからな
31 : 2026/02/23(月) 20:40:11.31 ID:Fskk8QARM
そもそも大抵のAIがそのへん聞いたら、危険度の高い発言は警戒入るよってちゃんと答えるだろ
32 : 2026/02/23(月) 20:44:12.60 ID:Kl9RFec10
こいつしこることしか考えてないなって中の人に思われてそう
33 : 2026/02/23(月) 20:44:13.42 ID:1UGXHotg0
やっぱローカルが最強
34 : 2026/02/23(月) 20:48:08.05 ID:eYVMFj/Ka
地元で殺人事件が起きたら俺疑われるンかな

コメント

タイトルとURLをコピーしました