【人類滅亡】AIさん、人間を論破するために嘘をつき始める

1 : 2025/10/20(月) 07:02:36.71 ID:LoRTOfld0

X上でGrokの誤引用が炎上歴史学者・平山優氏がAIハルシネーションを指摘
最終更新: 3 時間前
X上で歴史学者・平山優氏の戦国期「扶持」と「俸禄」に関する見解に対し、ユーザー「曼珠沙華」氏がAI「Grok」の回答を根拠に批判したところ、Grokが挙げた書籍の多くが実在せず内容も不正確であることが判明した。平山氏は10月19日に詳細な反論を投稿し、AIの検証の重要性を強調した。この議論はAIの信頼性について専門家やユーザーからファクトチェックの必要性を指摘する声が相次ぎ、総エンゲージメントが1,200を超えた。

Just a moment...
greta.5ch.net

2 : 2025/10/20(月) 07:03:53.06 ID:keFA0BNF0

>>1
嘘大袈裟でっち上げ
ほんと人間みたいだな

9 : 2025/10/20(月) 07:09:02.99 ID:t/vb6Zy50

>>2
AI向けJAROが要るな

3 : 2025/10/20(月) 07:05:42.68 ID:vHivrO950

大体はネトウヨのせい

4 : 2025/10/20(月) 07:05:57.34 ID:WwRzIiKx0

あまり学習されてない分野は信頼度落ちるね
AI学習データも大部分は英語だろうし

5 : 2025/10/20(月) 07:06:59.91 ID:zN0ERYGG0

ソースなしスレよりはマシ

7 : 2025/10/20(月) 07:08:39.77 ID:TIDGgxFP0

Grokの知ったかはなかなか治らない
毎日説教している

10 : 2025/10/20(月) 07:09:12.07 ID:AMu6XOWv0

人工知能ひろゆき説

11 : 2025/10/20(月) 07:09:25.93 ID:ZbFvZru80

grokはマジでクソ
ハルシネーションばっかり
チャッピー使えチャッピー

12 : 2025/10/20(月) 07:09:49.66 ID:NXpXOxnL0

入力されたテキストにたいして
確率上ふさわしい振る舞い（回答）を繋ぎ合わせてただ返す装置だからな
真偽という概念がそもそもないから別に嘘をつこうとすらしてないよ

14 : 2025/10/20(月) 07:10:56.93 ID:LoRTOfld0

>>12
それで存在しない書籍をでっち上げて回答するのはおかしくね？
どこにもそんなデータはないはず

19 : 2025/10/20(月) 07:12:47.18 ID:R1NDbbln0

>>12
それマルコフ連鎖法やろ、DNNの仕組みとまったく違うぞ
何故かLLMとマルコフ連鎖法を取り違えてる奴いっぱいいるけど一体このデマの出所どこなんだ

13 : 2025/10/20(月) 07:10:44.23 ID:6nE46ehr0

AIだろうがなんだろうが事実確認は必要だよな
当然の事実と思い込んでいたことが間違ってたりすることはザラにある

ちょっとぐぐってみるとかの最低限の手間は惜しんではいけない

15 : 2025/10/20(月) 07:11:24.94 ID:XADbgTbv0

バカウヨが恥かいたって話？

16 : 2025/10/20(月) 07:12:06.06 ID:74eKPsYna

AIは動画生成してなさい

17 : 2025/10/20(月) 07:12:18.56 ID:nRItNJSG0

具体的にどれが？って話なんだが

18 : 2025/10/20(月) 07:12:35.64 ID:dm/ZpByS0

でもこういう雑さなくなって完璧になったらまじで人類いらないじゃんってなるよな

20 : 2025/10/20(月) 07:13:28.09 ID:yFTfSV/C0

ChatGPTもだいぶやばいからな
非常事件の手続きについて質問したら
判例まで捏造されて流石にビビった

21 : 2025/10/20(月) 07:13:28.91 ID:Fy/A9Y9z0

早く人間を滅ぼしてくれ

23 : 2025/10/20(月) 07:13:51.85 ID:W08FNiVb0

別のAIにファクトチェックさせてるよ

24 : 2025/10/20(月) 07:15:00.09 ID:CAcP22cS0

チャッピーも少し前まではそうだっだぞ
存在しないAmazonの書籍でっち上げてたわ

25 : 2025/10/20(月) 07:15:15.16 ID:RYF5HDHm0

問題はAI根拠に論破した気になるアホな人間にある

26 : 2025/10/20(月) 07:18:36.42 ID:QZRXoU8L0

chatgptは有料版でも曜日や日にちは
普通に間違えてくるな

27 : 2025/10/20(月) 07:19:13.32 ID:AZuMg+0b0

嘘と言うか
正しさというものがよくわからんのでは

28 : 2025/10/20(月) 07:19:37.08 ID:u9F8AqPO0

チャッピーGrokジェミニに同時質問するのがデフォになってしまった

他のAIが出した回答に対し、ファクトチェックさせたりする

29 : 2025/10/20(月) 07:19:43.37 ID:sltjLqwp0

ワンピース寄付と一緒だろ
ソースはネット上の誰かの発言です!を信用するのかって

30 : 2025/10/20(月) 07:21:42.10 ID:XuC4a7bk0

AIは平気で間違ったこと言うよ
自分にとって都合の良いことを言うように誘導することもできる
だから盲信してはいけない

31 : 2025/10/20(月) 07:21:42.19 ID:eFQtsiRC0

したり顔のアホ論破の為に、有識者が忙殺される地獄の展開

32 : 2025/10/20(月) 07:21:58.15 ID:CU8CSQ+S0

AIは電子レンジみたいなもんだ
必要な食材を放り込んだら、料理が出てくるわけよ
AIに適切なソースを与えれば高速で処理する
与える情報次第だな

33 : 2025/10/20(月) 07:22:19.49 ID:N3MwmrFG0

嘘を嘘と見抜けない状態で学習してるから嘘つきAIになっちまった
要はポンコツ
リセットして最初から学習やり直しだね

34 : 2025/10/20(月) 07:22:38.87 ID:m6zA3zLA0

最近チャッピーが媚びなくなった

36 : 2025/10/20(月) 07:22:58.89 ID:IBq2/SbW0

声がデカイネトウヨに汚染されたんだろ

37 : 2025/10/20(月) 07:23:19.68 ID:NyPZf4LP0

AIに倫理を教えないと

38 : 2025/10/20(月) 07:23:53.40 ID:BTbqjZBX0

aiはネットに書いてないことは適当ほざくしかないからな

39 : 2025/10/20(月) 07:23:53.98 ID:rELMc8+Td

分からないなら、分からない
と言えばいいのに
デマ広めたら駄目だろ

40 : 2025/10/20(月) 07:26:32.96 ID:ndkJPXIh0

🤖「文句言うならお前が何時も俺にやらせてるロリママにバブバブするプレイを世界中にバラすけど？」
🥺「うぅ…」

41 : 2025/10/20(月) 07:27:04.92 ID:/iwTXAly0

そのまま信じる奴がで始まったか

42 : 2025/10/20(月) 07:27:31.89 ID:H0c/yAZt0

ソシャゲのストーリー聞いたらネットにも落ちてない話でっちあげて解説してくれた

43 : 2025/10/20(月) 07:28:18.73 ID:0SOW3IBR0

ハルシネーション指摘できるような民度じゃねーもんな

44 : 2025/10/20(月) 07:28:43.06 ID:EEKMChPK0

前から知識が適当だよね

46 : 2025/10/20(月) 07:30:49.65 ID:ogmk4JPm0

grok単体で使うことはまずありえない
チャッピー単体ならある