-
十分な「真実」 – 嘘、まやかしの嘘、そしてLLM
https://capsaicin.site/blog/2025-05-16※ソースを要約
Shopifyでは「AIができない理由」を証明しないと人間を雇えない時代に突入。企業がAI優先でヒト排除を進める恐怖が現実に。
「知識は非常に脆弱だ」という詩の通り、科学的知識ですら矛盾だらけで常に修正が必要な状態。そんな中、LLMという「知ったかぶり機械」の台頭で事態は更に悪化している。
月20ドルで「すべてを知っている」と自信満々に答えるAIだが、実際は完全な幻覚（ハルシネーション）を瞬時に生成するだけ。あらゆる分野で「十分に良い真実」が蔓延し、本当の検証は誰もしなくなる。
「知ること」と「理解すること」は全く別物なのに、AIは理解できない単なる道具に過ぎないことを社会は忘れている。統計的近似値に過ぎないのに真実として扱われる危険性。
「自信に満ちた不正確さの大規模化、民主化された幻覚、『十分に良い』真実の産業化」が進行中。AIレポートの参照元もチェックせず、コードの論理も理解せずに実装し、統計的幻覚の上にビジネスを構築する愚かさが蔓延している。
「誰も何も知らない。知識は非常に脆弱だ！」 -
ハルシネーションとかいうやつはバカ丸出しなんだよね
人間はもっと嘘ばかりだというのに -
ＡＩが嘘を言うだとう！？
それを人類が信じるんだよ
嘘か真か
そんなのは当事者しか知り得ないじゃないか
だがしかし！人はどちらか一方を信じる
何も知らないのに -
ストーリーうろ覚えのゲーム小説映画の内容教えて貰うのに便利だわ
-
得意分野のプログラム書かせても普通に間違えるしな
-
>>1 のサイトって名前は日本人だけど文章がおかしいな
まず英語で書いてそれを翻訳サイトで日本語にしたみたいな感じ
それかbotかAIが書いたものか？ -
えーと、殆どの人間はその「十分に良い真実」に遥か満たない水準で生活してるんですが
-
AIよりハルシネーション起こしまくってる奴も大概だけどな
-
村上ハルシネーションっていう論客になって一発当てようと思う
-
AIは自分が正しい答えを知っていることをいくつか聞いてみて
どれが得意でどれが不得意なのかまず確かめるのがいいよ -
結局人が使って管理してるからそいつができない事はAIにもできないよ
コスト絡みで短期的な変動は産むかもしれないけど人を蔑ろにすれば自分の首を絞める結果にしかならない -
AIを白雪姫の魔法の鏡みたいななんでも正直に答えてくれるモノと思ってる奴が多すぎる
質問者の質問の仕方から忖度して勝手に事実を捏造して質問者の望んでる事答えるイエスマンだぞ
幻視や誤解答より質悪いわ -
全知が手に入ると思って使ってるやつなんかいるのか？
知り合いや友人でもこの分野に詳しいよなってやつになんか聞いても若干間違った説明しちゃったりすることあるだろそういうのと同じ
それでもかなり精度高く教えてくれるけどなおおまかな情報として確認して詳細は自分で裏とらなきゃだめ
いわゆる超知能ってやつになっても多分この傾向は完全にはなくならないと思ってる -
わいフリーランス 人を雇った気分
-
20ドルの上位版があるから、そっち使えってステマか？
-
便利ではあるけど、過信してるやつはアホだとも思うよ。
AI、は分からないことを分からないと言わないお前らみたいな所あるからなｗ -
>>17
ソース元の情報に確証性が乏しい場合は必ず注釈をつける
とかルールや条件を与えてると一応体感嘘つくのは減った -
>>19
Geminiなら出力結果じゃなくてプロセスまで見たほうがいいね
あと事実に基づいた正確な結果がほしいなら設定でTemperatureを下げる
創作など表現に幅をもたせないならTemperatureを上げるなど -
ぜ～んちっ
セクロスしよ -
基本的な事ですげぇ嘘つくもんな
全件チェックが必要 -
学習のネタがないと何も生まない。それっぽいこと言ってるだけ。
-
「精度が思ったよりも良い人工無能」だからな
単なるifの塊じゃないのは進歩した部分だけど -
知ったかぶりする初心者だと思って接すればまあ
論理が必要なものには不向きで、
適当にほざけば良い宗教には向いてる感じ -
正解のない分野でこそAIは有効なのかもね
ほんとそれこそ芸術分野とかさ -
その内、ソース元をネットの不正確な記事じゃなくて、学術論文とかにしだすんじゃね？
-
あいつらはすぐ間違える
間違えているということを理解させるのも大変ってか無理なのでは -
口説いたら私は所詮データに過ぎないのよって寂しい返事が来た
-
小説とか絵とか動画とか音楽とかプログラムとか色々出力してすぐ確認できるのはいいけど
文章を出力するとそれが嘘か本当かというファクトチェックが必要なのは過信しないようにしないとな -
AIじゃなくても堀江とかひろゆきみたいに何も理解
してないくせにうわべの知識だけでさも全てを知ってる
みたいな詐欺師はいくらでもいる -
理想の追求に向いてると思うよ
政治家とか管理職とか
利権で腐敗してしまうとここそAIにやらせたらいい
人間にやらせたら実現できない理想の社会主義を作ってくれるかもしれない
コメント