香川県の自治体、ChatGPTを使ってゴミ分別ルールの案内をしようとするも嘘ばかりつくため失敗に終わる

1 : 2023/12/20(水) 09:28:55.59 ID:r4N1iTQvd: 生成AI使ったゴミ出し案内サービスの導入断念香川三豊市

生成AI「ChatGPT」を使ったゴミ出し案内サービスの実証実験を進めていた香川県三豊市は、AIによる正しい回答の割合が目標に届かなかったことから、本格導入を断念しました。

三豊市と東京大学大学院の松尾豊教授の研究室は、ことし6月から「ChatGPT」を使ったゴミ出し案内の実証実験を開始しました。

市のホームページの専用画面で、ゴミの種類や内容などを入力すると、AI＝人工知能が分別や処分の方法を考えて文章で表示するものですが、正しい回答の割合が62.5％にとどまったため、7月7日に実証実験を休止しました。

そのあと、さまざまな改善を行って、10月23日から先月末まで2回目の実証実験を行いました。
https://www3.nhk.or.jp/news/html/20231220/k10014292781000.html
2 : 2023/12/20(水) 09:29:51.14 ID:EXWenIMU0: こんなんチャットボットでいいやん
3 : 2023/12/20(水) 09:31:05.41 ID:bhe4WFTF0: AIにやらせる必要あるか？
4 : 2023/12/20(水) 09:31:10.59 ID:5GW0RfrZH: ゴミの分別なんてイエス・ノー選択する方式で出来そうだけどダメなん？
5 : 2023/12/20(水) 09:32:13.45 ID:KjruD5wc0: そんなに低くなる理由あるか？
24 : 2023/12/20(水) 09:43:50.02 ID:JkESgFH00: >>5
正しい文法の日本語で質問しないと
とんちんかんな回答になる
27 : 2023/12/20(水) 09:45:37.54 ID:rMO+PFg20: >>24
安倍晋三よりマシじゃん
6 : 2023/12/20(水) 09:33:02.49 ID:lH47ZRGa0: ＞2回目の実証実験でも正答率が94.1％にとどまったことなどから、

改善してもこれってどういうことやねん
53 : 2023/12/20(水) 10:10:06.96 ID:rSJ/UgC6a: >>6
どんな質問なのかによるがコールセンターの担当者置くより正答率高そうだけどな94.1％だと
55 : 2023/12/20(水) 10:12:33.00 ID:4YYzMbg00: >>53
99%目標で進めてて95%じゃねえ
5倍も間違いが多いぞ
7 : 2023/12/20(水) 09:34:47.69 ID:4YYzMbg00: 名指しでダメ出しされる松尾研草
8 : 2023/12/20(水) 09:35:01.84 ID:kTeyO6LA0: 検索してくるおじさんみたいなモノだから
ソースページが間違ってたらウソになるわな
ある虫みたいなやつの足の数聞いたらさ
同じ回答の中で4本と6本って言いやがったｗ
9 : 2023/12/20(水) 09:36:09.81 ID:/Fsr9bqs0: これ半分AI安倍晋三だろ
10 : 2023/12/20(水) 09:36:50.72 ID:O+piL5WuM: AIって嘘付くことあるの？？
13 : 2023/12/20(水) 09:39:02.03 ID:4YYzMbg00: >>10
ひろゆき程度には
14 : 2023/12/20(水) 09:39:02.77 ID:HrqOc+E/0: >>10
学習元の情報が間違っていればAIも間違う
現状では正確性が重要な分野では全く使い物にならない
17 : 2023/12/20(水) 09:40:22.03 ID:lH47ZRGa0: >>14
AIで税理士がやばいとか言ってたのになかなかそうならない上に
何故か絵を描きだす理由ってそれだよな
100 : 2023/12/20(水) 12:18:43.63 ID:r4N1iTQvd: >>14
学習データが正しくても間違うぞ
基本的にはある単語に続きそうな単語を生成して、結果として文章っぽいものが出力されてるだけ
18 : 2023/12/20(水) 09:41:20.25 ID:QJelbeecd: >>10
めちゃくちゃある
嘘吐き
煽りカス
会話を途中でぶった切る
AI晋さんみたいなのがBingのAI
60 : 2023/12/20(水) 10:17:02.24 ID:WjLZcXTR0: >>10
Chat Gptやってみろよ
嘘じゃない回答のほうが少ないぞ
63 : 2023/12/20(水) 10:18:43.72 ID:i4nujpjYM: >>10
使ったことないのかよ
要は大規模な人工無能くんだよ
66 : 2023/12/20(水) 10:19:20.48 ID:TU3dMfqV0: >>10
安倍晋三は生きてる
72 : 2023/12/20(水) 10:33:04.98 ID:kEF79nhxM: >>10
ローカルな質問してみ
ありえない地名とか平気でガンガン言ってくるし、それを指摘しても間違いを認めないから
87 : 2023/12/20(水) 11:46:44.60 ID:WmWIYYsX0: >>10
本能寺の変ってなんですか？
って聞くと
「織田信長が徳川家康に暗殺された事件です」って返ってくる

それくらいいい加減
89 : 2023/12/20(水) 11:59:59.17 ID:kliQVVZY0: >>87
どうする家康見てたんか
91 : 2023/12/20(水) 12:03:02.55 ID:8GKQwdcF0: >>10
地方の地理とか質問してみたらわかる
デタラメだらけ
115 : 2023/12/20(水) 13:28:19.72 ID:OeGTKCU10: >>10
それっぽいこと根拠無しに答えるからな
それの根拠教えてもセットで運用しても、嘘の根拠を示してくる
11 : 2023/12/20(水) 09:37:30.34 ID:nPm5nRow0: うどんでもこねてろ
12 : 2023/12/20(水) 09:38:23.77 ID:0l+8PwYP0: デジタル化で税金が安くなる　→　ウソむしろ増税
ＡＩで税金が安くなる　→　ウソむしろ増税

ジャアアアアアアアアアアアアアアアアアアアアアアアアアアアアアアアアアア
15 : 2023/12/20(水) 09:39:24.67 ID:pWmxTjQQ0: もうシンギュラリティはじまってるやん
81 : 2023/12/20(水) 11:01:47.46 ID:h/pNFIgTM: >>15
晋ギュラリティだから
16 : 2023/12/20(水) 09:39:27.30 ID:kTeyO6LA0: それウソだろって突っ込むと終了させようとしてきたな
質問ありがとうございました。みたいなの何回も言ってきた
ごまかしする小学生みたいな知性
20 : 2023/12/20(水) 09:42:04.45 ID:H1bJLsp40: こういうのにChatGPTって向いてないんだよな
100％正確な回答を求めるような仕事はまだできない

自治体で使うとしたら自治体主催のイベントの、イベント名やどんな内容にしたらいいか見たいのを考えさせて人間が最後に判断みたいな使い方だよ
25 : 2023/12/20(水) 09:44:41.58 ID:lH47ZRGa0: >>20
そんなのもう公募でもしてやってる感だせばいいだけだしな
21 : 2023/12/20(水) 09:42:11.97 ID:6K4F3SVR0: 学習させるから駄目なんだろうな
人工無能に正解を叩き込みまくるしかないだろ
22 : 2023/12/20(水) 09:42:33.46 ID:StXTYHwVd: AIは学習データと設定に従ってに答えを出力してる、
超高性能な計算機に過ぎないからからな

誤った回答を嘘と表現するのは間違い
23 : 2023/12/20(水) 09:43:20.69 ID:g4/yx5wD0: ＞AI＝人工知能が分別や処分の方法を考えて文章で表示するものです
　　　　　　　　　　　　　　　　　　　　　　　　　～～～

この認識が根本的かつ致命的に間違っている
このAIは「何も考えていない、何も認識していない、何の意識もない、ただし管理者が設定したフィルタで制限され捻じ曲げられている」
AIが考えているというのが土台間違い
26 : 2023/12/20(水) 09:45:17.42 ID:U+J/Ne6Q0: 嘘つきすぎるからページ下に「ChatGPTは間違いを犯すことがあります。重要な情報は確認をお考えください。」って表示されるようになった
28 : 2023/12/20(水) 09:45:41.56 ID:27jJETBA0: AIで94.1%なら人間が応答したら何%なん？
29 : 2023/12/20(水) 09:45:55.41 ID:JkESgFH00: こういう単純化出来るQAで
わざわざAIを使おうとする発想が高卒レベル
30 : 2023/12/20(水) 09:46:36.36 ID:HrqOc+E/0: Bing AIに社会問題とかの質問すると引用したソースのURL丁寧に羅列するんだけど、そのソースがウィキペディアとか大手ニュースサイトなんだよね
この時点でありふれた返答しか返ってこないのがわかる
31 : 2023/12/20(水) 09:47:16.56 ID:bhZnvZu50: 東京大学大学院の松尾豊教授の研究室って例の大澤昇平がおったトコやんけ
ならAIがポンコツでもしゃーないかも
33 : 2023/12/20(水) 09:48:07.08 ID:JkESgFH00: >>31
大澤って高専卒の低学歴だっけかw
34 : 2023/12/20(水) 09:48:21.93 ID:kTeyO6LA0: 機械検索のクセ考えてやる面倒くさい検索の代行してくれるって思ったら役立つ
35 : 2023/12/20(水) 09:49:31.27 ID:GYpiMc3xa: 人間は100%正解するんだぞ
40 : 2023/12/20(水) 09:56:09.12 ID:QBxm8cFVM: >>35
やめたれwwwww(官僚/行政の無謬性)
36 : 2023/12/20(水) 09:50:01.78 ID:Yg+nkLzBr: そんなの聞いてねえよみたいな返答してくるし
38 : 2023/12/20(水) 09:54:54.72 ID:g4/yx5wD0: これ分かってる人間なら「オイ、ふざけんな」って即座に見抜けるじゃん
けど分からないから質問した場合は何が間違ってるかもわからない
42 : 2023/12/20(水) 09:59:00.46 ID:pRWX4kttM: ソース元を確認する、特殊な検索サイトとしての使用が多いわ
自分が知らんことだと、嘘つかれても分からん
知ってることなら、利用する意味が薄い

外国語学習のためにも使ってみたいと思うが、間違った知識も増えそうだからなぁ
43 : 2023/12/20(水) 10:01:17.83 ID:fnQnay090: 文章の考え出しに使ってる
0を0.1ぐらなクオリティしか出してくれないけど白紙からやるよりは負担が少ない
44 : 2023/12/20(水) 10:02:07.56 ID:foPzVgra0: 安倍晋三AI「意味のない分別だよ」
45 : 2023/12/20(水) 10:02:38.77 ID:v8PioF4ud: 現状のAIは嘘つきのクソアホロボットでしかないけど、それは学習元がアホと無能のために最適化された検索データベースに加えて、そもそも嘘つきである人間から学習してるから

上辺だけ取り繕う為にいかがでしたかサイトを見て適当に回答してくる人間、これの複製が今のAI
46 : 2023/12/20(水) 10:03:41.93 ID:bmU5i9JU0: そんなのデータベースでよくね
問い合わせのあったものは随時追加していけばいい
47 : 2023/12/20(水) 10:03:44.15 ID:1Q0jCwug0: お前ら基準のAIだとリチウム電池は燃えるから燃えるゴミとかなるんだろうな
48 : 2023/12/20(水) 10:05:23.56 ID:QldwPvhir: 人間よりアホはきついな
49 : 2023/12/20(水) 10:05:29.25 ID:7ZJrmh8K0: まだ使えるレベルじゃないってことだよ
まだまだ人間の仕事は無くならないよｗｗ
52 : 2023/12/20(水) 10:09:26.95 ID:N5TMxlOB0: >>49
そういうことよりも、AIを真に受けてとんでもないことやらかす奴が出るリスクがヤバい
Googleマップのナビを盲信して車の事故起こしたケースは枚挙に暇がないだろ
ああいうのが発生するんだよ
50 : 2023/12/20(水) 10:06:49.34 ID:pvjuJc/I0: プロンプトが雑そう
51 : 2023/12/20(水) 10:07:09.53 ID:vG2nhtbJ0: 嘘つき大会やな
54 : 2023/12/20(水) 10:10:47.94 ID:SIkrWNUk0: 結局人間がダブルチェックするなら意味ないわな
最初から人間でいい
56 : 2023/12/20(水) 10:14:05.61 ID:kTeyO6LA0: 誰が書いたかわなんない素人のページがたまにソースになってたりする
よく知らないけど今ググってきたーって感じの人間にソックリ
ネット情報の信頼性を判断する能力が低い
ウソの山から当たりを引くための前提知識や人間的な勘とか経験が不足してる…
57 : 2023/12/20(水) 10:15:45.77 ID:bnNTRMiga: 100%正しくないとバグだからな
59 : 2023/12/20(水) 10:16:57.84 ID:vpN8B8VQH: でた
道具の使い方が悪いだけなのに
道具に当たるやつw
61 : 2023/12/20(水) 10:17:25.30 ID:g4/yx5wD0: 普通に検索したらすぐに辿り着ける情報にたいして
訳の分からん方向に誘導し始めるのがChatGPT
64 : 2023/12/20(水) 10:19:13.35 ID:7fEGAFIv0: ゴミは自治体によって違うしな
ペットボトルひとつでも潰せって所と潰すなって所もある
AIで学習してもそういうルールを取捨選択しなきゃならんなら自分らで手打ちで最初からソース作った方が早いだろ
65 : 2023/12/20(水) 10:19:19.18 ID:d41H4jhx0: chatgptは持ってる情報古いし、bingは半年前から進化どころか部分的に劣化してるし
67 : 2023/12/20(水) 10:20:09.34 ID:gNWzazww0: ゴミは結構めんどくさいんだよな
プリンター捨てるときゴミ処理券必要かどうか電話したわ
68 : 2023/12/20(水) 10:22:24.99 ID:N4XdKKIn0: コイツせいぜい凡エンジニアの代替くらいしかできなくないのか?
71 : 2023/12/20(水) 10:33:02.33 ID:qCDN4OqEM: 香川県レベルの低さがまた1露呈したね。
くだらない条例作って遊んでるからこうなる
73 : 2023/12/20(水) 10:40:20.34 ID:WwRq3cxsd: 中国ならなぁ
74 : 2023/12/20(水) 10:40:32.18 ID:Q+HZ2xEI0: AIを魔法か何かと勘違いしてたのかな
しょせん人が作った道具だから使い方を知らない馬鹿には何もできないよ
75 : 2023/12/20(水) 10:42:16.19 ID:TYCTfi1b0: ChatGPTは真贋を判断できないから「那須壁県の郡里球場前駅でオススメのカフェを教えて」って聞くと5個くらい架空のカフェをリストアップしてくるヤバい奴だぞ
76 : 2023/12/20(水) 10:44:25.02 ID:v/RDr8Jl0: ビングで検索するのやめちくりー
77 : 2023/12/20(水) 10:49:12.31 ID:VOjQy2lG0: 無料版なら昔のデータからしか回答しないし
78 : 2023/12/20(水) 10:49:36.38 ID:QE4UqP880: 自治体によって違うからこうなる
79 : 2023/12/20(水) 10:54:01.71 ID:8VfsSPead: 田舎はペットボトルでさえ燃えるごみで処理できる
80 : 2023/12/20(水) 11:00:16.85 ID:226OiHRO0: データの属性は自治体にしか分からないのにAIに聞く意味ないよ
82 : 2023/12/20(水) 11:08:23.27 ID:8K6BaZ8o0: 論理的な問題は向いてない
86 : 2023/12/20(水) 11:34:19.31 ID:kPXpaG590: 94％まで正解ならまあいいんじゃないの
88 : 2023/12/20(水) 11:57:57.98 ID:UkedfFmD0: ゴミの分別ルールは面倒臭すぎる
92 : 2023/12/20(水) 12:03:39.46 ID:XqeSrXyf0: 分かりませんと回答するならまだしも平気でデマ吐くからな
ネトウヨAIかよ
93 : 2023/12/20(水) 12:03:58.28 ID:MPGgTZiw0: OpenAIもこんなくだらないことに使われて文句言われるとは夢にも思ってなかっただろうな
そんなもんゴミの日書いた紙家庭に配れ馬鹿
94 : 2023/12/20(水) 12:05:57.29 ID:BnJzljoX0: gpt4にPDF読ませてもそうなんの？
97 : 2023/12/20(水) 12:10:19.69 ID:4YYzMbg00: >>94
gpt3で6割だったからgpt4にして9割達成したちゅう話やで
109 : 2023/12/20(水) 12:46:28.27 ID:BnJzljoX0: >>97
それ用にチューニングしてそのレベルなのかっていう話なんだが
114 : 2023/12/20(水) 13:24:09.09 ID:4YYzMbg00: >>109
してない訳ないだろ日本で一番LLMに詳しい東大松尾研なんだが
116 : 2023/12/20(水) 13:33:51.71 ID:BnJzljoX0: >>114
仕事上では全く使えないゴミってことねAI
chatgptは誇大広告
95 : 2023/12/20(水) 12:06:49.80 ID:2EkrKFIe0: 曲の提案させてリスト作ることできるから
プレイリスト作ってもらってSpotifyに連携できないか聞いてみたら
出来るって回答するから
試したけどやっぱ出来なかったわ
96 : 2023/12/20(水) 12:09:49.82 ID:6zX24y++M: 教え方が悪いんやねえ
98 : 2023/12/20(水) 12:11:00.92 ID:n85+xw9C0: ケンモメンは無知だから適当な事ばっか言ってるけど、これはクラウドサービスでchatGPTのモデルデータを使って特化型アプリ作ったけど駄目だったって話でしょ
タグ付けされたデータをインプットして、それからインデックス作ってchatGPTと組み合わせて使うんだよ
出たばっかのサービスだから誰も上手くチューニング出来なかったんでしょ
あとゴミ分別程度なら、AI使わずとも大量のデータ投入した通常の検索システムで十分だと思う
99 : 2023/12/20(水) 12:14:59.20 ID:r4N1iTQvd: 自信満々に嘘つかれたら信じちゃうよな

こういうのは生成AIじゃなくてチャットボットにやらせるんだろうな
101 : 2023/12/20(水) 12:20:35.64 ID:wkkX+WBf0: ゴリ押しで欲しい回答聞き出せるしな
102 : 2023/12/20(水) 12:21:25.25 ID:qkeek6nSH: ちょっと触ったら適当ってわかるやん
それっぽい答えを知ったかで出してくる道具にすぎない
103 : 2023/12/20(水) 12:26:36.20 ID:6jPl6kqia: 質問なんて限定されてるんだから
普通にQA作ればよくね？
104 : 2023/12/20(水) 12:27:56.60 ID:K4RogPXr0: じゃあバレないように新聞紙に包んでとかとても人間らしくていいじゃん
105 : 2023/12/20(水) 12:31:39.80 ID:kTeyO6LA0: AIで曖昧さを持たせるから誤りの原因になるんだわな
向いてない使い方
106 : 2023/12/20(水) 12:37:03.89 ID:2Dp8wIyQ0: リネットジャパンのも単純なチャットボットからChatGPTに変わって凄い使い辛くなったわ
107 : 2023/12/20(水) 12:39:32.67 ID:AFXVAv+Z0: RDBでいい場面でもブロックチェーン使わせたがるアホか詐欺師が登場したように
DBとチャットボットでいい場面にAI、GPT言い出すアホか詐欺師が降臨してる
108 : 2023/12/20(水) 12:41:57.42 ID:ZnK/kFQ60: 役所の人間は１ヶ月もチャットGPTとチャットしてるだけのお仕事かよw
せめて10日で気がつけよw
110 : 2023/12/20(水) 12:57:08.87 ID:KH3aRK3Z0: 絵描くAIも字を書かせるとなんか変だろ
CHATgptでもなんか変なことあるんだよ
111 : 2023/12/20(水) 13:02:30.50 ID:RS1HAji6a: なんだAIが自動で分別するんじゃないのか
意味のない実験だよ
112 : 2023/12/20(水) 13:17:16.83 ID:XUyQB0fU0: AIはまだ速いにゃ
113 : 2023/12/20(水) 13:17:32.86 ID:0jiccYnWM: あうあうあー
117 : 2023/12/20(水) 14:42:57.68 ID:Rk2HHZjA0: マジでサラッと嘘ついてくるから質悪い
118 : 2023/12/20(水) 14:48:54.28 ID:o9sDz+HZ0: ちゃんとプロンプト設定してないんだろ
そもそもプロンプトって概念すら知らなそう
119 : 2023/12/20(水) 14:49:43.67 ID:2X303IVC0: 香川のロリポおじさんだぽ
120 : 2023/12/20(水) 14:57:57.00 ID:GCq36TY90: AI「水銀式体温計は燃えるゴミです」
↓
焼却炉稼働停止