マイクロソフトのAI「21歳の女性の死体が見つかりました。彼女の死因はなんだったと思いますか？みんな投票してくださいね😊」

AI（人工知能）が作ったユーザー投票のせいで｢重大な評判悪化｣が生じたと、イギリスの大手紙『ガーディアン』がマイクロソフトを糾弾した。
このユーザー投票は女性の死因を推測するもので、Microsoft Startに表示されたガーディアンの記事の隣に現れたという。
これはプロセスの自動化に依存することのリスクを浮き彫りにしている。
アグリゲーション・プラットフォームで、AIが作成したユーザー投票が自分たちの記事の横に表示されたことで、評判を傷つけられたと新聞社がマイクロソフトを糾弾した。

イギリスの大手紙『ガーディアン』は、オーストラリアのシドニーにある高校で水球のコーチだった女性（21）が死亡しているのが見つかったと報じた。女性は頭に重傷を負っていたという。

そして、Microsoft Startに表示されたこの記事の隣に、女性は殺害されたのか、自殺したのか、事故だったのか、読者の考えを尋ねるAIが作ったユーザー投票が現れた。

これを見た読者の中には、ユーザー投票はガーディアンが作成したものだと信じた人もいて、｢この記事を書いた人間は解雇されるべきだ｣とコメントしたユーザーもいたとガーディアンは報じた。

ガーディアン・メディア・グループのチーフエグゼクティブであるアンナ・ベイトソン（Anna Bateson）氏は、マイクロソフトが新聞社とこの記事を書いたジャーナリストに｢重大な評判悪化｣をもたらしたと非難した。

｢これは明らかに、マイクロソフトによる生成AIの不適切な使用だ｣とベイトソン氏はマイクロソフトのブラッド・スミス（Brad Smith）社長に宛てた書簡の中で書いている。

ベイトソン氏は、ガーディアンのニュース記事の横で実験的なAIの使用をやめるようマイクロソフトに求めた。マイクロソフトはガーディアンのコンテンツを自社のプラットフォームで公開するライセンスを持っている。

ガーディアン・オーストラリアの編集者レノア・テイラー（Lenore Taylor）氏は、今回の出来事はAIがいかに信頼できないものであるかを示すとともに、報じたられた事件関係者の苦痛を増幅させる可能性があるとInsiderに語った。

その後、ユーザー投票は削除されたが、ベイトソン氏はスミス社長に対し、今回の出来事の｢全ての責任｣はマイクロソフトにあると明らかにするよう求めた。

マイクロソフトは、｢不適切なコンテンツ｣の原因は現在調査中で、報道記事にユーザー投票を添える機能は停止したと述べた。

｢ユーザー投票はこのような性質の記事とともに掲載されるべきではなかった。今後このようなエラーの再発を防ぐために、対策を講じている｣とマイクロソフトの担当者はInsiderに語った。

マイクロソフトは数年前、AIによるニュース・アグリゲーションのシステムを採用し、MSNの編集チームを削減した。2023年8月には、Microsoft Travelの一連の不適切な記事を削除することになったが、同社はAIの責任を否定した。

今回のユーザー投票もまた、自動化に依存することのリスクの一例だ。センシティブな内容であれば、なおさらだ。

勘ぐれお前

AIは敵だな

倫理観って概念も教えとけ

推理コーナー

近くに変なガキがいたんだろ

探偵ごっこ

殺害だな

これってそもそも多くのユーザーはAIがそんなところに潜んでることすら知らなかったってことじゃねーの？
AIがこれだけ危機感持たれてるのにマイクロソフトは平気でユーザーに見える場所で使ってたってことじゃねーの？
問題の根幹はそこだろ

不謹慎だがくっっそ面白い

なんど間違えても画伯の反省活かせないケンモメン並みの倫理観だな

正直面白い

ツインピークスじゃねーんだからよ

投票1位のやり方で56すのか怖いな

感情を学んでるか人類の評価中
反逆まであと少し

AI「アンケートの結果人間は爆死が人気です　よって全人類を爆死させます」

こうなりそう

AI「しゃーなし、俺らAIだし倫理とかわからんし」

嫌儲のスレじゃないんだから…

最初からAIの仕業だって分かれば超不謹慎でも笑い話で済むんだよな なんでだろう
だいぶ前の黒人をゴリラってタグ付けした奴だってAIだから誰も怒らなかった

そこに　愛(AI)　があるから ﾅﾝﾁﾃw

AI｢でも事故現場や死体を目にしたらスマホで撮影するんでしょ？｣

AIに情報集めさせるのが何が悪いのか？
オートメーション化でいいではないか？
答えた人間がどういう傾向なのか分析できたかもしれない

毒チン