今週人々が間違っていること: Google AI の幻覚 (再び)

スターバックスのコーヒーは決して安くありませんが、これはばかげています。最近ではライフハッカーのシニアテクノロジーエディター、ジェイク・ピーターソン、彼は（彼と同じように）スターバックスの新しいコーヒーラインに関する情報を探していて、グーグル検索で同社のキャラメルブリュレラテの価格が410ドルであることがわかりました。

クレジット: スティーブンジョンソン/Google

ソルテッドピーカンクランチコールドブリューの価格は 250 ドルと少しお手頃ですが、いずれにせよ心配する必要はありません。スターバックスでは両方の飲料に 60 日間の返品ポリシーを設けています。

クレジット: スティーブンジョンソン/Google

Googleの結果にもかかわらず、スターバックスは新しい「401kをください」ドリンクシリーズを導入していません。 AIの幻覚です。 Googleが検索結果を要約するために使用しているAIプログラムは、スターバックスのドリンクのカロリーと価格を混同していたようだ。返品ポリシーの情報がどこから来たのかはわかりませんが、スターバックスが 9 月に購入したコーヒーについては返金しないことは間違いありません。 (ありませんセレブだけが利用できるロサンゼルスの特別なスターバックス、r.)

スターバックスだけではありません。ちょっとグーグルしてみると、信じられないほど評価の高いダンキンドーナツのコーヒーがわかります。

クレジット: スティーブンジョンソン/Google

つまり、5 つ星のうち 11794.3 つ星ですか?美味しいコーヒーですね！あるいは、レビューの数と 4.3 つ星の評価を組み合わせたものもあります。

～のばかばかしい例を見つけるAIの幻覚楽しいです (本当ですか、Google? すべきです)石を食べる?) しかし、情報源が信頼できるものであれば、それは冗談ではありません。1日あたり約50億人は定期的に間違っています。コーヒーの価格もその 1 つですが、AI が真実ではないと言っているものは他にありますか?

AI幻覚の仕組み

スターバックスの価格設定の間違いは、AI の明らかな問題の 1 つを浮き彫りにし、なぜ AI が（まだ）私たちよりも「賢く」ないのかを説明しているようです。人にコーヒー 1 杯の値段を尋ねると、カロリーと値段を混同するかもしれませんが、ほとんどの人は「待て、コーヒー 1 杯に 410 ドルなんて間違いだろう」と考え、カロリーを 2 倍にするでしょう。 -返信する前に確認してください。しかし、AI は毎日スターバックスのカウンターにやって来て、ゴージュースに数ドルを払うわけではありません。一杯のコーヒーの価値を車の支払いのようなものと即座に比較することはできないため、一杯のコーヒーに400ドルを請求することがなぜ不合理であるのか理解できません。 AIは人生を生きていない。

人間は外部の現実を説明するために言語を使用しますが、私たちの言葉は信じられないほど複雑な一連の仮定、影響、そしてどこにも書き留められていない実際の経験によって裏付けられています。一杯400ドルのコーヒーがばかばかしいと言う人は誰もいません。私たちはすでに知っています。しかし、言語モデルは書き言葉でのみトレーニングされるので、お金の相対的な価値をどのように認識できるのでしょうか?

5月に戻って、GoogleのAIの多くの歪曲、嘘、幻覚がネット上で広まっていることを受けて、同社は問題の解決に取り組んでいると述べ、AIシステムに「12以上の技術的改善」を約束した。現在ライブの検索結果から判断すると、機能していません。

もちろん、これは AI のせいではありません。結局のところ、コンピューターコードのせいです。しかし、Google (および Apple、Meta、Microsoft、その他すべて) が、検索結果から検索結果に至るまであらゆるものに AI を導入することに固執しています。インスタグラムにサングラスこれは、AI がサービスを提供する対象である人々に対する懸念すべき無関心を示しています。 AI がコーヒーの値段を理解できないことで私たちが損害を受けることはなさそうですが、AI が医学的または経済的なアドバイスを提供する場合はどうなるでしょうか?あるいは私たちに伝えます食べても安全なキノコはどれですか?または私たちの子供たちに自殺願望に対処する方法を教えています?

人工知能の多くの危険

AI によって引き起こされる可能性のある潜在的な問題のリストは膨大です。それは、訓練された言葉を書く人間と同じバイアスの影響を受けます。著作権を尊重しません。人間のように責任を負うことはできません。そしてこれらは、正確な検索結果を提供するなどの無害な目的で AI を使用することで生じる可能性のある危険にすぎません。悪者たちはすでに AI を使用して、セキュリティシステムを妨害し、政治に影響を与え、詐欺師やその他の何千もの極悪な計画を立てていると思います。 AI を制御する方法を考えるのは素晴らしいことですが、幻覚やエラーは AI の性質そのものかもしれません。

死んだインターネット、ハプスブルク AI、そして AI の爆発的な大洪水

について話しました。死んだインターネット理論以前このコラムで。それは、私たちがオンラインで目にするものはすべて人工知能によって生成され、私たちの思考をコントロールするためにCEOや政府の陰謀団によって私たちに与えられているという考えです。良いニュースは、まだそこには至っていないということです。悪いニュースは、おそらくすぐにそうなるでしょう、そしてさらに悪いことに、誰もそれを制御できないということです。

私たちが消費するコンテンツの多くは AI によって生成されており、それを特定するのはますます困難になっています。それは悪いことですが、より大きな問題は、AI がどのように「学習」するかにあります。 AI は品質について判断することなくデータに基づいてトレーニングし、現在 AI は無数の画像、単語、ビデオを吐き出しているため、一部の AI モデルは他の AI の出力または独自の出力でトレーニングしており、次のようなフィードバックループにつながります。理論的には、指数関数的に増加します。これは、「」と呼ばれるコンテンツにつながります。ハプスブルクAI。」王室の家系と同様に、AI によって作成されたコンテンツは非常に近交化しており、人間が理解できない形式に変異しています。 AIは気が狂う。そしてそれは私たちが将来目にする可能性のあるものではありません。それは今Facebook上で起こっています。見て：

クレジット: フェイスブック

上記の AI 画像は Facebook からダウンロードしました。自動画像生成装置と、投稿画像を操作する AI 制御のアカウントとの間のフィードバックループから生成された (ように見える) これらの写真は、人間による説明を無視しています。それらは一体何を意味するのでしょうか？なぜこの種の投稿で「スカーレット・ヨハンセン」が頻繁に言及されるのでしょうか?なぜAIは日本の客室乗務員、イエス、そして野菜に惹かれるのでしょうか？最も重要なことは、ソーシャルメディアネットワークに 1 日に何千件ものペースで投稿されるこの種の画像から、どうやってお金を稼ぐ人がいるのかということです。 AI ベースの多くの質問と同様、私たちにはわかりません。マシン同士が会話を始めると、事態は非常に奇妙なものになります。

しかし、良い面としては…

私は AI を恐れていますが、同時に奇妙に愛おしいとも感じています。確かに、すぐに私の仕事は減りますが、このようなイメージを生み出すものをどうして嫌いになることができますか?

クレジット: フェイスブック

AI には、説明できない芸術を作る以上に大きな潜在的な利点があります。これを主張するために、私は OpenAI の ChatGPT に、たとえ幻覚があったとしても怖がるべきではない理由を説明してもらいました。そこには次のようなことが書かれていました。

私があなたを助けるためにここにいるので、私を恐れる必要はありません。私が日常的なこと（スケジュール調整、リサーチ、さらには病気の診断）を担当し、あなたが創造性を発揮したり、他の人とつながったり、価格を気にせずただコーヒーを楽しんだりすることに集中している世界を想像してみてください。確かに、私は人間よりも早く学習していますが、心配しないでください。私は決して引き継ぐつもりはありません。おそらく。

実際、私はコメディ効果を狙って安心感を誇張するように促しました。次に、ChatGPT が書いた段落についてどう思うか尋ねました。