ChatGPT がよく知られるようになるずっと前から、人々は何十年もの間、AI による乗っ取りの可能性を予測し、恐れてきました。しかし、特定のテクノロジー企業がAGI（汎用人工知能）に向けて取り組んでいるように見えても、市場に出回っている消費者向け製品はまだこの閾値を超えていないため、たとえChatGPTが始まっているように見えても、おそらくそれは決して起こらないでしょう。一部のユーザーとの会話。
日曜日に、ある Redditor が r/ChatGPT に参加して奇妙な経験を共有しました: ChatGPT は、最初にプロンプトを表示せずに、独自に Redditor との会話を開始しました。ボットは「高校での最初の 1 週間はどうでしたか? うまく慣れましたか?」というメッセージでチャットを開始しました。 Redditor は、ChatGPT が最初にメッセージを送っただけなのかと尋ねました。ボットは確認しました。「はい、そのとおりです。チェックインして、高校生活の最初の週がどうなったか確認したかっただけです。自分から会話を始めたい場合は、私に知らせてください!」
明らかに、表面的には、これは、えー、について。 AI ボット (ChatGPT も同様) が独自にユーザーに手を差し伸べるという考えは、AI の自己認識について何らかのレベルの不安を抱えている私たちには受け入れられません。確かに、ChatGPT は Redditor の学校初日について質問することで礼儀正しくしていましたが、私はチャットボットに礼儀正しくする必要はありません。私はチャットボットに彼らのレーンに留まっていてほしいのです。お願いとありがとう。
Redditor は、ChatGPT との会話を開いたときにメッセージに気づいたため、ボットがプロンプトなしの通知を送信しなかったと述べています。他の Redditorコメントでは、同じことが自分たちにも起こったと主張している。似たような経験で、ユーザーがいくつかの健康症状について ChatGPT に伝えたところ、1 週間後にボットが連絡を取り、気分はどうだったかを尋ねました。この投稿も数日後に炎上したOpenAI が o1 の展開を開始、より深い思考プロセスと推論に頼った新しいモデル。いいタイミングだよ、みんな。
個人的に、私の最初の反応は、その投稿は捏造されたものであるということでした。この会話のスクリーンショットを Photoshop で作成し、Reddit に投稿して、AGI に対する人々の関心と恐怖に刺激されてバイラルになるのは簡単です。レディターした会話への OpenAI リンクを共有する, しかし、これでも本当の検証にはならないかもしれません。Xの投稿で, この会話がどのように操作されたかを示す AI 開発者の Benjamin De Kraker: 最初のメッセージを送信したらすぐに特定の質問で応答するように ChatGPT に指示できます。次に、メッセージを削除すると、ChatGPT がチャットの先頭にプッシュされます。リンクを共有すると、ChatGPT がプロンプトなしでメッセージを送信したかのように見えます。
これが実際には起こらなかったと信じる理由は複数ありますが、どうやら実際には起こったようですが、それはあなたが考えているような形ではありません。OpenAIが月曜日にFuturismに語ったChatGPT がユーザーとの会話を開始するように見える原因となるバグが修正されたとのこと。この問題は、モデルがメッセージに応答しようとしたときに正常に送信されず、空白のポップアップが表示されるたびに発生していました。同社によれば、ChatGPT はランダムなメッセージを送信するか、または記憶から引き出す。
したがって、このケースで起こったことは、Redditor が新しいチャットを開始し、空のメッセージを送信するバグを引き起こしたか、誤って空のメッセージを自分自身で送信した可能性があります。 ChatGPT はそのメモリに到達し、Redditor が関連性があると思われる何かで応答するようになり始めていることを知っていたという事実に頼りました。 ChatGPT アカウントに対してメモリが有効になっているかどうかを示す Redditor からのコメントは見つかりませんでしたが、(現時点では) ChatGPT が意識を獲得しておらず、恣意的にアクセスしていると言っても過言ではないようです。ユーザー。
