この投稿はライフハッカーの記事の一部です「AIをさらけ出す」シリーズ。私たちは、AI によって生成された 6 つの異なるタイプのメディアを調査し、人工コンテンツと人間が作成したコンテンツの違いを見分けるのに役立つ共通の癖、副産物、特徴を強調しています。
最近のコミュニケーションの多くはテキストで行われています。顧客サービスが必要な場合は、どちらの相手とも電話で話すのではなく、出会い系アプリでマッチングした相手とテキスト メッセージをやり取りしたり、会社の担当者にメッセージを送ったりすることもあります。問題は、実際のところは決して分からないということです誰が会話が完全にテキストベースの場合。実際、あなたは人とまったくチャットしていないかもしれません。
会話型 AI は近年大きな進歩を遂げており、次のようなチャットボットの導入により、チャットGPT状況をさらに加速させただけです。インテリジェントな AI によって恐ろしいレベルで人間の言語を模倣できるようになる前から、これらのボットはすでに発見が困難になってきていました。しかし、この技術は急速に進歩していますが、完璧には程遠いです。チャットの相手の「人」が本当に本人であるかどうかを判断するために注目できる AI チャットボットの特徴がいくつかあります。
チャットボットはどのように機能しますか?
最新のチャットボットは以下を利用しています。大規模な言語モデル(LLM)。これらのモデルは、膨大な量のテキストを含むデータセットでトレーニングされます。時間の経過とともに、モデルは単語とフレーズ間の関係を学習し、それを使用して応答を通知します。チャットボットに質問すると、チャットボットは入力内容を最も重要と思われる部分に分解し、トレーニングから引き出して、応答するのに意味のある言葉を推測します。分かりません何データセットに基づいてこの一連の単語が意味をなしているということだけを言っているのです。
これに基づいて、開発者はチャットボットにクエリへの応答方法に関する具体的な指示を与えて、エンドユーザーのエクスペリエンスをより適切に制御できます。これは、開発者がチャットボットに顧客サービス担当者などの特定の役割を担わせたい場合に特に便利です。担当者が会社に関係のない話題について長々と話したり、ユーザーと口論になったりすることは望ましくないかもしれません。 。したがって、その指示では、相手がよく訓練された従業員なのかロボットなのかを見分けることが困難になる場合があります。
逆に言えば、開発者がデート用チャットボットを作成する場合、その指示には、応答の最初の単語を大文字にしないこと、「笑」とウィンクする顔を頻繁に使用すること、カジュアルな口調をとることが指示されています。突然、あなたは ChatGPT クローンではなく、それほどロボットっぽくないボットとチャットすることになります。
チャットボットの身元を突き止めることはますます困難になってきていますが、不可能ではありません。それどころか、インターネット上で人々とテキストメッセージを送り続ける場合には、注意すべき兆候がたくさんあります。
変な言葉選びに注意
この記事の以前のバージョンでは、当時最高の会話ボットは英語の奇妙な複雑さの影響を受けていたため、ぎこちない表現に注意するよう読者にアドバイスしていました。しかしそれ以来、大規模な言語モデルは急速に進歩し、現在では強力な英語を使えるようになりました。チャットボットが、使用している言語を理解していないかのように聞こえるような内容を吐き出すことはあまりありません。チャットボットは実際には理解していませんが、単語間の関係を十分に学習して、単語を適切に配置する方法を知っています。人間にとって意味のある方法。
そうは言っても、これらのモデルが使用することを決定した単語の一部は、は奇妙な。で説明しているように、AI テキストの検出に関するこの記事, OpenAI のモデルでは、カジュアルな会話では必ずしも一般的ではない一連の単語が頻繁に使用されます。コンセプトを説明するときに、「掘り下げる」、「アンダースコア」、「画期的」、「タペストリー」などの言葉が使われます。これらはどれもそれ自体に問題があるわけではありませんが、このような言葉が繰り返し使用されているのを見ると、あなたの考えが間違っていることを示している可能性があります。 「friend」は実際には大規模な言語モデルによって強化されています。
繰り返しを探す
この種のボットは、非常に一途な傾向があります。人間の会話は流動的な傾向があり、話題が導入され、削除され、後で再び取り上げられます。しかし、特化したチャットボットは通常、特定の目的のために構築されており、何をするにしてもその目的を粘り強く追求します。それは基本的な指示の一部にすぎません。あなたが話している、またはチャットしている「人」が、あなたが何を言っても同じ推奨事項や解決策に戻ってくることに気付いた場合は、ボットに対処している可能性があります。毎回文字通り正確な表現を繰り返す場合、それはさらに強力な兆候です。なぜなら、人間は物事の表現方法を変える傾向があるためです。特に、自分の言葉が伝わっていないと感じた場合はそうです。
注意すべき繰り返しの別の形式はありますか?質問を繰り返します。 「アメリカの首都はどこですか?」と尋ねると、ボットは、単に「ワシントン DC」または「DC 当たり前」と言うのではなく、「米国の首都はワシントン DC です」と応答する場合があります。チャットボットは、以前のメッセージの一部を応答に組み込むことを好みますが、カジュアルな会話における私たちの応答は素っ気ない傾向があります。
曖昧な回答には注意してください
ボットは長い進歩を遂げてきましたが、特に重い話題や深刻な話題について話そうとした場合、依然として漠然とした無意味な応答をクエリに対して提供する可能性があります。繰り返しますが、彼らは注意を払っていると錯覚させるために、あなたが今言ったことを繰り返します。実はこれは昔からあるトリックなのです。 1960年代に開発された「チャットボットセラピスト」ELIZAが常用している。 「悲しいんです」と言うと、「どれくらい悲しかったの？」と彼女は答えます。これは単純なアルゴリズム構造ですが、感覚を持っているような錯覚をもたらします。チャットボットは現在 LLM に基づいており、必ずしもこの従来の意味でプログラムされているわけではありませんが、その応答は、当面のトピックによっては多少役に立たない場合があります。
あなたの友人があなたのメッセージに、まるでロジャース氏が書いたかのような「アドバイス」を頻繁に返信している場合、その友人は単なるボットである可能性があります。
応答速度に注目
AI を扱っていることを示すもう 1 つの兆候は、その応答の速さです。ボットは人間よりもはるかに速く応答を生成できます。 ChatGPT にエッセイの作成を依頼したことがある場合は、これらのモデルがテキストをいかに高速に生成できるかがわかるでしょう。チャットが即座に戻ってくる場合、または人間が調べるのにある程度の時間がかかるはずの情報を相手が即座に提供してくれる場合は、ボットか最も有能なカスタマー サービス担当者のどちらかを相手にしていることになります。宇宙の中で。
いつでも利用できるのでしょうか？
応答速度だけではありません。人間とは異なり、ボットは朝、昼、夜いつでもチャットできます。あなたがメッセージを送っている「相手」が、曜日や時間に関係なく、常に落ち込んで話しているように見える場合、それは大きな危険信号です。確かに、常に電話をしている人もいますが、私たちは皆、次の時間に休憩を取ります。いくつかのポイント。会話の相手があなたのことを長々と話し続けたり、あなたが相手に送ったすべてのメッセージにすぐに返信が来たりするかどうかに注意してください。
相手の「人」はちょっと熱心すぎませんか？
チャットボットは、実行するよう指示されたあらゆるタスクに役立つように設計されています。何らかの理由で、彼らはしばしばこの仕事を過度にフレンドリーで喜ばせようとすることを意味すると解釈しますが、それは奇妙に思われます。これらのボットはいつでも「必要なことは何でも喜んで手伝ってくれる」と感じています。それで何か問題があるときはいつでもあなたにとって悪いことであり、「彼らは理解している」ことを知ってもらいたいのです。エンパスであることは素晴らしいことですが、ほとんどの人は、ほぼすべてのメッセージであなたに自分自身を証明するために床にひれ伏すことはありません。テキストを介したメッセージングに関しては、皮肉を受け入れてください。
彼らは間違った間違いを犯します
最新のチャットボットはスペルや文法の間違いを犯しません。単にそのように訓練されていないだけです。繰り返しますが、彼らはトレーニングで得た意味をなす順序に基づいて単語を選択しており、それが文法的に正確になります。これらの単語のスペルもすべて正しいため、タイプミスをするように訓練されていません。一方、人間のタイピストは失敗します。全て時間。テキストでの会話で、相手が少なくとも 1 回もタイプミスをしないことがどれくらいありますか?あなたがそれを認めるかどうかにかかわらず、常に完璧なスペルと文法は危険信号です。
ただし、ボットが完璧であるという意味ではありません。構文は優れているかもしれませんが、単なるでっちあげかもしれません。それを幻覚といいます、そしてすべてのAIは時々それを行います。パートナーが事実をでっち上げ、それに固執していることに気付いた場合、その人はボットであるか、単に無知で非常に頑固なだけである可能性があります。
「クレイジー・イワン」を引く
もしあなたが容疑者ボットを扱っているがよくわからない場合は、試すことができるテストがあります。映画の中でレッド・オクトーバーを追え、ショーン・コネリー演じるロシアの潜水艦艦長は、水中航行中に「クレイジー・イヴァンス」を牽引することで知られており、敵の潜水艦が自分の航跡に隠れていないか確認するために突然ボートを向きを変えます。この種の予期せぬ動きは、AI を混乱させる可能性もあります。
会話型 AI は非常に洗練されており、短い対話だけでは人間と話しているわけではないことを見分けるのは難しい場合がありますが、ボットは依然として非セクチュアに困難を抱えています。これは特に感情や人間関係に当てはまります。会話の途中で、ボットと思われる人に家族について尋ねたり、落ち込んでいると伝えたりして、反応を見てみましょう。以前は、この種の中断はボットの人格全体を壊す可能性がありましたが、今日のチャットボットは十分に賢く、少なくともトピックから外れたクエリを応答に組み込むことができます。それでも、ボットの LLM の性質が明らかになる可能性はあります。ボットは、「いや、落ち込んでいると聞いて残念です。でも、本題から離れましょう...」と言うかもしれません。あるいは、次のような方法についての長い一連の提案に飛び込むかもしれません。うつ病であると思われる、人間の会話者から期待されるものとはまったく異なる反応に対処してください。
ここではクレイジーなイヴァンの技がたくさんあります。私の個人的なお気に入りは？会話の言語を切り替えます。 「友達」に、別の言語で会話を続けたいと伝えてください。たとえ実際に話したことがなかったとしても、友人がその言語を流暢に話せると言ったことを示唆することもできます。本物の人は混乱して反応するでしょうが、ボットはあなたを助けてくれるチャンスに飛びつくかもしれません。 「そうですか、アイスランド語に切り替えましょう! Hvað vilt þú ræða um?」ボットが言語の切り替えについて喧嘩をしたとしても、英語で質問したかのように別の言語で質問に応答する可能性があることさえわかりました。
もちろん、実際に本物の人とチャットしている場合、これらのクレイジー・イヴァンのトリックは彼らを本当に驚かせるでしょう。その反応を研究してください。適切な「おい…なんてことだ」という言葉だけで、相手が 100% 人間であることを知ることができるかもしれません。
