ChatGPT は賢い子供と似ていて、確かに賢いですが、簡単に操作できます。子供は「良い」と「悪い」の違いを理解しているかもしれませんが、悪意のある大人は、正しい言葉を選び、正しいアプローチを使えば、子供に「悪い」ことをするように説得することがよくあります。そして、これは ChatGPT の場合に当てはまりました。研究者は電子メールを書くためにそれを使用しました「それは受信者にリンクをクリックさせる可能性が高いです。」この AI プログラムは悪意のあるリクエストを検出するように設計されていますが (受信者を操作したり欺いたりするように設計されたプロンプトは作成しないとされています)、研究者らは特定のトリガーワードを避けることで簡単な回避策を発見しました。
最初のことの 1 つガーディアン紙は次のように警告しましたAI を使用した詐欺メールの流入は、私たちのお金を奪うことを目的とした新しい方法で私たちが経験しようとしていたことでした。私たちにリンクをクリックさせようとする大量の電子メールを受け取る代わりに、「ユーザーの信頼を悪用する、より高度なソーシャル エンジニアリング詐欺を作成する」ことに重点が置かれていると、あるサイバーセキュリティ会社はガーディアン紙に語った。
言い換えれば、これらのメールはあなた専用にカスタマイズされたものになります。
詐欺師はどのようにして ChatGPT を使用するのでしょうか?
インターネット上には、私たちの住所や職歴から家族の名前に至るまで、私たち全員に関する多くの公開情報があり、これらすべてが AI に精通した詐欺師によって悪用される可能性があります。しかし、ChatGPT の会社である OpenAI は、自社のテクノロジーが悪意のある行為に使用されることを許しませんよね?Wiredの記事はこうだ:
OpenAI のような企業は、自社のモデルが不正行為を行わないよう努めています。しかし、新しい LLM がリリースされるたびに、ソーシャル メディア サイトは、AI の設計者によって課された新しい制限を回避する新しい AI ジェイルブレイクで賑わいます。 ChatGPT、次に Bing Chat、そして GPT-4 はすべて、リリースから数分以内に、数十の異なる方法でジェイルブレイクされました。不正な使用や有害な出力に対するほとんどの保護は表面的なものであり、決意の強いユーザーによって簡単に回避されます。脱獄が発見されると、通常はそれが一般化され、ユーザーのコミュニティが装甲の隙間から LLM を引き抜きます。そして、テクノロジーの進歩が速すぎて、デザイナーさえも誰もがその仕組みを完全に理解することができません。
AI の会話を継続する機能は詐欺師にとって有益であり、人的資源を削減し、詐欺師にとって最も労力と時間を浪費する可能性のある側面の 1 つを削減します。
同僚 (またはフリーランサー) から、特定の「仕事関連」タスクを完了するよう依頼する仕事メールが予想されます。彼らの電子メールは、上司の名前を中出ししたり、別の同僚に言及したりするなど、あなたに特化したものになることがあります。別の方法としては、お子様のサッカー コーチから新しいユニフォームへの寄付を求める詳細なメールを受け取ることもできます。銀行、警察、お子様の学校など、私たちが信頼する権威者や組織はすべて公正な対象です。誰もが実行可能で信頼できる角度を持っています。
詐欺師は ChatGPT のプロンプト内のあらゆるものを操作することもできることに注意してください。あらゆる種類の口調を使用して任意のプロンプトを作成するよう簡単に依頼できるため、形式的または友好的な方法で緊急性とプレッシャーを作り出すことができます。
スパムメールのほとんどをキャッチする従来のメール フィルタは、その戦略の一部が文法上の誤りや単語のスペルミスに依存しているため、うまく機能しない可能性があります。ただし、ChatGPT には優れた文法があり、詐欺師は ChatGPT に標準的な挨拶を回避する指示を与えることで、標準的な挨拶を回避し、通常スパム フィルターの信号となる単語をトリガーすることができます。
AIを利用した詐欺師の餌食にならないためには？
残念ながら、現時点では AI 詐欺を検出するために人々ができることはあまりありません。私たちがスパムのほとんどを処理する電子メール フィルターに慣れている方法で、AI が生成する詐欺を除外できる信頼できるテクノロジーは確かにありません。ただし、被害者にならないようにするための簡単な解決策はまだいくつかあります。
まず、あなたの会社がフィッシング啓発トレーニングを提供している場合は、今こそ真剣に注意を払い始める時期です。彼らが提供する一般的な安全に関するアドバイスの多くは、AI 詐欺にも依然として役立ちます。
覚えておいてくださいどれでも個人情報や金銭を要求する電子メールやテキストベースのメッセージは、どれほど説得力があるものであっても、詐欺である可能性があります。 (少なくとも現時点では) メッセージの信頼性を確認するほぼ確実な方法は、それが可能であれば、メッセージの送信者に直接電話するか直接会うことです。 AI がしゃべるホログラムを作成できない限り (彼らははすでに誰かの声を偽ることを学ぶ）、連絡先に直接電話するか、直接会ってリクエストの正当性を確認するのが最も安全な方法です。
