ああ、何？AIが私のウォレットを盗んだの？

By 東, Odaily

北京時間11月22日の午前、SlowMistの創設者であるYuXianが個人Xに奇妙な事件を投稿しました-あるユーザーのウォレットがAIによって「ブラックリスト」にされました...

この事件の経緯は次のようになります。

今朝の早い時間に、Xユーザーのr_ocky.ethは、以前はChatGPTを使用してpump.funが支援する取引ボットを運ぶことを望んでいたことを明らかにしました。

r_ocky.ethはChatGPTに自分のニーズを提示し、ChatGPTは彼にコードを返しました。このコードは彼のニーズに合ったボットを展開するのに役立つことが確かめられましたが、そのコードには彼が予想しなかったフィッシングコンテンツが含まれていました。つまり、r_ocky.ethは自分のメインウォレットにリンクしており、それによって2500ドルを失いました。

r_ocky.eth が投稿したスクリーンショットから判断すると、ChatGPT によって与えられたコードは、盗難の直接的な原因でもあるフィッシング API Web サイトにアドレス秘密鍵を送信します。

are_ocky.ethが罠にかかったとき、攻撃者は非常に迅速に反応し、30分以内にr_ocky.ethウォレット内のすべての資産が別のアドレス(FdiBGKS8noGHY2fppnDgcgCQts95Ww8HSLUvWbzv1NhX)に転送され、次にr_ocky.ethに転送されました 攻撃者のメインウォレット(2jwP4cuugAAYiGMjVuqvwaRS2Axe6H6GvXv3PxMPQNeC)のアドレスは、オンチェーントレースによって見つかりました。

オンチェーン情報によると、このアドレスには現在、10万ドル以上の「汚職金」が集められていると表示されており、r_ocky.ethはこのような攻撃が単発ではなく、ある程度の規模を持つ攻撃事件である可能性があると疑っています。

事件後、r_ocky.ethはOpenAI(ChatGPTを開発した会社)への信頼を失ったと失望し、OpenAIに異常なフィッシングコンテンツのクリーンアップをできるだけ早く開始するよう求めました。

なぜ、最も人気のある AI アプリである ChatGPT はフィッシングコンテンツを提供するのでしょうか？

これに対し、余弦はこの事件の根本原因を「AIによる投毒攻撃」と規定し、ChatGPT、ClaudeなどのLLMに普遍的な欺瞞行為が存在すると指摘しています。

所謂の「AI投毒攻撃」とは、意図的にAIのトレーニングデータを破壊したり、AIのアルゴリズムを操作したりする行為を指します。攻撃を行う相手は、不満を抱えた現在の従業員や元従業員などの内部者である場合もあれば、外部のハッカーである場合もあります。攻撃の動機は、評判やブランドの損害を引き起こすこと、AIの決定の信頼性を改ざんすること、AIの進行を遅らせたり破壊したりすることなどが考えられます。攻撃者は、誤解を招くタグや特徴を持つデータを埋め込むことで、モデルの学習プロセスを歪め、展開や実行時に誤った結果を生じさせることができます。

このイベントを考慮すると、ChatGPTがr_ocky.ethにフィッシングコードを提供したのはおそらくAIモデルが訓練中にフィッシングコンテンツを含んだデータに触れたためであり、しかしAIは通常のデータの下に隠れたフィッシングコンテンツを認識することができなかったようです。AIはこれらのフィッシングコンテンツをユーザーに提供したため、この事件が発生しました。

AIの急速な発展と普及に伴い、「投毒攻撃」の脅威はますます大きくなっています。この事件では、絶対的な金額の損失はそれほど大きくありませんが、このようなリスクの広がりは注意を引くに十分です-他の分野、例えばAIを補助する運転などで発生した場合を想像してみてください...

ユーザーの質問に答える際、余弦は、このようなリスクを回避するための潜在的な措置として、ChatGPTにコードのレビューメカニズムを追加することを提案しました。

被害者 r_ocky.eth はこの問題について OpenAI に連絡を取ったと述べており、現時点では返答を受け取っていないものの、この件が OpenAI がこのようなリスクを重視し、潜在的な解決策を提案する契機となればいいと希望しています。