AIや他の新興技術は、メリットとデメリットの両方が称量されます。人工知能は、イノベーションを加速させる一方で、その潜在的なリスクからしばしば両刃の剣と呼ばれています。

最新情報では、英国の通信大手であるO2が、「AIデイジー」を立ち上げ、甘いおしゃべりなおばあちゃんになりすます詐欺師と戦う取り組みを始めました。YouTuberのジム・ブロウニングの助けを借りて開発されたこのAIは、自らのリスクに対する対策を提供しているのでしょうか？

AIデイジーとは誰ですか？

AIは2024年のテーマとなっていますが、それが仕事を奪ったり、既存のソフトウェアを出し抜いたり、プライバシーや倫理の問題を引き起こすという懸念も議論されています。しかし、イギリスの通信会社であるO2は、新しいキャンペーンでこの議論に取り組んでいます。

O2は、「スカマーをかわせ」キャンペーンの一環として、「AIデイジー」を導入しました。スカマーがAIグラニーと話している忙しい時間には、リアルな人々をだます時間はありません。デイジーの仕事は、スカマーと長くて意味のない会話に引き込むことのようで、彼らを占有しています。「さあ、お気に召すままに、私は世界中の時間がありますわ」と彼女は強調しています。同社はまた、スカムの番号を報告してデイジーがより多くのスカマーを特定できるようにするよう人々に奨励しています。

広告では、デイジーはまた、「こんにちは、詐欺師。私はあなたの最悪の悪夢です。」と述べています。

AIグランニーが騙されたときの怒りは地獄のようです。デイジーが詐欺師の時間を無駄に過ごすので、彼らはあなたを騙すことができません。

👉不正な電話やテキストを7726 pic.twitter.com/hkNMDqG87b に報告する

— O2 (@O2) 2024年11月15日

ジム・ブロウニングは、しばしば彼のYouTubeチャンネルで詐欺師を暴露することで知られていますが、AIデイジーのトレーニングにも関与していました。 Sky Newsとの会話で、AIが詐欺の通話の実際の録音を使用してトレーニングされたことを説明しました。その多くは彼のYouTubeビデオから来ています。ブロウニングはまた、彼が年月をかけて詐欺師から学びながら録音し、その技術を理解するために時間を費やしたことを明らかにしました。 仮想的な自警団によると、デイジーは詐欺師に時間とリソースを無駄にさせ、詐欺行為を少なくとも利益が少なくなる可能性があります。

AIは二枚刃の剣です

新興技術は、詐欺を簡単にする一方で、人々の救いとなっています。Truecallerのレポートによると、2023年だけで詐欺師が5620万人の米国の成人に影響を与えました。平均して、4人に1人が報告されるところ、452ドルを失ったとされています。レポートはまた、高齢者が頻繁に標的にされる一方、若者は詐欺のリスクがより高いという結果も示しています。

AIデイジーのCMで働いたインフルエンサーのエイミー・ハートは、「悪質な詐欺師がどれだけ洗練されているかを第一に知っています」と述べました。一方、雇用エージェンシーのパーマーグループのCEOであるシェリー・パーマーは、そのアイデアを思いついていればよかったと述べています。このアイデアに興奮しているにもかかわらず、役員は、詐欺師がそれを利用して人物をなりすます可能性があるため、音声クローニングはリスキーな技術であると警告しました。彼は、家族が異例の要求をする電話で身元を確認するために「安全な単語やフレーズ」を使用することを提案しています。

2022年から2032年までのAI市場規模 |ソース: AIPRM

報告によると、AIボイスクローニングやディープフェイク技術は、現実の人物をなりすます際に非常にリアルになります。Siftの安全チームはブログで明らかにしましたが、AIはデータを分析して潜在的な被害者とその脆弱性を特定します。ターゲットを見つけると、詐欺師は感情のトリガーやストーリーを使って資金を騙し取ります。O2のデイジーはAIを使った詐欺対策です。その結果、AIのグラニーデイジーは詐欺師を出し抜くだけでなく、3つの主要なテクノロジー上の懸念事項にも対処しています。

まず、AI音声クローニングは、詐欺師が実在の人物になりすますことでプライバシーのリスクを引き起こします。デイジーはフリップを管理することができます。第二に、批評家はAIの倫理的な影響に疑問を呈しています。このキャンペーンはポジティブな目的を持ち、責任あるAIの使用の必要性を説明しています。最後に、AIが人間の仕事に与える影響があらゆる会話の中心になっています。2024年、AIデイジーはかつて人間の介入が必要だった作業を処理しています。AIは顧客サービスでの人間との対話を減らしましたが、いくつかのアナリストはそれを過大評価と呼んでいます。

そのため、AIバージンメディアO2は、「詐欺との戦いに多額の投資を行った」と述べており、Daisyは報告されているように、怪しい電話を40分間占有し続けていると述べています。