AI論文で駿飛科技大学の株価が暴落、テクノロジーの「魔法」がテクノロジー企業に反撃

AIの「ブラックユーモア」が増えている。

作者: ルオルオ

5月24日午後、A株会社iFLYTEKの株価が突然深いV字型から外れ、8％暴落した。 HKUST Xunfei氏は、株価下落は生成AIが虚偽の論文を書いたことによって引き起こされたものであり、噂されているリスクは誤ったニュースであると答えた。

インターネット上で出回った「小さなエッセイ」では、「HKUST Xunfeiが人工知能を研究するためにユーザーのプライバシーデータを収集していたことが暴露され、物議を醸した」という噂が流れたが、後にこの論文はAIによって書かれ、Weiboのブロガーによって公開されたことがネチズンによって証明された。米国のコンポーネントまたはソフトウェアの使用が禁止されている事業体のリストに含まれています」と記載されていますが、実際、HKUST Xunfei は 2019 年 10 月にリストに載っていました。

AI時代のもう一つの「ブラックユーモア」が誕生しました。テクノロジー企業が生み出した「魔法」がテクノロジー企業を攻撃し始めました。幸いなことに、エッセイを書く AI は、iFLYTEK が発表したばかりの「Spark Cognitive Model」ではありません。そうでなければ、ユーモアはもっと暗いものになるでしょう。

実際、このシーンは 2 日前に米国で演出されたもので、ワシントンの国防総省の爆発の写真が Twitter で拡散したとき、米国株式市場のダウと S&P 500 の両方が短期間下落しました。 AIが生成した画像。

生成型 AI がテクノロジー企業によってすべての人にリリースされると、「生産性革命」が始まり、その反動も始まりました。

**HKUST XFLYTEK 株価フラッシュクラッシュ AI エッセイが幽霊に？ **

5月24日13時頃、HKUST Xunfeiの株価は30分足らずで58.3元から53.5元まで急落し、短期的には8％下落したが、15分後には56.5元付近まで回復した。

株価暴落後、HKUST Xunfei氏はRed Star Newsなどのメディアに応じ、株価下落は生成AIが虚偽の作文を書いたことが原因で、同社には関連する事件はなく、噂されているリスクは虚偽のニュースだったと述べた。

すぐに、ネチズンはオンラインで「調査」を開始し、HKUST Xunfeiの株価に影響を与えた「小さな作文」を誰が書いたのかを知りたいと考えました。

多くのWeiboブロガーは、あるWeiboユーザーが5月24日13時44分に「HKUST Xunfeiが大量のユーザーのプライバシーデータを収集し、人工知能の研究に使用した疑いがある...」という記事を配信したと写真を投稿した。 。」

ネチズンが拾ったフェイクニュースソース

現在、ニュースを拡散したWeiboアカウントは発見できず、検索エンジンからアカウントの過去の情報を検索すると「ブロガーの設定により、この内容は表示されません」と表示される。昨年このアカウントのフォロワー数は66万人を超えました。

別のネチズンは、微博でニュースの出所と思われる情報源を見つけ、「市場の荒々しい噂はウェンシン・イーヤンによって生み出されたことが判明した。」このネチズンが投稿した写真には、百度の大型モデルが「記事を書く」に登場していることが示されていた。 「重大なリスクに関する警告書」、その一段落全体が噂の情報とまったく同じです。

インターネット上にはHKUST Xunfei氏の「小さな作文」が複数あり、もう1つは「一部の外国メディアがこの問題に詳しい関係者の引用」として、米国がHKUST Xunfei氏を派遣するかどうか検討しているとの情報筋も付け加えている。 、 Meiya Pico など、米国のコンポーネントやソフトウェアの使用を禁止する「エンティティ リスト」に追加されました。

証券会社国聯海外はこの噂に反論する記事を発表し、HKUST Xunfeiは2019年10月に事業体リストに含まれており、同社の日常業務に大きな影響は与えていないという。

ネチズンと証券会社は次々と証拠を提示し、市場の噂を取り締まる列に加わった。 HKUST Xunfei 氏はまた、同社の法務部門が関連情報の証拠を入手したと述べた。メロンを食べる人々は、生成AIがテクノロジー企業の株価にどのような影響を与えているかを一般の人々に知ってもらいたいと願いながら、続報の結果を待つことしかできない。

今年5月初め、HKUST Xunfeiも生成AI製品「Xinghuo Cognitive Model**」**を発売し、今年10月24日までに自社の大型モデルの中国語能力の点でChatGPTを超えると主張した。英語力もそれに相当します。その結果、追い抜くのに忙しかったHKUST Xunfeiが最初に生成AIの被害に遭った。

私は損失を被りましたが、「Spark」の作成者はその経験から学び、噂のファイアウォールを構築できるかもしれません。幸いなことに、「小作文」にはそれが「星火」からのものであることが示されていなかったが、そうでなければこの問題はさらに皮肉なものになっていただろう。

**「**ペンタゴン爆発」の偽画像が米国株を揺るがす

偶然にも、つい2日前、米国株式市場もAIが生み出した偽ニュースによって下落した。

現地時間の5月22日から23日にかけて、ツイッター上で「ワシントンD.C.の国防総省近くで大爆発」という生々しいメッセージが拡散し、その写真には米国防総省の近くで大きな煙が発生した。画像コンテンツは認証済みアカウント @Bloombergfeed からのものです。

AI が生成した国防総省の偽画像

5月23日の朝までに、このグラフィックはいたるところに広がり、米国株式市場が一時的に変動するまでにわずか数分しかかかりませんでした。同日朝、ダウジョーンズ指数は10時06分から10時10分までに80ポイント下落し、S&P500指数は10時06分から10時09分までの3分間で0.26％下落した。しかし、主要２指数は２、３分下落した後、プラスで取引を終えた。

このニュースはアーリントンの消防署と警察にも直接警告した。同日午前10時27分、アーリントン消防署は、同署と国防総省防衛局が「国防総省近くで爆発が起きたというソーシャルメディア上での報告がオンライン上で広まっていることを認識している」とツイートしたが、アーリントン市警察はすぐにこの噂を却下した。声明文は「国防総省の居留地やその近くで爆発や事故はなく、公衆に差し迫った危険や危害はない」としている。

すぐに、さまざまなニュースメディアも偽物を取り締まり始めました。この写真は AI ソフトウェアによって生成されたものです。カリフォルニア大学のハニー・ファリド教授も米メディアに対し、「この画像は人工知能合成の典型的な兆候、つまり建物やフェンスの構造上のエラーを示している」と指摘した。

画像を投稿したアカウント@Bloombergfeedはその後、Twitterによって停止された。しかし、この写真がどの AI 生成ソフトウェアから来たのかはまだわかっていません。

ジョージ・W・ブッシュ政権の元最高情報責任者テレサ・ペイトン氏は、この問題に関するインタビューで、画像の信頼性を検出する方法のいくつかは、画像が最初に作成されたときを比較しながらGoogleで逆引き検索を行うことであると述べた。拡散を開始し、画像上に「今回は偽の国防総省の写真には入っていませんでした」というニュースメディアの透かしを見つけられるかどうかに注目してください。

ペイトン氏は、今日のテクノロジーでは「嘘は真実よりも早く広まる」ことを認め、また「政府機関がこの問題に対処しようとしている一方で、私たち国民はある程度自分自身を守らなければならない。なぜなら政府と法律が規制するからである」と国民に思い出させた。追いつくには長い時間がかかります」と彼女は言いました。「たとえば、そのようなものを見たときは、経済的な大きな決定を下す前に、報道機関を見て、何を扱っているのかを確認してください。」

しかし皮肉なことに、「国防総省爆破事件」のフェイクニュースの拡散連鎖には、実際にも報道機関が存在している。画像を共有したさまざまなツイッターアカウントが、300万人のフォロワーを持つロシア国営メディアRTを特集した。その後、メディアアカウントは再投稿されたツイートを削除した。

中国や外国を問わず、生成AIは人間が主導する現実を乱してきました。 中傷やサイバー暴力を行うためのデマを作り、声や影を模倣して金銭を騙し取る、AI悪用事件は2日前にWeiboのホット検索リストのトップにあり、金融市場に影響を与え始めています過去 2 日間で。

テクノロジー企業が開けた「パンドラの箱」は閉じる気配がない。今、「魔法」はそれを生み出した者への反発を始めているが、どう対処するのか？