Esai AI menjatuhkan harga saham Universitas Sains dan Teknologi Xunfei, dan "sihir" teknologi menyerang balik perusahaan teknologi

Semakin banyak "humor hitam" AI.

Ditulis oleh: Luoluo

Pada sore hari tanggal 24 Mei, harga saham perusahaan A-share iFLYTEK tiba-tiba keluar dari bentuk V yang dalam dan jatuh sebesar 8%. HKUST Xunfei menjawab bahwa penurunan harga saham disebabkan oleh AI generatif yang menulis esai palsu, dan risiko yang dikabarkan adalah berita palsu.

Sebuah "esai kecil" beredar di Internet dikabarkan bahwa "HKUST Xunfei terpapar untuk mengumpulkan data privasi pengguna untuk mempelajari kecerdasan buatan dan menimbulkan kontroversi", yang kemudian dibuktikan oleh netizen ditulis oleh AI dan diterbitkan oleh blogger Weibo; HKUST Xunfei adalah masuk dalam daftar entitas yang dilarang menggunakan komponen atau perangkat lunak Amerika”, nyatanya, HKUST Xunfei masuk dalam daftar tersebut pada Oktober 2019.

Lahirlah "humor hitam" lain di era AI: "keajaiban" yang diciptakan oleh perusahaan teknologi mulai menyerang perusahaan teknologi. Untungnya, AI yang menulis esai tersebut bukanlah "Spark Cognitive Model" yang baru saja diluncurkan oleh iFLYTEK, jika tidak, humornya akan menjadi lebih gelap.

Faktanya, adegan ini dipentaskan di Amerika Serikat dua hari lalu: ketika gambar ledakan Pentagon di Washington menjadi viral di Twitter, baik Dow dan S&P 500 di pasar saham AS jatuh dalam waktu singkat. gambar yang dihasilkan oleh AI.

Ketika AI generatif dirilis ke semua orang oleh perusahaan teknologi, "revolusi produktivitas" dimulai, dan serangan balik juga dimulai.

**Harga saham HKUST XFLYTEK flash crash AI esai membuat hantu? **

Sekitar pukul 13:00 tanggal 24 Mei, harga saham HKUST Xunfei anjlok dari 58,3 yuan menjadi 53,5 yuan dalam waktu kurang dari setengah jam, penurunan jangka pendek sebesar 8%, dan pulih menjadi sekitar 56,5 yuan 15 menit kemudian.

Setelah harga saham jatuh, HKUST Xunfei menanggapi Red Star News dan media lain, mengatakan bahwa penurunan harga saham disebabkan oleh AI generatif yang menulis esai palsu, perusahaan tidak memiliki insiden terkait, dan risiko yang dikabarkan adalah berita palsu.

Tak lama kemudian, netizen mulai "menyelidiki" secara online, ingin melihat siapa yang menulis "komposisi kecil" yang menghantam harga saham HKUST Xunfei.

Sejumlah blogger Weibo memposting gambar yang mengatakan bahwa seorang pengguna Weibo mendistribusikan sebuah artikel pada pukul 13:44 tanggal 24 Mei, mengatakan, "HKUST Xunfei dicurigai mengumpulkan sejumlah besar data privasi pengguna dan menggunakannya untuk penelitian kecerdasan buatan... . .」

Sumber berita palsu diambil oleh netizen

Saat ini, akun Weibo yang menyebarkan berita tidak dapat ditemukan lagi. Saat mencari informasi masa lalu akun tersebut dari mesin pencari, ditampilkan sebagai "menurut pengaturan blogger, konten ini tidak terlihat". jumlah pengikut akun ini melebihi 660.000 tahun lalu.

Netizen lain menemukan sumber berita yang dicurigai di Weibo, "Rumor gila di pasar ternyata dibuat oleh Wenxin Yiyan." Foto-foto yang diposting oleh netizen ini menunjukkan bahwa model besar Baidu Wenxin Yiyan muncul di "Tulis artikel tentang HKUST Xunfei". "Surat Peringatan tentang Risiko Besar", seluruh paragrafnya persis sama dengan informasi yang dikabarkan.

Ada lebih dari satu "komposisi kecil" HKUST Xunfei di Internet, dan yang lainnya juga menambahkan sumber seperti "beberapa media asing mengutip orang-orang yang mengetahui masalah ini", mengatakan bahwa Amerika Serikat sedang mempertimbangkan apakah akan mengirim HKUST Xunfei , Meiya Pico, dll. Ditambahkan ke "Daftar Entitas", yang melarang mereka menggunakan komponen atau perangkat lunak Amerika.

Pialang Guolian Overseas mengeluarkan artikel untuk membantah rumor tersebut: HKUST Xunfei telah dimasukkan dalam daftar entitas pada Oktober 2019, dan tidak berdampak besar pada operasi harian perusahaan.

Warganet dan pialang memberikan bukti satu demi satu dan bergabung dalam antrean untuk menindak rumor pasar. HKUST Xunfei juga menyatakan bahwa departemen hukum perusahaan telah memperoleh bukti atas informasi yang relevan. Orang yang makan melon hanya bisa menunggu hasil lanjutannya, berharap agar publik melihat bagaimana AI generatif memukul harga saham perusahaan teknologi.

Pada awal Mei tahun ini, HKUST Xunfei juga meluncurkan produk AI generatif "Xinghuo Cognitive Model**"**, mengklaim membuat model besarnya sendiri melampaui ChatGPT dalam hal kemampuan China sebelum 24 Oktober tahun ini. Kemampuan bahasa Inggris setara dengan itu. Alhasil, HKUST Xunfei yang sibuk mengungguli pertama kali terkena AI generatif.

Saya telah mengalami kerugian, dan pencipta "Spark" mungkin dapat belajar dari pengalaman dan membuat firewall rumor. Untungnya, "Komposisi Kecil" tidak menunjukkan bahwa itu berasal dari "Xinghuo", jika tidak, masalah ini akan menjadi lebih ironis.

“** Ledakan Pentagon” Gambar Palsu Mengguncang Saham AS**

Secara kebetulan, baru 2 hari yang lalu, pasar saham AS juga terpuruk oleh berita palsu yang dihasilkan oleh AI.

Dari tanggal 22 hingga 23 Mei waktu setempat, sebuah pesan grafis "ledakan besar di dekat Pentagon di Washington DC" menjadi viral di Twitter. Dalam gambar tersebut, kepulan asap besar muncul di dekat Markas Besar Pertahanan AS. Konten grafis berasal dari akun terverifikasi @Bloombergfeed.

Gambar palsu Pentagon yang dibuat oleh AI

Pada pagi hari tanggal 23 Mei, grafik ini telah menyebar ke mana-mana, dan hanya butuh beberapa menit bagi pasar saham AS untuk berfluktuasi sebentar. Pada pagi hari yang sama, Indeks Dow Jones turun 80 poin antara 10:06 dan 10:10; Indeks S&P 500 turun 0,26% dalam waktu 3 menit dari 10:06 hingga 10:09. Namun, dua indeks utama ditutup positif setelah 2 atau 3 menit penurunan.

Berita itu juga langsung memberi tahu departemen pemadam kebakaran dan kepolisian Arlington. Pada pukul 10:27 hari itu, Departemen Pemadam Kebakaran Arlington men-tweet bahwa pihaknya dan Badan Perlindungan Pasukan Pentagon "mengetahui laporan yang beredar online di media sosial tentang ledakan di dekat Pentagon." Departemen Kepolisian Arlington dengan cepat menepis rumor tersebut. dan teks salah, kata pernyataan itu, "Tidak ada ledakan atau kecelakaan di atau dekat reservasi Pentagon, dan tidak ada bahaya langsung atau bahaya bagi publik."

Segera, berbagai media berita juga mulai menindak pemalsuan: gambar ini dihasilkan oleh perangkat lunak AI. Hany Farid, seorang profesor di University of California, juga menunjukkan kepada media AS, "Gambar ini menunjukkan tanda khas sintesis kecerdasan buatan: kesalahan struktural pada bangunan dan pagar."

Akun @Bloombergfeed yang memposting gambar tersebut telah ditangguhkan oleh Twitter. Tetapi orang-orang masih belum tahu perangkat lunak generasi AI mana yang berasal dari gambar ini.

Teresa Payton, mantan chief information officer dari pemerintahan George W. Bush, mengatakan dalam sebuah wawancara tentang masalah ini bahwa beberapa cara untuk mendeteksi keaslian suatu gambar adalah dengan melakukan pencarian terbalik di Google, membandingkan kapan gambar itu pertama kali diterbitkan dengan itu Waktu untuk mulai menyebar, dan perhatikan jika Anda dapat melihat tanda air media berita pada gambar, "Kali ini bukan foto Pentagon palsu."

Payton mengakui bahwa dengan teknologi saat ini, "kebohongan menyebar lebih cepat daripada kebenaran." Dia juga mengingatkan masyarakat bahwa "sementara organisasi pemerintah mencoba untuk mengatasi hal ini, sebagai warga negara kita harus melindungi diri kita sendiri sampai batas tertentu, Karena pemerintah dan hukum mengambil waktu yang lama untuk mengejar ketinggalan," katanya, "misalnya, ketika Anda melihat sesuatu seperti itu, sebelum Anda membuat keputusan keuangan yang besar, perhatikan outlet media berita dan lihat apa yang mereka liput."

Namun ironisnya, memang ada media berita dalam rantai penyebaran berita bohong "pemboman Pentagon". Berbagai akun Twitter yang membagikan gambar tersebut menampilkan RT, outlet media milik pemerintah Rusia dengan 3 juta pengikut. Setelah itu, akun media tersebut menghapus tweet yang diposting ulang tersebut.

Terlepas dari Cina atau negara asing, AI generatif telah mengganggu realitas yang didorong oleh manusia. Membuat rumor untuk memfitnah dan terlibat dalam kekerasan dunia maya, meniru suara dan bayangan untuk menipu uang, insiden penyalahgunaan AI berada di puncak daftar pencarian hot Weibo dua hari lalu, dan mulai memengaruhi pasar keuangan dalam dua hari terakhir.

"Kotak Pandora" yang dibuka oleh perusahaan teknologi tidak menunjukkan tanda-tanda akan ditutup. Sekarang, "sihir" mulai menyerang orang yang menciptakannya, bagaimana mereka akan menghadapinya?