Есе про штучний інтелект обвалило курс акцій Науково-технологічного університету Сюньфей, а технологічна «магія» контратакувала технологічні компанії

ШІ «чорного гумору» стає все більше.

Автор: Luoluo

Удень 24 травня ціна акцій компанії iFLYTEK раптово вийшла з глибокої форми V і впала на 8%. HKUST Xunfei відповів, що падіння курсу акцій було спричинене генеративним штучним інтелектом, який написав неправдиве есе, і чутки про ризик були неправдивими новинами.

У «невеликому есе», поширеному в Інтернеті, йдеться про те, що «HKUST Xunfei був викритий у збиранні даних про конфіденційність користувачів для вивчення штучного інтелекту та викликав суперечки», що пізніше було доведено користувачами мережі, написане ШІ та опубліковане блогерами Weibo; HKUST Xunfei є включено до списку організацій, яким заборонено використовувати американські компоненти чи програмне забезпечення», фактично HKUST Xunfei був у списку в жовтні 2019 року.

Народився ще один «чорний гумор» в епоху ШІ: «магія», створена технологічними компаніями, почала атакувати технологічні компанії. На щастя, ШІ, який пише есе, не є «Іскровою когнітивною моделлю», щойно запущеною iFLYTEK, інакше гумор був би похмурішим.

Насправді ця сцена була влаштована в США два дні тому: коли фотографія вибуху Пентагону у Вашингтоні стала вірусною в Twitter, і Dow, і S&P 500 на американському фондовому ринку на короткий час впали. зображення, створене ШІ.

Коли технологічні компанії випустили генеративний ШІ для всіх, почалася «революція продуктивності», а також почалася негативна реакція.

**HKUST XFLYTEK флеш-крах курсу акцій Есе зі штучного інтелекту стало привидом? **

Близько 13:00 24 травня ціна акцій HKUST Xunfei впала з 58,3 юаня до 53,5 юаня менш ніж за півгодини, короткострокове падіння на 8%, і відновилася приблизно до 56,5 юаня через 15 хвилин.

Після обвалу курсу акцій HKUST Xunfei відповів Red Star News та іншим ЗМІ, заявивши, що падіння курсу акцій було спричинено генеративним штучним інтелектом, який написав неправдиве есе, у компанії не було жодних пов’язаних інцидентів, а ризик, за чутками, був неправдивою новиною. .

Незабаром користувачі мережі почали «розслідувати» онлайн, бажаючи побачити, хто написав «невелику композицію», яка вдарила по ціні акцій HKUST Xunfei.

Кілька блогерів Weibo опублікували фотографії, в яких йдеться про те, що користувач Weibo о 13:44 24 травня поширив статтю, в якій говориться: «HKUST Xunfei підозрювали в зборі великої кількості даних про конфіденційність користувачів і використанні їх для досліджень штучного інтелекту... . .」

Джерело фальшивих новин, підібране користувачами мережі

Наразі обліковий запис Weibo, який поширив новину, більше не можна знайти. Під час пошуку минулої інформації облікового запису в пошуковій системі відображається як «відповідно до налаштувань блогера, цей вміст не відображається». минулого року кількість підписників цього акаунту перевищила 660 000.

Інший користувач мережі знайшов підозрюване джерело новин у Weibo: «Божевільні чутки на ринку виявилося породженими Веньсінь Іянь». Фотографії, опубліковані цим користувачем мережі, показали, що велика модель Baidu Wenxin Yiyan з’явилася на «Написати статтю». про HKUST Xunfei". "Попереджувальний лист про серйозні ризики", цілий абзац якого повністю збігається з інформацією, що лунає.

В Інтернеті є більше ніж одна «невелика композиція» HKUST Xunfei, а інша також додає таке джерело, як «деякі іноземні ЗМІ посилаються на людей, знайомих із цим питанням», кажучи, що Сполучені Штати розглядають можливість відправити HKUST Xunfei , Meiya Pico та ін. Додано до «Списку об’єктів», що забороняє їм використовувати американські компоненти чи програмне забезпечення.

Брокерська компанія Guolian Overseas опублікувала статтю, щоб спростувати чутки: HKUST Xunfei було включено до списку організацій у жовтні 2019 року, і це не мало серйозного впливу на щоденну діяльність компанії.

Користувачі мережі та брокерські компанії один за одним представили докази та приєдналися до черги, щоб розправитися з ринковими чутками. HKUST Xunfei також заявив, що юридичний відділ компанії отримав докази відповідної інформації. Люди, які їдять дині, можуть лише чекати подальших результатів, сподіваючись дозволити громадськості побачити, як генеративний ШІ впливає на ціни акцій технологічних компаній.

На початку травня цього року HKUST Xunfei також запустив генеративний продукт штучного інтелекту «Xinghuo Cognitive Model**»**, стверджуючи, що його власна велика модель перевершить ChatGPT з точки зору китайських можливостей до 24 жовтня цього року. Володіння англійською рівнозначне цьому. У результаті HKUST Xunfei, який був зайнятий перевершенням, спочатку постраждав від генеративного ШІ.

Я зазнав збитків, і творець "Іскри", можливо, зможе навчитися на цьому досвіді та створити брандмауер чуток. На щастя, на «Малій композиції» не було видно, що вона з «Сінхуо», інакше ця справа набула б ще більшої іронії.

Фальшива фотографія «** вибуху Пентагону» похитнула фондові біржі США**

За збігом обставин лише 2 дні тому фондовий ринок США також впав через неправдиві новини, створені ШІ.

З 22 по 23 травня за місцевим часом у Twitter поширилося графічне повідомлення про «великий вибух біля Пентагону у Вашингтоні», на якому зображена велика хмара диму біля штаб-квартири оборони США. Графічний вміст із підтвердженого облікового запису @Bloombergfeed.

Фальшиве зображення Пентагону, створене ШІ

До ранку 23 травня ця графіка поширилася всюди, і знадобилося лише кілька хвилин, щоб фондовий ринок США ненадовго коливався. Вранці того ж дня індекс Dow Jones впав на 80 пунктів між 10:06 і 10:10, індекс S&P 500 впав на 0,26% за 3 хвилини з 10:06 до 10:09. Проте два основні індекси закрилися на плюсі після 2-3 хвилин падіння.

Ця новина також попередила пожежну частину та поліцію Арлінгтона. О 10:27 ранку того дня Пожежна служба Арлінгтона написала у Twitter, що їй та Управлінню захисту збройних сил Пентагону «відомо про повідомлення, що поширюються в соціальних мережах в Інтернеті про вибух біля Пентагону». Поліція Арлінгтона швидко спростувала ці чутки. і текст є неправдивими, у заяві йдеться: «Не було вибуху чи аварії в резервації Пентагону або поблизу неї, і немає безпосередньої небезпеки чи шкоди для населення».

Невдовзі різні ЗМІ також почали боротися з фейками: це зображення було згенероване програмним забезпеченням ШІ. Хані Фарід, професор Каліфорнійського університету, також зазначив американським ЗМІ: «Це зображення демонструє типові ознаки синтезу штучного інтелекту: структурні помилки на будівлях і парканах».

Обліковий запис @Bloombergfeed, який опублікував зображення, був призупинений Twitter. Але люди досі не знають, програмне забезпечення якого покоління штучного інтелекту взяло це зображення.

Тереза Пейтон, колишній головний інформаційний директор адміністрації Джорджа Буша, сказала в інтерв’ю з цього приводу, що одним із способів виявити автентичність зображення є зворотний пошук у Google, порівнюючи, коли зображення було вперше. опубліковано з ним. Час почати розповсюдження та зверніть увагу, якщо ви можете помітити водяний знак ЗМІ на зображенні: «Цього разу його не було на підробленому фото Пентагону».

Пейтон визнала, що завдяки сучасним технологіям «брехня поширюється швидше, ніж правда». Вона також нагадала громадськості, що «поки урядові організації намагаються вирішити цю проблему, ми як громадяни повинні певною мірою захищати себе, тому що уряди та закони приймають багато часу, щоб наздогнати, - сказала вона, - наприклад, коли ви бачите щось подібне, перш ніж приймати будь-які важливі фінансові рішення, подивіться медіа та подивіться, що вони висвітлюють.

Але іронія полягає в тому, що в ланцюжку розповсюдження фейкових новин про "вибух у Пентагоні" справді є ЗМІ. Різноманітні облікові записи Twitter, які поширили зображення, представляли RT, російське державне ЗМІ з 3 мільйонами підписників. Після цього медіа-акаунт видалив повторно опублікований твіт.

Незалежно від Китаю чи інших країн, генеративний ШІ порушив реальність, керовану людьми. Поширюючи чутки для наклепу та кібернасильства, імітуючи голоси та тіні, щоб обдурити гроші, інцидент із зловживанням штучним інтелектом був у верхній частині списку гарячих пошуків Weibo два дні тому, і це почало впливати на фінансовий ринок за останні два дні.

«Ящик Пандори», який відкрили технологічні компанії, не має ознак закриття. Тепер «магія» починає чинити негативну реакцію на того, хто її створив, як вони збираються з нею боротися?