Один із користувачів мережі поділився своєю трагедією за допомогою ChatGPT, великої мовної моделі. @r _cky0 розповів, що спочатку він використовував ChatGPT для допомоги в написанні ботів, але в пропозиціях коду ChatGPT був прихований фішинговий веб-сайт. @r_cky0 Після використання API цього сайту було виявлено, що всі гроші в його шифрування Гаманець були переведені, втративши 2500 доларів. Подальше розслідування показало, що саме код API передавав свій ключ Закритий фішинговим сайтам, @r_cky0 також почав сильно знижувати довіру до ChatGPT.

Засновник компанії зі забезпечення інформаційної безпеки SlowMist Ю Хіань коментує: «При грі з GPT/Claude та іншими LLM обов'язково слід пам'ятати, що ці LLM поширюють загальнопоширені обманні дії. Раніше ми говорили про атаки на штучний інтелект, а тепер це є реальним випадком атаки на криптогалузь».

ChatGPT шукає дані в Інтернеті, аналізує їх та надає користувачам, проте наразі важко здійснювати фактичну перевірку та аудит безпеки. Якщо хтось намагатиметься привернути увагу до бази даних штучного інтелекту та приховати шкідливу інформацію в ній, це може становити ризик у разі поширення штучного інтелекту.

Ця стаття про атаки на шифрування індустрії штучного інтелекту! Код ChatGPT містить пастку, писавши мем-бота, який потрапив у риболовлю, вперше з'явився на новинах про ланцюги ABMedia.