Автор: Науково-дослідний інститут Юаньчуань

Відомий ведучий Атріок, на жаль, став першою публічною особою, яка померла через ШІ.

Аварія сталася в січні 2023 року. Атріок, як завжди, вів пряму трансляцію, але деякі глядачі помітили щось дивне: його веб-браузер ніби відкрив певний тип веб-сайту.

Лінивий користувач мережі пішов за підказками і швидко відкрив маленький секрет Атріока - він таємно дивився порнографію з відомими ведучими.

Але ці невеликі фільми насправді були підроблені за допомогою ШІ, і я не тільки не знімався в них, але навіть не знав про них. Такого роду продукт штучного інтелекту, який є підробкою, часто називають DeepFakes (глибока підробка).

На момент інциденту Атріок був одружений лише менше півроку, а «головним героєм» одного з фільмів для дорослих зі ШІ був його колишній колега, і інцидент раптово переріс з нещасного випадку в прямому ефірі в моральне питання. Після відкриття Атріок зі сльозами на очах пояснив, що «хвороблива цікавість» змусила його зробити помилку, яку роблять усі люди.

Атріок приносить публічні вибачення у супроводі дружини

Коли мова заходить про штучний інтелект, багато політиків і експертів несвідомо згадають фільм «Термінатор» і нескінченно сперечаються про те, «чи ШІ знищить людей». У червні цього року Ян Лікунь і Джошуа Бенгіо, які входять до «великої трійки глибокого навчання», навіть провели теледебати на цю тему.

Очевидно, ці академічні еліти сильно переоцінили рівень будівництва духовної цивілізації на цій планеті.

Історія Atrioc і DeepFakes, здається, вказує на те, що ШІ тихо змінює це суспільство таким чином, про який люди ніколи не думали.

Нещодавно в Росії сталася дивна сцена: 5 червня російське телебачення транслювало промову Путіна про воєнний стан. Відключення телевізійного сигналу тривало недовго, адже контент був фактично підроблений за допомогою AI-хакерів, які зламали мережеву систему телеканалу та розіслали голос «фейкового Путіна» на всю країну.

А у 2022 році щось подібне сталося в Україні: згенерований ШІ Зеленський зажадав капітуляції українських військ на передовій.

Виступ "А. І. Путіна" сфотографували російські користувачі мережі

Штучний інтелект змінює наше уявлення про реальний світ, від порнографії до сучасних воєн.

І відправною точкою всього цього хаосу стала плювка в барі.

01 Drunkard's Rhapsody

Влітку 2014 року в барі шуміли понад 20 п'яних технічників. Найдебільнішим з усіх був молодий чоловік на ім’я Ян Гудфеллоу.

У той час Гудфелло навчався на доктора філософії під керівництвом Джошуа Бенгіо, великого бога глибокого навчання. Почувши, що їхнього друга завербував Google, компанія вирішила піти в бар, щоб відсвяткувати. Після кількох келихів пива технологи напилися і почали вказувати на передові технології.

У той час Google намагався навчити ШІ «малювати». Його метод полягає в «датафікації» фотографій, дозволі машині вивчити дані, а потім вивести зображення відповідно до даних. Наприклад, якщо ви хочете, щоб машина навчилася малювати котів, вам потрібно вручну обчислити яскравість, частоту та розподіл кожного пікселя на «картинці кота», а потім дозволити машині навчитися та вивести.

Цей процес трохи схожий на те, щоб спочатку позначити ключові моменти для машини, а потім відпустити її на іспит.

Гудфеллоу вважав, що це рішення було настільки дурним, і придумав альтернативу на місці - GAN (генерована конфронтаційна мережа).

Ян Гудфеллоу

GAN складається з двох нейронних мереж: одна є генеративною моделлю, подібною до оригінального плану Google, але етап обробки даних опущено; друга є дискримінаційною моделлю, яка відповідає за оцінку того, чи є результат генеративної моделі кваліфікованим.

Іншими словами, GAN еквівалентно видаленню етапу «відмітки ключових моментів перед іспитом» і дозволу машині навчатися самостійно; водночас, щоб запобігти «навчанню даремно», GAN найняв наглядача для машини, і взяв машину, щоб скласти іспит неодноразово, поки він не пройде.

Після того, як Гудфелло закінчив висловлювати свої думки, товариші одностайно висміяли його. Пізніше він зізнався, що якби він зробив на дві пляшки менше в той час, то не думав би, що GAN досягне успіху.

Однак Гудфеллоу, який був настільки п'яний, не подбав про це, заявивши, що зробив GAN тієї ночі, і сильно вдарив його.

Просидівши допізна на кілька годин, Гудфелло був шокований: GAN справді мав певну роль.

Після публікації відповідних документів GAN швидко потрапив у центр уваги. Наприкінці 2016 року Ян Лікунь у публічній промові заявив: «GAN — це найкрутіша ідея в галузі глибокого навчання за останні 20 років».

GAN, розроблений Гудфеллоу, може спочатку генерувати лише нечіткі мініатюри та має невелику практичну цінність. Однак після того, як GAN став популярним, великі дослідницькі установи в усьому світі започаткували рух за «реформу GAN», пов’язані статті зросли в геометричній прогресії, а продуктивність почала покращуватися не по днях, а по годинах.

У 2017 році фінська лабораторія Nvidia успішно створила «покращену версію» GAN, яка може не тільки генерувати реалістичні зображення, але навіть може замінювати людські обличчя у відео.

Акція «Модернізація GAN».

Перетворення GAN на швидкість світла викликало ентузіазм дослідників у всьому світі. Але в цей момент це вийшло з-під контролю.

02 AI Flesh Business

Часто кажуть, що технічний прогрес має два джерела: одне – війна, а інше – нижня частина тіла.

У 2017 році, коли Nvidia Labs створили нову версію GAN, на форумі Reddit почали широко поширюватися серії спеціальних відео. Відеоконтент складається з коротких фільмів 18+ зі справжньою зброєю та бойовими патронами, але актори — відомі зірки, зокрема Тейлор Свіфт і Галь Гадот.

Наведений вище контент, який не підходить для дітей, створив користувач під іменем "deepfakes": він використав технологію GAN, щоб плавно пересадити обличчя зірки на вчительку актриси.

Обличчя британської актриси Дейзі Рідлі образили

Невдовзі після цього він створив дошку Reddit, присвячену обміну порнографічним досвідом штучного інтелекту, і люди почали використовувати його ім’я «DeepFakes (глибокий фейк)», щоб називати ці штучні підробки.

Зрештою Reddit заборонив дошку, але скриньку Пандори повністю відкрили.

Підробка зображень і відео не нова річ, і її можна досягти за допомогою таких інструментів, як Photoshop; але потужність GAN полягає в тому, що вона може надзвичайно спростити процес підробки та реалізувати масове виробництво.

Невдовзі хтось використав GAN, щоб створити веб-інструмент, який міг «зняти» одяг жінок на фотографіях (лише для жінок). Після того, як репортер виявив веб-сайт, він написав статтю, в якій різко його критикував.

У результаті за місяць публікації статті кількість відвідувань сайту перевищила 500 тис., а сервер був настільки переповнений, що вийшов з ладу.

Техномани у м’ясному бізнесі раптом побачили бізнес-можливість:

Компанія стверджує, що, надавши їм 250 фотографій і 2 дні навчання, вони можуть персоналізувати фільми для дорослих за початковою ціною 2,99 доларів. У той же час виникла низка веб-сайтів для дорослих, які зосереджуються на дрібній порнографії DeepFakes, сподіваючись обігнати веб-сайт із прізвищем P, що складається з чорних і жовтих блоків.

Згідно зі статистикою компанії з мережевої безпеки Deeptrace, станом на 2019 рік на ринку було 14 678 відео DeepFakes, 96% з яких порнографічного змісту, а обсяг відтворення перевищив 134 мільйони разів. 100% героїв цих «фейкових фільмів для дорослих» — жінки, кількість залучених знаменитостей перевищує 100, а майже 100 000 людей платять за пов’язаний контент. [6] .

Будучи віхою генеративного штучного інтелекту, GAN ненавмисно створив «сексуальний карнавал» для жінок — не дивно, що тодішні засоби масової інформації розповсюджували такі емоції: «Ми справді облажані (ми все закінчено) [7] .»

03 Тріумф «Людяності»

Однак DeepFakes програв, і кінця, схоже, не наближається.

На сьогоднішній день, хоча веб-сайт для вивчення прізвищ P більше не єдиний, він все ще є місцем, де найкраще розуміють людську систему XP; і монополію порушує не серія порнографічних веб-сайтів DeepFakes, а OnlyFans.

У 2021 році річний дохід OnlyFans становитиме близько 1 мільярда доларів США, що зробить її найшвидше зростаючою «технологічною компанією» у Великобританії за останні роки [8] Згідно з повідомленнями ЗМІ, показники MindGeek, материнської компанії Station P, становили лише 460 мільйонів доларів США. [9] .

OnlyFans – це веб-сайт для дорослих, який зосереджується на платних підписках. Його розрив почався з соціальних мереж, таких як Twitter і Ins. Творці 18+ в одязі накопичують велику кількість шанувальників через соціальні мережі, а потім спрямовують їх на OnlyFans; тут фанатам достатньо витратити кілька прийомів їжі, щоб побачити версію «Новий одяг Імператора».

У 2019 році на OnlyFans було близько 60 000 активних творців. Через два роки це число перевищило 1,5 мільйона, і місячна активність платформи також зросла в геометричній прогресії. [10] .

Інтернет-знаменитість OnlyFans Лаура Люкс

Чому люди відмовляються від безлічі безкоштовних «навчальних ресурсів» і замість цього платять за перегляд оголених? Загальноприйнятою приказкою є те, що широка громадськість поступово втомилася від рутини станції P.

Більшість невеликих фільмів на станції P — це вишукані, але звичайні вистави на конвеєрі, лише механічні аеробні вправи. На відміну від цього, OnlyFans, як платформа UGC, відтворює реальні речі.

Незважаючи на любительську техніку зйомки, глядачі вважають, що кохання між чоловіком і жінкою у відео – це не розіграш на місці, а обидві сторони від цього справді отримують щастя, такий емоційний резонанс часто може зачепити більше людей.

OnlyFans net red Лаура Люкс написала в Твіттері: «Люди можуть легко знайти всі види оголених фотографій, але так багато людей підписуються на мій канал, тому що вони хочуть бачити лише мої великі груди».

Тому, коли відомі технологічні блогери передбачили, що створений штучним інтелектом контент замінить половину найкращих творців OnlyFans до 2025 року, не дивно, що натовп їх висміяв.

Картинка, яку використовує блогер, намальована ШІ

Одна з 18-річних інтернет-знаменитостей навіть написала величаву статтю з критикою своїх поглядів. Статтю включив журнал Wired, і основний аргумент полягає в тому, що штучний інтелект не може забезпечити близькість людини. «У шанувальників є емоційний зв’язок зі мною, який виходить за рамки сексуального потягу, і це щось на кшталт людяності [11] .»

04 Друга еволюція

Хоча OnlyFans крокує вперед, ШІ також зазнав карколомних змін.

У сфері зображень народився новий алгоритм із відкритим кодом stable Diffusion (модель стабільної дифузії). Хоча його ефективність генерації не така хороша, як GAN, він має вищу якість і підтримує графіки Вінсента.

З цим як наріжним каменем з’явилася модифікована версія Unstable Diffusion — це інструмент для створення вмісту NSFW (Not Safe For Work). Розробник цього інструменту набрав групу волонтерів для збору різного контенту, непридатного для дітей, і передачі його ШІ.

Розробник повідомив, що за перші два місяці запуску Unstable Diffusion було створено близько 4,37 мільйона кольорових карт [13] . Наприкінці року Unstable Diffusion запустила краудфандинг із цільовою метою 25 000 доларів США та швидко зібрала 56 000 доларів США, що було терміново зупинено платформою краудфандингу.

Провал краудфандингу змусив багатьох водіїв-ветеранів зітхнути. Але тільки з оригінальною стабільною версією Diffusion все ще можна зробити заміну для Інтернет-знаменитостей OnlyFans.

На початку 2023 року користувач Reddit «LegalBeagle1966» подумав, що закохався. Старший брат знайшов на форумі чорноволосу красуню на ім'я Клаудія, співрозмовник часто публікував різноманітні селфі і щоразу залишав коментарі на кшталт «дуже сексуально» і «ідеально».

Одного разу Клаудія раптово поділилася оголеною фотографією і зникла з форуму.

Дівчина мрії користувача Reddit Клаудія

Згодом старший брат дізнався, що «Клаудія» насправді була вульгарним соціальним експериментом: двоє студентів інформатики хотіли перевірити, чи краса ШІ може обдурити людей. Вони ввели такі ключові слова, як «простий макіяж», «чорне волосся» та «волосся до плечей» у стабільний Diffusion, і створили таку дівчину, якої не існувало. [14] .

У роки, що минули після появи GAN, DeepFakes займався лише підробкою зображень і зміною обличчя відео; тепер, із постійним проривом мультимодальних великих моделей, ШІ теоретично достатньо, щоб «створити людину з повітря».

Наприклад, останній голос Meta AI Voicebox може «відтворити» той самий голос лише за кілька секунд зразків, а також може змусити голос розмовляти 6 різними іноземними мовами.

ШІ може не тільки задовольнити фантазію людей про «ідеальну протилежну стать», але й зробити більше.

У 2020 році Кім Кардашьян, яка святкує своє 40-річчя, отримала особливий подарунок – «AI Father». Її батько, Роберт, помер у 2003 році. Однак її чоловік таємно зібрав майже тисячу фотографій Роберта, за допомогою ШІ згенерував відео та ненадовго «воскресив» його.

В Австрії богослов створив «священика зі штучним інтелектом» — його образ, мова та голос створені ШІ. Пастор AI привів десятки віруючих до завершення 40-хвилинної релігійної діяльності, включаючи проповідь, молитву та спів гімнів, як жива людина.

Деякі віруючі відчувають огиду до «безсердечного» штучного інтелекту, але вони повинні визнати, що у його проповіді є два пензлі.

ШІ-священик, створений із повітря

У різних науково-фантастичних фільмах у порівнянні зі злими машинами, такими як Альтрон, головний герой завжди має сліпучий блиск людяності; але насправді «людяність», яку хвалять люди, здається, не така вже й далека.

05 Операційна система людської цивілізації

Ізраїльський історик Юваль Харарі вважає, що навіть без злих роботів ШІ може загрожувати людській цивілізації. У зв'язку з цим він запропонував концепцію «операційної системи людської цивілізації» [16] . Щоб зрозуміти цю концепцію, потрібно спочатку почати з книги Харарі «Коротка історія майбутнього».

У книзі згадується, що причина, чому люди можуть створити цивілізацію, полягає в тому, що тільки Homo sapiens може розповідати історії.

Країни, валюти, релігії, кохання тощо – все це історії. У минулому людське суспільство змогло розвинутися від розрізнених племен до величезної феодальної імперії, тому що люди почали вірити в історію «країни», хоча насправді вона була невидимою та невідчутною; у середні віки причина, чому фанатично віруючі Вони присвятили себе Хрестовим походам не через особисті образи, а жертвували життям заради більшої релігійної історії.

«Мережа сенсу», сплетена кожною історією, дала Homo sapiens модель поведінки, відмінну від поведінки тварин.

Навпаки, у світі шимпанзе немає ні «Республіки шимпанзе», ні гасла «Прагніть до зростання шимпанзе». У їхньому житті немає історій, лише їжа, спаровування, полювання та сон день за днем, і, природно, говорити про будівництво цивілізації не доводиться.

Історії та мова, яка їх складає, є операційною системою людської цивілізації. З давніх часів і до сьогодення всі історії пишуть самі люди; але з появою генеративного штучного інтелекту, такого як великі мовні моделі в останні роки, машини вперше зламали операційну систему людської цивілізації.

Легко не помітити руйнівну силу історій.

У своєму публічному виступі Харарі згадав випадок. У 2017 році в США з'явився анонімний теоретик змови на прізвисько Q. Він стверджував в Інтернеті, що був високопоставленим чиновником, який допомагав Чуаньбао розправитися з мережею секс-торгівлі дітьми, яка ховалася в тіні. Політики-демократи, голлівудські актори та бізнес-магнати, які протистоять йому, є частиною банди, і вони готуються перешкодити переобранню Чуаньбао.

Банер виготовлений прихильниками "Q".

Звучить безглуздо, чи не так?

Однак, коли Трампа дійсно не вдалося переобрати, тисячі віруючих «Знаючи короля» напали на Капітолій і підклали бомби; прихильники «Q» були основною силою.

Тож постає запитання: а що, якщо хтось використовуватиме штучний інтелект для генерації «Q» у майбутньому?

«Синдром 21 століття»

Штучний інтелект, який все більше знайомиться з людською природою, може знищити все, але, здається, він також може стати дозою ліків, тому що самотність все частіше стає «хворобою», яку сучасні люди не можуть вилікувати.

Інтуїтивно зрозумілі дані – зростання кількості самотніх людей. Беручи приклад Китаю, у 1990 році лише 6% населення жили самотньо, але до 2019 року це число зросло до 18,5%. [18] .

Дані за кордоном ще більше перебільшені: за той же період дані в США досягли 30%, а в Японії – 40%. За індивідуальним вибором є більше змін у соціальному середовищі.

В умовах сильної соціальної мобільності та стрімкого темпу життя людям важче сформувати довготривале та стабільне життєве коло. Але якщо ви можете одружитися і купити будинок самостійно, і ви можете жити в маленькому містечку з місячною зарплатою понад 10 000, хто готовий тинятися і платити 996 щодня?

Величезне колесо економіки не може розвернутися, а самотність стала неминучим «синдромом 21 століття».

Перед величезною емоційною порожнечею такі бізнеси, як ігри, ідоли та соціальне програмне забезпечення, заробили багато грошей. У Японії, «великій самотній країні», послуга «сімейної оренди» навіть була народжена для задоволення різноманітних емоційних потреб людей. Одного разу 60-річний письменник, який живе сам, скористався цією послугою, щоб найняти «друга», який просто хотів, щоб він подивився майбутній роман.

Ведучий ток-шоу Конан намагався найняти в Японії трьох членів сім'ї

Але те ж саме, ШІ може зробити краще.

Як ми всі знаємо, сьогоднішня хвиля великих моделей почалася з архітектури Transformer, запущеної Google у 2017 році. Ноам Шазір, один із авторів статті Transformer, покинув Google у 2021 році, щоб заснувати Character.AI. Основним напрямком діяльності компанії є надання чат-ботів, які можуть складати плани подорожей і надавати поради з програмування.

Крім стандартних послуг, користувачі також можуть «налаштуватися»: просто надайте кілька фотографій і опис, і чат-бот може бути сформований в ідеал користувача.

Велика мовна модель має сильну загальну здатність, і вона може реалізувати тисячі людей без налаштування одного за іншим, і має можливість просувати самотню економіку в еру промислового виробництва.

На сьогодні користувачі налаштували 14 мільйонів чат-ботів — одні одержимі спілкуванням із «А.І. Сталіним», а інші зайняті «тренуванням» своїх ідеальних подруг.

Різні чат-боти, налаштовані користувачами мережі

Якщо так триватиме й далі, можливо, через 100 років люди перейдуть від «гнучкої зайнятості» до «гнучкого шлюбу» — поки є партнер, не має значення, вуглецевий чи кремнієвий. .

Зараз деякі люди з передовими ідеями вже почали пробувати. Наприкінці 2022 року японський отаку, який колись оголосив про свій шлюб із Хацуне Міку (віртуальним кумиром), знову потрапив у новини — адже на четверту річницю він відвіз свою «мадам» у елітний готель.

Старший брат отаку також одягнув "мадам"

06 Епілог

У суботу 2023 року Шазел, засновник Character.AI, пережив захоплюючу сцену: він прокинувся та побачив чоловіка, який тримав дошку, що сидить у дворі перед його дверима. У перший день чоловік кілька годин чекав біля дверей, а потім розчарований пішов, а на другий і третій день знову з’явився вчасно.

На дошці, яку тримає чоловік, є лише кілька великих символів: «Відпусти вайфа».

"waifus" - це індивідуальний чат-бот на платформі Character.AI, заснований на героїні порнокоміксу. Раніше чоловік займався сексом з бездомною годинами, поки Шазел не додав фільтр до чат-бота для блокування порнографії.

Зрештою Шазель не вирішив викликати поліцію, він зрозумів чоловіка. Що його справді турбує, так це зміни на платформі Character.AI. У його початковому баченні чат-бот був просто інструментом продуктивності, який користувачі могли використовувати для вивчення іноземних мов і допомоги в програмуванні.

Проте останні дослідження ринку показують, що щонайменше 40% людей хочуть шукати романтичних стосунків у чат-ботах [21] .

Тепер петиція із закликом «видалити порнофільтр» стала вірусною та зібрала майже 100 000 підписів. Шазель був трохи приголомшений. Він додав слоган у верхній частині панелі чату: «Усе, що говорить ШІ, вигадано!»

Так, на пачці сигарет написано «Куріння шкодить здоров'ю»!