Auteur : Institut de recherche Yuanchuan

L'ancre bien connue Atrioc est malheureusement devenue la première personnalité publique à mourir à cause de l'IA.

L'accident s'est produit en janvier 2023. Atrioc diffusait en direct comme d'habitude, mais certains téléspectateurs ont remarqué quelque chose d'étrange : son navigateur Web semblait ouvrir un certain type de site Web.

L'internaute paresseux a suivi les indices et a rapidement découvert le petit secret d'Atrioc - il regardait secrètement de la pornographie mettant en vedette des ancres féminines bien connues.

Mais ces petits films ont en fait été forgés avec l'IA, et non seulement je n'y ai pas joué, mais je ne les connaissais même pas. Ce type de produit d'IA qui est suffisant pour être faux est souvent appelé DeepFakes (deep forgery).

Au moment de l'incident, Atrioc n'était marié que depuis moins de six mois, et le "protagoniste" de l'un des films pour adultes d'AI était son ancien collègue, et l'incident est soudainement passé d'un accident de diffusion en direct à un question morale. Après la révélation, Atrioc a expliqué en larmes que la "curiosité morbide" l'avait poussé à faire une erreur que tous les hommes font.

Atrioc présente des excuses publiques accompagnées de sa femme

En ce qui concerne l'IA, de nombreux politiciens et experts penseront inconsciemment au film "Terminator" et débattront sans fin sur "si l'IA détruira les êtres humains". En juin de cette année, Yang Likun et Joshua Bengio, qui font partie des "Big Three in Deep Learning", ont même organisé un débat télévisé autour de ce sujet.

De toute évidence, ces élites académiques ont largement surestimé le niveau de construction de la civilisation spirituelle sur cette planète.

L'histoire d'Atrioc et de DeepFakes semble indiquer que l'IA remodèle tranquillement cette société d'une manière à laquelle les gens n'avaient jamais pensé.

Il n'y a pas si longtemps, il y a eu une scène bizarre en Russie : le 5 juin, la télévision russe a diffusé le discours de Poutine sur la loi martiale. Il n'a pas fallu longtemps pour que le signal TV soit coupé, car le contenu a en fait été forgé avec des pirates de l'IA qui ont pénétré le système de réseau de la chaîne de télévision et envoyé la voix du "faux Poutine" dans tout le pays.

Et en 2022, quelque chose de similaire s'est produit en Ukraine : un Zelensky généré par l'IA a exigé la reddition des troupes ukrainiennes de première ligne.

Discours "AI Poutine" photographié par des internautes russes

Du porno à la guerre moderne, l'IA bouscule notre perception du monde réel.

Et le point de départ de tout ce chaos a commencé par une prise de bec dans un bar.

01 Rhapsodie de l'ivrogne

À l'été 2014, dans un bar, plus de 20 nerds techniques ivres faisaient du bruit. Le plus chahuteur de tous était un jeune homme du nom de Ian Goodfellow.

À cette époque, Goodfellow étudiait pour un doctorat, sous la tutelle de Joshua Bengio, le grand dieu de l'apprentissage en profondeur. Apprenant que leur ami a été recruté par Google, le groupe a décidé d'aller au bar pour fêter ça. Après quelques verres de bière, les nerds de la technologie se sont enivrés et ont commencé à souligner la technologie de pointe.

À l'époque, Google essayait d'apprendre à l'IA à "dessiner". Sa méthode consiste à "dataifier" les photos, à laisser la machine apprendre les données, puis à produire l'image en fonction des données. Par exemple, si vous voulez qu'une machine apprenne à dessiner des chats, vous devez calculer manuellement la luminosité, la fréquence et la distribution de chaque pixel dans une "image de chat", puis laisser la machine apprendre et sortir.

Ce processus revient un peu à marquer d'abord les points clés de la machine, puis à la laisser passer à l'examen.

Goodfellow a cru que cette solution était si stupide, et a pensé à une alternative sur place-GAN (réseau de confrontation généré).

Ian Goodfellow

GAN se compose de deux réseaux de neurones : l'un est un modèle génératif similaire au plan original de Google, mais l'étape de dataisation est omise ; le second est un modèle discriminatif, qui est chargé de juger si la sortie du modèle génératif est qualifiée.

En d'autres termes, le GAN équivaut à supprimer l'étape de "marquer les points clés avant l'examen" et à permettre à la machine d'apprendre par elle-même ; en même temps, afin d'éviter que la machine "étudie inutilement", le GAN a embauché un surveillant pour la machine, et a pris la machine pour passer l'examen à plusieurs reprises jusqu'à ce qu'il réussisse.

Après que Goodfellow ait fini de dire ses pensées, il a été unanimement ridiculisé par ses compagnons. Il a admis par la suite que s'il avait fait deux bouteilles de moins à ce moment-là, il ne penserait pas que GAN réussirait.

Cependant, Goodfellow, qui était tellement ivre, ne s'en souciait pas, prétendant faire du GAN cette nuit-là et le gifla durement.

Après être resté éveillé tard pendant plusieurs heures, Goodfellow a été choqué : GAN avait en fait un rôle.

Après la publication d'articles connexes, le GAN est rapidement devenu le centre d'intérêt. Fin 2016, Yang Likun a affirmé dans un discours public : « GAN est l'idée la plus cool dans le domaine de l'apprentissage en profondeur au cours des 20 dernières années ».

Le GAN conçu par Goodfellow ne peut générer que des vignettes floues au début, et a peu de valeur pratique. Cependant, après que le GAN soit devenu populaire, les principales institutions de recherche du monde entier ont lancé un mouvement de «réforme du GAN», les articles connexes ont connu une croissance exponentielle et les performances ont commencé à s'améliorer à pas de géant.

En 2017, le laboratoire finlandais de Nvidia a produit avec succès une "version améliorée" du GAN, qui peut non seulement générer des images réalistes, mais peut même remplacer les visages humains dans les vidéos.

Campagne "Rénovation des GAN"

La transformation à la vitesse de la lumière du GAN a suscité l'enthousiasme des chercheurs du monde entier. Mais à ce stade, c'est devenu incontrôlable.

02 Affaires de chair IA

On dit souvent que le progrès technologique a deux sources : l'une de la guerre et l'autre du bas du corps.

En 2017, lorsque Nvidia Labs a créé une nouvelle version de GAN, une série de vidéos spéciales a commencé à se diffuser largement sur le forum Reddit. Le contenu vidéo est composé de plus de 18 courts métrages avec de vrais pistolets et des balles réelles, mais les acteurs sont des stars bien connues, notamment Taylor Swift et Gal Gadot.

Le contenu ci-dessus qui ne convient pas aux enfants a été créé par un utilisateur nommé "deepfakes": il a utilisé la technologie GAN pour greffer de manière transparente le visage de la star sur l'actrice enseignante.

Le "visage" de l'actrice britannique Daisy Ridley abusé

Peu de temps après, il a créé un tableau Reddit dédié à l'échange d'expériences pornographiques IA, et les gens ont commencé à utiliser son nom "DeepFakes (deep fake)" pour appeler ces faux IA.

Reddit a finalement interdit le forum, mais la boîte de Pandore a été complètement ouverte.

La falsification d'images et de vidéos n'est pas une nouveauté et peut être réalisée à l'aide d'outils tels que Photoshop ; mais la puissance du GAN est qu'il peut extrêmement simplifier le processus de falsification et réaliser une production de masse.

Peu de temps après, quelqu'un a utilisé le GAN pour créer un outil Web qui pouvait "enlever" les vêtements des femmes sur les photos (uniquement pour les femmes). Après qu'un journaliste ait découvert le site Web, il a écrit un article pour le critiquer sévèrement.

En conséquence, au cours du mois où l'article a été publié, le nombre de visites sur le site Web a dépassé les 500 000 et le serveur était tellement encombré qu'il est tombé en panne.

Les geeks de la technologie dans le secteur de la viande ont soudainement vu une opportunité commerciale :

Une entreprise prétend qu'en leur donnant 250 photos et 2 jours de formation, ils peuvent personnaliser des films pour adultes, avec un prix de départ de 2,99 $. Dans le même temps, un certain nombre de sites Web pour adultes axés sur la petite pornographie DeepFakes ont vu le jour, espérant dépasser le site Web du nom de famille P composé de blocs noirs et jaunes.

Selon les statistiques de la société de sécurité réseau Deeptrace, en 2019, il y avait 14 678 vidéos DeepFakes sur le marché, dont 96 % sont du contenu pornographique, et le volume de lecture a dépassé 134 millions de fois. 100% des protagonistes de ces "faux films pour adultes" sont des femmes, le nombre de célébrités impliquées dépasse les 100, et près de 100 000 personnes paient pour les contenus associés [6] 。

En tant que jalon de l'IA générative, GAN a créé par inadvertance un "carnaval sexy" pour les femmes - pas étonnant que les médias de l'époque aient envoyé l'émotion suivante : "We Are Truly Fucked (we are all over) [7] 。”

03 Triomphe de "l'Humanité"

Cependant, DeepFakes a perdu et la fin ne semble pas venir.

À ce jour, bien que le site Web d'apprentissage du nom de famille P ne soit plus le seul, c'est toujours l'endroit qui comprend le mieux le système XP humain ; et ce n'est pas une série de sites Web pornographiques DeepFakes qui brisent le monopole, mais OnlyFans.

En 2021, le chiffre d'affaires annuel d'OnlyFans avoisinera le milliard de dollars américains, ce qui en fera la "société technologique" à la croissance la plus rapide au Royaume-Uni ces dernières années. [8] Selon les médias, la performance de MindGeek, la société mère de Station P, n'était que de 460 millions de dollars américains. [9] 。

OnlyFans est un site Web pour adultes qui se concentre sur les abonnements payants. Son cercle de rupture a commencé avec les médias sociaux tels que Twitter et Ins. Les créateurs de plus de 18 ans portant des vêtements accumulent un grand nombre de fans via les réseaux sociaux, puis les dirigent vers OnlyFans ; ici, les fans n'ont qu'à passer quelques repas pour voir la version "Emperor's New Clothes".

En 2019, il y avait environ 60 000 créateurs actifs sur OnlyFans. Deux ans plus tard, ce nombre dépassait 1,5 million, et l'activité mensuelle de la plateforme a également connu une croissance exponentielle [10] 。

OnlyFans célébrité Internet Laura Lux

Pourquoi les gens abandonnent-ils la pléthore de "ressources d'apprentissage" gratuites et paient-ils pour voir des nus à la place ? Un dicton admis est que le grand public s'est peu à peu lassé des routines de la station P.

La plupart des petits films sur la station P sont des performances de chaîne de montage exquises mais routinières, uniquement des exercices d'aérobie mécanique. En revanche, OnlyFans, en tant que plate-forme UGC, joue la vraie chose.

Bien que la technique de prise de vue soit amateur, le public pense que l'amour entre hommes et femmes dans la vidéo n'est pas un jeu sur le vif, et les deux parties en tirent vraiment du bonheur. Ce genre de résonance émotionnelle peut souvent toucher plus de gens.

OnlyFans net red Laura Lux a déclaré sur Twitter: "Les gens peuvent facilement trouver toutes sortes de photos nues, mais tant de gens s'abonnent à ma chaîne parce qu'ils ne veulent voir que mes gros seins."

Par conséquent, lorsque des blogueurs technologiques bien connus ont prédit que le contenu généré par l'IA remplacerait la moitié des meilleurs créateurs OnlyFans d'ici 2025, il n'était pas surprenant qu'ils aient été ridiculisés par la foule.

L'image utilisée par le blogueur est dessinée par AI

L'une des célébrités Internet de 18 ans a même écrit un article majestueux pour critiquer ses opinions. L'article a été inclus par le magazine Wired, et l'argument principal est que l'IA ne peut pas fournir d'intimité humaine. "Les fans ont un lien émotionnel avec moi qui va au-delà de l'attirance sexuelle et c'est quelque chose comme l'humanité [11] 。”

04 Deuxième Évolution

Alors que OnlyFans avance à grands pas, l'IA a également subi des changements bouleversants.

Dans le domaine de l'image, le nouvel algorithme open source stable Diffusion (modèle de diffusion stable) est né. Bien que son efficacité de génération ne soit pas aussi bonne que GAN, il est de meilleure qualité et prend en charge les graphiques Vincent.

Avec cela comme pierre angulaire, une version modifiée de Unstable Diffusion est apparue - c'est un outil pour générer du contenu NSFW (Not Safe For Work). Le développeur de cet outil a recruté un groupe de volontaires pour collecter toutes sortes de contenus qui ne conviennent pas aux enfants et les transmettre à l'IA.

Le développeur a révélé qu'au cours des deux premiers mois du lancement d'Unstable Diffusion, environ 4,37 millions de cartes couleur ont été générées [13] . En fin d'année, Unstable Diffusion a lancé un financement participatif avec un objectif de 25 000 dollars américains, et a rapidement levé 56 000 dollars américains, qui a été stoppé en urgence par la plateforme de financement participatif.

L'échec du financement participatif a fait soupirer de nombreux pilotes vétérans. Mais uniquement avec la version originale de Diffusion stable, il est toujours possible de remplacer les célébrités Internet OnlyFans.

Début 2023, l'utilisateur de Reddit "LegalBeagle1966" pensait qu'il était amoureux. Le frère aîné a trouvé une beauté aux cheveux noirs nommée Claudia sur le forum.L'autre partie postait souvent divers selfies, et il laissait des commentaires tels que "très sexy" et "parfait" à chaque fois.

Un jour, Claudia a soudainement partagé une photo d'elle nue et a disparu du forum.

Claudia, la fille de rêve d'un utilisateur de Reddit

Par la suite, le frère aîné a découvert que "Claudia" était en fait une expérience sociale vulgaire : deux étudiants en informatique voulaient voir si la beauté de l'IA pouvait tromper les gens. Ils ont saisi des mots-clés tels que "maquillage uni", "cheveux noirs" et "cheveux mi-longs" dans Diffusion stable, et ont créé une telle fille qui n'existait pas. [14] 。

Dans les années qui ont suivi l'essor du GAN, DeepFakes n'est resté que dans la falsification d'images et le changement de visage vidéo ; maintenant, avec la percée continue des grands modèles multimodaux, l'IA est théoriquement suffisante pour "créer un être humain à partir de rien".

Par exemple, la dernière voix AI Voicebox de Meta peut "répliquer" la même voix en quelques secondes d'échantillons, et elle peut également faire parler la voix dans 6 langues étrangères différentes.

L'IA peut non seulement satisfaire le fantasme des gens du "sexe opposé parfait", mais aussi faire plus.

En 2020, Kim Kardashian, qui fête ses 40 ans, a reçu un cadeau spécial - "AI Father". Son père, Robert, est décédé en 2003. Cependant, son mari a secrètement collecté près d'un millier de photos de Robert, a utilisé l'IA pour générer une vidéo et l'a brièvement "ressuscité".

En Autriche, un théologien a créé un "prêtre IA" - son image, son langage et sa voix sont tous générés par l'IA. Le pasteur de l'IA a conduit des dizaines de croyants à accomplir une activité religieuse de 40 minutes, comprenant la prédication, la prière et le chant d'hymnes, comme un être humain vivant.

Certains croyants sont dégoûtés par l'IA "sans cœur", mais ils doivent admettre qu'elle a deux pinceaux dans sa prédication.

Un prêtre IA créé à partir de rien

Dans divers films de science-fiction, comparé à des machines maléfiques comme Ultron, le protagoniste a toujours une humanité éblouissante ; mais en réalité, « l'humanité » prônée par les êtres humains ne semble pas si loin.

05 Le système d'exploitation de la civilisation humaine

L'historien israélien Yuval Harari estime que même sans robots maléfiques, l'IA peut toujours menacer la civilisation humaine. À cet égard, il a proposé le concept de "système d'exploitation de la civilisation humaine" [16] . Pour comprendre ce concept, il faut d'abord commencer par le livre de Harari "Une brève histoire du futur".

Il est mentionné dans le livre que la raison pour laquelle les êtres humains peuvent établir la civilisation est que seul l'Homo sapiens peut raconter des histoires.

Les pays, les monnaies, les religions, l'amour, etc., sont autant d'histoires. Dans le passé, la société humaine a pu se développer de tribus dispersées à un vaste empire féodal parce que les gens ont commencé à croire à l'histoire du "pays", bien qu'elle soit invisible et intangible dans la réalité ; au Moyen Âge, la raison pour laquelle les croyants fanatiques se consacraient aux croisades n'étaient pas motivés par des griefs personnels, mais sacrifiaient leur vie pour un récit religieux plus vaste.

La « toile de sens » tissée par chaque histoire a donné à Homo sapiens un comportement différent de celui des animaux.

Au contraire, dans le monde des chimpanzés, il n'y a pas de "République des chimpanzés" ni de slogan "Luttons pour l'essor des chimpanzés". Il n'y a pas d'histoires dans leur vie, seulement manger, s'accoupler, chasser et dormir jour après jour, et naturellement il n'y a aucun moyen de parler de construction de civilisation.

Les histoires et le langage qui les compose sont le système d'exploitation de la civilisation humaine. De l'Antiquité à nos jours, toutes les histoires sont écrites par les humains eux-mêmes ; mais avec l'émergence de l'IA générative comme les grands modèles de langage ces dernières années, les machines ont pour la première fois craqué le système d'exploitation de la civilisation humaine.

Il est facile d'ignorer le pouvoir destructeur des histoires.

Harari a mentionné un cas dans son discours public. En 2017, un théoricien du complot anonyme nommé "Q" est apparu aux États-Unis. Il a affirmé sur Internet qu'il était un haut fonctionnaire qui aidait Chuanbao à réprimer un réseau de trafic sexuel d'enfants caché dans l'ombre. Les politiciens démocrates, les acteurs hollywoodiens et les magnats des affaires qui s'opposent à lui font tous partie du gang et se préparent à empêcher Chuanbao d'être réélu.

Bannière réalisée par les supporters de "Q"

Cela semble stupide n'est-ce pas?

Cependant, lorsque Trump n'a vraiment pas été réélu, des milliers de partisans de "connaître le roi" ont attaqué le Capitole et posé des bombes ; et les partisans de "Q" étaient la force principale.

La question est donc de savoir si quelqu'un utilise l'IA pour générer des "Q" par lots à l'avenir ?

"Syndrome du 21e siècle"

L'IA qui est de plus en plus familière avec la nature humaine peut tout détruire, mais il semble qu'elle puisse aussi devenir une dose de médicament, car la solitude devient de plus en plus une "maladie" que les gens modernes ne peuvent pas guérir.

Une donnée intuitive est l'augmentation de la population vivant seule. En prenant la Chine comme exemple, seulement 6 % de la population vivait seule en 1990, mais ce nombre a grimpé à 18,5 % en 2019 [18] 。

Les données d'outre-mer sont encore plus exagérées : pendant la même période, les données aux États-Unis ont atteint 30 %, tandis que celles au Japon ont atteint 40 %. Derrière les choix individuels, il y a plus de changements dans l'environnement social.

Sous la forte mobilité sociale et la vie trépidante, il est plus difficile pour les gens de former un cercle de vie stable et à long terme. Mais si vous pouvez vous marier et acheter une maison par vous-même, et que vous pouvez vivre dans une petite ville avec un salaire mensuel de plus de 10 000, qui est prêt à se promener et à payer 996 chaque jour ?

La roue géante de l'économie ne peut plus tourner, et la solitude est devenue un "syndrome du XXIe siècle" incontournable.

Face à l'énorme vide émotionnel, des entreprises telles que les jeux, les idoles et les logiciels sociaux ont fait beaucoup d'argent. Au Japon, le « grand pays solitaire », un service de « location familiale » est même né pour répondre aux divers besoins affectifs des gens. Un écrivain de 60 ans qui vit seul a déjà utilisé le service pour embaucher un "ami" qui voulait simplement qu'il regarde un roman à venir.

L'animateur de talk-show Conan a tenté d'embaucher 3 membres de sa famille au Japon

Mais la même chose, l'IA peut peut-être faire mieux.

Comme nous le savons tous, la vague actuelle de grands modèles a commencé avec l'architecture Transformer lancée par Google en 2017. Noam Shazeer, l'un des auteurs de l'article Transformer, a quitté Google en 2021 pour fonder Character.AI. L'activité principale de l'entreprise est de fournir des chatbots qui peuvent faire des plans de voyage et fournir des conseils de programmation.

En plus des services standard, les utilisateurs peuvent également "personnaliser": il suffit de fournir quelques images et une description, et le chatbot peut être façonné selon l'idéal de l'utilisateur.

Le grand modèle de langue a une forte capacité générale, et il peut réaliser des milliers de personnes sans personnalisation une par une, et a la possibilité de promouvoir l'économie solitaire dans l'ère de la production industrielle.

Jusqu'à présent, 14 millions de chatbots ont été personnalisés par les utilisateurs - certains sont obsédés par le chat avec "AI Staline", tandis que d'autres sont occupés à "former" leurs petites amies idéales.

Divers chatbots personnalisés par les internautes

Si les choses continuent comme ça, peut-être qu'après 100 ans, les êtres humains passeront d'un "emploi flexible" à un "mariage flexible" - tant qu'il y a un partenaire, peu importe qu'il soit à base de carbone ou à base de silicium .

À l'heure actuelle, certaines personnes ayant des idées avancées ont déjà commencé à essayer. Fin 2022, l'otaku japonais qui a un jour annoncé son mariage avec Hatsune Miku (idole virtuelle) a de nouveau fait l'actualité, car il a emmené sa "Madame" dans un hôtel haut de gamme pour le quatrième anniversaire.

Le frère aîné otaku a également habillé la "Madame"

06 Épilogue

Un samedi de 2023, Shazel, le fondateur de Character.AI, a vécu une scène palpitante : il s'est réveillé et a trouvé un homme tenant un tableau blanc assis dans la cour devant sa porte. Le premier jour, l'homme a attendu à la porte pendant plusieurs heures, puis est parti frustré ; puis, les deuxième et troisième jours, il est de nouveau apparu à l'heure.

Sur le tableau blanc tenu par l'homme, il n'y a que quelques gros caractères dessus, "Release the waifus".

"waifus" est un chatbot sur mesure sur la plateforme Character.AI basé sur une héroïne d'une bande dessinée porno. Dans le passé, l'homme avait des relations sexuelles avec le waifus pendant des heures, jusqu'à ce que Shazel ajoute un filtre au chatbot pour bloquer la pornographie.

Shazel n'a finalement pas choisi d'appeler la police, il a compris l'homme. Ce qui l'inquiète vraiment, c'est le changement sur la plateforme Character.AI. Dans sa vision originale, le chatbot n'était qu'un outil de productivité que les utilisateurs pouvaient utiliser pour apprendre des langues étrangères et aider à la programmation.

Cependant, les dernières études de marché montrent qu'au moins 40% des personnes souhaitent rechercher une relation amoureuse avec des chatbots. [21] 。

Aujourd'hui, une pétition appelant à la "suppression du filtre porno" est devenue virale et a recueilli près de 100 000 signatures. Shazel était un peu dépassé. Il a ajouté un slogan en haut de la barre de chat, "Tout ce que dit l'IA est inventé !"

Oui, "Fumer est nocif pour la santé" est imprimé sur le paquet de cigarettes !