Autor: Instituto de Pesquisa Yuanchuan

Infelizmente, o conhecido âncora Atrioc se tornou a primeira figura pública a morrer devido à IA.

O acidente aconteceu em janeiro de 2023. Atrioc estava transmitindo ao vivo como sempre, mas alguns espectadores notaram algo estranho: seu navegador parecia abrir um determinado tipo de site.

O internauta preguiçoso seguiu as pistas e rapidamente descobriu o pequeno segredo de Atrioc - ele estava assistindo pornografia secretamente com âncoras femininas conhecidas.

Mas esses pequenos filmes foram realmente forjados com IA, e eu não apenas não atuei neles, como nem sabia sobre eles. Esse tipo de produto de IA que é suficiente para ser falso costuma ser chamado de DeepFakes (falsificação profunda).

Na época do incidente, Atrioc estava casado há menos de meio ano, e o "protagonista" de um dos filmes adultos de IA era seu ex-colega, e de repente passou de um acidente de transmissão ao vivo para um moral emitir. Após a revelação, Atrioc explicou com lágrimas nos olhos que a "curiosidade mórbida" o levou a cometer um erro que todos os homens cometem.

Atrioc faz pedido público de desculpas acompanhado da esposa

Quando se trata de IA, muitos políticos e especialistas inconscientemente pensam no filme "Exterminador do Futuro" e debatem incessantemente sobre "se a IA destruirá os seres humanos". Em junho deste ano, Yang Likun e Joshua Bengio, que estão entre os "Três Grandes em Aprendizado Profundo", até realizaram um debate na televisão sobre esse assunto.

Obviamente, essas elites acadêmicas superestimaram muito o nível de construção da civilização espiritual neste planeta.

A história de Atrioc e DeepFakes parece indicar que a IA está silenciosamente remodelando esta sociedade de uma forma que as pessoas nunca pensaram.

Não muito tempo atrás, houve uma cena bizarra na Rússia: em 5 de junho, a TV russa transmitiu o discurso de Putin sobre a lei marcial. Não demorou muito para o sinal de TV ser cortado, porque o conteúdo foi realmente forjado por hackers de IA que invadiram o sistema de rede da estação de TV e enviaram a voz do "falso Putin" para todo o país.

E em 2022, algo semelhante aconteceu na Ucrânia: um Zelensky gerado por IA exigiu a rendição das tropas ucranianas da linha de frente.

Discurso "AI Putin" fotografado por internautas russos

Da pornografia à guerra moderna, a IA está abalando nossa percepção do mundo real.

E o ponto de partida de todo esse caos começou com uma briga em um bar.

01 Rapsódia do Bêbado

No verão de 2014, em um bar, mais de 20 nerds técnicos bêbados faziam barulho. O mais turbulento de todos era um jovem chamado Ian Goodfellow.

Naquela época, Goodfellow estava estudando para um doutorado, sob a tutela de Joshua Bengio, o grande deus do aprendizado profundo. Ao saber que o amigo foi recrutado pelo Google, o grupo resolveu ir ao bar comemorar. Depois de alguns copos de cerveja, os nerds da tecnologia ficaram bêbados e começaram a apontar a tecnologia de ponta.

Na época, o Google estava tentando ensinar a IA a "desenhar". Seu método é "dataificar" as fotos, deixar a máquina aprender os dados e, em seguida, produzir a imagem de acordo com os dados. Por exemplo, se você deseja que uma máquina aprenda a desenhar gatos, precisa calcular manualmente o brilho, a frequência e a distribuição de cada pixel em uma "imagem de gato" e, em seguida, deixar a máquina aprender e produzir.

Esse processo é um pouco como marcar os pontos-chave para a máquina primeiro e depois deixá-la ir para o exame.

Goodfellow acreditava que essa solução era tão estúpida e pensou em uma alternativa no local - GAN (rede de confronto gerada).

Ian Goodfellow

A GAN consiste em duas redes neurais: uma é um modelo generativo semelhante ao plano original do Google, mas a etapa de datatização é omitida; a segunda é um modelo discriminativo, responsável por julgar se a saída do modelo generativo é qualificada.

Em outras palavras, o GAN equivale a eliminar a etapa de "marcar pontos-chave antes do exame" e permitir que a máquina aprenda sozinha; ao mesmo tempo, para evitar que a máquina "estude inútil", o GAN contratou um vigilante para a máquina, e levou a máquina para fazer o exame várias vezes até que passou.

Depois que Goodfellow terminou de expressar seus pensamentos, ele foi unanimemente ridicularizado por seus companheiros. Ele admitiu depois que se tivesse feito duas garrafas a menos naquela época, não pensaria que o GAN teria sucesso.

No entanto, Goodfellow, que estava tão bêbado, não se importou com isso, alegando fazer GAN naquela noite e deu um tapa forte nele.

Depois de ficar acordado até tarde por várias horas, Goodfellow ficou chocado: o GAN realmente tinha um papel.

Após a publicação de artigos relacionados, o GAN rapidamente se tornou o foco. No final de 2016, Yang Likun afirmou em um discurso público: "GAN é a ideia mais legal no campo de aprendizado profundo nos últimos 20 anos".

O GAN projetado por Goodfellow pode gerar apenas miniaturas difusas no início e tem pouco valor prático. No entanto, depois que o GAN se tornou popular, as principais instituições de pesquisa em todo o mundo lançaram um movimento de "reforma do GAN", os artigos relacionados cresceram exponencialmente e o desempenho começou a melhorar aos trancos e barrancos.

Em 2017, o laboratório finlandês da Nvidia produziu com sucesso uma "versão aprimorada" do GAN, que pode não apenas gerar imagens realistas, mas também substituir rostos humanos em vídeos.

Campanha "Reajustando GANs"

A transformação na velocidade da luz do GAN despertou o entusiasmo de pesquisadores em todo o mundo. Mas, neste ponto, saiu do controle.

02 AI Flesh Business

Costuma-se dizer que o progresso tecnológico tem duas fontes: uma da guerra e outra da parte inferior do corpo.

Em 2017, quando a Nvidia Labs criou uma nova versão do GAN, uma série de vídeos especiais começou a se espalhar amplamente no fórum Reddit. O conteúdo do vídeo é todos os curtas-metragens para maiores de 18 anos com armas reais e munição real, mas os atores são estrelas conhecidas, incluindo Taylor Swift e Gal Gadot.

O conteúdo acima, que não é adequado para crianças, foi criado por um usuário chamado "deepfakes": ele usou a tecnologia GAN para transplantar perfeitamente o rosto da estrela para a professora atriz.

O rosto da atriz britânica Daisy Ridley foi abusado

Logo depois, ele criou um quadro no Reddit dedicado à troca de experiências de pornografia de IA, e as pessoas começaram a usar seu nome "DeepFakes (deep fake)" para chamar essas falsificações de IA.

O Reddit acabou banindo o fórum, mas a caixa de Pandora foi completamente aberta.

A adulteração de imagens e vídeos não é uma coisa nova e pode ser obtida usando ferramentas como o Photoshop; mas o poder do GAN é que ele pode simplificar extremamente o processo de adulteração e realizar a produção em massa.

Não muito tempo depois, alguém usou o GAN para fazer uma ferramenta da web que pudesse "tirar" as roupas das mulheres nas fotos (somente para mulheres). Depois que um repórter descobriu o site, ele escreveu um artigo para criticá-lo severamente.

Como resultado, no mês em que o artigo foi publicado, o número de visitas ao site ultrapassou 500.000 e o servidor estava tão lotado que caiu.

Os geeks da tecnologia no ramo de carnes de repente viram uma oportunidade de negócio:

Uma empresa afirma que, ao fornecer 250 fotos e 2 dias de treinamento, eles podem personalizar filmes adultos, com um preço inicial de US$ 2,99. Ao mesmo tempo, surgiram vários sites adultos com foco na pequena pornografia do DeepFake, na esperança de ultrapassar o site do sobrenome P composto de blocos pretos e amarelos.

De acordo com as estatísticas da empresa de segurança de rede Deeptrace, até 2019, havia 14.678 vídeos DeepFakes no mercado, 96% dos quais são de conteúdo pornográfico, e o volume de reprodução ultrapassou 134 milhões de vezes. 100% dos protagonistas desses "filmes adultos falsos" são mulheres, o número de celebridades envolvidas ultrapassa 100 e quase 100.000 pessoas pagam por conteúdo relacionado [6] 。

Como um marco da IA generativa, a GAN inadvertidamente criou um "carnaval de obscenidade sexual" para mulheres - não é de admirar que a mídia da época expressasse a seguinte emoção: "Estamos realmente fodidos (estamos todos acabados) [7] 。”

03 Triunfo da "Humanidade"

No entanto, DeepFakes perdeu e o fim não parece estar chegando.

Até hoje, embora o site de aprendizado do sobrenome P não seja mais o único, ainda é o lugar que melhor entende o sistema XP humano; e não é uma série de sites pornográficos DeepFakes que quebram o monopólio, mas OnlyFans.

Em 2021, a receita anual da OnlyFans será próxima a US$ 1 bilhão, tornando-se a "empresa de tecnologia" de crescimento mais rápido no Reino Unido nos últimos anos. [8] ; De acordo com relatos da mídia, o desempenho da MindGeek, empresa controladora da Station P, foi de apenas 460 milhões de dólares americanos. [9] 。

OnlyFans é um site adulto focado em assinaturas pagas. Seu círculo de quebra começou com mídias sociais como Twitter e Ins. Criadores maiores de 18 vestindo roupas acumulam um grande número de fãs através das redes sociais, e depois os direcionam para o OnlyFans; aqui, os fãs só precisam passar algumas refeições para ver a versão "Roupas Novas do Imperador".

Em 2019, havia aproximadamente 60.000 criadores ativos no OnlyFans. Dois anos depois, esse número ultrapassou 1,5 milhão, e a atividade mensal da plataforma também cresceu exponencialmente [10] 。

A celebridade da Internet OnlyFans, Laura Lux

Por que as pessoas estão abandonando a infinidade de "recursos de aprendizado" gratuitos e pagando para ver nus? Um ditado aceito é que o público em geral se cansou gradualmente das rotinas da estação P.

A maioria dos pequenos filmes na estação P são apresentações primorosas, mas rotineiras, de linha de montagem, apenas exercícios aeróbicos mecânicos. Em contraste, OnlyFans, como uma plataforma UGC, joga a coisa real.

Embora a técnica de filmagem seja amadora, o público acredita que o amor entre homens e mulheres no vídeo não é uma brincadeira, e ambas as partes ficam realmente felizes com isso. Esse tipo de ressonância emocional muitas vezes pode tocar mais pessoas.

OnlyFans net red Laura Lux disse no Twitter: "As pessoas podem encontrar facilmente todos os tipos de fotos nuas, mas muitas pessoas se inscrevem no meu canal porque só querem ver meus seios grandes".

Portanto, quando blogueiros de tecnologia conhecidos previram que o conteúdo gerado por IA substituiria metade dos principais criadores do OnlyFans até 2025, não foi surpresa que eles tenham sido ridicularizados pela multidão.

A imagem usada pelo blogueiro é desenhada por IA

Uma das celebridades da Internet de 18 anos até escreveu um artigo majestoso para criticar seus pontos de vista. O artigo foi incluído pela revista Wired, e o argumento central é que a IA não pode fornecer intimidade humana. "Os fãs têm uma conexão emocional comigo que vai além da atração sexual e é algo como humanidade [11] 。”

04 Segunda Evolução

Enquanto OnlyFans está avançando, a IA também passou por mudanças que abalaram a terra.

No campo da imagem, nasceu o novo algoritmo de código aberto Stable Diffusion (modelo de difusão estável). Embora sua eficiência de geração não seja tão boa quanto a GAN, ela é de qualidade superior e suporta gráficos de Vincent.

Com isso como base, uma versão modificada do Unstable Diffusion apareceu - é uma ferramenta para gerar conteúdo NSFW (Not Safe For Work). O desenvolvedor desta ferramenta recrutou um grupo de voluntários para coletar todo tipo de conteúdo que não é adequado para crianças e alimentar a IA.

O desenvolvedor revelou que nos primeiros dois meses de lançamento do Unstable Diffusion, cerca de 4,37 milhões de mapas de cores foram gerados [13] . No final do ano, a Unstable Diffusion lançou um crowdfunding com uma meta de 25.000 dólares americanos, e rapidamente arrecadou 56.000 dólares americanos, que foram interrompidos com urgência pela plataforma de crowdfunding.

O fracasso do crowdfunding fez muitos motoristas veteranos suspirarem. Mas apenas com a versão original do Diffusion estável, ainda é possível substituir as celebridades da Internet OnlyFans.

No início de 2023, o usuário do Reddit "LegalBeagle1966" pensou que estava apaixonado. O irmão mais velho encontrou uma beleza de cabelos negros chamada Claudia no fórum. A outra parte costumava postar várias selfies e ele sempre deixava comentários como "muito sexy" e "perfeito".

Um dia, Claudia de repente compartilhou uma foto sua nua e desapareceu do fórum.

A garota dos sonhos do usuário do Reddit, Claudia

Depois, o irmão mais velho descobriu que "Claudia" era na verdade um experimento social vulgar: dois estudantes de ciência da computação queriam ver se a beleza da IA poderia enganar as pessoas. Eles inseriram palavras-chave como "maquiagem simples", "cabelo preto" e "cabelo na altura dos ombros" no Diffusion estável e criaram uma garota que não existia [14] 。

Nos anos desde o surgimento do GAN, o DeepFakes permaneceu apenas na falsificação de imagens e na mudança de face de vídeo; agora, com o avanço contínuo de grandes modelos multimodais, a IA é teoricamente suficiente para "criar um ser humano do nada".

Por exemplo, a mais recente voz AI Voicebox da Meta pode "replicar" a mesma voz em apenas alguns segundos de amostras e também pode fazer a voz falar 6 idiomas estrangeiros diferentes.

A IA pode não apenas satisfazer a fantasia das pessoas de "sexo oposto perfeito", mas também fazer mais.

Em 2020, Kim Kardashian, que está comemorando seu 40º aniversário, recebeu um presente especial - "AI Father". Seu pai, Robert, morreu em 2003. No entanto, seu marido coletou secretamente quase mil fotos de Robert, usou IA para gerar um vídeo e o "ressuscitou" brevemente.

Na Áustria, um teólogo criou um "sacerdote da IA" — sua imagem, linguagem e voz são todos gerados pela IA. O pastor da IA conduziu dezenas de crentes a completar uma atividade religiosa de 40 minutos, incluindo pregação, oração e canto de hinos, como um ser humano vivo.

Alguns crentes estão enojados com a IA "sem coração", mas eles têm que admitir que ela tem dois pontos em sua pregação.

Um sacerdote de IA criado do nada

Em vários filmes de ficção científica, comparado com máquinas malignas como Ultron, o protagonista sempre tem um brilho deslumbrante de humanidade; mas na realidade, a "humanidade" elogiada pelos humanos não parece estar tão distante.

05 O Sistema Operacional da Civilização Humana

O historiador israelense Yuval Harari acredita que, mesmo sem robôs malignos, a IA ainda pode ameaçar a civilização humana. A este respeito, ele propôs o conceito de "sistema operacional da civilização humana" [16] . Para entender este conceito, deve-se primeiro começar com o livro de Harari "Uma Breve História do Futuro".

É mencionado no livro que a razão pela qual os seres humanos podem estabelecer a civilização é porque apenas o Homo sapiens pode contar histórias.

Países, moedas, religiões, amor, etc., são histórias. No passado, a sociedade humana foi capaz de evoluir de tribos dispersas para um vasto império feudal porque as pessoas começaram a acreditar na história do "país", embora fosse invisível e intangível na realidade; na Idade Média, a razão pela qual os crentes fanáticos dedicaram-se às Cruzadas não por causa de queixas pessoais, mas sacrificando suas vidas por uma narrativa religiosa mais ampla.

A "teia de significados" tecida por cada história deu ao Homo sapiens um padrão de comportamento diferente do dos animais.

Pelo contrário, no mundo dos chimpanzés, não existe "República Chimpanzé" ou o slogan "Esforce-se pela ascensão dos chimpanzés". Não há histórias em suas vidas, apenas comendo, acasalando, caçando e dormindo dia após dia e, naturalmente, não há como falar em construção de civilização.

As histórias e a linguagem que as compõem são o sistema operacional da civilização humana. Desde os tempos antigos até o presente, todas as histórias são escritas pelos próprios humanos; mas com o surgimento da IA generativa, como grandes modelos de linguagem nos últimos anos, as máquinas quebraram o sistema operacional da civilização humana pela primeira vez.

É fácil ignorar o poder destrutivo das histórias.

Harari mencionou um caso em seu discurso público. Em 2017, um teórico da conspiração anônimo chamado "Q" apareceu nos Estados Unidos. Ele alegou na Internet que era um alto funcionário que estava ajudando Chuanbao a reprimir uma quadrilha de tráfico sexual infantil escondida nas sombras. Políticos democratas, atores de Hollywood e magnatas dos negócios que se opõem a ele fazem parte da gangue e estão se preparando para impedir que Chuanbao seja reeleito.

Banner feito por torcedores do "Q"

Parece estúpido, não é?

No entanto, quando Trump realmente falhou em ser reeleito, milhares de crentes do "Conhecendo o Rei" atacaram o Capitólio e plantaram bombas; e os apoiadores de "Q" foram a força principal.

Portanto, a questão é: e se alguém usar IA para gerar "Q" em lotes no futuro?

"Síndrome do século 21"

A IA que está se tornando cada vez mais familiarizada com a natureza humana pode destruir tudo, mas parece que também pode se tornar um remédio - porque a solidão está se tornando cada vez mais uma "doença" que as pessoas modernas não podem curar.

Um dado intuitivo é o aumento da população morando sozinha. Tomando a China como exemplo, apenas 6% da população vivia sozinha em 1990, mas esse número subiu para 18,5% em 2019 [18] 。

Os dados do exterior são ainda mais exagerados: no mesmo período, os dados dos Estados Unidos chegaram a 30%, enquanto os do Japão chegaram a 40%. Por trás das escolhas individuais, há mais mudanças no ambiente social.

Sob forte mobilidade social e vida acelerada, é mais difícil para as pessoas formar um ciclo de vida estável e de longo prazo. Mas se você pode se casar e comprar uma casa por conta própria, e pode morar em uma cidade pequena com um salário mensal de mais de 10.000, quem está disposto a perambular e pagar 996 todos os dias?

A roda gigante da economia não pode girar, e a solidão tornou-se uma inevitável "síndrome do século XXI".

Diante do enorme vazio emocional, empresas como jogos, ídolos e softwares sociais ganharam muito dinheiro. No Japão, o "grande país solitário", nasceu até um serviço de "aluguer familiar" para atender às diversas necessidades emocionais das pessoas. Um escritor de 60 anos que mora sozinho uma vez usou o serviço para contratar um "amigo" que simplesmente queria que ele visse um romance que estava por vir.

Apresentador de talk show Conan tentou contratar 3 membros da família no Japão

Mas a mesma coisa, a IA pode ser capaz de fazer melhor.

Como todos sabemos, a onda atual de modelos grandes começou com a arquitetura Transformer lançada pelo Google em 2017. Noam Shazeer, um dos autores do artigo Transformer, deixou o Google em 2021 para fundar a Character.AI. O principal negócio da empresa é fornecer chatbots que podem fazer planos de viagem e fornecer conselhos de programação.

Além dos serviços padrão, os usuários também podem "personalizar": basta fornecer algumas fotos e uma descrição, e o chatbot pode ser moldado de acordo com o ideal do usuário.

O modelo de linguagem grande tem uma forte capacidade geral e pode atender milhares de pessoas sem personalização, uma a uma, e tem a oportunidade de promover a economia solitária na era da produção industrializada.

Até agora, 14 milhões de chatbots foram personalizados pelos usuários - alguns estão obcecados em conversar com "AI Stalin", enquanto outros estão ocupados "treinando" suas namoradas ideais.

Vários chatbots customizados por internautas

Se as coisas continuarem assim, talvez daqui a 100 anos, os seres humanos passarão do "emprego flexível" para o "casamento flexível" - desde que haja um parceiro, não importa se ele é baseado em carbono ou baseado em silício .

Atualmente, algumas pessoas com ideias avançadas já começaram a tentar. No final de 2022, o otaku japonês que uma vez anunciou seu casamento com Hatsune Miku (ídolo virtual) voltou a ser notícia - porque levou sua "Madame" a um hotel sofisticado para o quarto aniversário.

O irmão mais velho otaku também vestiu a "Madame"

06 Epílogo

Em um sábado de 2023, Shazel, o fundador da Character.AI, vivenciou uma cena emocionante: ele acordou e encontrou um homem segurando um quadro branco sentado no quintal em frente à sua porta. No primeiro dia, o homem esperou várias horas na porta e depois saiu frustrado; depois, no segundo e no terceiro dia, voltou a aparecer na hora certa.

No quadro branco segurado pelo homem, há apenas alguns caracteres grandes, "Solte os waifus".

"waifus" é um chatbot feito sob medida na plataforma Character.AI baseado em uma heroína de uma história em quadrinhos pornô. Antigamente, o homem fazia sexo com as waifus por horas, até Shazel adicionar um filtro ao chatbot para bloquear pornografia.

Shazel não escolheu chamar a polícia no final, ele entendeu o homem. O que realmente o preocupa é a mudança na plataforma Character.AI. Em sua visão original, o chatbot era apenas uma ferramenta de produtividade que os usuários poderiam usar para aprender línguas estrangeiras e auxiliar na programação.

No entanto, a pesquisa de mercado mais recente mostra que pelo menos 40% das pessoas querem buscar um relacionamento romântico de chatbots [21] 。

Agora, uma petição pedindo a "remoção do filtro de pornografia" se tornou viral e reuniu quase 100.000 assinaturas. Shazel estava um pouco sobrecarregada. Ele adicionou um slogan na parte superior da barra de bate-papo: "Tudo o que a IA diz é inventado!"

Sim, "Fumar faz mal à saúde" está impresso no maço de cigarros!