A criptografia como uma ilusão de IA

intermediárioMar 05, 2024
Este artigo explora a possível integração da IA e das criptomoedas, enfatizando que a verdadeira integração envolve a incorporação da criptografia nos fluxos de trabalho da IA e a capacitação da IA com a criptografia.
A criptografia como uma ilusão de IA
  • Emergência: O fenômeno em que muitas entidades pequenas interagem para produzir um todo maior, exibindo novas características não possuídas pelos componentes individuais, como a emergência observada em sistemas biológicos estudados em química.
  • Alucinação: A tendência dos modelos de produzir dados enganosos, com modelos de IA gerando resultados que parecem corretos, mas que, na verdade, estão errados.

A conexão entre IA e criptografia mostrou ondulações distintas. Desde que o AlphaGo derrotou jogadores profissionais humanos de Go em 2016, tentativas de combinar os dois, como o surgimento espontâneo de projetos como o Fetch.AI, foram testemunhadas no mundo das criptomoedas. Com o advento do GPT-4 em 2023, a tendência de IA + criptografia ressurgiu, exemplificada pela emissão da WorldCoin. A humanidade parece estar pronta para entrar em uma era utópica em que a IA é responsável pela produtividade e a criptografia cuida da distribuição.

Esse sentimento atingiu seu auge depois que a OpenAI lançou o aplicativo Sora para síntese de texto para vídeo. Entretanto, as emoções geralmente envolvem elementos irracionais. Li Yizhou, por exemplo, parece fazer parte do segmento incompreendido, exemplificado por:

  • A fusão de aplicativos específicos de IA com o desenvolvimento de algoritmos. Embora o Sora e os princípios subjacentes do Transformer do GPT-4 sejam de código aberto, o uso de ambos requer pagamento à OpenAI.
  • Atualmente, a combinação de IA e criptografia é mais uma iniciativa da criptografia para abordar a IA, já que os principais gigantes da IA não demonstraram uma disposição clara. Nesse estágio, o que a IA pode fazer pela criptografia supera o que a criptografia pode fazer pela IA.
  • O uso da tecnologia de IA em aplicativos de criptografia não equivale à integração de IA e criptografia, como visto em aplicativos como jogos de blockchain, GameFi, projetos de metaverso, Web3 Games e as personas digitais no universo AW.
  • As contribuições que as criptomoedas podem fazer para o desenvolvimento da tecnologia de IA envolvem principalmente a descentralização e os incentivos de tokens nos três componentes da IA: capacidade de computação, dados e modelos.
  • A WorldCoin serve como uma integração bem-sucedida de ambos, com o zkML posicionado na interseção das tecnologias de IA e criptografia, e a teoria da UBI (Renda Básica Universal) passando por sua primeira implementação em grande escala.

Neste artigo, o foco será nos benefícios que as criptomoedas podem trazer para a IA, já que os projetos atuais de criptomoedas que enfatizam os aplicativos de IA são vistos, em sua maioria, como artifícios de marketing e não contribuem para nossa discussão.

Da regressão linear ao transformador

Por muito tempo, o ponto central das discussões sobre IA tem sido se o "surgimento" da inteligência artificial levará à criação de seres sencientes semelhantes aos de "Matrix" ou a uma civilização baseada em silício. As preocupações com a interação entre humanos e tecnologias de IA persistem, com exemplos recentes, como o advento do Sora, e instâncias anteriores, como GPT-4 (2023), AlphaGo (2016) e Deep Blue da IBM, que derrotou um campeão mundial de xadrez em 1997.

Embora essas preocupações não tenham se materializado, vamos relaxar e descrever brevemente o mecanismo por trás da IA.

A partir da regressão linear, essencialmente uma equação linear simples, como o mecanismo de perda de peso de Jia Ling, um famoso ator chinês, podemos fazer a seguinte generalização. Aqui, x e y representam a relação entre a ingestão de calorias e o peso, indicando que comer mais naturalmente leva ao ganho de peso e, se o senhor quiser perder peso, deve comer menos.

No entanto, essa abordagem traz alguns problemas. Em primeiro lugar, há limites fisiológicos para a altura e o peso humanos, e é improvável encontrar gigantes de 3 metros ou senhoras de mil quilos. Portanto, considerar situações além desses limites não tem significado prático. Em segundo lugar, simplesmente comer menos e se exercitar mais não está de acordo com os princípios científicos da perda de peso e pode, em casos graves, prejudicar o corpo.

Apresentamos o Índice de Massa Corporal (IMC), que mede a relação entre peso e altura dividindo o peso pelo quadrado da altura. Por meio de três fatores - alimentação, sono e exercícios - para avaliar a relação entre altura e peso, precisamos agora de três parâmetros e dois resultados. A regressão linear é evidentemente insuficiente, dando origem às redes neurais. Como o nome sugere, as redes neurais imitam a estrutura do cérebro humano, com a possibilidade de que mais pensamento leve a mais racionalidade. Aumentar a frequência e a profundidade do pensamento, conhecido como aprendizado profundo (estou fazendo uma analogia um tanto vaga aqui), permite uma consideração mais completa antes de agir.


Breve visão geral do histórico de desenvolvimento dos algoritmos de IA

No entanto, o aumento do número de camadas não é ilimitado; ainda há um teto. Quando um limite crítico é atingido, a eficácia pode diminuir. Portanto, torna-se essencial entender a relação entre as informações existentes de uma forma mais razoável. Por exemplo, uma compreensão profunda da relação mais sutil entre altura e peso, descobrindo fatores que antes não eram notados, ou Jia Ling encontrando um treinador de primeira linha, mas hesitando em expressar diretamente seu desejo de perder peso.


Nesses cenários, Jia Ling e o treinador formam oponentes na codificação e decodificação, transmitindo significados para frente e para trás que representam as verdadeiras intenções de ambas as partes. Entretanto, diferentemente da declaração direta "Quero perder peso, aqui está um presente para o treinador", as verdadeiras intenções de ambos os lados estão ocultas por trás do "significado".

Observamos um fato: se o número de iterações entre as duas partes for suficiente, os significados de cada comunicação se tornam mais fáceis de decifrar.

Se estendermos esse modelo, ele representará o que é coloquialmente conhecido como Large Language Model (LLM), examinando as relações contextuais entre palavras e frases. Atualmente, os modelos grandes se expandiram para se aprofundar em cenários como imagens e vídeos.

No espectro da IA, seja uma simples regressão linear ou um transformador extremamente complexo, todos eles são algoritmos ou modelos. Além disso, há dois fatores essenciais: capacidade de computação e dados.


Descrição: Breve histórico de desenvolvimento da IA, Fonte: https://ourworldindata.org/brief-history-of-ai

Em termos simples, a IA é uma máquina que processa dados, realiza cálculos e produz resultados. No entanto, em comparação com entidades físicas como os robôs, a IA é mais virtual. Em termos de capacidade de computação, dados e modelos, o processo operacional atual na comercialização da Web2 é o seguinte:

  • Os dados são divididos em dados públicos, dados de propriedade da empresa e dados comerciais, que exigem anotação e pré-processamento profissionais. Por exemplo, a Scale AI fornece pré-processamento de dados para as principais empresas de IA.
  • A capacidade de computação é dividida em dois modos: autoconstrução e locação de computação em nuvem. Atualmente, a NVIDIA domina o hardware de GPU, e a biblioteca CUDA vem sendo preparada há muitos anos. O ecossistema de hardware e software é dominado por uma empresa. A segunda opção é o aluguel de capacidade de computação pelos provedores de serviços em nuvem, como o Azure da Microsoft, o Google Cloud e o AWS, que oferecem serviços completos de computação e implementação de modelos.
  • Os modelos podem ser classificados em estruturas e algoritmos. A batalha de modelos já foi concluída, com o TensorFlow do Google emergindo em primeiro lugar, embora tenha sofrido o revés inicial, e o PyTorch da Meta chegando mais tarde, mas liderando. No entanto, seja o Google, que introduziu o Transformer, ou a Meta, com o PyTorch, ambos estão gradualmente ficando atrás da OpenAI em termos de comercialização. No entanto, sua força continua formidável; os algoritmos são atualmente dominados pelo Transformer, e vários modelos grandes competem principalmente em termos de fontes de dados e detalhes.


Processo de trabalho da IA

Como mencionado anteriormente, os aplicativos de IA têm uma ampla gama de domínios, como a correção de código mencionada por Vitalik, que já foi colocada em uso. Olhando de uma perspectiva diferente, a contribuição da criptografia para a IA se concentra principalmente em áreas não técnicas, como mercados de dados descentralizados, plataformas de poder de computação descentralizadas, etc. Foram realizados alguns experimentos com LLMs (Large Language Models) descentralizados. No entanto, é fundamental observar que a análise do código criptográfico com IA e a execução de modelos de IA em grande escala no blockchain são fundamentalmente diferentes. A incorporação de alguns elementos de criptografia nos modelos de IA dificilmente pode ser considerada uma integração perfeita.

Atualmente, a Crypto se destaca em produção e incentivos. Não é necessário mudar à força o paradigma de produção de IA com criptografia. A escolha racional é integrar a criptografia aos fluxos de trabalho de IA e capacitar a IA com criptografia. Aqui estão algumas integrações potenciais que resumi:

  1. A produção descentralizada de dados, como a coleta de dados da DePIN, e a abertura dos dados na cadeia, que contêm dados de transações ricos para análise financeira, análise de segurança e treinamento de dados.
  2. Plataformas de pré-processamento descentralizadas, em que o pré-treinamento tradicional não apresenta barreiras técnicas intransponíveis. Por trás dos grandes modelos na Europa e nos Estados Unidos está o trabalho de alta intensidade de anotadores manuais do terceiro mundo.
  3. Plataformas de potência de computação descentralizadas, com incentivos descentralizados e utilização de largura de banda pessoal, potência de computação de GPU e outros recursos de hardware.
  4. zkML, pois os métodos tradicionais de privacidade, como a dessensibilização de dados, podem não resolver perfeitamente o problema. O zkML pode ocultar a direcionalidade dos dados e avaliar com eficiência a autenticidade e a eficácia dos modelos de código aberto e fechado.

Esses quatro aspectos são cenários potenciais em que acredito que a criptografia pode capacitar a IA. A IA é uma ferramenta versátil, e as áreas e os projetos de IA para criptografia não serão discutidos aqui; o senhor pode explorá-los por conta própria.

Pode-se observar que, atualmente, a criptografia desempenha principalmente um papel na criptografia, na proteção da privacidade e no design econômico. A única tentativa de integração técnica é o zkML. Vamos fazer um pequeno brainstorming: se, no futuro, o TPS do Solana realmente chegar a mais de 100.000, e se a combinação do Filecoin e do Solana for perfeita, poderíamos criar um ambiente de LLM na cadeia? Isso poderia potencialmente estabelecer uma IA real na cadeia, alterando a atual relação desigual em que a criptografia é integrada à IA.

Integração do Web3 aos fluxos de trabalho de IA

Como é do conhecimento de todos, a placa de vídeo NVIDIA RTX 4090 é uma mercadoria valiosa que atualmente é difícil de obter em um determinado país do leste asiático. Ainda mais grave é que pessoas físicas, pequenas empresas e instituições acadêmicas também enfrentaram uma crise de placas de vídeo. Afinal de contas, as grandes empresas comerciais são as que mais gastam. Se um terceiro caminho pudesse ser aberto fora das compras pessoais e dos provedores de nuvem, ele teria claramente um valor comercial prático, rompendo com os propósitos puramente especulativos. A abordagem lógica do Web3 para IA deve ser: "Se o Web3 não for usado, o projeto não poderá ser mantido".


Fluxo de trabalho de IA sob a perspectiva da Web3

Fonte de dados: Grass e DePIN Automotive Ecosystem

O Grass, lançado pela Wynd Network, é um mercado para a venda de largura de banda ociosa. A Grass funciona como uma rede aberta para aquisição e distribuição de dados, diferenciando-se da simples coleta e venda de dados. O Grass tem funções de limpeza e validação de dados para navegar no ambiente de rede cada vez mais fechado. Além disso, o Grass tem como objetivo fazer a interface direta com os modelos de IA, fornecendo a eles conjuntos de dados prontamente utilizáveis. Os conjuntos de dados de IA exigem um tratamento profissional, incluindo um extenso ajuste fino manual para atender às necessidades específicas dos modelos de IA.

Expandindo isso, a Grass aborda a questão da venda de dados, enquanto o setor DePIN da Web3 pode produzir os dados exigidos pela IA. Esse setor se concentra principalmente na condução automática de veículos. Tradicionalmente, a direção autônoma exigia que as empresas acumulassem os dados correspondentes. No entanto, projetos como o DIMO e o Hivemapper operam diretamente nos veículos, coletando uma quantidade cada vez maior de informações de direção e dados rodoviários.

Em cenários anteriores de direção autônoma, a tecnologia para reconhecimento de veículos e mapas de alta precisão eram essenciais. Informações como mapas de alta precisão foram acumuladas por empresas como a NavInfo, criando barreiras no setor. Se os recém-chegados aproveitarem os dados da Web3, eles poderão ter a oportunidade de ultrapassar os concorrentes na curva.

Pré-processamento de dados: Libertando os seres humanos escravizados pela IA

A inteligência artificial pode ser dividida em duas partes: anotação manual e algoritmos inteligentes. Em regiões do terceiro mundo, como o Quênia e as Filipinas, onde a curva de valor da anotação manual é mais baixa, as pessoas são responsáveis por essa tarefa. Enquanto isso, as empresas de pré-processamento de IA na Europa e nos Estados Unidos ficam com a maior parte da receita, vendendo-a posteriormente para empresas de pesquisa e desenvolvimento de IA.

Com o avanço da IA, mais empresas estão de olho nesse negócio. Diante da concorrência, o preço unitário da anotação de dados continua a diminuir. Esse negócio envolve principalmente a rotulagem de dados, semelhante a tarefas como o reconhecimento de captchas, sem limite técnico e até mesmo com preços ultrabaixos, como 0,01 RMB.


Source: https://aim.baidu.com/product/0793f1f1-f1cb-4f9f-b3a7-ef31335bd7f0

Nesse cenário, as plataformas de anotação de dados da Web3, como a Public AI, têm um mercado comercial prático. Eles vinculam empresas de IA a funcionários de anotação de dados, substituindo um modelo simples de concorrência comercial de baixo preço por um sistema de incentivos. No entanto, é essencial observar que empresas maduras como a Scale AI garantem qualidade confiável na tecnologia de anotação. Para plataformas descentralizadas de anotação de dados, o controle da qualidade e a prevenção de abusos são necessidades absolutas. Essencialmente, isso representa um serviço empresarial C2B2B, em que a escala e a quantidade de dados por si só não conseguem convencer as empresas.

Liberdade de hardware: Rede de Renderização e Bittensor

Deve-se esclarecer que, ao contrário das plataformas de mineração de Bitcoin, não há atualmente nenhum hardware dedicado de IA para Web3. O poder e as plataformas de computação existentes são transformados a partir de hardware maduro com camadas de incentivo de criptografia adicionadas, essencialmente enquadradas no setor DePIN. No entanto, como ele é diferente dos projetos de fonte de dados, está incluído no fluxo de trabalho de IA aqui.

Para saber a definição de DePIN, consulte o artigo que escrevi anteriormente: DePIN before Helium (DePIN antes do Hélio): Explorando Bitcoin, Arweave e STEPN

A Render Network é um projeto estabelecido há muito tempo que não foi projetado inicialmente para IA. Iniciou suas operações em 2017, com foco em renderização, como sugere seu nome. Naquela época, não havia demanda por GPUs, mas as oportunidades de mercado foram surgindo gradualmente. O mercado de GPUs, especialmente as GPUs de ponta monopolizadas pela NVIDIA, impediu a entrada de usuários de renderização, IA e metaversos devido aos preços exorbitantes. Se fosse possível construir um canal entre a demanda e a oferta, um modelo econômico semelhante ao das bicicletas compartilhadas poderia ter uma chance de ser estabelecido.

Além disso, os recursos de GPU não requerem a transferência real de hardware; eles podem ser alocados usando recursos de software. Vale a pena mencionar que a Render Network mudou para o ecossistema Solana em 2023, abandonando o Polygon. A mudança para Solana, mesmo antes de seu ressurgimento, provou ser uma decisão correta ao longo do tempo. Para o uso e a distribuição da GPU, uma rede de alta velocidade é um requisito essencial.

Se a Render Network pode ser considerada um projeto estabelecido, a Bittensor está ganhando força no momento.

O BitTensor foi desenvolvido com base no Polkadot, com o objetivo de treinar modelos de IA por meio de incentivos econômicos. Os nós competem para treinar modelos de IA com erro mínimo ou eficiência máxima, assemelhando-se aos processos clássicos na cadeia em projetos de criptografia. No entanto, o processo de treinamento real ainda requer GPUs NVIDIA e plataformas tradicionais, o que o torna semelhante a plataformas de competição como o Kaggle.

zkML e UBI: Os aspectos duplos da Worldcoin

O Zero-Knowledge Machine Learning (zkML) introduz a tecnologia zk no processo de treinamento do modelo de IA para resolver problemas como vazamentos de dados, falhas de privacidade e verificação de modelos. Os dois primeiros são fáceis de entender - os dados criptografados em zk ainda podem ser treinados sem vazar informações pessoais ou privadas.

A verificação de modelos refere-se à avaliação de modelos de código fechado. Com a tecnologia zk, é possível definir um valor-alvo, permitindo que modelos de código fechado comprovem suas capacidades por meio da verificação de resultados sem revelar o processo de cálculo.

A Worldcoin não apenas previu o zkML desde o início, mas também defende a Renda Básica Universal (UBI). Em sua visão, a produtividade futura da IA excederá em muito os limites da demanda humana. O verdadeiro desafio é a distribuição justa dos benefícios da IA, e o conceito de UBI deve ser compartilhado globalmente por meio do token $WLD, exigindo o reconhecimento biométrico de pessoas reais para aderir aos princípios de justiça.

É claro que o zkML e o UBI ainda estão nos estágios experimentais iniciais, mas são desenvolvimentos intrigantes que continuarei acompanhando de perto.

Conclusão

O desenvolvimento da IA, representado por Transformadores e Modelos de Linguagem Grandes (LLMs), está gradualmente enfrentando gargalos, semelhantes aos da regressão linear e das redes neurais. Não é viável aumentar indefinidamente os parâmetros do modelo ou o volume de dados, pois os retornos marginais diminuirão.

A IA pode ser a semente que emerge com sabedoria, mas o problema da alucinação é grave no momento. Pode-se observar que a crença de que a criptografia pode mudar a IA é uma forma de confiança e uma alucinação padrão. Embora a adição de criptografia possa não resolver tecnicamente os problemas de alucinação, ela pode pelo menos mudar alguns aspectos de uma perspectiva de justiça e transparência.

Referências:

  1. OpenAI: "GPT-4 Technical Report", 2023; arXiv:2303.08774.
  2. Ashish Vaswani, Noam Shazeer, Niki Parmar, Jakob Uszkoreit, Llion Jones, Aidan N. Gomez, Lukasz Kaiser, Illia Polosukhin: "Attention Is All You Need", 2017; arXiv:1706.03762.
  3. Jared Kaplan, Sam McCandlish, Tom Henighan, Tom B. Brown, Benjamin Chess, Rewon Child, Scott Gray, Alec Radford, Jeffrey Wu, Dario Amodei: "Scaling Laws for Neural Language Models", 2020; arXiv:2001.08361.
  4. Hao Liu, Wilson Yan, Matei Zaharia, Pieter Abbeel: "World Model on Million-Length Video And Language With RingAttention", 2024; arXiv:2402.08268.
  5. Max Roser (2022) - "A breve história da inteligência artificial: O mundo mudou rapidamente - o que pode vir a seguir?" Publicado on-line em OurWorldInData.org. Recuperado de: 'https://ourworldindata.org/brief-history-of-ai'[Recurso on-line]
  6. Uma introdução ao aprendizado de máquina com conhecimento zero (ZKML)
  7. Entendendo a interseção de criptografia e IA
  8. Grass é a camada de dados da IA
  9. Bittensor: Um Mercado de Inteligência Peer-to-Peer

Isenção de responsabilidade:

  1. Este artigo foi reimpresso de[佐爷歪脖山], Todos os direitos autorais pertencem ao autor original[佐爷]. Se houver alguma objeção a essa reimpressão, entre em contato com a equipe do Gate Learn, que tratará do assunto imediatamente.
  2. Isenção de responsabilidade: Os pontos de vista e opiniões expressos neste artigo são de responsabilidade exclusiva do autor e não constituem consultoria de investimento.
  3. As traduções do artigo para outros idiomas são feitas pela equipe do Gate Learn. A menos que mencionado, é proibido copiar, distribuir ou plagiar os artigos traduzidos.

A criptografia como uma ilusão de IA

intermediárioMar 05, 2024
Este artigo explora a possível integração da IA e das criptomoedas, enfatizando que a verdadeira integração envolve a incorporação da criptografia nos fluxos de trabalho da IA e a capacitação da IA com a criptografia.
A criptografia como uma ilusão de IA
  • Emergência: O fenômeno em que muitas entidades pequenas interagem para produzir um todo maior, exibindo novas características não possuídas pelos componentes individuais, como a emergência observada em sistemas biológicos estudados em química.
  • Alucinação: A tendência dos modelos de produzir dados enganosos, com modelos de IA gerando resultados que parecem corretos, mas que, na verdade, estão errados.

A conexão entre IA e criptografia mostrou ondulações distintas. Desde que o AlphaGo derrotou jogadores profissionais humanos de Go em 2016, tentativas de combinar os dois, como o surgimento espontâneo de projetos como o Fetch.AI, foram testemunhadas no mundo das criptomoedas. Com o advento do GPT-4 em 2023, a tendência de IA + criptografia ressurgiu, exemplificada pela emissão da WorldCoin. A humanidade parece estar pronta para entrar em uma era utópica em que a IA é responsável pela produtividade e a criptografia cuida da distribuição.

Esse sentimento atingiu seu auge depois que a OpenAI lançou o aplicativo Sora para síntese de texto para vídeo. Entretanto, as emoções geralmente envolvem elementos irracionais. Li Yizhou, por exemplo, parece fazer parte do segmento incompreendido, exemplificado por:

  • A fusão de aplicativos específicos de IA com o desenvolvimento de algoritmos. Embora o Sora e os princípios subjacentes do Transformer do GPT-4 sejam de código aberto, o uso de ambos requer pagamento à OpenAI.
  • Atualmente, a combinação de IA e criptografia é mais uma iniciativa da criptografia para abordar a IA, já que os principais gigantes da IA não demonstraram uma disposição clara. Nesse estágio, o que a IA pode fazer pela criptografia supera o que a criptografia pode fazer pela IA.
  • O uso da tecnologia de IA em aplicativos de criptografia não equivale à integração de IA e criptografia, como visto em aplicativos como jogos de blockchain, GameFi, projetos de metaverso, Web3 Games e as personas digitais no universo AW.
  • As contribuições que as criptomoedas podem fazer para o desenvolvimento da tecnologia de IA envolvem principalmente a descentralização e os incentivos de tokens nos três componentes da IA: capacidade de computação, dados e modelos.
  • A WorldCoin serve como uma integração bem-sucedida de ambos, com o zkML posicionado na interseção das tecnologias de IA e criptografia, e a teoria da UBI (Renda Básica Universal) passando por sua primeira implementação em grande escala.

Neste artigo, o foco será nos benefícios que as criptomoedas podem trazer para a IA, já que os projetos atuais de criptomoedas que enfatizam os aplicativos de IA são vistos, em sua maioria, como artifícios de marketing e não contribuem para nossa discussão.

Da regressão linear ao transformador

Por muito tempo, o ponto central das discussões sobre IA tem sido se o "surgimento" da inteligência artificial levará à criação de seres sencientes semelhantes aos de "Matrix" ou a uma civilização baseada em silício. As preocupações com a interação entre humanos e tecnologias de IA persistem, com exemplos recentes, como o advento do Sora, e instâncias anteriores, como GPT-4 (2023), AlphaGo (2016) e Deep Blue da IBM, que derrotou um campeão mundial de xadrez em 1997.

Embora essas preocupações não tenham se materializado, vamos relaxar e descrever brevemente o mecanismo por trás da IA.

A partir da regressão linear, essencialmente uma equação linear simples, como o mecanismo de perda de peso de Jia Ling, um famoso ator chinês, podemos fazer a seguinte generalização. Aqui, x e y representam a relação entre a ingestão de calorias e o peso, indicando que comer mais naturalmente leva ao ganho de peso e, se o senhor quiser perder peso, deve comer menos.

No entanto, essa abordagem traz alguns problemas. Em primeiro lugar, há limites fisiológicos para a altura e o peso humanos, e é improvável encontrar gigantes de 3 metros ou senhoras de mil quilos. Portanto, considerar situações além desses limites não tem significado prático. Em segundo lugar, simplesmente comer menos e se exercitar mais não está de acordo com os princípios científicos da perda de peso e pode, em casos graves, prejudicar o corpo.

Apresentamos o Índice de Massa Corporal (IMC), que mede a relação entre peso e altura dividindo o peso pelo quadrado da altura. Por meio de três fatores - alimentação, sono e exercícios - para avaliar a relação entre altura e peso, precisamos agora de três parâmetros e dois resultados. A regressão linear é evidentemente insuficiente, dando origem às redes neurais. Como o nome sugere, as redes neurais imitam a estrutura do cérebro humano, com a possibilidade de que mais pensamento leve a mais racionalidade. Aumentar a frequência e a profundidade do pensamento, conhecido como aprendizado profundo (estou fazendo uma analogia um tanto vaga aqui), permite uma consideração mais completa antes de agir.


Breve visão geral do histórico de desenvolvimento dos algoritmos de IA

No entanto, o aumento do número de camadas não é ilimitado; ainda há um teto. Quando um limite crítico é atingido, a eficácia pode diminuir. Portanto, torna-se essencial entender a relação entre as informações existentes de uma forma mais razoável. Por exemplo, uma compreensão profunda da relação mais sutil entre altura e peso, descobrindo fatores que antes não eram notados, ou Jia Ling encontrando um treinador de primeira linha, mas hesitando em expressar diretamente seu desejo de perder peso.


Nesses cenários, Jia Ling e o treinador formam oponentes na codificação e decodificação, transmitindo significados para frente e para trás que representam as verdadeiras intenções de ambas as partes. Entretanto, diferentemente da declaração direta "Quero perder peso, aqui está um presente para o treinador", as verdadeiras intenções de ambos os lados estão ocultas por trás do "significado".

Observamos um fato: se o número de iterações entre as duas partes for suficiente, os significados de cada comunicação se tornam mais fáceis de decifrar.

Se estendermos esse modelo, ele representará o que é coloquialmente conhecido como Large Language Model (LLM), examinando as relações contextuais entre palavras e frases. Atualmente, os modelos grandes se expandiram para se aprofundar em cenários como imagens e vídeos.

No espectro da IA, seja uma simples regressão linear ou um transformador extremamente complexo, todos eles são algoritmos ou modelos. Além disso, há dois fatores essenciais: capacidade de computação e dados.


Descrição: Breve histórico de desenvolvimento da IA, Fonte: https://ourworldindata.org/brief-history-of-ai

Em termos simples, a IA é uma máquina que processa dados, realiza cálculos e produz resultados. No entanto, em comparação com entidades físicas como os robôs, a IA é mais virtual. Em termos de capacidade de computação, dados e modelos, o processo operacional atual na comercialização da Web2 é o seguinte:

  • Os dados são divididos em dados públicos, dados de propriedade da empresa e dados comerciais, que exigem anotação e pré-processamento profissionais. Por exemplo, a Scale AI fornece pré-processamento de dados para as principais empresas de IA.
  • A capacidade de computação é dividida em dois modos: autoconstrução e locação de computação em nuvem. Atualmente, a NVIDIA domina o hardware de GPU, e a biblioteca CUDA vem sendo preparada há muitos anos. O ecossistema de hardware e software é dominado por uma empresa. A segunda opção é o aluguel de capacidade de computação pelos provedores de serviços em nuvem, como o Azure da Microsoft, o Google Cloud e o AWS, que oferecem serviços completos de computação e implementação de modelos.
  • Os modelos podem ser classificados em estruturas e algoritmos. A batalha de modelos já foi concluída, com o TensorFlow do Google emergindo em primeiro lugar, embora tenha sofrido o revés inicial, e o PyTorch da Meta chegando mais tarde, mas liderando. No entanto, seja o Google, que introduziu o Transformer, ou a Meta, com o PyTorch, ambos estão gradualmente ficando atrás da OpenAI em termos de comercialização. No entanto, sua força continua formidável; os algoritmos são atualmente dominados pelo Transformer, e vários modelos grandes competem principalmente em termos de fontes de dados e detalhes.


Processo de trabalho da IA

Como mencionado anteriormente, os aplicativos de IA têm uma ampla gama de domínios, como a correção de código mencionada por Vitalik, que já foi colocada em uso. Olhando de uma perspectiva diferente, a contribuição da criptografia para a IA se concentra principalmente em áreas não técnicas, como mercados de dados descentralizados, plataformas de poder de computação descentralizadas, etc. Foram realizados alguns experimentos com LLMs (Large Language Models) descentralizados. No entanto, é fundamental observar que a análise do código criptográfico com IA e a execução de modelos de IA em grande escala no blockchain são fundamentalmente diferentes. A incorporação de alguns elementos de criptografia nos modelos de IA dificilmente pode ser considerada uma integração perfeita.

Atualmente, a Crypto se destaca em produção e incentivos. Não é necessário mudar à força o paradigma de produção de IA com criptografia. A escolha racional é integrar a criptografia aos fluxos de trabalho de IA e capacitar a IA com criptografia. Aqui estão algumas integrações potenciais que resumi:

  1. A produção descentralizada de dados, como a coleta de dados da DePIN, e a abertura dos dados na cadeia, que contêm dados de transações ricos para análise financeira, análise de segurança e treinamento de dados.
  2. Plataformas de pré-processamento descentralizadas, em que o pré-treinamento tradicional não apresenta barreiras técnicas intransponíveis. Por trás dos grandes modelos na Europa e nos Estados Unidos está o trabalho de alta intensidade de anotadores manuais do terceiro mundo.
  3. Plataformas de potência de computação descentralizadas, com incentivos descentralizados e utilização de largura de banda pessoal, potência de computação de GPU e outros recursos de hardware.
  4. zkML, pois os métodos tradicionais de privacidade, como a dessensibilização de dados, podem não resolver perfeitamente o problema. O zkML pode ocultar a direcionalidade dos dados e avaliar com eficiência a autenticidade e a eficácia dos modelos de código aberto e fechado.

Esses quatro aspectos são cenários potenciais em que acredito que a criptografia pode capacitar a IA. A IA é uma ferramenta versátil, e as áreas e os projetos de IA para criptografia não serão discutidos aqui; o senhor pode explorá-los por conta própria.

Pode-se observar que, atualmente, a criptografia desempenha principalmente um papel na criptografia, na proteção da privacidade e no design econômico. A única tentativa de integração técnica é o zkML. Vamos fazer um pequeno brainstorming: se, no futuro, o TPS do Solana realmente chegar a mais de 100.000, e se a combinação do Filecoin e do Solana for perfeita, poderíamos criar um ambiente de LLM na cadeia? Isso poderia potencialmente estabelecer uma IA real na cadeia, alterando a atual relação desigual em que a criptografia é integrada à IA.

Integração do Web3 aos fluxos de trabalho de IA

Como é do conhecimento de todos, a placa de vídeo NVIDIA RTX 4090 é uma mercadoria valiosa que atualmente é difícil de obter em um determinado país do leste asiático. Ainda mais grave é que pessoas físicas, pequenas empresas e instituições acadêmicas também enfrentaram uma crise de placas de vídeo. Afinal de contas, as grandes empresas comerciais são as que mais gastam. Se um terceiro caminho pudesse ser aberto fora das compras pessoais e dos provedores de nuvem, ele teria claramente um valor comercial prático, rompendo com os propósitos puramente especulativos. A abordagem lógica do Web3 para IA deve ser: "Se o Web3 não for usado, o projeto não poderá ser mantido".


Fluxo de trabalho de IA sob a perspectiva da Web3

Fonte de dados: Grass e DePIN Automotive Ecosystem

O Grass, lançado pela Wynd Network, é um mercado para a venda de largura de banda ociosa. A Grass funciona como uma rede aberta para aquisição e distribuição de dados, diferenciando-se da simples coleta e venda de dados. O Grass tem funções de limpeza e validação de dados para navegar no ambiente de rede cada vez mais fechado. Além disso, o Grass tem como objetivo fazer a interface direta com os modelos de IA, fornecendo a eles conjuntos de dados prontamente utilizáveis. Os conjuntos de dados de IA exigem um tratamento profissional, incluindo um extenso ajuste fino manual para atender às necessidades específicas dos modelos de IA.

Expandindo isso, a Grass aborda a questão da venda de dados, enquanto o setor DePIN da Web3 pode produzir os dados exigidos pela IA. Esse setor se concentra principalmente na condução automática de veículos. Tradicionalmente, a direção autônoma exigia que as empresas acumulassem os dados correspondentes. No entanto, projetos como o DIMO e o Hivemapper operam diretamente nos veículos, coletando uma quantidade cada vez maior de informações de direção e dados rodoviários.

Em cenários anteriores de direção autônoma, a tecnologia para reconhecimento de veículos e mapas de alta precisão eram essenciais. Informações como mapas de alta precisão foram acumuladas por empresas como a NavInfo, criando barreiras no setor. Se os recém-chegados aproveitarem os dados da Web3, eles poderão ter a oportunidade de ultrapassar os concorrentes na curva.

Pré-processamento de dados: Libertando os seres humanos escravizados pela IA

A inteligência artificial pode ser dividida em duas partes: anotação manual e algoritmos inteligentes. Em regiões do terceiro mundo, como o Quênia e as Filipinas, onde a curva de valor da anotação manual é mais baixa, as pessoas são responsáveis por essa tarefa. Enquanto isso, as empresas de pré-processamento de IA na Europa e nos Estados Unidos ficam com a maior parte da receita, vendendo-a posteriormente para empresas de pesquisa e desenvolvimento de IA.

Com o avanço da IA, mais empresas estão de olho nesse negócio. Diante da concorrência, o preço unitário da anotação de dados continua a diminuir. Esse negócio envolve principalmente a rotulagem de dados, semelhante a tarefas como o reconhecimento de captchas, sem limite técnico e até mesmo com preços ultrabaixos, como 0,01 RMB.


Source: https://aim.baidu.com/product/0793f1f1-f1cb-4f9f-b3a7-ef31335bd7f0

Nesse cenário, as plataformas de anotação de dados da Web3, como a Public AI, têm um mercado comercial prático. Eles vinculam empresas de IA a funcionários de anotação de dados, substituindo um modelo simples de concorrência comercial de baixo preço por um sistema de incentivos. No entanto, é essencial observar que empresas maduras como a Scale AI garantem qualidade confiável na tecnologia de anotação. Para plataformas descentralizadas de anotação de dados, o controle da qualidade e a prevenção de abusos são necessidades absolutas. Essencialmente, isso representa um serviço empresarial C2B2B, em que a escala e a quantidade de dados por si só não conseguem convencer as empresas.

Liberdade de hardware: Rede de Renderização e Bittensor

Deve-se esclarecer que, ao contrário das plataformas de mineração de Bitcoin, não há atualmente nenhum hardware dedicado de IA para Web3. O poder e as plataformas de computação existentes são transformados a partir de hardware maduro com camadas de incentivo de criptografia adicionadas, essencialmente enquadradas no setor DePIN. No entanto, como ele é diferente dos projetos de fonte de dados, está incluído no fluxo de trabalho de IA aqui.

Para saber a definição de DePIN, consulte o artigo que escrevi anteriormente: DePIN before Helium (DePIN antes do Hélio): Explorando Bitcoin, Arweave e STEPN

A Render Network é um projeto estabelecido há muito tempo que não foi projetado inicialmente para IA. Iniciou suas operações em 2017, com foco em renderização, como sugere seu nome. Naquela época, não havia demanda por GPUs, mas as oportunidades de mercado foram surgindo gradualmente. O mercado de GPUs, especialmente as GPUs de ponta monopolizadas pela NVIDIA, impediu a entrada de usuários de renderização, IA e metaversos devido aos preços exorbitantes. Se fosse possível construir um canal entre a demanda e a oferta, um modelo econômico semelhante ao das bicicletas compartilhadas poderia ter uma chance de ser estabelecido.

Além disso, os recursos de GPU não requerem a transferência real de hardware; eles podem ser alocados usando recursos de software. Vale a pena mencionar que a Render Network mudou para o ecossistema Solana em 2023, abandonando o Polygon. A mudança para Solana, mesmo antes de seu ressurgimento, provou ser uma decisão correta ao longo do tempo. Para o uso e a distribuição da GPU, uma rede de alta velocidade é um requisito essencial.

Se a Render Network pode ser considerada um projeto estabelecido, a Bittensor está ganhando força no momento.

O BitTensor foi desenvolvido com base no Polkadot, com o objetivo de treinar modelos de IA por meio de incentivos econômicos. Os nós competem para treinar modelos de IA com erro mínimo ou eficiência máxima, assemelhando-se aos processos clássicos na cadeia em projetos de criptografia. No entanto, o processo de treinamento real ainda requer GPUs NVIDIA e plataformas tradicionais, o que o torna semelhante a plataformas de competição como o Kaggle.

zkML e UBI: Os aspectos duplos da Worldcoin

O Zero-Knowledge Machine Learning (zkML) introduz a tecnologia zk no processo de treinamento do modelo de IA para resolver problemas como vazamentos de dados, falhas de privacidade e verificação de modelos. Os dois primeiros são fáceis de entender - os dados criptografados em zk ainda podem ser treinados sem vazar informações pessoais ou privadas.

A verificação de modelos refere-se à avaliação de modelos de código fechado. Com a tecnologia zk, é possível definir um valor-alvo, permitindo que modelos de código fechado comprovem suas capacidades por meio da verificação de resultados sem revelar o processo de cálculo.

A Worldcoin não apenas previu o zkML desde o início, mas também defende a Renda Básica Universal (UBI). Em sua visão, a produtividade futura da IA excederá em muito os limites da demanda humana. O verdadeiro desafio é a distribuição justa dos benefícios da IA, e o conceito de UBI deve ser compartilhado globalmente por meio do token $WLD, exigindo o reconhecimento biométrico de pessoas reais para aderir aos princípios de justiça.

É claro que o zkML e o UBI ainda estão nos estágios experimentais iniciais, mas são desenvolvimentos intrigantes que continuarei acompanhando de perto.

Conclusão

O desenvolvimento da IA, representado por Transformadores e Modelos de Linguagem Grandes (LLMs), está gradualmente enfrentando gargalos, semelhantes aos da regressão linear e das redes neurais. Não é viável aumentar indefinidamente os parâmetros do modelo ou o volume de dados, pois os retornos marginais diminuirão.

A IA pode ser a semente que emerge com sabedoria, mas o problema da alucinação é grave no momento. Pode-se observar que a crença de que a criptografia pode mudar a IA é uma forma de confiança e uma alucinação padrão. Embora a adição de criptografia possa não resolver tecnicamente os problemas de alucinação, ela pode pelo menos mudar alguns aspectos de uma perspectiva de justiça e transparência.

Referências:

  1. OpenAI: "GPT-4 Technical Report", 2023; arXiv:2303.08774.
  2. Ashish Vaswani, Noam Shazeer, Niki Parmar, Jakob Uszkoreit, Llion Jones, Aidan N. Gomez, Lukasz Kaiser, Illia Polosukhin: "Attention Is All You Need", 2017; arXiv:1706.03762.
  3. Jared Kaplan, Sam McCandlish, Tom Henighan, Tom B. Brown, Benjamin Chess, Rewon Child, Scott Gray, Alec Radford, Jeffrey Wu, Dario Amodei: "Scaling Laws for Neural Language Models", 2020; arXiv:2001.08361.
  4. Hao Liu, Wilson Yan, Matei Zaharia, Pieter Abbeel: "World Model on Million-Length Video And Language With RingAttention", 2024; arXiv:2402.08268.
  5. Max Roser (2022) - "A breve história da inteligência artificial: O mundo mudou rapidamente - o que pode vir a seguir?" Publicado on-line em OurWorldInData.org. Recuperado de: 'https://ourworldindata.org/brief-history-of-ai'[Recurso on-line]
  6. Uma introdução ao aprendizado de máquina com conhecimento zero (ZKML)
  7. Entendendo a interseção de criptografia e IA
  8. Grass é a camada de dados da IA
  9. Bittensor: Um Mercado de Inteligência Peer-to-Peer

Isenção de responsabilidade:

  1. Este artigo foi reimpresso de[佐爷歪脖山], Todos os direitos autorais pertencem ao autor original[佐爷]. Se houver alguma objeção a essa reimpressão, entre em contato com a equipe do Gate Learn, que tratará do assunto imediatamente.
  2. Isenção de responsabilidade: Os pontos de vista e opiniões expressos neste artigo são de responsabilidade exclusiva do autor e não constituem consultoria de investimento.
  3. As traduções do artigo para outros idiomas são feitas pela equipe do Gate Learn. A menos que mencionado, é proibido copiar, distribuir ou plagiar os artigos traduzidos.
ابدأ التداول الآن
اشترك وتداول لتحصل على جوائز ذهبية بقيمة
100 دولار أمريكي
و
5500 دولارًا أمريكيًا
لتجربة الإدارة المالية الذهبية!
إنشاء حساب الآن