Plug-in modelo grande do Baidu, o salvador dos trabalhadores?

Texto | Zhou Xinyu

Editora | Anita Tang

Fonte da imagem: Gerada por Unbounded AI

Em 16 de agosto de 2023, o Baidu 2023WAVE SUMMIT, uma metodologia para a construção de uma ecologia de desenvolvimento de modelo em grande escala, substituiu o próprio modelo como protagonista.

De um modo geral, a tentativa do Baidu de implementar aplicativos baseados no grande modelo de Wenxin é seguir o caminho da Microsoft novamente: liberar plug-ins de suporte e Copilot para cenários de produtividade, enquanto constrói um ecossistema de desenvolvedores baseado em nuvem.

Por exemplo, os 5 plug-ins recém-lançados correspondem a quase 70 plug-ins conectados ao Bing e ChatGPT; o conjunto de ferramentas de desenvolvimento de plug-in lançado e o kit de desenvolvimento de aplicativos AI Comate Stack correspondem ao Copilot Stack; A plataforma de escritório "Ruliu" corresponde para equipes conectadas ao Copilot.

A forte demanda do mercado e a tecnologia de modelagem em larga escala no período de iteração de alta velocidade constituem a principal contradição na aplicação de modelos em larga escala.A aplicação do modelo deve primeiro enfrentar o alto custo de iteração.

A solução encontrada por muitos fabricantes é: plug-in.

Em comparação com o processo tradicional de desenvolvimento de aplicativos, os plug-ins não precisam desenvolver um conjunto completo de sistemas, mas podem fornecer serviços por meio de interfaces e são fáceis de modificar e atualizar. De certa forma, os plug-ins são a melhor transportadora para a inovação de aplicativos de IA.

Com base nessa ideia, o Baidu fez uma série de tentativas no 2023WAVE SUMMIT em torno de "plug-ins", desde a autopesquisa até a construção da comunidade de desenvolvedores e cenários de trabalho de aterrissagem.

A construção ecológica é outro foco que o Baidu enfatiza.

À medida que o progresso do desenvolvimento de modelos em larga escala passa rapidamente da pesquisa e desenvolvimento para o estágio de implementação, os desenvolvedores se deparam com uma cadeia industrial cada vez mais complexa, e os aplicativos de implementação também apresentam requisitos mais altos para a coordenação de upstream e downstream, software e hardware.

Como provedor de infraestrutura, o Baidu atualizou iterativamente a estrutura de código aberto Fei Paddle em termos de treinamento de modelo grande, raciocínio, adaptação de hardware etc., aumentando a velocidade de treinamento do modelo grande Wenxin de 3,5 a 3 vezes e a velocidade de raciocínio aumentada em mais de 30 vezes. Seu objetivo é reunir desenvolvedores de todos os elos da cadeia industrial e construir uma ecologia de desenvolvimento baseada na grande base de modelos e plataforma de nuvem.

Wu Tian, vice-presidente do Baidu Group e vice-diretor do Centro Nacional de Pesquisa de Engenharia para Tecnologia e Aplicação de Aprendizado Profundo, acredita: "Depois de meio ano, acho que a divisão de funções de todo o setor ficará gradualmente clara".

** "Wen Xin Yi Yan" buff de desenho sobreposto, acesso a 5 plug-ins autodesenvolvidos da Baidu **

Além do "Baidu Search" e "Lanjuan Documents" (anteriormente ChatFile) lançados na Wenxin Qianfan Large-scale Platform Media Roundtable Conference em 2 de agosto, o Baidu também lançou o "E Yanyi" em Wenxin Yiyan. Três plug-ins AIGC ins, "Figure", "Speaking Graphics" e "Yijing Liuying", são usados respectivamente na geração de gráficos, geração e compreensão de imagens e cenários de geração de vídeo.

Wenxin Yiyan usa o plug-in "Browse Document" para interpretar o documento. Fonte: Baidu

Wenxin Yiyan usa o plug-in "Eyan Yitu" para gerar gráficos de pizza a partir dos dados do documento. Fonte: Baidu

No entanto, devido ao alto consumo de energia, o teste interno do plug-in de geração de vídeo "Yi Jing Liu Ying" ainda não foi totalmente realizado. No futuro, Wenxin Yiyan estará aberto a mais plug-ins de terceiros.

Pás voadoras "vender água", lançam uma plataforma de desenvolvimento de plug-ins de modelo em grande escala

Começando com cinco plug-ins autodesenvolvidos, o que o Baidu quer fazer mais é estabelecer um ecossistema de desenvolvedor completo que liga upstream e downstream.

Wu Tian acredita que chegou a hora de construir um ecossistema de desenvolvedores: "Por um lado, acho que o próprio sistema de tecnologia principal deve estar maduro o suficiente para suportar a construção do ecossistema. Wenxin Yiyan atingiu esse estágio; ** no Por outro lado, por um lado, o maior papel da ecologia é tornar as aplicações mais prósperas.**”

Baseando-se na capacidade de modelo de "Wen Xin Yi Yan", a Baidu lançou uma grande plataforma de desenvolvimento de plug-in de modelo para desenvolvedores. A plataforma fornece um conjunto de ferramentas de desenvolvimento de plug-in (ERINE Bot SDK), que pode suportar o desenvolvimento de plug-ins para serviços de informação, ferramentas e inovações baseadas em LLM.

SDK do Bot ERINE. Fonte: Baidu

Ao mesmo tempo, o Flying Paddle AI Studio lançou a comunidade de modelos em grande escala de Xinghe desta vez. É como a versão doméstica do Microsoft Azure AI Studio. O Baidu, como o "vendedor de água" de aplicativos em larga escala, fornece aos desenvolvedores serviços de desenvolvimento, implantação, marketing e outros processos.

Xinghe comunidade modelo grande. Fonte: Baidu

No "Ruliu", faça artigos para melhorar a produtividade

Qual é o aplicativo "assassino" na era da IA? Atualmente, a indústria pode não ser conclusiva. No entanto, o desenvolvimento de aplicativos nativos de IA (AI Native) é a base de aplicativos "matadores" e tem se tornado cada vez mais um consenso.

Os chamados aplicativos nativos de IA significam simplesmente que, sem IA, os aplicativos com recursos essenciais não podem ser fornecidos - isso, sem dúvida, apresenta requisitos mais altos para os desenvolvedores: simplesmente iterar em aplicativos originais não é suficiente.

No WAVE SUMMIT de 2023, o Baidu entregou a folha de respostas original da IA, que tratava da reformulação da produtividade. Na plataforma de trabalho inteligente "Ruliu" do Baidu, o Baidu lançou o "Super Assistant" e o "Comate X Intelligent Programming Assistant".

A função do "Super Assistant" é semelhante à varinha mágica DingTalk lançada por Ali e ao assistente AI "My AI" lançado por Feishu. Ele pode concluir o processamento de documentos, pesquisa de conteúdo de bate-papo e envio de mensagens com base nas necessidades de entrada de linguagem natural.

O "superassistente" completa os preparativos da viagem. Fonte: Baidu

"Super Assistant" pode analisar documentos. Fonte: Baidu

Da mesma forma, o Comate X, que auxilia na programação, também é baseado em descrições de linguagem natural e gera fragmentos de código que podem realizar as funções correspondentes. Atualmente, o Comate X suporta mais de 30 idiomas e mais de 10 IDEs (Integrated Development Environment).

Para o desenvolvimento de aplicativos nativos de IA, o Baidu também estabeleceu um ecossistema de desenvolvedores. O kit de desenvolvimento de aplicativos nativos de IA Comate Stack lançado desta vez fornece aos desenvolvedores uma plataforma de avaliação iue, uma plataforma de desenvolvimento de aplicativos de IA IPlayground e uma plataforma de hospedagem de conjunto de dados iDateSet.

Vale ressaltar que, ao desenvolver aplicativos de IA no Comate Stack, a linguagem natural ainda é a interface para a interação humano-computador. Por exemplo, para desenvolver um plug-in que possa implementar políticas de férias, são necessárias apenas duas etapas para configurar e organizar o processo.

A plataforma de desenvolvimento de aplicativos de IA IPlayground oferece suporte à geração de plug-ins de IA em 2 etapas. Fonte: Baidu

O rápido lançamento de aplicativos de IA significa que apenas os funcionários da Baidu e alguns grandes clientes B podem usar as duas ferramentas de produtividade. Mas, ao mesmo tempo, isso também é um sinal da comercialização ativa de Ruliu.

Li Ying, vice-presidente do Baidu Group e diretor de informações do Baidu Group, anunciou que a Ruliu aumentará seus esforços de promoção comercial no futuro com a ajuda de superassistentes e cadeias de ferramentas de programação.

Ver original
  • Recompensa
  • Comentar
  • Partilhar
Comentar
Nenhum comentário