El complemento de modelo grande de Baidu, ¿el salvador de los trabajadores?

Texto | Zhou Xinyu

Redactor | Anita Tang

Fuente de la imagen: Generada por Unbounded AI

El 16 de agosto de 2023, Baidu 2023WAVE SUMMIT, una metodología para construir una ecología de desarrollo de modelos a gran escala, reemplazó al propio modelo como protagonista.

En términos generales, el intento de Baidu de implementar aplicaciones basadas en el modelo a gran escala de Wenxin es volver a seguir el camino de Microsoft: lanzar complementos de soporte y Copilot para escenarios de productividad, mientras construye un ecosistema de desarrolladores basado en la nube.

Por ejemplo, los 5 complementos recién lanzados corresponden a casi 70 complementos conectados a Bing y ChatGPT; el conjunto de herramientas de desarrollo de complementos lanzado y el kit de desarrollo de aplicaciones de IA Comate Stack corresponden a Copilot Stack; la plataforma de oficina "Ruliu" corresponde a Equipos conectados a Copilot.

La fuerte demanda del mercado y la tecnología de modelos a gran escala en el período de iteración de alta velocidad constituyen la principal contradicción en la aplicación de modelos a gran escala.La aplicación del modelo primero debe enfrentar el alto costo de la iteración.

La solución encontrada por muchos fabricantes es: plug-in.

En comparación con el proceso tradicional de desarrollo de aplicaciones, los complementos no necesitan desarrollar un conjunto completo de sistemas, pero pueden proporcionar servicios a través de interfaces y son fáciles de modificar y actualizar. En cierto sentido, los complementos son el mejor soporte para la innovación de aplicaciones de IA.

Basándose en esta idea, Baidu hizo una serie de intentos en 2023WAVE SUMMIT en torno a los "complementos", desde la autoinvestigación hasta la construcción de la comunidad de desarrolladores y los escenarios de trabajo de aterrizaje.

La construcción ecológica es otro enfoque que enfatiza Baidu.

A medida que el progreso del desarrollo de modelos a gran escala pasa rápidamente de la investigación y el desarrollo a la etapa de implementación, los desarrolladores se enfrentan a una cadena industrial cada vez más compleja, y las aplicaciones de implementación también presentan requisitos más altos para la coordinación de software y hardware ascendentes y descendentes.

Como proveedor de infraestructura, Baidu ha actualizado iterativamente el marco de código abierto de Fei Paddle en términos de entrenamiento de modelos grandes, razonamiento, adaptación de hardware, etc., aumentando la velocidad de entrenamiento del modelo grande de Wenxin de 3,5 a 3 veces, y la velocidad de razonamiento aumentó más de 30 veces. Su propósito es reunir a desarrolladores de todos los eslabones de la cadena industrial y construir una ecología de desarrollo basada en la gran base de modelos y la plataforma en la nube.

Wu Tian, vicepresidente de Baidu Group y subdirector del Centro Nacional de Investigación de Ingeniería para Tecnología y Aplicaciones de Aprendizaje Profundo, cree: "Después de medio año, creo que la división de funciones de toda la industria se aclarará gradualmente".

** Buff de dibujo superpuesto "Wen Xin Yi Yan", acceso a 5 complementos de desarrollo propio de Baidu **

Además de "Búsqueda de Baidu" y "Documentos de Lanjuan" (anteriormente ChatFile) lanzados en la Conferencia de mesa redonda de medios de la plataforma modelo a gran escala de Wenxin Qianfan el 2 de agosto, Baidu también lanzó "E Yanyi" en Wenxin Yiyan. ins, "Figura", "Gráficos parlantes" y "Yijing Liuying", se utilizan respectivamente en escenarios de generación de gráficos, generación y comprensión de imágenes y generación de video.

Wenxin Yiyan utiliza el complemento "Examinar documento" para interpretar el documento. Fuente: Baidu

Wenxin Yiyan utiliza el complemento "Eyan Yitu" para generar gráficos circulares a partir de los datos del documento. Fuente: Baidu

Sin embargo, debido al alto consumo de energía, la prueba interna del complemento de generación de video "Yi Jing Liu Ying" aún no se ha llevado a cabo por completo. En el futuro, Wenxin Yiyan estará abierto a más complementos de terceros.

Los remos voladores "venden agua", lanzan una plataforma de desarrollo de plug-in de modelos a gran escala

Comenzando con cinco complementos de desarrollo propio, lo que Baidu quiere hacer más es establecer un ecosistema completo de desarrolladores que vincule aguas arriba y aguas abajo.

Wu Tian cree que ha llegado el momento de construir un ecosistema de desarrolladores: "Por un lado, creo que el sistema de tecnología central debe ser lo suficientemente maduro para respaldar la construcción del ecosistema. Wenxin Yiyan ha llegado a esta etapa; ** por el Por otro lado, por un lado, el papel más importante de la ecología es hacer que las aplicaciones sean más prósperas.**”

Basándose en la capacidad del modelo de "Wen Xin Yi Yan", Baidu ha lanzado una gran plataforma de desarrollo de plug-ins de modelos para desarrolladores. La plataforma proporciona un conjunto de herramientas de desarrollo de complementos (ERINE Bot SDK), que puede respaldar el desarrollo de complementos para servicios de información, herramientas e innovaciones basadas en LLM.

SDK para bots de ERINE. Fuente: Baidu

Al mismo tiempo, Flying Paddle AI Studio lanzó esta vez la comunidad de modelos a gran escala de Xinghe. Esto es como la versión doméstica de Microsoft Azure AI Studio Baidu, como el "vendedor de agua" de la aplicación a gran escala, proporciona a los desarrolladores servicios de desarrollo, implementación, marketing y otros procesos.

Xinghe gran comunidad modelo. Fuente: Baidu

En "Ruliu", haz artículos para mejorar la productividad

¿Cuál es la aplicación "asesina" en la era de la IA? En la actualidad, la industria no puede ser concluyente. Sin embargo, el desarrollo de aplicaciones nativas de IA (AI Native) es la base de las aplicaciones "asesinas", y se ha convertido cada vez más en un consenso.

Las denominadas aplicaciones nativas de IA simplemente significan que sin IA, no se pueden proporcionar aplicaciones con capacidades básicas; esto, sin duda, plantea mayores requisitos para los desarrolladores: simplemente iterar en las aplicaciones originales no es suficiente.

En WAVE SUMMIT de 2023, Baidu entregó la hoja de respuestas original de IA, que trataba sobre la remodelación de la productividad. En la plataforma de trabajo inteligente de Baidu "Ruliu", Baidu lanzó "Super Assistant" y "Comate X Intelligent Programming Assistant".

La función del "Super Asistente" es similar a la varita mágica DingTalk lanzada por Ali y el asistente de IA "My AI" lanzado por Feishu. Puede completar el procesamiento de documentos, la búsqueda de contenido de chat y el envío de mensajes según las necesidades de entrada de lenguaje natural.

El "súper asistente" completa los arreglos de viaje. Fuente: Baidu

"Super Assistant" puede analizar documentos. Fuente: Baidu

De manera similar, Comate X, que ayuda en la programación, también se basa en descripciones de lenguaje natural y genera fragmentos de código que pueden realizar las funciones correspondientes. Actualmente, Comate X admite más de 30 idiomas y más de 10 IDE (Entorno de desarrollo integrado).

Para el desarrollo de aplicaciones nativas de IA, Baidu también ha establecido un ecosistema de desarrolladores. El kit de desarrollo de aplicaciones nativas de IA que Comate Stack lanzó esta vez proporciona a los desarrolladores una plataforma de evaluación iue, una plataforma de desarrollo de aplicaciones de IA IPlayground y una plataforma de alojamiento de conjuntos de datos iDateSet.

Vale la pena mencionar que cuando se desarrollan aplicaciones de IA en Comate Stack, el lenguaje natural sigue siendo la interfaz para la interacción humano-computadora. Por ejemplo, para desarrollar un complemento que pueda implementar políticas de vacaciones, solo se requieren dos pasos para configurar y organizar el proceso.

La plataforma de desarrollo de aplicaciones de IA IPlayground admite la generación de complementos de IA en dos pasos. Fuente: Baidu

El rápido lanzamiento de las aplicaciones de IA significa que solo los empleados de Baidu y algunos clientes de la gran B pueden usar las dos herramientas de productividad. Pero al mismo tiempo, esto también es una señal de la comercialización activa de Ruliu.

Li Ying, vicepresidente de Baidu Group y director de información de Baidu Group, presentó que Ruliu aumentará sus esfuerzos de promoción comercial en el futuro con la ayuda de súper asistentes y cadenas de herramientas de programación.

Ver originales
  • Recompensa
  • Comentar
  • Compartir
Comentar
Sin comentarios