Плагін великої моделі Baidu, рятівник працівників?

Текст | Чжоу Сінью

Редактор | Аніта Танг

Джерело зображення: створено Unbounded AI

16 серпня 2023 року Baidu 2023WAVE SUMMIT, методологія побудови великомасштабної моделі розвитку екології, замінила саму модель як головного героя.

Загалом, спроба Baidu реалізувати програми, засновані на широкомасштабній моделі Wenxin, полягає в тому, щоб знову піти шляхом Microsoft: випуск допоміжних плагінів і Copilot для сценаріїв продуктивності, одночасно будуючи хмарну екосистему розробника.

Наприклад, щойно випущені 5 плагінів відповідають майже 70 плагінам, підключеним до Bing і ChatGPT; запущений набір інструментів для розробки плагінів і набір для розробки додатків ШІ Comate Stack відповідають Copilot Stack; офісна платформа «Ruliu» відповідає до команд, підключених до Copilot.

Сильний ринковий попит і технологія великомасштабної моделі в період високошвидкісних ітерацій складають основну суперечність у застосуванні великомасштабних моделей.Застосування моделі має спочатку зіткнутися з високою вартістю ітерації.

Багато виробників знайшли таке рішення: плагін.

У порівнянні з традиційним процесом розробки додатків, плагіни не потребують розробки повного набору систем, але можуть надавати послуги через інтерфейси, і їх легко модифікувати та оновлювати. У певному сенсі плагіни є найкращим носієм інновацій додатків ШІ.

Базуючись на цій ідеї, Baidu зробила серію спроб на 2023WAVE SUMMIT навколо «плагінів», від самодослідження до створення спільноти розробників і до сценаріїв посадки.

Екологічне будівництво — ще один акцент, на якому Baidu наголошує.

У міру того, як розробка великомасштабної моделі швидко переходить від досліджень і розробок до стадії впровадження, розробники стикаються зі все більш складним промисловим ланцюгом, а додатки для реалізації також висувають більш високі вимоги до координації програмного та апаратного забезпечення вгорі та вниз по течії.

Як постачальник інфраструктури Baidu неодноразово оновлював фреймворк Fei Paddle з відкритим вихідним кодом щодо навчання великих моделей, міркувань, адаптації апаратного забезпечення тощо, збільшуючи швидкість навчання великої моделі Wenxin у 3,5–3 рази, а швидкість міркувань збільшувалася ще більше. ніж у 30 разів. Його мета — зібрати розробників з усіх ланок промислового ланцюга та побудувати екологію розробки на основі великої модельної бази та хмарної платформи.

Ву Тянь, віце-президент Baidu Group і заступник директора Національного центру інженерних досліджень технологій глибокого навчання та застосування, вважає: «Через півроку, я думаю, розподіл ролей у всій галузі поступово стане зрозумілим».

** Накладений ефект малювання "Wen Xin Yi Yan", доступ до 5 плагінів власної розробки Baidu **

На додаток до «Пошуку Baidu» та «Документів Lanjuan» (раніше ChatFile), опублікованих на круглому столі Wenxin Qianfan Large-scale Model Platform Media Roundtable Conference 2 серпня, Baidu також запустив «E Yanyi» на Wenxin Yiyan. ins, «Figure», «Speaking Graphics» і «Yijing Liuying» відповідно використовуються для створення діаграм, створення та розуміння зображень і сценаріїв створення відео.

Wenxin Yiyan використовує плагін «Огляд документа» для інтерпретації документа. Джерело: Baidu

Wenxin Yiyan використовує плагін "Eyan Yitu" для створення кругових діаграм із даних у документі. Джерело: Baidu

Однак через високе енергоспоживання внутрішнє тестування плагіна генерації відео "Yi Jing Liu Ying" ще не було повністю проведено. У майбутньому Wenxin Yiyan буде відкритий для більшої кількості плагінів сторонніх розробників.

Літаючі весла «продають воду», запустіть платформу розробки плагінів великомасштабної моделі

Починаючи з п’яти власно розроблених плагінів, Baidu хоче зробити більше – це створити повну екосистему розробників, яка об’єднує вихідні та низхідні напрямки.

Ву Тянь вважає, що настав час побудувати екосистему розробників: «З одного боку, я вважаю, що сама основна технологічна система має бути достатньо зрілою, щоб підтримувати побудову екосистеми. Wenxin Yiyan досяг цієї стадії; ** з з іншого боку. З одного боку, найбільша роль екології полягає в тому, щоб зробити програми більш успішними.**»

Покладаючись на можливості моделі "Wen Xin Yi Yan", Baidu запустив велику платформу розробки плагінів для розробників. Платформа надає набір інструментів розробки плагінів (ERINE Bot SDK), який може підтримувати розробку плагінів для інформаційних служб, інструментів та інновацій на основі LLM.

ERINE Bot SDK. Джерело: Baidu

У той же час Flying Paddle AI Studio цього разу запустила спільноту масштабних моделей Xinghe. Це як вітчизняна версія Microsoft Azure AI Studio. Baidu, як «продавець води» великомасштабних додатків, надає розробникам послуги з розробки, розгортання, маркетингу та інші процеси.

Велика модельна спільнота Xinghe. Джерело: Baidu

На "Ruliu" робіть статті для підвищення продуктивності

Що таке «вбивчий» додаток в епоху AI? Наразі галузь може бути непереконливою. Однак розробка власних програм штучного інтелекту (AI Native) є основою «вбивчих» програм, і це все більше стає консенсусом.

Так звані додатки на базі штучного інтелекту просто означають, що без штучного інтелекту неможливо створити програми з основними можливостями — це, безсумнівно, висуває вищі вимоги до розробників: простого повторення оригінальних програм недостатньо.

На WAVE SUMMIT 2023 року Baidu передав оригінальний аркуш відповідей щодо штучного інтелекту, який розповідав про зміну продуктивності. На інтелектуальній робочій платформі Baidu «Ruliu» Baidu запустив «Super Assistant» і «Comate X Intelligent Programming Assistant».

Функція «Суперпомічника» схожа на чарівну паличку DingTalk від Ali та помічника зі штучним інтелектом «My AI» від Feishu. Він може виконувати обробку документів, пошук вмісту чату та надсилання повідомлень відповідно до потреб введення природною мовою.

«Суперпомічник» завершує організацію поїздок. Джерело: Baidu

«Суперпомічник» може аналізувати документи. Джерело: Baidu

Подібним чином Comate X, який допомагає у програмуванні, також базується на описах природної мови та генерує фрагменти коду, які можуть реалізувати відповідні функції. В даний час Comate X підтримує більше 30 мов і більше 10 IDE (інтегроване середовище розробки).

Для розробки власних додатків ШІ Baidu також створив екосистему розробників. Набір для розробки власних додатків AI Comate Stack, запущений цього разу, надає розробникам платформу оцінки iue, платформу розробки додатків AI IPlayground і платформу для розміщення наборів даних iDateSet.

Варто зазначити, що при розробці додатків ШІ на Comate Stack природна мова все ще є інтерфейсом для взаємодії людини з комп’ютером. Наприклад, щоб розробити плагін, який може реалізовувати політику відпустки, потрібні лише два кроки для налаштування та організації процесу.

Платформа розробки додатків ШІ IPlayground підтримує 2-етапну генерацію плагінів ШІ. Джерело: Baidu

Швидкий запуск додатків штучного інтелекту означає, що лише співробітники Baidu та кілька великих клієнтів B можуть використовувати два інструменти продуктивності. Але водночас це також сигнал про активну комерціалізацію Ruliu.

Лі Ін, віце-президент Baidu Group і головний інформаційний директор Baidu Group, представив, що Ruliu збільшить свої зусилля з комерційного просування в майбутньому за допомогою суперпомічників і ланцюжків інструментів програмування.

Переглянути оригінал
  • Нагородити
  • Прокоментувати
  • Поділіться
Прокоментувати
Немає коментарів