Source : Qubit

Auteur : Meng Chen Mingmin

Dans le partage de discours annuel de Lei Jun, il a parlé de son expérience d'étude à l'Université de Wuhan, a partagé son expérience d'être un bon étudiant en 4 ans d'université et 2 ans de cours; il a parlé d'avoir été enflammé par "Silicon Valley Fire", avec diligence s'entraînant à écrire le meilleur code, et démarrant sa première entreprise.En fin de compte, il rejoignit Jinshan, fonda Xiaomi, insista sur son rêve, réalisa son rêve, et continua à grandir dans l'unité de la connaissance et de l'action...

En conséquence, le discours super brûlant de Lei Jun a balayé l'écran, et le record établi par son propre grand modèle et les discussions animées qui en ont résulté ont tous été éclipsés.

Non seulement cela, une série des dernières avancées de la technologie Xiaomi lors de la conférence de presse ont également été éclipsées, mais avec le recul, elles sont en fait très importantes et dignes d'attention, telles que ** Grand modèle AI chargé dans les téléphones mobiles *, * Amélioration du grand modèle du petit camarade de classe Ai, Nouvel atterrissage du robot quadrupède bionique...

Et Lei Jun a également annoncé personnellement la stratégie technologique et la formule d'intelligence artificielle de Xiaomi **, et ** AI est sur le point de lancer une actualisation complète de Xiaomi **.

C'est pourquoi le nouveau développement de l'IA de Xiaomi mérite d'être discuté en détail.

Commençons par le grand modèle de Xiaomi qui pèse quatre ou deux mille livres.

** L'IA est pleinement habilitée et le grand modèle est inséré dans le téléphone mobile **

Le modèle MiLM à grande échelle développé par Xiaomi est apparu sur GitHub la veille du discours de Lei Jun, et il n'a pas roulé.

Quelle que soit la taille, les principales versions sont 6B et 1.3B (6,4 milliards de paramètres, 1,3 milliard de paramètres), qui sont de véritables lecteurs légers.

En se concentrant sur les performances, la version plus petite du paramètre 1.3B est insérée dans le téléphone mobile, de sorte qu'elle puisse correspondre à l'effet des grands modèles de cloud dans de nombreuses scènes.

L'équipe de modèles à grande échelle de Xiaomi est dirigée par ** Luan Jian ** et rend compte au Dr Wang Bin **, directeur du laboratoire d'IA du comité technique du groupe Xiaomi. La recherche et le développement ont commencé en avril de cette année et les documents ont été rendus en seulement 4 mois.

Que diriez-vous des résultats, d'abord les résultats de l'évaluation :

La version de paramètre 6B, classée première ** dans le même niveau de paramètre sur la liste faisant autorité C, et le chinois CMMLU au grand modèle a remporté ** classé premier **.

Plus précisément, l'ensemble de données C est un ensemble complet de données d'évaluation de modèles de base chinois, couvrant 52 sujets et quatre niveaux de difficulté.

L'ensemble de données CMMLU est une référence d'évaluation chinoise complète spécialement conçue pour évaluer les connaissances et les capacités de raisonnement des modèles linguistiques dans des contextes chinois. CMMLU couvre 67 sujets allant des matières de base au niveau professionnel avancé.

Depuis l'arrivée de ChatGPT en novembre de l'année dernière, les sociétés de cloud computing telles que Microsoft, Google et Amazon ont été les premières à agir.

Cependant, à mesure que la technologie mûrit, les grands modèles de bout en bout deviennent le prochain objectif de l'industrie.Il y a déjà des rumeurs sur Apple, et Xiaomi est le premier à entrer dans le premier échelon.

**Quels sont les avantages de mettre un grand modèle dans un téléphone mobile ? **

Tout d'abord, le fonctionnement local n'a pas besoin de s'inquiéter d'un signal médiocre, d'aucun réseau dans l'avion, etc., et la vitesse de réponse est plus rapide.

Dans le même temps, la confidentialité des utilisateurs est mieux garantie et il est également pratique de fournir des services plus personnalisés.

En résumé : profitez de la productivité avancée apportée par l'IA à tout moment et en tout lieu.

Dans le même temps, le ** qubit a également obtenu la qualification pour la nouvelle version de Xiao Ai pour inviter les étudiants à tester **.

C'est toujours la voix familière, mais avec la bénédiction du grand modèle, on peut vraiment dire que Xiao Ai est devenu un assistant intelligent.

Ce n'est pas un problème de recommander en fonction de la capacité d'abord, et d'expliquer le concept supraconducteur qui est devenu populaire récemment.

Vous souvenez-vous encore de la question des handicapés mentaux "Pourquoi mes parents ne m'ont-ils pas invité à me marier" qui a laissé perplexe de nombreux modèles nationaux et étrangers ?

Xiao Ai a dit qu'elle ne devrait pas du tout se laisser berner par cela.

Si vous ne savez pas quoi faire d'autre avec le petit modèle d'amour, vous pouvez également venir dans la zone d'exploration pour trouver l'inspiration.

On peut également voir d'ici que le modèle Xiaoai a également été intégré au système dans une certaine mesure.

Par exemple, dans le mode service client médaille d'or de Xiaomi, le téléphone mobile pliant phare qui vient de sortir depuis quelques jours est également bien présenté et peut sauter au centre commercial en un clic.

Selon Xiaomi, le modèle à grande échelle de Xiaomi vise les capacités au niveau du système.Peut-être que l'ensemble du système d'exploitation du téléphone mobile évoluera vers un "système d'exploitation intelligent" comme celui-ci à l'avenir.

Cependant, le grand modèle du téléphone mobile n'est pas la seule direction des efforts de Xiaomi AI.Le Robot Dog II Iron Egg qui a été dévoilé cette fois cache beaucoup de secrets d'IA.

Pourquoi l'œuf de fer de deuxième génération est-il plus petit et plus athlétique que la première génération ?

Le micro-moteur à contrôle de force CyberGear auto-développé par Xiaomi derrière lui est simulé par un algorithme d'intelligence artificielle, ce qui rend le moteur 20 % plus léger tout en optimisant ses performances.

Afin d'être plus bionique en termes de comportement, Xiaomi a également simulé 30 000 chiens robots pour un entraînement parallèle sur la Xiaomi Robot Reinforcement Learning Platform basé sur les mouvements de vrais chiens.

La technologie de l'IA quitte ainsi l'environnement virtuel pur et arrive aux téléphones portables, aux chiens robots et à d'autres appareils domestiques intelligents à l'avenir.Ce n'est pas seulement une sorte d '"autonomisation", mais découvre également de nouvelles directions pour l'innovation et l'optimisation.

Nous avons vu par le passé que la technologie d'interaction vocale de Xiao Ai est utilisée sur des chiens robots, ce qui est assez différent de l'environnement des téléphones portables et des haut-parleurs.

Les chiens robots peuvent se déplacer seuls et apparaissent souvent dans des environnements extérieurs très bruyants, ce qui impose des exigences plus élevées en matière d'algorithmes de reconnaissance vocale et de réduction du bruit, ce qui favorise l'évolution des algorithmes.

Les grands modèles de langage et les grands modèles multimodaux rencontreront également des situations similaires à l'avenir, et éventuellement les fonctionnalités requises par les nouveaux scénarios d'application seront internalisées dans le modèle lui-même.

C'est l'intelligence incarnée que le milieu universitaire explore également, et c'est l'une des nouvelles directions les plus importantes après le grand modèle.

Nous pouvons voir qu'en plus des nouveaux modèles de la conférence Xiaomi cette année, la proportion d'IA est nettement plus élevée.

Pour approfondir sa réflexion, Lei Jun a commencé par une formule.

**La stratégie technologique de Xiaomi, pourquoi y a-t-il une puissance d'IA ? **

La formule (logiciel × matériel) ᴬᴵ donnée par Xiaomi implique une couche de sens :

L'IA est la variable la plus critique, elle peut entraîner des changements exponentiels.

Cela reflète davantage l'accent mis par Xiaomi sur l'IA.

La raison derrière cela n'est pas difficile à comprendre.Combinée avec le développement de la tendance de l'IA elle-même et la tendance du marché des terminaux où se trouve Xiaomi, la réponse peut être trouvée.

Regardez d'abord le domaine de l'IA.

La raison pour laquelle la tendance des modèles à grande échelle est vigoureuse est qu'elle a un impact profond sur la technologie sous-jacente et les applications industrielles.

D'une part, la naissance de ChatGPT a prouvé que lorsque l'échelle du modèle franchit un certain niveau, un phénomène d'intelligence émergera. Cette fonctionnalité permet au grand modèle d'avoir la capacité "d'inférer d'autres cas à partir d'une instance", et permet en outre la mise en œuvre d'applications d'IA à grande échelle.

Parallèlement, ChatGPT et Stable Diffusion favorisent également le développement de l'IA dans un sens génératif. Lorsque l'IA aura une créativité plus riche, le mode d'interaction homme-ordinateur changera également. La manifestation la plus intuitive est que lorsque l'assistant intelligent est connecté au grand modèle, il peut favoriser le développement de l'interaction homme-ordinateur vers une méthode de communication linguistique plus naturelle et plus pratique.

D'autre part, ChatGPT a suscité des débats houleux dans l'ensemble de la société à travers le monde, permettant au concept d'IA de franchir rapidement les barrières et d'entrer dans la connaissance de milliers d'industries et du grand public, ce qui accélère le rythme de l'application et de la commercialisation de l'IA. .

Il est généralement admis dans l'industrie que les grands modèles industriels construits au-dessus des grands modèles de base deviendront les principaux composants du futur marché des grands modèles et l'une des principales forces motrices des applications pratiques.

Du côté des modèles à grande échelle, les fabricants ont activement encouragé la coopération avec l'industrie au cours des six derniers mois ; dans le domaine vertical, il y a aussi des acteurs qui utilisent des modèles à grande échelle comme technologie sous-jacente pour montrer leur importance, comme InflectionAI , une société de robots de chat qui se concentre sur la compagnie émotionnelle jusqu'à 4 milliards de dollars.

À travers ces derniers changements de tendance, il n'est pas difficile de ressentir un fait——

En tant que technologie sous-jacente, fondamentale et centrale, l'IA change rapidement l'ère actuelle.

Dans le cycle technologique précédent, les technologies représentatives qui peuvent assumer un tel rôle sont la technologie de la vapeur, l'entraînement électrique et l'ordinateur.

En d'autres termes, l'IA d'aujourd'hui, comme eux, peut devenir une productivité future et apporter une croissance exponentielle.

Ensuite, comment faire bon usage de cette future productivité est devenu la chose la plus préoccupante pour diverses industries.

Prenant l'exemple du marché des terminaux où se trouve Xiaomi, la tendance des grands modèles évolue ici.

Aujourd'hui, l'accès par téléphone portable aux grands modèles est devenu un "grand pas" pour de nombreux fabricants.

Non seulement pour combiner des assistants intelligents avec de grands modèles cloud, mais aussi pour développer vigoureusement des modèles de bout en bout à partir de leurs propres scénarios.

Par exemple, PaLM 2, qui est considéré comme une référence par rapport au GPT-4 par Google, a lancé la plus petite version "Gecko" lors de sa sortie, qui peut fonctionner rapidement sur les appareils mobiles, y compris hors ligne, et peut traiter 20 jetons par seconde.

Le niveau de puce inférieur se prépare également au déploiement de grands modèles côté extrémité.

Qualcomm est actuellement capable d'appliquer Stable Diffusion à une vitesse de 15 étapes et 20 étapes pour générer une image de 512×512 pixels sur un téléphone mobile équipé de la plate-forme mobile Snapdragon 8 de deuxième génération grâce à la quantification, la compilation et l'optimisation de l'accélération matérielle.

Derrière cela, il se reflète que le modèle à grande échelle et le terminal de téléphonie mobile se précipitent dans les deux sens.

Pour les grands modèles, la scène mobile a construit les applications mobiles les plus abondantes et les plus étendues, c'est l'écran le plus proche du grand public et le domaine clé pour l'atterrissage accéléré des grands modèles. Par conséquent, afin de s'adapter à la scène du téléphone mobile, un modèle plus léger et pouvant être déployé sur l'appareil doit apparaître.

Pour les téléphones mobiles, les grands modèles accélèrent la reconstruction des applications mobiles et modifient l'interaction homme-ordinateur, et l'industrie de la téléphonie mobile sera certainement affectée. Sous les changements drastiques, saisir la tendance peut saisir le nouvel élan de croissance.Par conséquent, pour les fabricants de téléphones mobiles et même de terminaux, il est inévitable d'adopter de grands modèles.

En résumé, il n'est pas difficile de comprendre pourquoi le contenu de l'IA est si élevé dans les dernières tendances de Xiaomi.

Qu'il s'agisse de lancer une version modèle à grande échelle de Xiao Ai ou de publier un modèle de bout en bout auto-développé, c'est le résultat de partir de Xiaomi lui-même et d'adopter la tendance.

Dans son discours personnel cette année, Lei Jun a proposé la formule (logiciel×matériel) ᴬᴵ, qui a révélé davantage la compréhension actuelle de Xiaomi des dernières tendances de l'IA.

Cette année, Lei Jun a choisi le thème de la "croissance" comme thème de son discours annuel. Dans le discours de trois heures et la sortie annuelle du nouveau produit, il a partagé plusieurs croissances et idées clés qu'il a connues au cours des 30 dernières années.

En conséquence, en cette année qui sera définitivement marquée dans l'histoire du développement de l'IA, Xiaomi se tient également à un nouveau nœud clé——

Le groupe Xiaomi a annoncé la mise à niveau de sa stratégie technologique, annoncé ses concepts technologiques et clarifié les principes de l'exploration technologique.

Dans ces nouveaux changements, le contenu de l'IA est très élevé.

L'IA devient la variable clé du nouveau mil

Dans la dernière stratégie technologique mise à jour de Xiaomi, quatre principes ont été établis :

• Culture profonde de la technologie sous-jacente
• Investissement continu à long terme
• Intégration profonde des logiciels et du matériel
• Entièrement habilité par l'IA

Une couche d'informations est véhiculée à l'intérieur et à l'extérieur : l'IA deviendra une variable clé pour le nouveau Xiaomi.

En fait, à l'intérieur et à l'extérieur de la tendance, Xiaomi est né directement dans le vent cette fois.

Tout d'abord, les changements déclenchés par la dernière vague d'IA sont "naturellement compatibles" avec l'agencement technique et le longboard de Xiaomi.

En 2016, lorsque AlphaGo est né pour promouvoir le concept d'IA auprès du public, Xiaomi a créé sa première équipe d'IA.

Dans la tendance de l'IA à cette époque, les domaines de l'apprentissage en profondeur et de la vision par ordinateur se sont développés rapidement, ce qui s'est reflété non seulement dans l'algorithme de base, mais aussi dans la mise en œuvre des applications. Par exemple, les quatre tigres nationaux de l'IA ont tous commencé avec la vision par ordinateur.

La première équipe d'IA mise en place par Xiaomi est également ancrée dans le sens de la vision par ordinateur.

Puis en 2017, "L'attention est tout ce dont vous avez besoin" est venu.

L'émergence de l'architecture Transformer favorise non seulement directement le développement du domaine de la PNL, mais affecte également la vision par ordinateur, la parole et d'autres domaines. C'est également le cœur de la technologie sous-jacente de la tendance AIGC actuelle. Vous devez savoir que la plupart des grands modèles actuellement sur le marché sont basés sur l'architecture Transformer. .

Cette année, Xiaomi a fait de plus grands progrès dans l'IA. Création officielle d'un laboratoire d'IA, avec une disposition multidirectionnelle couvrant l'acoustique, la voix, la PNL, les graphes de connaissances et d'autres domaines, et même de grands modèles sont inclus.

Dans les prochaines années, la tendance de l'IA bat son plein.Avec un algorithme sous-jacent relativement solide comme base, les applications de l'industrie seront mises en œuvre plus rapidement, en particulier dans le domaine de la segmentation.

Dans le domaine de la téléphonie mobile, deux exemples typiques sont les assistants intelligents et les images AI.

Ils doivent tous être profondément intégrés au produit afin de poursuivre l'exploration. À cet égard, Xiaomi AI a une mise en page, et on peut dire qu'elle a une longue planche.

Xiao Ai, qui a été entièrement mis à niveau cette fois, est né il y a 6 ans, a appliqué la technologie Xiaomi NLP et a accumulé des données de formation de scène massives pour les applications d'accès aux modèles à grande échelle d'aujourd'hui. Au niveau des algorithmes d'imagerie par IA, Xiaomi a également mis en place une équipe dédiée.Par exemple, le "Night Owl Algorithm" a été appliqué à des produits matures.

** En avril de cette année, l'équipe de modèles à grande échelle Xiaomi a été rapidement établie, complétant la dernière expansion sous la tendance. Jusqu'à présent, l'équipe Xiaomi AI a dépassé les 3 000 personnes. **

Par conséquent, Xiaomi est né dans la vague des modèles à grande échelle d'IA, et l'accumulation et l'accumulation de puissance sont déjà terminées.Il suffit d'utiliser du bon acier sur la "lame" et de rassembler des ressources pour réaliser de plus grandes percées.

Deuxièmement, la technologie est puissante en raison de la scène.Derrière les avantages naturels de la technologie de Xiaomi, le cœur est les avantages de la scène des activités et des produits de Xiaomi, et Xiaomi a été parfaitement conscient de cette tendance.

D'une part, ce n'est que lorsque la technologie pénètre profondément dans la scène qu'elle peut exercer une plus grande valeur.

Laissons de côté, disons simplement que le concept le plus en vogue d'aujourd'hui "grand modèle" a commencé dès 2017, mais le domaine de la recherche sur l'IA se concentre depuis longtemps sur la liste d'évaluation de l'indice académique, et cela n'a pas provoqué trop de vagues.

Ce n'est que lorsque ChatGPT est sorti avec l'attitude de faire face aux consommateurs ordinaires que les scénarios d'application des chatbots et des assistants intelligents ont été ouverts, et l'explosion cambrienne d'espèces d'IA qui a suivi a presque transformé toutes les industries.

Xiaomi pratique ce concept depuis de nombreuses années. C'est pourquoi, dans la nouvelle formule proposée, (logiciel × matériel) est utilisé comme nombre de base.

La scène de Xiaomi est née de l'intégration de matériel et de logiciels, tels que l'assistant intelligent Xiao Ai, qui compte 110 millions d'utilisateurs actifs par mois et prend en charge plus de 5 900 appareils intelligents.

En termes de terminaux multiples, "le téléphone mobile est le disque de base et l'IoT est l'espace de l'imagination", c'est ainsi que beaucoup de gens décrivent Xiaomi.

Du côté de la téléphonie mobile de la position principale, Xiaomi a établi sa position grâce à l'intégration de logiciels et de matériel. En termes d'AIoT, Lei Jun a vu la tendance du matériel intelligent et de l'Internet des objets en 2013, et a pris l'initiative de devenir le créateur de la vie intelligente AIoT.

En 2021, Lei Jun a personnellement pris en charge la construction automobile de Xiaomi, complétant le dernier maillon de la "maison de voiture du peuple" de Xiaomi, achevant ainsi la construction de l'écologie intelligente à scénario complet de Xiaomi.

Même en termes de robots bioniques, Xiaomi a maintenant lancé deux générations de CyberDog et le robot humanoïde CyberOne, exposant à l'avance la future scène domestique.

D'un autre côté, il n'y a de place pour l'intégration et l'évolution que lorsque les dernières technologies pénètrent profondément dans la scène pour se développer.

Par exemple, la fonction "Focus Tracking" bien accueillie sur les téléphones mobiles Xiaomi était à l'origine dérivée de la technologie "owner tracking" sur le chien robot CyberDog ; la conduite autonome de Xiaomi progresse très rapidement, grâce au laboratoire d'intelligence artificielle Xiaomi fondé en 2017. De même, de nombreuses technologies du secteur de la conduite autonome sont également appliquées à CyberOne, qui constitue le cerveau du robot bionique.

** Selon la dernière tendance des grands modèles, tels que les téléphones portables, les robots bioniques, etc., les scénarios d'atterrissage sont largement discutés. **

Ce sont précisément les scénarios riches de Xiaomi qui rendent l'application technique et l'itération de l'IA plus excitantes.Après tout, l'IA remonte à son origine, qu'il s'agisse d'algorithmes d'apprentissage en profondeur ou du paradigme de modèle à grande échelle d'aujourd'hui, la compétitivité de base derrière elle est toujours basée sur les itérations de données. Les scènes, les terminaux et le volume de données appartenant à Xiaomi sont d'excellentes garanties pour la mise en œuvre et l'expérience de la technologie AI.

Et n'oubliez pas que Xiaomi a également la garantie la plus fiable pour l'itération de l'IA - Mi Fan Users.

Après le blockbuster de ChatGPT, le mécanisme d'apprentissage par renforcement basé sur la rétroaction humaine a été mentionné à plusieurs reprises, et ce mécanisme et élément de méthode clé, aucun joueur n'a plus de méthodologie et de voix que Xiaomi.

Enfin, la raison la plus importante pour laquelle l'IA rafraîchira Xiaomi est sa détermination.

Ce type de détermination n'est pas seulement l'expérience historique de l'expérience technique et des investissements en R & D de Xiaomi, mais aussi Lei Jun, qui est né en tant que programmeur, a toujours été ferme dans la technologie et uni aux connaissances et à l'action.

Pendant longtemps, ** l'expérience produit de Xiaomi est trop forte et la technologie est forcée de "s'éclipser" **, tant de gens ignorent la technologie puissante et la mise en page complète de Xiaomi.

Par conséquent, "Nouveau Xiaomi" ne signifie pas que Xiaomi vient de commencer à changer, mais qu'il s'agit d'un meilleur affichage des efforts continus d'innovation technologique qui ont été déployés sur la table.

Sur les lieux du discours de Lei Jun, il a spécifiquement souligné que la recherche et le développement technologique de Xiaomi** ont déployé 12 domaines techniques**, dont la technologie de communication mobile 5G, le big data, le cloud computing et l'intelligence artificielle. 99 voies de subdivision.

Lei Jun a révélé qu'en termes de brevets techniques qui reflètent le plus la force, au 31 mars 2023, le nombre de brevets mondiaux autorisés de Xiaomi dépasse ** 32 000 **. Parmi eux, la famille mondiale de brevets de Xiaomi représentait 4,1 % de la déclaration de brevet essentielle à la norme 5G des entreprises mondiales efficaces de la famille de brevets publiée par l'Académie chinoise des technologies de l'information et des communications, et est entrée dans le top dix pour la première fois, le plus jeune joueur.