Source originale : projet Blue Word

Source de l'image : générée par l'IA illimitée

Le 13 juillet, Elon Musk a officiellement annoncé la création de xAI, une société d'intelligence artificielle, et dirigera personnellement une équipe de base de 11 personnes.

L'épine dorsale la plus visible est Igor Babuschkin, qui a été recruté il y a plus de trois mois.Lorsqu'il travaillait chez DeepMind, il était l'un des piliers du projet AlphaStar dans lequel le modèle d'IA de StarCraft a vaincu le champion du monde humain. ; était membre du projet ChatGPT lorsqu'il était employé par OpenAI.

En plus de Babushkin, un ancien employé de DeepMind et d'OpenAI, trois des équipes actuelles de xAI sont issues de DeepMind, trois de l'équipe de recherche de Google et une d'OpenAI.

C'est peut-être l'arrangement le plus approprié du destin : sans le style spécial de Musk, DeepMind et OpenAI, les deux meilleurs poids lourds du monde de l'IA, auraient la possibilité d'avoir le nom de famille Ma, et l'homme le plus riche du monde n'aurait pas à ouvrir une autre trompette pour gagner l'AGI (General Artificial Intelligence) Smart).

01 Disparition avec le fondateur de Google

Depuis le lancement de ChatGPT fin novembre 2022, Musk n'a dit qu'une seule bonne chose en public : "L'IA va vraiment de mieux en mieux ces jours-ci."

Depuis lors, chaque semaine, il a rejeté à plusieurs reprises le point de vue selon lequel "l'IA est le plus grand danger pour l'humanité" et l'accusation selon laquelle "OpenAI a trop tort".

Il y a une blague sur le marché : Musk est destiné à être contre l'IA, et il offensera tous ceux avec qui il traite avec les entreprises d'IA. Il se fait souvent des amis le plus tôt, mais rate à chaque fois.

DeepMind a été acquis par Google, et l'opportunité s'est également présentée sur le jet privé de Musk, mais elle a enterré la racine de la rupture de son amitié avec le fondateur de Google, Larry Page.

Le fondement et le fondement de DeepMind sont de partir de la direction de l'apprentissage par renforcement, qui est plus facile à mettre en œuvre, pour améliorer l'efficacité de l'IA en jouant aux jeux vidéo.

Les produits d'IA développés par DeepMind dans les premières années peuvent surpasser les joueurs humains en jouant à "Breakout" et "Space Invasion".

Au milieu de 2013, DeepMind a envoyé la vidéo de démonstration de l'IA jouant "Pinball Breakout" à tous les investisseurs providentiels - pour transmettre la performance et lever des fonds supplémentaires pour les pères bailleurs de fonds. Ceux qui ont reçu la vidéo comprenaient le co-fondateur de Paypal, Luke Nosek et Musk.

Lorsque Nosek discutait avec le propriétaire de la vidéo DeepMind sur le jet privé de Musk, Page, qui se trouvait être présent, l'a également entendu, et a eu l'idée d'acquérir DeepMind.

Page n'est pas quelqu'un qui veut acheter une entreprise en écoutant les ragots. Lorsqu'il était encore à la tête de Google, la politique d'entrée agressive dans l'industrie de l'IA avait été mise en place.

Fin 2012, Google a racheté DNNresearch, la société de Geoffrey Hinton, figure de proue de l'industrie de l'IA. En 2013, Page a tenu une réunion avec l'équipe de direction de Google sur une petite île du Pacifique Sud et a déclaré sur place que "Allons vraiment grand". Selon les participants, tout le monde a été choqué et "a fait un pas en arrière".

À ce stade, informez Page des réalisations de DeepMind, et l'acquisition est inévitable. Après que Page ait emmené Alan Eustace, le chef du département technique de Google à l'époque, et d'autres à Londres pour rencontrer l'équipe DeepMind, l'un des fondateurs de DeepMind, Dennis Hassabis, a également amené ses collègues Fly au siège californien de Google pour un entretien.

Dans l'interaction continue, la perspective d'acquisition devient plus brillante.

Les développeurs d'IA de Google ont reconnu l'authenticité des réalisations de DeepMind, et l'apprentissage par renforcement vient de combler le vide dans le territoire de recherche et de développement de l'IA de Google à cette époque.

Et Hassabis a également constaté que la force technique et les ressources financières de Google sont irrésistibles : le logiciel Torch développé par Google peut grandement améliorer l'efficacité de l'écriture de codes d'IA, et une fois qu'une telle entreprise avec des centaines de milliards d'actifs tourne son attention vers seulement quelques Ph. D. Les petites entreprises, les petites entreprises sont confrontées à la réalité que soit tous les employés sont débauchés avec des salaires élevés, soit l'entreprise est complètement rachetée. Maintenant que les futures options de chemin ont été verrouillées, il est naturel de choisir le plus favorable.

Début 2014, Google a dépassé l'offre de Facebook pour acheter DeepMind au prix de 400 millions de livres (environ 660 millions de dollars américains à l'époque). Le montant de la transaction s'est classé parmi les dix premières acquisitions de startups dans le monde en 2014.

Mais avant cela, Musk s'est impliqué.

Fin 2013, Musk a fait une offre de dernière minute pour acquérir DeepMind, mais a perdu face à Google. Musk voulait diriger les recherches du laboratoire et a déclaré à ses collègues et à ceux de DeepMind que Page n'était pas une personne fiable pour superviser la création d'une IA avancée, selon des personnes proches du dossier.

Compte tenu de la situation à l'époque, la décision de Musk était vraiment bizarre.

Au début de 2013, les ventes de la Tesla Model S étaient lentes en raison de fréquentes pannes du système et de la conception de capteurs rétrogrades, et Tesla était au bord de la faillite. Au cours de la première semaine d'avril, Musk avait déjà demandé de l'aide à Page et avait supplié son vieil ami de dépenser 6 milliards de dollars américains pour acheter Tesla, dont 5 milliards de dollars américains devraient être remis immédiatement à l'usine, et il ne voulait que continuer pour diriger l'entreprise pendant 8 ans ou pour La voiture de troisième génération quitte l'usine. S'il n'y avait pas eu le bénéfice de 11 millions de dollars de Tesla au premier trimestre de 2013, qui a atténué la crise de la faillite, Musk aurait été trop occupé pour s'occuper de lui-même.

** Dans la première moitié de l'année, je suppliais encore mon vieil ami de sauver ma propre propriété, mais dans la seconde moitié de l'année, j'ai poignardé mon vieil ami, disant que son niveau n'était pas fiable. Le style de l'homme le plus riche du monde est vraiment étonnant. **

Le soir du 18 juillet 2015, les Musks ont accueilli Page lors d'un banquet organisé en Californie. Au milieu de la nuit, les personnes présentes au banquet ont discuté pour savoir si l'IA est terrible ou non. Musk a insisté sur le fait que l'IA est susceptible de devenir un "terminateur", tandis que Page pensait que les doutes paranoïaques sur l'IA entraveraient le progrès technologique, ou l'aggraveraient. Les militaires de divers pays sont devenus des leaders dans la recherche sur l'IA.

À ce moment-là, Musk a fait de son mieux pour discuter avec Page, demandant à son vieil ami de lui expliquer pourquoi il pouvait être assuré que l'IA ne deviendrait pas un "terminateur" et ne détruirait pas les êtres humains. Page était tellement en colère qu'il a dit "vous spéciste (spéciste)" et est parti.

Musk est si doué pour être un homme qu'il n'a vraiment pas d'amis. Dans une interview exclusive sur Fox TV en avril de cette année, Boss Ma a admis que "Page et moi ne sommes plus des amis proches".

À l'époque, quand Musk se rendait dans la Bay Area, il envoyait toujours un e-mail pour trouver Page pour louer une maison. Page a également déclaré publiquement sur TED Talk : « Si je suis tué par un bus, ma propriété ne sera pas donnée à des organisations caritatives. , mais sera reversé à Elon. "Eh bien.

02 Literie du volume OpenAI

Après que DeepMind se soit retourné contre son vieil ami, Musk s'est retourné contre son partenaire à cause de l'esprit d'entreprise d'OpenAI.

En tant qu'entrepreneur bien connu, Musk est mondialement connu pour sa persévérance et sa persévérance, mais ce personnage est aussi une autre expression de la domination et de l'arrogance.

Si l'entrepreneur n'a jamais réussi, ce tempérament peut ne pas grandir. Cependant, l'esprit d'entreprise de Musk a pris du retard et a augmenté à plusieurs reprises. Il est inévitable qu'il croie fermement en "le seul au monde" et "comment mon industrie peut-elle ne pas écouter mes ordres". Les "co-fondateurs" sont des employés, pas des partenaires, des subordonnés, pas des pairs aux yeux de ces personnes.

En 2015, Musk a cofondé OpenAI avec Sam Altman (Sam Altman), dans le but de lutter contre Google et DeepMind. En 2018, Musk a quitté OpenAI.

Après que ChatGPT soit devenu populaire, les employés actuels et anciens d'OpenAI ne sont plus silencieux et ont communiqué des informations aux médias commerciaux. En fait, Musk n'a pas réussi à affronter et à prendre le pouvoir, et a été rejeté à l'unanimité par toute l'équipe OpenAI, des partenaires entrepreneurs aux employés ordinaires.

Certains médias ont repris des documents de preuve publics des procédures judiciaires impliquant Musk, et jusqu'en 2017, Musk considérait toujours OpenAI comme une réalisation marquante digne de contribution.

Il a dit à son frère Kimball Musk (Kimball Musk) dans un SMS sur son téléphone portable : « OpenAI et Neuralink (Remarque : la société de neurotechnologie et d'interface cerveau-ordinateur fondée par Musk) sont toutes deux cruciales pour le brillant avenir de l'humanité. moi, et la proportion de temps passé dessus devrait être considérablement augmentée. » A cette époque, les deux bureaux étaient loués par Musk dans le même à San Francisco.

En plus du nom d'OpenAI pris par Musk et des fonds de démarrage levés par Musk, l'actuel "père de GPT" et scientifique en chef Ilya Suskever a également été extrait de DeepMind par Musk.

Selon l'homme le plus riche du monde, Satskevier a hésité à plusieurs reprises sur l'opportunité de passer à OpenAI. A cette époque, le PDG de DeepMind, Hassabis et Musk, se sont affrontés pour le persuader. Satskevier est responsable de l'histoire de la série GPT et du DALL-E. série de grands modèles.

Cependant, un ancien employé d'OpenAI a annoncé la nouvelle, affirmant que Musk n'était ni ignorant ni impatient à l'époque, et a fixé un calendrier de recherche et développement irréaliste pour OpenAI, exigeant qu'une percée majeure menant à l'AGI soit faite avant cela, sinon The réputation de l'unité ne peut être pendue. Musk menait toujours des enquêtes au sein d'OpenAI tous les jours, se demandant quand les employés pensaient que l'AGI pouvait être créée.

Il y a un tel fondateur parmi les fondateurs, et l'entreprise est déjà de mauvaise humeur. Si cet homme initie toujours la coercition contre d'autres partenaires commerciaux et exige la monopolisation du pouvoir, le résultat final de cet homme ne sera pas difficile à imaginer.

｜La scène où Musk et ses riches pairs ne prennent pas de rendez-vous, mais se tiennent seulement la main et s'étreignent, ne se produira que dans des images fictives d'IA

Début 2018, Musk a fait ceci : a demandé à d'autres co-fondateurs de prendre le contrôle total et d'exploiter OpenAI lui-même, au motif que les progrès de la recherche et du développement d'OpenAI avaient pris du retard sur Google.

Avant que Musk ne force le palais, OpenAI était une organisation à but non lucratif sans PDG et sans structure de gestion formelle.En 2017-2018, il y avait environ 50 employés. Bien qu'il s'agisse d'une petite entreprise, des partenaires entrepreneuriaux tels que Sam Altman et Greg Brockman ont unanimement rejeté la déclaration de Musk.

Tout le monde connaît le résultat du forçage du palais.En 2018, Musk s'est retiré d'OpenAI pour la raison publique d'"éviter les conflits d'intérêts".Après cela, il y a eu une longue attaque contre OpenAI.

On ne peut pas dire qu'il n'y a pas de conflit d'intérêts, après tout, quand Musk est parti, il a débauche Andrej Karpathy, un talent technique, à Tesla pour qu'il soit en charge du département IA et pilote automatique. Cependant, d'anciens employés d'OpenAI ont annoncé que personne dans l'unité ne croyait que c'était la raison principale.Le discours d'adieu de Musk à OpenAI a également répété cette excuse, ce qui a provoqué une mauvaise réponse parmi les employés d'OpenAI à l'époque : même les patrons de l'entreprise. compté comme le numéro 52. Homme, qui trompes-tu?

Ironiquement, la démission de Musk d'OpenAI est devenue la cause à long terme du lancement de GPT.

Boss Ma était le pilier financier d'OpenAI au début, promettant de donner à OpenAI un accès complet au financement de 1 milliard de dollars promis par les premiers bailleurs de fonds. Cette promesse n'a pas été annulée même après le départ de Musk, mais le montant réel reçu a été controversé.En 2023, Musk a affirmé sur son Twitter que 100 millions de dollars étaient en place, mais certaines sources ont déclaré qu'il était inférieur à 50 millions de dollars.

L'insuffisance d'argent sera toujours la motivation pour stimuler la réduction des coûts et l'amélioration de l'efficacité. Les chercheurs d'OpenAI sont passés au modèle Transformer développé par Google en 2017 comme direction d'effort, car le modèle Transformer a une applicabilité plus large, une efficacité de calcul parallèle plus élevée et une meilleure accélération GPU des modèles dérivés.

Même si Boss Ma a quitté OpenAI, sa querelle avec Sam Altman est toujours difficile à surmonter. Selon des personnes proches du dossier, au début de 2023, Musk a déclaré en privé à Altman qu'il lancerait un projet d'IA concurrent. Altman a d'abord souhaité poliment à Musk tout le meilleur, puis Piri a lancé une phrase : Je ne comprends pas comment l'ajout d'un projet peut éliminer les inquiétudes de Musk concernant le développement rapide de l'IA.

Depuis 2023, le comportement de l'unité d'OpenAI et les paroles personnelles d'Altman ont montré que ses anciens collègues ont été profondément offensés par Musk.

Fin mars, Shivon Zilis (Shivon Zilis), membre du conseil d'administration d'OpenAI, a démissionné, car en tant qu'ancienne petite amie qui a eu une paire d'enfants avec Musk et qui est maintenant dirigeante de Neuralink, Zilis continue de siéger au conseil d'administration d'OpenAI. un conflit d'intérêts surviendra.

À peu près au même moment, dans des interviews avec des podcasts et des apparitions à diverses occasions, Altman a déclaré que Musk était un "crétin", "C'est mon mentor en R&D et en opérations... mais il se comporte un peu mieux avec moi. Je ne le fais pas". Je ne veux pas emboîter le pas."

｜L'homme le plus riche du monde a récemment fait un échantillonnage : "Zuckerberg est un homme tortue, je suggère que nous comparions tous les deux qui est le plus grand."

On peut dire que Musk est le seul au monde à pouvoir rendre Altman, qui a toujours été doux et calme en public, si en colère. Cet exploit n'est pas qu'une rancune du passé, l'homme le plus riche du monde a travaillé dur pour creuser la fracture. En plus de la censure verbale quotidienne d'OpenAI, l'apparition de Musk au siège d'OpenAI a également joué un rôle.

Fin novembre 2022, la réaction privée de Musk en regardant les réalisations de ChatGPT serait "furieuse". Début décembre, Musk a annoncé qu'il déchirerait l'accord d'accès aux données entre Twitter et OpenAI avant son acquisition.

Début 2023, Altman a demandé à Musk de se rencontrer au siège d'OpenAI à San Francisco pour tenter de résoudre les différends. Le peuple Musk est là, mais pas seulement lui et son équipe de gardes du corps, mais aussi son fils en bas âge et sa nounou.

Lorsque les employés d'OpenAI dans la salle de conférence ont démontré comment Twitter peut être compatible avec ChatGPT, Musk et la nounou se sont relayés pour mettre l'enfant sur ses genoux et le secouer. Lors de conversations avec d'autres employés d'OpenAI, Musk a répété son concept de "monde en tant qu'analogique numérique" avant de s'éloigner.

Bien que les personnes présentes aient déclaré que Musk avait une attitude modérée, le comportement de l'homme le plus riche du monde était plus proche d'un nouveau riche rentrant chez lui que d'une négociation coopérative. Si ça dissipe la rancune, merde.

** 03 "Top match" nouvel amant, vieux rêve difficile à réaliser **

Incapable de gérer DeepMind et OpenAI, Musk peut enfin gérer sa propre entreprise unique xAI. Sera-t-il le premier à créer AGI ? Selon les informations disponibles, il y a de l'espoir, mais pas très grand.

L'expérience des entreprises de Musk en matière d'IA est en effet de premier ordre dans l'industrie, mais les avantages sont tous décomposés et unilatéraux. Le supercalculateur "Dojo", la puce d'entraînement D1, l'algorithme FSD et le robot humanoïde "Optimus Prime", bien que n'étant pas le numéro un mondial en termes de paramètres de performance, sont tous à égalité avec les meilleurs concurrents.

Cependant, la particularité de l'IAG est qu'elle est "générale", c'est-à-dire qu'elle peut traiter des données d'entrée de diverses modalités et des problèmes uniques de diverses natures. C'est la caractéristique de "l'intelligence artificielle générale" qui peut rivaliser avec l'intelligence humaine. Cependant, les avantages existants de Musk ne sont précisément pas là.

Par exemple, l'architecture de la puce D1 est conçue sur mesure pour la conduite autonome de Tesla, et lorsqu'elle est utilisée sur un grand modèle multimodal à usage général, la bande passante mémoire semblera limitée. La combinaison des exigences de communication sur puce, de mémoire sur puce et de mémoire hors puce pour les grands modèles et les algorithmes de conduite autonome varie considérablement.

L'algorithme de Tesla fonctionne assez bien pour traiter les données d'entrée des images visuelles, mais l'effet se limite à traduire les données d'image en données vectorielles spatiales, puis à prendre des décisions d'action pour le système de conduite automatique. Les grands modèles de langage basés sur des transformateurs et les modèles multimodaux nécessitent des architectures de code très différentes.

Le robot humanoïde "Optimus Prime" peut suivre directement l'action de l'algorithme FSD dans la vidéo en 2023, car la quantité de données et le modèle de l'action du robot et le système de conduite automatique sont tous axés sur la perception et la navigation de l'environnement environnement physique.

Cependant, en raison du plafond technique, pour mener à bien ces actions avec une faible consommation d'énergie, une grande précision, une grande vitesse et une faible latence, l'algorithme de Tesla ne peut être appliqué qu'à des modèles et des robots humanoïdes de taille physique extrêmement limitée. En bref, l'algorithme de Tesla ne peut pas conduire un camion, ni conduire un gros robot à plusieurs bras.

Même les idées annoncées par xAI ne sont pas exclusives. Les patrons et les piliers de xAI ont tous déclaré que les grands modèles de langage existants ne sont que des applications de statistiques différentielles haut de gamme et des moteurs d'imitation de corrélation, et xAI veut permettre aux modèles d'intelligence artificielle de découvrir de nouvelles connaissances et de découvrir des faits que les gens ne peuvent pas comprendre, plutôt que de simplement répéter Émuler ce qui se trouve dans les données d'entraînement.

Pourtant, le concept de "modèle mondial" de "Yann Lecun", l'âme du département de recherche en intelligence artificielle de Meta, exprimait quasiment le même avis il y a trois ans. Le modèle I-JEPA, publié dans un article le 14 juin, a commencé à utiliser des connaissances de base sur le monde, plutôt que des données de pixels environnantes, pour combler les parties manquantes de l'image.

Par conséquent, bien que xAI puisse emprunter les ressources de Tesla et obtenir des données Twitter, il présente des avantages certains. Cependant, en termes de réalisation de la vision, les progrès des concurrents existants ont une avance visible. Dans l'arène où les lauriers AGI sont remportés, la situation de la compétition pour le trône ne changera pas à court terme.