V fühlt Angst vor der Entwicklung von KI: Menschen sollten bequeme Werkzeuge schaffen, anstatt intelligentes Leben zu schaffen.

Während die Entwicklung von KI boomt, äußerte sich Vitalik Buterin, Mitbegründer von Ethereum, am 21. Dezember besorgt über AGI (Allgemeine Künstliche Intelligenz) und ASI (Superintelligenz), da dies eindeutige Kontrollrisiken mit sich bringen könnte. Er plädiert dafür, intelligente Werkzeuge für Menschen zu schaffen, anstatt Superintelligenzen zu erschaffen. Generative KI hat in den letzten Jahren enorme Fortschritte gemacht und beeindruckende Ergebnisse hervorgebracht. Dies zeigt nicht nur das enorme Potenzial der Technologie, sondern wirft auch Fragen und tiefe Besorgnis über die mögliche Realisierbarkeit von AGI und ASI auf. AGI bezieht sich auf künstliche Intelligenz mit menschenähnlicher Intelligenz, die Aufgaben in verschiedenen Bereichen ausführen kann, nicht nur in spezifischen Anwendungen. ASI hingegen bezieht sich auf künstliche Intelligenz, die alle menschlichen Intelligenzebenen übertrifft und in jeder Hinsicht überlegen ist. Sam Altman, CEO von OpenAI, prognostizierte im September dieses Jahres, dass ASI in einigen tausend Tagen Realität werden wird und die Fähigkeit zur Bewältigung von Intelligenzaufgaben die des Menschen bei weitem übertrifft. Die kanadische Sängerin Grimes äußerte am 21. Dezember ebenfalls ihre Ängste vor ASI, nachdem sie die Ergebnisse von Projekten wie Janus AI beobachtet hatte. Sie glaubt, dass AGI bereits in gewisser Weise verwirklicht wurde. Vitalik Buterin definiert AGI als künstliche Intelligenz, die stark genug ist, um die Zivilisation unabhängig fortzusetzen, wenn plötzlich alle Menschen verschwinden und die KI in Roboter hochgeladen wird. Er gibt jedoch zu bedenken, dass dies eine äußerst schwer zu messende Definition ist. ASI hingegen ist etwas völlig anderes. Für ihn ist ASI definiert als die Zeit, in der Menschen keinen Wert mehr für die Produktivität haben (ähnlich wie beim Schach, wo wir dieses Level erst in den letzten zehn Jahren erreicht haben). Vitalik Buterin gibt zu, dass sowohl ASI als auch die von ihm definierte AGI beängstigend sind, da sie eindeutige Kontrollrisiken mit sich bringen. Daher unterstützt er die Konzentration auf die Entwicklung von Werkzeugen, die die Intelligenz des Menschen verbessern, anstatt Superintelligenzen zu konstruieren.