VitalikはAGIとASIに恐怖を感じています：人間はAIに取って代わられるのではなく、知恵の増幅ツールに優先的に注力すべきです

イーサリアム共同創業者であるVitalik Buterinは、AGI（汎用人工知能）とASI（人工超知能）についての独自の視点をTwitterで共有しました。彼は、AIツールに注力するべきであり、人間の代わりに超知能生命体の開発を追求することではないと強調しました。彼はAGIとASIの過剰な発展を非常に恐れています。

AGIは文明を維持するための独立した人工知能です

VitalikはAGIを非常に強力なAIと定義しています。彼はすべての人間が突然消えた場合、そのAIがロボットにインストールされ、独自で運営し、文明を維持できると述べています。さらに、この概念は従来のAIの「ツール性」から一歩進んで「自己維持型の生命形態」に昇格すると補足しています。

Vitalikは、現在の技術ではこのような状況をシミュレートすることはできず、人間がいない状況でAIが文明を維持できるかどうかを本当にテストすることはできません。さらに、「文明の発展」の基準を定義することはより困難であり、どの条件が文明が継続して機能していることを示すのかはっきりと定義することは困難です。これらの問題自体が非常に複雑ですが、これがAGIと通常のAIを直接区別できる主要な識別要素である可能性があります。

(注：自己維持する生命形式は、生命活動を維持し、環境の変化に適応し、一定の条件下で生存を続けるためにリソースを獲得および利用することができる生物または生命システムを指します。)

AIが人間を置き換えるのではなく、知的補助ツールの重要性を強調する

Vitalikの人工超人智能（ASI）の定義は、AIの進歩が人間の参加が提供できる価値を超え、完全に自律的かつ効率的な段階に達するときです。彼は最近の10年間にチェスがこの段階に本当に入ったという例を挙げています。AIのレベルは、人間とAIの協力を超える最高のパフォーマンスを達成しました。ASIは彼に恐怖を抱かせると認めており、それは人間がAIを真に制御する能力を失う可能性を意味しています。

ヴィタリックは、超人的な知能を開発するよりも、人間の知能と能力を強化するためのツールの開発に注力することが重要だと述べています。彼はAIが人間を補助し、人間を置き換えるものではないと考えています。このような開発の方向性は、AIの制御不能なリスクを低減し、社会全体の効率と安定性を向上させると彼は信じています。

(ジェネレーティブAI:アマゾンの労働力は機械に完全に取って代わられるか? )

この記事では、VitalikはAGIとASIに対して恐怖を感じています：人間はAIに置き換えられるのではなく、知性を強化するツールに優先的に注力すべきです。