Vitalik AGI ve ASI'den korkuyor: İnsanların öncelikle zeka artırıcı araçlara odaklanmaları gerekiyor, AI'nin insanları yerine koyması değil

Ethereum'un kurucularından Vitalik Buterin, AGI (Genel Yapay Zeka) ve ASI (Süper Yapay Zeka) hakkındaki benzersiz görüşlerini Twitter'da paylaştı ve AI araçlarına odaklanmanın, süper zeka yaşamının geliştirilmesine ve insanların yerini almasına değil, önemli olduğunu vurguladı. AGI ve ASI'nin aşırı gelişiminden oldukça korkuyor.

AGI, bağımsız olarak sivilizasyonu sürdüren yapay zeka

Vitalik AGI'yi oldukça güçlü bir yapay zeka olarak tanımlıyor. Tüm insanların aniden kaybolması durumunda, bu yapay zeka robotlara yüklendiğinde bağımsız bir şekilde çalışabilir ve tüm medeniyetin gelişimini sürdürebilir. Bu kavramın geleneksel yapay zekadan 'araçsal' olarak daha ileri bir 'kendini sürdüren yaşam formu' haline geldiğini belirtiyor.

Vitalik, mevcut teknolojinin böyle bir senaryoyu simüle edemediğini, yapay zekanın insanlar olmadan medeniyeti sürdürüp sürdüremeyeceğini gerçekten test edemeyeceğimizi ve medeniyetin çalışmaya devam etmesini temsil eden koşulların "medeniyet gelişimi" kriterlerini tanımlamanın daha da zor olduğunu ve bu konuların kendi içinde karmaşık olduğunu, ancak bu, insanların AGI'yi sıradan AI'dan doğrudan ayırt edebilecekleri ana tanımlama kaynağı olabilir.

(Not: Kendi kendini sürdürebilen yaşam formu, hayatta kalmak için kaynakları elde edebilme ve kullanabilme yeteneği, çevresel değişikliklere uyum sağlama ve belirli koşullar altında sürekli olarak hayatta kalabilen bir organizma veya yaşam sistemi anlamına gelir.)

AI'nın insanları yerine geçirmesi değil, zeka destek araçlarının önemini vurgulamak

Vitalik, yapay süper zekânın (ASI) tanımı, AI'nin insanların sağlayabileceği değeri aşan bir ilerleme kaydedip tamamen özerk ve daha verimli bir aşamaya ulaştığı zamandır. O, son on yılda satrançın gerçekten bu aşamaya girdiğini ve AI'nin seviyesinin insanlarla AI arasındaki en iyi performansı aştığını örnek olarak veriyor ve ASI'nin ona korku verdiğini itiraf ediyor, çünkü bu, insanların AI üzerinde gerçekten kontrolü kaybetmesi demektir.

Vitalik, süper zeki bir yaşam formu geliştirmek yerine, insan zekasını ve yeteneklerini güçlendirebilecek araçları geliştirmeye odaklanmanın daha iyi olduğunu belirtiyor. AI'nın insanlara yardımcı olması gerektiğini, insanları değiştirmesi gerektiğini düşünüyor. Bu gelişme yolunun, kontrol edilemeyen AI riskini azaltabileceğini, aynı zamanda genel toplum verimliliğini ve istikrarını artırabileceğini düşünüyor.

(Yapay zeka tarafından getirilen işsizlik tehdidi: Amazon işçileri tamamen makine filosu tarafından değiştirilecek mi?)

Bu makalede, Vitalik AGI ve ASI'ye karşı korkuyor: İnsanların yapay zeka yerine öncelikle akıllı artırma araçlarına odaklanması gerektiğini söylüyor.