Acı bir din: Yapay zeka etrafında genişleme kuralına göre başlatılan kutsal savaş

Yapay zeka alanında, inanç ve teknolojinin kesişimi, "genişleme yasasının" geçerliliği ve gelecekteki gelişimi etrafında hararetli bir tartışma oluşturmuştur. Bu makale, inanç ve bilim arasındaki karmaşık ilişkiyi ortaya koyan bu "acı dinin" yükselişini, ayrışmasını ve olası etkisini araştırıyor. Yapay zeka topluluğu, geleceği ve Tanrı'yı yaratacak kadar büyük olup olmayacağı konusunda doktrinsel bir savaşa kilitlenmiş durumda. Bu makale Mario Gabriele'nin bir makalesinden alınmıştır ve Block unicorn tarafından derlenmiştir. (Özet: Musk'ın xAI'si 6 milyar dolarlık C Serisi finansmanını tamamladı, Huida, BlackRock, a16z... Bir dizi endüstri ünlüsü katıldı) (Arka plan eki: Huida, gelecek yıl insansı robot bilgi işlem platformu "Jetson Thor"u piyasaya sürüyor, fiziksel yapay zekanın ChatGPT anı mı? Hayatımı bir Tanrı varmış gibi yaşamayı ve Tanrı'nın var olmadığını öğrenmek için ölene kadar beklemeyi, Tanrı yokmuş gibi yaşamayı ve Tanrı'nın var olduğunu öğrenmek için ölene kadar beklemeyi tercih ederim. — Blaise Pascal Din ilginç bir şey. Belki de herhangi bir yönde tamamen kanıtlanamaz olduğu içindir ya da belki de en sevdiğim alıntılardan biri gibidir: "Duygularla gerçeklerle savaşamazsınız." Dini inançlar, yükselilere inanma sürecinde, Tanrı'nın varlığından şüphe etmenin neredeyse imkansız olduğu kadar inanılmaz bir hızla hızlanmaları ile karakterize edilir. Etrafınızdakiler ona giderek daha fazla inanırken, ilahi bir varlıktan nasıl şüphe edebilirsiniz? Dünya kendini bir doktrin etrafında yeniden düzenlediğinde, sapkınlığın dayanağı nerede? Tapınaklar ve katedraller, yasalar ve normlar yeni, sarsılmaz bir müjdeye göre düzenlendiğinde muhalefete nerede yer var? İbrahimî din ilk ortaya çıktığında ve kıtalar arasında yayıldığında ya da Budizm Hindistan'dan tüm Asya'ya yayıldığında, inancın muazzam ivmesi kendi kendini güçlendiren bir döngü yarattı. Daha fazla insan din değiştirdikçe, karmaşık teolojik sistemler ve ritüeller bu inançlar etrafında inşa edildikçe, bu temel öncülleri sorgulamak giderek zorlaşıyor. Saflık denizinde kafir olmak kolay değildir. Muhteşem kiliseler, karmaşık dini yazılar ve gelişen manastırlar, ilahi varoluşun fiziksel kanıtı olarak hizmet eder. Ancak dinler tarihi bize bu tür yapıların ne kadar kolay yıkılabileceğini de söylüyor. Hıristiyanlık İskandinavya'ya yayıldıkça, eski İskandinav inancı sadece birkaç nesil içinde çöktü. Eski Mısır'ın dini sistemi binlerce yıl sürdü, sonunda yeni, daha kalıcı inançlar ortaya çıktığında ve daha büyük güç yapıları ortaya çıktığında ortadan kayboldu. Aynı din içinde bile dramatik bölünmeler görüyoruz - Reform Batı Hıristiyanlığını paramparça ederken, Büyük Bölünme Doğu ve Batı kiliseleri arasında bir bölünmeye yol açtı. Bu bölünmeler genellikle görünüşte önemsiz doktrinel farklılıklarla başlar ve yavaş yavaş tamamen farklı inanç sistemlerine dönüşür. Tanrı, entelektüel düşüncenin tüm düzeylerini aşan bir metafordur. Bu kadar basit. — Joseph Campbell Basitçe söylemek gerekirse, Tanrı'ya inanmak dindir. Belki de Tanrı'nın yaratılışı farklı değildir. Başlangıcından bu yana, iyimser yapay zeka araştırmacıları, çalışmalarını yaratılışçılık - Tanrı'nın yaratılışı olarak hayal ettiler. Son birkaç yılda, büyük dil modellerinin (LLM'ler) patlaması, inananların kutsal bir yolda olduğumuza dair inancını daha da güçlendirdi. Ayrıca 2019'da yazılmış bir blog gönderisini de doğruluyor. Yapay zeka alanı dışındaki insanlar yakın zamana kadar bunu bilmiyor olsalar da, Kanadalı bilgisayar bilimcisi Richard Sutton'ın Acı Dersleri, gizli bilgiden yeni, her şeyi kapsayan bir dini temele dönüşerek toplumda giderek daha önemli bir metin haline geldi. Sutton, 1.113 kelimeyle (her dinin kutsal sayılara ihtiyacı vardır) teknik bir gözlemi özetliyor: "70 yıllık yapay zeka araştırmalarından öğrenilebilecek en büyük ders, hesaplamadan yararlanmaya yönelik evrensel bir yaklaşımın nihayetinde en etkili ve büyük bir avantaj olduğudur." Yapay zeka modellerindeki ilerlemeler, bilgi işlem kaynaklarındaki üstel artıştan yararlandı ve Moore Yasası'nın büyük dalgalarını sürdü. Aynı zamanda Sutton, yapay zeka araştırmalarındaki çalışmaların çoğunun, insan bilgisi veya dar araçlar ekleyerek özel tekniklerle performansı optimize etmeye odaklandığına dikkat çekiyor. Bu optimizasyonlar kısa vadede yardımcı olsa da, Sutton'ın görüşüne göre, sonuçta bir sörf tahtasının yüzgeçlerini ayarlamak veya büyük bir dalga geldiğinde yeni balmumu denemek gibi zaman ve kaynak kaybıdır. "Acılık dini" dediğimiz şeyin temeli budur. Toplumda genellikle "Genişletilmiş Tuzak Parça Yasası" olarak adlandırılan tek bir emri vardır: üstel yükseliş hesaplamalı sürücü performansı; Gerisi aptalca. Büyük dil modellerinden (LLM'ler) dünya modellerine genişleyen acılık dini, şimdi biyoloji, kimya ve somutlaşmış zekanın (robotik ve otonom araçlar) dönüştürülmemiş tapınakları aracılığıyla hızla yayılıyor. Ancak Sutton doktrini yayıldıkça tanımlar da değişmeye başladı. Bu, tüm aktif ve yaşayan dinlerin ayırt edici özelliğidir – argümanlar, uzantılar, yorumlar. "Genişletilmiş Tuzak Parça Kuralı" artık sadece Tuzak parça hesaplamalarını genişletmek anlamına gelmiyor (Ark sadece bir gemi değil), artık bazı püf noktaları ile transformatör ve hesaplama performansını iyileştirmeyi amaçlayan çeşitli yöntemlere atıfta bulunuyor. Şimdi, klasikler, çekirdek modellerin kendilerine uygulanan tekniklerden (modelleri birleştirme, uzman karıştırma (MoE) ve bilgi iyileştirme), bu sürekli aç tanrıları beslemek için sentetik veriler üretmeye kadar, yapay zeka yığınının her bölümünü optimize etme girişimlerini kapsıyor. Savaşan mezhepler Son zamanlarda, AI topluluğunda cihat havasıyla dönen bir soru, "acı dinin" hala doğru olup olmadığıdır. Bu hafta, Harvard, Stanford ve Massachusetts Institute of Technology, çatışmayı ateşleyen "Kesinlik için Tuzak Parça Yasası" başlıklı yeni bir makale yayınladı. Makale, yapay zeka modellerinin performansını artıran ve Açık Kaynak ekosistemine fayda sağlayan bir dizi teknik olan nicelleştirme tekniklerindeki verimlilik kazanımlarının sonunu tartışıyor. Allen Yapay Zeka Enstitüsü'nde araştırma bilimcisi olan Tim Dettmers, aşağıdaki yazıda önemini özetledi ve onu "uzun zamandır en önemli makale" olarak nitelendirdi. Bu, son birkaç haftadır devam eden hararetli diyaloğun bir devamını temsil ediyor ve kayda değer bir eğilimi ortaya koyuyor: iki dinin artan konsolidasyonu. OpenAI CEO'su Sam Altman ve Anthropic CEO'su Dario Amodei aynı mezhebe mensup. Her ikisi de önümüzdeki 2-3 yıl içinde genel yapay zekaya (AGI) ulaşacağımızı güvenle söylüyor. Hem Altman hem de Amodei, tartışmasız "acı dinin" kutsallığına en çok bağımlı olan iki figürdür. Tüm teşvikleri aşırı vaatte bulunma eğilimindedir ve neredeyse tamamen ölçek ekonomilerinin hakim olduğu bir oyunda sermaye biriktirmek için maksimum yutturmaca yaratır. Uzatma tuzak parça kuralı "Alfa ve Omega" değilse, başlangıç ve son, o zaman 22 milyar dolara ne için ihtiyacınız var? Eski OpenAI baş bilim adamı Ilya Sutskever farklı bir tuzak ilkesine bağlı kalıyor. OpenAI içinden birçok araştırmacı da dahil olmak üzere diğer araştırmacılarla birlikte, son sızıntılara dayanarak, genişleme tuzak parçasının üst sınırına yaklaştığına inanıyor. Grup, ilerlemeyi sürdürmenin ve AGI'yi gerçek dünyaya getirmenin yeni bilim ve araştırma gerektirdiğine inanıyor. Sutskever fraksiyonu haklı olarak Altman'ın tuzak parçasını sürekli genişletme fikrinin ekonomik olarak uygulanabilir olmadığını savunuyor. Yapay olarak ...