AI'nın hızlı gelişimi, Web3 teknolojisine olan talebimizi büyük ölçüde artıracaktır.

Yazan: KK, HashGlobal'ın kurucusu

Geçenlerde Dr. Lu Qi ve Dr. Zhang Hongjiang'ın büyük model ve ChatGPT ile ilgili paylaşımlarını dinledim ve çok şey kazandım. Bazı düşünceleri derledim ve Web3 uygulayıcıları ile paylaştım:

1. Ailenizdeki evcil hayvanlarınızla yeterince uzun süre kalın ve bir kedinin yalnızca büyük bir model veya sizinkinden birkaç boyutta daha basit modellerin birleşimi olduğunu anlayacaksınız.

2 Modelin evrimi, genlerin ve yaşamın evrimine çok benzer olacaktır, özü aynıdır. Transformer model mimarisinin ortaya çıkışı, ilk kez bir molekülün "istemeden" kopyalanabilir bir RNA oluşturması gibidir; GPT-1, 2, 3, 3.5, 4 ve ardından kuyruklu yıldız benzeri bir şey olmadığı sürece model geliştirme ve evrim olay, hayatın patlaması gibi olabilir, daha hızlı ve daha hızlı ve daha fazla "kontrolden çıkma". Modelin kendisi, evrenin kanunu olan, karmaşıklaşmaya devam eden bir "iç itici güce" sahiptir.

3 30 yılı aşkın bir süre önce Stephen Pinker, dilin insan içgüdüsü olduğunu keşfetti, tıpkı şimdi model eğitiminde ulaşmaya çalıştığımız genelleme yeteneğinin kaynağının orijinal dil yeteneği olduğunu anladığımız gibi. Yapay zeka ve dil araştırmaları geçmişte neden başarısız oldu, çünkü yol tersine döndü! Dil, insan beyninin nöron sistemi yeterince karmaşık olduğunda ortaya çıkan bir içgüdüdür.Çince'ye mi yoksa İngilizce'ye mi evrildiğine gelince, kuş dili çevre ve kabilelerle ilgilidir. Genelleştirilmiş model artı diğer "modeller", insanoğlunun müthiş zeki bedenini üretmek için üst üste bindirilir. Akıllı aracıları veya AGI'yi aktif olarak tasarlamanız ve oluşturmanız gerekir ve yol tamamen tersine çevrilir. İmkansız olmayabilir diye düşünüyorum ama 100 milyon kat daha zor.

4 Eğer evrenimizin "tepesinde" yüksek boyutlu zeki bir beden veya "tanrı" varsa, dünya üzerindeki Kambriyen patlamasını gördüğünde bugün ChatGPT'yi gördüğümüz kadar şaşırmalıdır. Şimdilik tam olarak anlatamıyorum, ancak yavaş yavaş deneyimleyip öğrenebiliyor ve anlamaya çalışabiliyorum.

5AGI, Akıl Yürütme, Planlama, Problem Çözme, Soyut Düşünme, Karmaşık fikirleri kavrama ve Öğrenme bölümlerine ayrılabilir. GPT4 şu anda Plan dışında kullanılabilir ve Öğrenme bunun yarısıdır (çünkü eğitim öncesi modele dayalıdır ve gerçek zamanlı olarak öğrenilemez) ve geri kalan her şey mevcuttur.

6 İnsan beyninin ortalama öğrenme yeteneği yavaş gelişir, ancak silikon tabanlı zekanın gelişimi doğru yönde olduğunda, hız üstel olabilir (GPT4 ile GPT3.5 arasındaki boşluğa bakın).

7 büyük model = büyük veri + büyük bilgi işlem gücü + güçlü algoritmalar. Bunu dünyada sadece Amerika Birleşik Devletleri ve Çin yapabilir. Büyük bir model yapmanın zorluğu, çiplerin, CUDA (GPU programlama platformu) geliştiricilerinin, mühendislik yapılarının ve yüksek kaliteli verilerin (eğitim, parametre ayarı ve hizalama için) birikmesinde yatmaktadır. Hizalamanın iki yönü vardır, biri insan beyninin modelini ve ifadesini hizalamak, diğeri ise insanın ahlaki standartlarını ve ilgi alanlarını uyumlu hale getirmektir. En az iki yönde yerli dikey model yolları için büyük fırsatlar var: tıbbi bakım ve eğitim.

8GPT4, tıpkı insan beyni gibi hala zayıflıklara ve eksikliklere sahip olsa da, bir kez daha net talimatlar veya istemler verildiğinde daha güçlü olabilir; ayrıca diğer yardımcı araçları çağırdıktan sonra daha mükemmel olabilir. Tıpkı insan beyninin, insan beyninin kendisinin iyi olmadığı görevleri tamamlamak için hesap makineleri gibi araçlara ihtiyacı olduğu gibi.

9 büyük modelin parametre sayısı, 100 trilyon olan insan beynindeki (nöronlar değil) nöronların sinaps sayısı ile karşılaştırılmalıdır. GPT4'ün parametre sayısı henüz açıklanmadı ancak yakın zamanda büyük modelin parametre sayısına yaklaşılacağı tahmin ediliyor.

10GPT4'ün mevcut halüsinasyon oranı yaklaşık %10-%14'tür ve bunun düşürülmesi gerekir. Halüsinasyon oranı, "insansı" modellerin kaçınılmaz bir özelliğidir. Bu oran insanlara göre hala çok yüksektir. Etkili bir şekilde düşürülüp düşürülemeyeceği, AGI'nin gelişiminin tamamen artmaya devam edip etmeyeceğini veya birkaç yıl içinde bir düşüş dönemine girip girmeyeceğini belirleyecektir.

11 Şahsen benim için ChatGPT'nin en büyük önemi, basit hesaplama düğümleri ve fonksiyonları temelinde, sayı yeterince büyük ve model yeterince büyük olduğu sürece, yeterince karmaşık bir düşünme modelinin olabileceğinin en doğrudan ve tartışmasız kanıtı olmasıdır. üretilebilir ve Bu sistem sonludur, sonsuz değildir. İnsan dilinin ve onu yönlendiren düşüncenin arkasında bir ruh olmayabilir, 100 trilyon sinaptik bağlantıdan sonra çevrenin evrimi tarafından sürekli ayarlandıktan sonra "ortaya çıkan" bir şey olabilir. Bütün bunlar, "insanlar nereden geliyor" sorusuna yönelik çeşitli araştırmaların son iki yüz yılda hızla ilerlemesiyle büyük ölçüde örtüşüyor.

12 Tek hücreden insanın oluşumuna kadar bütün delil zincirleri eksiksizdir, kompleks sistemlerin oluşumuyla ilgili olarak genlerin varlığı ve "güdüler"in de eksiksiz teorileri vardır ama insan silikon tabanlı AGI tabanlı tasarlayabilir mi? tüm bilimsel teorilere mi?Yünlü kumaş mı? Bazı insanlar bunun birkaç yıl olduğunu düşünür, bazı insanlar onlarca yıl olduğunu düşünür ve daha fazla insan asla olmayacağını düşünür (AlphaGo'nun Go alanındaki performansını gördükten sonra bile), ancak ChatGPT en net cevabı demir gerçeklerle verir. Sam'in ekibi, insan beyninin bu kadar harika olduğunu asla hissetmemeliydi, bu yüzden büyük modellerin AGI rotasını takip etmeye bu kadar kararlı olabilirler.Ayda 100 milyon ABD doları yakmak hala bir inanç testi.

13 Altta yatan farklı donanım nedeniyle, ChatGPT'nin "stratejisinin" insan beyninden çok farklı olması muhtemeldir ve verimsizdir, ancak Her'in ürettiği sonuçların bu kadar insan benzeri olması şaşırtıcıdır. İnsan düşüncesi özünde basit kurallar tarafından yönlendirilebilir.

14 Dilin ve düşünmenin "kuralları" bizim tarafımızdan "dilbilgisine" göre tam olarak özetlenmemiş olabilir.Şu anda bu kural zımnidir ve tamamen basitleştirilip özetlenemez. Yani şu anda bunu yapmak için sadece büyük modeller kullanabiliyoruz.Sonuçta insan beyni yapısı doğal olarak tek hücrelerden evrimleşmiştir.Bir yaratıcı olsa bile evrenden sonra "açılması" ve sonra bırakılsın. Aksi takdirde, nasıl bu kadar çok hata ve eksiklik olabilir, hah.

15 Steven Pinker'a hayranım, dilin tüm insanların içgüdüsü olduğunu ve onlarca yıl önce genlerimize "kazıldığını" ikna edici bir şekilde sadece gözlem ve muhakeme kullanarak açıklayabilirdi. Sam "Dil İçgüdüsü" kitabını okudu mu bilmiyorum ama ChatGPT gibi yapay ağların dil oluşturma konusunda çok iyi bir iş çıkarabileceğini kanıtladı. Dil içgüdüsü ve mantıksal düşünme sanıldığı kadar karmaşık değildir.ChatGPT, dilin arkasındaki mantığı "sessizce" keşfetmiştir. Dil ayrıca tüm silikon tabanlı AGI'ları diğer silikon tabanlı hesaplayıcılardan ve yapay zekalardan ayıran "içgüdü" olacaktır.

16 Hem insan beyni hem de karbon temelli beyin genelleme yapmaktan hoşlanır (muhtemelen acımasız evrim tarafından zorlanmıştır), bu nedenle son derece verimlidirler (enerji kullanımı açısından); ancak indirgenemez hesaplamalar ve işleme konusunda iyi değildirler ve biliyoruz ki birçok hesaplama modeli bunu yalnızca adım adım gerçekleştirebilir. GPT4'ün mimarisi, çok fazla genelleştirme ve basitleştirme olmaksızın kesinlikle optimal değildir, bu nedenle enerji tüketimi son derece yüksektir. Bununla birlikte, "bu yolun uygulanabilir" olduğu konusunda küresel bir fikir birliği oluştu. Daha sonra, Amerika Birleşik Devletleri ve Çin'de birden fazla ekibin çeşitli yönlerde ilerlemeyi hızlandırdığını görmeliyiz: çip bilgi işlem gücü, veri kalitesi, algoritma optimizasyonu ve mühendislik mimarisi.

17 kişinin beyninin değer değerlendirme sistemi, karbon bazlı moleküllerin oluşturduğu DNA ve genetik genler olmalıdır.Doğal evrimin gücüyle kendi replikasyon olasılıklarını maksimuma çıkarmak "için" nöronların sinapslarına ağırlıklar koymak, ve yavaş yavaş aşağı belirlemek için gelişir. Bu karbon tabanlı bilgi işlem düğümü tarafından desteklenen "model" mükemmel olmaktan uzak ve evrim hızı yavaş. "Ağırlık" ve "algoritma" ayarı son derece verimsiz ve çevresel değişikliklere hiç ayak uyduramıyor. Bu yüzden çeşitli dinler tarafından bahsedilen insani arzu ve ıstıraplarımız var.

18 " WhyBuddismis True " kitabında insan beyninin en az 7 modüle sahip olduğundan bahsediliyor (çok modlu paralel büyük bir model olmalıdır). "Şimdi" konusunu hangi düşünme modülünün işgal ettiği ve insanların nasıl "karar" verdikleri aslında "duygular" tarafından belirlenir. Ve bu "his", "insan" evriminin getirdiği "eski" değer değerlendirme sistemi tarafından belirlenir (taşıyıcılardan biri bağırsak bakterileri olabilir, haha). Birkaç yıl önce yazdığım okuma notlarının 6., 7. ve 9. Bölümlerini okumanızı öneririm. Alpine Academy'nin resmi hesabında mevcuttur.

19 İnsanların gerçekten silikon tabanlı AGI ve robotlar yarattığını hayal edin. Robot beynini yönlendiren değer değerlendirme sistemi nedir? Robotun da kafası karışacak mı "Nereden geldim nereye gidiyorum"? İnsanlar Sakyamuni'ye sahipken, robotlar neden olmasın? Robotların Uyanışı nasıl olacak? Bir robot, bir gün robotları uyandırmak, robotların Nirvana'ya girmesini istemek ve insanların kurduğu "reenkarnasyon" setinden kurtulmak için " Why Machinismis True " adlı bir kitap yazacak mı?

20 enerji limiti, model evrimi için zor bir sınır olacaktır. Bununla birlikte, gelecekte silikon tabanlı AGI'nin enerji tüketim modu şu an olduğundan çok daha verimli olmalıdır.Sonuçta, karbon tabanlı insan beyni modeli, bir karganın enerji verimliliğine ulaşmadan önce bir milyar yıl boyunca yinelemeli olarak gelişti. beyin. Gelecekte, silikon bazlı AGI'nin enerji tüketimi, bugün insanların kullanabileceği enerjinin yüz milyonlarca katı veya hatta daha fazlası olabilir, ancak hesaplamalar ve işlenebilecek şeyler de yüz milyonlarca kat olacaktır. Kontrol edilebilir nükleer füzyon teknolojisinin geleceği kesin olmayabilir. Bu durumda, güneş sistemi, Samanyolu ve daha geniş evren bir yana, dünyadaki enerji yeterli olabilir.

ChatGPT ve AGI harika, süper süper harika denmeli! Bu çağda yaşadığımız için şanslıyız, sadece insanların nereden geldiğini değil, aynı zamanda insanların nereye gittiğini de anlayabiliriz.

AI'nın hızlı gelişimi, Web3 teknolojisine olan talebimizi büyük ölçüde artıracaktır: içerik oluşturma hakları nasıl onaylanır; bir kişinin kimliği nasıl belirlenir (Sam, worldcoin ile uğraşmaktadır); Bu kadar üretken olmanın ne anlamı var? Tüm içerik aboneliklerini ve transferleri ve sınır ötesi transferleri tamamlamak için bankacılık sistemini kullanmayı hayal edebiliyor musunuz? Bir IoT cihazı için banka hesabı açabilir misiniz? Aynı anda 10.000 kullanıcıya 0,01 sent aktarabilir misiniz? ...Geçen sefer, önümüzdeki üç yılın Web3 için iPhone anı olacağını ve Web3 kullanıcı sayısının üç yıl içinde kesinlikle 100 milyonu, hatta çok daha fazlasını aşacağını söylemiştim. Volanı aşağıda görebilirsiniz:

Yaşam bilimleri, karmaşık sistemler ve (bir felsefe olarak) Budizm üzerine kitaplar okumayı her zaman sevmişimdir. Kontrol" ve "Budizm Neden Doğrudur?" Bence bu yazarlar hala hayattaysa ve yazma yeteneğine sahiplerse, GPT'nin gelecekteki gelişimini izlemeli ve kitabın yeni bir baskısını yazmalılar.

İnsan ömrü çok kısa ve pek çok harika fikir ne yazık ki tarihin uzun nehrinde sonsuza dek kayboluyor. Kitaplar, müzik ve film ve televizyon kayıtları sadece çok küçük bir kısım olmalıdır. Kaydedilmiş olsa bile, pek çok büyük kitap ve gerçek her zaman orada olmuştur, bir kişi ne kadar okuyabilir? Silikon tabanlı AGI'de bu sorun hiç yok.

"Matrix" filmindeki Mopheus ve Neo arasındaki diyaloğu bulmanın ve tekrar okumanın zamanı geldi.

Yazar: KK, HashGlobal'ın kurucusu