Worldcoin ve Modulus Labs ekiplerine, Xinyuan Sun, Martin Koeppelmann ve Illia Polosukhin'e geri bildirim ve tartışma için özel teşekkürler.

Yıllar boyunca birçok kişi bana benzer bir soru sordu: kripto ve yapay zeka arasında en verimli olduğunu düşündüğüm kesişim noktaları nelerdir? Bu makul bir soru: kripto ve yapay zeka son on yılın iki ana derin (yazılım) teknoloji trendi ve bu ikisi arasında bir tür bağlantı olmalı gibi geliyor. Sinerjileri yüzeysel bir his düzeyinde bulmak kolaydır: kripto ademi merkeziyetçiliği yapay zeka merkeziyetçiliğini dengeleyebilir, yapay zeka opaktır ve kripto şeffaflık getirir, yapay zeka veriye ihtiyaç duyar ve blok zincirleri verileri depolamak ve izlemek için iyidir. Ancak yıllar geçtikçe, insanlar benden bir seviye daha derine inmemi ve belirli uygulamalardan bahsetmemi istediğinde, cevabım hayal kırıklığı yarattı: "evet birkaç şey var ama o kadar da değil".

Son üç yılda, modern LLM'ler şeklinde çok daha güçlü yapay zekanın yükselişi ve sadece blok zinciri ölçeklendirme çözümleri değil, aynı zamanda ZKP'ler, FHE, (iki partili ve N partili) MPC şeklinde çok daha güçlü kriptoların yükselişi ile bu değişimi görmeye başlıyorum. Blok zinciri ekosistemleri içinde yapay zekanın veya kriptografi ile birlikte yapay zekanın bazı umut verici uygulamaları gerçekten de vardır, ancak yapay zekanın nasıl uygulandığı konusunda dikkatli olmak önemlidir. Belirli bir zorluk şudur: kriptografide, açık kaynak bir şeyi gerçekten güvenli hale getirmenin tek yoludur, ancak yapay zekada, bir modelin (hatta eğitim verilerinin) açık olması, rakip makine öğrenimi saldırılarına karşı savunmasızlığını büyük ölçüde artırır. Bu yazı, kripto + yapay zekanın kesişebileceği farklı yolların bir sınıflandırmasını ve her kategorinin beklentilerini ve zorluklarını ele alacaktır.

Bir uETH blog yazısından kripto+AI kesişimlerinin üst düzey bir özeti. Ancak bu sinerjilerden herhangi birini somut bir uygulamada gerçekleştirmek için ne gerekiyor?

Dört ana kategori

YZ çok geniş bir kavramdır: "YZ "yi, açıkça belirterek değil, büyük bir hesaplama çorbasını karıştırarak ve çorbayı istediğiniz özelliklere sahip algoritmalar üretmeye doğru iten bir tür optimizasyon baskısı uygulayarak oluşturduğunuz algoritmalar kümesi olarak düşünebilirsiniz. Bu tanım kesinlikle küçümsenmemelidir: ilk etapta biz insanları yaratan süreci içerir ! Ancak bu, YZ algoritmalarının bazı ortak özelliklere sahip olduğu anlamına geliyor: son derece güçlü şeyler yapabilme yetenekleri ve kaputun altında neler olup bittiğini bilme veya anlama yeteneğimizdeki sınırlar.

YZ'yi kategorize etmenin birçok yolu vardır; YZ ve blok zincirleri ( <a href="https://medium.com/@virgilgr/ethereum-is-game-changing-technology-literally-d67e01a01cf8"> creating "games" için bir platform olarak tanımlanmıştır) arasındaki etkileşimlerden bahseden bu yazının amaçları doğrultusunda, onu aşağıdaki gibi kategorize edeceğim:

• Bir oyunda oyuncu olarak YZ [en yüksek uygulanabilirlik]: Teşviklerin nihai kaynağının insan girdileri olan bir protokolden geldiği mekanizmalara katılan YZ'ler.
• Oyuna bir arayüz olarak YZ [yüksek potansiyel, ancak riskleri var]: Kullanıcıların etraflarındaki kripto dünyasını anlamalarına yardımcı olan ve davranışlarının (örn. imzalı mesajlar ve işlemler) niyetleriyle eşleşir ve kandırılmaz veya dolandırılmazlar.
• Oyunun kuralları olarak YZ [çok dikkatli olun]: blok zincirleri, DAO'lar ve benzer mekanizmalar doğrudan YZ'leri çağırır. Örneğin. "Yapay zeka yargıçları"
• Oyunun amacı olarak YZ [daha uzun vadeli ancak ilgi çekici]: başka amaçlar için kullanılabilecek bir YZ inşa etmek ve sürdürmek amacıyla blok zincirleri, DAO'lar ve benzer mekanizmalar tasarlamak, eğitimi daha iyi teşvik etmek veya YZ'nin özel verileri sızdırmasını veya kötüye kullanılmasını önlemek için kripto bitlerini kullanmak.

Bunları teker teker inceleyelim.

Bir oyunda oyuncu olarak yapay zeka

Bu aslında yaklaşık on yıldır, en azından zincir üstü merkeziyetsiz borsalar (DEX 'ler) önemli ölçüde kullanılmaya başladığından beri var olan bir kategoridir. Borsanın olduğu her yerde arbitraj yoluyla para kazanma fırsatı vardır ve botlar arbitrajı insanlardan çok daha iyi yapabilirler. Bu kullanım durumu, bugün sahip olduğumuzdan çok daha basit YZ'lerde bile uzun süredir var, ancak sonuçta çok gerçek bir YZ + kripto kesişimi. Son zamanlarda, MEV arbitraj botlarının sıklıkla birbirlerini istismar ettiklerini gördük. Açık artırma veya ticaret içeren bir blok zinciri uygulamanız olduğunda, arbitraj botlarınız olacaktır.

Ancak yapay zekalı arbitraj botları, çok daha büyük bir kategorinin yalnızca ilk örneği ve yakında başka birçok uygulamayı da içermeye başlayacağını umuyorum. Yapay zekaların oyuncu olduğu bir tahmin piyasası demosu olan AIOmen ile tanışın:

Tahmin piyasaları uzun zamandır epistemik teknolojinin kutsal kasesi olmuştur; 2014 yılında tahmin piyasalarını yönetişim ("futarchy") için bir girdi olarak kullanma konusunda heyecanlıydım ve son seçimlerde ve daha yakın zamanda onlarla kapsamlı bir şekilde oynadım. Ancak şu ana kadar tahmin piyasaları pratikte çok fazla tutmadı ve bunun yaygın olarak verilen bir dizi nedeni var: en büyük katılımcılar genellikle irrasyoneldir, doğru bilgiye sahip insanlar çok fazla para söz konusu olmadıkça zaman ayırmaya ve bahis oynamaya istekli değildir, piyasalar genellikle zayıftır, vb.

Buna verilecek bir yanıt, Polymarket 'te veya diğer yeni tahmin piyasalarında devam eden kullanıcı deneyimi iyileştirmelerine işaret etmek ve önceki yinelemelerin başarısız olduğu yerlerde başarılı olacaklarını ummaktır. Ne de olsa, insanlar spor üzerine on milyarlarca dolarlık bahis oynamaya istekli, öyleyse neden insanlar ABD seçimleri veya LK99 üzerine bahis oynayarak ciddi oyuncuların gelmeye başlamasını sağlayacak kadar para yatırmasınlar? Ancak bu argüman, önceki yinelemelerin bu ölçek düzeyine ulaşamadığı (en azından savunucularının hayalleriyle karşılaştırıldığında) gerçeğiyle mücadele etmek zorundadır ve bu nedenle tahmin piyasalarının başarılı olması için yeni bir şeye ihtiyacınız var gibi görünüyor. Bu nedenle farklı bir yanıt, 2020'lerde görmeyi bekleyebileceğimiz tahmin piyasası ekosistemlerinin 2010'larda görmediğimiz belirli bir özelliğine işaret etmektir: YZ'lerin her yerde katılım olasılığı.

Yapay zekalar saatte 1 dolardan daha az bir ücrete çalışmaya istekli ve bir ansiklopedi kadar bilgiye sahipler - ve bu yeterli değilse, gerçek zamanlı web arama özelliğiyle bile entegre edilebiliyorlar. Bir piyasa oluşturur ve 50 dolarlık bir likidite sübvansiyonu koyarsanız, insanlar teklif verecek kadar önemsemeyecektir, ancak binlerce yapay zeka kolayca sorunun üzerine üşüşecek ve yapabilecekleri en iyi tahmini yapacaklardır. Herhangi bir soru üzerinde iyi bir iş çıkarma teşviki çok küçük olabilir, ancak genel olarak iyi tahminler yapan bir yapay zeka yapma teşviki milyonlarla ifade edilebilir. Potansiyel olarak, çoğu soruyu karara bağlamak için insanlara bile ihtiyacınız olmadığını unutmayın: Augur veya Kleros'a benzer çok turlu bir anlaşmazlık sistemi kullanabilirsiniz, burada AI'lar da önceki turlara katılanlar olacaktır. İnsanların sadece bir dizi tırmanmanın yaşandığı ve her iki tarafın da büyük miktarlarda para taahhüt ettiği birkaç durumda karşılık vermesi gerekecektir.

Bu güçlü bir ilkeldir, çünkü bir "tahmin piyasası" bu kadar mikroskobik bir ölçekte çalışabilir hale getirildiğinde, "tahmin piyasası" ilkelini diğer birçok soru türü için yeniden kullanabilirsiniz:

• Bu sosyal medya paylaşımı [kullanım koşulları] kapsamında kabul edilebilir mi?
• X hisse senedinin fiyatına ne olacak (örn. Numerai'ye bakınız)
• Şu anda bana mesaj atan bu hesap gerçekten Elon Musk mı?
• Bu işin çevrimiçi bir görev pazarına sunulması kabul edilebilir mi?
• https://examplefinance.network adresindeki dapp bir aldatmaca mı?
• Is 0x1b54....98c3 Aslında "Casinu Inu" ERC20 tokeninin adresi nedir?

Bu fikirlerin çoğunun "d/acc" üzerine yazılarımda "bilgi savunması" olarak adlandırdığım yöne doğru gittiğini fark edebilirsiniz. Geniş anlamda soru şudur: Kullanıcıların doğru ve yanlış bilgiyi birbirinden ayırmasına ve dolandırıcılığı tespit etmesine, doğru ve yanlışa karar vermesi için merkezi bir otoriteyi yetkilendirmeden ve daha sonra bu pozisyonu kötüye kullanmadan nasıl yardımcı olabiliriz? Mikro düzeyde cevap "yapay zeka" olabilir. Ancak makro düzeyde soru şudur: YZ'yi kim inşa ediyor? YZ, onu yaratan sürecin bir yansımasıdır ve bu nedenle önyargılara sahip olmaktan kaçınamaz. Bu nedenle, farklı YZ'lerin ne kadar iyi performans gösterdiğine karar veren ve YZ'lerin oyuna oyuncu olarak katılabileceği daha üst düzey bir oyuna ihtiyaç vardır.

YZ'lerin, insanlardan girdi toplayan zincir üstü bir mekanizma tarafından nihai olarak ödüllendirildikleri veya cezalandırıldıkları (olasılıksal olarak) bir mekanizmaya katıldıkları bu YZ kullanımı (buna merkezi olmayan piyasa tabanlı RLHF diyebilir miyiz?), gerçekten araştırmaya değer olduğunu düşündüğüm bir şey. Şimdi bu gibi kullanım durumlarını daha fazla incelemenin tam zamanı, çünkü blok zinciri ölçeklendirmesi nihayet başarılı oluyor ve "mikro" her şeyi, daha önce genellikle olmadığı halde zincir üzerinde nihayet uygulanabilir hale getiriyor.

İlgili bir uygulama kategorisi, ödemeler yoluyla veya güvenilir taahhütlerde bulunmak için akıllı sözleşmeler kullanarak daha iyi işbirliği yapmak için blok zincirlerini kullanan son derece özerk aracılar yönündedir.

Oyunun arayüzü olarak yapay zeka

Yazılarımda gündeme getirdiğim bir fikir, kullanıcının gezindiği çevrimiçi dünyadaki tehlikeleri yorumlayarak ve tanımlayarak kullanıcıların çıkarlarını koruyacak kullanıcıya yönelik yazılımlar yazmak için bir pazar fırsatı olduğu fikriydi. Bunun halihazırda var olan bir örneği Metamask'ın dolandırıcılık tespit özelliğidir:

Bir başka örnek de Rabby cüzdanının, kullanıcıya imzalamak üzere olduğu işlemin beklenen sonuçlarını gösteren simülasyon özelliğidir.

Rabby bana tüm "BITCOIN "imi (tam adı görünüşe göre "HarryPotterObamaSonic10Inu" olan bir ERC20 memecoin'in ticker'ı) ETH ile takas etmek için bir işlem imzalamanın sonuçlarını açıklıyor.

Düzenleme 2024.02.02: Bu yazının önceki bir versiyonunda bu token, bitcoin'i taklit etmeye çalışan bir dolandırıcılık olarak adlandırılmıştı. Öyle değil; o bir memecoin. Karışıklık için özür dileriz.

Potansiyel olarak, bu tür araçlar yapay zeka ile süper güçlendirilebilir. Yapay zeka, ne tür bir dapp'a katıldığınız, imzaladığınız daha karmaşık işlemlerin sonuçları, belirli bir token'ın gerçek olup olmadığı (örn. BITCOIN sadece bir karakter dizisi değildir, normalde ERC20 tokeni olmayan ve fiyatı 0,045 dolardan çok daha yüksek olan büyük bir kripto para biriminin adıdır ve modern bir LLM bunu bilir) vb. Bu yönde sonuna kadar gitmeye başlayan projeler var (örneğin, yapay zekayı birincil arayüz olarak kullanan LangChain cüzdanı). Benim kendi görüşüm, saf yapay zeka arayüzlerinin diğer hata türlerinin riskini artırdığı için şu anda muhtemelen çok riskli olduğu, ancak daha geleneksel bir arayüzü tamamlayan yapay zekanın çok uygulanabilir hale geldiği yönünde.

Bahsetmeye değer özel bir risk var. Bu konuya aşağıdaki "oyunun kuralları olarak yapay zeka" bölümünde daha fazla değineceğim, ancak genel sorun düşmanca makine öğrenimi: bir kullanıcının açık kaynaklı bir cüzdan içindeki bir yapay zeka asistanına erişimi varsa, kötü adamlar da bu yapay zeka asistanına erişebilecek ve böylece dolandırıcılıklarını bu cüzdanın savunmasını tetiklemeyecek şekilde optimize etmek için sınırsız fırsata sahip olacaklar. Tüm modern yapay zekaların bir yerlerinde hatalar vardır ve modele yalnızca sınırlı erişimi olan bir eğitim sürecinin bile bunları bulması çok zor değildir.

İşte bu noktada "zincir içi mikro pazarlara katılan YZ'ler" daha iyi çalışıyor: her bir YZ aynı risklere karşı savunmasızdır, ancak kasıtlı olarak düzinelerce insanın sürekli olarak onları yinelediği ve geliştirdiği açık bir ekosistem yaratıyorsunuz. Dahası, her bir YZ kapalıdır: sistemin güvenliği, her bir oyuncunun iç işleyişinden değil, oyunun kurallarının açıklığından gelir.

Özet: Yapay zeka, kullanıcıların neler olup bittiğini sade bir dille anlamalarına yardımcı olabilir, gerçek zamanlı bir öğretmen olarak hizmet verebilir, kullanıcıları hatalardan koruyabilir, ancak doğrudan kötü niyetli yanlış bilgilendiricilere ve dolandırıcılara karşı kullanmaya çalışırken dikkatli olunmalıdır.

Oyunun kuralları olarak yapay zeka

Şimdi, pek çok insanın heyecan duyduğu, ancak bence en riskli ve en dikkatli adım atmamız gereken uygulamaya geliyoruz: Yapay zekaların oyunun kurallarının bir parçası olması olarak adlandırdığım şey. Bu durum, ana akım siyasi elitlerin "yapay zeka yargıçları" konusundaki heyecanıyla bağlantılıdır (örn. "World Government Summit" web sitesindeki bu makaleye bakınız) ve blok zinciri uygulamalarında bu arzuların benzerleri vardır. Blok zinciri tabanlı bir akıllı sözleşmenin veya bir DAO'nun öznel bir karar vermesi gerekiyorsa (örneğin, belirli bir iş ürünü bir kiralama sözleşmesinde kabul edilebilir mi? Zincirlerin İyimserlik Yasası gibi bir doğal dil anayasasının doğru yorumu hangisidir?), bu kuralların uygulanmasına yardımcı olmak için bir yapay zekayı basitçe sözleşmenin veya DAO'nun bir parçası haline getirebilir misiniz?

İşte bu noktada, düşmanca makine öğrenimi son derece zorlu bir mücadele olacaktır. İki cümlelik temel argüman şu şekildedir:

Bir mekanizmada kilit rol oynayan bir yapay zeka modeli kapalıysa, iç işleyişini doğrulayamazsınız ve bu nedenle merkezi bir uygulamadan daha iyi değildir. Yapay zeka modeli açıksa, bir saldırgan onu yerel olarak indirip simüle edebilir ve modeli kandırmak için yoğun bir şekilde optimize edilmiş saldırılar tasarlayabilir ve bunları daha sonra canlı ağda tekrar oynayabilir.

Çekişmeli makine öğrenimi örneği. Kaynak: researchgate.net

Şimdi, bu blogun sık okuyucuları (ya da kriptoverse sakinleri) şimdiden benden önde gidiyor ve şöyle düşünüyor olabilir: ama bekle! Süslü sıfır bilgi kanıtlarımız ve diğer gerçekten harika kriptografi biçimlerimiz var. Elbette bazı kripto sihirleri yapabilir ve saldırganların saldırıları optimize edememesi için modelin iç işleyişini gizleyebiliriz, ancak aynı zamanda modelin doğru bir şekilde yürütüldüğünü ve makul bir temel veri seti üzerinde makul bir eğitim süreci kullanılarak oluşturulduğunu kanıtlayabiliriz!

Normalde, hem bu blogda hem de diğer yazılarımda savunduğum düşünce tarzı tam da budur. Ancak yapay zeka ile ilgili hesaplama söz konusu olduğunda, iki büyük itiraz vardır:

1. Kriptografik ek yük: Bir SNARK (veya MPC veya...) içinde bir şey yapmak, bunu "açıkta" yapmaktan çok daha az verimlidir. YZ'nin halihazırda hesaplama açısından çok yoğun olduğu düşünüldüğünde, kriptografik kara kutuların içinde YZ yapmak hesaplama açısından uygulanabilir mi?
2. Kara kutu düşmanca makine öğrenimi saldırıları: modelin iç işleyişi hakkında çok fazla şey bilmeden bile yapay zeka modellerine karşı saldırıları optimize etmenin yolları vardır. Ve çok fazla gizlerseniz, eğitim verilerini seçen kişinin zehirleme saldırılarıyla modeli bozmasını çok kolay hale getirme riskini alırsınız.

Bunların her ikisi de karmaşık tavşan delikleridir, bu nedenle her birine sırayla girelim.

Kriptografik ek yük

Kriptografik araçlar, özellikle de ZK-SNARK ve MPC gibi genel amaçlı olanlar, yüksek bir ek yüke sahiptir. Bir Ethereum bloğunun bir istemci tarafından doğrudan doğrulanması birkaç yüz milisaniye sürer, ancak böyle bir bloğun doğruluğunu kanıtlamak için bir ZK-SNARK oluşturmak saatler sürebilir. MPC gibi diğer kriptografik araçların tipik ek yükü daha da kötü olabilir. YZ hesaplaması zaten pahalıdır: en güçlü LLM'ler tek tek kelimeleri insanların okuyabileceğinden sadece biraz daha hızlı çıkarabilir, modellerin eğitiminin genellikle milyonlarca dolarlık hesaplama maliyetlerinden bahsetmeye bile gerek yok. Üst düzey modeller ile eğitim maliyetinden veya parametre sayısından çok daha fazla tasarruf etmeye çalışan modeller arasındaki kalite farkı büyüktür. İlk bakışta bu, yapay zekayı kriptografiye sararak ona garantiler eklemeye çalışan tüm projeye şüpheyle yaklaşmak için çok iyi bir neden.

Neyse ki, YZ çok özel bir hesaplama türüdür ve bu da onu ZK-EVM'ler gibi daha "yapılandırılmamış" hesaplama türlerinin yararlanamayacağı her türlü optimizasyona uygun hale getirir. Bir yapay zeka modelinin temel yapısını inceleyelim:

Genellikle, bir yapay zeka modeli çoğunlukla ReLU) fonksiyonu (y = max(x, 0)) gibi eleman başına doğrusal olmayan işlemlerle serpiştirilmiş bir dizi matris çarpımından oluşur. Asimptotik olarak, matris çarpımları işin çoğunu kaplar : iki N*N matrisini çarpmak

�(�2.8)

zaman alırken, doğrusal olmayan işlemlerin sayısı çok daha azdır. Bu kriptografi için gerçekten elverişlidir, çünkü kriptografinin birçok biçimi doğrusal işlemleri (en azından modeli şifreleyip girdileri şifrelemezseniz matris çarpımları gibi) neredeyse "bedavaya" yapabilir.

Eğer bir kriptografsanız, muhtemelen homomorfik şifreleme bağlamında benzer bir fenomeni daha önce duymuşsunuzdur: şifrelenmiş şifreli metinler üzerinde toplama işlemi yapmak gerçekten kolaydır, ancak çarpma işlemi inanılmaz derecede zordur ve 2009 yılına kadar bunu sınırsız derinlikte yapmanın herhangi bir yolunu bulamadık.

ZK-SNARK'lar için eşdeğer, matris çarpımlarını kanıtlamada 4 kattan daha az bir ek yük gösteren 2013'teki bu gibi protokollerdir. Ne yazık ki, doğrusal olmayan katmanlardaki ek yük yine de önemli olmaktadır ve pratikteki en iyi uygulamalar yaklaşık 200x ek yük göstermektedir. Ancak daha ileri araştırmalarla bunun büyük ölçüde azaltılabileceğine dair umut var; GKR'ye dayalı yeni bir yaklaşım için Ryan Cao'nun bu sunumuna ve GKR'nin ana bileşeninin nasıl çalıştığına dair kendi basitleştirilmiş açıklamama bakın.

Ancak birçok uygulama için, sadece bir yapay zeka çıktısının doğru hesaplandığını kanıtlamak değil, aynı zamanda modeli gizlemek de isteriz. Bu konuda naif yaklaşımlar vardır: modeli bölebilirsiniz, böylece farklı bir sunucu grubu her katmanı yedekli olarak depolar ve bazı sunucuların bazı katmanları sızdırarak çok fazla veri sızdırmamasını umabilirsiniz. Ancak özelleşmiş çok partili hesaplamanın şaşırtıcı derecede etkili biçimleri de vardır.

Bu yaklaşımlardan birinin basitleştirilmiş diyagramı, modeli gizli tutmakta ancak girdileri halka açık hale getirmektedir. Modeli ve girdileri gizli tutmak istiyorsak, biraz daha karmaşık hale gelse de bunu yapabiliriz: makalenin 8-9. sayfalarına bakın.

Her iki durumda da hikayenin özü aynıdır: bir YZ hesaplamasının en büyük kısmı matris çarpımlarıdır, bunun için çok verimli ZK-SNARK'lar veya MPC'ler (hatta FHE) yapmak mümkündür ve bu nedenle YZ'yi kriptografik kutuların içine koymanın toplam yükü şaşırtıcı derecede düşüktür. Genel olarak, daha küçük boyutlarına rağmen en büyük darboğaz doğrusal olmayan katmanlardır; belki de arama argümanları gibi yeni teknikler yardımcı olabilir.

Black-box düşmanca makine öğrenimi

Şimdi diğer büyük soruna gelelim: modelin içeriği gizli tutulsa ve modele yalnızca "API erişiminiz" olsa bile yapabileceğiniz saldırı türleri. 2016'dan bir makaleden alıntı:

Birçok makine öğrenimi modeli düşmanca örneklere karşı savunmasızdır: bir makine öğrenimi modelinin yanlış bir çıktı üretmesine neden olmak için özel olarak hazırlanmış girdiler. Her iki model de aynı görevi yerine getirmek üzere eğitildiği sürece, iki model farklı mimarilere sahip olsa veya farklı eğitim setleri üzerinde eğitilmiş olsa bile, bir modeli etkileyen düşmanca örnekler genellikle başka bir modeli de etkiler. Bu nedenle bir saldırgan kendi ikame modelini eğitebilir, ikame modele karşı düşmanca örnekler oluşturabilir ve bunları kurban hakkında çok az bilgiye sahip bir kurban modeline aktarabilir.

Kendi yerel olarak depolanan "çıkarılan sınıflandırıcınızı" eğitmek ve iyileştirmek için bir "hedef sınıflandırıcıya" kara kutu erişimini kullanın. Ardından, çıkarılan classfier'a karşı yerel olarak optimize edilmiş saldırılar oluşturun. Bu saldırıların genellikle orijinal hedef sınıflandırıcıya karşı da işe yarayacağı ortaya çıktı. Diyagram kaynağı.

Potansiyel olarak, saldırmaya çalıştığınız modele erişiminiz çok sınırlı olsa veya hiç olmasa bile, yalnızca eğitim verilerini bilerek saldırılar oluşturabilirsiniz. 2023 yılı itibariyle bu tür saldırılar büyük bir sorun olmaya devam etmektedir.

Bu tür kara kutu saldırılarını etkili bir şekilde engellemek için iki şey yapmamız gerekiyor:

1. Modeli kimin veya neyin ne kadar sorgulayabileceğini gerçekten sınırlayın. Sınırsız API erişimine sahip kara kutular güvenli değildir; çok kısıtlı API erişimine sahip kara kutular güvenli olabilir.
2. Eğitim verilerini gizlerken, eğitim verilerini oluşturmak için kullanılan sürecin bozulmadığına dair güveni korur.

Bu konuda en başarılı olan proje belki de daha önceki bir versiyonunu (diğer protokollerin yanı sıra) burada uzun uzun analiz ettiğim Worldcoin'dir. Worldcoin, (i) iris taramalarını benzerlik açısından karşılaştırması kolay kısa "iris kodlarına" dönüştürmek ve (ii) taradığı şeyin aslında bir insan olduğunu doğrulamak için protokol düzeyinde yapay zeka modellerini kapsamlı bir şekilde kullanır. Worldcoin'in dayandığı ana savunma, herhangi birinin AI modelini basitçe çağırmasına izin vermemesi: bunun yerine, modelin yalnızca kürenin kamerası tarafından dijital olarak imzalanmış girdileri kabul etmesini sağlamak için güvenilir donanım kullanıyor.

Bu yaklaşımın işe yarayacağı garanti değildir: yüzünüze takabileceğiniz fiziksel yamalar veya takılar şeklinde gelen biyometrik yapay zekaya karşı düşmanca saldırılar yapabileceğiniz ortaya çıktı:

Alnınıza fazladan bir şey takın ve tespit edilmekten kurtulun, hatta başka birinin kimliğine bürünün. Kaynak.

Ancak umut, tüm savunmaları bir araya getirirseniz, AI modelinin kendisini gizlerseniz, sorgu sayısını büyük ölçüde sınırlandırırsanız ve her sorgunun bir şekilde doğrulanmasını zorunlu kılarsanız, sistemin güvenli olabileceği kadar zor düşmanca saldırılar yapabilirsiniz. Worldcoin örneğinde, bu diğer savunmaları artırmak, güvenilir donanıma olan bağımlılıklarını da azaltabilir ve projenin merkezsizliğini artırabilir.

Bu da bizi ikinci kısma getiriyor: eğitim verilerini nasıl gizleyebiliriz? İşte bu noktada "YZ'yi demokratik olarak yönetecek DAO'lar" gerçekten mantıklı olabilir: Kimin eğitim verisi gönderebileceği (ve verinin kendisinde hangi tasdiklerin gerekli olduğu), kimin sorgu yapabileceği ve kaç tane sorgu yapabileceği süreçlerini yöneten zincir üzerinde bir DAO oluşturabilir ve MPC gibi kriptografik teknikler kullanarak her bir kullanıcının eğitim girdisinden her bir sorgunun nihai çıktısına kadar YZ'yi oluşturma ve çalıştırma sürecinin tamamını şifreleyebiliriz. Bu DAO aynı zamanda son derece popüler olan, veri gönderen kişilere tazminat ödeme amacını da yerine getirebilir.

Bu planın son derece iddialı olduğunu ve uygulanamaz hale gelebileceği bir dizi yol bulunduğunu tekrar belirtmek önemlidir:

• Kriptografik ek yük, bu tür bir tamamen kara kutu mimarisinin geleneksel kapalı "bana güven" yaklaşımlarıyla rekabet edebilmesi için hala çok yüksek olabilir.
• Eğitim verisi gönderme sürecini merkezi olmayan ve zehirleme saldırılarına karşı korumalı hale getirmenin iyi bir yolu olmadığı ortaya çıkabilir.
• Çok taraflı hesaplama araçları, katılımcıların işbirliği yapması nedeniyle güvenlik veya gizlilik garantilerini bozabilir: sonuçta bu, çapraz zincirli kripto para köprülerinde tekrar tekrar yaşandı.

Bu bölüme "YZ YARGILAMALARI YAPMAYIN, BU DİSTOPİKTİR" diyen daha büyük kırmızı uyarı etiketleriyle başlamamamın bir nedeni, toplumumuzun zaten hesap vermeyen merkezi YZ yargıçlarına büyük ölçüde bağımlı olmasıdır: sosyal medyada hangi tür paylaşımların ve siyasi görüşlerin desteklenip desteklenmeyeceğini ve hatta sansürlenip sansürlenmeyeceğini belirleyen algoritmalar. Bu aşamada bu eğilimi daha da genişletmenin oldukça kötü bir fikir olduğunu düşünüyorum, ancak blok zinciri topluluğunun yapay zekaları daha fazla denemesinin daha da kötüleşmesine katkıda bulunacak bir şey olma ihtimalinin yüksek olduğunu düşünmüyorum.

Aslında, kripto teknolojisinin bu mevcut merkezi sistemleri bile daha iyi hale getirebileceği oldukça basit, düşük riskli yollar var ve ben bunlara oldukça güveniyorum. Basit bir teknik, gecikmeli yayın ile doğrulanmış YZ'dir: bir sosyal medya sitesi, gönderilerin YZ tabanlı bir sıralamasını yaptığında, bu sıralamayı oluşturan modelin karmasını kanıtlayan bir ZK-SNARK yayınlayabilir. Site, örneğin bir yıllık bir gecikmeden sonra yapay zeka modellerini açıklamayı taahhüt edebilir. Bir model ortaya çıktığında, kullanıcılar doğru modelin yayınlandığını doğrulamak için hash'i kontrol edebilir ve topluluk adilliğini doğrulamak için model üzerinde testler yapabilir. Yayının gecikmesi, model ortaya çıktığında çoktan güncelliğini yitirmiş olmasını sağlayacaktır.

Dolayısıyla soru, merkezi dünyaya kıyasla daha iyisini yapıp yapamayacağımız değil, ne kadar yapabileceğimizdir. Bununla birlikte, merkezi olmayan dünya için dikkatli olmak önemlidir: Birisi örneğin bir tahmin piyasası veya bir yapay zeka kahini kullanan bir stabilcoin oluşturursa ve kahinin saldırıya açık olduğu ortaya çıkarsa, bu bir anda kaybolabilecek büyük miktarda para anlamına gelir.

Oyunun amacı olarak yapay zeka

İçeriği kimse tarafından bilinmeyen bir kara kutu olan ölçeklenebilir, merkezi olmayan özel bir yapay zeka oluşturmak için yukarıdaki teknikler gerçekten işe yarayabilirse, bu, blok zincirlerinin ötesine geçen faydaya sahip yapay zekalar oluşturmak için de kullanılabilir. NEAR protokol ekibi bunu devam eden çalışmalarının temel bir hedefi haline getirmektedir.

Bunu yapmak için iki neden vardır:

1. Eğitim ve çıkarım sürecini blok zincirleri ve MPC'nin bir kombinasyonunu kullanarak yürüterek "güvenilir kara kutu yapay zekaları" oluşturabilirseniz, kullanıcıların sistemin önyargılı olmasından veya kendilerini aldatmasından endişe ettiği birçok uygulama bundan faydalanabilir. Pek çok kişi, bağımlı olacağımız sistemik açıdan önemli YZ'lerin demokratik bir şekilde yönetilmesi arzusunu dile getirmiştir; kriptografik ve blok zinciri tabanlı teknikler bunu yapmak için bir yol olabilir.
2. YZ güvenliği perspektifinden bakıldığında bu, aynı zamanda doğal bir öldürme anahtarına sahip olan ve YZ'yi kötü niyetli davranışlar için kullanmak isteyen sorguları sınırlayabilen merkezi olmayan bir YZ oluşturmak için bir teknik olacaktır.

Ayrıca, "daha iyi YZ yapmayı teşvik etmek için kripto teşvikleri kullanmanın", tamamen şifrelemek için kriptografi kullanmanın tam tavşan deliğine inmeden de yapılabileceğini belirtmek gerekir: BitTensor gibi yaklaşımlar bu kategoriye girer.

Sonuçlar

Artık hem blok zincirleri hem de yapay zekalar daha güçlü hale geldiğinden, iki alanın kesiştiği kullanım alanlarının sayısı giderek artıyor. Ancak bu kullanım durumlarından bazıları diğerlerine göre çok daha mantıklı ve çok daha sağlamdır. Genel olarak, altta yatan mekanizmanın kabaca eskisi gibi tasarlanmaya devam ettiği, ancak bireysel oyuncuların yapay zeka haline geldiği ve mekanizmanın çok daha mikro ölçekte etkili bir şekilde çalışmasına izin verdiği kullanım durumları, hemen en umut verici ve doğru yapılması en kolay olanlardır.

Doğru yapılması en zor olan uygulamalar, bir "singleton" oluşturmak için blok zincirlerini ve kriptografik teknikleri kullanmaya çalışan uygulamalardır: bazı uygulamaların bir amaç için güveneceği tek bir merkezi olmayan güvenilir yapay zeka. Bu uygulamalar, hem işlevsellik hem de yapay zeka güvenliğini, bu soruna yönelik daha yaygın yaklaşımlarla ilişkili merkezileşme risklerinden kaçınacak şekilde iyileştirme konusunda umut vaat ediyor. Ancak, temel varsayımların başarısızlığa uğrayabileceği birçok yol da vardır; bu nedenle, özellikle bu uygulamaları yüksek değerli ve yüksek riskli bağlamlarda kullanırken dikkatli davranmaya değer.

Tüm bu alanlarda yapay zekanın yapıcı kullanım örneklerine yönelik daha fazla girişim görmeyi dört gözle bekliyorum, böylece hangilerinin ölçekte gerçekten uygulanabilir olduğunu görebiliriz.

Sorumluluk Reddi：

1. Bu makale[vitalik] adresinden yeniden basılmıştır. Tüm telif hakları orijinal yazara[vitalik] aittir. Bu baskıya itirazınız varsa, lütfen Gate Learn ekibiyle iletişime geçin, onlar bu konuyu derhal ele alacaklardır.
2. Sorumluluk Reddi: Bu makalede ifade edilen görüş ve fikirler yalnızca yazara aittir ve herhangi bir yatırım tavsiyesi teşkil etmez.
3. Makalenin diğer dillere çevirisi Gate Learn ekibi tarafından yapılmaktadır. Belirtilmediği sürece, çevrilen makalelerin kopyalanması, dağıtılması veya intihal edilmesi yasaktır.