Meneruskan Judul Asli: d/acc: satu tahun kemudian

Sekitar setahun yang lalu, saya menulis sebuah artikel tentang techno-optimismmenggambarkan antusiasme umum saya terhadap teknologi dan manfaat besar yang dapat diberikannya, serta kehati-hatian saya terhadap beberapa keprihatinan khusus, terutama berkaitan dengan kecerdasan buatan superintelligent, dan risiko yang dapat ditimbulkan, baik itu bencana atau penghilangan kekuasaan manusia yang tidak dapat diubah jika teknologi dibangun dengan cara yang salah. Salah satu gagasan inti dalam tulisan saya adalah filsafat: akselerasi defensif desentralisasi dan demokratis. Mempercepat teknologi, tetapi memfokuskan pada teknologi yang meningkatkan kemampuan kita untuk bertahan, bukan kemampuan kita untuk menyebabkan kerusakan, dan pada teknologi yang mendistribusikan kekuasaan daripada mengkonsentrasikannya dalam tangan elit tunggal yang menentukan apa yang benar, salah, baik, atau jahat atas nama semua orang. Pertahanan sebagaimana dalam demokrasi.Swissdan secara historis quasi-anarkisZomia, tidak seperti para tuan dan kastil pada zaman feodalisme abad pertengahan.

Dalam setahun sejak itu, filosofi dan gagasan telah matang secara signifikan. Saya membahas gagasan-gagasan tersebut pada 80,000 Jamdan telah melihat banyak tanggapan, sebagian besar positif dan beberapa kritik. Pekerjaan itu sendiri terus berlanjut dan berbuah: kita sedang melihat kemajuandalam verifiablevaksin sumber terbuka, pengakuan yang semakin meningkat terhadap nilai udara dalam ruangan yang sehat, Catatan Komunitas terus bersinar, tahun yang menarik bagi gate.pasar prediksi sebagai alat informasi, ZK-SNARKs di ID pemerintahdanmedia sosial (dan menjaminEthereumdompetmelaluiabstraksi akun), alat-alat pencitraan sumber terbuka dengan aplikasi dalam kedokteran dan BCI, dan banyak lagi. Pada musim gugur, kami memiliki acara d / acc signifikan pertama: “d/acc Discovery Day” (d/aDDy) di Devcon, yang menampilkan pembicara sepanjang hari dari semua pilar d/acc (bio, fisik, cyber, pertahanan info, plus neurotech). Orang-orang yang telah bekerja pada teknologi ini selama bertahun-tahun semakin sadar akan pekerjaan orang lain, dan orang di luar semakin menyadari cerita yang lebih besar: jenis nilai yang sama yang mendorong Ethereum dan crypto dapat diterapkan pada dunia yang lebih luas.

Daftar Isi

• Apa yang d/acc dan bukan
• Dimensi ketiga: bertahan dan berkembang
• Pertanyaan sulit: Keamanan AI, batas waktu singkat, dan regulasi
• Peran kripto dalam d/acc
• d/acc dan pendanaan barang publik
• Masa depan

Apa yang d/acc dan bukan

Ini tahun 2042. Anda melihat laporan di media tentang potensi pandemi baru di kota Anda. Anda sudah terbiasa dengan ini: orang-orang terlalu bersemangat setiap kali ada mutasi penyakit hewan, dan sebagian besar tidak terbukti apa-apa. Dua potensi pandemi sebelumnya terdeteksi sangat awal melalui pemantauan air limbahdananalisis sumber terbuka media sosial, dan berhenti sepenuhnya dalam jejak mereka. Tapi kali ini, pasar prediksi menunjukkan peluang 60% untuk setidaknya 10.000 kasus, jadi Anda lebih khawatir.

Sekuens untuk virus telah diidentifikasi kemarin. Pembaruan perangkat lunak untuk kantong Andapengujian udarauntuk memungkinkannya mendeteksi virus baru (dari satu nafas, atau dari 15 menit paparan udara dalam ruangan) sudah tersedia. Instruksi open-source dan kode untuk menghasilkan vaksin menggunakan peralatan yang dapat ditemukan di fasilitas medis modern di seluruh dunia seharusnya tersedia dalam beberapa minggu. Sebagian besar orang belum melakukan tindakan apa pun, sebagian besar mengandalkan adopsi luas penyaringan udara dan ventilasi untuk melindungi mereka. Anda memiliki kondisi kekebalan sehingga Anda lebih berhati-hati: asisten pribadi AI yang berjalan lokal open-source Anda, yang menangani antara lain navigasi dan rekomendasi restoran dan acara, juga mempertimbangkan data pengujian udara real-time dan CO2 untuk hanya merekomendasikan tempat yang paling aman. Data disediakan oleh ribuan peserta dan perangkat menggunakan Zk-SNARKsdandiferensial privasi untuk meminimalkan risiko bahwa data dapat bocor atau disalahgunakan untuk tujuan lain (jika Anda ingin menyumbangkan data ke kumpulan data ini, ada asisten pribadi AI lain yang memverifikasi bukti formal bahwa gadget kriptografi ini benar-benar berfungsi).

Dua bulan kemudian, pandemi menghilang: sepertinya 60% dari orang yang mengikuti protokol dasar untuk memakai masker jika alat pengujian udara berbunyi dan menunjukkan adanya virus, dan tinggal di rumah jika mereka positif secara pribadi, sudah cukup untuk menekan tingkat penularan, yang sudah sangat berkurang karena penyaringan udara yang intensif, menjadi di bawah 1. Penyakit yang simulasi menunjukkan mungkin lima kali lebih buruk dari Covid dua puluh tahun yang lalu ternyata bukan masalah hari ini.

Hari Devcon d/acc

Salah satu hal positif yang bisa dipetik dari acara d/acc di Devcon adalah sejauh mana payung d/acc berhasil menyatukan orang-orang dari bidang yang sangat berbeda, dan membuat mereka benar-benar tertarik pada pekerjaan masing-masing.

Membuat acara dengan 'diversitas' itu mudah, tetapi membuat orang-orang yang berbeda latar belakang dan minatnya benar-benar terkait satu sama lain itu sulit. Saya masih ingat saat dipaksa menonton opera yang panjang di sekolah menengah dan sekolah tinggi, dan pribadi merasa bosan. Saya tahu bahwa saya seharusnya menghargainya, karena jika tidak, saya akan dianggap sebagai orang yang tidak berbudaya dalam ilmu komputer, tetapi saya tidak terhubung dengan kontennya secara lebih tulus. Hari d/acc tidak terasa seperti itu sama sekali: terasa seperti orang-orang benar-benar menikmati belajar tentang jenis pekerjaan yang sangat berbeda di bidang yang berbeda.

Jika kita ingin menciptakan alternatif yang lebih cerah daripada dominasi, perlambatan, dan kehancuran, kita memerlukan jenis pembangunan koalisi yang luas ini. D/acc nampaknya benar-benar berhasil melakukannya, dan itu saja menunjukkan nilai dari ide tersebut.

Ide inti dari d/acc sederhana: percepatan defensif diferensial yang terdesentralisasi dan demokratis. Bangun teknologi yang menggeser keseimbangan serangan/pertahanan ke arah pertahanan, dan lakukan hal tersebut tanpa bergantung pada penyerahan lebih banyak kekuasaan kepada otoritas terpusat. Ada hubungan inheren antara kedua sisi ini: segala jenis struktur politik yang terdesentralisasi, demokratis, atau liberal berkembang paling baik ketika pertahanan mudah, dan mengalami tantangan paling besar ketika pertahanan sulit - dalam kasus-kasus seperti itu, hasil yang jauh lebih mungkin adalah beberapa periode perang semua lawan semua, dan akhirnya keseimbangan pemerintahan oleh yang terkuat.

Prinsip inti dari d/acc dapat diterapkan di banyak domain:

Grafik dari Tekno-Optimisme Saya, tahun lalu

Salah satu cara untuk memahami pentingnya berusaha menjadi terdesentralisasi, defensif, dan berorientasi pada percepatan pada saat yang sama, adalah dengan membandingkannya dengan filosofi yang Anda dapatkan ketika Anda menyerah pada ketiga hal tersebut.

• Percepatan terdesentralisasi, tetapi tidak peduli dengan bagian “pertahanan diferensial”. Pada dasarnya, menjadi e/acc, tetapi terdesentralisasi. Banyak orang yang mengambil pendekatan ini, beberapaAda yang menyebut diri mereka d/acc tetapi dengan baik menjelaskan fokus mereka sebagai "OFFENSE", tetapi juga banyak yang antusias tentang "AI terdesentralisasi" dan topik serupa dengan cara yang lebih moderat, tetapi menurut pandangan saya memberikan perhatian yang tidak mencukupi pada aspek "defensif".

Dalam pandangan saya, pendekatan ini mungkin dapat menghindari risiko diktator manusia global oleh suku tertentu yang Anda khawatirkan, tetapi tidak memiliki jawaban terhadap masalah struktural yang mendasar: dalam lingkungan yang mendukung pelanggaran, ada risiko terus-menerus terjadinya bencana atau seseorang memposisikan diri sebagai pelindung dan secara permanen mendirikan diri mereka di puncak. Dalam kasus khusus AI, juga tidak memiliki jawaban yang baik terhadap risiko manusia secara keseluruhan dibandingkan dengan AI.

• Percepatan defensif diferensial, tapi tidak peduli tentang "terdesentralisasi dan demokratis". Merangkul kontrol terpusat demi keamanan memiliki daya tarik permanen bagi sebagian orang, dan pembaca sudah pasti sudah akrab dengan banyak contoh, dan kerugiannya. Baru-baru ini, beberapa orang khawatir bahwa kontrol terpusat yang ekstrem adalah satu-satunya solusi untuk ekstrim dari teknologi masa depan: lihat skenario hipotetis inidi mana “Semua orang dilengkapi dengan ‘tag kebebasan’ - sebuah urutan dari perangkat pemantauan yang lebih terbatas yang sudah dikenal hari ini, seperti tag pergelangan kaki yang digunakan di beberapa negara sebagai alternatif penjara ... video dan audio terenkripsi terus diunggah dan diinterpretasikan oleh mesin secara real time”. Namun, kontrol terpusat adalah sebuah spektrum. Salah satu versi kontrol terpusat yang lebih ringan yang biasanya diabaikan, tetapi masih merugikan, adalah resistensi terhadap pengawasan publik dalam bioteknologi (mis.,makanan, vaksin), dan norma-norma sumber terbuka yang memungkinkan resistensi ini tidak ditantang.

Risiko dari pendekatan ini, tentu saja, adalah bahwa pusat seringkali menjadi sumber risiko itu sendiri. Kami melihat hal ini dalam Covid, di mana penelitian gain-of-function dibiayai oleh gate.beberapa pemerintah utama di duniamungkin menjadi sumber pandemi, epistemologi terpusat mengarah pada WHOtidak mengakuiuntuktahunbahwa Covid adalah udara, dan paksapemisahan sosialdanvaksinmandat mengakibatkan reaksi politik yang mungkin akan berdampak selama beberapa dekade. Situasi serupa mungkin terjadi sehubungan dengan risiko apa pun yang terkait dengan kecerdasan buatan (AI), atau teknologi berisiko lainnya. Pendekatan terdesentralisasi akan lebih baik mengatasi risiko dari pusat itu sendiri.

• Pertahanan terdesentralisasi, tetapi tidak peduli tentang percepatan - pada dasarnya, mencoba untuk memperlambat kemajuan teknologi, atau ekonomidegrowth.

Tantangan dengan strategi ini adalah dua bagian. Pertama, secara keseluruhan, teknologi dan pertumbuhan ekonomi telah sangat baik bagi umat manusia, dan setiap penundaan terhadapnya membebankan biayayangsulit untuk dijelaskan secara berlebihan. Kedua, dalam dunia non-totaliter, tidak maju adalah tidak stabil: siapa pun yang paling 'curang' dan menemukan cara yang bisa dibantah secara masuk akal untuk tetap maju akan mendahuluinya. Strategi deselerasionis dapat berhasil sampai batas tertentu dalam beberapa konteks: makanan Eropa yang lebih sehat daripada makanan Amerika adalah contoh lain, keberhasilan nonproliferasi nuklir sejauh ini adalah contoh lainnya. Tapi mereka tidak bisa bekerja selamanya.

Dengan d/acc, kami ingin:

• Jadilah berprinsip pada saat banyak dunia menjadi suku, dan bukan hanya membangun apa saja - sebaliknya, kami ingin membangun hal-hal tertentu yang membuat dunia lebih aman dan lebih baik.
• Mengakui bahwa kemajuan teknologi eksponensial berarti bahwa dunia akan menjadi sangat aneh, dan jejak total kemanusiaan di alam semesta hanya akan meningkat. Kemampuan kita untuk menjaga hewan, tumbuhan, dan manusia yang rentan dari bahaya harus ditingkatkan, tetapi satu-satunya jalan keluar adalah maju.
• Bangun teknologi yang menjaga keamanan kita tanpa mengasumsikan bahwa "orang baik (atau AI yang baik) yang bertanggung jawab". Kami melakukannya dengan membangun alat-alat yang lebih efektif secara alamiketika digunakan untuk membangun dan melindungi daripada digunakan untuk menghancurkan.

Cara lain untuk memikirkan d/acc adalah kembali ke bingkai darigerakan Partai Bajak Lautdi Eropa pada akhir 00-an: pemberdayaan.

Tujuannya adalah membangun dunia di mana kita melestarikan agensi manusia, mencapaikeduanyakebebasan negatif untuk menghindari campur tangan aktif (baik dari orang lain yang bertindak sebagai warga swasta, atau dari pemerintah, atau dari bot superintelligent) dengan kemampuan kita untuk membentuk takdir kita sendiri, dan kebebasan positif untuk memastikan bahwa kita memiliki pengetahuan dan sumber daya untuk. Ini bergema dalam tradisi liberal klasik yang berabad-abad, yang juga mencakup fokus Stewart Brand pada “akses ke alat" dan John Stuart Mill's penekanan pada pendidikanbersama-samakebebasansebagai komponen kunci dari kemajuan manusia - dan mungkin, seseorang dapat menambahkan, keinginan Buckminster Fuller untuk melihat proses pemecahan masalah global menjadipartisipatif dan didistribusikan secara luas. Kami dapat melihat d/acc sebagai cara untuk mencapai tujuan yang sama mengingat lanskap teknologi abad ke-21.

Dimensi ketiga: bertahan hidup dan berkembang

Dalam postingan saya tahun lalu, d/acc secara khusus memfokuskan pada teknologi pertahanan: pertahanan fisik, pertahanan bio, pertahanan siber, dan pertahanan informasi. Namun, pertahanan terdesentralisasi tidak cukup untuk membuat dunia menjadi lebih baik: Anda juga memerlukan visi positif yang berpikir ke depan tentang apa yang bisa dicapai umat manusia dengan terdesentralisasi dan aman yang baru ditemukan.

Postingan tahun lalu memang berisi visi positif, di dua tempat:

1. Berfokus pada tantangan kecerdasan super, saya mengusulkan sebuah jalan (jauh dari aslinya bagi saya) tentang bagaimana kita bisa memiliki kecerdasan super tanpa penghilangan kekuatan:
   1. Hari ini, bangun AI sebagai alat daripada AI sebagai agen yang sangat otonom
   2. Besok gunakan alat-alat seperti realitas virtual, myoelectricsdan antarmuka otak-komputer untuk menciptakan umpan balik yang lebih kuat antara AI dan manusia
   3. Seiring berjalannya waktu menuju akhir permainan di mana kecerdasan super adalah kombinasi mesin dan kita.
2. Ketika membicarakan info-defense, saya juga secara tidak langsung menyebutkan bahwa selain teknologi sosial _defensif_ yang mencoba membantu komunitas menjaga kohesi dan memiliki wacana berkualitas tinggi dalam menghadapi penyerang, ada juga teknologi sosial progresif yang dapat membantu komunitas lebih mudah membuat penilaian berkualitas tinggi: pol.isadalah satu contoh, dan prediksi pasaradalah lainnya.

Tapi dua poin ini terasa terputus dari argumen d/acc: "ini adalah beberapa ide untuk menciptakan dunia yang lebih demokratis dan memihak pertahanan di lapisan dasar, dan oh ya ini adalah beberapa ide yang tidak terkait untuk bagaimana kita mungkin menciptakan superintelejensi".

Namun, saya pikir pada kenyataannya ada beberapa hubungan yang sangat penting antara apa yang diberi label di atas sebagai teknologi d / acc "defensif" dan "progresif". Mari kita perluas grafik d / acc dari posting tahun lalu, dengan menambahkan sumbu ini (juga, mari kita beri label ulang "bertahan vs berkembang“) ke grafik dan melihat apa yang terjadi:

Ada pola yang konsisten, di semua domain, bahwa ilmu pengetahuan, gagasan, dan alat yang dapat membantu kita 'bertahan' di satu domain sangat terkait dengan ilmu pengetahuan, gagasan, dan alat yang dapat membantu kita 'berkembang'. Beberapa contoh:

• Banyak penelitian anti-Covid terkini berfokus pada peran ketahanan virusdi dalam tubuh sebagai mekanisme mengapa Long Covid begitu menjadi masalah. Baru-baru ini, juga ada tanda-tanda bahwa persistensi virusmungkin bertanggung jawab atas penyakit Alzheimer - jika benar, hal ini menyiratkan bahwa mengatasi persistensi virus di semua jenis jaringan mungkin menjadi kunci untuk mengatasi penuaan.
• Biaya rendah dan miniaturalat pemrosesan citraseperti yang sedangdibangun oleh Openwaterdapat menjadi kuat untuk mengobatimikrobekuan darah, atau persistensi virus, kanker, dan juga dapat digunakan untuk BCI.
• Ide yang sangat mirip mendorong pembuatan alat sosial yang dibangun untuk lingkungan yang sangat bermusuhan, seperti gate.Catatan Komunitas, dan alat sosial yang dibangun untuk lingkungan yang cukup kooperatif, seperti pol.is.
• Prediction markets adalah berhargadi keduahigh-cooperationdanketerjadian tinggilingkungan.
• Bukti pengetahuan nol dan teknologi serupa untuk melakukan komputasi pada data sambil mempertahankan privasi baik meningkatkan data yang tersedia untuk pekerjaan yang berguna seperti ilmu pengetahuan, dan meningkatkan privasi.
• Energi surya dan baterai sangat bagus untuk mempercepat gelombang pertumbuhan ekonomi bersih berikutnya, tetapi mereka juga luar biasa untuk desentralisasi dan ketahanan fisik.

Selain itu, ada juga ketergantungan lintas penting antara area-subjek:

• BCI sangat relevan sebagai teknologi pertahanan informasi dan kolaborasi, karena dapat memungkinkan komunikasi pikiran dan niat kita yang lebih rinci. BCI bukan hanya bot-to-kesadaran: itu juga bisa menjadi kesadaran-to-bot-to-kesadaran. Ini menggema gate.Banyak ide tentang nilai BCI.
• Banyak bioteknologi bergantung pada berbagi informasi, dan dalam banyak konteks, orang hanya akan nyaman berbagi informasi jika mereka yakin bahwa informasi tersebut akan digunakan untuk satu aplikasi saja. Hal ini bergantung pada teknologi privasi (misalnya, ZKP, FHE, obfuskasi ...)
• Teknologi kolaborasi dapat digunakan untuk mengkoordinasikan pendanaan untuk salah satu area teknologi lainnya

Pertanyaan sulit: keselamatan AI, jangka waktu singkat, dan regulasi

Orang-orang berbeda memiliki jadwal kecerdasan buatan yang sangat berbeda. Grafik dari Zuzalu di Montenegro, 2023.

Argumen terhadap posting saya tahun lalu yang menurut saya paling menarik adalah kritik dari komunitas keamanan AI. Argumennya berbunyi: "tentu, jika kita memiliki setengah abad sampai kita mendapatkan AI yang kuat, kita dapat memusatkan energi kita dan membangun semua hal baik ini. Tapi sebenarnya sepertinya kita memiliki jadwal tiga tahun sampai AGI, dan tiga tahun lagi sampai superintelligence. Jadi jika kita tidak ingin dunia dihancurkan atau jatuh ke dalam perangkap yang tidak dapat diubah, kita tidak bisa hanya mempercepat yang baik, kita juga harus memperlambat yang buruk, dan ini berarti mengeluarkan peraturan yang kuat yang dapat membuat orang-orang kuat marah ". Dalam posting saya tahun lalu, saya memang tidak menyerukan strategi khusus untuk "memperlambat yang buruk", di luar seruan samar untuk tidak membangun bentuk superintelligence yang berisiko. Jadi di sini, ada baiknya menjawab pertanyaan secara langsung: jika kita tinggal di dunia paling tidak nyaman, di mana risiko AI tinggi dan jangka waktu potensialnya lima tahun lagi, regulasi apa yang akan saya dukung?

Pertama, alasan untuk berhati-hati seputar regulasi baru

Tahun lalu, regulasi AI yang diusulkan utamanya adalah RUU SB-1047 di California. SB-1047 mengharuskan pengembang model yang paling kuat (yang membutuhkan lebih dari $ 100 juta untuk berlatih, atau lebih dari $ 10 juta dalam kasus fine-tunes) untuk mengambil beberapa langkah pengujian keamanan sebelum melepaskan. Selain itu, ia membebankan tanggung jawab pada pengembang model AI jika mereka tidak cukup berhati-hati. Banyak pencela berpendapat bahwa RUU itu "ancaman terhadap sumber terbuka“; Saya tidak setuju, karena ambang batas biaya berarti itu hanya memengaruhi model-model paling kuat: bahkan LLama3 punmungkin di bawah ambang batas. Namun, jika melihat kembali, saya rasa ada masalah yang lebih besar dengan tagihan tersebut: seperti sebagian besar regulasi, ia terlalu disesuaikan dengan situasi saat ini. Fokus pada biaya pelatihan terbukti rapuh menghadapi teknologi baru yang sudah ada: model Deepseek v3 berkualitas terbaru dilatih dengan biaya sebesar hanya $6 juta, dan dalam model-model baru seperti o1biaya-biaya beralih dari pelatihan ke inferensi secara lebih umum.

Kedua, aktor yang paling mungkin bertanggung jawab atas skenario kehancuran AI super cerdas adalah militer secara realistis. Seperti yang kita ...telah dilihat dalam setengah abad terakhir dari biosecurity (dan seterusnya), militer bersedia melakukan hal-hal yang menakutkan, dan mereka bisa dengan mudah melakukan kesalahan. Penggunaan militer AI sedang berkembang pesat saat ini (lihat Ukraina, Gaza. Dan setiap regulasi keselamatan yang dikeluarkan oleh pemerintah, secara default akan memberikan pengecualian kepada militer mereka sendiri, dan perusahaan-perusahaan yang bekerjasama erat dengan militer.

Meskipun begitu, argumen-argumen ini bukanlah alasan untuk angkat tangan dan tidak melakukan apa-apa. Sebaliknya, kita dapat menggunakan mereka sebagai panduan, dan mencoba membuat aturan yang akan memicu kekhawatiran ini sekecil mungkin.

Strategi 1: Kewajiban

Jika seseorang bertindak dengan cara yang menyebabkan kerusakan yang dapat dituntut secara hukum, mereka bisa menjadi menggugatIni tidak menyelesaikan masalah risiko dari militer dan aktor-aktor lain yang 'di atas hukum', tetapi ini adalah pendekatan umum yang menghindari overfit, dan seringkali.didukungoleh libertarian-leaningekonomkarena alasan yang tepat ini.

Sasaran utama tanggung jawab yang telah dipertimbangkan sejauh ini adalah:

• Pengguna - orang-orang yang menggunakan AI
• Deployers - perantara yang menawarkan kecerdasan buatan sebagai layanan bagi pengguna
• Pengembang - orang-orang yang membangun kecerdasan buatan

Menempatkan tanggung jawab pada pengguna terasa paling tidak kompatibel dengan insentif. Sementara hubungan antara bagaimana model dikembangkan dan bagaimana akhirnya digunakan sering tidak jelas, pengguna memutuskan dengan tepat bagaimana AI digunakan. Tanggung jawab pada pengguna menciptakan tekanan kuat untuk melakukan AI dengan cara yang saya anggap benar: fokus pada membangun setelan mecha untuk pikiran manusia, bukan pada menciptakan bentuk-bentuk baru kehidupan cerdas yang mandiri. Yang pertama merespons secara teratur maksud pengguna, dan karenanya tidak akan menyebabkan tindakan bencana kecuali pengguna menginginkannya. Yang terakhir akan memiliki risiko terbesar untuk pergi dan menciptakan skenario klasik "AI menjadi nakal". Manfaat lain dari menempatkan tanggung jawab sedekat mungkin dengan penggunaan akhir adalah meminimalkan risiko bahwa tanggung jawab akan menyebabkan orang mengambil tindakan yang berbahaya dengan cara lain (misalnya sumber tertutup, KYC dan pengawasan, kolusi negara / bisnis untuk secara sembunyi-sembunyi membatasi pengguna seperti misalnya debanking, mengunci wilayah besar di dunia).

Ada argumen klasik yang menentang menempatkan tanggung jawab sepenuhnya pada pengguna: pengguna mungkin adalah individu biasa tanpa terlalu banyak uang, atau bahkan anonim, sehingga tidak ada yang benar-benar dapat membayar kerusakan yang sangat parah. Argumen ini bisa berlebihan: meskipun beberapa pengguna terlalu kecil untuk dituntut tanggung jawabnya, pelanggan rata-rata pengembang AI tidak demikian, dan oleh karena itu pengembang AI masih akan termotivasi untuk membangun produk yang dapat memberikan jaminan kepada pengguna mereka bahwa mereka tidak akan menghadapi risiko tanggung jawab yang tinggi. Meskipun begitu, argumen ini masih valid dan perlu ditangani. Anda perlu memberikan insentif kepada seseorang dalam alur kerja yang memiliki sumber daya untuk melakukan tingkat perawatan yang tepat, dan pengguna dan pengembang masih menjadi target yang mudah dijangkau yang masih [gate].memiliki banyak pengaruhtentang seberapa aman atau tidak aman suatu model.

Tanggung jawab deployer tampaknya masuk akal. Kekhawatiran yang sering dikutip adalah bahwa itu tidak akan berfungsi untuk model open-source, tetapi ini tampaknya dapat dikelola, terutama karena ada kemungkinan besar bahwa model yang paling kuat akan menjadi sumber tertutup (dan jika ternyata terbuka, maka sementara kewajiban deployer tidak berakhir sangat berguna, itu juga tidak menyebabkan banyak kerugian). Tanggung jawab pengembang memiliki kekhawatiran yang sama (meskipun dengan model open source ada beberapa speed-bump yang perlu menyempurnakan model untuk menyebabkannya melakukan beberapa hal yang awalnya dilarang), tetapi argumen balasan yang sama berlaku. Sebagai prinsip umum, menempatkan "pajak" pada kontrol, dan pada dasarnya mengatakan "Anda bisa membangun hal-hal yang tidak Anda kendalikan, atau Anda dapat membangun hal-hal yang Anda kendalikan, tetapi jika Anda membangun hal-hal yang Anda kendalikan, maka 20% dari kontrol harus digunakan untuk tujuan kita", tampaknya seperti posisi yang masuk akal untuk dimiliki oleh sistem hukum.

Satu ide yang tampaknya belum banyak dijelajahi adalah menempatkan tanggung jawab pada aktor lain dalam rantai pasokan, yang lebih dijamin memiliki sumber daya yang cukup. Salah satu ide yang sangat ramah terhadap d/acc adalah menempatkan tanggung jawab pada pemilik atau operator peralatan apa pun yang dikuasai oleh AI (misalnya, dengan meretas) dalam proses melakukan tindakan yang sangat merugikan. Ini akan menciptakan insentif yang sangat luas untuk melakukan pekerjaan sulit untuk membuat infrastruktur dunia (terutama komputasi dan bio) seaman mungkin.

Strategi 2: Tombol "soft pause" global pada perangkat keras skala industri

Jika saya yakin bahwa kita membutuhkan sesuatu yang lebih 'kuat' daripada aturan tanggung jawab, ini lah yang akan saya pilih. Tujuannya adalah memiliki kemampuan untuk mengurangi komputasi yang tersedia di seluruh dunia sekitar ~90-99% selama 1-2 tahun pada periode kritis, untuk memberi lebih banyak waktu bagi umat manusia untuk bersiap. Nilai dari 1-2 tahun seharusnya tidak dibesar-besarkan: satu tahun dalam 'mode perang' dengan mudah bisa bernilai seperti seratus tahun kerja dalam kondisi kepuasan diri. Cara untuk menerapkanjeda“sudah dieksplorasi, termasuk proposal konkret seperti memerlukan pendaftarandanmemverifikasi lokasiperangkat keras.

Pendekatan yang lebih canggih adalah menggunakan trik kriptografi cerdik: misalnya, perangkat keras AI skala industri (tetapi bukan konsumen) yang diproduksi dapat dilengkapi dengan chip perangkat keras terpercaya yang hanya memungkinkannya terus berjalan jika mendapatkan 3/3 tanda tangan sekali seminggu dari badan internasional besar, termasuk setidaknya satu yang tidak berafiliasi dengan militer. Tanda tangan akan independen perangkat (jika diinginkan, kita bahkan dapat memerlukan bukti pengetahuan nol bahwa mereka diterbitkan di blockchain), sehingga akan menjadi semuanya atau tidak ada: tidak akan ada cara praktis untuk memberi otorisasi pada satu perangkat untuk terus berjalan tanpa memberi otorisasi pada semua perangkat lainnya.

Ini terasa seperti 'memenuhi persyaratan' dalam hal memaksimalkan manfaat dan meminimalkan risiko:

• Ini adalah kemampuan yang berguna untuk dimiliki: jika kita mendapatkan tanda-tanda peringatan bahwa AI yang hampir supercerdas mulai melakukan hal-hal yang berisiko merusak, kita akan ingin melakukan transisi lebih lambat.
• Hingga saat terjadi momen kritis seperti itu, hanya memiliki kemampuan untuk menghentikan sementara akan sedikit merugikan pengembang.
• Berfokus pada perangkat keras skala industri, dan hanya bertujuan untuk 90-99% sebagai tujuan, akan menghindari beberapa upaya dystopian menempatkan chip mata-mata atau mematikan sakelar di laptop konsumen atau memaksa tindakan kejam pada negara-negara kecil bertentangan dengan keinginan mereka.
• Berfokus pada perangkat keras tampaknya sangat kuat terhadap perubahan teknologi. Kami telah melihat di beberapa generasi AI bahwa kualitas sangat bergantung pada komputasi yang tersedia, terutama dalam versi awal paradigma baru. Oleh karena itu, mengurangi komputasi yang tersedia sebesar 10-100x dapat dengan mudah membuat perbedaan antara AI supercerdas yang melarikan diri menang atau kalah dalam pertempuran cepat melawan manusia yang mencoba menghentikannya.
• Kesulitan yang menyebalkan dalam perlu online sekali seminggu untuk tanda tangan akan menciptakan tekanan kuat untuk tidak memperluas skema ini ke perangkat keras konsumen.
• Ini bisa diverifikasi dengan inspeksi acak, dan melakukannya pada tingkat perangkat keras akan membuatnya sulit untuk membebaskan pengguna tertentu (pendekatan yang didasarkan pada pemaksaan hukum untuk menutup, daripada secara teknis, tidak memiliki sifat all-or-nothing ini, yang membuat mereka memiliki risiko yang jauh lebih besar untuk meluncur ke pembebasan untuk militer, dll)

Regulasi perangkat keras sudah sangat dipertimbangkan, meskipun umumnya melalui kerangka kontrol ekspor, yang secara inheren memiliki filosofi "kami mempercayai pihak kami, tapi tidak mempercayai pihak lain". Leopold Aschenbrenner secara terkenal menganjurkan bahwa AS seharusnya "gate" teknologi China.Berlomba untuk mendapatkan keuntungan yang menentukandan kemudianpada dasarnya memaksa Chinauntuk menandatangani protokol yang membatasi berapa banyak kotak yang mereka diizinkan jalankan. Bagi saya, pendekatan ini terlihat berisiko, dan bisa menggabungkan kekurangan-kekurangan dari ras-ras multipolardan sentralisasi. Jika kita harus membatasi orang, tampaknya lebih baik membatasi semua orang dengan posisi yang sama, dan melakukan kerja keras untuk benar-benar berusaha bekerja sama dalam mengorganisasikannya daripada satu pihak yang mencoba mendominasi semua orang lainnya.

teknologi d/acc dalam risiko AI

Kedua strategi ini (liabilitas dan tombol jeda perangkat keras) memiliki kelemahan di dalamnya, dan jelas bahwa mereka hanya solusi sementara: jika suatu saat menjadi mungkin dilakukan di superkomputer pada waktu T, kemungkinan besar akan mungkin dilakukan di laptop pada waktu T + 5 tahun. Dan kita memerlukan sesuatu yang lebih stabil untuk membeli waktu. Banyak teknologi d/acc relevan di sini. Kita dapat melihat peran teknologi d/acc sebagai berikut: jika kecerdasan buatan mengambil alih dunia, bagaimana caranya?

• Ini membobol komputer kita → pertahanan siber
• Ini menciptakan super-wabah → pertahanan hayati
• Ini meyakinkan kami (baik untuk mempercayainya, atau saling tidak percaya) → info-defense

Seperti disebutkan secara singkat di atas, aturan pertanggungjawaban adalah gaya regulasi yang ramah d / acc secara alami, karena mereka dapat secara efisien memotivasi semua bagian dunia untuk mengadopsi pertahanan ini dan menganggapnya serius. Taiwan telah sedang bereksperimendengan kewajiban atas iklan palsu baru-baru ini, yang dapat dianggap sebagai salah satu contoh penggunaan kewajiban untuk mendorong pertahanan info. Kita seharusnya tidak terlalu antusias tentang memberlakukan kewajiban di mana-mana, dan ingat manfaat kebebasan biasa dalam memungkinkan orang kecil untuk berpartisipasi dalam inovasi tanpa takut akan gugatan, tetapi di tempat di mana kita ingin dorongan yang lebih kuat untuk aman, kewajiban dapat sangat fleksibel dan efektif.

Peran crypto dalam d/acc

Sebagian besar d / acc jauh melampaui topik blockchain yang khas: biosecurity, BCI dan alat wacana kolaboratif tampaknya jauh dari hal-hal yang biasanya dibicarakan oleh orang crypto. Namun, saya pikir ada beberapa hubungan penting antara crypto dan d / acc, khususnya:

• d/acc adalah perluasan dari nilai-nilai dasar kripto (desentralisasi, ketahanan sensor, ekonomi dan masyarakat global terbuka) ke bidang teknologi lainnya.
• Karena pengguna kripto adalah pengadopsi awal alami, dan ada keselarasan nilai, komunitas kripto adalah pengguna awal alami teknologi d/acc. Penekanan kuat pada komunitas (baik secara online maupun offline, misalnya acara dan pop-up), dan kenyataan bahwa komunitas-komunitas ini benar-benar melakukan hal-hal berisiko tinggi daripada hanya saling berbicara, membuat komunitas kripto terutama menarik sebagai inkubator dan tempat uji coba bagi teknologi d/acc yang pada dasarnya bekerja pada kelompok daripada individu (misalnya sebagian besar pertahanan informasi dan pertahanan biologi). Orang-orang kripto hanya melakukan hal-hal bersama-sama.
• Banyak teknologi kripto dapat digunakan di berbagai bidang subyek: blockchain untuk membangun infrastruktur keuangan, tata kelola, dan media sosial yang lebih tangguh dan terdesentralisasi, bukti pengetahuan nol untuk melindungi privasi, dll. Saat ini, banyak pasar prediksi terbesar dibangun di blockchain, dan mereka secara bertahap menjadi lebih canggih, terdesentralisasi, dan demokratis.
• Ada juga peluang win-win untuk berkolaborasi dalam teknologi yang berdekatan dengan kripto yang sangat berguna untuk proyek kripto, tetapi juga merupakan kunci untuk mencapai tujuan d / acc: Verifikasi Formal, perangkat lunak komputer dan keamanan perangkat keras, dan teknologi tata kelola yang tahan terhadap pihak yang tidak sependapat. Hal-hal ini membuat blockchain Ethereum, dompet, dan DAO lebih aman dan tangguh, dan juga mencapai tujuan pertahanan peradaban penting seperti mengurangi kerentanan kita terhadap serangan cyber, termasuk mungkin dari AI superintelligent.

Cursive, sebuah aplikasi yang menggunakan enkripsi homomorfik penuh (FHE) untuk memungkinkan pengguna mengidentifikasi area minat bersama dengan pengguna lain, sambil menjaga privasi. Ini digunakan di Edge City, salah satu dari banyak cabang dari gate.Zuzalu, di Chiang Mai.

Selain dari persimpangan langsung ini, ada juga titik minat bersama yang penting lainnya: mekanisme pendanaan.

pendanaan d/acc dan barang publik

Salah satu minat saya yang sedang berlangsung adalah menciptakan mekanisme yang lebih baik untuk mendanai barang publik: proyek-proyek yang berharga bagi kelompok besar orang, tetapitidak memilikimodel bisnis yang dapat diakses secara alami. Pekerjaan saya sebelumnya dalam hal ini termasuk kontribusi saya ke pendanaan kuadratik dan penggunaannya dalam Gitcoin Grants, retro PGF, dan baru-baru ini Pendanaan mendalam.

Banyak orang skeptis terhadap barang publik sebagai sebuah konsep. Skeptisisme umumnya berasal dari dua sumber:

1. Fakta bahwa barang publik sejarahnya telah digunakan sebagai pembenaran untuk perencanaan sentral yang otoriter dan intervensi pemerintah dalam masyarakat dan ekonomi.
2. Persepsi umum bahwa pendanaan barang publik tidak memiliki ketelitian dan dijalankan bias keinginan sosial- apa yang terdengar bagus, daripada apa yang baik - dan lebih memihak pihak dalam yang bisa bermain dalam permainan sosial.

Ini adalah kritik penting dan kritik yang bagus. Namun, saya berpendapat bahwa pendanaan barang publik terdesentralisasi yang kuat sangat penting untuk visi d/acc, karena tujuan utama d/acc (meminimalkan titik kontrol sentral) secara inheren membuat frustrasi banyak model bisnis tradisional. Memungkinkan untuk membangun bisnis yang sukses dengan sumber terbuka - beberapaBalvipenerima hibahmelakukannya - tetapi dalam beberapa situasi, hal itu cukup sulit sehingga proyek-proyek penting membutuhkan dukungan tambahan yang berkelanjutan. Oleh karena itu, kita harus melakukan hal yang sulit, dan mencari cara untuk mendanai barang publik dengan cara yang mengatasi kedua kritik di atas.

Solusi untuk masalah pertama pada dasarnya adalahnetralitas yang dapat dipercayadan@VitalikButerin/artinya-desentralisasi-a0c92b76a274">desentralisasi. Perencanaan pusat adalah masalah karena memberikan kontrol kepada elit yang mungkin menjadi penyalahgunaan, dan karena sering overfits to the present-day situation dan menjadi semakin tidak efektif dari waktu ke waktu. Pendanaan kuadrat dan mekanisme serupa justru tentang pendanaan barang publik dengan cara yang netral secara kredibel dan (secara arsitektur dan politik) terdesentralisasi mungkin.

Masalah kedua lebih menantang. Dengan pendanaan kuadratik, kritik umum adalah bahwa itu segera menjadi kontes popularitas, mengharuskan para pendana proyek untuk menghabiskan banyak usaha dalam kampanye publik. Selain itu, proyek-proyek yang 'di depan mata orang' (misalnya, aplikasi pengguna akhir) mendapatkan pendanaan, tetapi proyek-proyek yang lebih berada di belakang (yang khas sebagai 'ketergantungan dipelihara oleh seseorang di Nebraska“) tidak mendapatkan pendanaan sama sekali. Pendanaan retro Optimisme bergantung pada sejumlah kecil pemegang lencana ahli; di sini, efek kontes popularitas berkurang, tetapi efek sosial dari memiliki hubungan pribadi yang erat dengan pemegang lencana diperbesar.

Pendanaan dalam skala besaradalah usaha terbaru saya sendiri untuk memecahkan masalah ini. Deep funding memiliki dua inovasi utama:

1. Grafik dependensi. Alih-alih meminta setiap juri pertanyaan global ("apa nilai proyek A bagi umat manusia?"), kita bertanya pertanyaan lokal ("apakah proyek A atau proyek B lebih berharga bagi hasil C? Dan sebesar apa?"). Manusia terkenal buruk dalam pertanyaan global: pada studi terkenalKetika ditanya berapa banyak uang yang akan mereka bayarkan untuk menyelamatkan N burung, responden menjawab sekitar $ 80 untuk N = 2.000, N = 20.000 dan N = 200.000. Pertanyaan lokal jauh lebih mudah ditelusuri. Kami kemudian menggabungkan jawaban lokal menjadi jawaban global dengan mempertahankan "grafik ketergantungan": untuk setiap proyek, proyek lain apa yang berkontribusi pada keberhasilannya, dan berapa banyak?
2. AI sebagai penilaian manusia yang disulingPara juri hanya diberikan sampel acak kecil dari semua pertanyaan. Ada kompetisi terbuka di mana siapa saja dapat mengirimkan model AI yang mencoba mengisi semua ujung grafik dengan efisien. Jawaban akhir adalah jumlah tertimbang dari model yang paling kompatibel dengan jawaban juri. Lihat di sini untuk contoh kodePendekatan ini memungkinkan mekanisme untuk berkembang menjadi sangat besar, sambil hanya memerlukan juri untuk mengirimkan hanya sejumlah kecil “bit” informasi. Hal ini mengurangi kesempatan korupsi, dan memastikan bahwa setiap bit adalah berkualitas tinggi: juri dapat memikirkan setiap pertanyaan untuk waktu yang lama, daripada dengan cepat mengklik ratusan. Dengan menggunakan persaingan terbuka dari KI, kita mengurangi bias dari satu proses pelatihan dan administrasi KI tunggal. Pasar terbuka KI sebagai mesin, manusia sebagai setir.

Namun pendanaan yang mendalam hanya contoh terbaru; ada ide-ide mekanisme pendanaan barang publik lain sebelumnya, dan akan banyak lagi di masa depan.allo.expertmelakukan pekerjaan yang baik dalam mengkatalogkan mereka. Tujuan utamanya adalah menciptakan alat sosial yang dapat mendanai barang publik dengan tingkat akurasi, keadilan, dan akses terbuka yang setidaknya mendekati cara pasar mendanai barang pribadi. Ini tidak perlu sempurna; bagaimanapun, pasar sendiri jauh dari sempurna. Tetapi itu harus cukup efektif sehingga pengembang yang bekerja pada proyek open-source berkualitas tinggi yang bermanfaat bagi semua orang dapat membiayainya tanpa merasa perlu membuat kompromi yang tidak dapat diterima.

Saat ini, proyek-proyek terkemuka di sebagian besar bidang studi d / acc: vaksin, BCI, “borderline BCI” seperti myoelektrik pergelangan tangan dan pelacakan mata, obat anti-penuaan, perangkat keras, dll, adalah milik pribadi. Ini memiliki kerugian besar dalam hal menjamin kepercayaan publik, seperti yang kita lihat di banyakdaridi atasareasudah. Itu juga mengalihkan perhatian pada dinamika kompetitif ("TIM KITA harus memenangkan industri penting ini!"), dan menjauhkan dari persaingan yang lebih besar untuk memastikan bahwa teknologi-teknologi ini datang cukup cepat untuk melindungi kita dalam dunia AI yang supercerdas. Oleh karena itu, pendanaan barang publik yang kuat dapat menjadi penguat yang kuat bagi keterbukaan dan kebebasan. Ini adalah cara lain di mana komunitas crypto dapat membantu dengan berusaha sungguh-sungguh dalam mengeksplorasi mekanisme pendanaan ini dan membuatnya berhasil dalam konteksnya sendiri, mempersiapkannya untuk adopsi yang jauh lebih luas untuk sains dan teknologi open-source secara umum.

Masa depan

Beberapa dekade mendatang membawa tantangan penting. Ada dua tantangan yang baru-baru ini ada di pikiran saya:

• Gelombang teknologi baru yang kuat, terutama AI yang kuat, akan datang dengan cepat, dan teknologi ini datang dengan perangkap penting yang perlu kita hindari. Mungkin butuh lima tahun bagi "kecerdasan super buatan" untuk sampai ke sini, mungkin butuh lima puluh. Either way, tidak jelas bahwa hasil default secara otomatis positif, dan seperti yang dijelaskan dalam posting ini dan yang sebelumnya , ada beberapa perangkap yang harus dihindari.
• Dunia menjadi kurang kooperatif. Banyak aktor kuat yang sebelumnya tampaknya setidaknya kadang-kadang bertindak berdasarkan prinsip-prinsip yang tinggi (kosmopolitanisme, kebebasan, kemanusiaan bersama... daftar terus berlanjut) sekarang lebih terang-terangan, dan agresif, mengejar kepentingan pribadi atau suku.

Namun, setiap tantangan ini memiliki sisi positifnya. Pertama, kini kita memiliki alat yang sangat kuat untuk menyelesaikan pekerjaan yang tersisa lebih cepat:

• AI saat ini dan di masa depan dapat digunakan untuk membangun teknologi lain, dan dapat digunakan sebagai bahan dalam tata kelola (seperti pendanaan mendalam atau info keuangan). Ini juga sangat relevan dengan BCI, yang dapat memberikan peningkatan produktivitas lebih lanjut.
• Koordinasi dalam skala besar kini dapat dilakukan pada skala yang jauh lebih besar dari sebelumnya. Internet dan media sosial memperluas jangkauan koordinasi, keuangan global (termasuk crypto) meningkatkan kekuatannya, dan sekarang alat pertahanan informasi dan kolaborasi dapat meningkatkan kualitasnya dan mungkin segera BCI dalam bentuk manusia-ke-komputer-ke-manusia dapat meningkatkan kedalamannya.
• Verifikasi formal, sandboxing (browser web,Docker, Qubes, GrapheneOS, dan banyak lagi), modul perangkat keras yang aman, dan teknologi lainnya terus ditingkatkan hingga mencapai titik di mana keamanan cyber yang jauh lebih baik menjadi mungkin.
• Menulis jenis perangkat lunak apa pun jauh lebih mudah daripada dua tahun yang lalu.
• Penelitian dasar yang terbaru tentang pemahaman tentang bagaimana virus bekerja, terutama pemahaman sederhana bahwa bentuk penyebaran yang paling penting untuk dijaga adalah melalui udara, menunjukkan jalan yang jauh lebih jelas untuk meningkatkan pertahanan biologis.
• Kemajuan terbaru dalam bioteknologi (misalnya CRISPR, kemajuandibio-imaging) membuat berbagai macam bioteknologi, baik untuk pertahanan, atau umur panjang, atau kebahagiaan-super, atau menjelajahi beberapanovel biohipotesis, atau hanya melakukan hal-hal yang benar-benar keren, jauh lebih mudah diakses.
• Kemajuan dalam komputasi dan bioteknologi bersama-sama memungkinkan alat bio sintetik yang dapat Anda gunakan untuk menyesuaikan, memantau, dan meningkatkan kesehatan Anda. Teknologi pertahanan siber seperti kriptografi membuat dimensi personalisasi ini jauh lebih layak.

Kedua, sekarang banyak prinsip yang kita pegang teguh tidak lagi ditempati oleh beberapa segmen tertentu dari penjaga lama, mereka dapat direklamasi oleh koalisi luas yang siapa pun di dunia dipersilakan untuk bergabung. Ini mungkin keuntungan terbesar dari "penataan kembali" politik baru-baru ini di seluruh dunia, dan salah satu yang layak dimanfaatkan. Crypto telah melakukan pekerjaan yang sangat baik dengan memanfaatkan ini dan menemukan daya tarik global; D / acc dapat melakukan hal yang sama.

Akses ke alat berarti bahwa kita dapat beradaptasi dan meningkatkan biologi dan lingkungan kita, dan bagian "pertahanan" dari d / acc berarti bahwa kita dapat melakukan ini tanpa melanggar kebebasan orang lain untuk melakukan hal yang sama. Prinsip-prinsip pluralisme liberalmaksudnya kita bisa memiliki banyak keragaman dalam cara ini dilakukan, dan komitmen kami terhadap tujuan kemanusiaan bersama berarti itu harus dilakukan.

Kita, manusia, tetap menjadi bintang yang paling terang. Tugas yang ada di depan kita, yaitu membangun abad ke-21 yang lebih terang yang menjaga kelangsungan hidup dan kebebasan manusia dan agensi saat kita menuju bintang-bintang, adalah tugas yang menantang. Tapi saya yakin bahwa kita mampu melakukannya.

Penyangkalan:

1. Artikel ini dicetak ulang dari [ Vitalik Buterin]. Meneruskan Judul Asli: d/acc: satu tahun kemudian. Semua hak cipta adalah milik penulis asli [Vitalik Buterin]. Jika ada keberatan terkait cetakan ulang ini, silakan hubungi Gate Belajartim, dan mereka akan segera menanganinya.
2. Penolakan Tanggung Jawab: Pandangan dan pendapat yang terdapat dalam artikel ini sepenuhnya menjadi tanggung jawab penulis dan tidak merupakan nasihat investasi apa pun.
3. Tim Gate Learn melakukan terjemahan artikel ke dalam bahasa lain. Kecuali disebutkan, menyalin, mendistribusikan, atau menjiplak artikel yang diterjemahkan dilarang.