Agama Pahit: Perang Suci yang Melibatkan Perluasan Hukum Paket Kecerdasan Buatan

Di bidang kecerdasan buatan, persimpangan iman dan teknologi telah membentuk perdebatan sengit seputar validitas dan pengembangan "hukum ekspansi" di masa depan. Artikel ini mengeksplorasi kebangkitan, perbedaan, dan kemungkinan dampak dari "agama pahit" ini, mengungkapkan hubungan kompleks antara iman dan sains. Komunitas AI terkunci dalam pertempuran doktrinal atas masa depannya dan apakah itu akan cukup besar untuk menciptakan Tuhan. Artikel ini berasal dari artikel oleh Mario Gabriele dan disusun oleh Block unicorn. (Sinopsis: xAI Musk menyelesaikan pembiayaan Seri C senilai $6 miliar, Huida, BlackRock, a16z... Sejumlah selebriti industri berpartisipasi) (Suplemen latar belakang: Huida meluncurkan platform komputasi robot humanoid "Jetson Thor" tahun depan, momen ChatGPT AI fisik? Aku lebih suka menjalani hidupku seperti ada Tuhan dan menunggu sampai aku mati untuk mengetahui bahwa Tuhan tidak ada, daripada hidup seperti tidak ada Tuhan, dan menunggu sampai aku mati untuk mengetahui bahwa Tuhan itu ada. — Blaise Pascal Agama adalah hal yang menarik. Mungkin karena itu benar-benar tidak dapat dibuktikan ke segala arah, atau mungkin itu seperti salah satu kutipan favorit saya: "Anda tidak bisa melawan perasaan dengan fakta." Keyakinan agama dicirikan oleh fakta bahwa dalam proses percaya pada Naik, mereka berakselerasi dengan kecepatan yang luar biasa sehingga hampir tidak mungkin untuk meragukan keberadaan Tuhan. Bagaimana Anda bisa meragukan makhluk ilahi ketika orang-orang di sekitar Anda semakin percaya padanya? Ketika dunia menata ulang dirinya di sekitar doktrin, di manakah pijakan bidaah? Di mana ada ruang untuk pertentangan ketika bait suci dan katedral, hukum dan norma diatur menurut Injil baru yang tak tergoyahkan? Ketika agama Ibrahim pertama kali muncul dan menyebar ke seluruh benua, atau ketika agama Buddha menyebar dari India ke seluruh Asia, momentum iman yang sangat besar menciptakan siklus yang memperkuat diri. Karena semakin banyak orang bertobat dan sistem teologis yang kompleks dan ritual dibangun di sekitar keyakinan ini, mempertanyakan premis dasar ini menjadi semakin sulit. Di lautan yang mudah tertipu, tidak mudah menjadi bidat. Gereja-gereja yang megah, kitab suci agama yang rumit, dan biara-biara yang berkembang semuanya berfungsi sebagai bukti fisik keberadaan ilahi. Tetapi sejarah agama juga memberi tahu kita betapa mudahnya struktur seperti itu bisa runtuh. Ketika agama Kristen menyebar ke Skandinavia, iman Nordik kuno runtuh hanya dalam beberapa generasi. Sistem agama Mesir kuno berlangsung selama ribuan tahun, akhirnya menghilang ketika keyakinan baru yang lebih gigih muncul dan struktur kekuasaan yang lebih besar muncul. Bahkan dalam agama yang sama, kita melihat perpecahan dramatis – Reformasi merobek Kekristenan Barat, sementara Skisma Besar menyebabkan perpecahan antara gereja-gereja Timur dan Barat. Perpecahan ini sering dimulai dengan perbedaan doktrinal yang tampaknya sepele dan secara bertahap berkembang menjadi sistem kepercayaan yang sama sekali berbeda. Tuhan adalah metafora yang melampaui semua tingkat pemikiran intelektual. Sesederhana itu. — Joseph Campbell Sederhananya, percaya pada Tuhan adalah agama. Mungkin ciptaan Tuhan tidak berbeda. Sejak awal, para peneliti AI yang optimis telah membayangkan pekerjaan mereka sebagai kreasionisme — ciptaan Tuhan. Selama beberapa tahun terakhir, ledakan model bahasa besar (LLM) telah semakin memperkuat keyakinan orang percaya bahwa kita berada di jalan suci. Ini juga mengkonfirmasi posting blog yang ditulis pada tahun 2019. Meskipun orang-orang di luar bidang kecerdasan buatan tidak mengetahuinya sampai saat ini, Pelajaran Pahit ilmuwan komputer Kanada Richard Sutton telah menjadi teks yang semakin penting di masyarakat, berkembang dari pengetahuan rahasia menjadi fondasi agama baru yang mencakup segalanya. Dalam 1.113 kata (setiap agama membutuhkan angka suci), Sutton merangkum pengamatan teknis: "Pelajaran terbesar yang dapat dipelajari dari 70 tahun penelitian AI adalah bahwa pendekatan universal untuk memanfaatkan komputasi pada akhirnya adalah yang paling efektif dan keuntungan besar." Kemajuan dalam model AI telah mendapat manfaat dari peningkatan eksponensial dalam sumber daya komputasi, mengendarai gelombang besar Hukum Moore. Pada saat yang sama, Sutton menunjukkan bahwa banyak pekerjaan dalam penelitian AI berfokus pada optimalisasi kinerja melalui teknik khusus – menambahkan pengetahuan manusia atau alat yang sempit. Sementara optimasi ini dapat membantu dalam jangka pendek, dalam pandangan Sutton, mereka pada akhirnya membuang-buang waktu dan sumber daya, seperti menyesuaikan sirip papan selancar atau mencoba lilin baru ketika gelombang besar tiba. Ini adalah dasar dari apa yang kita sebut "agama kepahitan." Ini hanya memiliki satu perintah, sering disebut dalam komunitas sebagai "Aturan Jebakan yang Diperpanjang": perhitungan NAIK eksponensial mendorong kinerja; Sisanya bodoh. Agama kepahitan, yang telah berkembang dari model bahasa besar (LLM) ke model dunia, sekarang menyebar dengan cepat melalui kuil-kuil biologi, kimia, dan kecerdasan yang tidak berubah (robotika dan kendaraan otonom). Namun, ketika doktrin Sutton menyebar, definisinya juga mulai berubah. Ini adalah ciri khas dari semua agama yang aktif dan hidup – argumen, ekstensi, komentar. "Memperpanjang Aturan Potongan Jebakan" tidak lagi hanya berarti memperpanjang Perhitungan Potongan Jebakan (Tabut bukan hanya kapal), sekarang mengacu pada berbagai metode yang bertujuan untuk meningkatkan kinerja transformator dan perhitungan, dengan beberapa trik. Sekarang, klasik mencakup upaya untuk mengoptimalkan setiap bagian dari tumpukan AI, dari teknik yang diterapkan pada model inti itu sendiri (menggabungkan model, pencampuran ahli (MoE), dan penyempurnaan pengetahuan) hingga menghasilkan data sintetis untuk memberi makan dewa-dewa yang terus-menerus lapar ini, dengan banyak eksperimen di antaranya. Baru-baru ini, sebuah pertanyaan yang berputar-putar di komunitas AI, dengan suasana jihad, adalah apakah "agama pahit" itu masih benar. Minggu ini, Harvard, Stanford, dan Massachusetts Institute of Technology menerbitkan sebuah makalah baru berjudul "Hukum Jebakan tentang Bagian Presisi Jebakan yang Diperpanjang," memicu konflik. Makalah ini membahas akhir dari keuntungan efisiensi dalam teknik kuantifikasi, seperangkat teknik yang meningkatkan kinerja model AI dan menguntungkan ekosistem Sumber Terbuka. Tim Dettmers, seorang ilmuwan peneliti di Allen Institute for Artificial Intelligence, menguraikan pentingnya dalam posting di bawah ini, menyebutnya "makalah paling penting dalam waktu yang lama." Ini merupakan kelanjutan dari dialog panas beberapa minggu terakhir dan mengungkapkan tren yang patut dicatat: meningkatnya konsolidasi kedua agama. CEO OpenAI Sam Altman dan CEO Antropik Dario Amodei berasal dari sekte yang sama. Keduanya dengan percaya diri mengatakan bahwa kita akan mencapai kecerdasan buatan umum (AGI) dalam 2-3 tahun ke depan atau lebih. Baik Altman dan Amodei bisa dibilang dua tokoh yang paling bergantung pada kesucian "agama pahit." Semua insentif mereka cenderung terlalu menjanjikan, menciptakan hype maksimum untuk mengakumulasi modal dalam permainan yang didominasi hampir seluruhnya oleh skala ekonomi. Jika memperluas aturan jebakan potongan bukanlah "alfa dan omega", awal dan akhir, awal dan akhir, lalu untuk apa Anda membutuhkan $ 22 miliar? Mantan kepala ilmuwan OpenAI Ilya Sutskever menganut prinsip jebakan yang berbeda. Bersama dengan peneliti lain, termasuk banyak dari dalam OpenAI, berdasarkan kebocoran baru-baru ini, ia percaya bahwa penskalaan potongan jebakan mendekati batas atasnya. Kelompok ini percaya bahwa mempertahankan kemajuan dan membawa AGI ke dunia nyata memerlukan ilmu pengetahuan dan penelitian baru. Faksi Sutskever secara sah berpendapat bahwa perluasan ide Altman yang berkelanjutan dari potongan jebakan tidak layak secara ekonomi. Sebagai artifisial ...