ศาสนาที่ยากลำบาก: สงครามศักดิ์สิทธิ์ที่เกี่ยวกับประชาธิปไตยของ AI

ในด้านปัญญาประดิษฐ์จุดตัดของความเชื่อและเทคโนโลยีได้ก่อให้เกิดการถกเถียงกันอย่างดุเดือดเกี่ยวกับความถูกต้องและการพัฒนาในอนาคตของ "กฎแห่งการขยายตัว" บทความนี้สํารวจการเพิ่มขึ้นความแตกต่างและผลกระทบที่เป็นไปได้ของ "ศาสนาที่ขมขื่น" นี้เผยให้เห็นความสัมพันธ์ที่ซับซ้อนระหว่างความเชื่อและวิทยาศาสตร์ ชุมชน AI ถูกขังอยู่ในการต่อสู้ด้านหลักคําสอนเกี่ยวกับอนาคตและมันจะใหญ่พอที่จะสร้างพระเจ้าหรือไม่ บทความนี้มาจากบทความโดย Mario Gabriele และรวบรวมโดย Block unicorn (เรื่องย่อ: xAI ของ Musk เสร็จสิ้นการจัดหาเงินทุน Series C มูลค่า 6 พันล้านดอลลาร์, Huida, BlackRock, a16z... คนดังในวงการจํานวนหนึ่งเข้าร่วม) (เสริมพื้นหลัง: Huida เปิดตัวแพลตฟอร์มคอมพิวเตอร์หุ่นยนต์ฮิวแมนนอยด์ "Jetson Thor" ในปีหน้าช่วงเวลา ChatGPT ของ AI ทางกายภาพ? ฉันอยากจะใช้ชีวิตเหมือนมีพระเจ้าและรอจนกว่าฉันจะตายเพื่อค้นหาว่าพระเจ้าไม่มีอยู่จริงมากกว่ามีชีวิตอยู่เหมือนไม่มีพระเจ้าและรอจนกว่าฉันจะตายเพื่อค้นหาว่าพระเจ้ามีอยู่จริง - ศาสนา Blaise Pascal เป็นสิ่งที่น่าสนใจ บางทีอาจเป็นเพราะไม่สามารถพิสูจน์ได้อย่างสมบูรณ์ในทุกทิศทางหรืออาจเป็นเหมือนคําพูดโปรดของฉัน: "คุณไม่สามารถต่อสู้กับความรู้สึกด้วยข้อเท็จจริงได้" ความเชื่อทางศาสนามีลักษณะเฉพาะด้วยความจริงที่ว่าในกระบวนการเชื่อขึ้นพวกเขาเร่งความเร็วอย่างไม่น่าเชื่อจนแทบจะเป็นไปไม่ได้เลยที่จะสงสัยการดํารงอยู่ของพระเจ้า คุณจะสงสัยในสิ่งศักดิ์สิทธิ์ได้อย่างไรเมื่อคนรอบข้างเชื่อในสิ่งนั้นมากขึ้นเรื่อย ๆ เมื่อโลกจัดเรียงตัวเองใหม่รอบหลักคําสอนฐานที่มั่นของพวกนอกรีตอยู่ที่ไหน? มีที่ว่างสําหรับการต่อต้านที่ไหนเมื่อพระวิหารและมหาวิหารกฎหมายและบรรทัดฐานถูกจัดเรียงตามพระกิตติคุณใหม่ที่ไม่สั่นคลอน? เมื่อศาสนาอับราฮัมเกิดขึ้นครั้งแรกและแพร่กระจายไปทั่วทวีปหรือเมื่อพระพุทธศาสนาแพร่กระจายจากอินเดียไปยังเอเชียทั้งหมดโมเมนตัมอันยิ่งใหญ่ของศรัทธาได้สร้างวงจรการเสริมสร้างตนเอง เมื่อผู้คนจํานวนมากขึ้นเปลี่ยนใจเลื่อมใสและระบบเทววิทยาและพิธีกรรมที่ซับซ้อนถูกสร้างขึ้นจากความเชื่อเหล่านี้การตั้งคําถามกับสถานที่พื้นฐานเหล่านี้จึงยากขึ้นเรื่อย ๆ ในทะเลแห่งความโง่เขลามันไม่ง่ายเลยที่จะกลายเป็นคนนอกรีต โบสถ์อันงดงาม คัมภีร์ทางศาสนาที่สลับซับซ้อน และอารามที่เจริญรุ่งเรืองล้วนเป็นหลักฐานทางกายภาพของการดํารงอยู่ของพระเจ้า แต่ประวัติศาสตร์ของศาสนายังบอกเราว่าโครงสร้างดังกล่าวสามารถพังทลายได้ง่ายเพียงใด เมื่อศาสนาคริสต์แพร่กระจายไปยังสแกนดิเนเวียความเชื่อของชาวนอร์ดิกโบราณก็พังทลายลงในเวลาเพียงไม่กี่ชั่วอายุคน ระบบศาสนาของอียิปต์โบราณกินเวลาหลายพันปีในที่สุดก็หายไปเมื่อความเชื่อใหม่ที่ถาวรมากขึ้นเกิดขึ้นและโครงสร้างอํานาจที่ใหญ่ขึ้นก็เกิดขึ้น แม้แต่ในศาสนาเดียวกันเราก็เห็นการแบ่งแยกที่น่าทึ่ง - การปฏิรูปฉีกศาสนาคริสต์ตะวันตกในขณะที่ Great Schism นําไปสู่การแยกระหว่างคริสตจักรตะวันออกและตะวันตก การแบ่งแยกเหล่านี้มักเริ่มต้นด้วยความแตกต่างทางหลักคําสอนที่ดูเหมือนเล็กน้อยและค่อยๆ พัฒนาเป็นระบบความเชื่อที่แตกต่างอย่างสิ้นเชิง พระเจ้าเป็นคําอุปมาที่อยู่เหนือความคิดทางปัญญาทุกระดับ มันง่ายมาก - โจเซฟ แคมป์เบลล์ พูดง่ายๆ ว่า การเชื่อในพระเจ้าคือศาสนา บางทีการสร้างของพระเจ้าก็ไม่ต่างกัน ตั้งแต่เริ่มก่อตั้งนักวิจัย AI ที่มองโลกในแง่ดีได้จินตนาการถึงงานของพวกเขาในฐานะครีเอทีฟนิสม์—การสร้างของพระเจ้า ในช่วงไม่กี่ปีที่ผ่านมาการระเบิดของแบบจําลองภาษาขนาดใหญ่ (LLMs) ได้เสริมสร้างความเชื่อของผู้เชื่อว่าเราอยู่บนเส้นทางศักดิ์สิทธิ์ นอกจากนี้ยังยืนยันโพสต์บล็อกที่เขียนในปี 2019 แม้ว่าผู้คนที่อยู่นอกสาขาปัญญาประดิษฐ์จะไม่รู้เกี่ยวกับเรื่องนี้จนกระทั่งเมื่อเร็ว ๆ นี้ แต่ Bitter Lessons ของ Richard Sutton นักวิทยาศาสตร์คอมพิวเตอร์ชาวแคนาดาได้กลายเป็นข้อความที่สําคัญมากขึ้นในชุมชนโดยพัฒนาจากความรู้ลับไปสู่รากฐานทางศาสนาใหม่ที่ครอบคลุมทั้งหมด ใน 1,113 คํา (ทุกศาสนาต้องการตัวเลขศักดิ์สิทธิ์) ซัตตันสรุปข้อสังเกตทางเทคนิค: "บทเรียนที่ใหญ่ที่สุดที่สามารถเรียนรู้ได้จากการวิจัย AI 70 ปีคือวิธีการสากลในการใช้ประโยชน์จากการคํานวณนั้นมีประสิทธิภาพมากที่สุดและเป็นข้อได้เปรียบอย่างมาก" ความก้าวหน้าในโมเดล AI ได้รับประโยชน์จากทรัพยากรการประมวลผลที่เพิ่มขึ้นแบบทวีคูณ ในเวลาเดียวกัน Sutton ชี้ให้เห็นว่างานส่วนใหญ่ในการวิจัย AI มุ่งเน้นไปที่การเพิ่มประสิทธิภาพผ่านเทคนิคพิเศษ - เพิ่มความรู้ของมนุษย์หรือเครื่องมือแคบ ๆ แม้ว่าการเพิ่มประสิทธิภาพเหล่านี้อาจช่วยได้ในระยะสั้น แต่ในมุมมองของซัตตันในที่สุดพวกเขาก็เสียเวลาและทรัพยากรเช่นการปรับครีบของกระดานโต้คลื่นหรือลองแว็กซ์ใหม่เมื่อคลื่นขนาดใหญ่มาถึง นี่คือพื้นฐานของสิ่งที่เราเรียกว่า "ศาสนาแห่งความขมขื่น" มีศีลข้อเดียวซึ่งมักเรียกในชุมชนว่า "กฎแห่งส่วนขยาย": ประสิทธิภาพการขับเคลื่อนเชิงคํานวณแบบทวีคูณ ส่วนที่เหลือโง่ ศาสนาแห่งความขมขื่นซึ่งขยายจากแบบจําลองภาษาขนาดใหญ่ (LLMs) ไปจนถึงชิ้นส่วนกับดักไปจนถึงแบบจําลองโลกกําลังแพร่กระจายอย่างรวดเร็วผ่านวัดชีววิทยาเคมีและสติปัญญาที่เป็นตัวเป็นตน (หุ่นยนต์และยานพาหนะอัตโนมัติ) อย่างไรก็ตามเมื่อหลักคําสอนของซัตตันแพร่กระจายคําจํากัดความก็เริ่มเปลี่ยนไปเช่นกัน นี่คือจุดเด่นของศาสนาที่กระตือรือร้นและมีชีวิตทั้งหมด - ข้อโต้แย้งส่วนขยายความเห็น "Extension กับดัก Piece Law" ไม่ได้หมายถึงการขยายการคํานวณชิ้นส่วนกับดักอีกต่อไป (หีบไม่ได้เป็นเพียงเรือ) แต่ตอนนี้หมายถึงวิธีการต่าง ๆ ที่มุ่งปรับปรุงประสิทธิภาพของหม้อแปลงและการคํานวณด้วยเทคนิคบางอย่าง ตอนนี้คลาสสิกครอบคลุมความพยายามในการเพิ่มประสิทธิภาพทุกส่วนของสแต็ค AI ตั้งแต่เทคนิคที่ใช้กับโมเดลหลักเอง (การรวมโมเดลการผสมโดยผู้เชี่ยวชาญ (MoE) และการปรับแต่งความรู้) ไปจนถึงการสร้างข้อมูลสังเคราะห์เพื่อเลี้ยงเทพเจ้าที่หิวโหยเหล่านี้โดยมีการทดลองมากมายในระหว่างนั้น เมื่อเร็ว ๆ นี้คําถามที่หมุนวนในชุมชน AI ด้วยอากาศของญิฮาดคือ "ศาสนาที่ขมขื่น" ยังคงถูกต้องหรือไม่ สัปดาห์นี้ Harvard, Stanford และ Massachusetts Institute of Technology ได้ตีพิมพ์บทความใหม่ชื่อ "The Extension of Precision กับดัก จุดประกายความขัดแย้ง" บทความนี้กล่าวถึงจุดสิ้นสุดของประสิทธิภาพที่เพิ่มขึ้นในเทคนิคการหาปริมาณซึ่งเป็นชุดของเทคนิคที่ปรับปรุงประสิทธิภาพของแบบจําลอง AI และเป็นประโยชน์ต่อระบบนิเวศของระบบนิเวศของโอเพ่นซอร์ส Tim Dettmers นักวิทยาศาสตร์วิจัยที่ Allen Institute for Artificial Intelligence ได้สรุปความสําคัญไว้ในโพสต์ด้านล่างโดยเรียกมันว่า "กระดาษที่สําคัญที่สุดในระยะเวลาอันยาวนาน" มันแสดงถึงความต่อเนื่องของการสนทนาที่ร้อนแรงในช่วงไม่กี่สัปดาห์ที่ผ่านมาและเผยให้เห็นแนวโน้มที่สําคัญ: การรวมตัวที่เพิ่มขึ้นของทั้งสองศาสนา Sam Altman ซีอีโอของ OpenAI และ Dario Amodei ซีอีโอของ Anthropic อยู่ในนิกายเดียวกัน ทั้งสองพูดอย่างมั่นใจว่าเราจะบรรลุปัญญาประดิษฐ์ทั่วไป (AGI) ในอีก 2-3 ปีข้างหน้าหรือมากกว่านั้น ทั้ง Altman และ Amodei เป็นตัวเลขสองตัวที่ขึ้นอยู่กับความศักดิ์สิทธิ์ของ "ศาสนาที่ขมขื่น" มากที่สุด สิ่งจูงใจทั้งหมดของพวกเขามีแนวโน้มที่จะ overpromise สร้าง hype สูงสุดเพื่อสะสมเงินทุนในเกมที่ครอบงําเกือบทั้งหมดโดยการประหยัดต่อขนาด หากกฎการขยายกับดักชิ้นไม่ใช่ "อัลฟ่ากับโอเมก้า" จุดเริ่มต้นและจุดสิ้นสุดแล้วคุณต้องการเงิน 22 พันล้านดอลลาร์เพื่ออะไร? อดีตหัวหน้านักวิทยาศาสตร์ OpenAI Ilya Sutskever ยึดมั่นในหลักการที่แตกต่างกัน พร้อมกับนักวิจัยคนอื่น ๆ รวมถึงหลายคนจากภายใน OpenAI จากการรั่วไหลเมื่อเร็ว ๆ นี้เขาเชื่อว่าชิ้นส่วนกับดักส่วนขยายกําลังใกล้ถึงขีด จํากัด บน กลุ่มเชื่อว่าความก้าวหน้าที่ยั่งยืนและนํา AGI เข้าสู่โลกแห่งความเป็นจริงจําเป็นต้องมีวิทยาศาสตร์และการวิจัยใหม่ ฝ่าย Sutskever ให้เหตุผลอย่างถูกต้องตามกฎหมายว่าแนวคิดของฝ่าย Altman เกี่ยวกับการขยายตัวอย่างต่อเนื่องของชิ้นส่วนกับดักนั้นไม่สามารถทําได้ในเชิงเศรษฐกิจ เป็นเทียม ...