Đức tin đắng cay: Cuộc chiến thánh quanh luật mở rộng của trí tuệ nhân tạo

Trong lĩnh vực trí tuệ nhân tạo, sự giao thoa giữa tín ngưỡng và công nghệ đã tạo nên một cuộc tranh luận gay gắt xoay quanh hiệu quả và tương lai của 'Luật mở rộng', bài viết này khám phá sự xuất hiện, sự bất đồng và tác động tiềm ẩn của 'tôn giáo đắng'. Sự sáng tỏ mối quan hệ phức tạp giữa tín ngưỡng và khoa học. Cộng đồng trí tuệ nhân tạo rơi vào cuộc tranh cãi về tương lai của nó và xem xét liệu có đủ quy mô để tạo nên tôn giáo của Thượng Đế hay không. Bài viết này dịch từ bài viết của Mario Gabriele, được tổng hợp và biên dịch bởi Block unicorn. (Tóm tắt trước đó: Công ty trí tuệ nhân tạo của Musk hoàn thành vòng tài trợ C trị giá 6 tỷ USD, Nvidia, BlackRock, a16z... các ngôi sao hàng đầu trong ngành tham gia) (Bổ sung bối cảnh: Nvidia sẽ ra mắt nền tảng tính toán robot hình người 'Jetson Thor' vào năm tới, liệu thời điểm của ChatGPT AI sẽ đến?) Cuộc chiến thánh về trí tuệ nhân tạo Tôi thà sống cả đời mình như không có Thượng Đế, chẳng qua đến lúc chết mới phát hiện Thượng Đế không tồn tại, cũng không muốn sống như có Thượng Đế, chẳng qua đến lúc chết mới phát hiện Thượng Đế tồn tại. - Blaise Pascal Tôn giáo là một điều thú vị. Có lẽ bởi vì nó không thể được chứng minh trong bất kỳ hướng nào, hoặc có thể như câu nói yêu thích nhất của tôi: 'Bạn không thể sử dụng sự thật để chống lại cảm xúc.' Đặc điểm của niềm tin tôn giáo là trong quá trình tăng lên, chúng phát triển với tốc độ đáng kinh ngạc, đến mức gần như không thể nghi ngờ sự tồn tại của Thượng Đế. Khi mọi người xung quanh bạn ngày càng tin vào nó, bạn làm sao có thể nghi ngờ một sự tồn tại linh thiêng? Khi thế giới xếp lại xung quanh một tôn giáo, có còn chỗ cho sự chống đối không? Khi đền thờ và nhà thờ lớn, pháp luật và quy định được sắp xếp theo một Tin Mừng mới, cố định, có còn chỗ cho sự phản đối không? Khi tôn giáo Abraham lần đầu tiên xuất hiện và lan truyền đến các lục địa lớn, hoặc Phật giáo từ Ấn Độ lan truyền đến toàn châu Á, động lực tín ngưỡng đã tạo ra một vòng lặp tự củng cố. Khi có nhiều người theo đạo, và xây dựng các hệ thống thần học và nghi lễ phức tạp xung quanh những niềm tin này, việc nghi ngờ các giả thuyết cơ bản trở nên khó khăn hơn. Trong một đại dương đầy niềm tin, trở thành dị giáo không dễ dàng. Những nhà thờ lớn, kinh thánh phức tạp và tu viện phồn thịnh, tất cả đều là bằng chứng vật lý của sự tồn tại linh thiêng. Nhưng lịch sử tôn giáo cũng cho chúng ta thấy, cấu trúc như vậy rất dễ sụp đổ. Khi Kitô giáo lan truyền đến bán đảo Scandinavia, tín ngưỡng Bắc Âu cổ xưa đã sụp đổ chỉ trong vài thế hệ. Hệ thống tôn giáo cổ xưa của Ai Cập đã kéo dài hàng nghìn năm, nhưng cuối cùng tan biến khi niềm tin mới, lâu dài hơn, nổi lên và xuất hiện trong cấu trúc quyền lực lớn hơn. Ngay cả trong cùng một tôn giáo, chúng ta cũng thấy sự chia rẽ đầy kịch tính - Cải cách tôn giáo đã làm nứt rạn Kitô giáo phương Tây, và Great Schism dẫn đến sự chia lìa của Giáo hội Đông và Tây. Những sự chia rẽ này thường bắt đầu từ những bất đồng về giáo lý nhỏ nhặt, dần dần trở thành những hệ thống tín ngưỡng hoàn toàn khác nhau. Kinh thánh Thượng Đế là một phép tác giả nằm ngoài tầm suy nghĩ của tất cả các tri thức. Chính vì thế, rất đơn giản. - Joseph Campbell Một cách đơn giản, tin vào Thượng Đế chính là tôn giáo. Có lẽ sáng tạo Thượng Đế cũng chẳng khác gì. Từ khi ra đời, các nhà nghiên cứu trí tuệ nhân tạo lạc quan luôn tưởng tượng công việc của họ như là sự sáng tạo của Thượng Đế - tức là việc tạo ra Thượng Đế. Trong những năm gần đây, sự bùng nổ của Mô hình ngôn ngữ lớn (LLMs) đã củng cố thêm niềm tin của những người theo đạo rằng chúng ta đang đi trên con đường linh thiêng. Nó cũng chứng minh một bài viết blog viết năm 2019. Mặc dù người ngoài lĩnh vực trí tuệ nhân tạo chỉ mới biết đến nó gần đây, nhưng 'Bài học đắng' của nhà khoa học máy tính người Canada Richard Sutton đã trở thành một văn kiện ngày càng quan trọng trong cộng đồng, từ kiến thức kín đáo dần dần chuyển hóa thành một nền tảng tôn giáo mới, toàn diện và quý giá. Trong 1,113 từ (mỗi tôn giáo đều cần một số kỹ thuật số linh thiêng), Sutton tóm tắt một quan sát về công nghệ: 'Bài học lớn nhất từ 70 năm nghiên cứu trí tuệ nhân tạo là, việc sử dụng phương pháp tính toán chung cuối cùng là hiệu quả nhất, và là một ưu điểm khổng lồ.' Sự tiến bộ của mô hình trí tuệ nhân tạo được hưởng lợi từ sự tăng mạnh về tài nguyên tính toán, theo cùng với một làn sóng lớn theo Định luật Moore. Đồng thời, Sutton cũng chỉ ra rằng, nhiều công việc nghiên cứu trí tuệ nhân tạo tập trung vào việc tối ưu hóa hiệu suất thông qua các kỹ thuật chuyên môn - tăng kiến thức con người hoặc các công cụ hẹp. Mặc dù những tối ưu hóa này có thể giúp ích trong ngắn hạn, nhưng theo Sutton, chúng cuối cùng là lãng phí thời gian và tài nguyên, giống như việc điều chỉnh bộ lưới sóng trong khi một con sóng lớn đang đến, hoặc cố gắng thử nghiệm với sáp mới. Đây chính là nền tảng của 'tôn giáo đắng'. Nó chỉ có một điều lệ, được cộng đồng thường gọi là 'Luật mở rộng bẫy': tính toán tăng lên một cách tuyến tính thúc đẩy hiệu suất; tất cả còn lại đều ngu ngốc. Tôn giáo đắng đã mở rộng từ Mô hình ngôn ngữ lớn (LLMs) đến mô hình thế giới, và hiện đang nhanh chóng lan truyền qua các đền thờ chưa được biến đổi, chẳng hạn như sinh học, hóa học và trí tuệ nhân tạo vật lý (robot học và xe tự lái). Tuy nhiên, khi lý thuyết của Sutton lan tỏa, định nghĩa cũng bắt đầu thay đổi. Đây là dấu hiệu của tất cả các tôn giáo đầy năng lượng - tranh luận, mở rộng, chú thích. 'Luật mở rộng bẫy' không còn chỉ đơn thuần là tính toán tăng lên (tàu Noah không chỉ là một chiếc tàu), nó bây giờ ám chỉ mọi cách nhằm tối ưu hóa biến áp và hiệu suất tính toán, kèm theo một số kỹ thuật. Ngay bây giờ, cổ điển bao gồm các nỗ lực tối ưu hóa mỗi phần của ngăn xếp trí tuệ nhân tạo, từ các kỹ thuật áp dụng cho chính mô hình cốt lõi (kết hợp mô hình, hỗn hợp chuyên gia (MoE) và rút ra kiến thức) cho đến tạo dữ liệu tổng hợp để nuôi những vị thần luôn đói, và còn nhiều thí nghiệm khác. Các phái chiến đấu Gần đây, một vấn đề nổi lên trong cộng đồng trí tuệ nhân tạo, mang hơi hướm của cuộc thánh chiến, đó là liệu 'tôn giáo đắng' còn đúng hay không. Tuần này, Đại học Harvard, Đại học Stanford và Massachusetts Institute of Technology đã công bố một bài báo mới có tiêu đề 'Luật mở rộng bẫy của độ chính xác', gây ra một cuộc xung đột. Bài báo này bàn luận về sự chấm dứt của lợi ích tăng cường hiệu suất của kỹ thuật đo lường, một loạt các cải tiến hiệu suất mô hình trí tuệ nhân tạo và có lợi cho hệ sinh thái mã nguồn mở. Tim Dettmers, nhà nghiên cứu khoa học tại Viện Nghiên cứu Trí tuệ nhân tạo Allen, đã tổng hợp tầm quan trọng của nó trong bài đăng dưới đây, gọi nó là 'bài báo quan trọng nhất trong một thời gian dài'. Nó biểu thị sự tiếp nối của một cuộc trò chuyện đang ngày càng nóng lên trong vài tuần qua, và tiết lộ một xu hướng đáng chú ý: sự củng cố ngày càng rõ rệt của hai tôn giáo. Giám đốc điều hành OpenAI Sam Altman và Giám đốc điều hành Anthropic Dario Amodei thuộc cùng một phái. Cả hai đều tự tin tuyên bố rằng chúng ta sẽ đạt được Trí tuệ nhân tạo tổng quát (AGI) trong khoảng 2-3 năm tới. Altman và Amodei có thể coi là hai nhân vật phụ thuộc nhiều nhất vào tính linh thiêng của 'tôn giáo đắng'. Tất cả các biện pháp kích động của họ đều hướng về việc quá mức cam kết, tạo ra sự quảng bá lớn nhất, nhằm tích luỹ vốn trong trò chơi gần như hoàn toàn do quy mô kinh tế chi phối. Nếu 'Luật mở rộng bẫy' không phải là 'Alpha và Omega', ban đầu và cuối cùng, bắt đầu và kết thúc, thì bạn cần 220 tỷ USD để làm gì? Nguyên nhà khoa học trưởng của OpenAI Ilya Sutskever theo đuổi một nguyên tắc bẫy khác. Ông và những nhà nghiên cứu khác (bao gồm nhiều nhà nghiên cứu nội bộ của OpenAI, theo thông tin rò rỉ gần đây) cho rằng, 'Luật mở rộng bẫy' đang tiến gần đến giới hạn. Nhóm này cho rằng, để duy trì tiến triển và đưa AGI vào thực tế, sẽ cần phải có sự tiến bộ và nghiên cứu mới. Sutskever hợp lý khi chỉ ra rằng, triết lý tiếp tục mở rộng bẫy của Altman trong mặt kinh tế là không khả thi. Như...