Виталик боится AGI и ASI: люди должны сосредоточиться на инструментах усиления интеллекта, а не на замене их искусственным интеллектом.

Соучредитель Ethereum Vitalik Buterin поделился на Twitter уникальной точкой зрения на AGI (искусственный общий интеллект) и ASI (искусственный сверхинтеллект), подчеркивая необходимость сосредоточиться на инструментах искусственного интеллекта, а не на развитии суперинтеллектуальных жизней, заменяющих человечество. Он очень боится излишнего развития AGI и ASI.

AGI - это искусственный интеллект, который поддерживает независимость цивилизации

Виталик определяет AGI как довольно мощный искусственный интеллект. Он говорит, что если все люди внезапно исчезнут, а этот искусственный интеллект будет установлен в роботов, то он сможет работать независимо и поддерживать развитие всей цивилизации. Он добавляет, что этот концепт будет переходить от «инструментальной» традиционной искусственной интеллектуализации к форме «самообслуживания жизни».

Виталик указал, что текущая технология не способна смоделировать такую ​​ситуацию, мы не можем действительно проверить, сможет ли искусственный интеллект поддерживать цивилизацию без участия людей, трудно определить стандарт "развития цивилизации", какие условия означают, что цивилизация продолжает функционировать, и сами эти вопросы очень сложны, но возможно, это и есть основной источник различия между AGI и обычным искусственным интеллектом, который люди могут непосредственно выделить.

(Примечание: саморегулирующаяся форма жизни, означающая способность самостоятельно получать и использовать ресурсы для поддержания жизнедеятельности, адаптироваться к изменению окружающей среды и продолжать существовать в определенных условиях, организм или система жизни).

Подчеркивается важность интеллектуальных помощников, а не замена людей искусственным интеллектом

Виталик дает определение искусственного сверхинтеллекта (ASI), которое заключается в том, что когда прогресс искусственного интеллекта превышает ценность, которую может предоставить участие человека, и достигает полностью автономной и более эффективной стадии. Он приводит пример шахмат, где за последние десять лет уровень ИИ превысил лучшие достижения совместной работы человека и ИИ, и признает, что ASI пугает его, потому что это означает, что человечество может реально потерять контроль над ИИ.

Виталик сказал, что вместо создания сверхумной жизни лучше сосредоточиться на разработке инструментов, способных улучшить человеческий разум и способности. Он считает, что искусственный интеллект должен служить человеку, а не заменять его. Он считает, что такой путь развития может снизить риск неконтролируемого ИИ и повысить эффективность и стабильность общества в целом.

(Угроза безработицы, принесенная AI генерацией: Сотрудники Amazon будут полностью заменены флотом машин?)

В этой статье Виталик боится AGI и ASI: люди должны придерживаться инструментов усиления интеллекта, а не заменять их на искусственный интеллект. Оригинал опубликован на Цепной Новости ABMedia.