Пересылаем оригинальный заголовок: d/acc: год спустя

Примерно год назад я написал статья о техно-оптимизме, описывая мою общую энтузиазм по поводу технологий и огромных выгод, которые они могут принести, а также мою осторожность в отношении нескольких конкретных проблем, в основном связанных с сверхинтеллектуальным искусственным интеллектом и риском, который он может принести, либо необратимого лишения людей власти, если технология будет построена неправильно. Одна из основных идей в моем посте была философия: децентрализованное и демократическое дифференциальное оборонительное ускорение. Ускорять технологии, но дифференцированно сосредоточиваться на технологиях, улучшающих нашу способность к защите, а не способность причинять вред, и на технологиях, распределяющих власть, а не концентрирующих ее в руках единого элитного класса, который решает, что является истиной, ложью, хорошим или злом от имени всех. Защита, как в демократии.Швейцарияи исторически псевдо-анархистическийЗомия, не как владения и замки средневекового феодализма.

За год с тех пор философия и идеи значительно усовершенствовались. Я говорил о идеях на 80,000 Часов, и я видел много откликов, в основном положительных и некоторых критических. Сама работа продолжается и приносит плоды: мы увидеть прогрессв проверяемомвакцины с открытым исходным кодом, растущее признание ценности здорового воздуха в помещении, Community Notes продолжают сиять, прорывной год длярыночные прогнозы как инструмент информации, ZK-SNARKs в идентификационный документ правительстваисоциальные медиа (и обеспечениеEthereumкошелькичерезабстракция учетной записи), инструменты для обработки изображений с открытым исходным кодом с приложениями в медицине и BCI и многое другое. Осенью у нас состоялся первый значимый d/acc ивент: "d/acc Discovery Day" (d/aDDy) на Devcon, которая представляла собой полный день выступлений от всех столпов d/acc (био, физической, кибернетической, информационной защиты, а также нейротехнологий). Люди, работающие над этими технологиями много лет, все больше осознают работу друг друга, и люди извне все больше осознают большую историю: те же ценности, которые побудили Ethereum и крипто может быть применено к широкому миру.

Оглавление

• Что такое d/acc и что не является
• Третье измерение: выживать и процветать
• Сложный вопрос: безопасность ИИ, короткие сроки и регулирование
• Роль криптовалюты в d/acc
• d/acc и финансирование общественных благ
• Будущее

Что такое d/acc и что это не так

Это год 2042 года. Вы видите сообщения в СМИ о новой потенциальной пандемии в вашем городе. Вы привыкли к этому: люди слишком взволнованы каждой мутации болезни животных, и большинство из них не приводят ни к чему. Предыдущие две потенциальные пандемии были обнаружены очень рано благодаря...мониторинг сточных водианализ открытых источников социальных медиа, и полностью остановились на полпути. Но на этот раз прогнозные рынки показывают вероятность в 60% по крайней мере 10 000 случаев, поэтому вы более обеспокоены.

Последовательность вируса была идентифицирована вчера. Обновления программного обеспечения для вашего кармана тестер воздухачтобы позволить ему обнаруживать новый вирус (из одного вдоха или из 15 минут воздействия на воздух в помещении) уже доступны. Инструкции с открытым исходным кодом и код для создания вакцины с использованием оборудования, которое можно найти в любом современном медицинском учреждении по всему миру, должны быть доступны в течение нескольких недель. Большинство людей пока еще не предпринимают никаких действий, полагаясь в основном на широкое применение воздушной фильтрации и вентиляции для защиты. У вас есть иммунная система, поэтому вы осторожнее: ваш локальный персональный помощник с открытым исходным кодом, который, в том числе, занимается навигацией и рекомендациями ресторанов и событий, также учитывает данные о реальном времени тестера воздуха и уровне CO2, чтобы рекомендовать только самые безопасные места. Данные предоставляются многими тысячами участников и устройств с использованиемZk-SNARKsидифференциальная конфиденциальностьчтобы минимизировать риск утечки данных или их злоупотребления в других целях (если вы хотите внести свой вклад в эти наборы данных, есть другие помощники, которые проверяют формальные доказательства того, что эти криптографические гаджеты действительно работают).

Через два месяца пандемия исчезла: похоже, что 60% людей, следующих базовым протоколам, таким как надевание маски, если аэротестер издаст звуковой сигнал и покажет наличие вируса, и оставание дома, если у них лично положительный тест, было достаточно, чтобы снизить уровень передачи, который уже был сильно снижен благодаря пассивной очистке воздуха. Болезнь, которая по симуляциям могла быть в пять раз хуже, чем Ковид двадцать лет назад, оказалась неважным вопросом сегодня.

Девкон день аккаунта

Одним из самых позитивных моментов события d/acc на Devcon было то, насколько зонтик d/acc успешно объединил людей из совершенно разных областей и заинтересовал их работой друг друга.

Создавать мероприятия с «разнообразием» легко, но сделать так, чтобы разные люди с разным опытом и интересами действительно общались друг с другом, сложно. У меня до сих пор сохранились воспоминания о том, как меня заставляли смотреть длинные оперы в средней и старшей школе, и лично я находил их скучными. Я знал, что «должен» ценить их, потому что если бы я этого не сделал, то стал бы некультурным неряхой в области информатики, но я не связывался с контентом на более искреннем уровне. День D/ACC был совсем не таким: казалось, что людям на самом деле нравится узнавать о самых разных видах работы в разных областях.

Если мы хотим создать более светлую альтернативу господству, замедлению и неудаче, нам нужно такое широкое коалиционное движение. Похоже, что d/acc действительно справляется с этим, и это само по себе показывает ценность идеи.

Основная идея d/acc проста: децентрализованное и демократическое дифференциальное ускорение защиты. Создавайте технологии, которые сдвигают баланс между атакой и защитой в пользу защиты, и делайте это таким образом, чтобы не приходилось передавать больше власти централизованным органам. Существует неотъемлемая связь между этими двумя сторонами: любая форма децентрализованной, демократической или либеральной политической структуры наилучшим образом процветает, когда защита легка, и сталкивается с наибольшими трудностями, когда защита сложна - в таких случаях гораздо более вероятным исходом является некоторый период войны всех против всех и в конечном итоге равновесие правления самыми сильными.

Основной принцип d/acc распространяется на множество областей:

График из Мой техно-оптимизм, в прошлом году

Один из способов понять важность стремления быть децентрализованным, защитным и стремиться к ускорению одновременно - это сопоставить его с философией, которую вы получаете, когда отказываетесь от каждого из трех.

• Децентрализованное ускорение, но не беспокойтесь о части 'дифференциальной защиты'. В основном, станьте e/acc , но децентрализовано. Есть много людей, которые подходят к этому вопросу,некоторыекоторые сами себя называют d/acc, но полезно описывают свою направленность как «ОФФЕНСИВА», а также множество других, которые в более умеренной форме интересуются «децентрализованным искусственным интеллектом» и подобными темами, но, по моему мнению, недостаточно обращают внимание на «защитный» аспект.

На мой взгляд, такой подход может избежать риска глобальной диктатуры человечества конкретным племенем, о котором вы беспокоитесь, но у него нет ответа на основную структурную проблему: в среде, благоприятствующей нарушениям, постоянно существует риск либо катастрофы, либо того, что кто-то позиционирует себя как защитник и на постоянной основе устанавливает себя на вершине. В конкретном случае искусственного интеллекта у него также нет хорошего ответа на риск того, что люди в целом будут лишены власти по сравнению с ИИ.

• Дифференцированное защитное ускорение, но не заботится о «децентрализованной и демократической». Принятие централизованного контроля ради безопасности имеет постоянное привлечение определенной группы людей, и читатели, безусловно, уже знакомы с множеством примеров и их недостатками. Недавно некоторые опасаются, что чрезвычайный централизованный контроль является единственным решением для экстремальных технологий будущего: см. этот гипотетический сценарийгде «Каждый оборудован «тегом свободы» - последовательностью более ограниченных носимых устройств наблюдения, знакомых сегодня, таких как наручный тег, используемый в нескольких странах в качестве альтернативы тюрьме... зашифрованное видео и аудио непрерывно загружается и машинно интерпретируется в реальном времени». Однако централизованное управление - это спектр. Один из более мягких вариантов централизованного управления, который обычно игнорируется, но все же вреден, - это сопротивление общественному контролю в биотехнологии (например, еда, вакцины), и закрытые нормы, которые позволяют этому сопротивлению оставаться безнаказанным.

Риск этого подхода, конечно, в том, что центр часто сам является источником риска. Мы видели это на примере Covid, где исследования по усилению функций, финансируемые несколько крупных мировых правительствмогло стать источником пандемии, централизованная эпистемология привела к ВОЗ не признаваядлягодычто Ковид передается воздушно-капельным путем, и принудительныесоциальное дистанцирование и вакцинамандаты вызвали политическое негодование, которое может прозвучать еще десятилетия. Аналогичная ситуация может возникнуть вокруг любых рисков, связанных с искусственным интеллектом или другими технологиями. Децентрализованный подход лучше справится с рисками прямо из центра.

• Децентрализованная защита, но не заботится о ускорении - в основном, попытка замедлить технологический прогресс или экономическийdegrowth.

Основная проблема данной стратегии заключается в двух аспектах. Во-первых, на фоне технологического и экономического роста они оказались чрезвычайно полезными для человечества, и любая задержка в этом влечет за собой издержкичто естьтрудно переоценитьВо-вторых, в недемократическом мире отсутствие продвижения является нестабильным: тот, кто больше всех "обманывает" и находит правдоподобные способы продвижения, все равно добьется успеха. Декларационистские стратегии могут работать в определенной степени в определенных контекстах: европейская пища более здоровая, чем американская, является одним примером, успех ядерного нераспространения на сегодняшний день - другим. Но они не могут работать вечно.

С d/acc мы хотим:

• Будьте принципиальными в то время, когда большая часть мира становится племенной, и не просто стройте что попало - скорее, мы хотим строить конкретные вещи, которые делают мир безопаснее и лучше.
• Признайте, что экспоненциальный технологический прогресс означает, что мир станет очень-очень странным, и что общий «след» человечества во Вселенной будет только увеличиваться. Наша способность защитить уязвимых животных, растения и людей от опасности должна улучшиться, но выход только вперед.
• Строить технологии, которые обеспечивают нашу безопасность, не предполагая, что «хорошие парни (или хорошие искусственные интеллекты) управляют». Мы делаем это, создавая инструменты, которые естественно более эффективныйкогда используется для построения и защиты, чем при использовании для уничтожения.

Еще один способ подумать о d/acc - вернуться к кадру издвижения Пиратской партиив Европе в конце 00-х годов: empowerment.

Цель состоит в том, чтобы создать мир, где мы сохраняем человеческое агентство, достигаяобаотрицательная свобода избегать активного вмешательства (как от других людей, действующих как частные граждане, так и от правительств, или от сверхинтеллектуальных ботов) в нашу способность формировать свою собственную судьбу и положительная свобода гарантировать, что у нас есть знания и ресурсы. Это эхо вековой классической либеральной традиции, к которой также принадлежит фокус Стюарта Брэнда на «доступ к инструментам"и "Джон Стюарт Милльакцент на образованиерядомсвободакак ключевые компоненты человеческого прогресса - и, возможно, стоит добавить, желание Бакминстера Фуллера видеть процесс глобального решения участвующий и широко распространенный. Мы видим d/acc как способ достижения тех же целей, учитывая технологическую обстановку 21-го века.

Третье измерение: выживать и процветать

В моем посте в прошлом году, d/acc специально сосредоточился на защитных технологиях: физическая защита, биозащита, киберзащита и информационная защита. Однако, децентрализованная защита недостаточна, чтобы сделать мир великим: вам также необходимо прогрессивное и позитивное видение того, что человечество может использовать свою новообретенную децентрализацию и безопасность для достижения.

Прошлогодний пост содержал позитивное видение в двух местах:

1. Сосредоточившись на проблемах сверхинтеллекта, я предложил путь (далеко не оригинальный для меня) того, как мы можем иметь сверхразум без бессилия:
   1. Сегодня создавайте ИИ как инструмент, а не ИИ как высокоавтономных агентов
   2. Завтра используйте инструменты, такие каквиртуальная реальность, myoelectricsи интерфейсов мозг-компьютер для создания все более тесной связи между ИИ и людьми
   3. С течением времени двигайтесь к конечной игре, где сверхинтеллект является тесно связанной комбинацией машин и нас.
2. Когда речь идет об информационной защите, я также косвенно упомянул, что помимо _защитной_ социальной технологии, которая пытается помочь сообществам поддерживать согласованность и иметь высококачественный диалог в условиях атак, существует и прогрессивная социальная технология, которая может помочь сообществам более готово принимать качественные суждения:pol.isэто один пример, ипрогноз рынкиеще один.

Но эти два пункта казались не связанными с аргументом d/acc: «вот несколько идей по созданию более демократичного и благоприятного для обороны мира на базовом уровне, и, кстати, вот несколько не связанных между собой идей о том, как мы могли бы сделать сверхинтеллект».

Тем не менее, я думаю, что на самом деле есть некоторые очень важные связи между тем, что было обозначено выше как «оборонительная» и «прогрессивная» технология d/acc. Давайте расширим диаграмму d/acc из прошлогоднего поста, добавив эту ось (также, давайте переименуем ее в "выживать против процветания“) к графику и посмотреть, что выходит:

Существует последовательная закономерность, действующая во всех областях, что наука, идеи и инструменты, способствующие нашему «выживанию» в одной области, в тесной связи с наукой, идеями и инструментами, которые могут помочь нам «процветать». Некоторые примеры:

• Много новейших исследований по борьбе с Covid сосредоточены на Роль вирусной персистенциив теле как механизм того, почему длительная коронавирусная инфекция является такой проблемой. Недавно также появились признаки вирусной персистенцииможет быть ответственным за болезнь Альцгеймера- если это правда, это означает, что борьба с вирусной устойчивостью во всех типах тканей может быть ключом к решению проблемы старения.
• Низкая стоимость и миниатюрностьинструменты для обработки изображенийнапример, такие как те, которыепостроенный Openwater может быть мощным для лечения микротромбы, или вирусная устойчивость, раки, и их также можно использовать для BCI.
• Очень похожие идеи мотивируют создание социальных инструментов, предназначенных для высоко-адверсарных сред, таких как Заметки сообщества, и социальные инструменты, созданные для разумных сотрудничающих сред, таких как pol.is.
• Прогностические рынки ценныйв обоихвысокое сотрудничествоиВысокие невзгодысреды.
• Доказательства нулевого знания и аналогичные технологии для выполнения вычислений на данных, сохраняя конфиденциальность, как увеличивают доступные данные для полезной работы, например, науки, так и повышают уровень конфиденциальности.
• Солнечная энергия и аккумуляторы отлично подходят дляускорение следующей волны чистого экономического роста, но они также удивительны для децентрализации и физической устойчивости.

Кроме того, существуют также важные взаимосвязи между предметными областями:

• BCI является очень актуальной технологией информационной защиты и сотрудничества, поскольку она может обеспечить более детальную коммуникацию наших мыслей и намерений. BCI не только бот-к сознанию: это также может быть сознание-бот-к сознанию. Это напоминает gate.Множество идей о ценности BCI.
• Многое в биотехнологии зависит от обмена информацией, и во многих случаях люди будут комфортно обмениваться информацией только в том случае, если они уверены, что она будет использоваться только для одного приложения. Это зависит от технологии конфиденциальности (например, ZKP, FHE, затруднение...).
• Технология сотрудничества может использоваться для координации финансирования любой другой области технологий

Сложный вопрос: безопасность искусственного интеллекта, короткие сроки и регулирование

У разных людей очень разные временные рамки для искусственного интеллекта. Диаграмма от Zuzalu в Черногории, 2023 год.

Аргументом против моего прошлогоднего поста, который я нашел наиболее убедительным, была критика со стороны сообщества безопасности ИИ. Аргумент звучит так: «Конечно, если у нас есть полвека до того, как мы получим сильный ИИ, мы сможем сконцентрировать нашу энергию и создать все эти хорошие вещи. Но на самом деле, похоже, что у нас есть три года до ОИИ и еще три года до сверхразума. И поэтому, если мы не хотим, чтобы мир был разрушен или иным образом попал в необратимую ловушку, мы не можем только ускорить хорошее, мы также должны замедлить плохое, а это означает принятие мощных правил, которые могут расстроить влиятельных людей». В своем прошлогоднем посте я действительно не призывал к какой-либо конкретной стратегии «замедления плохого», кроме расплывчатых призывов не создавать рискованные формы сверхинтеллекта. И здесь стоит обратиться к прямому вопросу: если мы живем в наименее удобный мир, где риск ИИ высок, а сроки потенциально могут составлять пять лет, какое регулирование я бы поддержал?

Сначала аргументы в пользу осторожности в отношении новых регуляций

В прошлом году основным предложенным регулированием искусственного интеллекта было Законопроект SB-1047 в Калифорнии. SB-1047 требовал от разработчиков самых мощных моделей (тех, на обучение которых требуется более 100 миллионов долларов, или более 10 миллионов долларов в случае тонкой настройки) принять некоторые меры по тестированию безопасности перед выпуском. Кроме того, он наложил ответственность на разработчиков моделей ИИ, если они проявляют недостаточную осторожность. Многие недоброжелатели утверждали, что законопроект был «угроза для открытого исходного кода«; Я не согласился, потому что пороги затрат означали, что это затрагивало только самые мощные модели: даже LLama3 была наверное под порогом. Однако, оглядываясь назад, я думаю, что у законопроекта была более серьезная проблема: как и большинство нормативных актов, он был слишком приспособлен к сегодняшней ситуации. Акцент на стоимости обучения уже оказался хрупким перед лицом новых технологий: недавняя высококачественная модель Deepseek v3 была обучена по цене только $6 миллионов, и в новых моделях, как o1затраты смещаются с обучения на вывод в более общем смысле.

Во-вторых, наиболее вероятными участниками, которые могут быть ответственны за сценарий гибели AI сверхинтеллекта, являются реалистично военные. Как мы ивидели за последние полвека биобезопасностиВоенные, начиная со времен прошлого века и до наших дней, готовы совершать страшные вещи, и они легко могут допустить ошибки. Использование военных технологий ИИ сегодня быстро продвигается вперед (см. Украина, ГазеИ любое регулирование безопасности, принятое правительством, по умолчанию освобождает их собственную армию и корпорации, которые тесно сотрудничают с армией.

Тем не менее, эти аргументы не являются поводом просто сложить руки и ничего не делать. Вместо этого мы можем использовать их в качестве руководства и попытаться разработать такие правила, которые бы максимально уменьшили эти опасения.

Стратегия 1: Ответственность

Если кто-то действует каким-либо образом, который причиняет юридически исковый ущерб, он моглобытьподал в суд. Это не решает проблему рисков, связанных с военными и другими "выше закона" акторами, но это очень общий подход, который избегает переобучения и часто поддерживается по либертарианскому уклону экономистыиз-за этой конкретной причины.

Основные цели ответственности, которые были рассмотрены до сих пор, -

• Пользователи - люди, использующие искусственный интеллект
• Deployers - посредники, предлагающие пользователю искусственный интеллект в виде сервиса
• Разработчики - люди, которые создают искусственный интеллект

Возложение ответственности на пользователей кажется наиболее совместимым с стимулами. В то время как связь между тем, как разрабатывается модель, и тем, как она в конечном итоге используется часто неясно, пользователь точно решает, как использовать искусственный интеллект. Ответственность пользователей создает сильное давление использовать искусственный интеллект тем способом, который я считаю правильным: сосредоточиться на создании механических костюмов для человеческого разума, а не на создании новых форм самообеспечивающейся интеллектуальной жизни. Первое регулярно реагирует на намерения пользователя и, следовательно, не вызывает катастрофических последствий, если только пользователь этого не захочет. Второе имеет наибольший риск уйти в сторону и создать классический сценарий «восставшего искусственного интеллекта». Еще одно преимущество того, чтобы ответственность была как можно ближе к конечному использованию, заключается в том, что это минимизирует риск того, что ответственность приведет к действиям, которые вредны другим способом (например, закрытый исходный код, KYC и наблюдение, сговор государства/бизнеса для тайного ограничения пользователей, как, например, отключение крупных регионов мира).

Существует классический аргумент против полной ответственности пользователей: пользователи могут быть обычными людьми с небольшими деньгами, или даже анонимными, и некому будет покрыть причиненный ими катастрофический вред. Этот аргумент может быть преувеличенным: даже если некоторые пользователи слишком малы, чтобы нести ответственность, средний клиент разработчика искусственного интеллекта нет, и поэтому разработчикам искусственного интеллекта все равно приходится стимулировать создание продуктов, которые могут дать пользователям уверенность в том, что они не будут сталкиваться с высоким риском ответственности. Тем не менее, это все равно действительный аргумент, который требует рассмотрения. Вам нужно стимулировать кого-то в цепочке, у кого есть ресурсы, чтобы предпринять соответствующую степень осторожности, и искусственные интеллекты и разработчики по-прежнему являются легкими целями, которые все же иметь большое влияниенад тем, насколько безопасна или небезопасна модель.

Ответственность за развертывание представляется разумной. Часто упоминаемое опасение заключается в том, что это не будет работать для моделей с открытым исходным кодом, но это кажется управляемым, особенно с учетом того, что существует высокая вероятность того, что самые мощные модели в любом случае будут с закрытым исходным кодом (а если они окажутся открытыми, то, хотя ответственность за развертывание не очень полезна, она также не причиняет большого вреда). Ответственность разработчика имеет ту же проблему (хотя в случае с моделями с открытым исходным кодом существует некоторый «лежачий полицейский», связанный с необходимостью тонкой настройки модели, чтобы заставить ее делать что-то, что изначально запрещено), но применим тот же контраргумент. В качестве общего принципа, наложение «налога» на контроль, и, по сути, утверждение «вы можете строить вещи, которыми вы не управляете, или вы можете создавать вещи, которые вы контролируете, но если вы строите то, что вы контролируете, то 20% контроля должно быть использовано для наших целей», — кажется разумной позицией для правовых систем.

Одна идея, которая, кажется, недостаточно исследована, - возложение ответственности на других участников в цепочке поставок, которым более гарантированы ресурсы. Одна идея, которая очень дружелюбна к d/acc, - возложить ответственность на владельцев или операторов любого оборудования, которое ИИ захватывает (например, взломом) в процессе выполнения какого-то катастрофически вредного действия. Это создаст очень широкий стимул для выполнения тяжелой работы по обеспечению максимально возможной безопасности инфраструктуры мира (особенно вычислительной и биологической).

Стратегия 2: Глобальная кнопка «мягкой паузы» на оборудовании промышленного масштаба

Если бы я был убежден, что нам нужно что-то более «мускулистое», чем правила ответственности, я бы выбрал это. Целью было бы иметь возможность сократить мировые вычислительные мощности на 90-99% на 1-2 года на критическом периоде, чтобы дать людям больше времени на подготовку. Значение 1-2 лет не должно быть преувеличено: год в «режиме военного времени» может легко стоить ста лет работы в условиях самодовольства. Способы реализации «пауза«Были исследованы разные варианты, включая конкретные предложения, такие как требуется регистрацияипроверка местоположенияоборудования.

Более продвинутый подход заключается в использовании умного криптографического трюка: например, масштабированного (но не потребительского) аппаратного обеспечения ИИ, которое может быть оснащено надежным аппаратным чипом, который позволяет ему продолжать работу только в том случае, если он получает 3/3 подписи раз в неделю от крупных международных организаций, включая хотя бы одну не связанную с военными. Подписи будут независимы от устройства (если потребуется, мы даже можем потребовать доказательства с нулевым разглашением того, что они были опубликованы в блокчейне), поэтому это будет все или ничего: не будет практического способа авторизовать одно устройство, чтобы оно продолжало работать, не авторизовав все другие устройства.

Это кажется, что оно "отмечает галочки" в терминах максимизации выгод и минимизации рисков:

• Это полезная возможность: если мы получим предупреждающие знаки того, что почти сверхразумный искусственный интеллект начинает делать вещи, которые могут привести к катастрофическому ущербу, мы захотим перейти более медленно.
• До тех пор, пока не наступит такой критический момент, просто иметь возможность мягкой паузы нанесет мало вреда разработчикам.
• Сосредоточившись на промышленном оборудовании масштаба, и став целью только 90-99%, можно избежать некоторых дистопических усилий по установке шпионских микросхем или выключателей на потребительских ноутбуках или насильственных мер против маленьких стран против их воли.
• Фокусировка на железе кажется очень прочной по отношению к изменениям технологий. Мы видели на протяжении нескольких поколений ИИ, что качество сильно зависит от доступных вычислительных мощностей, особенно в ранних версиях новой парадигмы. Таким образом, сокращение доступных вычислительных мощностей на 10-100 раз может легко сделать разницу между беглым сверхинтеллектуальным ИИ, победившим или проигравшим быстрое сражение против людей, пытающихся остановить его.
• Неотъемлемая раздражительность, связанная с необходимостью раз в неделю подключаться к Интернету для получения подписи, создаст сильное давление против распространения этой схемы на потребительское оборудование.
• Это можно было бы проверить с помощью случайной проверки, и проведение этого на аппаратном уровне затруднило бы освобождение конкретных пользователей (подходы, основанные на юридическом принуждении к выключению, а не на технических, не обладают этим свойством всё или ничего, что делает их намного более склонными к скольжению в освобождения для военных и т. д.)

Жесткое регулирование аппаратных средств уже активно рассматривается, хотя обычно в рамкахконтроль над экспортом, которые по своей сути имеют философию "мы доверяем нашей стороне, но не доверяем другой стороне". Известно, что Леопольд Ашенбреннер выступал за то, что США должныгонка за получение решающего преимуществаи затемпо сути заставить Китайподписать протокол, ограничивающий количество ящиков, которые им разрешено запускать. Мне кажется, что такой подход представляет определенные риски и может объединить недостатки Многополярные гонкии централизация. Если нам нужно ограничить людей, кажется лучше ограничить всех на равных условиях и приложить усилия, чтобы действительно пытаться сотрудничать и организовывать это, вместо того чтобы одна сторона пыталась доминировать над всеми остальными.

технологии d/acc в риске искусственного интеллекта

У обоих этих стратегий (ответственности и кнопки приостановки оборудования) есть свои недостатки, и ясно, что они являются лишь временными мерами предосторожности: если на суперкомпьютере становится возможным сделать что-то в момент времени Т, то через 5 лет это, вероятно, будет возможно на ноутбуке. И поэтому нам нужно что-то более стабильное, чтобы выиграть время. Здесь актуальны многие технологии децентрализованного управления. Мы можем рассмотреть роль таких технологий следующим образом: если искусственный интеллект захватит мир, как он это сделает?

• Он взламывает наши компьютеры → киберзащита
• Он создает сверхчуму → био-оборона
• Он убеждает нас (либо доверять ему, либо не доверять друг другу) → info-defense

Как вкратце упоминалось выше, правила ответственности являются естественным стилем регулирования, благоприятным для d/acc, потому что они могут очень эффективно мотивировать все части мира принять эти средства защиты и отнестись к ним серьезно. Тайвань проводил экспериментыwith liability for false advertising recently, which can be viewed as one example of using liability to encourage info defense. We should not be too enthusiastic about putting liability everywhere, and remember the benefits of plain old freedom in enabling the little guy to participate in innovation without fear of lawsuits, but where we do want a stronger push to be secure, liability can be quite flexible and effective.

Роль криптовалют в d/acc

Большая часть d/acc выходит за рамки типичных тем блокчейна: биобезопасность, BCI и средства коллаборативного дискурса кажутся далекими от того, о чем обычно говорит криптоперсона. Однако, я считаю, что есть некоторые важные связи между криптой и d/acc, в частности:

• d/acc - это расширение основных ценностей криптовалюты (децентрализация, устойчивость к цензуре, открытая глобальная экономика и общество) на другие области технологий.
• Поскольку пользователи криптовалюты - естественные ранние пользователи, и существует совпадение ценностей, сообщества криптовалют являются естественными ранними пользователями технологии д/акк. Большое внимание к сообществу (как онлайн, так и офлайн, например, события и всплывающие окна), и то, что эти сообщества фактически делают важные вещи, а не просто общаются друг с другом, делают сообщества криптовалют особенно привлекательными инкубаторами и полигонами для технологий д/акк, которые в основном работают с группами, а не с отдельными лицами (например, большая часть информационной защиты и биологической защиты). Люди, занимающиеся криптовалютами, просто делают вещи вместе.
• Многие криптотехнологии могут использоваться в предметных областях d/acc: блокчейны для создания более надежной и децентрализованной финансовой, управленческой и социальной инфраструктуры, доказательства нулевого знания для защиты конфиденциальности и т.д. Сегодня многие крупнейшие рынки прогнозирования построены на блокчейнах и постепенно становятся более сложными, децентрализованными и демократичными.
• Также есть выгодные возможности для сотрудничества в области смежных с криптовалютой технологий, которые очень полезны для криптопроектов, но также являются ключевыми для достижения целей d/acc:формальная верификация, компьютерное программное обеспечение и аппаратная безопасностьЭти вещи делают блокчейн Ethereum, кошельки и DAO более безопасными и надежными, а также достигают важных цивилизационных оборонительных целей, таких как уменьшение уязвимости к кибератакам, включая потенциально от сверхинтеллектуального искусственного интеллекта.

Cursive, приложение, которое использует полностью гомоморфное шифрование (FHE), чтобы позволить пользователям определить области общего интереса с другими пользователями, сохраняя при этом конфиденциальность. Это использовалось в Edge City, одном из многих отпрысков gate.Zuzalu, в Чиангмайе.

Помимо этих прямых пересечений, существует еще одна крайне важная общая точка интереса: механизмы финансирования.

d/acc и финансирование общественных благ

Одним из моих постоянных интересов является создание более эффективных механизмов финансирования общественных благ: проектов, которые ценны для очень больших групп людей, но которые не иметьестественная доступная бизнес-модель. Мои предыдущие работы в этой области включают вклады вквадратичное финансированиеи его использование вГранты Gitcoin, ретро PGF, а недавно глубокое финансирование.

Многие люди скептически относятся к понятию общественных благ. Скептицизм, как правило, исходит из двух источников:

1. Факт, что общественные блага исторически использовались как оправдание для жесткого централизованного планирования и государственного вмешательства в общество и экономику.
2. Общее восприятие того, что финансирование общественных благ лишено строгости и осуществляется на социальный желательный эффект - что звучит хорошо, а не что хорошо - и отдает предпочтение знакомым людям, которые умеют играть в социальные игры.

Это важные и хорошие замечания. Однако я бы возразил, что сильное децентрализованное финансирование общественных благ является неотъемлемым элементом видения д/сч, поскольку ключевая цель д/сч (минимизация централизованных точек контроля) неизбежно подрывает многие традиционные бизнес-модели. Можно создавать успешные бизнесы на основе открытого исходного кода - несколькоBalviгарантыделают это - но в некоторых ситуациях это достаточно сложно, и важным проектам требуется дополнительная поддержка. Поэтому нам нужно делать сложное и разработать способ финансирования общественных благ таким образом, чтобы учитывались оба вышеупомянутых замечания.

Решение первой проблемы в основномдостоверная нейтральностьи@VitalikButerin/the-sense-of-decentralization-a0c92b76a274">децентрализация. Централизованное планирование проблематично, потому что оно дает контроль элитам, которые могут стать злоупотребляющими, и потому что оно часто переобучается под нынешнюю ситуациюи становится все менее и менее эффективным со временем. Квадратичное финансирование и подобные механизмы были именно о финансировании общественных благ таким образом, чтобы это было максимально нейтральным и (архитектурно и политически) децентрализованным.

Вторая проблема более сложна. С квадратичным финансированием общей критикой было то, что оно быстро превращается в конкурс популярностиТребуется, чтобы финансирующие проекты затратили много усилий на публичную кампанию. Кроме того, проекты, которые находятся «перед глазами людей» (например, приложения для конечных пользователей), получают финансирование, но проекты, которые находятся более в фоне (архетипические «gate»).зависимость поддерживается парнем в Небраске“) вообще не получают финансирования. Финансирование ретровспышек оптимизма основано на меньшем числе держателей значков-экспертов; здесь эффекты конкурса популярности уменьшены, но социальные эффекты тесных личных связей с держателями значков усилены.

Глубокое финансированиеDeep funding - это моя собственная последняя попытка решить эту проблему. Deep funding имеет два основных нововведения:

1. График зависимостей. Вместо того, чтобы задавать каждому присяжному глобальный вопрос («какова ценность проекта A для человечества?»), мы задаем локальный вопрос («какой проект ценнее для результата C - проект A или проект B? И насколько?»). Люди известны своей плохой способностью отвечать на глобальные вопросы: в известное исследованиеКогда их спрашивают, сколько денег они заплатят, чтобы спасти N птиц, респонденты отвечают примерно $80 для N=2,000, N=20,000 и N=200,000. Местные вопросы намного более разрешимы. Затем мы объединяем местные ответы в глобальный ответ, поддерживая «график зависимости»: для каждого проекта, какие другие проекты способствовали его успеху и насколько?
2. AI как сжатый человеческий суд. Присяжные получают только небольшую случайную выборку всех вопросов. Существует открытый конкурс, в рамках которого любой может представить модели искусственного интеллекта, которые пытаются эффективно заполнить все ребра в графе. Конечный ответ - это взвешенная сумма моделей, наиболее совместимая с ответами присяжных. См. здесь пример кода. Этот подход позволяет механизму масштабироваться до очень большого размера, требуя от жюри предоставлять только небольшое количество «битов» информации. Это снижает возможность коррупции и гарантирует, что каждый бит является высокого качества: жюри может позволить себе долго размышлять над каждым вопросом, вместо быстрого перехода через сотни. Используя открытую конкуренцию ИИ, мы уменьшаем предвзятость отдельного процесса обучения и администрирования ИИ. Открытый рынок ИИ как двигатель, люди как руль.

Но глубокое финансирование - только последний пример; ранее существовали другие идеи механизмов финансирования общественных благ, и в будущем их будет еще много.allo.expertхорошо справляется с каталогизацией. Основная цель заключается в создании общественного гаджета, который может финансировать общественные блага с уровнем точности, справедливости и открытого доступа, который по крайней мере приближается к тому, как рынки финансируют частные блага. Он не должен быть идеальным; в конце концов, рынки далеки от совершенства сами по себе. Но он должен быть достаточно эффективным, чтобы разработчики, работающие над проектами открытого исходного кода высокого качества, от которых выигрывают все, могли позволить себе продолжать это делать, не чувствуя необходимости делать неприемлемые компромиссы.

Сегодня ведущие проекты в большинстве областей d/acc: вакцины, BCI, «граничный BCI» как миоэлектрика запястья и отслеживание глаз, антивозрастные лекарства, оборудование и т. д., являются собственностью. Это имеет большие недостатки с точки зрения обеспечения общественного доверия, как мы видели в многоизвышеобластиуже. Он также переключает внимание на конкурентную динамику ("НАША КОМАНДА должна выиграть в этой критической отрасли!"), и отводит его от более крупной конкуренции в области того, что эти технологии приходят достаточно быстро, чтобы защитить нас в мире сверхразумных ИИ. По этим причинам крепкое финансирование общественных благ может быть сильным стимулом к открытости и свободе. Это еще один способ, которым криптосообщество может помочь d/acc: серьезно заняться исследованием этих финансовых механизмов и хорошо работать с ними в своем собственном контексте, готовя их к более широкому принятию в открытой науке и технологии.

Будущее

Следующие несколько десятилетий принесут важные вызовы. На моем уме недавно было два вызова:

• Мощные новые волны технологий, особенно сильный искусственный интеллект, приходят быстро, и эти технологии сопровождаются важными ловушками, которые нам нужно избегать. Может потребоваться пять лет, чтобы «искусственный сверхинтеллект» пришел сюда, может потребоваться пятьдесят. В любом случае неясно, что стандартный результат автоматически положителен, и как описано в этом посте и предыдущий, есть несколько ловушек, которых следует избегать.
• Мир становится менее кооперативным. Многие мощные акторы, которые казались ранее по крайней мере иногда действовали на основе высоких принципов (космополитизм, свобода, общая человечность... список можно продолжать), теперь более открыто и агрессивно преследуют личные или племенные интересы.

Однако у каждого из этих вызовов есть своя позитивная сторона. Во-первых, у нас теперь есть очень мощные инструменты, чтобы выполнить оставшуюся работу быстрее:

• В настоящее время и в ближайшем будущем ИИ может быть использован для создания других технологий, а также может быть использован в качестве компонента управления (например, в глубоком финансировании или информация финансов. Это также очень актуально для BCI, что в свою очередь может обеспечить дополнительный прирост производительности.
• Теперь возможна координация крупномасштабных мероприятий в гораздо больших масштабах, чем раньше. Интернет и социальные сети расширили возможности координации, глобальная финансовая система (включая криптовалюты) увеличила свою мощность, а теперь инструменты информационной защиты и сотрудничества могут повысить ее качество, а возможно, в будущем технология BCI в форме человек-компьютер-человек сможет увеличить ее глубину.
• Формальная верификация, песочница (веб-браузеры, Docker, Qubes, GrapheneOS, и многие другие), безопасные аппаратные модули и другие технологии улучшаются до такой степени, что становится возможным обеспечить гораздо более надежную кибербезопасность.
• Написание любого вида программного обеспечения значительно проще, чем два года назад.
• Недавние фундаментальные исследования по пониманию работы вирусов, особенно простое понимание того, что наиболее важной формой передачи, которую необходимо предотвращать, является воздушная, показывают гораздо более ясный путь для улучшения биологической защиты.
• Недавние достижения в биотехнологии (например, CRISPR,продвижениявбиоизображение) делают самые разные биотехнологии, будь то для обороны или долголетие, или супер-счастье, или исследуя нескольконовелла биогипотезы, или просто делает действительно крутые вещи, намного более доступно.
• Прогресс в области вычислительной техники и биотехнологии позволяет использовать синтетические биоинструменты, которые можно использовать для адаптации, мониторинга и улучшения вашего здоровья. Киберзащитная технология, такая как криптография, делает персонализированный аспект этого гораздо более жизнеспособным.

Во-вторых, теперь, когда многие принципы, которыми мы дорожим, больше не заняты несколькими конкретными сегментами старой гвардии, они могут быть восстановлены широкой коалицией, к которой может присоединиться любой человек в мире. Это, вероятно, самый большой плюс недавних политических «перегруппировок» по всему миру, и им стоит воспользоваться. Криптовалюта уже проделала отличную работу, воспользовавшись этим и найдя глобальную привлекательность; d/acc может сделать то же самое.

Доступ к инструментам означает, что мы способны адаптировать и улучшать нашу биологию и окружающую среду, а часть «защиты» в d/acc означает, что мы способны делать это, не нарушая свободу других делать то же самое.Принципы либерального плюрализмаэто значит, что у нас может быть много разнообразия в том, как это делается, и наше обязательство перед общими гуманитарными целями означает, что это должно быть сделано.

Мы, люди, продолжаем быть самой яркой звездой. Задача перед нами, построить еще более яркий XXI век, который сохранит выживание человека, свободу и деятельность по мере нашего движения к звездам, является сложной. Но я уверен, что мы справимся с ней.

Отказ от ответственности:

1. Эта статья воспроизводится из [Виталик Бутерин]. Пересылка оригинального заголовка: d/acc: через год. Все права принадлежат оригинальному автору [Виталик Бутерин]. Если есть возражения против этой перепечатки, пожалуйста, свяжитесь с Gate Learnкоманда, и они быстро решат эту проблему.
2. Отказ от ответственности за обязательства: Взгляды и мнения, выраженные в этой статье, принадлежат только автору и не являются инвестиционными советами.
3. Команда Gate Learn выполняет переводы статей на другие языки. Если не указано иное, копирование, распространение или плагиат переведенных статей запрещены.