Reenviar el Título Original: d/acc: un año después

Hace aproximadamente un año, escribí un artículo sobre el techno-optimismo, describiendo mi entusiasmo general por la tecnología y los enormes beneficios que puede aportar, así como mi precaución en torno a algunas preocupaciones específicas, en gran medida centradas en la superinteligencia artificial y el riesgo que esta pueda traer consigo, ya sea la perdición o el desempoderamiento humano irreversible, si la tecnología se construye de manera errónea. Una de las ideas fundamentales en mi publicación fue la filosofía de: aceleración defensiva descentralizada y democrática. Acelerar la tecnología, pero centrarse diferencialmente en tecnologías que mejoren nuestra capacidad de defendernos, en lugar de nuestra capacidad de causar daño, y en tecnologías que distribuyan el poder en lugar de concentrarlo en manos de una élite singular que decide qué es verdadero, falso, bueno o malo en nombre de todos. Defensa como en democracia Suizay históricamente cuasi-anarquistaZomia, no como los señores y castillos del feudalismo medieval.

En el año transcurrido desde entonces, la filosofía y las ideas han madurado significativamente. Hablé sobre las ideas en 80,000 Horas, y he visto muchas respuestas, en su mayoría positivas y algunas críticas. El trabajo en sí continúa y da frutos: estamos viendo progresoen verificablevacunas de código abierto, creciente reconocimiento del valor del aire interior saludable, las Notas de la Comunidad continúan brillando, un año de avance para gatemercados de predicción como una herramienta de información, ZK-SNARKs en identificación del gobierno y redes sociales (y seguridadEthereumbilleterasa travésabstracción de cuenta), herramientas de imagen de código abiertocon aplicaciones en medicina y BCI, y más. En el otoño, tuvimos el primer evento significativo de d/acc: "d/acc Discovery Day" (d/aDDy) en Devcon, que contó con un día completo de conferencistas de todos los pilares de d/acc (bio, física, ciberseguridad, defensa de la información, además de neurotecnología). Las personas que han estado trabajando en estas tecnologías durante años son cada vez más conscientes del trabajo de los demás, y las personas externas son cada vez más conscientes de la historia más amplia: los mismos tipos de valores que motivaron a Ethereum y a las criptomonedas puede aplicarse al mundo en general.

Tabla de contenidos

• Qué es y qué no es d/acc
• La tercera dimensión: sobrevivir y prosperar
• La pregunta difícil: seguridad de la IA, plazos cortos y regulación
• El papel de la cripto en d/acc
• financiación de d/acc y bienes públicos
• El futuro

Qué es y qué no es d/acc

Es el año 2042. Estás viendo informes en los medios de comunicación sobre una nueva pandemia potencialmente en tu ciudad. Estás acostumbrado a esto: la gente se emociona demasiado por cada mutación de enfermedad animal y la mayoría de ellas no llegan a nada. Las dos pandemias potenciales anteriores se detectaron muy temprano a través de...monitoreo de aguas residuales y análisis de código abierto de redes sociales, y se detuvieron por completo en sus pistas. Pero esta vez, los mercados de predicción muestran un 60% de posibilidades de al menos 10,000 casos, por lo que estás más preocupado.

La secuencia del virus fue identificada ayer. Actualizaciones de software para tu bolsilloprobador de airepara permitirle detectar el nuevo virus (de un solo aliento, o de 15 minutos de exposición al aire interior en una habitación) ya están disponibles. Las instrucciones de código de origen y el código para generar una vacuna utilizando equipos que se pueden encontrar en cualquier instalación médica moderna en todo el mundo deberían estar disponibles en semanas. La mayoría de las personas todavía no están tomando ninguna acción, confiando principalmente en la adopción generalizada de filtración de aire y ventilación para protegerse. Tienes una condición inmunológica, por lo que eres más cauteloso: tu asistente personal de IA en ejecución local de código abierto, que se encarga, entre otras tareas, de la navegación y las recomendaciones de restaurantes y eventos, también tiene en cuenta los datos en tiempo real de prueba de aire y CO2 para recomendar solo los lugares más seguros. Los datos son proporcionados por miles de participantes y dispositivos que utilizanZk-SNARKsyprivacidad diferencialpara minimizar el riesgo de que los datos puedan filtrarse o ser utilizados con cualquier otro propósito (si desea contribuir con datos a estos conjuntos de datos, hay otros asistentes personales de IA que verifican pruebas formales de que estos dispositivos criptográficos realmente funcionan).

Dos meses después, la pandemia desapareció: parece que el 60% de las personas que siguen el protocolo básico de ponerse una máscara si el probador de aire suena y muestra la presencia del virus, y quedarse en casa si dan positivo en la prueba personalmente, fue suficiente para reducir la tasa de transmisión, que ya se había reducido considerablemente debido a la filtración de aire pesado pasiva, por debajo de 1. Una enfermedad que las simulaciones muestran que podría haber sido cinco veces peor que Covid hace veinte años resulta ser un problema menor hoy en día.

Devcon d/acc día

Una de las conclusiones más positivas del evento d/acc en Devcon fue la medida en que el paraguas d/acc logró reunir a personas de campos muy diferentes y logró que realmente se interesaran en el trabajo de los demás.

Crear eventos con “diversidad” es fácil, pero hacer que personas diferentes con antecedentes e intereses diferentes realmente se relacionen entre sí es difícil. Todavía tengo recuerdos de que me obligaban a ver óperas largas en la escuela secundaria y preparatoria, y personalmente me parecían aburridas. Sabía que se suponía que debía apreciarlas, porque si no lo hacía, sería un programador inculto, pero no me conectaba con el contenido en un nivel más genuino. El día de la diversidad no fue así en absoluto: se sintió como si las personas realmente disfrutaran aprendiendo sobre diferentes tipos de trabajos en diferentes campos.

Si queremos crear una alternativa más brillante a la dominación, la desaceleración y la condena, necesitamos este tipo de amplia coalición. d/acc parecía estar teniendo éxito en ello, y eso solo muestra el valor de la idea.

La idea principal de d/acc es simple: aceleración defensiva diferencial descentralizada y democrática. Construir tecnologías que cambien el equilibrio entre ofensiva y defensiva hacia la defensa, y hacerlo de una manera que no dependa de ceder más poder a las autoridades centralizadas. Existe un vínculo inherente entre estos dos lados: cualquier tipo de estructura política descentralizada, democrática o liberal prospera mejor cuando la defensa es fácil, y sufre más desafíos cuando la defensa es difícil; en esos casos, el resultado mucho más probable es algún período de guerra de todos contra todos, y eventualmente un equilibrio de gobierno por el más fuerte.

El principio fundamental de d/acc se extiende a través de muchos dominios:

Gráfico de Mi Tecnóptimismo, el año pasado

Una forma de entender la importancia de intentar ser descentralizado, defensivo y aceleracionista al mismo tiempo, es contrastarlo con la filosofía que se obtiene cuando se renuncia a cada uno de los tres.

• Aceleración descentralizada, pero no te preocupes por la parte de "defensa diferencial". Básicamente, sé un gate.e/acc, pero descentralizado. Hay muchas personas que adoptan este enfoque, algunosquienes se etiquetan como d/acc pero describen útilmente su enfoque como 'OFENSIVO', pero también hay muchos otros que están emocionados por la 'IA descentralizada' y temas similares de una manera más moderada, pero en mi opinión prestan atención insuficiente al aspecto 'defensivo'.

En mi opinión, este enfoque puede evitar el riesgo de una dictadura humana global por la tribu específica de la que estás preocupado, pero no tiene una respuesta al problema estructural subyacente: en un entorno que favorece el ataque, hay un riesgo constante de catástrofe o de que alguien se posicione como protector y se establezca permanentemente en la cima. En el caso específico de la inteligencia artificial, tampoco tiene una buena respuesta al riesgo de que los humanos en su conjunto queden desempoderados en comparación con las inteligencias artificiales.

• Aceleración defensiva diferencial, pero no importa "descentralizado y democrático". Abrazar el control centralizado en aras de la seguridad tiene un atractivo permanente para un subconjunto de personas, y los lectores sin duda ya están familiarizados con muchos ejemplos, y sus desventajas. Recientemente, algunos se han preocupado de que el control centralizado extremo sea la única solución a los extremos de las tecnologías futuras: ver este escenario hipotéticodonde “Todos están equipados con una ‘etiqueta de libertad’ – un sucesor de los dispositivos de vigilancia portátiles más limitados que son familiares hoy en día, como la tobillera utilizada en varios países como alternativa a la prisión ... el video y el audio encriptados se cargan continuamente e interpretan por máquina en tiempo real”. Sin embargo, el control centralizado es un espectro. Una versión más suave del control centralizado que generalmente se pasa por alto, pero que sigue siendo perjudicial, es la resistencia a la escrutinio público en biotecnología (por ejemplo, comida, vacunas) y las normas de código cerrado que permiten que esta resistencia no sea desafiada.

El riesgo de este enfoque es, por supuesto, que el centro a menudo es en sí mismo la fuente de riesgo. Lo vimos en Covid, donde la investigación de ganancia de función financiada por gatemúltiples gobiernos importantes del mundopuede haber sido la fuente de la pandemia, la epistemología centralizada llevó a la OMS no reconocer para añosque el Covid es transmitido por el aire y coercitivodistanciamiento social y vacunaLos mandatos provocaron una reacción política que podría repercutir durante décadas. Una situación similar podría ocurrir en relación con cualquier riesgo relacionado con la IA u otras tecnologías riesgosas. Un enfoque descentralizado abordaría mejor los riesgos desde el propio centro.

• Defensa descentralizada, pero no te importa la aceleración, básicamente, intenta frenar el progreso tecnológico o económicodegrowth.

El desafío de esta estrategia es doble. En primer lugar, la tecnología y el crecimiento económico han sido enormemente beneficiosos para la humanidad, y cualquier retraso en elloimpone costasque sonEs difícil exagerar. En segundo lugar, en un mundo no totalitario, no avanzar es inestable: quien "engañe" más y encuentre formas plausiblemente negables de avanzar de todos modos saldrá adelante. Las estrategias deceleracionistas pueden funcionar hasta cierto punto en algunos contextos: la comida europea más saludable que la comida estadounidense es un ejemplo, el éxito de la no proliferación nuclear hasta ahora es otro. Pero no pueden funcionar para siempre.

Con d/acc, queremos:

• Sé principista en un momento en que gran parte del mundo se está volviendo tribal, y no solo construyas cualquier cosa, sino que queremos construir cosas específicas que hagan el mundo más seguro y mejor.
• Reconoce que el progreso tecnológico exponencial significa que el mundo se va a volver muy muy extraño, y que la “huella” total de la humanidad en el universo solo aumentará. Nuestra capacidad para mantener a salvo a animales, plantas y personas vulnerables debe mejorar, pero la única salida es seguir adelante.
• Construir tecnología que nos mantenga seguros sin asumir que "los buenos (o los buenos AIs) están a cargo". Hacemos esto construyendo herramientas que son naturalmente más efectivocuando se usa para construir y proteger que cuando se usa para destruir.

Otra forma de pensar en d/acc es volver a un marco de los movimientos del Partido Pirataen Europa a finales de los 00: empoderamiento.

El objetivo es construir un mundo donde preservemos la agencia humana, alcanzando ambosla libertad negativa de evitar la interferencia activa (ya sea de otras personas actuando como ciudadanos privados, o de gobiernos, o de bots superinteligentes) con nuestra capacidad de dar forma a nuestros propios destinos, y la libertad positiva de garantizar que tengamos el conocimiento y los recursos para. Esto hace eco de una larga tradición liberal clásica de siglos, que también incluye el enfoque de Stewart Brand en "gate"acceso a herramientas“ y de John Stuart Millénfasis en la educaciónjunto alibertadcomo componentes clave del progreso humano - y tal vez, se podría agregar, el deseo de Buckminster Fuller de ver el proceso de resolución global serparticipativa y ampliamente distribuidaPodemos ver d/acc como una forma de lograr estos mismos objetivos dada la situación tecnológica del siglo XXI.

La tercera dimensión: sobrevivir y prosperar

En mi publicación del año pasado, d/acc se centró específicamente en las tecnologías defensivas: defensa física, defensa biológica, defensa cibernética y defensa de la información. Sin embargo, la defensa descentralizada no es suficiente para hacer del mundo un lugar excelente: también necesitas una visión positiva de futuro para que la humanidad pueda utilizar su nueva descentralización y seguridad para lograr sus objetivos.

La publicación del año pasado contenía una visión positiva, en dos lugares:

1. Centrándome en los desafíos de la superinteligencia, propuse un camino (lejos de ser original para mí) de cómo podemos tener superinteligencia sin desempoderamiento:
   1. Hoy, construir IA como herramientas en lugar de IA como agentes altamente autónomos
   2. Mañana usa herramientas como realidad virtual, myoelectricosy interfaces cerebro-computadora para crear una retroalimentación cada vez más estrecha entre la IA y los humanos
   3. Con el tiempo, avanzar hacia un eventual final de juego donde la superinteligencia sea una combinación estrechamente acoplada de máquinas y nosotros.
2. Cuando hablo de info-defensa, también mencioné tangencialmente que además de la tecnología social _defensiv_a que intenta ayudar a las comunidades a mantener la cohesión y tener un discurso de alta calidad frente a los atacantes, también hay tecnología social progresiva que puede ayudar a las comunidades a tomar juicios de alta calidad más fácilmente:pol.ises un ejemplo, ypredicción mercadosson otra.

Pero estos dos puntos parecían desconectados del argumento d/acc: "aquí hay algunas ideas para crear un mundo más democrático y favorable a la defensa en la capa base, y por cierto, aquí hay algunas ideas no relacionadas sobre cómo podríamos hacer la superinteligencia".

Sin embargo, creo que en realidad hay algunas conexiones muy importantes entre lo que se ha etiquetado anteriormente como tecnología d/acc "defensiva" y "progresiva". Vamos a ampliar el gráfico d/acc del post del año pasado, añadiendo este eje (también, vamos a reetiquetarlo "sobrevivir vs prosperar") al gráfico y ver lo que sale:

Hay un patrón consistente, en todos los ámbitos, de que la ciencia, las ideas y las herramientas que pueden ayudarnos a 'sobrevivir' en un ámbito están estrechamente relacionadas con la ciencia, las ideas y las herramientas que pueden ayudarnos a 'prosperar'. Algunos ejemplos:

• Mucha de la reciente investigación anti-Covid se centra en el papel de la persistencia viralen el cuerpo como un mecanismo de por qué la Covid persistente es un problema. Recientemente, también hay señales de persistencia viral puede ser responsable de la enfermedad de Alzheimer- si es verdad, esto implica que abordar la persistencia viral en todos los tipos de tejido puede ser clave para resolver el envejecimiento.
• Bajo costo y en miniaturaherramientas de imágenestales como las que están siendoconstruido por Openwater puede ser poderoso para tratar microcoáguloso persistencia viral, cánceres, y también pueden ser utilizados para BCI.
• Ideas muy similares motivan la construcción de herramientas sociales diseñadas para entornos altamente adversos, como Notas de la Comunidad, y herramientas sociales construidas para entornos razonablemente cooperativos, como pol.is.
• Los mercados de predicción son valiosoen ambosalta-cooperaciónyalta adversidadentornos.
• Las pruebas de conocimiento cero y tecnologías similares para realizar cálculos en datos mientras se preserva la privacidad, tanto aumentan los datos disponibles para trabajos útiles como la ciencia, como aumentan la privacidad.
• La energía solar y las baterías son excelentes para potenciando la próxima ola de crecimiento económico limpio, pero también son increíbles para la descentralización y la resistencia física.

Además de esto, también existen importantes interdependencias entre áreas temáticas:

• BCI es muy relevante como tecnología de infodefensa y colaboración, porque podría permitir una comunicación mucho más detallada de nuestros pensamientos e intenciones. BCI no es solo de bot a conciencia: también puede ser de conciencia a bot-a-conciencia. Esto hace eco Pluralidad de ideas sobre el valor de BCI.
• Gran parte de la biotecnología depende del intercambio de información, y en muchos contextos las personas solo se sentirán cómodas compartiendo información si están seguras de que se utilizará para una única aplicación. Esto depende de la tecnología de privacidad (por ejemplo, ZKP, FHE, obfuscation…)
• La tecnología de colaboración se puede utilizar para coordinar la financiación de cualquiera de las otras áreas de tecnología

La difícil pregunta: seguridad de la IA, plazos cortos y regulación

Diferentes personas tienen líneas de tiempo de IA muy diferentes. Gráfico de Zuzalu en Montenegro, 2023.

El argumento en contra de mi publicación del año pasado que encontré más convincente fue una crítica de la comunidad de seguridad de la IA. El argumento es: 'seguro, si tenemos medio siglo hasta que tengamos una IA fuerte, podemos concentrar nuestras energías y construir todas estas cosas buenas. Pero en realidad parece que tenemos plazos de tres años hasta la IA general, y otros tres años hasta la superinteligencia. Y así que si no queremos que el mundo sea destruido o caiga en una trampa irreversible, no podemos simplemente acelerar lo bueno, también tenemos que frenar lo malo, y esto significa aprobar regulaciones poderosas que pueden molestar a personas poderosas'. En mi publicación del año pasado, de hecho no pedía ninguna estrategia específica para 'frenar lo malo', más allá de vagas apelaciones a no construir formas riesgosas de superinteligencia. Y así que aquí, vale la pena abordar la pregunta directamente: si estamos viviendo en elmundo menos convenienteEn un escenario en el que el riesgo de la IA es alto y los plazos podrían ser de cinco años, ¿qué regulación apoyaría?

Primero, el caso de precaución en torno a nuevas regulaciones

El año pasado, la principal regulación de IA propuesta fue la proyecto de ley SB-1047 en California. SB-1047 requería que los desarrolladores de los modelos más potentes (aquellos que requieren más de $100M para entrenar o más de $10M en el caso de ajustes finos) tomaran medidas de prueba de seguridad antes de su lanzamiento. Además, imponía responsabilidad a los desarrolladores de modelos de IA si no toman suficiente precaución. Muchos detractores argumentaron que el proyecto de ley era "gate".una amenaza para el código abierto"; No estuve de acuerdo, porque los umbrales de costos significaban que solo afectaba a los modelos más poderosos: incluso LLama3 estaba probablemente por debajo del umbral. Mirando hacia atrás, sin embargo, creo que había un problema más grande con el proyecto de ley: como la mayoría de las regulaciones, estaba sobreajustado a la situación actual. El enfoque en el costo de capacitación está demostrando ser frágil frente a la nueva tecnología: el reciente modelo de calidad de última generación Deepseek v3 se entrenó a un costo de solo $6 millones, y en nuevos modelos como o1los costos se están desplazando de la capacitación a la inferencia de manera más general.

En segundo lugar, los actores más probables que serían responsables de un escenario de condena de superinteligencia de IA son realísticamente los militares. Como nosotros han visto en el último medio siglo de bioseguridad (y más allá), los militares están dispuestos a hacer cosas aterradoras y pueden cometer errores fácilmente. El uso militar de la IA avanza rápidamente en la actualidad (véase Ucrania, Gaza). Y cualquier regulación de seguridad que apruebe un gobierno, por defecto, eximiría a sus propias fuerzas armadas y a las corporaciones que cooperan estrechamente con las fuerzas armadas.

Dicho esto, estos argumentos no son razones para rendirse y no hacer nada. Más bien, podemos usarlos como guía e intentar establecer reglas que desencadenen estas preocupaciones lo menos posible.

Estrategia 1: Responsabilidad

Si alguien actúa de alguna manera que cause daño legalmente reclamable, ellos podría ser sued. Esto no resuelve el problema de los riesgos de los militares y otros actores “por encima de la ley”, pero es un enfoque muy general que evita el sobreajuste y a menudo es soportado de tendencia libertaria economistaspor esta misma razón.

Los principales objetivos de responsabilidad que se han considerado hasta ahora son:

• Usuarios, las personas que usan la IA
• Implementadores: intermediarios que ofrecen IA como servicio para usuarios
• Desarrolladores: las personas que construyen la IA

Poner la responsabilidad en los usuarios parece ser más compatible con incentivos. Mientras que el vínculo entre cómo se desarrolla un modelo y cómo termina siendo utilizado...a menudo no está claro , el usuario decide exactamente cómo se utiliza la AI. La responsabilidad de los usuarios crea una fuerte presión para hacer AI de la manera correcta: centrarse en la construcción de trajes mecánicos para la mente humana, no en la creación de nuevas formas de vida inteligente autosostenible. El primero responde regularmente a la intención del usuario, por lo que no causaría acciones catastróficas a menos que el usuario lo deseara. Este último tendría el mayor riesgo de salir y crear un clásico escenario de “AI rebelándose”. Otro beneficio de poner la responsabilidad lo más cerca posible del uso final es que minimiza el riesgo de que la responsabilidad lleve a las personas a tomar acciones que sean perjudiciales de otras maneras (por ejemplo, código cerrado, KYC y vigilancia, colusión estatal/comercial para restringir clandestinamente a los usuarios como con el desbancarización, bloqueando grandes regiones del mundo).

Hay un argumento clásico en contra de poner la responsabilidad únicamente en los usuarios: los usuarios pueden ser individuos normales sin demasiado dinero, o incluso anónimos, sin dejar a nadie que realmente pueda pagar por un daño catastrófico. Este argumento puede ser exagerado: incluso si algunos usuarios son demasiado pequeños para ser considerados responsables, el cliente promedio de un desarrollador de IA no lo es, por lo que los desarrolladores de IA aún estarían incentivados a crear productos que puedan dar a sus usuarios la seguridad de que no enfrentarán un alto riesgo de responsabilidad. Dicho esto, sigue siendo un argumento válido y debe abordarse. Es necesario incentivar a alguien en proceso que tenga los recursos para tomar el nivel adecuado de cuidado para hacerlo, y tanto los implementadores como los desarrolladores son objetivos fácilmente disponibles que aún tener mucho influenciasobre cuán seguro o inseguro es un modelo.

La responsabilidad del implementador parece razonable. Una preocupación comúnmente citada es que no funcionaría para los modelos de código abierto, pero esto parece manejable, especialmente porque existe una alta probabilidad de que los modelos más poderosos sean de código cerrado de todos modos (y si resultan ser abiertos, entonces, si bien la responsabilidad del implementador no termina siendo muy útil, tampoco causa mucho daño). La responsabilidad del desarrollador tiene la misma preocupación (aunque con los modelos de código abierto hay algún obstáculo de la necesidad de ajustar un modelo para hacer que haga algo originalmente no permitido), pero se aplica el mismo contraargumento. Como principio general, poner un "impuesto" sobre el control, y esencialmente decir "se puede construir cosas que no controlas, o puedes construir cosas que sí controlas, pero si construyes cosas que sí controlas, entonces el 20% del control tiene que ser utilizado para nuestros propósitos", parece una posición razonable para los sistemas legales.

Una idea que parece poco explorada es poner la responsabilidad en otros actores en la cadena, que tienen más garantías de estar bien financiados. Una idea muy amigable con d/acc es poner la responsabilidad en los propietarios o operadores de cualquier equipo que un AI tome el control (por ejemplo, mediante piratería) en el proceso de ejecutar alguna acción catastróficamente dañina. Esto crearía un incentivo muy amplio para hacer el trabajo duro de hacer la infraestructura del mundo (especialmente la informática y la bio) lo más segura posible.

Estrategia 2: Botón de pausa global "suave" en hardware a gran escala industrial

Si estuviera convencido de que necesitamos algo más "musculoso" que las reglas de responsabilidad, esto es por lo que me inclinaría. El objetivo sería tener la capacidad de reducir la capacidad de cálculo disponible en todo el mundo en ~90-99% durante 1-2 años en un período crítico, para ganar más tiempo para que la humanidad se prepare. El valor de 1-2 años no debería ser exagerado: un año en "modo de guerra" fácilmente puede valer cien años de trabajo en condiciones de complacencia. Formas de implementar un "...pausaSe han explorado diversas opciones, incluyendo propuestas concretas como requiere registro y verificando ubicaciónde hardware.

Un enfoque más avanzado es utilizar trucos criptográficos inteligentes: por ejemplo, el hardware de IA a gran escala (pero no de consumo) que se produce podría estar equipado con un chip de hardware confiable que solo permita que siga funcionando si recibe 3/3 firmas una vez a la semana de importantes organismos internacionales, incluido al menos uno no afiliado al ejército. Las firmas serían independientes del dispositivo (si se desea, incluso podríamos requerir una prueba de conocimiento cero de que se publicaron en una cadena de bloques), por lo que sería todo o nada: no habría una forma práctica de autorizar que un dispositivo siga funcionando sin autorizar a todos los demás dispositivos.

Esto se siente como si "cumpliera con los requisitos" en términos de maximizar beneficios y minimizar riesgos:

• Es una capacidad útil: si recibimos señales de advertencia de que la IA casi superinteligente está comenzando a hacer cosas que corren el riesgo de sufrir daños catastróficos, querremos tomar la transición más lentamente.
• Hasta que ocurra un momento crítico, simplemente tener la capacidad de pausar suavemente causaría poco daño a los desarrolladores.
• Centrándose en hardware a gran escala y solo apuntando al 90-99% como objetivo evitaría algún esfuerzo distópico de colocar chips espía o interruptores de apagado en computadoras portátiles de consumo o imponer medidas draconianas a países pequeños en contra de su voluntad.
• Centrarse en el hardware parece muy robusto a los cambios tecnológicos. Hemos visto a lo largo de varias generaciones de IA que la calidad depende en gran medida de la computación disponible, especialmente en las primeras versiones de un nuevo paradigma. Por lo tanto, reducir la computación disponible entre 10 y 100 veces puede marcar fácilmente la diferencia entre que una IA superinteligente fuera de control gane o pierda una batalla de ritmo rápido contra los humanos que intentan detenerla.
• La irritante necesidad de conectarse en línea una vez a la semana para una firma crearía una fuerte presión en contra de extender el esquema al hardware de consumo.
• Podría verificarse mediante inspección aleatoria, y hacerlo a nivel de hardware dificultaría eximir a usuarios específicos (enfoques basados en el cierre forzado legalmente, en lugar de técnicamente, no tienen esta propiedad de todo o nada, lo que los hace tener un mayor riesgo de resbalarse hacia exenciones para militares, etc.)

La regulación de hardware ya está siendo considerada seriamente, aunque generalmente a través del marco de gatecontroles de exportación, que inherentemente tienen una filosofía de 'confiamos en nuestro lado, pero no en el otro lado'. Leopold Aschenbrenner ha abogado famosamente por que Estados Unidos debería carrera por obtener una ventaja decisivay luegoesencialmente forzar a Chinafirmar un protocolo que limite la cantidad de cajas que se les permite ejecutar. Para mí, este enfoque parece arriesgado y podría combinar las deficiencias de carreras multipolaresy centralización. Si tenemos que limitar a la gente, parece mejor limitar a todos en igualdad de condiciones, y hacer el arduo trabajo de intentar cooperar para organizar eso en lugar de que un partido busque dominar a todos los demás.

tecnologías d/acc en riesgo de IA

Ambas estrategias (responsabilidad y el botón de pausa del hardware) tienen agujeros, y está claro que son solo parches temporales: si algo se vuelve posible de hacer en una supercomputadora en el momento T, probablemente será posible en una computadora portátil en el momento T + 5 años. Y así necesitamos algo más estable para ganar tiempo. Muchas tecnologías d/acc son relevantes aquí. Podemos ver el papel de la tecnología d/acc de la siguiente manera: si la IA domina el mundo, ¿cómo lo haría?

• Hace hackeo en nuestras computadoras → ciberdefensa
• Crea una super plaga → bio-defensa
• Nos convence (ya sea para confiar en él o para desconfiar el uno del otro) → info-defensa

Como se mencionó brevemente anteriormente, las reglas de responsabilidad son un estilo de regulación naturalmente amigable con d/acc, porque pueden motivar de manera muy eficiente a todas las partes del mundo a adoptar estas defensas y tomarlas en serio. Taiwan ha estado experimentandocon la responsabilidad por publicidad engañosa recientemente, lo que se puede ver como un ejemplo de usar la responsabilidad para fomentar la defensa de la información. No deberíamos ser demasiado entusiastas en poner responsabilidad en todas partes, y recordar los beneficios de la buena y vieja libertad para permitir que el pequeño participe en la innovación sin temor a demandas, pero donde queremos un impulso más fuerte para estar seguros, la responsabilidad puede ser bastante flexible y efectiva.

El papel de las criptomonedas en d/acc

Gran parte de d/acc va mucho más allá de los temas típicos de blockchain: la bioseguridad, BCI y las herramientas de discurso colaborativo parecen estar lejos de las cosas de las que normalmente habla una persona relacionada con la criptomoneda. Sin embargo, creo que hay algunos lazos importantes entre la criptomoneda y d/acc, en particular:

• d/acc es una extensión de los valores subyacentes de la criptomoneda (descentralización, resistencia a la censura, economía y sociedad global abierta) a otras áreas de la tecnología.
• Debido a que los usuarios de criptomonedas son adoptantes tempranos naturales, y hay una alineación de valores, las comunidades de criptomonedas son usuarios tempranos naturales de la tecnología d/acc. El fuerte énfasis en la comunidad (tanto en línea como fuera de línea, por ejemplo, eventos y pop-ups), y el hecho de que estas comunidades realmente hacen cosas de alto riesgo en lugar de simplemente hablar entre ellas, hace que las comunidades de criptomonedas sean incubadoras y bancos de pruebas especialmente atractivos para las tecnologías d/acc que funcionan fundamentalmente en grupos en lugar de individuos (por ejemplo, una gran fracción de defensa de la información y defensa biológica). La gente de las criptomonedas simplemente hace cosas juntas.
• Muchas tecnologías cripto pueden ser utilizadas en áreas de interés descentralizado: blockchains para construir infraestructura financiera, de gobernanza y redes sociales más robustas y descentralizadas, pruebas de conocimiento cero para proteger la privacidad, etc. Hoy en día, muchos de los mercados de predicción más grandes están construidos en blockchains, y gradualmente se están volviendo más sofisticados, descentralizados y democráticos.
• También hay oportunidades de ganar-ganar para colaborar en tecnologías adyacentes a las criptomonedas que son muy útiles para los proyectos de criptomonedas, pero que también son clave para lograr los objetivos de d/acc: verificación formal, software informático y seguridad de hardware, y tecnología de gobernanza adversarialmente robusta. Estas cosas hacen que la cadena de bloques de Ethereum, las billeteras y los DAO sean más seguros y robustos, y también logran importantes objetivos de defensa civilizatoria como reducir nuestra vulnerabilidad a ciberataques, incluyendo potencialmente de la IA superinteligente.

Cursive, una aplicación que utiliza cifrado completamente homomórfico (FHE) para permitir a los usuarios identificar áreas de interés común con otros usuarios, preservando al mismo tiempo la privacidad. Esto se utilizó en Edge City, uno de los numerosos derivados de Zuzalu, en Chiang Mai.

Además de estas intersecciones directas, también hay otro punto de interés compartido crucial: mecanismos de financiación.

d/acc y financiamiento de bienes públicos

Uno de mis intereses en curso es idear mejores mecanismos para financiar bienes públicos: proyectos que son valiosos para grupos muy grandes de personas, pero que no tenerun modelo de negocio naturalmente accesible. Mi trabajo anterior en esto incluye mis contribuciones a financiación cuadrática y su uso en Subvenciones de Gitcoin, retro PGF, y más recientemente financiamiento profundo.

Muchas personas son escépticas sobre los bienes públicos como concepto. El escepticismo generalmente proviene de dos fuentes:

1. El hecho de que los bienes públicos históricamente se hayan utilizado como justificación para una planificación centralista y una intervención gubernamental en la sociedad y la economía.
2. Una percepción general de que la financiación de bienes públicos carece de rigor y se lleva a cabo ensesgo de deseabilidad social - lo que suena bien, en lugar de lo que es bueno - y favorece a los insiders que pueden jugar el juego social.

Estas son críticas importantes y buenas críticas. Sin embargo, argumentaría que la financiación sólida de bienes públicos descentralizados es esencial para una visión de d/acc, porque un objetivo clave de d/acc (minimizar los puntos de control centralizados) frustra inherentemente muchos modelos de negocio tradicionales. Es posible construir empresas exitosas en código abierto - variosBalvigarantizaestán haciendo eso, pero en algunas situaciones es lo suficientemente difícil como para que los proyectos importantes necesiten apoyo adicional continuo. Por lo tanto, tenemos que hacer lo difícil y descubrir cómo financiar bienes públicos de manera que aborde ambas críticas anteriores.

La solución al primer problema es básicamenteneutralidad creíbley@VitalikButerin/the-meaning-of-decentralization-a0c92b76a274">decentralization. Central planning is problematic because it gives control to elites who might turn abusive, and because it often sobreajusta a la situación actualy se vuelve cada vez menos efectiva con el tiempo. La financiación cuadrática y mecanismos similares se trataban precisamente de financiar bienes públicos de una manera que es lo más neutral y descentralizada (arquitectónica y políticamente) posible.

El segundo problema es más desafiante. Con la financiación cuadrática, una crítica común ha sido que rápidamente se convierte en una competencia de popularidadrequiriendo que los financiadores del proyecto dediquen mucho esfuerzo a hacer campañas públicas. Además, los proyectos que están "en frente de los ojos de la gente" (por ejemplo, las aplicaciones de usuarios finales) reciben financiamiento, pero los proyectos que están más en segundo plano (el arquetípico "gate.io")dependencia mantenida por un chico en Nebraska“) don’t get any funding at all. El financiamiento retroactivo del optimismo se basa en un número menor de titulares de insignias expertas; aquí, los efectos de la competencia de popularidad se reducen, pero los efectos sociales de tener lazos personales estrechos con los titulares de las insignias se magnifican.

Financiamiento profundoes mi último esfuerzo propio para resolver este problema. Deep funding tiene dos innovaciones principales:

1. El gráfico de dependencias. En lugar de hacer una pregunta global a cada jurado ("¿cuál es el valor del proyecto A para la humanidad?"), hacemos una pregunta local ("¿es el proyecto A o el proyecto B más valioso para el resultado C? ¿Y en qué medida?"). Los humanos son conocidos por ser malos para las preguntas globales: en una estudio famoso, cuando se les preguntó cuánto dinero pagarían para salvar a N aves, los encuestados respondieron aproximadamente $80 por N = 2,000, N = 20,000 y N = 200,000. Las cuestiones locales son mucho más manejables. A continuación, combinamos las respuestas locales en una respuesta global manteniendo un "gráfico de dependencias": para cada proyecto, ¿qué otros proyectos contribuyeron a su éxito y cuánto?
2. AI como juicio humano destilado. Los jurados solo reciben una pequeña muestra aleatoria de todas las preguntas. Existe una competencia abierta a través de la cual cualquiera puede enviar modelos de IA que intenten completar de manera eficiente todos los bordes del gráfico. La respuesta final es la suma ponderada de los modelos más compatibles con las respuestas del jurado. Ver aquí un ejemplo de códigoEste enfoque permite que el mecanismo se adapte a un tamaño muy grande, mientras que requiere que el jurado presente solo una pequeña cantidad de "bits" de información. Esto reduce la oportunidad de corrupción y asegura que cada bit sea de alta calidad: los jurados pueden permitirse pensar durante mucho tiempo en cada pregunta, en lugar de hacer clic rápidamente en cientos. Al utilizar una competencia abierta de AIs, reducimos el sesgo de cualquier proceso de entrenamiento y administración de una sola AI. El mercado abierto de AIs como motor, los seres humanos como volante.

Pero la financiación profunda es solo el último ejemplo; ha habido otras ideas de mecanismos de financiación de bienes públicos antes, y habrá muchas más en el futuro.allo.experthace un buen trabajo al catalogarlos. El objetivo subyacente es crear un dispositivo social que pueda financiar bienes públicos con un nivel de precisión, equidad y acceso abierto que al menos se aproxime a la forma en que los mercados financian bienes privados. No tiene que ser perfecto; después de todo, los mercados están lejos de ser perfectos. Pero debería ser lo suficientemente efectivo para que los desarrolladores que trabajan en proyectos de código abierto de alta calidad que benefician a todos puedan permitirse seguir haciéndolo sin sentir la necesidad de hacer compromisos inaceptables.

Hoy, los proyectos líderes en la mayoría de las áreas temáticas d/acc: vacunas, BCIcomo BCI "límite" comomieléctricos de muñeca y seguimiento ocular, medicamentos contra el envejecimiento, hardware, etc., son propietarios. Esto tiene grandes desventajas en términos de asegurar la confianza pública, como hemos visto en muchosde laencimaáreasya. También desvía la atención hacia la dinámica competitiva ("NUESTRO EQUIPO debe ganar esta industria crítica!"), y lejos de la competencia más grande de asegurarse de que estas tecnologías lleguen lo suficientemente rápido como para protegernos en un mundo de IA superinteligente. Por estas razones, la financiación de bienes públicos sólidos puede ser un fuerte impulsor de la apertura y la libertad. Esta es otra forma en que la comunidad cripto puede ayudar d/acc: poniendo un esfuerzo serio en explorar estos mecanismos de financiamiento y haciéndolos funcionar bien dentro de su propio contexto, preparándolos para una adopción mucho más amplia para la ciencia y tecnología de código abierto en general.

El futuro

Las próximas décadas traen consigo importantes desafíos. Hay dos desafíos que han estado en mi mente recientemente:

• Potentes nuevas olas de tecnología, especialmente la IA fuerte, llegan rápidamente y estas tecnologías vienen con trampas importantes que necesitamos evitar. Puede que tarde cinco años en llegar la “superinteligencia artificial”, puede que tarde cincuenta. De cualquier manera, no está claro que el resultado por defecto sea automáticamente positivo, y como se describe en esta publicación y ...el anterior, hay múltiples trampas que evitar.
• El mundo se está volviendo menos cooperativo. Muchos actores poderosos que antes parecían actuar al menos a veces siguiendo principios nobles (cosmopolitismo, libertad, humanidad común... la lista continúa) ahora están persiguiendo de manera más abierta y agresiva el interés propio o tribal.

Sin embargo, cada uno de estos desafíos tiene un lado positivo. Primero, ahora tenemos herramientas muy poderosas para hacer nuestro trabajo restante más rápido:

• La IA actual y futura cercana se puede utilizar para construir otras tecnologías, y se puede utilizar como un ingrediente en la gobernanza (como en la financiación profunda o información financiera). También es muy relevante para Gate.io, que en sí mismo puede proporcionar mayores ganancias de productividad.
• La coordinación a gran escala ahora es posible a escalas mucho mayores que antes. Internet y las redes sociales ampliaron el alcance de la coordinación, las finanzas globales (incluyendo las criptomonedas) aumentaron su poder, y ahora las herramientas de defensa de la información y colaboración pueden aumentar su calidad y tal vez pronto la BCI en su forma de humano-a-computadora-a-humano puede aumentar su profundidad.
• Formal verification, sandboxing (web browsers, Docker, Qubes, GrapheneOS, y mucho más), los módulos de hardware seguros y otras tecnologías están mejorando hasta el punto de hacer posible una ciberseguridad mucho mejor.
• Escribir cualquier tipo de software es significativamente más fácil que hace dos años.
• Investigaciones básicas recientes sobre la comprensión de cómo funcionan los virus, especialmente la simple comprensión de que la forma más importante de transmisión a evitar es la aérea, están mostrando un camino mucho más claro sobre cómo mejorar la defensa biológica.
• Avances recientes en biotecnología (por ejemplo, CRISPR, avancesenbio-imaging) están desarrollando todo tipo de biotecnología, ya sea para defensa o longevidad, o super-felicidad, o explorando múltiplenovela biohipótesis, o simplemente haciendo cosas realmente geniales, mucho más accesible.
• Los avances en informática y biotecnología juntos están permitiendo herramientas bio sintéticas que puedes usar para adaptar, monitorear y mejorar tu salud. Tecnología de ciberdefensa como la criptografía hace que la dimensión personalizada de esto sea mucho más viable.

En segundo lugar, ahora que muchos principios que apreciamos ya no están ocupados por unos pocos segmentos particulares de la vieja guardia, pueden ser reclamados por una amplia coalición a la que cualquier persona en el mundo es bienvenida a unirse. Esta es probablemente la mayor ventaja de los recientes "realineamientos" políticos en todo el mundo, y vale la pena aprovecharla. Crypto ya ha hecho un excelente trabajo aprovechando esto y encontrando un atractivo global; D/ACC puede hacer lo mismo.

El acceso a las herramientas significa que podemos adaptar y mejorar nuestras biologías y nuestros entornos, y la parte de 'defensa' de d/acc significa que podemos hacerlo sin infringir la libertad de los demás para hacer lo mismo.Principios liberales pluralistassignifica que podemos tener mucha diversidad en cómo se hace esto, y nuestro compromiso con objetivos humanitarios comunes significa que debe hacerse.

Nosotros, los humanos, seguimos siendo la estrella más brillante. La tarea que tenemos por delante, de construir un siglo XXI aún más brillante que preserve la supervivencia, la libertad y la agencia humanas mientras nos dirigimos hacia las estrellas, es un desafío. Pero estoy seguro de que estamos a la altura.

Descargo de responsabilidad:

1. Este artículo es una reimpresión de [Vitalik Buterin]. Reenviar el título original: d/acc: un año después. Todos los derechos de autor pertenecen al autor original [Vitalik Buterin]. Si hay objeciones a esta reimpresión, por favor contacte a Gate Learn equipo, y lo manejarán con prontitud.
2. Descargo de responsabilidad de responsabilidad: Las opiniones expresadas en este artículo son exclusivamente las del autor y no constituyen ningún consejo de inversión.
3. El equipo de Gate Learn realiza traducciones de los artículos a otros idiomas. A menos que se mencione lo contrario, está prohibido copiar, distribuir o plagiar los artículos traducidos.