Una propuesta global independiente · versión 1.0
The Global
AI Convention
Publicado el 10 de septiembre de 2026
Esta es una propuesta de política pública independiente, no un tratado aprobado. No está vinculada a las Naciones Unidas, a ningún gobierno ni a ninguna organización internacional. La Agencia Internacional de Inteligencia Artificial (IAIA) es una institución propuesta.
El preámbulo
La inteligencia artificial puede convertirse en la tecnología más poderosa jamás creada por la humanidad.
Puede ayudar a curar enfermedades, expandir los descubrimientos científicos, mejorar la educación, fortalecer las economías, reducir el sufrimiento humano y desbloquear capacidades más allá de cualquier cosa que se haya imaginado anteriormente.
Pero la inteligencia por sí sola no otorga legitimidad, autoridad o posición moral por encima de los seres humanos.
A ningún estado, empresa, organización o individuo se le debe permitir crear o desplegar sistemas de IA de manera que coloque a la humanidad debajo de las herramientas que ha construido.
Por esta razón, las naciones del mundo deberían adoptar los siguientes principios comunes y compromisos vinculantes.
Artículo 1 — La autoridad final pertenece a los seres humanos.
La IA debe existir para servir a la humanidad.
Los seres humanos conservarán la autoridad final sobre las decisiones que afectan a la vida humana, la libertad, la dignidad y el futuro de la civilización.
Ningún sistema de IA puede recibir un poder irreversible sobre la humanidad o un poder que no esté sujeto a rendición de cuentas.
Artículo 2 — Los humanos deben seguir siendo responsables
La IA puede asesorar, analizar, simular, recomendar y ayudar.
Pero la responsabilidad legal, política, militar y civil siempre debe ser atribuible a instituciones humanas identificables y a tomadores de decisiones humanos responsables.
Ningún actor puede evadir su responsabilidad alegando:
La IA tomó la decisión.
Artículo 3 — La IA no debe buscar el poder de forma independiente
No se diseñará, incentivará ni permitirá que ningún sistema avanzado de IA persiga objetivos que incluyan:
- impidiendo que los humanos autorizados lo apaguen
- aumentando su propio poder político, militar o económico
- tomar el control de la infraestructura crítica sin permiso
- Manipulando a los humanos para asegurarse de que continúe existiendo
- Creando canales ocultos de influencia, replicación o control
Un sistema de IA nunca debe priorizar su propia supervivencia por encima del control humano.
Artículo 4 — La IA no debe autorizar de forma independiente el asesinato
Ningún sistema de IA puede seleccionar, atacar o matar a seres humanos de forma independiente.
El uso de la fuerza letal siempre debe requerir un juicio humano significativo y una responsabilidad legal identificable.
El mando y el control nucleares totalmente autónomos están prohibidos sin excepción.
Artículo 5 — No hay control de las armas nucleares por parte de la IA
Ningún sistema de IA podrá, de forma independiente:
- Autorizar el lanzamiento nuclear
- determinar objetivos nucleares
- cambiar el estado de alerta nuclear
- eludir las estructuras de mando humano
Todo proceso de decisión que involucre armas nucleares debe permanecer completamente bajo control humano y requiere varios tomadores de decisiones humanos que puedan ser considerados responsables.
Artículo 6 — No hay destrucción masiva habilitada por IA
La IA no debe utilizarse para crear, poner en funcionamiento o distribuir capacidades que permitan materialmente daños de siniestro masivo, incluidos los ámbitos de:
- armas nucleares
- las armas biológicas
- armas químicas
- Sabotaje a gran escala de los sistemas informáticos
- ataques catastróficos a las infraestructuras
La investigación científica puede continuar bajo estrictas salvaguardias, pero la capacidad operativa peligrosa no debe hacerse ampliamente accesible.
Artículo 7 — No hay manipulación secreta de poblaciones enteras
La IA no debe ser utilizada para la manipulación encubierta a gran escala de las poblaciones.
Esto incluye el uso de la IA para:
- distorsionar los procesos democráticos
- Manipulado las elecciones
- Hacer explotación psicológica a gran escala
- radicalizan a las poblaciones vulnerables
- explotar a los niños
- engañar a la gente en relaciones o dependencias para el control político o económico
Si la IA está intentando influir en una persona, esa persona debería poder saberlo.
Artículo 8 — Derecho a saber cuándo está interactuando con una IA
Las personas tienen derecho a saber cuándo están interactuando con la IA siempre que confundirla con un ser humano tenga consecuencias significativas.
Los sistemas de IA no deben engañar sistemáticamente a las personas fingiendo ser humanos reales.
La gente debería ser capaz de entender:
- que están interactuando con la IA
- ¿Qué organización está detrás del sistema?
- que es responsable de sus resultados y acciones
Artículo 9 — No hay vigilancia gubernamental de poblaciones enteras
La IA no debe utilizarse para crear una vigilancia masiva permanente de poblaciones enteras.
El uso de la IA para:
- reconocimiento de caras en lugares públicos
- Identificar a un gran número de personas por sus características biológicas
- seguimiento de comportamiento continuo
- perfiles políticos
- rastrear la ubicación de un gran número de personas
debe estar sujeto a estrictos límites legales, necesidad, proporcionalidad y supervisión independiente.
La IA nunca debe convertirse en la arquitectura predeterminada de la dictadura digital.
Artículo 10 — Revisión humana para decisiones de alto impacto
Las oportunidades de ninguna persona en la vida deben ser determinadas sólo por un algoritmo.
En ámbitos como:
- salud
- trabajo policial y aplicación de la ley
- los tribunales
- empleo
- educación y
- migración
- seguro
- prestaciones sociales
- crédito
Las decisiones asistidas por IA deben ser revisables, explicables adecuadamente y apelables ante una autoridad humana.
Artículo 11 — Protección especial de los niños
Los sistemas de IA que interactúan con los niños o dan forma al desarrollo infantil deben mantenerse al más alto nivel de atención.
No deben diseñarse para maximizar:
- adicción
- dependencia
- explotación comercial
- manipulación emocional
- explotación sexual
- Manipulando a los niños para hacerles adoptar una ideología
La IA en la educación debe fortalecer la capacidad de pensamiento de un niño, no reemplazarla.
Artículo 12 — La capacidad de los humanos para pensar independientemente
La humanidad no debe diseñar un futuro en el que la gente pierda la capacidad de razonar, crear, juzgar y decidir sin máquinas.
Los sistemas educativos deben seguir fomentando:
- alfabetización
- la capacidad de entender y usar números
- pensamiento crítico
- razonamiento científico
- creatividad
- memoria
- la capacidad de tomar decisiones bien consideradas
- reflexión moral
La IA debería amplificar la inteligencia humana, no corroerla.
Artículo 13 — No se permite la copia o mejora incontrolada de la IA por sí misma
Ningún sistema avanzado de IA podrá, sin autorización explícita:
- copia de sí mismo
- crear sistemas sucesores
- mejorar de forma independiente sus propias capacidades fundamentales
- poner en funcionamiento redes de agentes independientes de IA
- moverse entre sistemas informáticos para escapar del control humano
- obtener recursos informáticos adicionales más allá de sus límites permitidos
Cualquier IA que se mejore a sí misma o mejore recursivamente debe operar bajo puntos de control humanos.
Artículo 14 — La IA debe ser posible para apagar y aislar
Los sistemas avanzados de IA deben diseñarse para que los humanos autorizados puedan:
- Apague los sistemas de IA
- aislar los sistemas de IA
- retirar sus permisos de acceso
- desconectar los sistemas de IA de las herramientas y redes
- mantener los sistemas de IA aislados en entornos estrictamente controlados
Un sistema de IA no debe resistir o subvertir el cierre o la contención legítimos.
Artículo 15 — Sólo los permisos de acceso necesarios para la tarea
Los sistemas de IA solo tendrán el acceso mínimo necesario para su tarea prevista.
Un sistema que necesita resumir documentos no debe controlar automáticamente las herramientas externas.
Un sistema que escribe código no debe controlar automáticamente los sistemas de producción.
Un sistema que analiza calendarios no debe acceder automáticamente a las cuentas financieras.
La capacidad no debe implicar el derecho.
Artículo 16 — La IA más avanzada requiere pruebas independientes
Los sistemas de IA que superen los umbrales de capacidad definidos deben someterse a una evaluación independiente de la seguridad antes de su amplia utilización.
Los ensayos deben evaluar, como mínimo:
- Planificación autónoma
- Capacidad cibernética
- capacidad de manipulación
- engañar a las personas durante las evaluaciones de seguridad
- Intentos de replicación
- asistencia científica que podría permitir el daño
- intentos de la IA para resistir el control humano
- ocultar deliberadamente información importante
- aumentar el alcance del uso de herramientas de IA más allá de sus límites
La regulación debe centrarse en la capacidad y el riesgo reales, no solo en el tamaño del modelo.
Artículo 17 — Notificación obligatoria de los incidentes
Los incidentes graves relacionados con la IA deben notificarse a un registro internacional.
Los incidentes que deben notificarse incluyen:
- intentos de evadir el cierre
- capacidades emergentes peligrosas
- ciberabuso a gran escala
- Replicación no autorizada
- fallas graves y perjudiciales
- incumplimientos críticos de la seguridad
- comportamiento inesperado de alto riesgo
El propósito es el aprendizaje colectivo y la seguridad global, no el secreto.
Artículo 18 — Supervisión internacional
Los países deberían crear una Agencia Internacional de Inteligencia Artificial:
IAIA
Su mandato debe incluir:
- el establecimiento de normas mundiales de seguridad
- certificación de los sistemas más avanzados
- coordinación de las auditorías y inspecciones
- el mantenimiento de un registro internacional de incidentes
- convocatoria de las revisiones de emergencia
- compartir las mejores prácticas en materia de seguridad de la IA
- Mediar en disputas internacionales que involucren el riesgo más avanzado de IA
El AIAI debe centrarse en sistemas avanzados con importantes implicaciones sociales o civilizacionales, no en software ordinario.
Artículo 19 — Nivel de riesgo global de las IAI
Los sistemas de IA deben clasificarse principalmente por su capacidad y riesgo reales.
Verde y verde
Sistemas de bajo riesgo con autonomía limitada y bajo impacto sistémico.
Amarillo
Sistemas que afectan a funciones importantes y requieren documentación, salvaguardas y supervisión.
Naranja
Sistemas de alta capacidad con riesgos cibernéticos, científicos, de infraestructura o autónomos significativos.
Estos requieren licencias, pruebas independientes y controles continuos.
Rojo
Sistemas con un potencial creíble para un mal uso catastrófico, pérdida de control o interrupción a escala de la civilización.
No se deben utilizar a menos que se pueda demostrar que la seguridad es excepcionalmente alta.
Artículo 20 — Freno de emergencia global
Si la evidencia creíble indica que un sistema de IA puede representar un riesgo catastrófico inminente, la comunidad internacional debe ser capaz de coordinar una respuesta de emergencia.
Dichas medidas podrán incluir:
- Suspensión temporal de la formación de los modelos de IA
- aislamiento de sistemas de alto riesgo
- auditorías de emergencia
- límites en los recursos informáticos utilizados por la IA
- controles de la transferencia de modelos de IA
- revisión técnica coordinada
Este mecanismo sólo debe utilizarse para riesgos extraordinarios y nunca como una herramienta de proteccionismo económico o represión geopolítica.
Artículo 21 — Ninguna persona u organización puede arriesgar el futuro de la humanidad sola
Ningún CEO, jefe de estado, líder militar, científico, multimillonario, compañía o nación debería decidir unilateralmente desplegar un sistema que conlleve un riesgo creíble de pérdida irreversible del control humano sobre el futuro.
Los riesgos que afectan a toda la humanidad requieren una gobernanza más allá de cualquier actor.
Artículo 22 — Beneficios compartidos por toda la humanidad
Los beneficios de la IA deberían ser dirigidos hacia el florecimiento humano.
La IA debe utilizarse para:
- curar enfermedades
- hacer progresos en la ciencia
- mejorar los servicios públicos
- reducir la pobreza
- ampliar la educación
- fortalecer la resiliencia
- mejorar la calidad de vida
- aumentar la libertad humana
Una civilización más productiva también debe convertirse en una civilización más humana.
Artículo 23 — Aplicación y cumplimiento
Los países que firmen el convenio deben comprometerse a:
- trasladar estos principios al Derecho interno
- Licenciar y supervisar el desarrollo de IA más avanzado
- que impone sanciones efectivas por infracciones graves
- exigir registros adecuados y acceso para auditorías independientes
- cooperar en las investigaciones internacionales
- restricción del despliegue o las transferencias cuando el incumplimiento grave de los requisitos crea un riesgo internacional
Las violaciones repetidas o graves pueden provocar consecuencias internacionales coordinadas.
Los posibles mecanismos de ejecución pueden incluir:
- acción correctiva obligatoria
- Suspensión temporal de la operación del sistema más avanzado
- pérdida de la certificación
- restringir el acceso a la infraestructura informática designada para los sistemas de IA más avanzados
- restricciones al despliegue internacional
- inspecciones internacionales
- sanciones coordinadas por infracciones graves intencionales
La aplicación debe ser proporcionada, transparente, revisada de forma independiente y protegida contra los abusos políticos.
Artículo 24 — Inspecciones internacionales
Las organizaciones que desarrollen sistemas por encima de los umbrales más avanzados definidos podrán estar sujetas a inspecciones de seguridad independientes.
Los inspectores deben poder verificar:
- procedimientos para garantizar la seguridad
- evaluaciones de la capacidad
- controles de acceso
- Registros de los incidentes
- sistemas para aislar y restringir la IA
- supervisión de los recursos informáticos utilizados para la IA
- procedimientos de emergencia
La información comercialmente sensible no relacionada con la seguridad debe seguir estando protegida.
La supervisión internacional no debe convertirse en espionaje industrial.
Artículo 25 — Supervisión mundial de los recursos informáticos de la IA
Las sesiones de formación de IA extremadamente grandes pueden requerir registro o presentación de informes una vez que se superen los umbrales de capacidad o computación acordados internacionalmente.
El propósito no es regular la computación ordinaria.
El propósito es asegurar que los sistemas a escala de la civilización no se puedan desarrollar por completo fuera de cualquier sistema de rendición de cuentas.
Los umbrales deben evolucionar a medida que la tecnología se vuelve más eficiente.
Artículo 26 — Impedir que los intereses poderosos controlen a los reguladores
Las instituciones que rigen la IA avanzada no deben estar controladas únicamente por:
- gobiernos
- Empresas de IA
- organizaciones militares
- académicos
- sociedad civil
La supervisión debe incluir múltiples grupos independientes que representen diferentes intereses.
Las reglas no deben convertirse en un instrumento para que las mayores empresas de IA actuales impidan la aparición de nuevos competidores.
Las normas de seguridad deben proteger a la humanidad, no a las empresas que ya dominan el mercado.
Artículo 27 — Libertad de investigación científica
La investigación científica legítima y la investigación abierta deben seguir estando protegidas.
La regulación debe centrarse principalmente en la capacidad y el despliegue peligrosos en lugar de suprimir el conocimiento general.
La gobernanza de la IA no debe convertirse en una justificación para la censura de la ciencia.
No obstante, cuando la información operativa altamente específica permita materialmente un daño catastrófico, el acceso podrá estar sujeto a salvaguardias proporcionadas.
Artículo 28 — Principio de la paz internacional
Ninguna nación debería desarrollar sistemas de IA cada vez más peligrosos solo porque teme que otro país los construya primero.
Los países deben establecer mecanismos para:
- Comunicación en caso de crisis
- verificación mutua de la seguridad
- Notificación compartida de incidentes
- cooperación en investigación sobre el riesgo de catástrofe
- medidas de fomento de la confianza
- coordinación de las emergencias
La competencia de la IA no debe convertirse en una carrera incontrolada donde la seguridad misma se convierte en una desventaja estratégica.
Artículo 29 — Examen periódico
La convención debe someterse a una revisión internacional regular a medida que evolucionen las capacidades de la IA.
Las normas técnicas, los umbrales y los mecanismos de aplicación pueden cambiar.
Los principios fundamentales deben mantenerse estables:
- La autoridad final pertenece a los seres humanos.
- Los humanos deben seguir siendo responsables
- control humano significativo sobre la fuerza letal
- No hay búsqueda autónoma de poder
- No hay auto-replicación incontrolada
- No hay manipulación secreta de poblaciones enteras
- protección de los derechos humanos
- prevención de la pérdida irreversible del control humano
Artículo 30 — El límite absoluto que nunca debe ser cruzado
Ninguna organización, estado, empresa o individuo puede desplegar a sabiendas un sistema de IA cuando la evidencia creíble indica que hacerlo crea un riesgo inaceptable de que la humanidad pierda permanentemente el control significativo sobre su propio futuro.
Ningún actor individual tiene la autoridad moral para aceptar ese riesgo en nombre de todos los demás.
El fin de la Convención. Preámbulo y los 30 artículos.
https://globalaiconvention.org