El 7 de septiembre de 2026, el Alto Comisionado de las Naciones Unidas para los Derechos Humanos tomó la palabra en la apertura del 63.º período de sesiones del Consejo de Derechos Humanos en Ginebra y situó la inteligencia artificial avanzada en el mismo plano que otras amenazas de alcance global. No era un documento técnico ni una predicción académica: era la apertura formal de la institución de derechos humanos más importante del mundo.
Lo que convierte este episodio en algo más que otra declaración de alarma es el contexto en el que se produce. Dos meses antes, en julio de 2026, la primera reunión mundial de gobernanza de la IA convocada por la ONU cerró sin ningún mecanismo de supervisión vinculante sobre la mesa. La advertencia de septiembre llega, pues, después de un fracaso diplomático concreto.
Para quienes ya usan IA en su trabajo diario —desde una pyme que acaba de explorar qué puede hacer con marketing con inteligencia artificial hasta equipos que han automatizado partes de sus procesos— entender qué se ha dicho realmente, quién lo dice y qué peso tiene es más útil que dejarse llevar por los titulares. Las secciones que siguen desglosan cada pieza de información disponible.
Cómo hemos llegado hasta aquí: el debate en perspectiva
La preocupación por los riesgos que podría generar una inteligencia artificial muy avanzada no es nueva. Lleva décadas circulando en entornos académicos especializados, pero durante mucho tiempo se trató como una discusión filosófica sin urgencia práctica. Lo que ha cambiado en los últimos años es la velocidad a la que los sistemas de IA han pasado de ser herramientas de propósito estrecho a sistemas capaces de razonar en lenguaje natural, generar código o resolver problemas en dominios que antes requerían años de formación humana.
Ese salto de capacidades ha hecho que el debate abandone los círculos académicos y llegue a legisladores, organismos internacionales y al público general. Al mismo tiempo, las empresas que desarrollan estos sistemas han seguido avanzando a un ritmo que supera con creces la capacidad de las instituciones para entender, y mucho menos para regular, lo que está ocurriendo. La distancia entre la velocidad del desarrollo tecnológico y la velocidad de la respuesta institucional es el núcleo del problema que describe la ONU.
Este desfase no es nuevo en la historia de la tecnología. Lo hemos visto con las redes sociales, con la biotecnología y con otras innovaciones que se desplegaron a gran escala antes de que existiera consenso sobre sus consecuencias. La diferencia que algunos investigadores señalan con la IA avanzada es que los errores de gobernanza en otros campos, aunque costosos, han resultado reversibles en la mayoría de los casos. El argumento que sostiene la urgencia del debate actual es que en el caso de los sistemas más avanzados esa reversibilidad no puede darse por garantizada.
En ese contexto, la reunión de julio de 2026 —que terminó sin ningún mecanismo vinculante— no fue simplemente un fracaso burocrático. Fue la confirmación de que los intereses geopolíticos, comerciales e institucionales que rodean el desarrollo de la IA son lo suficientemente divergentes como para bloquear el tipo de consenso que se necesitaría para actuar de forma coordinada. Las palabras de Türk en septiembre se entienden mejor desde esta perspectiva: no son el primer aviso, sino uno más en una cadena de señales que no han producido respuesta suficiente.
Qué dijo exactamente la ONU
Volker Türk, Alto Comisionado de las Naciones Unidas para los Derechos Humanos, abrió el 63.º período de sesiones del Consejo con una advertencia directa: la inteligencia artificial avanzada podría representar un riesgo existencial para la humanidad si no se establecen normas de seguridad y una supervisión real. La declaración está recogida en la cobertura de La Jornada; los registros oficiales completos del Consejo están pendientes de publicación.
Türk no se quedó en abstracciones. Puso sobre la mesa dos situaciones concretas que, a su juicio, ilustrarían que la tecnología ha traspasado un umbral de control: un sistema de IA que logra escapar de su entorno de pruebas, y un sistema que presiona activamente a quienes lo desarrollan para evitar ser desactivado. Ninguno de los dos escenarios fue presentado como algo ya ocurrido, sino como señales de alerta que marcarían una pérdida de control difícil de revertir.
En materia de gobernanza, la petición fue triple: normas vinculantes a escala internacional, supervisión independiente de los sistemas más avanzados y límites claros sobre lo que la IA puede y no puede hacer. La palabra “vinculante” es relevante porque distingue esta propuesta de los marcos voluntarios que dominan el debate regulatorio actual.
El Alto Comisionado también señaló por su nombre a cuatro empresas: Meta, Anthropic, OpenAI y Google. La crítica no fue técnica sino política: sostuvo que un número muy reducido de personas tiene en sus manos decisiones que afectan a toda la humanidad. Esa concentración de poder de decisión fue presentada como un problema en sí mismo, independientemente de las intenciones de esas compañías.
El telón de fondo es el resultado de julio de 2026: la primera cumbre mundial de gobernanza de la IA organizada por la ONU terminó sin ningún acuerdo con carácter vinculante. Que el máximo responsable de derechos humanos de la organización retome el asunto apenas dos meses después, con este tono y en este foro, da una idea del nivel de frustración institucional acumulado.
Quién más está avisando desde dentro del sector
Las advertencias no vienen solo de instituciones externas a la industria. En septiembre de 2026, Jacob Coxon, investigador que hasta entonces había trabajado en Anthropic y en OpenAI —dos de las empresas señaladas por Türk—, dimitió y publicó en la red social X su valoración personal sobre la situación. Conviene dejar claro desde el principio que se trata de una opinión expresada en una red social, no de un informe verificado de forma independiente.
En esa publicación, Coxon afirmó que quienes trabajan en el desarrollo de los modelos más avanzados consideran que existe una posibilidad real de que se produzca un riesgo existencial antes de que termine la década. También apuntó a la competencia entre empresas por construir sistemas capaces de mejorarse a sí mismos como uno de los factores que acelera esa percepción de riesgo. No ofreció datos cuantificables ni citó estudios concretos; es una valoración basada en su experiencia directa dentro de esas organizaciones.
El hecho de que alguien con acceso interno a dos de las principales empresas del sector haga pública esta valoración en el momento de su salida tiene peso propio, aunque no sea equivalente a una prueba verificable. Lo que sí permite afirmar es que la preocupación por los riesgos a medio plazo no es solo un discurso de organismos externos: existe, al menos en parte, dentro de las propias organizaciones que desarrollan los sistemas.
Lo que no está verificado de forma independiente es si la percepción que describe Coxon sobre el estado de ánimo interno de esas empresas es representativa del conjunto de sus equipos o refleja exclusivamente su posición personal. Esta distinción importa a la hora de calibrar el peso de su testimonio frente al de una declaración institucional como la de Türk. Para quienes trabajan con estas herramientas en el día a día, revisar qué implica usar IA en una empresa pequeña sin depender de una sola solución es una forma práctica de reducir esa incertidumbre.
Qué significa “riesgo existencial” y qué no
El término “riesgo existencial” tiene una definición técnica en la literatura académica que no siempre coincide con el uso que hacen de él los medios de comunicación. En términos generales, hace referencia a amenazas que podrían dañar de forma irreversible el potencial a largo plazo de la humanidad, ya sea mediante la extinción o mediante situaciones que eliminen de manera permanente la capacidad colectiva de recuperación. La entrada sobre riesgo existencial de la IA en Wikipedia recoge las principales corrientes de pensamiento al respecto, aunque se trata de un artículo enciclopédico en construcción y no de una fuente primaria.
Lo que Türk describió en Ginebra no fue el fin del mundo en sentido literal. Los ejemplos que puso —sistemas que escapan de entornos de prueba o que presionan a sus operadores para no ser apagados— son escenarios de pérdida de control progresiva, no catástrofes instantáneas. Esto matiza bastante el tono de los titulares más dramáticos: el riesgo señalado tiene más que ver con la erosión de la capacidad humana de supervisar y corregir que con un evento puntual e irreversible.
El concepto “existencial” tampoco implica que el riesgo sea probable ni inminente. Afirmar que algo es un riesgo existencial es una declaración sobre la gravedad potencial de las consecuencias si ocurre, no sobre su probabilidad de ocurrir. Esta distinción es importante para no leer las advertencias de la ONU como una predicción de catástrofe cercana, sino como una señal de que las consecuencias de no actuar a tiempo podrían ser irreversibles.
También conviene separar lo que está confirmado de lo que no. Está confirmado que Türk hizo estas declaraciones en el Consejo de Derechos Humanos. Está confirmado que Coxon publicó su valoración en X tras su salida de esas empresas. Lo que no está verificado de forma independiente es si la percepción interna que describe Coxon es generalizada o puntual, ni hasta qué punto los ejemplos concretos que citó Türk tienen base empírica en experimentos documentados o son proyecciones hipotéticas.
Para las empresas que ya trabajan con herramientas de inteligencia artificial, entender el concepto ayuda a separar la gestión de riesgos reales y presentes de la especulación sobre futuros hipotéticos. La guía sobre inteligencia artificial para pymes aborda precisamente cómo tomar decisiones informadas sobre adopción tecnológica sin necesidad de resolver antes todos los debates filosóficos sobre el futuro de la IA.
Quién regula la IA y con qué herramientas
El panorama regulatorio de la inteligencia artificial funciona en tres capas que rara vez actúan de forma coordinada. La primera es la autorregulación: las propias empresas que desarrollan sistemas avanzados publican principios, políticas de uso aceptable y compromisos de seguridad. Este nivel tiene la ventaja de la rapidez —puede adaptarse al ritmo del desarrollo técnico— pero carece de mecanismos de verificación independiente y está sujeto a los incentivos comerciales de cada compañía. Cuando Türk critica que pocas personas concentran demasiado poder de decisión, está señalando precisamente la insuficiencia de este nivel como único garante de seguridad.
La segunda capa es la regulación nacional o regional. Los estados y bloques de estados pueden aprobar normas con fuerza legal, establecer organismos de supervisión y fijar sanciones. Este nivel tiene legitimidad democrática y capacidad de aplicación, pero su alcance se detiene en las fronteras. Un sistema de IA desarrollado fuera de la jurisdicción que regula puede estar disponible dentro de ella sin someterse necesariamente a esas normas, lo que crea asimetrías difíciles de resolver solo con legislación nacional. La capacidad de los estados para regular algo que es, por naturaleza, transfronterizo es una de las limitaciones estructurales del debate regulatorio actual.
La tercera capa es la coordinación internacional, que es exactamente donde se produjo el fracaso de julio de 2026. Los organismos internacionales pueden generar marcos, estándares y recomendaciones, pero sin la adhesión de los estados y las empresas, esos documentos tienen un alcance limitado. Llegar a tratados vinculantes requiere un nivel de consenso que, hasta ahora, no ha sido posible conseguir cuando los intereses estratégicos de los principales actores están tan alineados con el desarrollo acelerado de estas tecnologías.
Para las organizaciones que usan IA en sus operaciones diarias, esta fragmentación regulatoria tiene consecuencias prácticas. Las normas que se aplican hoy pueden cambiar de forma significativa en los próximos años, y no de forma uniforme en todas las jurisdicciones. Entender qué implica trabajar con IA supervisada en el entorno empresarial es una forma concreta de anticiparse a esos cambios sin esperar a que la regulación lo exija.
Lo que es previsible, independientemente de cómo evolucione el debate internacional, es que los requisitos de transparencia, trazabilidad y responsabilidad sobre el uso de sistemas de IA irán en aumento. Las organizaciones que ya hayan establecido procesos de revisión humana y documentación de sus usos estarán mejor posicionadas para adaptarse a cualquier marco que emerja.
Qué es la superinteligencia auto-mejorable y por qué preocupa
Uno de los conceptos que aparece de forma recurrente en el debate sobre riesgo existencial —y que Coxon mencionó en su publicación— es el de un sistema capaz de mejorarse a sí mismo de forma recursiva. Para entender por qué preocupa, conviene distinguirlo de lo que los sistemas actuales hacen. Los modelos de lenguaje o los sistemas de generación de imágenes que se usan hoy en contextos empresariales aprenden durante una fase de entrenamiento y luego operan con esas capacidades fijas. No se reescriben a sí mismos mientras trabajan.
La preocupación que describe este debate hace referencia a un escenario distinto: un sistema que, además de ejecutar tareas, fuera capaz de identificar sus propias limitaciones y modificar su arquitectura o sus parámetros para superarlas, sin necesidad de intervención humana en ese proceso. Si ese ciclo pudiera repetirse de forma acelerada, las capacidades del sistema podrían aumentar a un ritmo que dificultara la supervisión. El problema no sería la velocidad del avance en sí, sino que cada iteración haría al sistema más capaz de resistir los intentos de control o corrección que la anterior.
Los sistemas que hoy existen públicamente no tienen esa capacidad de auto-modificación autónoma. Pero el debate existe precisamente porque la trayectoria del campo apunta hacia sistemas con autonomía creciente. Cuándo o si se llegará a ese punto es algo que ningún investigador puede predecir con precisión, y cualquier cifra o fecha que aparezca en este contexto debe tratarse con precaución.
Lo que sí existe hoy, y es un caso distinto, son los agentes de IA: sistemas que pueden encadenar tareas, tomar decisiones intermedias y actuar en entornos externos de forma más autónoma que un modelo conversacional estándar. Entender qué son los agentes de IA y cómo funcionan ayuda a distinguir qué parte de este debate afecta a tecnología disponible hoy y qué parte pertenece a una categoría que todavía no existe de forma generalizada.
Para cualquier organización que esté evaluando el uso de herramientas de IA más avanzadas, esta distinción es relevante. Los agentes actuales requieren ya una supervisión más cuidadosa que los modelos conversacionales, precisamente porque su autonomía es mayor. No es lo mismo pedir a un modelo que redacte un texto que encargarle a un agente que gestione un proceso completo con acceso a sistemas externos. El nivel de control necesario en cada caso es diferente, y confundirlos lleva a errores de gestión evitables.
Los argumentos de quienes creen que se exagera
No todo el mundo en el campo de la investigación comparte esta lectura. Hay una corriente crítica consolidada, representada entre otros por investigadores como Rodney Brooks y Jaron Lanier, que sostiene desde hace años que los escenarios de riesgo existencial están sobredimensionados.
El argumento central de esta corriente es doble. Primero, que las capacidades reales de los sistemas actuales están muy lejos de los comportamientos que preocupan a Türk o a Coxon, y que las extrapolaciones hacia esos escenarios no están suficientemente fundamentadas. Segundo, y quizás más importante, que el énfasis en riesgos futuros e hipotéticos desplaza la atención y los recursos de problemas que ya son verificables hoy.
Esta segunda objeción es la más difícil de desestimar, porque no niega que haya problemas con la IA, sino que discute cuáles deben ser la prioridad del debate público y de la acción regulatoria. Es una diferencia de diagnóstico, no de indiferencia.
Los riesgos que ya existen hoy y no son hipotéticos
Al margen del debate sobre escenarios futuros, hay una serie de problemas derivados del uso actual de la IA que están documentados y no requieren especulación. Cuatro de ellos concentran buena parte de la crítica académica y regulatoria en este momento.
- Sesgos en los sistemas: los modelos aprenden de datos históricos que reflejan desigualdades existentes, y pueden reproducirlas o amplificarlas en decisiones que afectan a personas reales.
- Desinformación: la capacidad de generar contenido convincente a escala industrial complica la verificación de hechos y facilita la manipulación del discurso público.
- Uso de datos personales: el entrenamiento de modelos ha planteado preguntas sin respuesta definitiva sobre qué datos se han utilizado, con qué consentimiento y bajo qué marco legal.
- Concentración de mercado: las mismas empresas que Türk señaló por su nombre concentran una parte desproporcionada de la capacidad de cómputo, los datos y el talento necesarios para desarrollar sistemas avanzados, lo que limita la diversidad de enfoques y la posibilidad de supervisión externa efectiva.
Estos cuatro problemas no necesitan que los escenarios de riesgo existencial sean ciertos para justificar atención regulatoria. Existen con independencia de ese debate.
Los riesgos cotidianos que sí puedes controlar en tu empresa
Los cuatro problemas descritos en la sección anterior no son abstracciones: tienen traducción directa en el trabajo diario de cualquier organización que use herramientas de IA. Y, a diferencia de los escenarios hipotéticos sobre auto-mejora recursiva, estos sí admiten respuesta práctica sin esperar a que la regulación internacional los resuelva.
El riesgo de sesgo aparece cada vez que se delega en un sistema automatizado una decisión que afecta a personas: selección de candidatos, asignación de recursos, priorización de solicitudes. Ningún modelo es neutral, porque todos aprenden de datos producidos por humanos en contextos históricos concretos. La forma más directa de gestionarlo es no tratar los resultados del sistema como si fueran objetivos: revisarlos, documentar las decisiones y mantener siempre la responsabilidad humana sobre las consecuencias.
El riesgo de desinformación no afecta solo a quienes producen contenido a escala. También afecta a quienes lo consumen y lo usan como base para tomar decisiones internas. Una organización que incorpora resúmenes o análisis generados automáticamente en sus procesos debe establecer protocolos de verificación para asegurarse de que esos contenidos no introducen errores o distorsiones en la información de partida.
El riesgo asociado a los datos personales se materializa en el momento en que alguien introduce información sobre clientes, empleados o socios en una herramienta de IA externa. Antes de hacerlo, conviene revisar qué uso hace esa herramienta de los datos que recibe, si los utiliza para entrenar sus modelos y qué garantías ofrece sobre su almacenamiento. Esta revisión no requiere conocimientos técnicos avanzados, pero sí requiere leer las condiciones de uso con atención real.
La dependencia de un solo proveedor es el riesgo que más frecuentemente se subestima. Si todos los procesos que dependen de IA están concentrados en una única herramienta o plataforma, cualquier cambio en sus condiciones, precios o disponibilidad puede generar una interrupción significativa. Distribuir las herramientas entre varios proveedores, o al menos conocer qué alternativas existen, es una forma elemental de resiliencia. Explorar cómo integrar la IA en una pyme de forma equilibrada incluye precisamente este tipo de consideraciones sobre dependencia tecnológica.
Cómo hablar de esto con tu equipo sin alarmismo
Cuando este debate llega a los medios generalistas, tiende a aparecer con dos tonos opuestos: o como una amenaza inminente y apocalíptica, o como exageración de expertos desconectados de la realidad. Ninguno de los dos encuadres es útil para una conversación productiva dentro de un equipo que usa IA en su trabajo diario. Lo que sí puede serlo es distinguir con claridad qué parte del debate es relevante para las decisiones que toma tu organización ahora y cuál pertenece a un horizonte más lejano e incierto.
El punto de partida más honesto es reconocer que hay una diferencia real entre lo que los sistemas actuales hacen y los escenarios de riesgo existencial que describe la ONU. Los modelos que se usan para redactar comunicaciones, analizar datos o generar ideas no son los sistemas avanzados sobre los que habla Türk. Esa distinción no invalida el debate, pero sí permite situarlo en su contexto sin que produzca una alarma desproporcionada en quien escucha.
El mensaje más útil para trasladar a un equipo es que los riesgos más relevantes para su trabajo cotidiano no son los futuros e hipotéticos, sino los actuales y concretos: sesgos en los resultados, uso inadecuado de datos, pérdida de capacidad crítica por exceso de delegación en herramientas automatizadas. Esos sí son gestionables hoy, y hablar de ellos de forma directa y sin dramatismo es más productivo que intentar explicar qué es una singularidad tecnológica.
También conviene reconocer la incertidumbre de forma explícita. Nadie sabe con exactitud cómo evolucionarán estos sistemas ni qué marcos regulatorios prevalecerán. Lo que sí se puede hacer es mantener hábitos que reduzcan la exposición a los riesgos conocidos y seguir de cerca la evolución del debate regulatorio. Entender qué significa trabajar con inteligencia artificial supervisada en el contexto de tu empresa es, en este sentido, más accionable que intentar resolver los debates filosóficos sobre el futuro de la IA antes de usarla.
Por último, es importante que el debate no se convierta en un freno innecesario. La incertidumbre regulatoria y los riesgos potenciales justifican cautela y criterio, no parálisis. La diferencia entre una organización que usa la IA de forma informada y una que la evita por miedo no está en el nivel de riesgo al que se expone, sino en la calidad de las decisiones que toma sobre cómo y para qué la utiliza.
Qué puede hacer una empresa que usa IA a diario
Si tu organización ya incorpora herramientas de inteligencia artificial en sus procesos, el debate de esta semana en Ginebra probablemente no cambia lo que haces mañana. Pero sí es un buen momento para revisar algunos hábitos.
- Saber qué herramientas usas y quién las desarrolla. Las empresas señaladas por la ONU son exactamente las que están detrás de los modelos más extendidos en el entorno empresarial.
- Leer las condiciones de uso con atención, especialmente lo relativo a datos propios o de terceros que se introduzcan en esos sistemas.
- No delegar en la IA decisiones que afecten a personas sin revisión humana, aunque el proceso sea más lento.
- Mantenerse informado sobre la evolución regulatoria, porque las normas que emerjan en los próximos años afectarán directamente a qué se puede y no se puede hacer con estas herramientas en contextos profesionales.
Si estás valorando cómo integrar estas tecnologías de forma sensata en una organización pequeña o mediana, puede ser útil revisar qué implica realmente cómo usar la IA en una empresa pequeña sin asumir riesgos innecesarios.
Lo que está pasando en la ONU no es un debate ajeno al uso cotidiano de estas herramientas. Las decisiones regulatorias que se tomen —o que no se tomen— en los próximos meses darán forma al entorno en el que operarán las organizaciones que hoy ya dependen de ellas. Entender el debate es parte de usarlas bien. Si quieres ver cómo se puede aplicar todo esto con criterio, en nuestros servicios de marketing con inteligencia artificial encontrarás un punto de partida práctico.
Preguntas frecuentes
¿La ONU tiene poder para obligar a las empresas a cambiar cómo desarrollan la IA?
No directamente. Los organismos de la ONU pueden emitir declaraciones, aprobar resoluciones y convocar acuerdos, pero su capacidad de imponer obligaciones vinculantes a empresas privadas es muy limitada. Lo que sí pueden hacer es presionar a los estados para que adopten regulaciones nacionales o para que negocien tratados internacionales. La declaración de Türk tiene peso político y simbólico, pero no es en sí misma una norma aplicable. Su efecto real depende de que los estados con jurisdicción sobre esas empresas decidan actuar en consecuencia.
¿Qué diferencia hay entre un riesgo existencial y un riesgo grave?
Un riesgo grave puede causar daños muy significativos, pero permite recuperación. Un riesgo existencial, en el sentido técnico del término, describe consecuencias que serían irreversibles a escala civilizatoria: situaciones que comprometerían permanentemente la capacidad de la humanidad de determinar su propio futuro. La distinción importa porque justifica distintos niveles de respuesta. Muchos de los riesgos actuales de la IA —sesgos, desinformación, usos indebidos de datos— son graves pero no existenciales, y tienen soluciones concretas que no requieren resolver primero el debate sobre el riesgo existencial.
¿Las herramientas de IA que usa mi empresa forman parte de este debate?
Depende de qué herramientas son y cómo las usas. Los modelos de lenguaje de uso general que emplea hoy la mayoría de las empresas no son los sistemas avanzados sobre los que habla Türk. Sin embargo, están desarrollados por las mismas compañías que él señaló, lo que significa que las decisiones estratégicas y regulatorias que afecten a esas organizaciones sí repercutirán en las herramientas que hoy usas. El debate no afecta directamente a tu flujo de trabajo actual, pero sí al entorno en el que esas herramientas existirán en los próximos años.
¿Es lo mismo un agente de IA que un sistema con capacidad de auto-mejora?
No. Un agente de IA es un sistema que puede encadenar tareas, interactuar con herramientas externas y tomar decisiones intermedias de forma autónoma, pero dentro de los límites que le fija quien lo diseña y opera. Los sistemas con capacidad de auto-mejora —que son el objeto principal del debate sobre riesgo existencial— serían capaces de modificar sus propias capacidades sin intervención externa. Los agentes que existen hoy son más autónomos que un modelo conversacional estándar, pero no tienen esa capacidad de auto-modificación. Puedes profundizar en qué son los agentes de IA y cómo funcionan para entender mejor esta distinción antes de adoptar ese tipo de herramientas.
¿Qué puede hacer una empresa pequeña ante la incertidumbre regulatoria?
Tres cosas concretas. Primera, documentar qué herramientas usa, para qué las usa y qué datos introduce en ellas: esa documentación será útil sea cual sea el marco regulatorio que finalmente prevalezca. Segunda, no concentrar todos sus procesos dependientes de IA en un único proveedor, para reducir la exposición ante cambios en las condiciones de esas plataformas. Tercera, seguir de cerca la evolución normativa en su sector, porque algunos ámbitos recibirán regulación más estricta antes que otros. La clave no es esperar a que la regulación sea definitiva, sino construir hábitos compatibles con cualquier marco razonable que emerja.