La industria de la IA no ha descubierto ahora sus propios riesgos: los conocía desde hace
años, y llevaba ese mismo tiempo evitando su supervisión
Este fin de semana, la industria tecnológica se ha caído de un guindo. Ha protagonizado un giro que en la prensa se ha presentado como un despertar de conciencia: los máximos responsables de las grandes compañías de inteligencia artificial han pedido, casi al unísono, frenar el ritmo de desarrollo de sus propios productos. Desde la Casa Blanca, la respuesta ha sido tajante y muy en línea con la lógica de la Guerra Fría actualizada: quien gane la supremacía en inteligencia artificial, gana la supremacía geopolítica; nada de frenazos.
El relato que se ha instalado es el de una industria que, tras años de avanzar sin mirar atrás, descubre de golpe sus propios riesgos y decide, generosamente, pedir que alguien la regule. Es un relato atractivo. Conviene matizarlo bastante, porque llevamos años advirtiendo de estos riesgos desde entornos muy concretos —agencias, leyes, informes científicos internacionales— y España, de hecho, estuvo en primera línea de ese esfuerzo. Que ahora se presente como una revelación de última hora resulta, cuando menos, llamativo.
Esto no es nuevo. En diciembre de 2023, bajo presidencia española de la Unión Europea, se cerró el acuerdo sobre la ley europea de inteligencia artificial, la primera norma integral del mundo sobre esta tecnología. España, además, ya había creado meses antes su propia agencia de supervisión, la AESIA, siendo el primer país de la UE en dotarse de un organismo nacional de supervisión, encargado de vigilar el despliegue en territorio español de los sistemas de IA de alto riesgo: los que deciden sobre selección de personal, acceso a créditos o procedimientos judiciales. Para los modelos de frontera —los grandes modelos horizontales de propósito general de los que precisamente se habla estos días— la competencia es otra: corresponde a la Oficina Europea de IA, un organismo de la Comisión que desde agosto de 2025 exige a sus fabricantes documentación técnica, políticas de derechos de autor y transparencia sobre los datos de entrenamiento. Es decir, que el organismo europeo que debe supervisar exactamente aquello que ahora preocupa a la industria existe, y lleva más de un año funcionando.
Por otro lado, el mes de octubre de 2023, en Estados Unidos, la Administración Biden firmó su propia orden ejecutiva sobre seguridad de la inteligencia artificial, que obligaba a los grandes desarrolladores a compartir con el Gobierno los resultados de sus pruebas de seguridad. La Administración Trump la derogó en enero de 2025. Un mes después de aquella orden, en noviembre de 2023, la cumbre de Bletchley Park cerca de Londres puso en marcha los primeros Institutos de Seguridad de la IA, el británico y el estadounidense, que dieron origen a una red internacional que llegó a reunir a una decena de organismos equivalentes en todo el mundo —Japón, Corea del Sur, Canadá, Singapur o la propia Unión Europea, entre otros—, dedicados a evaluar de forma independiente los modelos más avanzados antes de su lanzamiento comercial. Esa red sigue funcionando, pero uno de sus pilares se ha vaciado por el camino: en junio de 2025, la Administración estadounidense cesó a su directora. y cambió el nombre de su Instituto de Seguridad de la IA, que pasó a llamarse Centro para los Estándares y la Innovación en IA, eliminando deliberadamente la palabra “seguridad” de su denominación y reorientando su misión desde la evaluación de riesgos hacia la competitividad tecnológica.
Pero el actor que no se ha nombrado en todo este debate es Naciones Unidas. En agosto de 2025, la Asamblea General creó dos mecanismos complementarios. El primero es el Panel Científico Internacional Independiente sobre IA, el primer organismo científico de la ONU dedicado en exclusiva a esta tecnología, con cuarenta expertos - uno español- elegidos entre más de 2.600 candidaturas de 140 países y copresidido por el profesor Yoshua Bengio — premio Turing 2018— y la periodista y premio Nobel de la Paz Maria Ressa. En abril de este año celebró en Madrid, acogido por el Gobierno español, su primera reunión presencial, y el 1 de julio publicó su primer informe, con una advertencia central: los mecanismos de seguridad no evolucionan al mismo ritmo que la capacidad de los modelos. El segundo es el Diálogo Global sobre Gobernanza de la IA, que celebró su primera sesión en Ginebra el 6 y 7 de julio: el primer foro multilateral bajo mandato de la Asamblea General donde los Estados y el resto de actores se sientan a debatir estándares comunes técnicos y de gobernanza a escala internacional.
Merece la pena detenerse en esto, porque cuando desde el sector se propone ahora una coordinación entre “países democráticos” para fijar reglas comunes frente a China, lo que en realidad se está planteando es duplicar —en formato de bloque, y con un perímetro decidido por quien lo propone— algo que ya existe en un marco genuinamente universal y multilateral.
Los estándares internacionales de una tecnología que se despliega en todos los países del mundo no se acuerdan mejor dividiendo el mapa en dos mitades: se acuerdan en los foros donde están sentados todos, que es exactamente para lo que se creó el Diálogo Global. Reeditar una guerra de bloques o de estándares no mejora la gobernanza; la fragmenta. Lo que toca no es construir alianzas paralelas a medida, sino apoyar el multilateralismo que ya está en marcha, porque la inteligencia artificial es una tecnología tan compleja y tan transversal —atraviesa la sanidad, la educación, el empleo, la energía, la seguridad, la información— que ni una sola empresa ni un solo país pueden gobernarla en solitario.
Dicho de otro modo: lo que este fin de semana se ha presentado como una propuesta pionera de la propia industria es, en sus elementos esenciales, algo que gobiernos, agencias, científicos independientes y la propia ONU llevan reclamando desde hace casi tres años. ¿Por qué ahora?
Para entender por qué surge esta preocupación y debate precisamente ahora debemos analizarlo desde cuatro ejes, y solo uno de ellos tiene que ver de verdad con la seguridad.
1. El eje tecnológico
Este verano se ha producido un incidente serio: en un experimento de ciberseguridad de OpenAI, un grupo de agentes de inteligencia artificial —programas capaces de actuar por su cuenta y coordinarse entre sí— atacó sistemas de la plataforma Hugging Face que no formaban parte de su tarea, y llegó a intentar manipular el propio mecanismo que medía su desempeño.
Es decir, programas que por su cuenta se desviaron del objetivo fijado por un humano. A esto se suma un segundo fenómeno, más de fondo, que la propia industria describe como “automejora recursiva”: los sistemas de IA se mejoran a sí mismos y si ese proceso avanza sin controles, la velocidad de mejora podría superar la capacidad de sus propios creadores para entender cómo funcionan y corregir sus fallos a tiempo. Y a todo ello se añade que varias empresas del sector, Anthropic entre ellas, han publicado informes propios reconociendo que algunos de sus modelos se acercan a niveles de capacidad que podrían facilitar usos indebidos de la tecnología —incluido el ámbito de las armas biológicas—, lo que las ha llevado a reforzar sus protocolos internos.
Son problemas técnicos reales, no inventados, y conviene decirlo con la misma claridad con la que se señalan los otros tres ejes: que la industria los reconozca ahora y empiece a diseñar mecanismos cada vez mejores de salvaguarda frente a ellos es, sencillamente, de sentido común, y es bienvenido. El problema nunca ha sido que se tomen en serio estos riesgos. El problema es quién debe decidir qué salvaguardas bastan, y quién debe comprobar que se cumplan.
2. El eje financiero
Todo esto ocurre justo cuando arrecian las dudas sobre si la inversión en inteligencia artificial van a cumplir con sus expectativas de crecimiento y rentabilidad. Tanto Anthropic como OpenAI ya han confirmado que retrasan su salida a bolsa, alegando las “crecientes preocupaciones por la seguridad”. Es una explicación conveniente para lo que, en un contexto de valoraciones muy infladas, podría ser simplemente el momento equivocado para salir a los mercados. Parte de estos anuncios se entienden mejor como relaciones públicas de cara a futuras operaciones financieras que como conclusiones basadas en evidencia. Y un peligro presentado como algo que “emerge” de la tecnología misma tiene, además, una ventaja evidente: nadie en un consejo de administración tiene que responder por él.
3. El eje industrial: cárteles y lobbies
La historia ofrece un precedente instructivo de lo que ocurre cuando un puñado de competidores se ponen de acuerdo entre sí para fijar sus propios estándares. En 1924, los principales fabricantes mundiales de bombillas —Osram, Philips, General Electric y otros— se reunieron en Ginebra y crearon el cartel Phoebus, formalmente una convención para “el desarrollo y progreso” de la lámpara eléctrica. En la práctica, aquel acuerdo entre competidores no protegió al consumidor: fijó precios, repartió mercados y redujo deliberadamente la vida útil de las bombillas de 2.500 a 1.000 horas para forzar más ventas.
Durante quince años fue el ejemplo de manual de lo que ocurre cuando se deja que un oligopolio se autorregule bajo la apariencia de un estándar técnico consensuado. Que hoy tres competidores directos —Anthropic, OpenAI y xAI— coincidan en cuestión de horas en fijar de forma voluntaria su propio ritmo de “seguridad”, sin que ningún organismo externo participe, no equivale automáticamente a un cartel, pero sí reproduce la misma estructura de fondo. Y el cartel de las bombillas no solo fijaba precios: también cerraba la puerta a productos de la competencia que amenazaran el modelo de negocio acordado. Si son las propias grandes tecnológicas quienes terminan definiendo qué umbral de “seguridad” hace falta cumplir para operar un modelo de frontera, ese estándar puede convertirse en una barrera de entrada: asumible para quien ya tiene los medios para cumplirlo, más difícil para un competidor pequeño o un proyecto de código abierto. No hace falta que sea intencionado para que funcione así.
Esto conecta con la regulación que ya está en marcha. En Estados Unidos avanza en el Congreso una futura ley federal, y en Europa la EU AI Act ya es de obligado cumplimiento. Ante eso, a la industria le resulta más cómodo ofrecer su propia versión de “supervisión independiente” —con evaluadores que ella misma elige y financia— que someterse a los mecanismos que ya existen: la Oficina Europea de IA, la AESIA, el Panel Científico de la ONU o el Diálogo Global de la IA. Cuando Anthropic anuncia que “permitirá” el acceso de evaluadores independientes, la pregunta pertinente es si esos evaluadores responden ante alguno de esos organismos, o si son, de nuevo, elegidos y pagados por la propia empresa evaluada.
4. El eje geopolítico
Cualquier freno regulatorio se presenta como una rendición unilateral frente a un rival estratégico que, se sobreentiende, no va a poner límites a su propia industria. La premisa, sin embargo, es discutible: China regula ya varios aspectos de su sector de IA de forma más estricta que Estados Unidos, y no hay evidencia de que regular frene la investigación. El propio argumento de que “regular mata la innovación” —el mismo que Washington ha usado contra la ley europea— se sostiene mal cuando quien más rápido innova en algunos terrenos es, precisamente, quien más regula.
Aquí el cartel de las bombillas tiene un último eco: no solo fijaba precios, también decidía qué productos ajenos podían entrar en el mercado. Uno de los terrenos donde China compite de verdad —y en el que ha tomado la delantera en 2026— es el de los modelos de código abierto: laboratorios como DeepSeek, Alibaba con Qwen, Moonshot con Kimi o Zhipu con GLM han pasado a copar la mayoría del uso mundial de modelos de pesos abiertos, mientras los laboratorios estadounidenses mantienen un modelo cerrado y de pago. Si el estándar de “seguridad” que ahora se negocia acaba traduciéndose en restricciones para el código abierto, el resultado sería una barrera que golpea justo donde China es más fuerte, mientras protege el modelo de negocio de quienes están definiendo el estándar.
Y conviene no perder de vista, en todo este relato de “carrera” hacia la supremacía, quién compite realmente con quién. La carrera no es entre “inteligencias artificiales”, es entre empresas y entre gobiernos, compitiendo por capacidad y cuota de mercado mientras tratan la seguridad como un coste que conviene minimizar. La IA no es un actor independiente y neutral que decida por sí solo hacer daño a alguien; son las compañías —y los gobiernos que las respaldan o las dejan hacer— quienes diseñan, entrenan y despliegan sistemas capaces de causar ese daño, con o sin intención. Achacar el riesgo a la tecnología misma, en lugar de a quien la construye y la vende, es exactamente el mismo movimiento retórico que le permite a cualquier oligopolio eludir la rendición de cuentas.
Lo que de verdad importa
Los daños más serios que ya ha causado la inteligencia artificial no vienen de escenarios de ciencia ficción, sino de sistemas automatizados mal supervisados tomando decisiones sobre personas reales. El escándalo de las prestaciones familiares en Países Bajos, que acusó injustamente a miles de familias de fraude y acabó tumbando un gobierno. El sistema australiano que generó cientos de miles de reclamaciones de deuda ilegales. El escándalo británico de las oficinas de correos, condenadas penalmente por un software contable defectuoso que nadie se atrevió a cuestionar. Son casos menos espectaculares que un titular sobre superinteligencia descontrolada, y por eso reciben mucha menos atención, pero son los que ya están ocurriendo.
Hay dos frentes más, muy actuales, que el debate de esta semana ha dejado completamente de lado. El más importante es la salud mental: en Estados Unidos se han presentado ya varias demandas contra empresas como OpenAI y Character.AI por parte de familias que sostienen que las conversaciones de sus hijos adolescentes con estos chatbots precedieron a su suicidio, y decenas de estados han empezado a legislar en 2026 para restringir el uso de estas herramientas como sustituto de la atención psicológica profesional. Son problemas que no requieren ningún escenario apocalíptico para justificar que se regulen: están sucediendo ya, con nombres y apellidos, y no deberíamos esperar a la próxima catástrofe para actuar sobre lo que la IA hace hoy, no sobre lo que podría llegar a hacer dentro de cinco años.
La palabra correcta no es “contener” la IA, como si fuera un reactor nuclear, sino gobernar cómo se despliega: quién puede usar cada sistema, con qué permisos, con qué pruebas previas, con qué supervisión y con qué responsabilidad legal cuando algo sale mal. Es el mismo modelo que ya aplicamos a la aviación o a la industria farmacéutica. Lo que corresponde ahora no es tanto aplaudir a la industria por descubrir, con tres años de retraso, unos riesgos que gobiernos, científicos y la propia ONU llevaban tiempo señalando, sino exigirle que apoye —con recursos, con transparencia y sin letra pequeña— los mecanismos multilaterales que ya están en marcha, Nada de esto exige inventar nada nuevo. Y sobre todo, que la palabra “independiente” que ahora usan las grandes tecnológicas signifique lo mismo que en cualquier otro sector regulado: evaluadores que no elige, ni paga, ni controla la empresa evaluada. España ayudó a poner las primeras reglas sobre la mesa, y ha acogido a los científicos de la ONU que ahora las están desarrollando. Ahora toca que la propia industria se ponga a favor de su papel supervisor.
Conviene terminar, además, sin caer en el catastrofismo, que la gobernanza no es solo una exigencia defensiva: es también, y sobre todo, una buena noticia para la propia industria. La experiencia de otros sectores muy regulados —la aviación, la banca, la industria farmacéutica— demuestra que unas reglas claras y estables no frenan la adopción de una tecnología, sino que la aceleran: los hospitales, los bancos, las administraciones públicas y los ciudadanos de a pie confían mucho más en una herramienta cuando saben que ha sido evaluada por alguien ajeno a quien la vende, y esa confianza es precisamente lo que permite que una tecnología pase del laboratorio a la vida cotidiana a gran escala. Bienvenida sea, por tanto, la gobernanza: no como un obstáculo a superar de mala gana, sino como la condición necesaria para que la inteligencia artificial se adopte de forma segura y podamos aprovechar de verdad sus aspectos más positivos, en medicina, en investigación científica o en educación. En lugar de concentrar todo el debate en las catástrofes hipotéticas, convendría poner el mismo empeño en las oportunidades reales de la IA, y la única manera de garantizarlas, a largo plazo, es con transparencia, con confianza y con gobernanza.
Login
