Cuando la seguridad también protege el negocio

La inteligencia artificial no siente miedo. Tampoco ambición, codicia, resentimiento ni deseo de poder. Carece de biografía, conciencia moral y voluntad propia. Puede representar esas emociones mediante el lenguaje porque ha aprendido sus patrones, pero representarlas no equivale a experimentarlas.

El miedo pertenece al ser humano.

Pertenece al trabajador que imagina su empleo ocupado por una máquina. Al profesional que descubre que una tarea adquirida durante años puede ejecutarse ahora en segundos. Al profesor que sospecha que sus alumnos ya no lo necesitan como antes. Al creador que observa cómo una aplicación produce imágenes, música o textos con una facilidad que cuestiona parte de su identidad. Y pertenece también al dirigente político, al regulador y al empresario que temen perder el control sobre una transformación que avanza con mayor rapidez que sus instituciones.

Decimos que tenemos miedo de la inteligencia artificial. Con frecuencia, lo que tememos es la pérdida de nuestra posición dentro del mundo. Por eso resulta tan revelador que algunas de las compañías responsables de acelerar esta tecnología hayan comenzado a pedir que se reduzca su velocidad.

En septiembre de 2026, Dario Amodei, director ejecutivo de Anthropic, propuso que las empresas de inteligencia artificial moderaran temporalmente el avance de sus modelos más potentes. Su planteamiento incluía evaluadores independientes, coordinación entre laboratorios y cooperación internacional. Sam Altman, director ejecutivo de OpenAI, respaldó públicamente la necesidad de acompasar el desarrollo de la frontera tecnológica. Elon Musk se sumó a la petición. La explicación oficial fue clara: las capacidades de los nuevos sistemas podían avanzar más deprisa que los mecanismos disponibles para controlarlos. Reuters

OpenAI ya había publicado su propia posición sobre la necesidad de vigilar determinadas capacidades críticas, especialmente en materia de ciberseguridad, antes de continuar ampliando la potencia de sus modelos. OpenAI

La preocupación merece ser tomada en serio. Un sistema capaz de encontrar vulnerabilidades informáticas, automatizar ataques o facilitar actividades delictivas exige precauciones verificables. Sería irresponsable descartar estos riesgos por el simple hecho de que las empresas puedan obtener ventajas al denunciarlos. También sería ingenuo aceptar su relato sin examinar sus intereses.

El miedo como respuesta psicológica

Cada gran cambio tecnológico altera algo más profundo que el mercado laboral. Altera la jerarquía de competencias sobre la que las personas construyen su identidad.

Durante años, una sociedad recompensa determinadas capacidades. Memorizar, redactar, calcular, programar, diagnosticar, diseñar, traducir o sintetizar información concede prestigio, seguridad económica y reconocimiento. El individuo termina asociando lo que sabe hacer con lo que cree ser.

Cuando una máquina comienza a ejecutar esas tareas, la amenaza se experimenta como una forma de desplazamiento personal.

La persona rara vez piensa: «una herramienta nueva está modificando la distribución social del trabajo». Piensa algo más inmediato: «quizá ya no soy necesario».  Ahí comienza el miedo.

La reacción defensiva posterior suele presentarse como un juicio moral. La tecnología es deshumanizadora. La máquina destruirá la creatividad. Los estudiantes dejarán de pensar. Los trabajadores perderán su dignidad. La sociedad será incapaz de distinguir la realidad de la ficción.

Algunos de estos riesgos son ciertos. Ninguno demuestra que la tecnología posea una intención destructiva. Una calculadora puede debilitar el cálculo mental si se utiliza mal. Un buscador puede sustituir el conocimiento por la localización instantánea de información. Las redes sociales pueden deformar la atención. El problema aparece en la relación entre la herramienta, el usuario y el sistema de incentivos que organiza su uso. Con la inteligencia artificial sucede lo mismo, aunque a una escala mayor.

El ser humano proyecta intención sobre aquello que produce resultados complejos. Si una respuesta nos sorprende, suponemos que alguien ha querido sorprendernos. Si una máquina parece persuadir, le atribuimos voluntad persuasiva. Si comete un error con seguridad verbal, interpretamos arrogancia o engaño. Son categorías psicológicas humanas aplicadas a un sistema que calcula relaciones entre datos y genera resultados conforme a su arquitectura, entrenamiento e instrucciones.

La IA puede producir consecuencias peligrosas. Esto no la convierte en un sujeto moral.

Confundir capacidad con voluntad permite construir un relato cómodo. La máquina ocupa el lugar del culpable y nosotros evitamos examinar quién la diseña, quién decide sus objetivos, quién selecciona los datos, quién controla la infraestructura y quién obtiene beneficios de su aplicación.

El miedo desplaza así la responsabilidad.

Una máquina no es una criatura mitológica

Gran parte del debate público trata los modelos de lenguaje como si fueran una mente humana encerrada dentro de un ordenador. Esta imagen resulta atractiva y técnicamente pobre.

Los sistemas actuales reconocen patrones, generan lenguaje, combinan representaciones y ejecutan tareas con una eficacia creciente. Pueden superar a muchas personas en dominios concretos. Eso no prueba que comprendan el mundo del mismo modo que un ser humano, que posean sentido común general ni que desarrollen espontáneamente deseos propios.

Una máquina capaz de completar una frase con extraordinaria precisión sigue dependiendo de objetivos, datos, infraestructura y decisiones humanas. Incluso los sistemas con capacidad para planificar acciones operan dentro de condiciones diseñadas, permitidas o insuficientemente controladas por personas.  Conviene evitar dos errores opuestos.

El primero consiste en afirmar que la IA es una simple calculadora sin capacidad para producir daños graves. Esa postura ignora su alcance, su velocidad y su potencial de automatización.

El segundo consiste en convertirla en una entidad casi sobrenatural que despierta, decide dominar el planeta y adquiere una voluntad independiente porque su capacidad de cálculo ha superado cierto umbral.

Entre la indiferencia y la mitología existe un terreno más riguroso. Allí se estudian los sistemas por lo que hacen, por las condiciones en las que fallan y por la capacidad humana de utilizarlos con fines legítimos o destructivos.

El peligro más inmediato continúa siendo reconocible: personas, organizaciones y Estados que emplean herramientas poderosas para vigilar, manipular, defraudar, atacar o concentrar poder.

La máquina multiplica la capacidad. La finalidad procede de otro lugar.

El coste de continuar corriendo

La llamada a frenar el desarrollo aparece en un momento económico muy concreto.

Entrenar modelos de frontera cuesta cada vez más. Un estudio sobre la evolución de estos costes calcula que los recursos informáticos de los entrenamientos más exigentes han crecido aproximadamente 2,4 veces por año desde 2016. Sus autores proyectan que los mayores entrenamientos podrían superar los 1.000 millones de dólares alrededor de 2027. A esta cifra deben añadirse el personal especializado, la energía, los centros de datos, la refrigeración, las redes y el coste de servir millones de consultas. Estudio sobre los costes de los modelos de frontera

Meta proyectó para 2026 un gasto de capital de hasta 145.000 millones de dólares, destinado en gran medida a infraestructura de inteligencia artificial. Al mismo tiempo, Mark Zuckerberg reconoció que el desarrollo de agentes avanzaba más despacio de lo esperado. Reuters

Meta merece aquí una precisión. Empleados y directivos vinculados a la compañía firmaron a título individual una declaración favorable a desacelerar la frontera tecnológica, pero Meta no comunicó oficialmente su adhesión y declinó comentar la iniciativa. Pacing the Frontier, ABC News

Por tanto, no existe una posición corporativa conjunta de OpenAI, Anthropic y Meta que pueda presentarse como un pacto confirmado. Sí existe un cambio perceptible en el discurso de importantes dirigentes del sector.

La coincidencia temporal entre preocupación por la seguridad y presión económica no demuestra una causalidad oculta. Revela, sin embargo, una convergencia de intereses.

Una pausa coordinada permitiría a los principales laboratorios contener temporalmente el gasto, evaluar sus productos, buscar rentabilidad y reducir la velocidad de una competición que amenaza con consumir cantidades extraordinarias de capital. También concedería tiempo para convertir capacidades experimentales en servicios estables y negocios sostenibles.

La seguridad puede ser una preocupación auténtica y producir, al mismo tiempo, beneficios empresariales.

Este punto resulta esencial. Los motivos humanos rara vez son puros. Una persona puede actuar por responsabilidad y conveniencia. Una institución puede defender una medida razonable que, además, fortalece su posición. Las grandes empresas tecnológicas no quedan fuera de esta regla elemental de la conducta.

Regular el peligro y proteger al incumbente

La regulación europea añade otra dimensión.

La Ley de Inteligencia Artificial de la Unión Europea contempla sanciones que, para determinadas infracciones, pueden alcanzar los 35 millones de euros o el 7 % de la facturación mundial anual. Otros incumplimientos, incluidas ciertas obligaciones relacionadas con modelos de propósito general, pueden ser sancionados con hasta 15 millones de euros o el 3 % de la facturación. Comisión Europea

Estas cifras son relevantes. Pero sería incorrecto afirmar que las multas derivadas de esta ley ya han obligado a OpenAI, Anthropic o Meta a recortar su investigación. La evidencia disponible no permite sostenerlo.

Lo comprobable es que el cumplimiento regulatorio cuesta dinero. Exige abogados, auditorías, documentación técnica, mecanismos de evaluación, controles internos, trazabilidad y adaptación constante. Una empresa consolidada puede absorber esos gastos. Una compañía pequeña quizá no pueda hacerlo.

Ahí aparece una consecuencia política conocida desde mucho antes de la inteligencia artificial: una regulación creada para controlar a los gigantes puede terminar protegiéndolos.

Las empresas dominantes disponen del capital necesario para atravesar el laberinto normativo. Sus competidores más pequeños quedan detenidos en la entrada. La norma eleva el coste de participar en el mercado y convierte el cumplimiento en una barrera competitiva.

La advertencia ha llegado incluso desde la Comisión Federal de Comercio de Estados Unidos. Su presidente, Andrew Ferguson, manifestó desconfianza ante las peticiones de nuevas regulaciones y excepciones antimonopolio formuladas por las propias compañías de IA. Según Ferguson, esas propuestas pueden crear barreras de entrada que protejan a las empresas establecidas frente a nuevos competidores. Reuters

La observación resulta especialmente pertinente porque Anthropic había planteado excepciones a las normas de competencia para facilitar la coordinación entre laboratorios.

Puede existir una razón legítima para coordinar medidas de seguridad. También existe un riesgo evidente cuando los principales competidores de una industria deciden conjuntamente cuánto deben avanzar, bajo qué condiciones y quién está capacitado para participar.

Un cartel no deja de producir efectos anticompetitivos porque utilice el vocabulario de la responsabilidad.

La política siempre llega después

La historia tecnológica presenta un patrón constante. Primero aparece la innovación. Después llega su utilización desordenada. Finalmente interviene el poder político, casi siempre cuando la sociedad ya depende de aquello que pretende regular.

Los gobiernos no comprenden plenamente la tecnología, pero comprenden el poder. Saben que controlar una infraestructura significa influir sobre la economía, la información y el comportamiento colectivo.

Por eso la regulación de la IA contiene una disputa que supera la seguridad técnica. Se decide quién podrá entrenar modelos, qué datos podrá utilizar, qué explicaciones deberá ofrecer, qué contenidos serán aceptables y qué autoridades tendrán acceso a sus sistemas.

El Estado afirma que protege al ciudadano. La empresa afirma que protege al usuario. Ambos pueden estar diciendo la verdad y defendiendo simultáneamente su propia capacidad de control.

El ciudadano queda situado entre dos centros de poder.

Por un lado, empresas que diseñan herramientas capaces de intervenir en la información que recibe, las decisiones que toma y los servicios que utiliza.

Por otro, gobiernos que pueden emplear la seguridad, la desinformación o la protección social para justificar sistemas de supervisión cada vez más amplios.

El debate público suele preguntar si la IA será capaz de controlar a la humanidad. La pregunta inmediata es más concreta: ¿quién controlará la IA y con qué límites?

Una tecnología centralizada en tres o cuatro corporaciones presenta un riesgo político. Una tecnología subordinada completamente al Estado también lo presenta. El pluralismo tecnológico, la competencia, la transparencia y la posibilidad de auditoría ofrecen mejores garantías que las declaraciones morales de quienes ya poseen el poder.

El valor político del pánico

El miedo simplifica.

Una sociedad asustada acepta con mayor facilidad restricciones que rechazaría en condiciones normales. Tolera decisiones urgentes, delega autoridad y reduce su exigencia de pruebas. Quiere una solución visible antes de comprender la naturaleza exacta del problema.

La inteligencia artificial reúne todas las condiciones para activar ese mecanismo psicológico. Es compleja, avanza deprisa, produce resultados sorprendentes y pocas personas comprenden cómo funciona. Además, afecta a zonas sensibles de la identidad: el trabajo, la creatividad, la inteligencia y la autonomía.

El terreno está preparado para la proyección.

Atribuimos a la máquina nuestros propios impulsos. Imaginamos que buscará poder porque nosotros buscamos poder. Suponemos que engañará porque conocemos el valor estratégico del engaño. Tememos que nos considere prescindibles porque nuestra historia está llena de instituciones que han considerado prescindibles a determinadas personas.

La fantasía de una IA tiránica dice mucho sobre la experiencia humana del poder.

Esto no invalida la investigación en seguridad. La hace más necesaria y, a la vez, más exigente. Una política seria debe distinguir entre riesgos demostrables, escenarios plausibles y especulaciones construidas sobre analogías humanas.

Sin esa distinción, la seguridad se convierte en una palabra capaz de justificar casi cualquier cosa.

Puede justificar la censura de modelos abiertos.

Puede justificar acuerdos entre competidores.

Puede justificar subvenciones públicas para infraestructuras privadas.

Puede justificar barreras regulatorias que excluyan a empresas pequeñas.

Puede justificar una vigilancia más profunda de los usuarios.

Y puede desviar la atención de un problema incómodo: quizá el principal riesgo no consista en que la inteligencia artificial escape del control humano, sino en que permanezca bajo el control de muy pocos seres humanos.

El miedo eres tú

El título de este ensayo no pretende negar los peligros de la inteligencia artificial. Pretende localizar correctamente su origen moral y político.

La IA carece de miedo. Nosotros tememos perder el trabajo, la autoridad, el prestigio y el control. Las empresas temen que la próxima generación de modelos vuelva obsoleta su inversión actual. Los gobiernos temen depender de tecnología extranjera. Los reguladores temen llegar demasiado tarde. Los expertos temen que sistemas más capaces superen sus mecanismos de evaluación.

Cada actor traduce su temor al lenguaje que mejor protege su posición.

El trabajador habla de empleo.

El profesor, de aprendizaje.

El creador, de autenticidad.

El Gobierno, de seguridad.

La empresa, de responsabilidad.

El laboratorio, de alineamiento.

Detrás de todos esos términos puede haber preocupaciones legítimas. También existen intereses materiales, luchas de poder y resistencias al cambio.

La tarea intelectual consiste en evitar dos obediencias. La primera es obedecer a quienes presentan cualquier innovación como progreso inevitable. La segunda es obedecer a quienes convierten toda incertidumbre en una emergencia que exige más control.

La inteligencia artificial debe someterse a evaluación, límites jurídicos y responsabilidad humana. Esos límites deben basarse en capacidades comprobadas y daños identificables. También deben impedir que la seguridad se transforme en el instrumento mediante el cual las compañías más poderosas congelen su ventaja.

La pregunta correcta no es si debemos confiar en la inteligencia artificial.

La confianza corresponde a relaciones entre sujetos capaces de asumir responsabilidad. Una máquina no comparece ante un tribunal, no responde moralmente por sus actos y no siente culpa. La responsabilidad pertenece a quienes la crean, la comercializan, la utilizan y la regulan.

Debemos preguntar quién toma las decisiones, quién asume las consecuencias, quién paga los costes y quién obtiene beneficios cuando se ordena reducir la velocidad.

Puede que algunos dirigentes tecnológicos estén sinceramente preocupados. Es probable que lo estén. También dirigen organizaciones sometidas a costes gigantescos, competencia internacional, presión inversora y regulación creciente. Ignorar cualquiera de estas dimensiones produciría un análisis incompleto.

El peligro existe. El interés también.

Cuando ambos aparecen envueltos en el mismo discurso, la obligación del ciudadano consiste en separar la evidencia de la representación, la prudencia del monopolio y la protección pública de la defensa corporativa.

La máquina continuará calculando.

El miedo, la ambición y la decisión de utilizarla seguirán siendo nuestros.