El marketing del apocalipsis: ¿Por qué la IA quiere que le tengas miedo?
Detenme si ya has escuchado esto antes: una empresa tecnológica afirma haber desarrollado una inteligencia artificial tan poderosa que resulta aterradora. Segú…
Detenme si ya has escuchado esto antes: una empresa tecnológica afirma haber desarrollado una inteligencia artificial tan poderosa que resulta aterradora. Según ellos, es demasiado peligrosa para ser lanzada al mundo y las consecuencias de su uso negligente serían catastróficas. Por "nuestra seguridad", la mantendrán bajo llave... pero se aseguran de que todos sepamos que existe.
Este es el guion que Anthropic está siguiendo con su último modelo, Claude Mythos. La compañía asegura que su capacidad para detectar fallos de ciberseguridad supera con creces a los expertos humanos y que, en manos equivocadas, podría alterar el orden mundial. Sin embargo, detrás de estas advertencias existenciales, podría esconderse una estrategia de negocio mucho más terrenal.
La estrategia del miedo: ¿Protección o distracción?
No es común que una empresa hable de su producto como un peligro inminente. No verás a McDonald's anunciando una hamburguesa tan "peligrosamente deliciosa" que sería poco ético venderla. Entonces, ¿por qué los líderes de la IA insisten en que sus creaciones podrían acabar con la humanidad?
Varios analistas y expertos en ética, como la profesora Shannon Vallor, sugieren que esta obsesión con el apocalipsis sirve para desviar la atención de problemas reales y actuales:
1. Impacto ambiental: El consumo masivo de energía de los centros de datos.
2. Explotación laboral: Las condiciones de quienes etiquetan los datos para entrenar estos modelos.
3. Desinformación y Salud Mental: El auge de los deepfakes y el impacto cognitivo de la automatización.
Al presentar la IA como una fuerza casi sobrenatural, las empresas fomentan la narrativa de que solo ellas son capaces de controlarla, sugiriendo implícitamente que los organismos reguladores externos no tienen la capacidad técnica para intervenir.
El patrón del "Monstruo"
Esta táctica no es nueva. En 2019, Sam Altman (OpenAI) afirmó que no podían lanzar GPT-2 por ser demasiado peligroso; meses después, lo lanzaron de todos modos. El propio Altman ha dicho que pierde el sueño pensando si hizo algo malo al lanzar ChatGPT, mientras que Elon Musk firmó una carta pidiendo una pausa en el desarrollo de IA solo para anunciar su propia empresa, xAI, poco tiempo después.
Emily M. Bender, profesora de lingüística computacional, lo define claramente: "Es un patrón de afirmaciones infundadas sobre el poder. Nos dicen 'miren hacia aquí' para que no prestemos atención a los sistemas sociales que están desmantelando".
¿Es Claude Mythos realmente tan letal?
Anthropic afirma que Mythos ha detectado miles de vulnerabilidades críticas. No obstante, expertos en seguridad como Heidy Khlaaf señalan fisuras en este relato. La empresa no ha publicado datos sobre la tasa de falsos positivos (cuántas veces la IA se equivoca), una métrica estándar en la industria. Además, existen sospechas de que el retraso en el lanzamiento de Mythos no se deba a la "seguridad", sino a la falta de capacidad de cómputo necesaria para ejecutarlo a gran escala.
Entre el demonio y el mesías
Las empresas de IA nos venden una moneda de dos caras: por un lado, el apocalipsis (extinción humana); por el otro, la utopía (curar todas las enfermedades y dominar la física).
Esta escala mítica hace que las herramientas de control democrático, como las leyes y la gobernanza, parezcan insignificantes. "Nada en ellas es ingobernable. A menos que decidamos no gobernarlas", advierte Vallor. Al final del día, Claude Mythos no es un dios ni un demonio; es un producto creado por una corporación con fines de lucro.
Antes de entrar en pánico por el fin del mundo, conviene recordar otras promesas de Silicon Valley: ¿Estamos ya viviendo en el Metaverso? ¿Sustituyó el Bitcoin a todas las divisas? La IA tiene un potencial enorme, pero quizás el mayor peligro actual no sea una rebelión de las máquinas, sino la concentración de poder en manos de quienes nos piden que les tengamos miedo.