Los propios líderes de algunas de las mayores compañías de inteligencia artificial piden reducir la velocidad con la que avanzan los modelos más poderosos. Wall Street reaccionó con fuertes caídas y Donald Trump rechaza cualquier freno que pueda favorecer a China. El debate tecnológico comienza así a convertirse también en un asunto económico, geopolítico y electoral. Durante años, la carrera de la inteligencia artificial estuvo dominada por una pregunta: ¿quién podría desarrollar los modelos más poderosos? Ahora comienza a plantearse otra: ¿qué ocurre si esas capacidades avanzan más rápido que las medidas destinadas a controlarlas?
La discusión cobró una dimensión diferente durante el fin de semana después de que Dario Amodei, director ejecutivo de Anthropic, propusiera reducir deliberadamente el ritmo con el que mejoran los sistemas de inteligencia artificial más avanzados.
Su llamado resultó particularmente significativo porque recibió respaldo de algunos de sus principales competidores, entre ellos Sam Altman, director ejecutivo de OpenAI, y Elon Musk, fundador de xAI. Demis Hassabis, responsable de Google DeepMind, también ha defendido mecanismos más fuertes de supervisión.
No están proponiendo abandonar la inteligencia artificial ni detener toda investigación. La idea central consiste en espaciar los grandes saltos de capacidad para disponer de más tiempo para evaluar los modelos, identificar riesgos y desarrollar mecanismos de seguridad antes de lanzar sistemas todavía más poderosos.
¿POR QUÉ AHORA?
Las advertencias llegan después de una serie de episodios que han incrementado la preocupación dentro de las propias compañías.
Investigadores han alertado sobre modelos capaces de realizar tareas informáticas cada vez más complejas, operar mediante agentes autónomos y encontrar formas de superar determinadas barreras de seguridad.
Jakub Pachocki, científico jefe de OpenAI, advirtió recientemente que los modelos más avanzados ya muestran capacidades extraordinarias en seguridad informática y que algunos de los métodos utilizados para comprender cómo razonan comienzan a perder efectividad conforme los sistemas se vuelven más sofisticados.
Amodei propone incorporar evaluadores externos dentro de las compañías, establecer estándares comunes de seguridad y acordar límites verificables sobre la velocidad con la que aumentan determinadas capacidades.
El objetivo no sería congelar la tecnología. Sería ganar tiempo.
WALL STREET ESCUCHÓ LA ADVERTENCIA
Los inversionistas reaccionaron inmediatamente.
Las acciones vinculadas con inteligencia artificial y semiconductores sufrieron fuertes caídas alrededor del mundo este lunes ante la posibilidad de que un desarrollo más lento reduzca también el gigantesco ritmo de inversión previsto para los próximos años.
En Estados Unidos, Nvidia llegó a caer cerca de 4%, mientras otras empresas de semiconductores también retrocedieron. En Asia, SoftBank —uno de los grandes inversionistas de OpenAI— perdió alrededor de 11% en Tokio y el índice Kospi de Corea del Sur cayó 3.3%.
SK Hynix perdió más de 6%, mientras en Europa ASML y otras compañías relacionadas con la fabricación de chips también registraron fuertes descensos. El Nasdaq retrocedió alrededor de 1.2% durante la jornada. La reacción tiene una explicación. Buena parte de las altas valoraciones actuales del sector tecnológico descansa sobre la expectativa de que empresas y
gobiernos continuarán gastando enormes cantidades de dinero en chips, centros de datos, energía e infraestructura para desarrollar modelos cada vez mayores. Una desaceleración modificaría esa ecuación. Sin embargo, una jornada negativa no significa que los inversionistas hayan dejado de creer en la inteligencia artificial. El movimiento refleja principalmente una reevaluación del ritmo al que podría continuar creciendo el negocio.
TRUMP NO QUIERE FRENAR
La Casa Blanca observa el problema desde otra perspectiva. Donald Trump rechazó la idea de reducir significativamente el desarrollo estadounidense porque considera que hacerlo podría entregar una ventaja estratégica a China. Trump admite que pueden establecerse algunas salvaguardas, pero considera exageradas varias de las advertencias sobre los escenarios más peligrosos. Su posición expone el principal dilema del debate. Incluso si las compañías estadounidenses aceptaran voluntariamente avanzar con mayor cautela, ¿qué garantizaría que China hiciera lo mismo?
EL DILEMA DE CHINA
Pekín tampoco interpreta las propuestas únicamente como una discusión de seguridad. El gobierno chino reaccionó a los llamados estadounidenses acusando a sectores tecnológicos de utilizar los riesgos de la inteligencia artificial como argumento para limitar el desarrollo de China. Las restricciones estadounidenses a la exportación de chips avanzados y maquinaria especializada ya forman parte de una disputa tecnológica mucho mayor. China sostiene que la respuesta debería pasar por cooperación internacional y reglas globales, mientras Washington busca impedir que Pekín alcance una posición dominante en tecnologías.
