El CEO de Anthropic, Dario Amodei, afirmó que la compañía nunca defendió la prohibición de modelos de inteligencia artificial abiertos, pero propuso tres medidas para regularlos, incluyendo restricciones a la venta de chips a China y pruebas de seguridad obligatorias.
El CEO de Anthropic, Dario Amodei, aclaró el lunes que la posición de su compañía no defiende la prohibición de los modelos de Inteligencia Artificial (IA) abiertos, pero consideró necesario establecer medidas de protección frente a actores extranjeros, como China, para evitar que esos modelos se utilicen para obtener una capacidad tecnológica y militar superior a la estadounidense.
Amodei se refirió a la discusión reciente sobre los modelos de IA abiertos, especialmente los provenientes de China, cuyo uso algunos funcionarios de Estados Unidos evalúan prohibir en territorio estadounidense. En ese contexto, varias compañías tecnológicas como Nvidia, Microsoft, Perplexity y Mistral firmaron una carta en apoyo a los modelos abiertos, mientras que algunas críticas señalaron que el laboratorio de IA dirigido por Amodei buscaba la prohibición como estrategia para proteger su modelo de negocio.
“Anthropic nunca ha defendido la prohibición de los modelos abiertos”, afirmó Amodei. Explicó que, mientras no tengan capacidades peligrosas, esos modelos son un bien público, “no cuestan apenas nada aparte de la computación necesaria para hacerlos funcionar, dando valor a negocios, desarrolladores e investigadores”.
“Mi principal preocupación es que gobiernos autoritarios, no únicamente el Partido Comunista Chino (PCCh), aunque el PCCh es claramente la amenaza más capaz, construyan modelos de IA que sean más potentes que los diseñados por Estados Unidos, y los usen para lograr una superioridad militar permanente o perpetrar una represión increíblemente profunda de su propio pueblo”, sostuvo Amodei, en línea con evaluaciones del gobierno estadounidense sobre el desafío que suponen los regímenes autoritarios.
El CEO también mencionó los riesgos de desalineación de la IA (cuando un modelo es muy potente pero no hace lo que se espera, con comportamientos impredecibles o dañinos) y su posible mal uso en ciberataques o ataques biológicos. “Los modelos de pesos abiertos presentan potencialmente un riesgo mayor que los modelos cerrados, porque es muy difícil aplicarles las salvaguardas necesarias o supervisar su uso, y una vez que se liberan no pueden retirarse”, señaló.
Ante la posibilidad de prohibir su uso en EE. UU., Amodei indicó que eso no frena a los actores maliciosos y solo blindaría a las grandes compañías del país frente a la competencia. Para mitigar los efectos del uso de modelos abiertos, Anthropic propuso tres medidas:
- No vender chips potentes ni equipos de fabricación de chips a China, y combatir el contrabando de esa tecnología.
- Combatir las operaciones de destilación industrial, que según Amodei permiten a China “construir modelos mucho mejores de lo que su número de chips normalmente permitiría”.
- Exigir pruebas de seguridad obligatorias para todos los modelos capaces, tanto abiertos como cerrados, para detectar riesgos cibernéticos, biológicos y de alineación antes de su lanzamiento. Amodei sostuvo que, para ser eficaces, las pruebas deberían ser globales, “lo que significa que incluso el PCCh tendría que estar de acuerdo”.
La postura de Anthropic generó reacciones en comunidades de modelos de IA abiertos y de la propia Claude en Reddit, donde algunos usuarios señalaron que apelar a la “seguridad nacional” es una cortina de humo para imponer reglas que solo los grandes laboratorios de IA pueden asumir y que condenarían al código abierto a una muerte lenta.