Dario Amodei, cofundador y CEO de Anthropic, ha advertido a los legisladores estadounidenses sobre los posibles peligros de la inteligencia artificial de código abierto. Hablando ante el Congreso, Amodei destacó que una vez que los modelos de IA con capacidades avanzadas se liberan como código abierto, los desarrolladores pierden la capacidad de supervisar eficazmente su uso. Esto incluye desafíos para monitorear el uso indebido, revocar el acceso y actualizar las medidas de seguridad, lo que podría conducir a riesgos significativos e irreversibles. Amodei enfatizó que los modelos de IA de código abierto son más difíciles de controlar en comparación con los sistemas cerrados, lo que representa un mayor desafío para la gobernanza de la seguridad. Advirtió que la falta de control sobre estos modelos podría llevar a un uso indebido, subrayando la necesidad de una consideración cuidadosa en el desarrollo y la liberación de tecnologías de IA de código abierto.