Dario Amodei, cofondateur et PDG d'Anthropic, a mis en garde les législateurs américains contre les dangers potentiels de l'intelligence artificielle open-source. S'adressant au Congrès, Amodei a souligné qu'une fois que des modèles d'IA aux capacités avancées sont publiés en open-source, les développeurs perdent la capacité de superviser efficacement leur utilisation. Cela inclut des difficultés à surveiller les usages abusifs, à révoquer les accès et à mettre à jour les mesures de sécurité, ce qui pourrait entraîner des risques importants et irréversibles. Amodei a insisté sur le fait que les modèles d'IA open-source sont plus difficiles à contrôler comparés aux systèmes fermés, posant un défi plus grand pour la gouvernance de la sécurité. Il a averti que le manque de contrôle sur ces modèles pourrait conduire à des usages abusifs, soulignant la nécessité d'une réflexion approfondie dans le développement et la diffusion des technologies d'IA open-source.