Dario Amodei, cofundador e CEO da Anthropic, alertou os legisladores dos EUA sobre os potenciais perigos da inteligência artificial de código aberto. Falando ao Congresso, Amodei destacou que, uma vez que modelos de IA com capacidades avançadas são lançados como código aberto, os desenvolvedores perdem a capacidade de supervisionar efetivamente seu uso. Isso inclui desafios no monitoramento de usos indevidos, revogação de acesso e atualização de medidas de segurança, o que pode levar a riscos significativos e irreversíveis. Amodei enfatizou que os modelos de IA de código aberto são mais difíceis de controlar em comparação com sistemas fechados, representando um desafio maior para a governança de segurança. Ele alertou que a falta de controle sobre esses modelos pode levar a usos indevidos, ressaltando a necessidade de uma consideração cuidadosa no desenvolvimento e lançamento de tecnologias de IA de código aberto.