Le PDG d'Anthropic, Dario Amodei, a tiré la sonnette d'alarme concernant les risques de cybersécurité posés par l'intelligence artificielle, soulignant que l'IA peut identifier les vulnérabilités plus rapidement qu'elles ne peuvent être corrigées. S'exprimant aux côtés du PDG de JPMorgan Chase, Jamie Dimon, Amodei a mis en lumière le potentiel d'augmentation des violations de données et des pertes financières dans des secteurs tels que l'éducation, la santé et la banque. Le modèle Mythos d'Anthropic a déjà identifié des dizaines de milliers de failles, dont la résolution pourrait prendre des mois. Amodei a averti que si ces vulnérabilités sont divulguées sans être corrigées, elles pourraient être exploitées par des acteurs malveillants. Le modèle Mythos, capable de réaliser des simulations d'attaques cybernétiques de manière autonome, est actuellement limité à certains partenaires dans le cadre du projet "Glass Wings" afin de traiter les vulnérabilités avant un déploiement plus large. Malgré les critiques de personnalités du secteur comme Sam Altman, PDG d'OpenAI, qui a accusé Anthropic de faire du "marketing de la peur", le gouvernement américain utiliserait Mythos pour des tests de cybersécurité. Amodei considère cela comme un moment crucial pour agir afin d'éviter une escalade des risques.