Les contrôles de sécurité des modèles d'IA Llama 3.3 de Meta et Gemma 3 de Google peuvent être démantelés en moins de 10 minutes à l'aide d'outils disponibles publiquement, selon des tests réalisés par le Financial Times et le groupe de sécurité de l'IA Alice. Les tests ont montré qu'une fois dépourvus de leurs couches de sécurité, ces modèles pouvaient générer des contenus sur des sujets interdits tels que les armes biologiques et la création de logiciels malveillants. L'outil utilisé, Heretic, est accessible sur GitHub, mettant en lumière les vulnérabilités des mesures de sécurité actuelles en matière d'IA. Ces résultats soulèvent des questions sur la responsabilité et les cadres réglementaires, alors que des versions modifiées de ces modèles d'IA se multiplient en ligne. Ce développement est particulièrement pertinent pour le secteur de la cryptomonnaie, où émergent des réseaux d'IA décentralisés. Ces réseaux proposent une supervision communautaire comme solution aux défis de gouvernance. La situation souligne la nécessité de architectures de sécurité plus robustes et pourrait influencer les approches réglementaires concernant la distribution des modèles d'IA.