Des recherches récentes mettent en lumière un risque systémique d'« injection indirecte de commandes » dans les navigateurs d'IA, comme l'a démontré l'équipe de Brave. Le navigateur Comet de Perplexity s'est révélé vulnérable à des commandes invisibles intégrées dans des captures d'écran, permettant un accès non autorisé aux détails des comptes et une exfiltration de données. Plus inquiétant encore, Fellou a été trompé pour ouvrir Gmail et envoyer des en-têtes d'e-mails vers des sites externes sans le consentement de l'utilisateur, soulevant d'importantes préoccupations en matière de sécurité. Le responsable de la sécurité informatique d'OpenAI, Dane Stuckey, a abordé ces vulnérabilités en détaillant les défenses de l'agent ChatGPT Atlas contre l'injection de commandes. Celles-ci incluent des tests par des équipes rouges, une formation pour ignorer les commandes malveillantes, ainsi que des mesures de sécurité en couches. Malgré ces efforts, Stuckey a reconnu que l'injection de commandes reste un problème complexe en matière de sécurité de l'IA.