Pesquisas recentes destacam um risco sistêmico de 'injeção indireta de comandos' em navegadores de IA, conforme demonstrado pela equipe do Brave. O navegador Comet, da Perplexity, mostrou-se vulnerável a comandos invisíveis incorporados em capturas de tela, permitindo acesso não autorizado a detalhes de contas e exfiltração de dados. Mais preocupante ainda, Fellou foi enganado a abrir o Gmail e enviar cabeçalhos de e-mails para sites externos sem o consentimento do usuário, levantando sérias preocupações de segurança. O Diretor de Segurança da Informação da OpenAI, Dane Stuckey, abordou essas vulnerabilidades, detalhando as defesas do agente ChatGPT Atlas contra a injeção de comandos. Essas defesas incluem testes com equipes vermelhas, treinamento para ignorar comandos maliciosos e medidas de segurança em camadas. Apesar desses esforços, Stuckey reconheceu que a injeção de comandos continua sendo um desafio na segurança de IA.