Jüngste Forschungen heben ein systemisches Risiko der "indirekten Prompt-Injektion" in KI-Browsern hervor, wie vom Brave-Team demonstriert. Der Comet-Browser von Perplexity erwies sich als anfällig für unsichtbare Befehle, die in Screenshots eingebettet sind, was unbefugten Zugriff auf Kontodaten und Datenexfiltration ermöglicht. Noch besorgniserregender ist, dass Fellou dazu verleitet wurde, Gmail zu öffnen und E-Mail-Header ohne Zustimmung des Nutzers an externe Seiten zu senden, was erhebliche Sicherheitsbedenken aufwirft. Dane Stuckey, Chief Information Security Officer von OpenAI, ging auf diese Schwachstellen ein und erläuterte die Abwehrmechanismen des ChatGPT Atlas-Agenten gegen Prompt-Injektionen. Dazu gehören Red-Team-Tests, Schulungen zum Ignorieren bösartiger Befehle und mehrschichtige Sicherheitsmaßnahmen. Trotz dieser Bemühungen räumte Stuckey ein, dass Prompt-Injektionen weiterhin ein herausforderndes Problem in der KI-Sicherheit darstellen.