最近の研究では、Braveチームによって示されたように、AIブラウザにおける「間接的なプロンプトインジェクション」の体系的なリスクが浮き彫りになっています。PerplexityのCometブラウザは、スクリーンショットに埋め込まれた見えないコマンドに対して脆弱であり、不正にアカウント情報へのアクセスやデータの流出を許してしまうことが明らかになりました。さらに深刻なのは、Fellouがユーザーの同意なしにGmailを開き、メールヘッダーを外部サイトに送信させられたことで、重大なセキュリティ上の懸念が生じています。 OpenAIの最高情報セキュリティ責任者（CISO）であるデイン・スタッキーは、これらの脆弱性に対処し、ChatGPT Atlasエージェントのプロンプトインジェクションに対する防御策を詳述しました。これには、レッドチームテスト、悪意のあるコマンドを無視するためのトレーニング、そして多層的なセキュリティ対策が含まれます。これらの取り組みにもかかわらず、スタッキーはプロンプトインジェクションがAIセキュリティにおいて依然として難しい課題であることを認めています。