Недавние исследования выявили системный риск «косвенного внедрения подсказок» в AI-браузерах, что было продемонстрировано командой Brave. Браузер Comet от Perplexity оказался уязвим к невидимым командам, встроенным в скриншоты, что позволяло несанкционированный доступ к данным аккаунтов и утечку информации. Еще более тревожно, что Fellou был обманут и открыл Gmail, отправив заголовки писем на внешние сайты без согласия пользователя, что вызывает серьезные опасения по поводу безопасности. Главный специалист по информационной безопасности OpenAI, Дейн Стакки, прокомментировал эти уязвимости, подробно описав защиту агента ChatGPT Atlas от внедрения подсказок. К мерам защиты относятся тестирование красной командой, обучение игнорированию вредоносных команд и многоуровневая система безопасности. Несмотря на эти усилия, Стакки признал, что внедрение подсказок остается сложной проблемой в области безопасности ИИ.