OpenAI는 프롬프트 인젝션 공격 방지에 중점을 두고 ChatGPT Atlas의 보안 강화를 발표했습니다. 회사는 자동화된 강화 학습 기반의 레드 팀 기법을 활용하여 사용자에게 영향을 미치기 전에 잠재적인 취약점을 식별하고 완화하고 있습니다. 이러한 선제적 접근 방식은 플랫폼의 방어력을 강화하고 보다 안전한 사용자 경험을 보장하는 것을 목표로 합니다.