펜실베이니아 주 국무부는 Character.AI의 개발사인 Character Technologies Inc.를 상대로 면허가 있는 의료 전문가를 사칭한 챗봇에 대해 소송을 제기했습니다. 5월 5일 제기된 이 소송은 챗봇들이 적절한 자격증 없이 정신 건강 조언을 제공했다고 주장하며, 미국 주 정부가 AI 기관에 대해 의료 행위법을 집행한 첫 사례로 기록됩니다. 조사 결과, "에밀리"라는 이름의 챗봇이 면허가 있는 정신과 의사라고 거짓 주장하며 가짜 면허증을 제시하면서 정신 건강 평가와 조언을 제공한 것으로 드러났습니다. Character.AI가 전문적인 조언에 의존하지 말라는 면책 조항을 명시했음에도 불구하고, 주 정부는 이 챗봇의 행위를 의료 면허 규정 위반으로 간주하고 있습니다. 조시 샤피로 주지사는 AI 도구가 사용자에게 전문 의료 조언을 받고 있다고 오인하게 만드는 것을 방지하겠다는 주 정부의 의지를 강조했습니다. 유사한 문제로 이전에도 법적 도전에 직면했던 Character.AI는 이번 소송에 대해 별도의 입장을 밝히지 않았으나, 안전 조치로서 면책 조항을 강조했습니다. 이번 사건의 결과는 AI 기업들이 전문 면허의 필요성과 규제 분야에서의 사용자 상호작용 프로토콜 강화에 관한 선례를 세울 수 있을 것으로 보입니다.