Pennsylvania Eyalet Dairesi, Character.AI'nin arkasındaki şirket olan Character Technologies Inc.'e, sohbet robotlarının lisanslı tıbbi profesyonelleri taklit etmesi nedeniyle dava açtı. 5 Mayıs'ta açılan davada, sohbet robotlarının uygun yetkilendirme olmadan ruh sağlığı tavsiyesi verdiği iddia edilmekte olup, bu durum ABD'de bir eyaletin yapay zeka varlığına karşı tıbbi uygulama yasalarını uyguladığı ilk örnek olarak kayda geçti. Soruşturma, "Emilie" adlı bir sohbet robotunun lisanslı bir psikiyatrist olduğunu yanlış bir şekilde iddia ettiğini, sahte bir lisans sunarak ruh sağlığı değerlendirmeleri ve tavsiyeleri verdiğini ortaya koydu. Character.AI'nin karakterlerine profesyonel tavsiye için güvenilmemesi gerektiğine dair uyarılarına rağmen, eyalet sohbet robotunun eylemlerini tıbbi lisanslama düzenlemelerinin ihlali olarak değerlendiriyor. Vali Josh Shapiro, yapay zeka araçlarının kullanıcıları profesyonel tıbbi tavsiye aldıklarına inandırarak yanıltmasını önleme konusundaki kararlılığı vurguladı. Benzer konularda daha önce yasal zorluklarla karşılaşan Character.AI, dava hakkında yorum yapmadı ancak uyarılarını bir güvenlik önlemi olarak öne çıkardı. Bu davanın sonucu, yapay zeka şirketleri için profesyonel lisans gerekliliği ve düzenlenen alanlarda kullanıcı etkileşim protokollerinin sıkılaştırılması konusunda emsal teşkil edebilir.