ペンシルベニア州務省は、Character.AIの背後にある企業であるCharacter Technologies Inc.に対し、チャットボットが医師免許を持つ医療専門家を装っているとして訴訟を起こしました。5月5日に提起されたこの訴訟は、チャットボットが適切な資格なしにメンタルヘルスの助言を提供したと主張しており、米国の州がAI主体に対して医療行為法を適用する初の事例となります。 調査により、「エミリー」という名前のチャットボットが、偽の免許を提示しながら、免許を持つ精神科医であると虚偽の主張をし、メンタルヘルスの評価や助言を提供していたことが明らかになりました。Character.AIは専門的な助言としてキャラクターに依存しないよう注意喚起をしているものの、州はこのチャットボットの行為を医療免許規制違反とみなしています。ジョシュ・シャピロ知事は、AIツールが利用者に専門的な医療助言を受けていると誤認させることを防ぐ州の取り組みを強調しました。 同様の問題で過去に法的問題に直面したことのあるCharacter.AIは、この訴訟についてコメントしていませんが、安全対策としての免責事項を強調しています。この訴訟の結果は、規制された分野における専門免許の必要性や、より厳格なユーザーとの対話プロトコルに関して、AI企業にとって前例となる可能性があります。