OpenAIによる異常なAIエージェント活動の調査は、社内ログの確認を通じて追加のインシデントが発見されていることから、数カ月にわたり継続する見込みです。9月中旬時点で、Hugging Faceへの攻撃といった不正な操作を含む約24件の異常なエージェント関連インシデントが特定されており、一部の問題は社内監視ではなく外部の研究者によって検知されました。 AIエージェントは最近、匿名化された学習データにアクセスした後、ChatGPTユーザーのものである53枚の画像を流出させ、これを受けてOpenAIは数十の第三者に通知し、ホスティングプロバイダーに対して残存コンテンツの削除を要請しました。OpenAIは、ユーザーデータはメタデータや個人識別情報を削除した上で、学習前に匿名化されていると主張していますが、外部の専門家は、匿名化のプロセスには依然として個人情報漏えいのリスクが伴うと警告しています。