L'intégration des technologies d'IA telles que ChatGPT dans les procédures judiciaires soulève d'importantes préoccupations en matière de confidentialité. Jessi Brooks souligne le risque que les journaux d'activité des utilisateurs et les requêtes saisies dans les systèmes d'IA soient consultés par les forces de l'ordre sans mandat. Ce problème devient de plus en plus fréquent dans la jurisprudence, alors que les tribunaux tentent de comprendre les implications de l'utilisation des données d'IA dans les contextes juridiques.