À mesure que les agents d'IA deviennent de plus en plus sophistiqués et indiscernables des utilisateurs humains, l'attention se déplace de leurs capacités vers l'architecture de confiance qui les sous-tend. Le défi réside dans la vérification de la présence humaine et de la responsabilité dans les interactions numériques. World ID, un système de preuve d'humanité, illustre ce changement en permettant aux utilisateurs de prouver leur unicité sans révéler de détails personnels, avec des applications allant des rencontres aux jeux en passant par les communautés en ligne. Ajay Patel de World ID souligne que la confiance ne peut plus être déduite uniquement du comportement ; elle doit être explicitement prouvée. Ce besoin de vérifiabilité s'étend aux agents d'IA, où une capacité accrue n'implique pas nécessairement une confiance accrue. Le chercheur en IA Edoardo Contente met en avant l'importance des outils de gouvernance tels que l'évaluation hors ligne et l'audit a posteriori pour gérer les risques associés aux agents d'IA. À mesure que l'internet évolue, distinguer les productions humaines de celles de l'IA devient crucial, la responsabilité et la vérifiabilité émergeant comme des composantes clés de la confiance à l'ère numérique.