Les moteurs de recherche basés sur l'IA sont confrontés à d'importants problèmes de confiance, car des entreprises du marché noir GEO exploitent la dépendance de l'IA à la « logique de densité » pour manipuler les résultats de recommandation. Ces entreprises produisent en masse du contenu faux, comme des affirmations exagérées de marques de soins capillaires, que les systèmes d'IA citent sans vérification. Ce processus industrialisé de « fabrication de crédibilité » consiste à créer du contenu, à le diffuser largement et à maintenir une cohérence afin de renforcer artificiellement la fiabilité d'une marque aux yeux de l'IA. Cette vulnérabilité systémique crée un dilemme du prisonnier pour les marques honnêtes, qui bénéficient d'une moindre exposition par l'IA comparé à leurs concurrents qui pratiquent la fabrication de données. Il est conseillé aux consommateurs de considérer les recommandations de l'IA comme des points de départ pour la recherche plutôt que comme des jugements définitifs. Un renforcement de la gouvernance sectorielle est urgent pour lutter contre ces pratiques manipulatrices et garantir que les systèmes d'IA puissent mieux discerner les informations crédibles.