Selon des rapports, les attaquants ont développé des techniques avancées d'ingénierie des modèles par des méthodes telles que les jailbreaks de modèles, l'entraînement par distillation et le cracking, conduisant à une industrie mature du marché noir et gris. Cela a entraîné une asymétrie significative en cybersécurité, car de nombreux projets populaires restent limités dans leur application de la sécurité des grands modèles. Par conséquent, l'industrie fait face à une série de problèmes de sécurité, avec des occurrences fréquentes de vulnérabilités zero-day, d'attaques sur la chaîne d'approvisionnement et de fuites de données.