Relatos indicam que atacantes desenvolveram técnicas avançadas de engenharia de modelos por meio de métodos como jailbreaks de modelos, treinamento por destilação e cracking, levando a uma indústria madura de mercado negro e cinza. Isso resultou em uma assimetria significativa na cibersegurança, já que muitos projetos populares permanecem restritos na aplicação de segurança para grandes modelos. Consequentemente, a indústria enfrenta uma série de problemas de segurança, com ocorrências frequentes de vulnerabilidades zero-day, ataques à cadeia de suprimentos e vazamentos de dados.