Saldırganların, model jailbreakleri, distilasyon eğitimi ve kırma gibi yöntemlerle gelişmiş model mühendisliği teknikleri geliştirdiği bildiriliyor ve bu durum olgun bir kara ve gri piyasa endüstrisine yol açtı. Bu, birçok popüler projenin büyük model güvenliği uygulamalarında kısıtlı kalması nedeniyle siber güvenlikte önemli bir asimetriye neden oldu. Sonuç olarak, sektör sıfır gün açıkları, tedarik zinciri saldırıları ve veri ihlalleri gibi birçok güvenlik sorunu ile karşı karşıya bulunuyor.