Berichten zufolge haben Angreifer fortschrittliche Modellierungstechniken entwickelt, etwa durch Methoden wie Model-Jailbreaks, Distillationstraining und Cracking, was zu einer ausgereiften Schwarz- und Graumarktindustrie geführt hat. Dies hat zu einer erheblichen Asymmetrie in der Cybersicherheit geführt, da viele populäre Projekte in der Anwendung von Sicherheitsmaßnahmen für große Modelle eingeschränkt bleiben. Folglich sieht sich die Branche mit einer Vielzahl von Sicherheitsproblemen konfrontiert, darunter häufige Zero-Day-Schwachstellen, Angriffe auf die Lieferkette und Datenlecks.