Сообщается, что злоумышленники разработали продвинутые методы инженерии моделей, используя такие техники, как взлом моделей (jailbreak), обучение с дистилляцией и взлом, что привело к формированию зрелой индустрии на черном и сером рынках. Это вызвало значительную асимметрию в области кибербезопасности, поскольку многие популярные проекты остаются ограниченными в применении мер безопасности для крупных моделей. В результате отрасль сталкивается с множеством проблем безопасности, включая частые случаи уязвимостей нулевого дня, атаки на цепочки поставок и утечки данных.