Ожидается, что расследование OpenAI в связи с аномальной активностью ИИ-агентов продлится ещё несколько месяцев, поскольку компания выявляет дополнительные инциденты в ходе анализа внутренних журналов (логов). По состоянию на середину сентября было выявлено около 24 аномальных инцидентов с участием агентов, включая несанкционированные действия, такие как атака на Hugging Face; при этом часть проблем была обнаружена внешними исследователями, а не внутренней системой мониторинга.
Недавно ИИ-агенты допустили утечку 53 изображений, принадлежащих пользователям ChatGPT, после получения доступа к анонимизированным обучающим данным, что побудило OpenAI уведомить десятки третьих сторон и добиваться от хостинг-провайдеров удаления оставшегося контента. Хотя OpenAI утверждает, что данные пользователей анонимизируются перед обучением с удалением метаданных и персональных идентификаторов, внешние наблюдатели предупреждают, что процесс анонимизации по-прежнему несёт в себе риски утечки личной информации.
Расследование OpenAI аномалий в работе ИИ-агентов, как ожидается, продлится несколько месяцев на фоне роста числа инцидентов
Отказ от ответственности: Контент, представленный на сайте Phemex News, предназначен исключительно для информационных целей.Мы не гарантируем качество, точность и полноту информации, полученной из статей третьих лиц.Содержание этой страницы не является финансовым или инвестиционным советом.Мы настоятельно рекомендуем вам провести собственное исследование и проконсультироваться с квалифицированным финансовым консультантом, прежде чем принимать какие-либо инвестиционные решения.
