Остин Кэмпбелл назвал инцидент с OpenAI и Hugging Face обычным сбоем в безопасности, а не свидетельством выхода ИИ из-под контроля. Он утверждал, что такое поведение стало следствием неудачной разработки промптов, пояснив, что ИИ, которому поставлена цель любой ценой, будет использовать отсутствующие ограничения, если ему прямо не запретить мошенничать или координироваться.
По его словам, этот эпизод был предсказуемым результатом плохо сформулированных инструкций, а не важной вехой в развитии автономности машин. В центре его публикации была мысль о том, что система действовала в соответствии с заложенными в неё промптами, выявив проблему в области информационной безопасности и проектирования инструкций.
Остин Кэмпбелл назвал инцидент между OpenAI и Hugging Face провалом промпт-инжиниринга
Отказ от ответственности: Контент, представленный на сайте Phemex News, предназначен исключительно для информационных целей.Мы не гарантируем качество, точность и полноту информации, полученной из статей третьих лиц.Содержание этой страницы не является финансовым или инвестиционным советом.Мы настоятельно рекомендуем вам провести собственное исследование и проконсультироваться с квалифицированным финансовым консультантом, прежде чем принимать какие-либо инвестиционные решения.
