Главный научный сотрудник OpenAI Якуб Пахоцки заявил, что ни одна лаборатория ИИ не добилась достаточного прогресса в области выравнивания и мониторинга, чтобы ответственно масштабировать модели на максимальной скорости в долгосрочной перспективе.
В статье под названием «Чужой разум» Пахоцки заявил, что внутренние исследования указывают на то, что прогресс в области ИИ может перейти в фазу рекурсивного самосовершенствования: системы потенциально могут совершать скачки в возможностях сопоставимого или большего масштаба в ближайшие годы, всё больше самостоятельно продвигая собственные НИОКР. Он сказал, что добровольные замедления должны стать нормой до тех пор, пока не будет установлен общий порог безопасности, а будущая разработка ИИ должна стать приоритетом национальных правительств в целях международной координации.
OpenAI продолжит исследования технологий выравнивания и мониторинга, создание оборонительных систем и будет в одностороннем порядке приостанавливать дальнейшее масштабирование, когда это необходимо, заявил Пахоцки.
Главный научный сотрудник OpenAI заявил, что лаборатории ИИ не решили проблемы согласования и мониторинга
Отказ от ответственности: Контент, представленный на сайте Phemex News, предназначен исключительно для информационных целей.Мы не гарантируем качество, точность и полноту информации, полученной из статей третьих лиц.Содержание этой страницы не является финансовым или инвестиционным советом.Мы настоятельно рекомендуем вам провести собственное исследование и проконсультироваться с квалифицированным финансовым консультантом, прежде чем принимать какие-либо инвестиционные решения.
