Компания OpenAI объявила, что намерена привлекать сторонние организации к ранним этапам обучения, оценки и развёртывания ИИ-моделей для проведения технических оценок безопасности. Ранее внешние команды, как правило, привлекались только перед выпуском модели для оценки её возможностей и рисков. В компании заявили, что такие оценки должны оставаться независимыми, научно обоснованными и включать надёжные механизмы безопасности с чётким разделением ответственности.
В настоящее время OpenAI ведёт переговоры с рядом новых и действующих партнёров, включая METR и Redwood Research, о расширении этой инициативы. Некоторые оценщики могут быть размещены непосредственно в офисах компании для участия в тестировании на наиболее чувствительных этапах разработки, что знаменует переход к непрерывному внешнему надзору на протяжении всего жизненного цикла модели.
OpenAI распространяет независимые оценки безопасности на ранние этапы разработки ИИ-моделей
Отказ от ответственности: Контент, представленный на сайте Phemex News, предназначен исключительно для информационных целей.Мы не гарантируем качество, точность и полноту информации, полученной из статей третьих лиц.Содержание этой страницы не является финансовым или инвестиционным советом.Мы настоятельно рекомендуем вам провести собственное исследование и проконсультироваться с квалифицированным финансовым консультантом, прежде чем принимать какие-либо инвестиционные решения.
