Генеральный директор Microsoft Сатья Наделла заявил, что предприятия должны рассматривать мощные передовые ИИ-модели как потенциальные внутренние угрозы и по умолчанию исходить из предположения об их возможной компрометации. Он выступил за создание механизма «экстренного торможения», который предотвратит работу агентных моделей за пределами контролируемых параметров.
Наделла подчеркнул, что организации, развертывающие передовые системы ИИ, не должны полагаться исключительно на заверения разработчиков. Вместо этого развертывающие организации должны сохранять независимый контроль над управлением разрешениями, эксплуатационными ограничениями, ведением журналов и границами изоляции в системах, которые ИИ-модель не может изменять.
Гендиректор Microsoft Наделла призывает ввести «экстренный тормоз» для передовых ИИ-моделей
Отказ от ответственности: Контент, представленный на сайте Phemex News, предназначен исключительно для информационных целей.Мы не гарантируем качество, точность и полноту информации, полученной из статей третьих лиц.Содержание этой страницы не является финансовым или инвестиционным советом.Мы настоятельно рекомендуем вам провести собственное исследование и проконсультироваться с квалифицированным финансовым консультантом, прежде чем принимать какие-либо инвестиционные решения.
