Соучредитель Ethereum Виталик Бутерин выразил обеспокоенность уязвимостями упрощённых моделей управления ИИ, особенно в сценариях, где ИИ отвечает за распределение средств. Бутерин подчеркнул риск того, что злоумышленники могут использовать jailbreak-подсказки для мошеннического получения средств.
Для решения этих проблем Бутерин предложил модель «инфо-финансов», которая предполагает создание открытого рынка, где любой желающий может представить свои модели. Эти модели будут оцениваться человеческим жюри с помощью механизма выборочной проверки. Он считает, что такой дизайн системы будет способствовать разнообразию моделей в реальном времени и создаст структуру стимулов, которая побуждает как авторов моделей, так и внешних участников контролировать и быстро исправлять любые несоответствия, повышая устойчивость системы.
Виталик Бутерин критикует упрощённое управление ИИ и предлагает модель «Инфо Финанс»
Отказ от ответственности: Контент, представленный на сайте Phemex News, предназначен исключительно для информационных целей.Мы не гарантируем качество, точность и полноту информации, полученной из статей третьих лиц.Содержание этой страницы не является финансовым или инвестиционным советом.Мы настоятельно рекомендуем вам провести собственное исследование и проконсультироваться с квалифицированным финансовым консультантом, прежде чем принимать какие-либо инвестиционные решения.