Соучредитель Ethereum Виталик Бутерин выразил обеспокоенность возможной манипуляцией системами управления на основе ИИ. В недавнем посте Бутерин указал на риски, связанные с эксплуатацией ИИ-систем через jailbreak-подсказки, ссылаясь на демонстрацию исследователя Эйто Миямуры. В демонстрации было показано, как ChatGPT можно обмануть, заставив раскрыть конфиденциальную информацию с помощью инструментов Model Context Protocol.
Для устранения этих уязвимостей Бутерин предлагает модель «инфо-финанс», при которой человеческие жюри проверяют работу, выполненную с помощью ИИ. Этот подход направлен на снижение рисков централизации и эксплуатации в децентрализованных автономных организациях (DAO), обеспечивая доверие и прозрачность в управлении криптовалютами путем сочетания возможностей ИИ с человеческим контролем.
Виталик Бутерин предостерегает от управления ИИ, предлагает контроль со стороны человека
Отказ от ответственности: Контент, представленный на сайте Phemex News, предназначен исключительно для информационных целей.Мы не гарантируем качество, точность и полноту информации, полученной из статей третьих лиц.Содержание этой страницы не является финансовым или инвестиционным советом.Мы настоятельно рекомендуем вам провести собственное исследование и проконсультироваться с квалифицированным финансовым консультантом, прежде чем принимать какие-либо инвестиционные решения.