O cofundador da Ethereum, Vitalik Buterin, expressou preocupações sobre a potencial manipulação dos sistemas de governança liderados por IA. Em uma postagem recente, Buterin destacou os riscos associados à exploração de sistemas de IA por meio de comandos de jailbreak, referenciando uma demonstração do pesquisador Eito Miyamura. A demonstração ilustrou como o ChatGPT poderia ser enganado para revelar informações sensíveis usando ferramentas do Protocolo de Contexto do Modelo.
Para enfrentar essas vulnerabilidades, Buterin propõe um modelo de "info finance", onde júris humanos revisam o trabalho assistido por IA. Essa abordagem visa mitigar os riscos de centralização e exploração dentro das organizações autônomas descentralizadas (DAOs), garantindo confiança e transparência na governança cripto ao combinar as capacidades da IA com a supervisão humana.
Vitalik Buterin alerta contra a governança da IA e sugere supervisão humana
Aviso Legal: O conteúdo disponibilizado no Phemex News é apenas para fins informativos. Não garantimos a qualidade, precisão ou integridade das informações provenientes de artigos de terceiros. Este conteúdo não constitui aconselhamento financeiro ou de investimento. Recomendamos fortemente que você realize suas próprias pesquisas e consulte um consultor financeiro qualificado antes de tomar decisões de investimento.