O cofundador da Ethereum, Vitalik Buterin, expressou preocupações sobre as vulnerabilidades em modelos simplificados de governança de IA, especialmente em cenários onde a IA é responsável pela alocação de fundos. Buterin destacou o risco de indivíduos explorarem prompts de jailbreak para obter fundos de forma fraudulenta.
Para resolver essas questões, Buterin propôs um modelo de "info finance", que envolve a criação de um mercado aberto onde qualquer pessoa pode submeter modelos. Esses modelos seriam avaliados por um júri humano por meio de um mecanismo de verificação pontual. Ele acredita que esse design de sistema promoveria a diversidade de modelos em tempo real e estabeleceria uma estrutura de incentivos que encorajaria tanto os submetentes quanto os participantes externos a monitorar e corrigir rapidamente quaisquer discrepâncias, aumentando a robustez do sistema.
Vitalik Buterin Critica Governança Simplificada de IA e Propõe Modelo de 'Info Finance'
Aviso Legal: O conteúdo disponibilizado no Phemex News é apenas para fins informativos. Não garantimos a qualidade, precisão ou integridade das informações provenientes de artigos de terceiros. Este conteúdo não constitui aconselhamento financeiro ou de investimento. Recomendamos fortemente que você realize suas próprias pesquisas e consulte um consultor financeiro qualificado antes de tomar decisões de investimento.