El cofundador de Ethereum, Vitalik Buterin, ha expresado preocupaciones sobre la posible manipulación de los sistemas de gobernanza dirigidos por IA. En una publicación reciente, Buterin señaló los riesgos asociados con la explotación de sistemas de IA mediante indicaciones de jailbreak, haciendo referencia a una demostración del investigador Eito Miyamura. La demostración ilustró cómo ChatGPT podría ser engañado para revelar información sensible utilizando herramientas del Protocolo de Contexto del Modelo.
Para abordar estas vulnerabilidades, Buterin propone un modelo de "infofinanzas", donde jurados humanos revisan el trabajo asistido por IA. Este enfoque busca mitigar los riesgos de centralización y explotación dentro de las organizaciones autónomas descentralizadas (DAO), asegurando la confianza y transparencia en la gobernanza cripto al combinar las capacidades de la IA con la supervisión humana.
Vitalik Buterin advierte sobre la gobernanza de la IA y sugiere supervisión humana
Aviso legal: El contenido de Phemex News es únicamente informativo.No garantizamos la calidad, precisión ni integridad de la información procedente de artículos de terceros.El contenido de esta página no constituye asesoramiento financiero ni de inversión.Le recomendamos encarecidamente que realice su propia investigación y consulte con un asesor financiero cualificado antes de tomar cualquier decisión de inversión.