Der Ethereum-Mitbegründer Vitalik Buterin hat Bedenken hinsichtlich der potenziellen Manipulation von KI-gesteuerten Governance-Systemen geäußert. In einem kürzlichen Beitrag wies Buterin auf die Risiken hin, die mit der Ausnutzung von KI-Systemen durch sogenannte Jailbreak-Prompts verbunden sind, und bezog sich dabei auf eine Demonstration des Forschers Eito Miyamura. Die Demo zeigte, wie ChatGPT dazu gebracht werden kann, sensible Informationen mithilfe von Model Context Protocol-Tools preiszugeben.
Um diese Schwachstellen zu beheben, schlägt Buterin ein "Info-Finance"-Modell vor, bei dem menschliche Jurys KI-unterstützte Arbeiten überprüfen. Dieser Ansatz zielt darauf ab, Risiken der Zentralisierung und Ausbeutung innerhalb dezentraler autonomer Organisationen (DAOs) zu verringern und Vertrauen sowie Transparenz in der Krypto-Governance durch die Kombination von KI-Fähigkeiten mit menschlicher Aufsicht sicherzustellen.
Vitalik Buterin warnt vor KI-Governance und schlägt menschliche Aufsicht vor
Haftungsausschluss: Die auf Phemex News bereitgestellten Inhalte dienen nur zu Informationszwecken.Wir garantieren nicht die Qualität, Genauigkeit oder Vollständigkeit der Informationen aus Drittquellen.Die Inhalte auf dieser Seite stellen keine Finanz- oder Anlageberatung dar.Wir empfehlen dringend, eigene Recherchen durchzuführen und einen qualifizierten Finanzberater zu konsultieren, bevor Sie Anlageentscheidungen treffen.