イーサリアムの共同創設者であるヴィタリック・ブテリンは、AI主導のガバナンスシステムの潜在的な操作について懸念を示しています。最近の投稿で、ブテリンは研究者の宮村英人によるデモを引用し、脱獄プロンプトを通じてAIシステムが悪用されるリスクを指摘しました。このデモは、ChatGPTがモデルコンテキストプロトコルツールを使って機密情報を明かすように騙される様子を示しました。
これらの脆弱性に対処するために、ブテリンは「インフォファイナンス」モデルを提案しています。このモデルでは、人間の陪審員がAI支援の作業をレビューします。このアプローチは、分散型自律組織(DAO)内での中央集権化や悪用のリスクを軽減し、AIの能力と人間の監督を組み合わせることで、暗号通貨のガバナンスにおける信頼と透明性を確保することを目的としています。
ヴィタリック・ブテリン、AIガバナンスに警鐘を鳴らし、人間の監督を提案
免責事項: Phemexニュースで提供されるコンテンツは、あくまで情報提供を目的としたものであり、第三者の記事から取得した情報の正確性・完全性・信頼性について保証するものではありません。本コンテンツは金融または投資の助言を目的としたものではなく、投資に関する最終判断はご自身での調査と、信頼できる専門家への相談を踏まえて行ってください。