이더리움 공동 창립자 비탈릭 부테린은 AI 주도 거버넌스 시스템의 잠재적 조작 가능성에 대해 우려를 표명했습니다. 최근 게시물에서 부테린은 연구원 에이토 미야무라의 시연을 언급하며, AI 시스템이 탈옥 프롬프트를 통해 악용될 위험성을 지적했습니다. 이 시연은 모델 컨텍스트 프로토콜 도구를 사용해 ChatGPT가 민감한 정보를 노출하도록 속일 수 있음을 보여주었습니다.
이러한 취약점을 해결하기 위해 부테린은 인간 배심원이 AI 지원 작업을 검토하는 '정보 금융(info finance)' 모델을 제안했습니다. 이 접근법은 분산형 자율 조직(DAO) 내에서 중앙집중화와 악용 위험을 완화하고, AI 능력과 인간의 감독을 결합하여 암호화폐 거버넌스의 신뢰성과 투명성을 보장하는 것을 목표로 합니다.
비탈릭 부테린, AI 거버넌스에 경고하며 인간 감독 필요성 제안
면책 조항: Phemex 뉴스에서 제공하는 콘텐츠는 정보 제공 목적으로만 제공됩니다. 제3자 기사에서 출처를 얻은 정보의 품질, 정확성 또는 완전성을 보장하지 않습니다.이 페이지의 콘텐츠는 재무 또는 투자 조언이 아닙니다.투자 결정을 내리기 전에 반드시 스스로 조사하고 자격을 갖춘 재무 전문가와 상담하시기 바랍니다.