Anthropic의 공동 창립자이자 CEO인 다리오 아모데이는 미국 입법자들에게 오픈 소스 인공지능의 잠재적 위험성에 대해 경고했습니다. 의회에서 연설한 아모데이는 고급 기능을 갖춘 AI 모델이 오픈 소스로 공개되면 개발자들이 그 사용을 효과적으로 감독할 수 없게 된다고 강조했습니다. 여기에는 오용 감시, 접근 권한 철회, 보안 조치 업데이트의 어려움이 포함되며, 이는 중대하고 되돌릴 수 없는 위험으로 이어질 수 있습니다. 아모데이는 오픈 소스 AI 모델이 폐쇄형 시스템에 비해 통제하기 더 어렵기 때문에 보안 관리에 더 큰 도전이 된다고 강조했습니다. 그는 이러한 모델에 대한 통제력 부족이 오용으로 이어질 수 있음을 경고하며, 오픈 소스 AI 기술의 개발 및 공개에 신중한 고려가 필요함을 강조했습니다.