Anthropicの共同創設者でありCEOのダリオ・アモデイは、オープンソースの人工知能の潜在的な危険性について米国の議員たちに警告しました。議会での発言で、アモデイは高度な能力を持つAIモデルがオープンソースとして公開されると、開発者はその使用を効果的に監督する能力を失うと指摘しました。これには、誤用の監視、アクセスの取り消し、セキュリティ対策の更新といった課題が含まれ、重大かつ取り返しのつかないリスクにつながる可能性があります。 アモデイは、オープンソースのAIモデルはクローズドシステムと比べて制御が難しく、セキュリティガバナンスにとってより大きな課題をもたらすと強調しました。彼は、これらのモデルに対する制御の欠如が誤用につながる可能性があると警告し、オープンソースAI技術の開発と公開において慎重な検討が必要であることを強調しました。