Anthropicは、AI開発のペースを落とし安全プロトコルを強化するため、Accentureを初の「組込み評価パートナー（embedded evaluator）」に起用した。AccentureのAI部門Facultyを含むこの提携では、モデル評価、レッドチーミング、アライメント評価、安全性テストに重点が置かれる。両社は今後5年間で少なくとも10億ドルを同プログラムに拠出することを約束しており、Anthropicは数週間以内に、非独占的な追加の評価パートナーを発表する予定だ。 今回の取り組みは、CEOのDario Amodei氏が9月12日に示した提案を受けたものだ。同提案では、AI開発を減速させ、無制限な成長に伴う壊滅的リスクに対する安全対策を確立するための3段階のアプローチが概説されている。OpenAI CEOのSam Altman氏とSpaceX CEOのElon Musk氏はこの枠組みへの支持を表明した一方、Nvidia CEOのJensen Huang氏はこのような規制は不要だと主張し、これらの措置に反対した。