AIアラインメント研究の著名な人物であるヤン・ライケ氏が、Anthropicに参加し、アラインメントサイエンスチームのリーダーを務めることになりました。2024年5月に安全性の懸念を理由にOpenAIを離れたライケ氏は、現在Anthropicで複雑なAI安全性の課題に取り組む先頭に立っています。彼のチームは、スケーラブルな監視、弱いから強い一般化、脱獄耐性、そしてアラインメント研究の自動化に注力しています。 元OpenAIの研究者によって設立されたAnthropicへのライケ氏の移籍は、AI安全性への強いコミットメントを示しています。彼の研究は、アラインメント技術に関する業界の議題形成に影響を与え、より広範なAI安全性の分野に影響を及ぼしています。