AI 정렬 연구의 저명한 인물인 Jan Leike가 Anthropic에 합류하여 정렬 과학 팀을 이끌게 되었습니다. 2024년 5월 안전 문제를 이유로 OpenAI를 떠난 Leike는 현재 Anthropic에서 복잡한 AI 안전 문제를 해결하기 위한 노력을 주도하고 있습니다. 그의 팀은 확장 가능한 감독, 약한 일반화에서 강한 일반화로의 전환, 탈옥(jailbreak)에 대한 강인성, 그리고 정렬 연구의 자동화에 집중하고 있습니다. Leike가 전 OpenAI 연구원들이 설립한 회사인 Anthropic으로 이동한 것은 AI 안전에 대한 강한 의지를 보여줍니다. 그의 연구는 정렬 기술에 관한 산업 의제를 형성하며 더 넓은 AI 안전 분야에 영향을 미치고 있습니다.