Jan Leike, uma figura proeminente na pesquisa de alinhamento de IA, juntou-se à Anthropic para liderar sua equipe de Ciência do Alinhamento. Leike, que deixou a OpenAI em maio de 2024 citando preocupações com a segurança, agora está liderando esforços para enfrentar desafios complexos de segurança em IA na Anthropic. Sua equipe está focada em supervisão escalável, generalização de fraco para forte, robustez contra jailbreaks e automação da pesquisa de alinhamento. A mudança de Leike para a Anthropic, uma empresa fundada por ex-pesquisadores da OpenAI, destaca um compromisso com a segurança da IA. Seu trabalho está influenciando o panorama mais amplo da segurança em IA, com sua pesquisa moldando as agendas da indústria sobre técnicas de alinhamento.