Jan Leike, una figura destacada en la investigación sobre la alineación de la IA, se ha unido a Anthropic para liderar su equipo de Ciencia de la Alineación. Leike, quien dejó OpenAI en mayo de 2024 citando preocupaciones de seguridad, ahora está encabezando los esfuerzos para abordar desafíos complejos de seguridad en IA en Anthropic. Su equipo se está enfocando en la supervisión escalable, la generalización de débil a fuerte, la robustez frente a jailbreaks y la automatización de la investigación en alineación. El traslado de Leike a Anthropic, una empresa fundada por ex investigadores de OpenAI, subraya un compromiso con la seguridad en IA. Su trabajo está influyendo en el panorama más amplio de la seguridad en IA, con su investigación moldeando las agendas de la industria sobre técnicas de alineación.