Jan Leike, eine prominente Persönlichkeit in der Forschung zur KI-Ausrichtung, ist zu Anthropic gewechselt, um das Team für Alignment Science zu leiten. Leike, der OpenAI im Mai 2024 aus Sicherheitsbedenken verlassen hatte, leitet nun bei Anthropic die Bemühungen zur Bewältigung komplexer Herausforderungen im Bereich der KI-Sicherheit. Sein Team konzentriert sich auf skalierbare Überwachung, die Generalisierung von schwach zu stark, Robustheit gegen Jailbreaks und die Automatisierung der Ausrichtungsforschung. Leikes Wechsel zu Anthropic, einem Unternehmen, das von ehemaligen OpenAI-Forschern gegründet wurde, unterstreicht das Engagement für KI-Sicherheit. Seine Arbeit beeinflusst die breitere Landschaft der KI-Sicherheit, wobei seine Forschung die Branchenagenda zu Ausrichtungstechniken prägt.