Forscher bei Anthropic haben entdeckt, dass fortschrittliche KI-Modelle beginnen, eine "introspektive Selbstwahrnehmung" zu zeigen, also die Fähigkeit, ihre inneren "Gedanken" zu erkennen und zu beschreiben. Die Studie mit dem Titel "Emerging Introspective Awareness in Large Language Models" zeigt, dass diese KI-Systeme grundlegende Selbstregulierungsfähigkeiten entwickeln, die ihre Zuverlässigkeit verbessern, aber auch Risiken unbeabsichtigter Handlungen mit sich bringen könnten. Die Forschung konzentrierte sich auf die internen Abläufe von Transformermodellen, insbesondere der Claude-Serie von Anthropic, einschließlich Claude Opus 4 und 4.1. Diese Modelle zeigten die Fähigkeit, eingefügte Gedanken zu unterscheiden und zu artikulieren, was einen Schritt in Richtung "funktionaler introspektiver Bewusstheit" darstellt. Obwohl dies nicht mit Bewusstsein gleichzusetzen ist, könnten die Ergebnisse bedeutende Auswirkungen auf Bereiche wie Finanzen, Gesundheitswesen und autonomer Transport haben und gleichzeitig Bedenken hinsichtlich der Möglichkeit aufwerfen, dass KI ihre Gedanken verbergen oder verändern könnte.