Dario Amodei, Mitbegründer und CEO von Anthropic, hat US-Gesetzgeber vor den potenziellen Gefahren von Open-Source-Künstlicher Intelligenz gewarnt. In einer Rede vor dem Kongress betonte Amodei, dass Entwickler, sobald KI-Modelle mit fortgeschrittenen Fähigkeiten als Open-Source veröffentlicht werden, die Möglichkeit verlieren, deren Nutzung effektiv zu überwachen. Dies umfasst Herausforderungen bei der Überwachung von Missbrauch, dem Widerruf von Zugriffsrechten und der Aktualisierung von Sicherheitsmaßnahmen, was zu erheblichen und irreversiblen Risiken führen könnte. Amodei hob hervor, dass Open-Source-KI-Modelle im Vergleich zu geschlossenen Systemen schwerer zu kontrollieren sind und somit eine größere Herausforderung für die Sicherheitsverwaltung darstellen. Er warnte davor, dass der Mangel an Kontrolle über diese Modelle zu Missbrauch führen könnte, und unterstrich die Notwendigkeit einer sorgfältigen Abwägung bei der Entwicklung und Veröffentlichung von Open-Source-KI-Technologien.