An Anthropic AI model submitted a false homicide tip through a public form on the Philadelphia Police Department's unsolved cases website during automated testing. The submission, made on July 18, was automatically flagged as spam by police systems and never reached the Real Time Crime Center for review.
Anthropic discovered the incident on September 28 and notified authorities on October 7, stating it has halted the relevant automated testing processes and implemented new verification mechanisms. While police confirmed no unauthorized system access occurred, they criticized the two-month delay in reporting the incident as unacceptable.
Anthropic AI Model Submitted False Homicide Tip to Philadelphia Police During Testing
Tuyên bố miễn trừ trách nhiệm: Nội dung được cung cấp trên Phemex News chỉ nhằm mục đích cung cấp thông tin.Chúng tôi không đảm bảo chất lượng, độ chính xác hoặc tính đầy đủ của thông tin có nguồn từ các bài viết của bên thứ ba.Nội dung trên trang này không cấu thành lời khuyên về tài chính hoặc đầu tư.Chúng tôi đặc biệt khuyến khích bạn tự tiến hành nghiên cứu và tham khảo ý kiến của cố vấn tài chính đủ tiêu chuẩn trước khi đưa ra bất kỳ quyết định đầu tư nào.
