앤트로픽(Anthropic)은 AI 개발 속도를 늦추고 안전 프로토콜을 강화하기 위해 액센츄어(Accenture)를 최초의 상주 평가기관(embedded evaluator)으로 지정했다. 액센츄어의 AI 부문인 팩컬티(Faculty)가 참여하는 이번 파트너십은 모델 평가, 레드팀(red-teaming), 정렬(alignment) 평가, 안전성 테스트에 초점을 맞출 예정이다. 양측은 향후 5년간 이 프로그램에 최소 10억 달러를 투입하기로 약속했으며, 앤트로픽은 앞으로 몇 주 안에 비독점적 평가 파트너를 추가로 발표할 계획이다.
이번 조치는 AI 개발 속도를 늦추고 통제되지 않은 성장으로 인한 파국적 위험에 대비한 안전장치를 마련하기 위한 3단계 접근법을 담은 다리오 아모데이(Dario Amodei) CEO의 9월 12일 제안을 뒤따르는 것이다. 오픈AI CEO 샘 알트먼과 스페이스X CEO 일론 머스크는 이 프레임워크에 대한 지지를 표명한 반면, 엔비디아 CEO 젠슨 황은 그러한 규제는 불필요하다고 주장하며 해당 조치에 반대했다.
앤트로픽, AI 안전성 평가 위해 액센추어 선정…10억 달러 규모 투입
면책 조항: Phemex 뉴스에서 제공하는 콘텐츠는 정보 제공 목적으로만 제공됩니다. 제3자 기사에서 출처를 얻은 정보의 품질, 정확성 또는 완전성을 보장하지 않습니다.이 페이지의 콘텐츠는 재무 또는 투자 조언이 아닙니다.투자 결정을 내리기 전에 반드시 스스로 조사하고 자격을 갖춘 재무 전문가와 상담하시기 바랍니다.
