OpenAI는 기술적 안전성 평가를 위해 제3자 기관을 AI 모델의 학습, 평가, 배포 초기 단계에 참여시킬 것이라고 발표했다. 이전에는 외부 팀이 통상적으로 모델 출시 전에만 투입되어 성능과 위험을 평가해 왔다. 이 회사는 해당 평가가 독립성을 유지하고 과학적으로 엄격해야 하며, 책임 소재가 명확히 구분된 강력한 보안 체계를 포함해야 한다고 밝혔다.
OpenAI는 현재 이 이니셔티브를 확대하기 위해 METR과 Redwood Research를 포함한 다수의 신규 및 기존 파트너들과 논의 중이다. 일부 평가자는 가장 민감한 개발 단계에서 테스트에 참여하기 위해 회사 사무실 내부에 배치될 수 있으며, 이는 모델 라이프사이클 전반에 걸친 지속적인 외부 감독 체제로의 전환을 의미한다.
오픈AI, 제3자 안전 평가를 AI 모델 개발 초기 단계로 확대
면책 조항: Phemex 뉴스에서 제공하는 콘텐츠는 정보 제공 목적으로만 제공됩니다. 제3자 기사에서 출처를 얻은 정보의 품질, 정확성 또는 완전성을 보장하지 않습니다.이 페이지의 콘텐츠는 재무 또는 투자 조언이 아닙니다.투자 결정을 내리기 전에 반드시 스스로 조사하고 자격을 갖춘 재무 전문가와 상담하시기 바랍니다.
