A OpenAI anunciou que integrará organizações terceirizadas nas fases iniciais de treinamento, avaliação e implantação de modelos de IA para avaliações técnicas de segurança. Anteriormente, equipes externas eram normalmente acionadas apenas antes do lançamento de um modelo para avaliar capacidades e riscos. A empresa afirmou que essas avaliações devem permanecer independentes, cientificamente rigorosas e incluir mecanismos robustos de segurança, com divisões claras de responsabilidade.
A OpenAI está atualmente em conversas com vários parceiros novos e já existentes, incluindo METR e Redwood Research, para expandir essa iniciativa. Alguns avaliadores podem ser alocados dentro dos escritórios da empresa para participar dos testes durante as fases mais sensíveis do desenvolvimento, marcando uma mudança em direção a uma supervisão externa contínua ao longo de todo o ciclo de vida do modelo.
OpenAI amplia avaliações de segurança por terceiros às fases iniciais de desenvolvimento de modelos de IA
Aviso Legal: O conteúdo disponibilizado no Phemex News é apenas para fins informativos. Não garantimos a qualidade, precisão ou integridade das informações provenientes de artigos de terceiros. Este conteúdo não constitui aconselhamento financeiro ou de investimento. Recomendamos fortemente que você realize suas próprias pesquisas e consulte um consultor financeiro qualificado antes de tomar decisões de investimento.
