OpenAI anunció que integrará a organizaciones de terceros en las etapas iniciales del entrenamiento, la evaluación y el despliegue de modelos de IA para realizar evaluaciones técnicas de seguridad. Anteriormente, los equipos externos solían participar solo antes del lanzamiento de un modelo para evaluar sus capacidades y riesgos. La empresa declaró que estas evaluaciones deben mantenerse independientes, ser científicamente rigurosas e incluir sólidos mecanismos de seguridad con claras divisiones de responsabilidad.
Actualmente, OpenAI está en conversaciones con varios socios nuevos y existentes, incluidos METR y Redwood Research, para ampliar esta iniciativa. Algunos evaluadores podrían ubicarse dentro de las oficinas de la empresa para participar en las pruebas durante las etapas de desarrollo más sensibles, lo que marca un cambio hacia una supervisión externa continua durante todo el ciclo de vida del modelo.
OpenAI amplía las evaluaciones de seguridad de terceros a las primeras etapas del desarrollo de modelos de IA
Aviso legal: El contenido de Phemex News es únicamente informativo.No garantizamos la calidad, precisión ni integridad de la información procedente de artículos de terceros.El contenido de esta página no constituye asesoramiento financiero ni de inversión.Le recomendamos encarecidamente que realice su propia investigación y consulte con un asesor financiero cualificado antes de tomar cualquier decisión de inversión.
