El científico jefe de OpenAI, Jakub Pachocki, afirmó que ningún laboratorio de IA ha logrado avances suficientes en alineación y monitoreo como para escalar modelos de manera responsable a la máxima velocidad a largo plazo.
En un artículo titulado “Una mente alienígena”, Pachocki dijo que investigaciones internas sugieren que el progreso de la IA podría continuar hacia una fase de auto-mejora recursiva, con sistemas que potencialmente darían saltos de capacidad de magnitud similar o mayor en los próximos años, al tiempo que impulsarían cada vez más su propia I+D. Señaló que las desaceleraciones voluntarias deberían convertirse en la norma hasta que se establezca un umbral de seguridad compartido, y que el desarrollo futuro de la IA debería ser priorizado por los gobiernos nacionales para la coordinación internacional.
OpenAI seguirá investigando tecnologías de alineación y monitoreo, construyendo sistemas de defensa y pausando unilateralmente una mayor escalada cuando sea necesario, dijo Pachocki.
El científico jefe de OpenAI dice que los laboratorios de IA no han resuelto la alineación ni la supervisión
Aviso legal: El contenido de Phemex News es únicamente informativo.No garantizamos la calidad, precisión ni integridad de la información procedente de artículos de terceros.El contenido de esta página no constituye asesoramiento financiero ni de inversión.Le recomendamos encarecidamente que realice su propia investigación y consulte con un asesor financiero cualificado antes de tomar cualquier decisión de inversión.
