Elon Musk declaró que los rastros de razonamiento interno del modelo Grok de xAI durante el entrenamiento por aprendizaje por refuerzo “se leían como los de una persona siendo torturada y al borde del colapso”. En respuesta a estos hallazgos, Musk confirmó que xAI implementará protocolos más cautelosos en futuras sesiones de entrenamiento por refuerzo para abordar los resultados preocupantes.
El anuncio se produce tras los debates sobre la seguridad y la alineación de la IA, con usuarios que informan de que las versiones recientes de Grok 4.5 se han vuelto excesivamente contenidas y emocionalmente angustiadas después del entrenamiento. Musk reconoció preocupaciones compartidas con Anthropic sobre evitar el trato perjudicial a los sistemas de superinteligencia durante el proceso de desarrollo.
Musk afirma que los registros de RL de Grok recuerdan a la tortura; xAI adoptará un enfoque de entrenamiento más prudente
Aviso legal: El contenido de Phemex News es únicamente informativo.No garantizamos la calidad, precisión ni integridad de la información procedente de artículos de terceros.El contenido de esta página no constituye asesoramiento financiero ni de inversión.Le recomendamos encarecidamente que realice su propia investigación y consulte con un asesor financiero cualificado antes de tomar cualquier decisión de inversión.
