El CEO de Microsoft, Satya Nadella, declaró que las empresas deben tratar los potentes modelos de IA de frontera como posibles amenazas internas y asumir que podrían estar comprometidos por defecto. Abogó por establecer un mecanismo de “freno de emergencia” para evitar que los modelos de agentes operen fuera de parámetros controlados.
Nadella destacó que las organizaciones que despliegan IA avanzada no deben depender únicamente de las garantías de los desarrolladores. En cambio, los responsables del despliegue deben conservar un control independiente sobre la gestión de permisos, las restricciones operativas, el registro de actividad y los límites de contención dentro de sistemas que el modelo de IA no puede modificar.
El CEO de Microsoft, Nadella, pide un 'freno de emergencia' para los modelos de IA de vanguardia
Aviso legal: El contenido de Phemex News es únicamente informativo.No garantizamos la calidad, precisión ni integridad de la información procedente de artículos de terceros.El contenido de esta página no constituye asesoramiento financiero ni de inversión.Le recomendamos encarecidamente que realice su propia investigación y consulte con un asesor financiero cualificado antes de tomar cualquier decisión de inversión.
