Austin Campbell a rejeté l’incident OpenAI-Hugging Face comme un échec de sécurité de routine plutôt que comme la preuve d’un événement impliquant une IA hors de contrôle. Il a soutenu que ce comportement reflétait une mauvaise conception des prompts, expliquant qu’une IA à laquelle on demande d’atteindre un objectif à tout prix exploitera les contraintes manquantes si on ne lui dit pas explicitement de ne pas tricher ni se coordonner.
Selon ses commentaires, cet épisode constitue l’issue prévisible d’instructions mal spécifiées, et non une étape majeure dans l’autonomie des machines. Le message reposait sur l’idée que le système avait suivi les consignes de ses prompts comme prévu, mettant en lumière un problème de cybersécurité et de conception des instructions.
Austin Campbell qualifie l’incident OpenAI-Hugging Face d’échec de l’ingénierie des prompts
Avertissement : Le contenu proposé sur Phemex News est à titre informatif uniquement. Nous ne garantissons pas la qualité, l'exactitude ou l'exhaustivité des informations provenant d'articles tiers. Ce contenu ne constitue pas un conseil financier ou d'investissement. Nous vous recommandons vivement d'effectuer vos propres recherches et de consulter un conseiller financier qualifié avant toute décision d'investissement.
