Le scientifique en chef d’OpenAI, Jakub Pachocki, a déclaré qu’aucun laboratoire d’IA n’avait suffisamment progressé en matière d’alignement et de surveillance pour augmenter de manière responsable la taille des modèles à vitesse maximale sur le long terme. Dans un article intitulé « An Alien Mind », Pachocki a indiqué que des recherches internes suggèrent que les progrès de l’IA pourraient se poursuivre jusqu’à une phase d’auto-amélioration récursive, avec des systèmes susceptibles d’effectuer, dans les années à venir, des bonds de capacités d’une ampleur similaire ou supérieure, tout en pilotant de plus en plus leur propre R&D. Il a déclaré que les ralentissements volontaires devraient devenir la norme jusqu’à ce qu’un seuil de sécurité commun soit établi, et que le développement futur de l’IA devrait être considéré comme une priorité par les gouvernements nationaux en vue d’une coordination internationale. OpenAI continuera de mener des recherches sur les technologies d’alignement et de surveillance, de construire des systèmes de défense et de suspendre unilatéralement toute nouvelle montée en puissance lorsque cela sera nécessaire, a déclaré Pachocki.