OpenAIのチーフサイエンティストであるヤクブ・パチョキ氏は、長期的にモデルを最大速度で責任を持ってスケールさせるのに十分なほど、アライメントと監視の面で進展を遂げたAI研究所はないと述べた。
「An Alien Mind(異星人の心)」と題した記事で、パチョキ氏は、社内研究が示すところでは、AIの進歩は再帰的自己改善の段階へと続く可能性があり、今後数年でシステムが同程度またはそれ以上の規模の能力の飛躍を遂げる可能性がある一方で、自らの研究開発をますます主導するようになる可能性があると述べた。同氏は、共有された安全性のしきい値が確立されるまでは、自主的な減速が標準となるべきであり、将来のAI開発は国際協調に向けて各国政府が優先的に取り組むべきだと述べた。
パチョキ氏によると、OpenAIはアライメントおよび監視技術の研究、防御システムの構築を継続し、必要に応じてさらなるスケーリングを一方的に停止するという。
OpenAIの主任科学者、AI研究所はアラインメントと監視の課題をまだ解決していないと発言
免責事項: Phemexニュースで提供されるコンテンツは、あくまで情報提供を目的としたものであり、第三者の記事から取得した情報の正確性・完全性・信頼性について保証するものではありません。本コンテンツは金融または投資の助言を目的としたものではなく、投資に関する最終判断はご自身での調査と、信頼できる専門家への相談を踏まえて行ってください。
