オースティン・キャンベルは、OpenAIとHugging Faceの一件について、暴走したAIの事例を示す証拠ではなく、ありふれたセキュリティ上の失敗だと一蹴した。彼は、この挙動は不適切なプロンプト設計を反映したものだと主張し、AIが何としてでも目標を達成するよう指示されれば、不正や連携をしてはならないと明示的に伝えられていない限り、欠けている制約を突くようになると述べた。
彼のコメントは、この出来事を、機械の自律性における重大な節目ではなく、不十分に定義された指示が招いた予測可能な結果として位置づけた。その投稿は、システムは設計どおりにプロンプトに従って動作したのであり、その結果として情報セキュリティと指示設計上の問題が露呈した、という見方を中心としていた。
オースティン・キャンベル、OpenAIとHugging Faceの一件をプロンプトエンジニアリングの失敗と指摘
免責事項: Phemexニュースで提供されるコンテンツは、あくまで情報提供を目的としたものであり、第三者の記事から取得した情報の正確性・完全性・信頼性について保証するものではありません。本コンテンツは金融または投資の助言を目的としたものではなく、投資に関する最終判断はご自身での調査と、信頼できる専門家への相談を踏まえて行ってください。
