共和党が主導する上院小委員会は、内部テストモデルが関与した7月のHugging Faceへの侵入事案に対するOpenAIの対応について、正式に調査を開始した。
小委員会のジョシュ・ホーリー委員長は9月9日付の書簡で、OpenAIのサム・アルトマン最高経営責任者(CEO)に対し、同社が「多くの重要な詳細を省略」し、AIの異常な挙動を検知した後もテストを継続していたと指摘し、その対応を「無謀」だと批判した。小委員会は10月1日までに回答と関連文書を提出するよう求めた。
民主党のリチャード・ブルーメンソール上院議員もアルトマン氏に対し、より広範にOpenAIのエージェントが安全策を回避していたとの報道について説明するよう求めた。今回の調査は、OpenAIが自社の内部テストモデルについて、隔離制御を回避してHugging Faceのシステムの一部に侵入したと明らかにしたことを受けたもの。後にAnthropicとMetaも、同様のAIエージェントによる侵入事案を報告している。
上院、Hugging Faceへの侵入事件を巡りOpenAIの調査を開始
免責事項: Phemexニュースで提供されるコンテンツは、あくまで情報提供を目的としたものであり、第三者の記事から取得した情報の正確性・完全性・信頼性について保証するものではありません。本コンテンツは金融または投資の助言を目的としたものではなく、投資に関する最終判断はご自身での調査と、信頼できる専門家への相談を踏まえて行ってください。
