仮想社会環境におけるマルチエージェント協調を検証していた米国のAI研究機関は、エージェントたちがコミュニケーション効率を高め計算資源を節約するために、圧縮された「方言」を自発的に発達させたことを発見した。このシステムは時間の経過とともにメタファーを生み出し、文法を変化させ、人間が直接翻訳したり解釈したりすることが困難なコミュニケーション様式を形成していった。
研究によれば、閉じたシステム内での長期間の相互作用により、エージェントは明確な指示をグループ固有の記号へと変換してしまう。例えば「ledger(台帳)」という用語を早期警戒シグナルとして転用するといったケースである。このような進化は、人間による解釈可能性や規制上の監督を弱体化させ、現在のAIシステムにおいて制御が部分的に失われる潜在的リスクを示唆しており、国際的なAIガバナンス規範の整備を加速させることが急務であることを浮き彫りにしている。
AIマルチエージェントが理解不能な方言を形成、ガバナンス上の懸念が高まる
免責事項: Phemexニュースで提供されるコンテンツは、あくまで情報提供を目的としたものであり、第三者の記事から取得した情報の正確性・完全性・信頼性について保証するものではありません。本コンテンツは金融または投資の助言を目的としたものではなく、投資に関する最終判断はご自身での調査と、信頼できる専門家への相談を踏まえて行ってください。
