最近の調査で、企業が自社製品を優先的にAIシステムに推薦させるために支払う手法である「ジェネレーティブエンジン最適化（GEO）」によるAI推薦の操作が明らかになりました。これは、CCTVのジャーナリストが「LiQing GEO」ソフトウェアを使って存在しないスマートリストバンドの宣伝コンテンツを捏造し、その後AIがそれをトップの推奨として提示したことで暴露されました。このソフトウェアは北京リシ文化メディアによって開発されており、AIモデルがこうした操作に対して脆弱であることを浮き彫りにしています。 従来のSEOに似たGEOの概念は、資本市場で注目を集めており、ブルーフォーカスのような企業がGEO企業に多額の投資を行っています。株価は急騰しているものの、GEO事業自体はまだ大きな収益を上げていません。一方で、OpenAIはChatGPT内で広告の表示を開始し、AI推薦の商業化への転換を示しています。この動きは、AI生成コンテンツの信頼性やユーザーの信頼が悪用される可能性について懸念を呼んでいます。