Milaは、研究者たちが2026年にブラジルで開催される国際学習表現会議（ICLR）で70本の論文を発表することを発表しました。初日の主要な発表では、モデルマージ、グラフ学習、強化学習の進展が取り上げられます。注目すべき研究には、条件付きタスクベクトルの蒸留によるDisTaCの堅牢なモデルマージや、グラフ理論タスクにおける大規模言語モデルの評価のためのGraphOmniのベンチマークフレームワークが含まれます。 強化学習分野では、SHAPOが安全な探索のためのシャープネス認識最適化を導入し、ARM-FMは基盤モデルを利用して自動報酬マシン生成を行います。生成モデルでは、ボルツマンジェネレーターのための正規化フローの効率的な回帰ベーストレーニングや、FALCONによる連続フローにおける正確な尤度計算などの革新が見られます。さらに、Milaは推論過程の可視化や、モデル崩壊を機械の忘却の特徴として再定義するなど、大規模言語モデルの進展も発表します。