何が発表された?
Sakana AI Blog で、ICML 2026 に採択された論文「Bridging Spherical Black-Box Optimizers」が公開されました。これまで別系統とされてきた進化戦略 (Evolution Strategy) と合意ベース最適化 (Consensus-Based Optimization) を、統一的な更新式で説明できることを理論的に示した内容と紹介されています。
メモ
- シミュレーターや外部 API 呼び出し、強化学習など「勾配が使えない状況で探索を行う」black-box 最適化の代表 2 系統を、同じ「球面上の更新則」の枠組みで捉え直したことが本論文の理論的な貢献として紹介されています。
- 統一フレームワーク上で両者を組み合わせたハイブリッド最適化器の設計が可能になり、大規模言語モデルの統合時に計算コスト削減と汎化性能向上への寄与が実験で報告されています。
- 複数の最適解を同時に探索する構成により、小規模データセットでの過学習の抑制に有効な結果が示されています。arxiv 論文と ICML 2026 の発表資料は公式ブログからたどれます。