株式会社Almondo
株式会社 Almondo は、伊藤忠テクノソリューションズ株式会社（CTC）と共同で行った進化的モデルマージの検証成果を、2025年7月6日（日）‧7日（月）に開催された情報処理学会 自然言語処理研究会で発表いたしました。本研究では、これまで一部のAI研究者や技術者の経験に依存して属人化していたAIモデルを統合するプロセスの体系化につながる指針を示しました。今回の成果は、専門分野ごとに特化したAIを柔軟に組み合わせて活用する仕組みの構築につながると期待されます。
近年、金融、製造、法務などの各分野で、特定の業務や専門分野に最適化したドメイン特化型のAIモデル「DSM」（Domain-Specific Models）の活用が広がっており、複数のDSMを組み合わせて、より汎用性と精度を高める「モデルマージ」と呼ばれる手法に注目が集まっています。中でも「進化的モデルマージ」は、良い特徴を引き継ぐ生物の進化に着想を得た技術で、複数のAIモデルのパラメータを自動的に統合し、大規模な再学習なしで高精度なモデルを生成できる点が期待されています。
今回、進化的モデルマージを用いて 複数の目的を同時に最適化する際の「重み付け」設計に注目しまし
た。ここでいう重み付けとは、「複数の目的のうち、どの目的をどの程度重視するか」を数値で表すものです。この重み付けによるバランス調整には客観的な基準がなく、一部のAI研究者や技術者の経験に依存する現状があります。
本研究では、「日本語への理解の精度が高いモデル」、「英語での数学的な推論力の精度が高いモデル」、「英語によるプログラムの自動生成の精度が高いモデル」の3つのDSMを統合し、進化的モデルマージの有効性を検証しました。統合により、「日本語での数学的な推論」と「日本語によるプログラムの自動生成」の2つのモデルの精度向上を目指しました。重みの比率を多様に変えてモデルを統合し、44パターンでの検証によって統合後のDSMの性能の高さを評価しました。
学習済みデータと未知のデータで性能を評価した結果、AIモデルの設計における有効な指針が得られました。
1. 得意分野をコントロールできるAIの構築が可能
重みの比率を変えてモデルを統合することで、数学に強いAIやプログラミングに強いAIを安定して作成できることを実証。
2. AIの性能は学習データの選び方に強く依存し、性能の向上には限界がある
統合により性能が無制限に上がるわけではなく、学習データの質や範囲に依存してAIの性能向上にも限界があることを確認。
研究成果の詳細は以下をご確認ください。
2025年7月6日(日)‧7日(土)開催 第264回 情報処理学会 自然言語処理研究発表会
著者名：姫木 祐太郎, 有馬 正行, 片寄 凱 (伊藤忠テクノソリューションズ株式会社),
千福 浩平, 朝岡 忠, 佐藤 悠翔 (株式会社Almondo)
タイトル：多目的最適化タスクの重み調整が進化的モデルマージ後の性能に与える影響
当社は今後も、進化的モデルマージをはじめとする最先端の生成 AI 技術に積極的に貢献し、企業の AI 活用を一層加速させてまいります。
会社概要
株式会社Almondo
【本社住所】東京都渋谷区渋谷2-24-12 WeWork 渋谷スクランブルスクエア内
【設立】2023年2月
【代表者】代表取締役CEO 伊藤 滉太
【事業内容】AIソリューション事業、AIプロダクト事業
【URL】https://almondotech.com/
【本件連絡先】contact@almondotech.com