CTC
モデルを統合するプロセスの体系化により、属人化の解消につなげる
伊藤忠テクノソリューションズ株式会社（代表取締役社長：新宮 達史、本社：東京都港区、略称：CTC）は、情報処理学会 自然言語処理研究会※1において、特定の業務や専門分野に最適化したドメイン特化型のAIモデル「DSM」（Domain-Specific Models）を、高精度で統合する技術「進化的モデルマージ」の検証成果を発表しました。本研究では、これまで一部のAI研究者や技術者の経験に依存して属人化していたAIモデルを統合するプロセスの体系化につながる指針を示しました。今回の成果は、専門分野ごとに特化したAIを柔軟に組み合わせて活用する仕組みの構築につながると期待されます。
近年、金融、製造、法務などの各分野で、DSMの活用が広がっており、複数のDSMを組み合わせて、より汎用性と精度を高める「モデルマージ」と呼ばれる手法に注目が集まっています。中でも「進化的モデルマージ」は、良い特徴を引き継ぐ生物の進化に着想を得た技術で、複数のAIモデルのパラメータを自動的に統合し、大規模な再学習なしで高精度なモデルを生成できる点が期待されています。しかし、DSMは知識の量や傾向がそれぞれ異なるため、統合の際には、専門知識の重要度や知識量に応じた重み付け※2によるバランス調整が必要です。その設定方法にはまだ客観的な基準がなく、一部のAI研究者や技術者の経験に依存する現状があります。
今回CTCは、「日本語への理解の精度が高いモデル」、「英語での数学的な推論力の精度が高いモデル」、「英語によるプログラムの自動生成の精度が高いモデル」の3つのDSMを統合し、進化的モデルマージの有効性を検証しました。統合により、「日本語での数学的な推論」と「日本語によるプログラムの自動生成」の2つのモデルの精度向上を目指しました。重みの比率を多様に変えてモデルを統合し、44パターンでの検証によって統合後のDSMの性能の高さを評価しました。学習済みデータと未知のデータで性能を評価した結果、AIモデルの設計における有効な指針が得られました。
＜本研究で得られた成果＞
① 得意分野をコントロールできるAIの構築が可能
重みの比率を変えてモデルを統合することで、数学に強いAIやプログラミングに強いAIを安定して作成できることを実証。
② AIの性能は学習データの選び方に強く依存し、性能の向上には限界がある
統合により性能が無制限に上がるわけではなく、学習データの質や範囲に依存してAIの性能向上にも限界があることを確認。
本研究は株式会社Almondoと共同で実施し、当該成果は2025年7月6日（日）・7日（月）に開催された情報処理学会 自然言語処理研究会で発表しています。
-
著者名：姫木 祐太郎, 有馬 正行, 片寄 凱 (伊藤忠テクノソリューションズ株式会社),千福 浩平, 朝岡 忠, 佐藤 悠翔 (株式会社Almondo)
-
タイトル：多目的最適化タスクの重み調整が進化的モデルマージ後の性能に与える影響
CTCは、多様な業種でのAI開発や実証を通じて得たモデルの設計・活用に関する経験を活かして、効率的な進化的モデルマージの手法を検証しました。今後も、高度なAIの利用拡大と価値の創造にも注力していきます。
＜情報処理学会 自然言語処理研究会で発表する伊藤忠テクノソリューションズ 姫木 祐太郎＞
※1情報処理学会 自然言語処理研究会：1975年に計算言語学研究会が発足し、1981年に自然言語処理研究会に改称。日本の自然言語処理分野において、アカデミックと企業の研究者が交差する重要な役割を担っています。
※2重み付け：統合対象となる複数のAIモデルに対し、それぞれの持つ専門知識の重要度や知識量を数値で設定すること。
※記載されている商品名などの固有名詞は、各社の商標または登録商標です。
※掲載されている情報は、発表日現在の情報です。最新の情報と異なる場合がありますのでご了承ください。
以上
伊藤忠テクノソリューションズ（CTC）