エッジデバイスで動作する製造業向け言語モデルを開発

三菱電機株式会社は、エッジデバイスで動作する製造業向け言語モデルを開発しました。当社AI技術「Maisart^®（マイサート）※1」の開発成果である本言語モデルは、当社事業に関するデータを用いて製造業ドメインに特化した事前学習をさせており、製造業におけるさまざまなユースケースへの適用が可能です。さらに、独自に開発した学習データ拡張技術により、ユーザーの用途に最適化した回答生成を実現します。

近年、生成AIの普及を背景に、大規模言語モデル（LLM）の活用が拡大する一方で、LLMの利用には莫大な計算コストとエネルギーを要することから、それらの削減が社会課題となりつつあります。また、データプライバシーや機密情報管理の観点から、オンプレミス※2環境下での生成AIの利用ニーズも増加しています。

今回、当社は、公開されている日本語継続事前学習済みのベースモデルに対し、当社が保有するFA（Factory Automation）事業などのさまざまなデータを用いたドメイン特化型の学習を行うことで、製造業に特化した言語モデルを開発しました。また、独自の拡張技術で生成した学習データを用いることにより、効果的なタスク特化学習を可能としました。開発した言語モデルは限られたハードウェアリソースの中でも動作可能なサイズで、エッジデバイスなど計算リソースに制約のある環境や、顧客情報を扱うコールセンターなどのオンプレミス環境下における生成AI運用に貢献します。　

なお、本言語モデルは、アマゾン ウェブ サービス ジャパン合同会社が提供する「AWSジャパン生成AI実用化推進プログラム※3」に参画し、同社のサポート（言語モデルの学習に必要なGPU※4やAWS Trainium※5などのコンピューティングリソースの調達支援、分散トレーニングの環境構築支援、AWSクレジットの提供、AWS生成AIイノベーションセンター※6による科学的観点からのアドバイザリーなど）のもと開発したものです。

※1Mitsubishi Electric's AI creates the State-of-the-ART in technologyの略。全ての機器をより賢くすることを目指した当社のAI技術ブランド
※2  企業や組織が自社の施設内にサーバーやネットワーク機器などのITインフラを構築し、管理・運用する形態で、インターネットを経由するクラウド型と区別される
※3 
※4 Graphics Processing Unit：画像処理や並列計算を高速に行うために設計されたプロセッサで、並列処理能力によりLLMの学習時間を大幅に短縮することが可能
※5 AWSが独自開発した機械学習向け特化型チップ。AIモデルのトレーニングに最適化されており、高いコスト効率と性能を実現する
※6 

www.mitsubishielectric.com