Ambiq、超低消費電力を実現するデュアルエッジAIランタイムソリューションを発表
AmbiqのHeliosRT（推論速度が3倍高速）とHeliosAOT（メモリ使用量が50%削減）ランタイムソリューションは、エッジAIアプリケーションにおけるApollo SoC向けにTensorFlow Liteモデルを最適化します。
ambiq.com
Ambiq Microは、AmbiqのApolloシステムオンチップ（SoC）ファミリー向けに最適化された、2つの新しいエッジAIランタイムソリューション、HeliosRT（ランタイム）とHeliosAOT（アヘッドオブタイム）を発表しました。これらの開発ツールは、AIモデルのパフォーマンスと電力効率を大幅に向上させ、エッジコンピューティング環境特有のニーズに対応するように設計されています。
エッジAIの重要な課題への対応
AIワークロードのエッジデバイスへの移行が進むにつれ、開発者は厳しい電力バジェット内で高性能を実現するというプレッシャーに直面しています。従来のAIフレームワークは、超低消費電力のシナリオで苦戦することが多く、ウェアラブル、ヒアラブル、IoTセンサー、産業用モニターなどのバッテリー駆動デバイスに高度なAIモデルを導入することが困難になっています。
Ambiqの新しいランタイムソリューションは、開発者中心のツールのポートフォリオを拡大し、エンジニアがApollo SoCの可能性を最大限に引き出せるよう設計されています。HeliosRTとHeliosAOTは、デジタルヘルスやスマートホームから工業オートメーションまで、幅広いアプリケーションにおけるエッジAI向けに、柔軟で高性能な導入オプションを提供します。
HeliosRT：電力最適化されたLiteRT
HeliosRTは、LiteRT（旧TensorFlow Lite for Microcontrollers）の性能を向上させた実装で、エネルギー制約のある環境に合わせています。HeliosRTは、既存のTensorFlowワークフローと完全に互換性があり、主な改善点は以下の通りです：
- Apollo510のベクトルアクセラレーションハードウェア向けに最適化されたカスタムAIカーネル
- オーディオおよび音声処理モデルの数値計算サポートの向上
- 標準的なLiteRT実装と比較して、推論速度と電力効率が最大3倍向上
HeliosAOT：LiteRTを最適化されたCコードにコンパイル
HeliosAOTは、TensorFlow LiteモデルをエッジAIデプロイメント用の組込みCコードに直接変換する、ゼロから構築された事前コンパイラを導入します。この革新的なアプローチは、ランタイムレベル、またはそれ以上の性能を実現し、以下のような追加のメリットも提供します：
- 従来のランタイムベースのデプロイメントと比較して、メモリフットプリントを15～50%削減
- きめ細かなメモリ制御により、Apollo のメモリ階層全体にわたってレイヤーごとの荷重配分が可能
- 生成されたCコードを組込みアプリケーションに直接統合することで、デプロイメントを合理化
- リソースに制約のあるシステムにおける柔軟性の向上
AmbiqのAI担当バイスプレジデントであるカルロス・モラレス（Carlos Morales）は次のように述べています。「開発者の体験と電力効率の融合こそが、私たちの指標です。HeliosRTとHeliosAOTは、既存のAI開発パイプラインとシームレスに統合するように設計されており、エッジアプリケーションに求められる性能と効率の向上を実現します。これは、高度なAIを真にユビキタスなものにするための大きな一歩です」
SPOT®と実際の成果を搭載
Heliosソリューションはどちらも、Ambiqの特許取得済みSPOT（サブスレッショルド電力最適化技術）を基盤としています。この技術は、世界中で2億7000万台以上のデバイスに採用されています。長年にわたるハードウェアとソフトウェアの共同設計を活用したこれらのツールは、エッジをターゲットとする開発者に、測定可能な性能の向上と効率的な導入を提供します。
供給について
- HeliosRTは現在、neuralSPOT SDK経由でベータ版が提供されており、一般提供は2025年第3四半期を予定しています。
- HeliosAOTは現在、一部のパートナー向けにテクニカルプレビューとして提供されており、一般提供は2025年第4四半期を予定しています。
両ソリューションとも、充実したドキュメント、すぐに使えるサンプル、およびAmbiqのお客様専用のエンジニアリングサポートが提供されます。
www.ambiq.com
