概要

説明

RZ/V2HのDRP-AIには枝刈りされたAIモデルを効率的に演算する機能があります。DRP-AI Extension PackはDRP-AIに最適化されたAIモデルの枝刈りを実現するツールです。
本製品をPyTorchまたはTensorFlowで書かれた学習コードと組み合わせることで、DRP-AIに最適化された枝刈り機能を使用できます。

枝刈りとは?

ニューラルネットワーク内のノードは下図のように相互に接続されています。ノード間の重みを削除したりノードを削除したりしてパラメータの数を減らす方法は「枝刈り」と呼ばれます。枝刈りが適用されていないニューラルネットワークは、一般にDenseニューラルネットワークと呼ばれます。また、枝刈りが適用されたニューラルネットワークは、一般にSparseニューラルネットワークと呼ばれます。枝刈りを適用するとモデルの精度がわずかに低下しますが、ハードウェアに必要な電力を削減し、推論プロセスを高速化できます。

画像
Dense neural network; after pruning: sparse neural network

枝刈りモデルの組み込み方法

枝刈り後のモデルはDRP-AI TVMを使用して組み込むことができます。
以下のURLからDRP-AI TVMのTVMの詳細をご確認ください。
https://github.com/renesas-rz/rzv_drp-ai_tvm

なお、以下の図に示す通り枝刈りはオプション機能です。(Denseモデルも組み込み可能です。)

画像
DRP-AI Development Environment

特長

  • RZ/V2H向けに最適化された枝刈り機能
  • 認識精度と電力効率のバランスを取るため枝刈り率の指定が可能
  • 認識精度向上のため2つの枝刈りモードをサポート(One Shot/Gradual)

リリース情報

DRP-AI Extension Pack Version 1.1.0を公開しました。(2024年10月)

  • Transformer対応として、Multi-Head Attentionの構造を持つPyTorchのモデルをサポートしました。

ターゲットデバイス

ダウンロード

分類 タイトル 日時
ソフトウェア/ツール-ソフトウェア ログインしてダウンロード GZ 3.61 MB
1件

ドキュメント

分類 タイトル 日時
マニュアル-ソフトウェア PDF 1.61 MB
アプリケーションノート PDF 440 KB
2件

設計・開発

関連ボード&キット

ビデオ&トレーニング

Overview of DRP-AI TVM

This video provides an overview of DRP-AI TVM, focusing on the integration of AI into "Endpoint" devices for efficient real-time processing. Renesas' DRP-AI acts as a powerful accelerator, offering key features that enhance the performance and capabilities of endpoint AI applications.