組込み型人工知能(AI)は、AI推論がクラウド上のサーバーではなく、エンドポイントで行われるものです。
ルネサスRZ/G FOSS(フリー&オープンソースソフトウェア)AI BSPは広く知られているオープンソースAIフレームワークの多くをRZ/G2シリーズのリファレンスプラットフォームでネイティブに実行できるようにするYoctoメタレイヤーのコレクションです。これにより、ユーザーはArm Cortex CPUコアとNEONコアを使用して組込みプラットフォームでAIモデルを直接テストできます。
現在サポートされているフレームワークには、ArmNN、ONNX Runtime、TensorFlow Liteがあります。
AI BSPには、一般に良く知られているいくつかのプレトレーニング済み画像分類モデルの実行パフォーマンスをテストする各フレームワークのサンプルベンチマークアプリケーションも含まれます。
以下の推論時間は、“meta-benchmark” Yoctoレイヤーによって提供されるベンチマークの一部です。 RZ/G2H SoCが最も推論が速く、それにRZ/G2Lが僅差で続くという結果が得られています。
メタレイヤーのソースコードはGitHub:https://github.com/renesas-rz/meta-renesas-aiに掲載されています。
他のオープンソースプロジェクトと同様に、コードの貢献とプルリクエストも大歓迎です。
ショッピングバスケット デモアプリケーション
ルネサスはRZ/G AI BSPをベースとして、機械学習を使用して買い物かごの中のアイテムを識別するモックアップのショッピングバスケット デモアプリケーションを開発しました。
このデモはTensorFlow Lite AIフレームワークを使用して、10個の一般的なショッピングアイテムを識別するように訓練されたカスタムのMobileNet v2 SSDモデルを処理します。
このアプリケーションは、識別結果から各アイテムの値段を足し合わせて合計額を表示する、小売店での待ち時間を効率的に短縮する「スマートチェックアウト」を模したものです。
すべてのソースコードをGitHub:https://github.com/renesas-rz/meta-renesas-ai-demosからダウンロードできます。