こんにちは。研究開発センターの平野です。弊社TECH blogには初登場です。ソフトウェア開発チームというエンジニア集団のチームマネージャーをやっています。

さて、今回はエッジAIコンピューティングに関する話題を投稿したいと思います。いろんなメディアで「AI」「エッジ」というワードを見聞きしない日はないですよね。弊社はAI画像認識技術をベースにビジネス展開しており、切っても切れない関係性があります。

では、エッジAIコンピューティングとは何か。何だか漠然としてイメージしづらいかもしれません。
今回はそれにちなんで、エッジAIとは何なのか、そしてエッジAIデバイスでの弊社プロダクトの動作事例について、紹介したいと思います。さらに、最近の展示会などで目にした、個人的に気になる「巷のエッジAIデバイス」もいくつかご紹介します。

エッジAIって何がいいの？

まず、エッジAIとは何を指すのか。明確な定義があるわけではなくバズワードっぽくもあり、人によっていろんな捉え方があると思います。

たとえば、「現場で使うAI」を広義のエッジAIと捉える場合は、以下のような異なるプラットフォーム（組み込みデバイス／ワークステーション／クラウド）でも、現場で使うものであればすべてエッジAI。これもひとつの捉え方ですが、個人的にはエッジAI＝組み込みデバイス（CPU/GPU/NPU/FPGA/...）にAIを実装すること、として話すことが多いです。本記事でも、エッジAI＝組み込みデバイスへのAI実装として述べたいと思います。

では、エッジAIって何がいいのでしょうか。一例として以下の観点があると思っています。

リアルタイム性: 組み込みデバイス内で処理することで通信遅延の考慮が不要
設置性: 自動車やロボットなどのモビリティ機器に設置できるサイズ感。機器コストの安さ。
機密性: 現場のセンシングデータに秘密情報があっても現場デバイス内で閉じることができる

一方で、組み込みデバイスにはワークステーションやクラウドなどとは異なりリッチなハードウェアリソースがありませんので、計算量の削減やメモリフットプリントの削減といったモデル最適化が必要になります。
本記事ではそういった実装論に言及しませんが、関連する技術は弊社畠山のブログ記事で紹介しておりますので、ご興味がありましたらご覧ください。

Raspberry Pi 4 での弊社プロダクト動作事例

ここで弊社プロダクトの動作事例をご紹介します。組み込みデバイスとして Raspberry Pi 4 を用いて、顔・人体検出/追跡ができるSDKプロダクト「SensePerson SDK」を用いたデモアプリケーションです。

SensePerson SDK は以下の機能を有しています。

顔検出追跡機能
顔認証機能
顔属性推定機能
顔向き推定機能
人体検出追跡機能
実在性推定機能

こちら、CPUのみで動作しています。ハードウェアアクセラレーション無しでこのフレームレート（ヌルヌル感！）を実現できています。これが成せるのも、弊社のモデル最適化技術があってこそと自負しています。

その他に弊社では、車両・歩行者検出/追跡ができるSDKプロダクト「SenseVideo Go」も有しています。こちらは計算リソースをより必要とするため、現時点では NVIDIA GPU が利用前提となっていますが、それに依存しない組み込みデバイスで利用できるよう開発構想中です。

巷のエッジAIデバイス紹介

最後に。
現場で技術を活用するためにはデバイス選定も重要です。
弊社お客様にプロダクトPRする際も、より市場ウケのよいデバイスで動作検証していく（リファレンスとしていく）ために、情報キャッチアップに努めている今日この頃です。そんな中、数多あるエッジAIデバイスより、個人的に興味を持ったものをいくつか紹介します。

本記事では3つに絞ります。
※あくまでも個人的に関心を寄せたプロダクトであり、所属する組織の推奨するものではありませんので！念の為。

Armadillo-IoT G4（アットマークテクノ社）
EB5 Edge AI Station（サンダーコム社）
S+ Camera シリーズ（ソラコム社）

Armadillo-IoT G4（アットマークテクノ社）

https://armadillo.atmark-techno.com/armadillo-iot-g4

Arm Cortex-A53（1.6GHz）4コアのSoC「i.MX 8M Plus」（NXPセミコンダクターズ製）を採用。さらにNPU(2.3TOPS)を搭載。143×100.5×26mm と小型ですが、なかなかの演算スペックではないかと思います。

このカタログにある駐車場利用状況の管理シーンなどは、弊社プロダクトを活用することで実現可能だと思います。動作実績を作って弊社お客様にPRできるといいなと思います。

別の視点で目を引くのは温度特性。動作温度範囲がー20～＋70℃と優れています。数年前、農業IoTでArmadilloの利用例を見た記憶があり、屋外利用シーンも特長のひとつなのだと思います。様々な産業用途での利用が期待できそうです。

※ 余談ですが、本記事の公開日がこのデバイスの発売日と同じ！勝手に運命を感じます。

https://armadillo.atmark-techno.com/sites/armadillo.atmark-techno.com/files/2021-10/about_armadillo-iot-g4-01d.jpg

EB5 Edge AI Station（サンダーコム社）

https://www.thundercomm.com/app_en/product/1596593567074634?index=0&categoryId=category4&tabIndex=1

クアルコム社がIoT市場向けに開発したハイエンドのSoCであるQRB5165を搭載。15 TOPSのAIコンピューティング性能と24チャンネルのFHDビデオデコーディング機能を有しており、スマートシティ/ビルディング・リテール・工場などアプリケーションの幅が広そうです。

とある商社のウェビナーで目にしてから紹介を受けたのですが、弊社が強化を進めている業種とのマッチ度合いも高そうなので興味深いデバイスです。2021年9月1日発売の新規デバイス、Check it!

https://www.macnica.co.jp/business/semiconductor/manufacturers/High_AI_Performance_9.png

S+ Camera シリーズ（ソラコム社）

https://soracom.jp/soracom_plus/camera_basic/

先の2デバイスとは少し異なる類で、こちらのS+ Camera シリーズ（サープラスカメラと呼ぶそうです）はエッジ AI カメラにセルラー通信モジュールが組み込まれています。常時通信することなく夜間バッチでエッジ側からクラウドへデータ送信するような運用も可能であったり、さらに遠隔からエッジAIカメラのアルゴリズム書き換えも行うことも可能です。いわばトータルソリューションですね。

エッジAIカメラで動作するアルゴリズムには顔検出・顔認識もあり、前述した弊社プロダクト「SensePerson SDK」もいつの日か連動させていただけるといいなと思います。

https://soracom.jp/img/soracom_plus/fig_soracomplus_01_jp_org.png