インテル・パートナー・アライアンスのメンバーとして、 Pratexoは インテル®ベースのソリューションを強力にサポートしています。

テキサス州オースティン – 2022年7月26日火曜日

Stuart Cowen、Pratexo 社ソリューションズ・アーキテクト

人工知能(AI)と機械学習(ML)は、データ分析とインテリジェント予測の世界で実行可能なソリューションとして、これまで以上に見出しを飾るようになりました。 しかし、ニューラル ネットワーク ML モデルのトレーニング、AI パイプラインの作成、高精細データ ストリームの識別作業を実際に実行するエッジでのフレームワークを開発することは、科学およびエンジニアリングの専門家チームを必要とする途方もない作業です。 インテル®・パートナー・アライアンスのメンバーとして、 Pratexo は、インテル® OpenVINO推論ツールキットを Pratexo Studioですぐに展開可能なソフトウェア機能のカタログに統合することにより、企業がダークデータから貴重なインテリジェンスを引き出すことを容易に実現できるようにしました。

PratexoとOpeVINOとは?

Pratexo は、クラウドコンピューティングのパワーをエッジコンピューティング側にもたらし、重要な運用上の問題に対する価値のあるソリューションをデプロイおよび管理する能力を簡素化し、加速するエッジソリューションアクセラレーションプラットフォームです。 Pratexo Design Studioを使用すると、ソリューションアーキテクト(SA)はコードを自動的に生成し、「マイクロ」クラウドをエッジに物理的にデプロイできるため、ドラッグアンドドロップ形式の「ホワイトボード」インターフェイスを使用してデータ収集と分析処理のワークフローを作成することが可能になります。 ボタンをクリックするだけで、多層アーキテクチャの任意の数のエッジコンピューティングノードが、オープンソースおよび/またはサードパーティのソフトウェアコンポーネントを使用して動的に構築、インストール、およびクラスタ化されます。

OpenVINOは、インテルのCPU、GPU、VPU、FPGA用に特別に最適化されたディープラーニングワークロードを実行するために設計された、無料で使用できるAI推論ツールキットです。 ユースケースには、コンピュータビジョン、音声認識、自然言語解析、オーディオ分析、レコメンデーションエンジンなどがあります。 OpenVINOエコシステムには、200以上の定義済みですぐに使用できるAIモデルのOpen Model Zooという「マーケットプレイス」があります。

Pratexo は OpenVINO をどのように統合したか ？

エンジニアリングフェーズ

Pratexo は、再デプロイ可能なOpenVINO Dockerコンテナイメージを構築することから始め、それをMicro Kubernetes(microK8s)のHelmチャートに組み込みました。 このOpenVINOソフトウェア機能は、その後、より大きなエッジコンピューティングアーキテクチャへのAI推論コンポーネントとして Pratexo Design Studioで利用可能になります。 ボタンを押すだけで、OpenVINOを使用したアーキテクチャのデプロイが、特定のIntelチップを使用したAI推論の実行値を動的に渡すAnsible Playbookを使用して起動され、他の依存関係がインストールされます。 すべての Pratexo エッジアーキテクチャを含む追加のAnsible Playbookが作成され、デプロイメント全体がラップされ、シェルスクリプトから起動されます。

テストフェーズ

実装テストをするために、OpenVINOをmicroK8sクラスタ内の各エッジノードにデプロイし、画像、ビデオ、およびオーディオストリームのソースに近いエッジノードで推論を可能にしました。 起動時に、OpenVINOは、推論に使用可能なエッジノード上のIntel CPUとIntel Gaussian and Neural Accelerator(GNA)を検出しました。 テスト目的で、インテルのOpen Model Zooが提供するResNet50(TensorFlow)モデルを使用して、APIを介してOpenVINOモデルサーバーに送信された画像を分類しました。 OpenVINOはテストセット内のすべての画像を正常に識別し、分類結果はローカルにクラスタ化されたCassandraデータベースにロードされ、エッジノード上のルールエンジンまたはカスタムアプリケーションによるさらなるデータ分析と最適化が行われてから、軽量化されたイベントストリームをセントラルクラウドに送信しました。

実装フェーズ

Pratexoプラットフォームは、OpenVINOをPratexo Design Studio内のカスタムおよびオープンソースソフトウェアコンポーネントの幅広いライブラリの１つとして利用可能にします。 OpenVINOツールキットをIntelチップセットを搭載したエッジアーキテクチャに追加すると、動的に生成されたAnsible Playbookを他のPlaybookと自動的に結合し、分散エッジコンピューティングソリューション全体のプッシュボタン式デプロイを実現します。

ステップ 1 : サンプルのエッジコンピューティングとマイクロクラウドアーキテクチャの設計

サンプルプロジェクトとして、 Pratexo Design Studioを使用して、ビジョン、画像、オーディオストリームを検出および分析するための複雑な分散エッジコンピューティングソリューションを迅速に設計しました。 デバイスタイプ、データソース、ソフトウェアコンポーネント、エッジ上のマイクロクラウドは、各要素をキャンバス(上図)にドラッグアンドドロップすることによってまとめられ、インストールスクリプトが自動的に構築され、ソフトウェアの依存関係が解決され、シミュレーション環境またはエッジ上の物理ハードウェアに展開されます。

ステップ 2 : OpenVINOをアーキテクチャに追加する

PratexoがDesign Studioに統合したOpenVINOツールキット機能は、データ収集とAI検出の起点としてキャンバスにドラッグされました。 機械学習モデルへのパスは、OpenVINOのパラメータの1つとして定義され、デバイスからのリアルタイムおよび/またはデータファイルのリポジトリからのデータストリーミングで検出を実行します。 推論操作の結果は、マイクロクラウドのメッセージバスに格納され、エッジノード側でより深い分析を総合して実行します。

OpenVINOとPratexoの利点

OpenVINOをソフトウェアコンポーネントの Pratexo エコシステムに組み込むことで、アーキテクトとシステムインテグレータは、AI/ML用に最適化されたフルスタックのディープラーニング分散エッジインフラストラクチャの設計と再利用性を著しく加速することができます。 PratexoとIntelのパートナーシップによって、Pratexoはエッジ側に配置されたコンピューティングノードに対してリモートおよびローカルにデプロイできるため、Intelベースのアーキテクチャのデプロイがシームレスな操作になります。

クラウドコンピューティングと同様に、エッジコンピューティングとエッジのマイクロクラウドは、ビジネスチャンスとパートナーとソリューションのエコシステムを急速に拡大しています。 この新しいコンピューティングパラダイムでは、実装のスピードや俊敏性は、中程度から最小限の専門知識とリソースによって数日（数ヶ月ではなく）単位で検討されるようになります。 Pratexo はすぐ利用できるOpenVINOのAIフレームワークを取り込み、それを展開可能な機能にパッケージ化して、あらゆるエッジコンピューティングアーキテクチャにインストールすることができます…スマートフォンのネットワークにアプリをインストールするのと同じくらい簡単です。

Pratexo社について: Pratexoは、クラウドコンピューティングのパワーをエッジノード側にもたらすエッジソリューションアクセラレーションプラットフォームです。 オープンで実績のあるテクノロジーに基づくPratexoエッジマイクロクラウドは、柔軟性、拡張性、プライバシー、安全性を備えており、Pratexoのローコードスタジオは、複雑なプロジェクトの実装期間を数ヶ月から数日に短縮します。 www.pratexo.com