人工知能（AI）では、近年のエッジ（エッジコンピューティング）技術を民生用電子機器や家電革命的な変化が徐々に行われる予定も含まれるスマートホームの概念の様々な急速な発展を動作させる。最後に、様々な家電製品からなる人工知能ネットワークは、おそらくあなたになり、私は他の家族を見ることができません。ローカルクラウドおよび関連機器の概念、必要不可欠な家のための人工知能ネットワークの要素となります。
スマートなスピーカー/モニタリングは、消費者のAIの2つの主要なスピンドルになる
トレンドと組み合わせて、消費者の技術の研究者ローナン・デ・レネッセの開発を追跡するための責任調査会社Ovumの民生用電子機器の分野でのAIのアプリケーションは、2年近くが頻繁にメディアの注目の焦点となっていること（図1）が、家電やAI、今後3〜5年で多くの家電製品はAI機能を持ち、相互にリンクして家庭内に人工知能ネットワークを形成します。
図1 Ronan de Renesse、Ovumのコンシューマーテクノロジー研究員は、将来の家族内のさまざまな電子デバイスが目に見えない家族になると考えています。
ハードウェアチェーンの場合、この傾向は、多くの新たなビジネスチャンスをもたらすでしょうが、ビューのより高いレベルの観点から、これは静かに自宅で人工知能ネットワークを入力した場合、あなたは私は別の「家族を見ないだろうが、メンバー。 "
ハードウェア側では、おなじみのスマートスピーカーの売上高が大幅に伸びがあるだろうが、基本的には、比較的成熟した製品ですが、成長して強度が徐々に今後5年間で遅くなります。場合は、推定2022グローバルスマートスピーカーほぼ$ 9.5億の売上金額。実際には、レネッセは、製品自体は、このような利益率ではありませんので、Googleとアマゾン（アマゾン）は、おそらく、将来的にはスマートスピーカーの独自のブランドを立ち上げるないと考えている、これらの二つのホームネットワークの巨人にとって、ハードウェアベンダーがプラットフォームサービスを利用している限り、必要なユーザーデータを収集することができます。
インテリジェントなスピーカーは、いわゆるスマートホームの監視製品を提示し、実際には、ない人工知能コンポーネントが、より同期間中は、自宅インテリジェントな監視システムの変化は、このような製品がより明白になり、カメラ、アラーム、ロック、センサーとその他のハードウェア製品がサポートイベントトリガのセキュリティシステム（イベントトリガー）機能を形成するために相互に接続されています。しかし、関連するハードウェアおよびソフトウェアの技術が高度化しているとして、人工知能を搭載した未来の家庭用監視カメラの割合がますます高くなるだけでなく、よりを達成するために音声アシスタントの使用などのアプリケーションは、マルチユーザー環境で複数のユーザーにさらに正確なサービスを提供します。
AIアプリの消費者プライバシー保護
しかし、ハードウェア業界は、最も注目すべきは、一般的にAI、再リースサポートホームデバイスと一緒に地元の雲（ローカルクラウド）の概念および関連アプリケーション製品であってもよい。レネッセが指摘し、電子製品のAI機能を搭載することになりますユーザデータを大量に生産するが、データのプライバシーの多くが危機に瀕しているがあります。そのため、家電製品の人工知能を搭載した場合、動作させるために、外部のクラウドに完全に依存していた明らかにプライバシーの問題が発生します。
一方、比較的シンプルな機能を持つ消費者向けIoTデバイスの多くは、電力、コンピューティングパワー、および制作コストによって制限されており、高度なAIアルゴリズムをサポートすることができない場合があります。これらのデバイスを一律に注文する。
しかし、Renesseは、地元のクラウドセンターをどのデバイスが再生するかを主張するのは依然として難しいと認めており、高次のスマートスピーカー、スマートTVなどの製品かもしれない。
ArmのシニアマーケティングディレクターであるIan Smythe（図2）は、将来的に端末に移動するコンピューティングと推論エンジンがますます増加すると考えています。この転送の主な推進力は、ユーザーのプライバシーを保護することです。 。エンド処理や解析作業により、データを簡単に匿名ですることができ、機密データをネットワーク経由で開示されないことを確実にするために。家族のアプリケーションは、例えば、消費者が望んでいないネットワークからの誰かが彼の家族はなかったことを学びました人々の時間、そして簡単に家で盗むことができます。
図2 ArmのシニアマーケティングディレクターのIan Smythe氏は、消費者向けのAIアプリケーションでは、プライバシー保護メカニズムが信頼できるかどうかは、アプリケーションを普及させることができるかどうかの鍵となると述べています。
視覚的なアプリケーションのために、Smytheは、視覚認識をサポートするカメラは本質的に重要なプライバシー問題と考えています。これらのデバイスは、ローカルに保存したりクラウドに送信したときに保護できるように設計する必要があります。プライバシーと機密情報：通常は無線で接続されているため、無線伝送機能のセキュリティに特に注意を払う必要があります。デバイスを設計するエンジニアは、ネットワークに接続されたデバイスがハッキングされていないことを確認しなければなりません。
バッテリ寿命は依然として主要な技術課題です
しかし、AIノードの瀬戸際に、最大の技術的課題は依然としてシステムの消費電力である。消費者の監視カメラには、例えば、消費者はこれらの製品は、完全にワイヤレスです期待することがあり、それが最高ではないにしても電力線でありますつまり、これらの製品はバッテリ駆動で、ワイヤレスネットワークをサポートする必要があります。また、すべてのアイテムを識別できる必要があり、無制限のストレージスペースが必要です。
上記のシステム設計のための課題の多くを要求し、それが機械学習（ML）の連続充電バッテリ容量、およびクラウドストレージへのチップ設計とシステムコンポーネントのこれらの極端なケースをファイルをアップロードし続け能力を実行するために数ヶ月を必要とすることができます要件は非常に厳しいものですが、最も重要なことに、これらの機能のオーケストレーションを有効にしてバッテリ寿命を延ばすことができるようになったのは、
家庭用監視カメラでは、ビデオカメラは、ちょうどそこに人の未確認のアイデンティティがある場合に一部の画像のみが合理的であるアップロードし、24時間転送空室を必要としない。同様に、同じシーンの可用性などの場合にはMLアルゴリズムは意味をなさない可能になります。これらの機能を有効にするには、慎重な手配、動作モードでのみ単三電池2本であることが予想コンシューマデバイスを作るためには、長期的な通常の使用をすることができます。
消費電力は、端末装置に駐留AIへの主な障害の一つであるので、しかしまた、チップを支援するために、市場に低電力ニューラルネットワーク（NN）加速器シリコン知的財産（IP）を起動する機会を発見してきた多くの家庭のスタートアップがあります消費電力を低減するだけでなく、パフォーマンスに必要な推論アルゴリズム抵抗インテリジェント（Kneron）を満たすようにしながら、開発者が正式にニューラルネットワークプロセッサ（NPU）シリーズをリリースしました、端末装置を設計した人工知能のための専用プロセッサであり、 IP。家族は3つの製品、KDP 300の、すなわち超低消費電力版で構成され、標準版KDP 500と同様に、KDP 700の高性能バージョンは、スマートフォン、スマートホーム、インテリジェントなセキュリティのアプリケーションだけでなく、物事のさまざまなデバイスを満たすために全体の低消費電力化、小型特性を有する製品の範囲、及び、強力な計算能力を提供する。ワットオフ数十の市場で利用可能なAIのプロセッサパワーとは異なり、Kneron NPU IPの消費電力は100mWであります（mW）クラスは、スマートフォン用の顔認識専用のKDP300では、5ミリワット未満を消費します。
アプリケーション耐性製品マーケティングマネージャ兼Shiya倫（図3左側）は、電力と性能の要求を満たすことは主要な考慮事項であるが、端末装置人工知能動作を行うことが、指摘することができるので、個々の用途のために最適化されたソリューションの導入は、重要です...人工知能の現在のアプリケーションが広く、映像、彼らは自然言語解析における異なる強調音声アプリケーションを使用するニューラルネットワークアーキテクチャと音声の二つの主要なカテゴリに分けることができ、主流のネットワークアーキテクチャは、リカレントニューラルネットワーク（RNN）です。主流のネットワーク構造の画像解析は、畳み込みニューラルネットワーク（CNN）を使用している。異なるネットワーク構造のために最適化され、溶液は、抵抗を提供することができる同じではありません。
シェン明豊（右図3）クマは自然言語解析チップの演算性能のための需要減が、ソフトウェア設計マネージャを補完することができますが、理由は言語の音の、スピーチの習慣は大きな食い違いがあり、そのためモデルのトレーニングデータセットすることが必要一方、ビデオ認識よりも、消費者はすでにApple SiriやGoogle Assistantなどのクラウドベースの音声アシスタントを使用することに慣れているため、オフラインセマンティック分析アプリケーションは消費者に好まれています。前提条件は、限られたコンピューティングリソースの下で同様のコンシューマーエクスペリエンスを提供する必要があるということです。これはチップベンダーやシステム開発者にとっての課題です。
3匹のクマは、マーケティングやプロダクトマネージャーShiya倫を適用することができます（左）を満たすためにさまざまなソリューションに依存する必要があり、画像認識との声が自然の中で非常に異なっていると考えています。シェンミン風水は、右のソフトウェアは性設計管理することができます。
実際には、インテリジェントなスピーカーの大半は、エッジコンピューティング製品とはみなされない。Shiya倫は関係なく、エコー、AppleのHomePodにまたはスマートスピーカー百度、アリババのプラットフォームのアマゾン（アマゾン）の、ということを指摘し、またはしたいですバックセマンティック解析と処理のためのクラウドへのデータ、ユーザーに対応するためには。音声操作がルール採用のモード（ルールベース）の最も基本的には、最終製品上で直接実行、および機械学習の自然な意味理解に基づくものではないことができます。
2016のクマは、同社の第1の端末装置固有のAIプロセッサNPU IPを起動することができますので、そのデザインや仕様を改善し続け、そして異なる産業用アプリケーション向けに最適化されている。現在利用可能ではIP、KDPで始まる顧客にシステムを使用して500人の植物のお客様がされている第二四半期の製造業（マスクテープアウト）で大量生産になります。捜索犬の協力を得て音声認識はオフラインセマンティック解析を達成しているので、端末機器がネットワークに接続されていない場合でも、だけでなく、ユーザーの音声指示を理解できます。
Kneron NPU IPはオフライン環境における端末装置は、あなたがResNetを実行できるように設計された端末装置のための人工知能プロセッサを専用されている、YOLO他のディープラーニングネットワークが。Kneron NPUは、ハードウェアを含む、完全なエンド・AIのハードウェアソリューションでありますIP、コンパイラ（コンパイラ）、および圧縮モデル（モデル圧縮）三つの部分、例えばResnet-18、Resnet-34、Vgg16、GoogleNet、及びLenet、ならびに主流支持深い学習として主流のニューラルネットワークモデル、種々のを支援することができますCaffe、Keras、TensorFlowなどのフレーム。
Kneron NPU IPの消費電力は100mWでレベル、超低電力KDP 300のバージョンあるいは5mW未満、/ W以上、排他的な技術の数を使用することができるパフォーマンスワット当たり1.5 TOPSにおける製品のフルレンジでありますチップベンダー、低消費電力、高いコンピューティングパワーのシステムベンダーのニーズを満たす。
基本要素をロックするハードウェアアクセラレータは技術的な反復を恐れることはありません
硬化（有線）回路の消費電力を低減すること、特定のコンピューティングタスクの効率を向上させるために、年齢のためのチップ設計が、チップ機能のための低いアプリケーションの柔軟性、市場の需要のイベントにおける有意な変化のコストで、またはソフトウェアアルゴリズムが大幅に変更された場合、チップ設計者は新しいチップを再開発する必要があります。
チップ機能に対する需要のケースでは、基本的に解決されており、この設計は問題ではありませんが、高速な反復法の新技術では、この設計アプローチを取る、ビジネスで比較的大きなリスクが存在します人工知能はほぼ毎年のモデルと新しいアルゴリズムが利用できる、非常に高速な熟練の繰り返しである。オープンAI調査会社は、過去6年間で、電力需要を計算するためのAIのトレーニングモデルは、月ごとに3.43を増加させることを指摘しましたタイムズ。
この点で、シェン明豊が指摘し、ハードウェアアクセラレータが何も弾性ではありません必ずしもではない。エネルギー製品への耐性、例えば、建築設計では、同社は大規模なコンボリューションカーネルのコンボリューションコンボリューションカーネル分割（フィルター分解）技術を使用しています別々に、次いで合わせた再構成可能なハードウェアアクセラレーション畳み込みが（再構成可能なコンボリューションが加速）畳み込み演算ブロックに分割した小ブロックの複数の技術、複数の小ブロック全体を加速するために融合される操作の畳み込み演算結果を算出します操作効率。
レゴは、オブジェクトを構築するために種々のパターンにまとめることができますが、オブジェクト自体は、まだいくつかの基本的なボックスからスタック全体であるように、理解し寓話が容易。抵抗エネルギープログラムはAIアルゴリズムのために不可欠です基本要素、アルゴリズムのことによりパフォーマンスの向上を促進し、さらに高速な更新AIアルゴリズム場合従って、溶液抵抗はまだ効果を促進するのに有用であり得ます。
アクセル自体に加えて、基本的な要素ではなく、全体的な外付け抵抗を促進する特定のアルゴリズムのために設計され、また、加速技術とAIのアプリケーションを提供するか、展開することができ、例えば、そのモデルの圧縮モデル（モデル圧縮）圧縮技術として最適化されていない置きます回数、階層的なメモリ記憶技術（マルチレベルのキャッシュ）は、CPUの負荷を軽減し、さらに加えて、全体的な運用効率を高めるために、データ伝送量を減らすことができ、Kneron NPU IPはKneron画像認識ソフトウェアを組み合わせることができ、リアルタイム同定分析、および高速を提供します。プログラム全体が小さくなるように対応して、緊密に統合することができないだけで、より安定した、だけでなく、ハードウェアとソフトウェアへのプライバシーのセキュリティニーズを満たすために、低消費電力化、迅速な製品開発を支援します。
画像認識AIはエッジに向かってより緊急です
インテリジェントな話、この巨大な潜在的な市場のアプリケーションが、この賭けはあまり産業資源はあるものの全体的には、画像認識のための現在の市場の需要は、より緊急、オフラインの意味解析である。この現象の主な理由は、ということはイメージです伝送は大量の帯域幅を占有し、システム全体の所有コストが上昇します。音声にはこの問題はありません。
アンデス・テクノロジーゼネラルマネージャー林志明（図4）人工知能と結合物事の過程で説明したが、需要のコンピューティング技術導入エッジ・エッジ・コンピューティング技術を駆動するには、新しいアプリケーションのさまざまなに適用されますこの傾向の中で、柔軟性とスピードは台湾のメーカーにとって最大の利点です。台湾の企業やIC設計会社のほとんどは、人工知能市場を端から切り離す方が簡単です。
図4：Jingxin TechnologyのZhixin Linゼネラルマネージャーは、IPカムがエッジデバイスでAI推論を実行するための主なアプリケーションの1つになると予測しています。
同時に、原因インポートエッジコンピューティング技術だけでなく、メモリ、送信を強化するためにもたらすので、ハードウェア要件に、製造コストを著しく押し上げるだろう。による画像相関にシステムオンチップ（SoC）を、元々他のより複雑なアプリケーションに比べに、ためコスト・トレランスも大きいので、エッジ・コンピューティング・テクノロジは、IPカムなどの画像関連アプリケーションによって最初にインポートされる予定です。
人工知能のアプリケーションは、大規模な操作の深い学習の過程では、短い時間はまだクラウドコンピューティングによって処理されます。エッジオペレータが作業を担当しています。トレーニングと認識を議論する2つのセクションに分かれ、収集した情報を吸引することができる最初にやりますその後、予備フィルターうち、重要でない情報後の処理、および輸送コストを節約するために、クラウドにデータをアップロードする。一方、完全なクラウド深度学習成果、よりインテリジェント端末の機能を識別することが可能である。IP CAMに例えば、画像の深い学習の作業は、まずクラウドコンピューティングで完了することができます。スタンバイ学習者が歩行者を認識した後、エッジのIPカムは識別作業のみを実行できます。
一方、IPカムはセキュリティ保守やコミュニティのセキュリティに広く使われているため、政府と企業は比較的投資意欲があり、IPカムの急速な発展の理由にもなります。
林志明シェアは、多くのメーカーが独自のシステムの中に人工知能チップをインポートする方法を模索している。現在の状況は、物事がちょうど我々はまだ2020年頃のメーカーと推定カットを、適用する方法を模索している、繁栄し始めたときに似ていますより多くの実際の製品を立ち上げます。
リアルタイムアプリケーションはエッジコンピューティングアーキテクチャを使用する必要があります
人工知能は時間の短い期間にもかかわらず。サプライチェーンのメーカーには小さな衝撃をもたらすません、徐々にエッジ・コンピューティング・アーキテクチャにクラウド・コンピューティング・アーキテクチャから転送され、今日ではホットな話題である人工知能ベースのクラウドコンピューティングを開発していきます、しかし、ビジョンアプリケーションに関する多くの人工知能機能はエッジをインポートし始めるでしょう。
ザイリンクス開発ディレクター（ザイリンクス）視覚的なインテリジェンス戦略市場デールK. HITT（図5）は、予見可能な将来において、AI開発トレーニングコンポーネントは、まだクラウドコンピューティングによって支配ことを指摘した。しかし、/ Deployのコンポーネント推論が始まりました低レイテンシとネットワーク効率が必要なアプリケーションをサポートするには、エッジ操作を使用します。
5ザイリンクス開発ディレクター、視覚的なインテリジェンス戦略市場デールK. HITTと思いますが、非常に低遅延を必要とするアプリケーションのために、操作のエッジが最善の解決策になります。
学習に関連したマシンビジョンアプリケーションのためのエッジオペランド要素については、重要かつ遠大なトレンドの一つとなります。また、産業用マシンビジョンでは、スマートシティ、視覚分析とセルフドライブ市場は強いがあります成長の可能性。産業ビジョンの観点から、消費者用途では、原因算術エッジ機械学習アルゴリズムを実行するために、性能要件は、以前の世代の多くのプログラムよりも高くなっているためようにします。加えて、アルゴリズム/機能を学習エッジ機械はまた、急速に進化してきた、そして生活のため、すべての歩み将来の機械学習推論アーキテクチャのために最適化する自己適応型ハードウェアが必要です。
HITT自己駆動は、例えば、各車は、センサ支持背後に高度なアルゴリズムを持って知覚センサデータの出力から、結果の解釈を担当しています。最新のトレンドはしかし、出力に結果のこれらの認識の解釈を深く学習アルゴリズムを使用することで、可能なすべてのセンサーデータを読み取る方法を学習するために、深い学習アルゴリズムを多数の潜在的な状況を通してトレーニングする必要があります。
訓練の後、深い学習アルゴリズムは、車両を安全に制御するために、超低レイテンシーと高い演算性能を必要としている。電気自動車のために、あなたが使用温度範囲にも対応し、バッテリーのパワー半導体事業を拡張するために、低消費電力を使用する必要があります。目標は、高効率、低消費電力、適応可能なソリューションを提供して、自己駆動エッジAIのさまざまなニーズを満たすことです。
プロセスでは、開発のエッジで動作する最大の課題はあまりにも速く、市場のニーズの変化である、それは技術の急速な適応のさまざまな変更することができ、企業が競争力を維持することを可能にするために非常に重要です。
HITTはさらに、2017年の大手ソリューションの多くは、これまでに直面した持続的な進歩の急速な速度で同様の終焉を学習アルゴリズムの深さを示しています。他の人の多くは今も需要・コンピューティング、ハードウェアと一緒に、より大きな容量を持っているにもかかわらず最適化されたハードウェアを更新する必要が直面している中でも、いくつかのハードウェアの生産では、排除されることを避けるために、より速い速度で更新する必要があります。多くの選択肢が、元のチップを更新思い出す必要があります。
HITTサプリメントは、コンピューティング、メモリアーキテクチャ、およびハードウェアの深さの他の側面へのリンクを含むFPGA独自の利点を最適化することができ、低消費電力でより高い性能を達成するために最適化するCPUとGPUは、比較前の二つ一方ハードウェアアーキテクチャを新しい派生要件に迅速に最適化することはできません。
エッジ操作が圧倒的
AIアプリケーションは、非常に高い計算能力のサポートがありますが、それは推論の単純化したモデルに従って識別装置の正しさのエッジよりも一般的に高いですが、考慮に入れた後、プライバシーの問題、オンラインリアルタイム応答とコストやその他の要因、クラウドデータセンターの運用に依存していますデバイスのエッジに直接推論、まだ非常に魅力的なオプションである。一方、端末装置よりも大規模なクラウドデータセンターの市場規模、強力な経済的インセンティブがあります。これはまた、昨年AIoT叫びスローガンショックです価格は、積極的なレイアウトに半導体業界の主な理由を鳴らしました。
将来的に見ると、クラウドによってサポートされているAIのアプリケーションは、まだ市場に存在しますが、割合は年々を減らすためにバインドされている、それは新しいハイブリッドクラウドアーキテクチャとエッジ・コンピューティングによって置き換えられます。AIの開発者のアプリケーション、クラウドを交換することはできません値ではなく推論を実行するよりも、鉄道模型である。また、このような理由のために、アプリケーション開発者は、ソリューション・プロバイダは、「クラウド」とのシームレスな統合を実現することができ、アプリケーション開発者になる「終了します」サプライヤーを評価する際の最も重要な考慮事項。