シリコンバレーテクノロジー 2023.10.16

【Webinar記録】クラウドだけじゃない! Edge AI の進化とは?

「AI Hardware & Edge AI Summit 2023」は、2023年9月12日から14日(米国時間)にかけて、サンタクララで開催されたイベントです。ウェビナーでは、米国駐在員の日商エレクトロニクスUSA・門馬が、本イベントに参加し、そのサマリー講演を行いました。

 

イベント概要

本イベントは2018年から開催されており、今回で6回目の開催となります。比較的小規模なイベントではありますが、昨今のAIの注目を受けて、年々参加者は増加傾向のようです。AIの開発担当者、運用担当者など約1,000名が参加しています。比較的、技術的な内容が多い印象です。 

全体を通しての気づき

当イベントに参加して気づきとなった点は、以下の3点です。

  1. AIシステムにはクラウドとエッジのハイブリッドが必須
    AIの実装について、エッジ側の処理も意識する必要があります。理由は膨大なデータのやり取りがエッジとクラウド間で発生するためです。結果、企業は高い通信量を払う必要が出てきたり、遅延の問題に悩まされることになります。また、エッジ側で処理することで、プライバシーも保護されるメリットがあります。
  2. クラウド事業者は積極的な設備投資、エッジも技術革新が進む
    クラウド、エッジの両面でAI時代に向けた設備投資、技術革新が進んでいます。Googleは独自で開発したTPUを進化させ、効率性向上を実現しています。エッジ側もチップレベルでさまざまな設計アイディアがでてきています。
  3. たくさんのAIのユースケース
    「AIをもって何をするか?」については、多くの企業にとっては悩みの種です。先端企業では、実装、運用レベルまで進んでいます。リアルタイムデータの取り扱いは、難しい領域ではありますが、できることを着々とテストをしている状況です。

注目セッション

特に興味深かったセッションについて6つピックアップをします。

1. AIの今後の展望 AIの特性を理解した使い分け

深層学習ベースのAI、特に生成AIが注目を集めています。深層学習の優れた点は確かですが、実際にそれを構築するには、7か月以上かかることがあります。その主な理由は、大量のデータを学習させる必要があるからです。大規模なAIモデルを構築する場合、データ量が増えれば増えるほど精度も向上しますが、同時に高性能なGPUなどのコストも増えていくことになります。

一方で、教師あり機械学習などの比較的小規模なAIモデルは、一定の精度に達したらコストが一定の水準で収束します。大規模なAIモデルは、広告生成や検索などの用途に最適ですが、限られた目的においては、小規模なAIモデルが適している場合もあります。たとえば、ピザ工場でのチーズの均一性をAIで監視したり、船舶の最適な航路を計算して燃料効率を最大化したりすることが考えられます。

今後の注目ポイントは、特定の分野で一定の汎用性を持つアプリの開発です。一定の汎用性を保持しつつも、業務に合わせてローコードやノーコードを利用して、簡単なカスタマイズができることが重要な要素となります。

2. 第3世代AIがアプリとハードウェアに与える変革のインパクト

ケイデンス社の調査によれば、半導体市場は、現在の約77兆円市場から2029年には、約150兆円市場に成長します。この成長は、5G、AI、自動運転、IoTなどが主要要因とされています。近年のエッジデバイスは非常に強力で、クラウドにデータをアップロードするだけでなく、ローカルでデータ分析を行う能力を持っており、データの活用をより実装しやすくしています。アプリ側もデータ分析、パーソナライズ、サプライチェーンの最適化、セキュリティなどに特化したソフトウェアを用途に応じて組み合わせることができます。

3. AI時代の社会基盤構築(Google)

ここ数年で、ハードウェア性能は過去20年の中で急速に伸びています。一方、AIへの需要増加に伴い、モデルのパラメータ数やトレーニングに必要な計算量も急増しています。しかしながら、多くの顧客が開発に必要な専門知識の習得やリソースの確保が困難と感じています。Googleは、すべてをターンキーにすることを目指しており、2015年から行っているAI/MLハードウェアアクセラレータであるTPUの開発や、用途特化や高密度なハードウェア構築などにより、同じコストで大幅な効率向上を実現しています。

4. 生成AI技術を駆使したアニメーション、アート、アバターの制作(Unity)

ユニティは、ゲーム開発とデジタルコンテンツ配信のプラットフォームを提供しています。最新の機能では、生成AI技術を活用して文字入力からアート、アバター、アニメーションを作成できます。作成したものは、PC、VR、スマホなどさまざまなプラットフォームに配信できます。PC上のコンテンツ作成とクラウド上のAI編集を使い分け、コストとリソースを最適化し、効率的な運用が可能にしています。

5. 見えない負担をAIを用いて徹底的に効率化(Airbnb)

AirbnbはAIへの投資を積極的に行っています。AIが顧客からの苦情を分析し、関連するポリシーを即座に提示することで、顧客担当の負担を削減させます。そのほか、ソフトウェア開発においては、30%をAIツールで処理する目標を掲げています。Airbnbの持つデータは膨大であり、非常に大きなモデルを運用せざるを得ません。そこで、基礎モデルのほかに中間層を構築し、モデルの微調整を行っています。これによりモデルのサイズを圧縮し、コストを抑えつつパフォーマンスを担保しています。

6. デジタルツインが安全な運転をサポート(Volks Wagen)

自動車業界では、2025年までに1億台の高度なセンサーを搭載した車が利用されることとなります。そのため、膨大なデータがクラウドに送信される見通しです。Volks Wagenやトヨタなどの自動車メーカーは、このデータを利用してデジタルツインを構築しています。その活用例には、運転者の癖の把握や運転者の健康状態の測定、高速道路での合流時の助言などが挙げられます。リアルタイムデータは、常にクラウドとの通信が必要です。特に安全性に関わる機能は慎重にテストを行っています。エッジ側での運転アシスト機能の研究も進行中で、高速道路での合流におけるアシスト機能などが成功を収めています。

展示会場の様子

セッション・会場

展示ブースでは、ハードウェアが実物として展示され、このイベントの魅力の一つでした。イベントの規模が小さかったため、スタートアップと深い対話をすることができました。デバイスの展示だけでなく、カメラによる通行人の行動分析など、さまざまなユースケースも紹介され、非常に興味深い内容でした。

また、個別の会議室での打合せも行われましたが、多くの人が利用している様子は見受けられませんでした。セッションについては、プレゼンテーション形式が70%、対談形式が30%程度で、ラウンドテーブルの形式のセッションもありました。

注目のスタートアップ

AI Hardware & Edge AI Summit 2023では、ピッチコンテストのようなものはありませんでした。今回は、出展社の中から独断と偏見で10社スタートアップを紹介します。

1社目:DriveNets (ネットワーククラウドAI)

ネットワークOSの提供を行う企業で、AI運用における通信量増加に対応するためのネットワークアーキテクチャを採用しています。複数ネットワークデバイスでファブリックを組み、効率的に運用することができ、遅延を最小限に抑えることができます。AIのジョブ完了時間削減やAIトレーニングの最大30%向上を実現した実績もあります。

2社目:SambaNova Systems (オールインワンAIプラットフォーム)

AIシステムスイートを提供しています。製品を購入すると、主要モデルが基礎トレーニング済みの状態で入手することができ、AIサービスをすぐに開始できます。また、GUIを使って簡単にカスタマイズも可能です。柔軟性が高く、異なる基盤へのモデル移行や用途別モデルの迅速な切り替えをサポートしています。

3社目:Untether AI (プロセッサとメモリ間を超並列接続)

プロセッサとメモリを隣接して配置し、超並列接続を実現することで、パフォーマンスを向上させながらエネルギー消費を削減しています。Untether AIは、チップとアクセラレータカードを提供するとともにトレーニング済のモデルを簡単にこれらに実装できるソフトウェアも提供しています。

4社目:Enfabrica (ネットワーキング、メモリ処理などの機能を統合)

新しいCXLメモリ技術を活用し、高速なCPUやGPUとのデータ転送を実現します。また、大容量のDDRメモリを超える拡張性を提供します。主にデータセンター内での効率的なデータ転送に活用されます。APIやドライバーも提供し、簡単にシステムに組み込むことができます。

5社目:Flex Logix (高性能、エネルギー効率を誇るeFPGAを提供)

eFPGA(組み込み型FPGA)を提供しており、超小型でチップ内に組み込まれ、AIなどの処理を高速化します。同社は、60以上の特許を持ち、高性能かつ低コストでありながら、高いエネルギー効率で動作するeFPGAを提供します。産業自動化、スマートシティ、スマートホームなどに関連するメーカーが顧客となっています。

6社目:Aspinity (組み込み型音声センシングデバイス)

アナログ電子回路上でセンサーデータの特徴抽出と分類を実行し、Pytorchなどで開発されたモデルをアナログ機械学習モデルに変換してチップにコンパイルできます。アナログ技術のため、エネルギー効率やリアルタイム性に優れています。組み込みシステムで利用され、ホームセキュリティ、ドライブレコーダー、産業用ロボットなど多岐にわたる分野で活用されています。

7社目:Movellus (ドループの解消による消費電力の低減)

電圧とクロック周波数のモニタリングに特化した設計を提供しています。特にエッジデバイスでは、電源負荷の変動による電圧低下がエッジデバイス予期せぬ動作につながる場合があります。Movellusの設計はDVFS技術を組み込み、電力消費と性能のバランスを最適化します。その結果、電力消費を10%削減し、電力供給の不安定な場所でも信頼性の高いシステムを構築できます。

8社目:Expedera (NPUに特化した設計の提供)

ExpenderaはNPU(Neural Processing Unit)の設計を提供し、処理のスケジューリングやメモリ管理を高い効率性で行います。この設計を導入することで、パフォーマンス向上と電力効率向上が期待できます。また、Expenderaの設計は柔軟性にも富んでおり、画像関連タスクから自然言語処理まで幅広い用途に対応します。

9社目:Lightly (トレーニングデータの取捨選択をサポート)

企業は、データを選択し、どのデータを無視するかを見極める必要があります。この選択技術を磨くことで、ごくわずかなデータで、最も影響力のあるデータを見つけることができます。独自技術であるアクティブ・ラーニングにより、データ選択とモデルトレーニングを効率化するためのソフトウェアを提供します。

10社目:Numenta (AIモデルとデータを最適化するソフトウェア)

20年の神経科学研究に基づくAI制御ソフトウェアです。GPUではなく、CPU上で大規模モデルを実行できるようにすることができます。大規模AIのオンプレでの運用、セキュリティ強化、設備投資が不要であることから大幅なコスト削減が可能です。簡素化された運用により、深層学習の専門知識がなくともAIシステムを運用することができます。

 

最後までお読みいただきありがとうございました。
Nissho USAは、シリコンバレーで35年以上にわたり活動し、米国での最新のDX事例の紹介や、斬新なスタートアップの発掘並びに日本企業とのマッチングサービスを提供しています。紹介した事例を詳しく知りたい方や、スタートアップ企業との協業をご希望の方は、お気軽にお問い合わせください。

この記事を書いた人

この記事を書いた人

Takashi Momma

2007年に日商エレクトロニクス入社。Arbor Networks(現 Netscout)などネットワークおよびセキュリティ関連製品立ち上げ、事業推進を担当。2022年よりNissho USAに赴任。当社が目指す「お客様との事業共創」を実現すべくシリコンバレーの最新情報の提供、オープンイノベーションをベースとしたビジネスモデル開発に向けて活動中。 趣味はサッカー。

この記事をシェアする

私たちと話しませんか?