2023年のAIブレークスルーはAVにも適用され、WayveのエンボディドAI向け基盤モデルを加速させる

人工知能（AI）における最近の進歩は、世界を席巻しています。自然言語理解と生成AIにおける複数のブレークスルーは、人々の想像力を捉え、わずか数ヶ月で驚くべき商業的インパクトを生み出しました。これにより、ChatGPTのような新製品が誕生し、2ヶ月で1億人以上のユーザーを獲得し、GitHub CoPilotはソフトウェア開発を220%加速させています。

AIが十分に堅牢になれば、このテクノロジーはこれまでのどのテクノロジーよりも変革をもたらすと常に信じてきました。これらのブレークスルーを目の当たりにし、AIこそが自動運転車（AV）を大規模に実現する鍵であるという確信をさらに深めました。

大きな進歩はありましたが、まだこれからです。今日のAIの物語は、ソフトウェアにおける大規模基盤モデルのアプリケーションに焦点を当てています。しかし、AIの最前線は、エンボディド・インテリジェンス、つまり複雑な現実世界環境で人間の行動を感知し、行動し、学習し、適応できるAIシステムを指しています。そして、それこそがWayveが構築しているものです。

私たちの使命は、エンボディド・インテリジェンスを通じて自律移動を再構築することです。私たちは2017年以来、エンドツーエンドの自動運転のための深層学習を開拓しており、エンボディドAIが、あらゆる場所のすべての人にとってAVの可能性を最大限に引き出す鍵であると信じています。そのために、私たちはエンボディドAIの最先端を進歩させながら、これらのイノベーションを商用パートナーと共に拡張可能で安全なアプリケーションとして構築しています。

このブログでは、AIにおける最近のブレークスルーと、それが自動運転に与える影響について議論します。まず、これらのブレークスルーを可能にした要因から見ていきましょう。

1. AIはタスク固有の能力からタスクに依存しない能力へと移行しました。以前のAIシステムは、特定の問題を解決するために、特定のドメインにおける何百万ものラベル付きデータ例で訓練する必要がありました。例えば、動物種を分類できる画像認識システムを作成したい場合、何百万もの画像を手作業でラベル付けし、教師あり学習で訓練してこの問題を解決していました。最近のブレークスルーは、大規模基盤モデルが汎用データで自己教師あり学習を用いて訓練され、汎用的な概念を理解できるようになることを示しています。これにより、関心のあるタスクを解決するために、わずかな例（またはプロンプト）を示すだけで済むようになりました。これは、AIが単にパターンを認識する能力から、プロンプトから全く新しいアイデアを理解する能力へと移行した画期的な変化であり、新しいシナリオへの適応能力を高め、テクノロジーのパフォーマンスと安全性を向上させる可能性を開きます。

2. マルチモダリティがAIの重要な特徴となりました。AIは現在、異なるデータモード間の表現を整合させる方法を学習できます。例えば、基盤モデルはテキスト、画像、音声、ビデオ、ロボット工学を接続できます。これは、AIがモダリティ間をシームレスに変換することで、マルチモーダルなアプリケーションに対応できるため強力です。しかし、おそらくさらに重要なのは、よりアクセスしやすいモダリティ（テキストなど）から、よりアクセスしにくいモダリティ（行動など）への知識転移を可能にすることです。これは、自動運転車にとって有益です。なぜなら、実世界の運転データは高価で大量に収集するのが難しいのに対し、より容易に入手可能なデータでAIモデルを訓練する新しい方法を提供するからです。

3.AIはスケールアップするにつれて創発的な特性を示し、アライメント問題の解決に貢献します。ニューラルネットワークの容量（パラメータ）、データ、訓練が増加するにつれて、そのパフォーマンスは向上します。さらに重要なのは、スケールが増加するにつれて、新しい振る舞いが予期せず出現するため、パフォーマンスが向上することです。これは重要な結果であり、訓練をスケールアップすることが、AIモデルのパフォーマンスとアライメントに関する問題を克服するための主要な戦略となることを意味します。人間のフィードバックを使用することで、意図された目標を達成する、より適切にアラインされた応答を提供するように運転モデルを訓練でき、最終的にパフォーマンスと安全性の大きな改善につながります。スケールを考慮したエンジニアリングは、GPT-1からGPT-4のパフォーマンスを変革した主要な要素の1つでした。数十億パラメータのニューラルネットワークは、今日のAIのインパクトを提供するレベルのパフォーマンスとアライメントを生み出しています。

興味深いことに、大規模言語モデルがより多くのパラメータで大きくなるにつれて、AIコミュニティの一部では、新しい能力を引き出すために、よりリーンで効率的なシステムや他の技術を提唱しています。これらの最適化は、より小さなAIモデルが同様の能力を達成することを可能にし、AIをよりアクセスしやすくする可能性があります。しかし、コンピュータビジョンやロボット工学のアプリケーションでは、今日のLLMほど大規模なモデルはまだ構築されておらず、スケールによるパフォーマンス向上の余地はまだ十分にあります。

これらのAIブレークスルーはすべて、ロボット工学とエンボディドAIに適用されます。実際、私たちの自動運転車におけるフリート学習のプロセスは、GPT-3をChatGPTへと導いた人間からのフィードバックによる強化学習（RLHF）と直接的に類似しています。

これらの問題は同様に解決されるかもしれませんが、いくつかの重要な違いがあります。自動運転の問題は言語モデリングよりも困難です。なぜなら、ギガバイト単位のテキストデータではなく、ペタバイト単位のビデオやその他のセンサーデータで訓練する必要があり、公道での展開にはより高いレベルの安全性が求められるからです。この困難さが増しているにもかかわらず、エンドツーエンドの機械学習アプローチがこの問題を解決する最善の方法であることに変わりはありません。

2023年のAIブレークスルーがエンボディドAIを解き放ち、自動運転に新たな可能性を開く

AIにおける最近のブレークスルーを可能にした要因を探ったところで、これらの進歩が自動運転に新たな可能性をどのように解き放つかについて、さらに詳しく見ていきましょう。

汎化：基盤モデルの創発的な能力は、汎用的な推論を通じて、運転シナリオのロングテールやエッジケースを克服するのに役立ちます。これにより、車両は事前の経験なしに、あらゆるシナリオで運転するように促されることが可能になります。これは、その基盤となる知能が状況を汎化された方法で推論することを可能にし、レベル5の自律性の可能性を解き放つからです。

パフォーマンス：これらの基盤モデルの膨大な知識が、運転パフォーマンスの向上を促進することは驚くことではありません。私たちは、テキストデータのような他のドメインに依存しないデータソースをモデルの事前学習に利用することで、ロードマップを加速する方法を模索しています。このデータは、路上テストや安全検証に使用されるデータの代替ではありませんが、路上での専門家による運転データ、フリートデータ（当社のフリートパートナーから提供）、シミュレーションおよび再シミュレーションされたオフロードデータなど、多様なデータを含む当社の訓練データコーパスを補強するために使用できます。基盤モデルを事前学習し、他のデータソースを通じて堅牢性を学習する新しい方法を発見することで、フリートデータの要件を削減し、モデルをより迅速に訓練できるようになります。

理解と推論：生成AIにより、自然言語と生成技術を使用して、当社のAIモデルを調査し、理解することができます。当社の革新的な研究は、AIモデルが世界をどのように理解し、安全に運転するためにどのように推論するかを解明するのに役立っています。私たちは、AIが自然言語で質問に答えたり、次に何が起こるかを予測するビデオをレンダリングしたり、さらにはシーンに対する反事実的な変更について推論したりする方法を開拓しています。

人間と機械のインタラクション：ロボット工学を自然言語と連携させることで、会話形式で自動運転車に指示を与えることができます。これにより、車の「後部座席から運転」したり、運転体験をパーソナライズしたり、サービスに柔軟性を持たせたりする可能性が広がります。また、AV安全オペレーターがリアルタイムでフィードバックを提供し、この情報をコンテキストトークンとしてAIドライバーにフィードバックして改善することも可能になります。このフィードバックを利用して、モデルが人間の期待によりよく合致するように支援し、信頼性と安全性を向上させることができます。

遠隔支援：言語表現をAIドライバーと連携させることで、空間と時間の座標や運転コマンドを送信するよりもはるかに詳細に特定の動作を説明するテキストプロンプトをモデルに送信できるようになります。この追加データの豊富さは、AVを遠隔で支援する速度と精度を高めるのに役立つ可能性があります。

エンボディド・インテリジェンスが自動運転の世界を変革する可能性を考えるとき、私たちは自問しなければなりません。永続的な価値はどこに構築されるのでしょうか？

テクノロジーは印象的ですが、それはパズルのほんの一部に過ぎません。AIの力を活用し、自動運転の持続可能な未来を創造するためには、ブレークスルーそのものだけでなく、それが機能するより広範なエコシステムを考慮する必要があります。

特定の垂直分野でエンボディドAIを成功裏に展開する企業が、長期的な価値を構築します。これには以下が必要です。

1. そのカテゴリーで画期的な基盤モデルを最初に開発すること。私たちのチームは、自動運転のための画期的な基盤モデルを開拓することに注力しています。
2. エンボディドAIを人間の好みに合わせるために、大規模なフィードバックを提供できるデータフライホイールを構築すること。業界最大級の商用フリートとのパートナーシップは、信頼と安全を提供するために必要な規模のデータを提供します。
3. 最後に、エンドユーザーと顧客がエンボディドAIのメリットを大規模に享受できるよう、安全性が証明された展開プラットフォームが必要です。当社の第一世代AVプラットフォームは、すでにパートナーの商用ラストマイル食料品配送業務で価値を提供しています。

Wayveでは、エンボディド・インテリジェンスを通じて自律移動を再構築することをミッションとしています。私たちは2017年以来、AI運転モデルを路上で安全かつ堅牢に展開するためのフリート学習技術を開拓してきました—これにより、これらの最新のAIブレークスルーを活用するのに有利な立場にあります。私たちは、AIにおけるこれらの進歩が、自動運転を大規模に実現する鍵となると信じています。

エンボディドAIとその潜在的なアプリケーションについてもっと知りたいですか？5月末にロンドンで開催されるICRA 2023にご参加ください。このトピックをさらに詳しく探求するエキサイティングな機会です。また、6月にはバンクーバーで開催されるCVPR 2023でも発表を行います。