3つのAIサービスがデモで稼働中
SFCの評価環境では、ソフトバンクが新たに開発した以降の3つのAIサービスが稼動している。
〔1〕交通理解マルチモーダルAIによる自動運転遠隔監視
自動運転の実行時、予測困難な走行状況でのリスクと対処方法をLLMに学習させた「交通理解マルチモーダルAI注9」を開発し、遠隔監視システムをAITRASで提供している(図7)。
自動運転の車上から送られてくる交通状況の映像を、交通理解マルチモーダルAIがリアルタイムで理解・評価し、事故リスクや交通違反の喚起を行う。これをAITRASによって低遅延で提供する。
現在の日本の法律では、完全自動運転時は専門スタッフによる遠隔監視が義務づけられているが、AITRASはその自動化を実現する。将来的にはドローンの遠隔監視なども視野に入れている。
図7 Edge AIサービス例(1):自動運転遠隔監視
出所 ソフトバンク株式会社提供資料「ソフトバンクのAI-RANの実装と新プロダクトについて」
〔2〕LLM制御による超低遅延な四足歩行ロボット
AITRASによって大容量処理が超低遅延で行えるようになり、四足歩行ロボットのLLMによる制御が可能となる。デモでは、ロボットから5G回線で送られた映像を制御用LLMが解析し、(不規則に動く不審者を追跡する)制御コマンドをフィードバック。その際、10Hz注10の高速処理で指示を出すことで、逃げ回る不審者を確実に追尾している(図8)。
図8 Edge AIサービス例(2):LLM制御ロボット
出所 ソフトバンク株式会社提供資料「ソフトバンクのAI-RANの実装と新プロダクトについて」
〔3〕RAG Menu@Edge:オリジナルAIサービス
RAG(ラグ。Retrieval-Augmented Generation、検索拡張生成)は、LLMと外部情報の検索を組み合わせた自然言語処理注11技術である(図9)。RAGは、企業で業務マニュアルなどの情報をLLMとは別に登録し、社内問い合わせやナレッジ共有注12を進めるAI技術として注目されている。
ソフトバンクでは、AITRASへのRAG機能の実装も進めている。ユーザー企業はこれを活用することで、セキュアな閉域ネットワーク内でRAGシステムを構築し、保有する機密情報を安全にLLM活用できるようになる。
AITRASはローカル5Gのような活用もできるため、例えば企業の工場に5GネットワークとAI処理機能を一度に提供できる。これによってRAGで生成したロボットや工作機械の制御命令を、5Gネットワークで各マシンに伝達できるようになる。
図9 一般的なLLM(大規模言語モデル)とRAG(検索拡張生成)の仕組み
出所 ソフトバンク先端技術研究所、「RAG Menu@Edge」をもとに一部加筆して作成
図10 Edge AIサービス例(3):閉域RAG
出所 ソフトバンク株式会社提供資料「ソフトバンクのAI-RANの実装と新プロダクトについて」
注9:マルチモーダル:多種のモダリティ。モダリティとは特定の手段や方法を指す言葉で、この場合はテキストや画像、音声、動画、センサ情報などのデータを指す。
注10:10Hz:1秒間に10サイクルの波が現れる電波。
注11:自然言語処理:コンピュータで会話や文章など人間の言語を解析して意味や文脈を把握すること。
注12:ナレッジ共有:企業がもつ知識やノウハウ等を社員が使えるように共有すること。