パナソニックの#はたらくってなんだろう 組込み軽量化前後の挙動の不一致を抑制、高品質AIで開発工数を短縮化

2017年、私はある自動車メーカーと共同でコンセプトカーに搭載する無人自動運転駐車システムの開発に携わりました。ここでの苦い経験がロスレスAIのコンセプトの原点です。潤沢な演算能力を持つパソコンで学習させたAIモデルを、車載用のエッジデバイスに組み込むには、演算量をコンパクトな規模に軽量化しなければいけません。エッジデバイスのスペックに限界があるため、軽量化時に想定しない挙動の変化がエッジ側でたびたび発生し、対策のための手戻りを何度も繰り返し開発が長期化しました。

車載用エッジデバイスは人間の命に直結し、ブレーキなどの安全制御に厳格な品質保証が求められます。当時、私を含め技術者の間では、AIは精度の平均的な認識率を上げ、性能改善につなげるというのが一般的な価値観でした。「それでは、クリティカルケースなど個別の安全保証ができない」。自動車メーカー担当者からガツンと浴びた指摘は今も忘れられません。根本的にAIそのものの概念を切り替え、品質や安全性を強みにするレベルまでめざさないと、パナソニックグループの事業として成り立たないと痛感しました。

非常に厳しい品質要求がある一方、当時は軽量化前後の挙動の不一致を抑制することの重要性に気づいておらず、それを実現する方法も確立されていませんでした。だから私たちが実現できれば、一気にゲームチェンジを起こせる。軽量化しても劣化しないという想いを「ロスレスAI」という名前に込め、築澤さんとコンセプトを立ち上げました。

パソコン環境から組み込み環境へ軽量化する際に、AIモデルの性能をなるべく劣化させない手法はいくつかあり、まず試みたのが当時有望と評価されていた敵対的学習^※2の応用です。開発着手から約1カ月で試作が完成したものの、データの制御が難しく、挙動の一致も改善が見られませんでした。そんな時に、当研究グループとつながりのあるAI専門分野の大学研究者から知識蒸留^※3の枠組みを薦められ、あらゆるアプローチを試したところ、ジャンプアップにつながる出力結果をひとつ発見できました。

※2 敵対的学習：画像を生成するモデルと、生成画像（偽物）と実画像（本物）を区別するモデルを互いに競わせ、本物に近い画像を生成する方法。

※3 知識蒸留：メモリ量、計算量が大規模な学習済みモデル（教師モデル）から高精度に物体を認識できる特徴量（対象物体に関する知識）を抽出し、その特徴を小規模な軽量モデル（生徒モデル）の学習に利用する方法。

私はテクノロジー本部の高度専門職であり、AIエンジニアのスペシャリストという立場から複数の研究グループで技術アドバイスを行っている経験があり、築澤さんから依頼され、ロスレスAIの研究グループに加わりました。奥野さんは、入社1年目で未経験の研究分野だったにもかかわらず、技術を真摯に学び取りかつアウトプットへの瞬発力が優れていました。解析のノウハウや論文情報を伝え、さまざまなアプローチの手法を助言していましたが、「今週はこう来ましたか」と、期待を上回るような成果を常に出し続けてくれました。この分野で用いられる敵対的学習、知識蒸留など多くの枠組みをいち早く、深く理解し、また、知識のインプットとアイディアのアウトプットのスピードが人並以上だと思いました。結果につながる糸口を発見できたのもそのような日ごろの姿勢のたまものでしょう。

通常の知識蒸留では、軽量化前後でモデルの挙動をそろえるため1回の学習で最適化を図りますが、今回私が着目したのは、より一致向上を図るため、無数にあるパラメーターのうちひとつを固定し、もう１回学習する手法です。一定の結果を確認できたものの、AIならではの解析の難しさに直面しました。なぜ一致につながる結果が出たのか、根拠を容易に解釈できないのです。

それまでの開発は、日々わずかではありますが、改善が目に見え、手応えを感じていました。しかし、「いつになったら出口が見えるのか」――検証と考察に費やした紆余曲折の数カ月間は、今回の開発で私がいちばんもがき苦しんだ時期です。しかし、なんとかして形にしたい、その想いだけは最後まで揺らぎませんでした。

AIは機械学習と呼ばれる技術で、用意された大量のデータを自律的に学習し、判断力を磨いていきます。AIが自ら判断基準を悟り、獲得する。つまり、AIが何を学びとったのかは人間のコントロール下になく、なぜその結論に至ったのか、判断根拠が分かりづらい。いわば内部構造が見えないブラックボックスなのです。

私たちはひたすら手掛かりを探して、仮説、検証、考察を繰り返し、実験室で集中して高次元の議論を積み重ねました。ですから、奥野さんから最初の結果報告を受けた際も、にわかに喜べませんでした。数カ月かけて丁寧に根拠を検証していく過程でじわじわと成果を実感し、最後に「これは間違いないぞ」と。

AIに記憶させる情報の種類は無数にあり、パラメーターと言われるこれらの情報は本来ブラックボックスでした。今回、奥野さんが独自提案したのは、潤沢な演算能力を持つ計算機と計算資源が限られるエッジデバイスの挙動を一致させるために、2回に分けた段階学習でロスレスAIの実現に必要なパラメーターのみを固定する点。この手法は過去の論文にも見当たらず、新規性が高い技術を発見したのではと、AIに長く携わっていた私も興奮を隠しきれませんでした。

軽量化前後の一致率は96.74％から98.45％まで高めることに成功しました。これにより従来の手法から不一致率を約60％改善、手戻りにかかる開発期間を約40％削減できるようになりました。一致率の改善は1.71％とわずかに思えるかもしれませんが、100％からの差分から判断すると、不一致率が3.2％から1.5％に半減できています。通常、最後の１％をギリギリまで縮めるために、大変な時間と労力がかかりますので、知識蒸留の実装効果が確実に表れていると考えます。

他の開発だとバグのような不具合は、修正すれば完了となりますが、AI開発は先述した自動運転のケースのように、1カ所修正をすると、その影響が別の箇所に出て・・・、と終わりのないモグラたたきになっていました。不一致率を約60％改善できれば、特に高品質が求められる車載用AIなどの開発コストを大幅に減らせる。最後のチューニングの部分は、人の手に頼らざるを得ませんが大きな進歩と言えます。奥野さんが数カ月かけて丁寧に根拠を確認してくれたおかげで、自信を持ってロスレスAIの技術を発表できました。

2020年に最初の試作結果を国内学会の画像センシングシンポジウム（SSII2020）に応募し、査読を経て、ポスター発表の機会を得ました。敵対的学習の手法でトライしていた時期で、途上段階ではありましたが、軽量化前後の挙動の変化を一致させるという独自の課題設定には科学的価値があると私たちは考えていました。学術界、産業界からどんな反応をいただけるか、意見をフィードバックしてみようと考えました。

そこで、ロボットとAI技術の専門誌「日経Robotics」編集部の目に留まり、特集記事の取材打診を受けます。その当時は思うように開発が進まず、「これは世の中に役立つものなのだろうか」と、メンバーもネガティブな気持ちになっていたので、願ってもないチャンスでした。実験室の掲示板には取材を受けた特集記事（2020年9月号掲載^※4）を今も大切に貼っており、折に触れて眺めては気を引き締めています。

※4 購読者限定の記事です。

ロスレスAIの価値やニーズをより社内外に広くアピールしたかったので、これ以上ない機会でした。技術を事業貢献に結びつけるためには、社外からの評価も大切ですから。「日経Robotics」は、最先端技術への目利きに定評があり、私たちも大きな自信になりました。

知識蒸留の枠組みを採用し、一定の理論が解明できたタイミングで、2021年にマシンビジョンアプリケーションに関する著名な国際学会（MVA2021）に応募しました。発表にふさわしい技術だと自信がありましたので、研究者や技術者が一堂に会する国際学会でどんな評価をいただけるだろうかと、期待していました。

国際学会は、13カ国から127件の投稿（口頭発表、ポスター発表）のうち、査読のプロセスを経て、約半分が採択され、技術的なメリットとプレゼンテーションの両方に基づき全ての参加者の投票によって最優秀ポスター賞が選ばれます。オンライン形式によるプレゼンテーションでは、コンセプトの新規性や知識蒸留の2段階学習に質問が集まり、手応えを感じました。入社3年目の私にとっては、発表するだけで精いっぱいでしたので、まさか最優秀ポスター賞に選ばれるとは。喜びというより驚きです。長く苦しみ続けた検証の苦労も一瞬で吹き飛びました。

プレゼンテーションは、バーチャル会議のような形式で、発表時間内にブースを訪問した研究者らと質疑応答を行います。その様子をパソコンで見ていた他部署からも「奥野さんのブースにたくさん人が集まっているね」と話題に上るほど。採択されるだけで十分かなと内心思っていましたが、国際的な評価をいただき、自分たちの立ち上げたコンセプト、開発の過程は間違ってなかったと、改めて実感できました。受賞を機にパナソニックグループの他部門から声が掛かる機会が増えており、事業へのお役立ち、売上貢献という次のステップへ自信を持って進んでいきたいです。

私にとってAIは未知の分野で、成長につながる良いテーマを与えられたと思います。知識蒸留の手法で結果が出た後に、根拠の核心をなかなかつかめず、モチベーションの維持が難しかったです。ですが、最後まで踏ん張れたのはチームの支えのおかげであり、入社から3年という短期間で国際学会での受賞という実績につながったと感謝しています。ひとつ結果を出すと、中田さんや石井さんがすぐに興味深く反応をくださるので、励みになっていました。ロスレスAIの開発に携わり、「仮説、検証、考察」という考え方のプロセスが習慣になり、自分のなかに昇華できたと感じます。今では実験中に結果が出ても「なぜ？」と疑問を抱き、次にどんな検証すべきか、自然と流れるように思考できます。

私がめざすのは石井さんのように、その技術の第一人者と評されるぐらい技術力を高めること。いつか「AIのことなら奥野に聞けば大丈夫」と言われるぐらい高みをめざしたい。今後は、ロスレスAIを必要とされる事業への適用をめざして、展開を図ります。要求される精度や技術は各事業によって異なりますので、経験を積んで視野を広げながら、知識を吸収し、1日でも早く事業貢献につなげたいです。

結果が見えづらい課題を与えられると、モチベーションが下がってしまうことが少なくありません。新人の場合はなおさらです。奥野さんのように、これまでいきなり入社1年目から難題を与えた経験がなく、最初は探り探りで様子を見ていたのですが、不安はすぐ一蹴されました。奥野さんは素直で瞬発力が高く、少しの方向付けを与えるだけで自ら課題を考え答えを導き出し、どんな困難があっても最後まであきらめない。一緒に開発を進めていく過程で、私自身も仕事の任せ方を考えるきっかけを与えられました。

創業者 松下 幸之助の言葉に「任せて任さず」という言葉があります。仕事を任せて成長を促しつつも、任せた後も見守り、自分の力で成功するまでフォローを続ける。奥野さんはポテンシャルを引き出しやすい人だったので仕事を安心して任せられ、おかげで私も研究に没頭できました。現在は複数のメンバーを束ねるプロジェクトリーダーの立場にあり、個々のポテンシャルを最大限に活かすにはどうしたらよいか、ベストな解を常に考えています。そのヒントとなる経験値をいただいたと思います。

パナソニック ホールディングス株式会社テクノロジー本部に2021年度に新設された高度専門職であるリードエンジニアであり、社内AIの先駆者という立ち位置から、学術研究と技術提供、人材育成の面から事業貢献をしています。AI技術の事業への落とし込みに際して、アドバイスを求められる機会が多いのですが、私が常に技術者に伝えるのは「仮説、検証、考察」の基本プロセスの大切さです。明確な目的を設定せず実験やプログラムを行っても、その結果が想定通りなのか、ずれがあっても何が原因なのか分からない。

今回、当チームに加わり感じたことは、基本プロセスの手順が浸透し、メンバーが与えられた役割を果たしていたこと。私が要求を出し、中田さんが内容をかみ砕いて整理し、奥野さんが仮説、検証、考察を実行して手を動かす、これまで経験したことのないようなスピード感で研究が進んでいました。今後、ロスレスAIを事業に落とし込む際、どのようにAIが役立てられ、必要とされるか説明できるロジカルな説得性が必要となります。企業研究者である私に求められる役割だと考えています。

自動運転技術を死に物狂いで開発したかつての2年間は、私の大きな転機でした。自動車メーカーから要求される品質保証に応えようとするも、当時はまだAIの挙動を安定させる技術が解明できておらず、終わりが見えない悪戦苦闘が続きました。「仲間にこんな負担を経験させてはならない」「少しでも開発しやすいAIをめざしたい」。当事者として立ち向かった私だからこそ言える言葉だと思います。

AIのプロフェッショナルが何年もかけて作るような「一点ものの工芸品」ではなく、一定レベルの技術者が手順に沿って開発すれば、パナソニックブランドにふさわしい、高い品質を有するAIを容易に製品に組み込める。そうすれば、ロスレスAIが当グループのAI量産化に貢献できるのではと理想を思い描いていました。AIの汎用が進み、最前線のモノづくり現場で働く人たちが疲弊せず、よりよい商品作りにつなげられることが、何よりの喜びです。それが従業員の幸せ、ひいてはお客さまの幸せにつながります。事業に役立てられ、私たち技術者も興味を持って開発できる、そうした秀逸なテーマを今後も見つけ出していきたいです。