アリババのAI研究成果がトップ国際会議ICML2020に選出、AI推論速度が3倍に向上

先日、世界最高峰の人工知能カンファレンス「ICML 2020」において、発表された論文の結果が発表されました。アリババは7本​​の論文が選ばれ、中国のテクノロジー企業の中で最多の論文が選ばれた企業となった。 ICMLは機械学習分野で世界で最も影響力のある学術会議の一つですが、今年の採択率はわずか21.8%でした。

ICMLの公式データによると、アリババの7つの論文は、画像認識、自然言語処理、検索推奨などの分野での研究成果をカバーしている。そのうちの1つ「デュアルモジュール推論によるディープニューラルネットワークの効率向上」は、AIのコンピューティングリソースとメモリリソースの消費を大幅に削減し、推論速度を3倍に高めることができる新しいAI推論方法を提案している。

近年、AI モデル、特に言語 AI などの複雑なモデルはますます複雑になり、コンピューティングとメモリ リソースに新たな課題をもたらしています。現在、業界では、GPU、FPGA、NPU などの異種コンピューティングなど、より高度なコンピューティング性能を使用して AI タスクを実行するのが一般的な解決策ですが、この方法では問題が根本的に解決されるわけではありません。

Alibaba DAMO Academyは、大規模なニューラルネットワークが人間のように「速い思考」と「遅い思考」を学習し、効率的かつ正確な推論プロセスを実行できるようにする「AIデュアルブレイン思考」方式を設計しました。

この方法は「デュアルモード推論」と呼ばれ、複雑なタスクを 2 つのタスクに分割します。たとえば、複雑な AI 推論タスクのプロセスでは、最初に非常に小さなリソースで「小さなネットワーク」を実行し、ネットワークのどの領域がより敏感であるかを分析してから、「大きなネットワーク」の敏感な領域でのみ計算を実行できます。

DAMO アカデミーの科学者たちは、デュアルモード推論の実現可能性を理論的に実証し、その方法を CPU に実装しました。実際の結果では、この方法により、モデルの精度を確保しながら言語モデルのメモリアクセスを 40% 削減でき、1.54 ～ 1.75 倍のパフォーマンス向上が達成されました。同時に、精度はわずか 0.5% 低下するだけで推論速度を 3 倍に向上できます。

近年、アリババはAI分野における基礎研究と産業応用の成果の両方において爆発的な成長段階を迎えています。アリババは3年前、AI研究の最前線を探究するために社内研究所であるDAMOアカデミーを設立しました。アリババAIは、トップクラスの国際技術コンテストで60件近くの世界初を獲得し、500件以上の論文がトップクラスの国際会議に選出されているとされています。同時に、アリババAIは数々の重要な研究成果を達成し、あらゆる分野の人々に十分な力を与えています。 DAMOアカデミーの医療AIチームが流行中に開発したAI診断技術は、世界中の約600の病院に導入され、50万件以上の臨床診断を完了しました。