TOPNetwork > 飛躍的に進化する自然言語処理について知る(中)

Network

飛躍的に進化する自然言語処理について知る(中)

2019/06/19

Martin Heller InfoWorld

 自然言語処理は、現在、ディープラーニング(深層学習)の応用として非常に成功している分野の1つだ。ただし数々の失敗例も報告されている。自然言語処理の目標は、大まかに言えば、コンピュータが人間の言葉を理解し、それに基づいて行動できるようにすること。詳しく説明していこう。

前回から続く)

Credit: Peshkova / Getty Images

 2016年の秋に、米Googleの翻訳サービス「Google翻訳」は突如精度が向上した。それまでは、たいてい一つひとつの単語の意味をつなげたようなぎこちない翻訳だったが、概ね内容の通じるなめらかな文章の翻訳が、少なくとも英仏、英中、英日などのサポートされている組合せで実現した。その後、さらに多くの言語の組合せがサポート対象に加えられている。

 この劇的な向上は、Google翻訳の開発チームと人工知能(AI)開発の「Google Brain」チームが一致協力して9カ月にわたって取り組んだ結果だった。両チームは、Google翻訳をフレーズベースの統計的機械翻訳アルゴリズムから刷新し、深層学習でトレーニングしたニューラルネットワークと同社の機械学習フレームワーク「TensorFlow」で学習した単語埋め込みを適用した。1年足らずで、ニューラル機械翻訳(NMT)は統計的機械翻訳(SMT)にとって変わり、機械翻訳のパラダイムが激変した。

 まるで魔法のようだと思うかもしれないが、そんなに簡単な話ではない。この変革に取り組んだ研究者らは、膨大なコーパスを使ってネットワークのトレーニングを行う中で、すぐに何千ものGPUを要することに気づいた。また、トレーニング済みのニューラルネットワーク上でGoogle翻訳を大規模に展開するには新しいタイプのチップが必要となるため、独自の「Tensor Processing Unit(TPU)」を開発した。さらに、1つのモデルを試すごとに何百回もネットワークを調整し、翻訳の精度を人間の翻訳者のレベルに近づけていった。

↑ページ先頭へ