再帰型ニューラルネットワークの正則化

研究者らは、過去のことを記憶するAIが誤りを暗記するのを防ぐための非常にシンプルな手法を見つけた。ドロップアウトと呼ばれる手法を慎重に適用することで、メモリ部分が適切に機能するようになる。これにより、モデルがオーバーフィッティングしにくくなり、言語予測、音声認識、画像キャプション生成、翻訳などのタスクで better な結果が得られるようになる。この小さな変更は簡単に追加でき、多くのタスクで効果があるため、スマートアプリを構築する人々に活用されることが期待される。