https://www.toutiao.com/a6642217664624198157/

 

2019-01-03 18:36:54

在过去的几年里,作为机器学习和统计学习的子领域,深度学习已经在诸多领域取得了令人印象深刻的突破。鲁棒性的开源工具、云计算以及大量可用的数据是深度学习能够取得成功的重要基石。下面,我们列出2018年度十大深度学习论文:

▌1.Deep Learning, by Yann L., Yoshua B. & Geoffrey H. (2015) (Cited: 5,716):

深度学习是一种由多个处理层组成的计算模型,它能够学习数据的多层次抽象表征。目前,这类方法已经在目标检测、语音识别、视觉目标识别以及许多其他领域(诸如药物发现和基因组学)取得了当前最佳的性能。

PDF链接:https://www.cs.toronto.edu/~hinton/absps/NatureDeepReview.pdf

▌2.TensorFlow: Large-Scale Machine Learning on Heterogeneous Distributed Systems, by Martín A., Ashish A. B., Eugene B. C., et al. (2015) (Cited: 2,423)

这是一个灵活的深度学习系统,它可以用来表达各种算法,包括深度神经网络模型的训练及推理算法,并且众多研究者利用它并将其部署到机器学习系统中,以实现多种任务,包括信息检索,语音识别,机器人技术,计算机视觉,地理信息提取,自然语言处理,计算药物发现等十几个计算机科学及其他领域。

PDF链接:http://download.tensorflow.org/paper/whitepaper2015.pdf

▌3.TensorFlow: a system for large-scale machine learning, by Martín A., Paul B., Jianmin C., Zhifeng C., Andy D. et al. (2016) (Cited: 2,227)

TensorFlow 是一个开源项目,主要用于解决深度神经网络的训练和推理问题。它支持各种应用程序。Google 的许多服务和应用都使用到了 TensorFlow。随着时间的推移,它也被广泛用于机器学习领域的研究。

PDF链接:https://www.usenix.org/system/files/conference/osdi16/osdi16-abadi.pdf

▌4.Deep learning in neural networks, by Juergen Schmidhuber (2015) (Cited: 2,196)

这篇论文是对深度学习、深度神经网络的发展历程及其相关工作的综述。其中大部分的内容介绍了上个世纪的研究成果。浅层和深层的神经网络是根据信用分配路径的深度进行区别的,信用分配路径是通过行为和效果之间因果关系链所决定的,而这种因果关联关系是可以学习的。

PDF链接:https://arxiv.org/pdf/1404.7828.pdf

▌5.Human-level control through deep reinforcement learning, by Volodymyr M., Koray K., David S., Andrei A. R., Joel V et al (2015) (Cited: 2,086)

这篇论文开发一种被称为深度“Q-网络”的新型人工智能体。利用最近在深度神经网络训练方面的进展,我们使用一种端到端强化学习策略,直接从高维的传感输入中学习成功的策略。此外,这种智能体已经在经典 Atari 2600 游戏的一些挑战性领域中的得到了测试。

PDF链接:

https://web.stanford.edu/class/psych209/Readings/MnihEtAlHassibis15NatureControlDeepRL.pdf

▌6.Faster R-CNN: Towards Real-Time Object Detection with Region Proposal Networks, by Shaoqing R., Kaiming H., Ross B. G. & Jian S. (2015) (Cited: 1,421)

在这项工作中,我们将介绍区域建议网络(RPN),全卷积图像特征,用于实现共享的区域建议检测网络。区域建议网络是一种全卷积神经网络,它能够共享检测区域,并在每个位置同时预测出目标边界及客观得分。

PDF链接:https://arxiv.org/pdf/1506.01497.pdf

▌7.Long-term recurrent convolutional networks for visual recognition and description, by Jeff D., Lisa Anne H., Sergio G., Marcus R., Subhashini V. et al. (2015) (Cited: 1,285)

不同于固定时空感受野(fixed spatio-temporal receptive field)或用于序列数据处理的简单平均时序模型,循环卷积神经网络能够通过“双重深入”机制,在空间和时间层次实现模型的融合。

PDF链接:https://arxiv.org/pdf/1411.4389.pdf

▌8.MatConvNet:Convolutional Neural Networks for MATLAB, by Andrea Vedaldi & Karel Lenc (2015) (Cited: 1,148)

这种模型易于使用,并在 MATLAB 中开源了其 CNN 构建块函数,提供了计算带滤波器组的线性卷积的路径,特征池化等等。这篇论文将概述了卷积神经网络结构及其在 MatConvNet 中的实现方式,并在每个计算块的工具箱中给出了相同的技术细节。

PDF链接:https://arxiv.org/pdf/1412.4564.pdf

▌9.Unsupervised Representation Learning with Deep Convolutional Generative Adversarial Networks, by Alec R., Luke M. & Soumith C. (2015) (Cited: 1,054)

在这项工作中,我们主要关注的是弥合 CNN 在监督学习和无监督学习方面差距。这篇论文中我们将介绍一类带一定的架构约束 CNN 模型,称之为深度卷积生成对抗网络(DCGAN),实验结果表明它们是一种有前途的非监督学习方式。

PDF链接:https://arxiv.org/pdf/1511.06434.pdf

▌10.U-Net: Convolutional Networks for Biomedical Image Segmentation, by Olaf R., Philipp F. &Thomas B. (2015) (Cited: 975)

深度神经网络的成功需要许多带标注训练样本,这是一个共识。在这篇论文里,我们将提出一种新的网络结构及训练策略,以便更有效地使用现有的标注样本来训练模型,这完全依赖于强大的数据增强功能。

PDF链接:https://arxiv.org/pdf/1505.04597.pdf

以上是 2018 年度十大深度学习论文的简单摘要,关于论文的详细信息,可以参考每篇论文下面的原文链接。

译者 | 林椿眄

Logo

华为开发者空间,是为全球开发者打造的专属开发空间,汇聚了华为优质开发资源及工具,致力于让每一位开发者拥有一台云主机,基于华为根生态开发、创新。

更多推荐