机器之心原创
作者:吴攀、蒋思源
新的一年到来了,过去的 2016 年可以说是有史以来机器学习领域进展最显著的一年。在大数据和高性能计算设备的助力下,具备学习能力的机器在围棋、语音识别、翻译、图像渲染和识别等许多领域都实现了惊人的成就。但那远远还不是这一领域的终点,大部分媒体和投资者仍然还看好以机器学习为主的人工智能技术的未来发展,市场也无法掩饰地表现出了对这方面的人才的需求。
这篇文章尽可能地全面地梳理了机器之心在 2016 年发过的基础知识和技术指导方面的文章,希望能为读者通往人工智能领域的专业人才乃至学界大牛之路提供一点助力。本文按照从基础到前沿划分对文章进行了分类(学习资源、基础介绍文章、技术起点、继续进阶、前沿研究),读者可方便地根据自己的学习进度选择合适的文章阅读。
一、学习资源
Yoshua Bengio新书《Deep Learning》中文版开放预览(附PDF下载链接)
Yoshua Bengio研究生科研指导演讲:解读人工智能全貌和下一个前沿
Yann LeCun演讲:人工智能的下一个前沿——无监督学习
Yoshua Bengio深度学习暑期班学习总结,35个授课视频全部开放
Andrej Karpathy CS294课程总结:可视化和理解深度神经网络
Geoffrey Hinton最新演讲梳理:从人工神经网络到RNN应用
吴恩达NIPS 2016演讲现场直击:如何使用深度学习开发人工智能应用
二、基础介绍文章
2016机器学习与自然语言处理学术全景图:卡耐基梅隆大学排名第一
神经网络架构演进史:全面回顾从LeNet5到ENet十余种架构
伯克利教授Stuart Russell:人工智能基础概念与34个误区
对比深度学习十大框架:TensorFlow最流行但并不是最好
洞悉AlphaGo超越围棋大师的力量:机器之心邀你一起强化学习
访谈百度IDL林元庆:百度大脑如何在人脸识别上战胜人类「最强大脑」
Kaggle创始人问答:深度学习会淘汰其他的机器学习方法吗?
机器之心年度盘点 | 从技术角度,回顾2016年语音识别的发展
斯坦福大学副教授Reza Zadeh:神经网络越深就越难优化
Science「机器人子刊」创刊号,五大研究解读机器人领域最新进展
三、技术起点
DeepMind提出的可微神经计算机架构的TensorFlow实现
OpenAI 的 PixelCNN++实现:基于 Python的实现
Geoffrey Hinton最新演讲梳理:从人工神经网络到RNN应用
EMNLP 2016干货:从原理到代码全面剖析可用于NLP的神经网络
使用机器学习翻译语言:神经网络和seq2seq为何效果非凡?
四、继续进阶
40年认知架构研究概览:实现通用人工智能的道路上我们已走了多远?
词嵌入系列博客Part2:比较语言建模中近似 softmax 的几种方法
从分割到识别,全面解析Facebook开源的3款机器视觉工具
Embedding 新框架模型:Exponential Family Embeddings
GAN之父NIPS 2016演讲现场直击:全方位解读生成对抗网络的原理及未来
King+Woman-Man=Queen:用基于Spark的机器学习来捕捉词意
五、前沿研究
FusionNet融合三个卷积网络:识别对象从二维升级到三维
谷歌新论文提出神经符号机:使用弱监督在Freebase上学习语义解析器
Google Brain与OpenAI合作论文:规模化的对抗机器学习
谷歌ICLR 2017论文提出超大规模的神经网络:稀疏门控专家混合层
谷歌NIPS 2016提交的8篇论文:从无监督学习到生成模型
谷歌提出深度概率编程语言Edward:融合了贝叶斯、深度学习和概率编程
DeepMind David Silver论文:学习跨多个数量级的值
DeepMind论文:在线Segment to Segment神经传导
DeepMind NIPS 2016论文盘点(Part1):强化学习正大步向前
DeepMind NIPS 2016论文盘点(Part2):无监督学习的新进展
Geoffrey Hinton论文:使用快速权重处理最近的过去
Ian Goodfellow 论文:通过视频预测的用于物理交互的无监督学习
Ian Goodfellow 论文:用于隐私训练数据的深度学习的半监督知识迁移
ICLR2016会议,不可错过Facebook提交的七篇论文
论文:一种用于训练循环网络的新算法Professor Forcing
论文:高斯混合模型的似然方法中的局部极大值:结构结果和算法结果
Nature论文:无监督表征学习,用电子健康病历增强临床决策
OpenAI与NASA论文:用于张拉整体机器人运动的深度强化学习
苹果发布第一篇人工智能研究论文:模拟+无监督方法改善合成图像
Vicarious在ICLR2017提交无监督学习论文:层级组合特征学习
Yann LeCun提交ICLR 2017论文汇总:从GAN到循环实体网络等
Bengio论文:用于序列预测的actor-critic算法
Yoshua Bengio论文:使用线性分类器探头理解中间层
Yoshua Bengio论文:Mollifying Networks