所以您对深度学习感兴趣
书面:2016年12月19日by 雷切尔·托马斯(Rachel Thomas)这是受到一位聪明的高中生的启发,他通过电子邮件向我发送了有关他对深度学习感兴趣的建议。
问: 你好,托马斯博士!我一直在努力寻找好的资源来进行深度学习,但是从现在看来,该领域似乎相当神秘,在技术上对我来说还是令人望而却步。如果您不介意,我想问几个有关深度学习的问题:
- 您是否发现一本书或一套书很好地解释了深度学习?我看过Deeplearning.net或MIT的免费书,但是我发现的所有资源要么太简短了介绍,要么数学上就非常有趣,但根本不适用
- 您认为这对我来说是个好主意,还是我应该等到更进一步尝试降低技术细节时才开始?
- 当您遇到数据科学问题时,如何回答经典的“下一步尝试”问题?例如,有时在Kaggle问题上,我会碰壁,不知道下一步最好的方法是什么。
A: 您对大多数深度学习资源过于简短或过于数学化的评估已成定局!我和我的搭档杰里米·霍华德(Jeremy Howard)的看法相同,我们正在努力创造更多实用的资源。我们很快将根据我们今年秋天与同仁合作的现场课程,制作MOOC。 南佛罗里达大学数据研究所。在此之前,这是我的建议:
我认为,最好的现有资源是 斯坦福CNN课程。我建议完成所有任务。
以下是我的一些 喜爱 深度学习入门的教程,博客文章和视频:
卷积
- 图像内核直观地说明 -卷积的出色交互式可视化
- 了解卷积 -深入研究卷积,不仅关注图像处理应用程序,还关注更通用的方法
- 杰里米的 卷积简介 视频从头开始并建立卷积,并引入最大池化
- 此博客文章 是CNN的不错的介绍性概述,包括卷积和最大池化。
- 深入探究 Kaggle获奖者的解决方案 图像分类问题
梯度下降
- 在他的 DL和随机梯度下降简介 视频中,Jeremy使用Excel来阐明(并简化)SGD的工作方式。
- 这里是解释和实现Python的详细教程 梯度下降 和 随机梯度下降.
RNN
- 杰里米的 RNN简介 视频是一个充满代码的介绍。
- Andrej Karpathy在 RNN的有效性不合理 包括很多有趣的例子。
嵌入
- 克里斯·奥拉(Chris Olah)在 语言表示的可视化
至于您是否需要提前进行严格的数学运算,我认为最好专注于实际编码,因为这样您就可以尝试并发展出良好的直觉并了解自己的工作。最好根据需要学习数学-如果由于您不熟悉数学概念而弹出无法理解的知识,请跳至 可汗学院 或绝对美丽的3 Blue 1 Brown 线性代数的本质 视频(非常适合视觉思想家)并开始工作!杰里米(Jeremy)的上述RNN教程是面向代码的深度学习方法的一个很好的示例,尽管我知道,鉴于现有资源,这可能很难做到。
参加Kaggle比赛真是太好了。这是一种绝佳的学习方式,也是了解您是否了解所读理论的一种绝妙方式。我将不得不进一步了解您要尝试的建议。