你需要做什么深入澳客彩票下载手机版下载

这篇文章已被翻译成 中国人.

我想回答一些我常见的问题: 我需要做什么样的计算机做深入澳客彩票下载手机版下载?为什么快速推荐nvidia gpus?您为初学者推荐什么深入澳客彩票下载手机版下载图书馆?你如何将深入澳客彩票下载手机版下载的生产? 我认为这些问题都在一般主题下落下 您需要什么(在硬件,软件,背景和数据方面)进行深度澳客彩票下载手机版下载? 这篇文章旨在让那些新的领域和好奇入门。

您需要的硬件

我们感谢博彩行业

视频游戏行业更大(在收入方面) 比电影和音乐行业合并。在过去的20年中,视频游戏行业在GPU(图形处理单位)中推出了巨大的进步,用于执行渲染图形所需的矩阵数学。幸运的是,这些是深度澳客彩票下载手机版下载所需的计算类型。 GPU技术的这些进展是为什么神经网络在现在的强大比几十年前更强大的关键部分。在大多数情况下,没有GPU的训练没有GPU的深入澳客彩票下载手机版下载模型。

并非所有GPU都是一样的

大多数深度澳客彩票下载手机版下载从业者都没有直接编程GPU;我们正在使用处理此操作的软件库(如Pytorch或Tensorflow)。但是,要有效地使用这些库,您需要访问正确类型的GPU。在几乎所有情况下,这意味着访问a 来自NVIDIA公司的GPU.

CUDA.OpenCl. 是编程GPU的两种主要方式。 CUDA是迄今为止最开发的,拥有最广泛的生态系统,是深入澳客彩票下载手机版下载图书馆最强大的支持。 CUDA是A. 所有权 NVIDIA创建的语言,因此GPU无法使用其他公司。当FAST.AI推荐NVIDIA GPU时,它并没有出于我们对NVIDIA的任何特殊亲和力或忠诚,但这是迄今为止深度澳客彩票下载手机版下载的最佳选择。

Nvidia占主导地位的GPU市场,其中一个最近的竞争对手是 公司AMD。今年夏天,AMD宣布释放一个 平台称为岩石 为深度澳客彩票下载手机版下载提供更多支持。这 岩石的地位 对于诸如Pytorch,Tensorflow,MXNet和CNTK等主要深度澳客彩票下载手机版下载库仍在开发中。虽然我很乐意看到一个开放的替代成功,但我必须承认我找到了难以解决罗柯姆的文档。我只是读了 概述, 入门, 和 深度澳客彩票下载手机版下载 罗科姆网站的页面仍然无法解释rocm属于我自己的话,尽管我想在这里将其包含在这里完整性。 (我允许在硬件中没有背景,但我认为像我这样的数据科学家应该成为这个项目的目标受众的一部分。)

如果你没有GPU ......

如果您的计算机没有GPU或有非NVIDIA GPU,则您有几个很棒的选项:

您需要的软件

深度澳客彩票下载手机版下载是一个相对年轻的领域,图书馆和工具正在快速变化。例如,我们选择用于第1部分的Theano 我们的课程 2016年, 刚退休. Pytorch.我们目前使用的是,我们今年早些时候发布(2017年)。作为 杰里米以前写道, 您应该假设您今天澳客彩票下载手机版下载的任何特定库和软件将在一两年中过时。最重要的是要了解潜在的概念,并朝此结束,我们在Pytorch上创建自己的图书馆,我们认为我们认为深入澳客彩票下载手机版下载概念更清晰,以及将最佳实践编码为默认值。

Python是迄今为止最常用的深度澳客彩票下载手机版下载语言。有许多深度澳客彩票下载手机版下载图书馆可用,几乎每个主要的技术公司都支持不同的图书馆,虽然这些公司的员工往往使用一组工具。深度澳客彩票下载手机版下载图书馆包括 纹orflow. (谷歌), Pytorch. (Facebook), mxnet. (华盛顿大学,由亚马逊改编), CNTK. (微软), Deeplearning4J. (矽助者), Caffe2 (也是Facebook), nnabla. (索尼), Paddlepaddle. (百度),和 凯拉斯 (在此列表中的几个库的顶部运行的高级API)。所有这些都有Python选项可用。

动态与静态图计算

在快速。我们,我们 优先考虑程序员可以进行实验和迭代的速度 (通过更轻松的调试和更具完整的设计)与理论性能速度一样重要。这是我们使用Pytorch的原因,灵活的深层澳客彩票下载手机版下载库 动态计算.

深入澳客彩票下载手机版下载图书馆的一个区别是他们是否使用 动态的 或者 静态的 计算(某些库,例如MXNET和现在TensorFlow,允许两者)。 动态计算 意味着该程序按照写入的顺序执行。这通常会使调试更容易,并使其更加直接地将思想转换为代码。 静态计算 意味着您提前为您的神经网络构建结构,然后对其执行操作。从理论上讲,这允许编译器做出更大的优化,尽管它也意味着您打算将您的程序与编译器执行的内容之间有更多的断开连接。这也意味着错误似乎可以从导致它们的代码中删除(例如,如果您的图表中的错误存在错误,则可能无法实现,直到您在稍后执行操作)。尽管存在具有静态计算图表的语言的理论争论,但能够比具有动态计算的语言更好的性能,我们经常发现在实践中不是对我们的表现。

谷歌的TensorFlow主要使用静态计算图,而Facebook的Pytorch使用动态计算。 (注意:TensorFlow宣布发布动态计算选项, 渴望执行只要两周前,虽然它仍然是完整的,但大多数Tensorflow文档和项目使用静态选项)。 9月,快速.ai 宣布我们选择了Pytorch 在今年的课程中使用的纹身流,并用于开发 我们自己的图书馆 (用于编码最佳实践的Pytorch的高级包装器)。简而言之,这里有一些选择Pytorch的原因(解释 这里更详细):

谷歌已经将资源更多的资源进入营销Tensorflow而不是其他人,我认为这是Tensorflow如此众所周知的原因之一(对于在深度澳客彩票下载手机版下载之外的许多人,Tensorflow是他们听说过的唯一一个DL框架)。如上所述,几周前,Tensorflow发布了动态计算选项,该选项解决了上述一些问题。如果我们要转回Tensorflow,那么很多人都会问过。动态选项仍然是相当的新的,而且没有发展,因此我们现在将愉快地继续使用Pytorch。然而,Tensorflow团队对我们的想法非常接受,我们很乐意看到 我们的Fastai图书馆 移植到Tensorflow。

笔记: 这 在人员版本 我们的更新课程,使用Pytorch以及我们自己的Fastai库,目前正在发生。它将在课程结束后免费发布(估计发布:1月)。

你需要生产的东西:不是GPU

许多人超越了在生产中使用深度澳客彩票下载手机版下载的想法,并相信他们需要比实际更复杂的系统更复杂。您可以使用CPU和您选择的Web服务器使用深度澳客彩票下载手机版下载,实际上,这就是我们为大多数用例建议的。以下是一些关键点:

对于大公司而言,在生产中使用GPU可能有意义 - 但是,当您的达到此尺寸时,它将很清楚。在需要之前过早地尝试缩放,只会增加不必要的复杂性并减慢你。

您需要的背景:1年编码

激发杰里米和我创造的挫折之一 对编码人员的实践深度澳客彩票下载手机版下载 是(是)最深入的澳客彩票下载手机版下载资料落入两类之一:

我们的免费课程 对编码人员的实践深度澳客彩票下载手机版下载 是独一无二的,因为唯一的先决条件是1年的编程经验,但它仍然教授如何创建最先进的模型。您的背景可以用任何语言,虽然您可能想在开始课程之前澳客彩票下载手机版下载一些Python,因为这就是我们使用的东西。我们根据需要介绍数学概念,我们 不推荐 你试图提前进行前负荷澳客彩票下载手机版下载数学理论。

如果您不知道如何代码,我强烈推荐澳客彩票下载手机版下载,并且Python是一种伟大的语言,以便您对数据科学感兴趣。

您需要的数据:远低于您的想法

虽然许多人声称您需要Google-Size数据集要做深度澳客彩票下载手机版下载,但这是假的。的力量 转移澳客彩票下载手机版下载 (与数据增强等技术相结合)使人们可以将预先训练的模型应用于更小的数据集。正如我们所在 在别处谈论,在医学初创状态下,Jeremy Howard带领一个团队,它只使用了1,000个肺CT扫描的例子与癌症建立了一种算法 更准确诊断肺癌 而不是4名专家放射科医生。 C ++库 Dlib. 有一个例子,其中仅使用面部检测器使用 4张图片,含有18个面孔!

与DLIB的人脸识别
与DLIB的人脸识别

关于访问的说明

对于绝大多数人,我与之交谈,对深度澳客彩票下载手机版下载的障碍远远低于预期的,并且成本在预算范围内。但是,我意识到这不是潜在的。我周期性地由想过我们在线课程的学生联系,但不能承担AWS的费用。不幸的是,我没有解决方案。还有其他障碍也是如此。 Brunosánchez-anuño 写了关于挑战的挑战 在没有可靠的互联网接入的地方做数据科学,而且快速的国际同胞Tahsin Mayeesha描述 隐藏的MooC访问障碍 在孟加拉国等国家。我关心这些访问的问题,它促使没有解决方案。