网站首页
关于我们
主机分类
解决方案
云计算研究
资源下载
云计算教程
留言反馈
联系我们

系统安装

当前位置:主页 > 云计算研究 > 系统安装 >

深度学习爱好者如何配置带GPU电脑环境

发布时间:2017-12-09 11:50

最近开始学习深度学习(Deep Learning)技术,特别是google的Tensorflow深度学习包开源后,深度学习已经成为大数据领域的重大计算革命,配合Teras顶层框架,使得Deep learning的学习成本降低。
 
 
 
目前Deep learning技术应用越来越广,一切数据都是图,CNN卷积神经网络技术充满了神奇的计算魅力。DL技术广泛应用于:图像处理、人脸识别、自动驾驶、聊天机器人、AI人工智能、机器语言翻译、图片推荐系统、声音处理、音乐作曲、机器写作等领域。
 
 
 
俺当时为了可能的深度学习,看很多文章都提及GPU(图形处理器)是实现DL的基本要素。因为不懂太多硬件需求,就买了新出的苹果电脑,带有两块GPU图形卡,结果悲剧了,目前的DL并不支持。
 
 
 
没办法,先用CPU作为处理器玩玩Teras的tensorflow吧。在处理3100张电影海报图片过程中,大概需要30分钟的建模训练时间;在另一个处理11000多张烟盒图片的VGG16建模训练大概需要2个小时,能忍受但自然需要考虑建模效率和时间问题了。
 
接下来开始寻找解决路径,首先想到的是采用云计算,目前Google Cloud和AWS都提供带有GPU的实例,这是一种比较理想的学习方式和工程层面的可扩展模式。
 
 
 
理由:
有一些深度学习课程本身就在AWS云中部署和提供教学案例及代码。
可扩展应用架构,比如linux的Ubuntu操作系统,已经安装或自动更新很多支撑包,大部分DL包也已经安装就绪,将来根据需要扩展GPU个数或存储空间等。
最低端的配置大概在1美金/每小时,看别人经验大致一个月需要5000人民币。
关键是google要翻墙,AWS服务区域也不是很明确是否适合大陆地区。
 
下面是google的GCE instance
 
 
 
 
自然就需要考虑是否可以自己配置带GPU的电脑来玩Deep learning。开始寻找这方面的信息了,其实过去自己组装过电脑,从使用Apple电脑后已经不熟悉组装电脑了,市场行情如何,大致多少钱,如何配置GPU和软件,价值如何?
 
 
 
恰好找到一篇国外文章,比较详细叙述了配置选型和安装过程,我把文章整理一些留个备份也供大家参考!
 
这是文章提到的电脑配置:
 
 
 
我没有查国内报价,大致体量可以换算一下。这台大致在14000人民币。最贵的就是GPU了,5000人民币左右。
 
电脑组件:
 
GPU ——Nvidia GTX 1080 Ti
 
GPU的重要性在于:
 
DL中的大多数计算是矩阵运算,如矩阵乘法。如果在CPU上完成,它们可能很慢。
由于我们在一个典型的神经网络中进行了数千次这样的操作,因此慢速度真的加起来就更慢了。
GPU相当方便地能够并行运行所有这些操作。它们有大量的内核,可以运行更多的线程。
GPU还具有更高的内存带宽,使其能够一次对一堆数据执行这些并行操作。
 
 
http://7xo6kd.com1.z0.glb.clouddn.com/upload-ueditor-image-20170613-1497367438511040581.png
 
作者可选择的是Nvidia的几张牌:GTX 1070($ 360),GTX 1080($ 500),GTX 1080 Ti(700美元),最后是Titan X(1320美元)。
 
在性能方面:GTX 1080 Ti和Titan X类似,大致来说,GTX 1080比GTX 1070快25%,而GTX 1080 Ti比GTX 1080快约30%。
 
以下是作者提到采购GPU时要考虑的事项:
 
制造商:好像目前没得选,只能是Nvidia英伟达出品。英伟达多年来一直专注于机器学习,支撑GPU运算的CUDA工具包根深蒂固,它是DL从业者的唯一选择。
预算:泰坦X在这方面的表现非常糟糕,因为它提供与1080 Ti相同的表现约500美元。
一个或多个:我考虑挑选一些1070s而不是1080或1080 Ti。这样可以让我在两张卡上训练一个模型,或者一次训练两个模型。目前在多卡上训练一个模型有点麻烦,尽管随着PyTorch和Caffe 2的改变,GPU的数量几乎是线性缩放。另一个选择 - 同时训练两个模型似乎有更多的价值,但我决定现在获得一个更强大的卡,并在之后增加一个。
GPU内存:更多内存更好。有更多的内存,我们可以部署更大的模型,并在训练期间使用足够大的批量(这有助于梯度流)。
内存带宽:这使得GPU能够在大量内存上运行。这是GPU的最重要的特征。
 
考虑到这一切,作者选择了GTX 1080 Ti,主要是为了提高训练速度。今后再添加第二个1080 Ti。
 
中央处理器——i7最好
 
即使GPU是深入学习的MVP,CPU仍然重要。例如,数据准备通常在CPU上完成。如果我们要并行化所有这些数据准备,每个核心的内核和线程数量很重要。
 
为了保持预算,我选择了中档CPU,Intel i5 7500约为190美元。它比较便宜,但不够好,不能减慢事情。
 
编辑:考虑CPU,“大概是唯一的DL /多GPU最大的小问题,就是要关注的CPU /主板支持PCIe通道”。我们希望每个GPU都有16个PCIe通道,以便尽可能快地获取数据(PCIe 3.0为16 GB / s)。这意味着对于两张GPU卡,我们需要32个PCIe通道。如果选择的CPU只有16个车道。那么2个GPU将以2x8模式运行(而不是2x16)。这可能是一个瓶颈,导致图形卡的使用效果不理想。因此建议使用40线的CPU。
 
一个很好的解决方案将是像E5-1620 v4($ 300)这样的英特尔至强处理器。或者如果您想要像桌面i7-6850K($ 590)一样使用更高端的处理器。
 
内存(RAM)——32GB
 
如果我们要使用相当大的数据集,那么有很多内存是很好的。我有2支16 GB,总共32 GB的RAM为$ 230,并计划再购买另外32 GB。
 
磁盘——固态硬盘
 
 需要一块快速的SSD磁盘,以保持操作系统和当前的数据运算存储,深度学习需要巨大数据集(如ImageNet-预先训练好的),如果慢转速硬盘不太好。
SSD:我记得当我第一个Macbook Air几年前,我以SSD的速度感到震惊。令我高兴的是,名为NVMe的新一代SSD已经开始上市。一个480 GB的MyDigitalSSD NVMe驱动器,230美元是很大的。这个宝贝以每秒千兆字节的速度复制文件。 
 
硬盘——2 TB
 
虽然SSD已经变得越来越快,但硬盘已经变得越来越便宜。可以用来存储或备份大规模数据集。
 
母板
 
在选择主板时,能够支持两个GTX 1080 Ti,包括PCI Express通道数(最小为2x8)和2个卡的物理尺寸。此外,请确保它与所选的CPU兼容。一个华硕TUF Z270为$ 130是选择。如果您拥有Intel Xeon CPU,MSI - X99A SLI PLUS应该会很好。
 
电源——750W
 
经验法则:它应该为CPU和GPU提供足够的电力,加上额外的100瓦特。 
英特尔i5 7500处理器使用65W,GPU(1080 Ti)需要250W,75美元的价格获得了一个Deepcool 750W Gold PSU。这里的“Gold”是指功率效率,即消耗的功率是多少作为热量浪费。
 
软件设置
 
硬件到位后需要安装支撑深度学习的软件了。具体细节keras文档有描述。
 
安装Ubuntu
 
大多数DL框架被设计为首先在Linux上工作,也支持其他操作系统。在Ubuntu安装期间,默认选项一般都能正常工作,尽量先默认安装选项。选择了以前的版本(16.04)。
 
接下来安装:
支持GPU运算的深度学习驱动程序和深度学习软件包、
GPU driver — 操作系统支持GPU的驱动程序
CUDA — 支持GPU运行通用代码的驱动程序.
CuDNN —支持运行深度神经网络的算法程序
安装Python3.6 通过Anacoda4.2的安装方式推荐
安装Jupyter Notebook
安装numpy,scikit-learn,scikit-image,pandas,matplotlib等(一般都安装好了)
安装HDF5
安装Tensorflow
安装PyTorch
安装Theano(可选,按吧有些案例是用的)
安装Keras
其他包,随用随按吧
 
Keras文档关于计算机的硬件配置说明 - https://keras-cn.readthedocs.io/en/latest/for_beginners/keras_linux/
 
推荐配置
 
如果您是高校学生或者高级研究人员,并且实验室或者个人资金充沛,建议您采用如下配置:
 
主板:X99型号或Z170型号
CPU: i7-5830K或i7-6700K 及其以上高级型号
内存:品牌内存,总容量32G以上,根据主板组成4通道或8通道
SSD: 品牌固态硬盘,容量256G以上
显卡:NVIDIA GTX 1080ti、NVIDIA GTX TITAN、NVIDIA GTX 1080、NVIDIA GTX 1070、NVIDIA GTX 1060 (顺序为优先建议,并且建议同一显卡,可以根据主板插槽数量购买多块,例如X99型号主板最多可以采用×4的显卡)
电源:由主机机容量的确定,一般有显卡总容量后再加200W即可
 
最低配置
 
如果您是仅仅用于自学或代码调试,亦或是条件所限仅采用自己现有的设备进行开发,那么您的电脑至少满足以下几点:
 
CPU:Intel第三代i5和i7以上系列产品或同性能AMD公司产品
内存:总容量4G以上
 
先可以玩玩Keras文档说明中的几个案例,都有详细的代码和说明。
 
一般我们也可以将这台配置的GPU电脑作为服务器,通过设置SSH Key和SSH tunnel用平时的苹果电脑远程访问进行深度学习算法建模,通过模型训练后将模型save后,在不带GPU的电脑调用load模型或weights模型,进行预测和分类。
 
 
 
这篇文章是看国外写的内容,我摘录了些内容,没有实际落实,现在还是CPU状态。

上一篇:docker搭建大规模测试环境的实践

下一篇:没有了

返回列表
网站地图|百度云Windows 2012 如何安装| Linux安装Chrome方法