選自Medium
機器之心編譯
參與:路雪、李澤南
在搭建深度學(xué)習(xí)機器之后,我們下一步要做的就是構(gòu)建完整的開發(fā)環(huán)境了。本文將向你解釋如何在一臺新裝的 Ubuntu 機器上安裝 Python 和 Nvidia 硬件驅(qū)動、各類庫和軟件包。
為了進行強化學(xué)習(xí)研究,我最近購置了一臺基于 Ubuntu 和英偉達 GPU 的深度學(xué)習(xí)機器。盡管目前在網(wǎng)絡(luò)中能找到一些環(huán)境部署指南,但目前仍然沒有全面的安裝說明。另外,我也不得不閱讀了很多文檔來試圖理解安裝細節(jié)——其中的一些并不完整,甚至包含語法錯誤。因此,本文試圖解決這個問題,提供一個詳盡的軟件環(huán)境安裝指南。
本文將指導(dǎo)你安裝
操作系統(tǒng)(Ubuntu)
4 種驅(qū)動和庫(GPU 驅(qū)動、CUDA、cuDNN 和 pip)
5 種 Python 深度學(xué)習(xí)庫(TensorFlow、Theano、CNTK、Keras 和 PyTorch)
這些軟件之間的互相依賴關(guān)系如下圖所示。其中,你只需要安裝一種深度學(xué)習(xí)庫,請自由選擇。
深度學(xué)習(xí)軟件安裝和依賴示意圖
以下是各個軟件的細節(jié)介紹:
Ubuntu(v16.04.3)——操作系統(tǒng),各種任務(wù)處理。
Nvidia GPU 驅(qū)動(v375)——允許系統(tǒng)獲得 GPU 帶來的加速。
CUDA(v8.0)——GPU C 語言庫?!赣嬎阃辉O(shè)備架構(gòu)」。
cuDNN(v6.0.21)——基于 CUDA 的深度學(xué)習(xí)基元庫。「CUDA 深度學(xué)習(xí)庫」。
pip(v9.0.1)——Python 安裝包。「Pip 安裝包」。
TensorFlow(v1.3)——谷歌開發(fā)的深度學(xué)習(xí)框架。
Theano(v0.9.0)——此前由 MILA 負責(zé)維護的深度學(xué)習(xí)框架。
CNTK(v2.2)——微軟研究院開發(fā)的深度學(xué)習(xí)框架。
Keras(v2.0.8)——深度學(xué)習(xí)包裝可互換后端。可與 TensorFlow、Theano 和 CNTK 共同使用。
PyTorch(v0.2.0)——可被 GPU 加速的動態(tài)圖深度學(xué)習(xí)框架,主要由 Facebook 的研究人員負責(zé)開發(fā)。
1. 安裝 Ubuntu 16.04.3
v 16.04.3 可由 USB 啟動的方式安裝,它是最新的 LTS(長期支持)版本。首次在電腦上啟用時,請在 BIOS 中選擇由 USB 引導(dǎo)啟動。
我的電腦中有兩塊硬盤——一塊 1TB 的 SATA 和一塊 256GB 的 SSD。在我的設(shè)想中,Ubuntu 被安裝在常規(guī)硬盤中,固態(tài)硬盤(SSD)用于處理數(shù)據(jù)集和加速訓(xùn)練。在安裝過程中,在屏幕中的 Installation Type 中選擇 Something else,隨后我們要進行三個分區(qū)操作:
引導(dǎo)分區(qū)(128GB):包含系統(tǒng)文件、程序設(shè)置和文檔。
交換分區(qū)(2 倍的內(nèi)存大小):對于我來說這就是 128GB。這塊分區(qū)的容量用于擴展 Kernel RAM 作為虛擬內(nèi)存使用。
用戶分區(qū)(剩下的部分):1TB 的硬盤剩下的空間大約還有 744GB。
在安裝后,最好先運行以下命令來升級內(nèi)核版本。
sudo apt-get update
sudo apt-get upgrade
Reference:https://tutorials.ubuntu.com/tutorial/tutorial-install-ubuntu-desktop#0
2. 安裝英偉達 GPU 驅(qū)動
在安裝完 Ubuntu 后,你可能會發(fā)現(xiàn)屏幕的分辨率不對,而且不能修改,這是因為現(xiàn)在還沒有安裝 GPU 驅(qū)動。
安裝驅(qū)動有兩種方法:從 Ubuntu 資源庫和數(shù)據(jù)源。第一個方法更加容易,但需要頻繁的重新安裝。使用 sudo apt-get update 和 sudo apt-get upgrade 指令后,系統(tǒng)的內(nèi)核可以自動升級。但這樣并不會更新英偉達驅(qū)動,可能會導(dǎo)致 GUI 無法正確加載。從數(shù)據(jù)源安裝可以避免這個問題。
從安裝包里安裝 v375 驅(qū)動(簡單的方法)
以下命令會將與你系統(tǒng)相兼容的驅(qū)動版本顯示出來,它會提供兩個版本號:最新的不穩(wěn)定版和長期穩(wěn)定版。版本號會從頭列起,所以你需要把頁面滾到最上面。
sudo add-apt-repository ppa:graphics-drivers/ppa
添加并安裝資源庫。通過第二個命令,改變你想要安裝的<driver_number>。我們在這里推薦安裝最新的長期穩(wěn)定版本——375 版。
sudo apt-get update
sudo apt-get install nvidia-<driver_number>
重啟計算機以重新配置視頻輸出。
sudo shutdown -r now
要測試驅(qū)動程序是否工作,Screen Display(SUPERKEY,屏幕顯示類型)現(xiàn)在應(yīng)該可以識別你使用的顯示器了,你可以修改設(shè)置、分辨率與方向。
Reference:https://launchpad.net/~graphics-drivers/+archive/ubuntu/ppa
從英偉達網(wǎng)站安裝 v384.90(較難的方法)
從英偉達網(wǎng)站下載最新的驅(qū)動程序版本。基于硬件配置,我選擇的選項是:
GeForce -> GeForce 10 Series -> GeForce GTX 1080 -> Linux 64 bit -> English (UK)
可選條件:編譯到 32 位架構(gòu)和 GUI 的開發(fā)版本。
sudo apt-get install gcc-multilib xorg-dev
按 CTRL + ALT + F1 鍵登錄,從 GUI 轉(zhuǎn)至終端。為了重建視頻輸出,必須先將其暫停。
sudo service lightdm stop
如果命令行沒有效果,Ubuntu 新版本使用 systemctl 替換 lightdm。然后使 runfile 可執(zhí)行,并運行它。
cd <download location>
chmod +x NVIDIA-Linux-x86_64-384.90.run
sudo ./NVIDIA-Linux-x86_64-384.90.run --dkms
運行時,你可能會收到一條 pre-install script failed 信息。這沒什么影響,因為預(yù)安裝腳本包含命令 exit 1,其目標是確保你真的想安裝驅(qū)動程序。
選項--dkms(默認開啟)在 kernel 自行更新時將驅(qū)動程序安裝至模塊中,從而阻止驅(qū)動程序重新安裝。在 kernel 更新期間,dkms 觸發(fā)驅(qū)動程序重編譯至新的 kernel 模塊堆棧。
如果安裝失敗,則原因在于計算機的 BIOS 未關(guān)閉 Secure Boot。重啟電腦,在 BIOS 選項中關(guān)閉 Secure Boot。
如果安裝成功,則可以重啟 GUI。
sudo service lightdm start
卸載:sudo ./NVIDIA-Linux-x86_64-384.90.run --uninstall
驗證
確保以下命令能夠識別正確的 GPU 版本
nvidia-smi
確保驅(qū)動程序版本號與你安裝的一致
cat /proc/driver/nvidia/version
3. 安裝 CUDA 8.0
從英偉達網(wǎng)站,使用下列系統(tǒng)屬性下載 CUDA 的 runfile(地址:https://developer.nvidia.com/cuda-downloads)。
Linux -> x86_64 -> Ubuntu -> 16.04 -> .deb(network)
導(dǎo)航至.deb 文件的位置后,將該文件解壓縮,更新軟件包列表,使用下列命令安裝 CUDA。
sudo dpkg -i cuda-repo-ubuntu1604-8-0-local-ga2_8.0.61-1_amd64.deb
sudo apt-get update
sudo apt-get install cuda
將庫添加至 bash path,這樣就可以使用其他應(yīng)用找到庫了。
echo 'export PATH=/usr/local/cuda-8.0/bin${PATH:+:${PATH}}' >> ~/.bashrc
echo 'export LD_LIBRARY_PATH=/usr/local/cuda-8.0/lib64${LD_LIBRARY_PATH:+:${LD_LIBRARY_PATH}}' >> ~/.bashrc
source ~/.bashrc
驗證時,使用 nvcc -V 確保 Nvidia C Compiler(nvcc)版本與 CUDA 的版本匹配。
重啟電腦 sudo shutdown -r now,完成安裝。
可選操作:測試 CUDA 安裝
測試安裝的一個方法是運行一些示例。以下命令行創(chuàng)建了一個存儲示例程序的 test_CUDA 目錄。
mkdir test_CUDA
cd test_CUDA
./cuda-install-samples-8.0.sh .
子目錄 NVIDIA_CUDA-8.0_Samples/3_Imaging/cudaDecodeGL 中是 findgllib.mk 文件。該文件的第 61 行 30 列包含了英偉達驅(qū)動程序的硬編碼值,該值應(yīng)從 367 更改成你安裝的驅(qū)動程序版本號。
編譯示例
cd ../.. && make
你現(xiàn)在可以在 NVIDIA_CUDA-8.0_Samples 內(nèi)隨意運行示例。你可以在 NVIDIA_CUDA-8.0_Samples/bin/x86_64/linux/release 中找到兩個非常有用的腳本:./deviceQuery 可以在使用過程中打印 GPU,./bandwidthTest 可以打印它的帶寬。
Reference:http://docs.nvidia.com/cuda/cuda-installation-guide-linux/index.html
4. 安裝 cuDNN 6.0.21
在英偉達網(wǎng)站上注冊開發(fā)者項目,同意條款。從下拉菜單中選擇 cuDNN v6.0.21 (April 27, 2017), for CUDA 8.0,并下載:
cuDNN v6.0 Runtime Library for Ubuntu16.04 (Deb)
cuDNN v6.0 Developer Library for Ubuntu16.04 (Deb)
cuDNN v6.0 Code Samples and User Guide for Ubuntu16.04 (Deb)
.deb 優(yōu)先于.tar,因為.deb 格式更適用于 Ubuntu,可以進行更純凈的安裝。使用下列命令安裝這三個包:
sudo dpkg -i libcudnn6_6.0.21-1+cuda8.0_amd64.deb
sudo dpkg -i libcudnn6-dev_6.0.21-1+cuda8.0_amd64.deb
sudo dpkg -i libcudnn6-doc_6.0.21-1+cuda8.0_amd64.deb
測試 cuDNN
將已安裝的示例復(fù)制到可讀目錄,然后編譯并運行 mnistCNN。
cp -r /usr/src/cudnn_samples_v6/ $HOME
cd $HOME/cudnn_samples_v6/mnistCUDNN
make clean && make
./mnistCUDNN
如果一切順利,腳本應(yīng)該會返回一條 Test passed! 消息。
卸載 cudnn
使用以下命令卸載三個庫。另外,如果你已經(jīng)創(chuàng)建了樣本,那么再加上 rm -r ~/cudnn_samples_v6。
sudo apt-get remove libcudnn6
sudo apt-get remove libcudnn6-dev
sudo apt-get remove libcudnn6-doc
Reference:cuDNN Installation Guide cuDNN Installation Guide(http://docs.nvidia.com/deeplearning/sdk/cudnn-install/index.html)
5. 安裝 pip 9.0.1
Pip 的升級非常頻繁,幾乎每兩周一次,建議使用最新版本的 pip。
請使用以下命令安裝和升級最新版本的 pip。
sudo apt-get install python-pip python-dev
sudo pip install --upgrade pip
驗證:請確保鍵入 pip -V 后可以打印出版本號。
6. 安裝 Tensorflow 1.3.0
pip install tensorflow-gpu
驗證:啟動$ python,確認是否以下腳本能夠打印出 Hello, Tensorflow!
import tensorflow as tf
hello = tf.constant('Hello, TensorFlow!')
sess = tf.Session()
print(sess.run(hello))
Reference:https://www.tensorflow.org/install/install_linux
7. 安裝 Theano 0.10
Theano 需要的系統(tǒng)環(huán)境:
sudo apt-get install libopenblas-dev cmake git
此外還要遵循 Python 的系統(tǒng)需求。
sudo pip install numpy scipy nose sphinx pydot-ng pycuda scikit-cuda cython
libgpuarray 可以讓 Theano 使用 GPU,它必須從源編譯。首先下載源代碼
git clone https://github.com/Theano/libgpuarray.git
cd libgpuarray
將其編譯為一個名為 Build 的文件夾。
mkdir Build
cd Build
cmake .. -DCMAKE_BUILD_TYPE=Release
make
sudo make install
隨后將其編譯成一個 Python 包。
cd ..
python setup.py build
sudo python setup.py install
將下面一行添加至 ~/.bashrc,這樣 Python 就可以找到庫了。
export LD_LIBRARY_PATH=/usr/local/lib/:$LD_LIBRARY_PATH
最后,安裝 Theano
sudo pip install git+https://github.com/Theano/Theano.git#egg=Theano
驗證:創(chuàng)建測試文件 test_theano.py,其中的內(nèi)容復(fù)制自:http://deeplearning.net/software/theano/tutorial/using_gpu.html#testing-theano-with-GPU
隨后看看 THEANO_FLAGS=device=cuda0 python test_theano.py 在使用了 GPU 之后是否成功。
Reference: Theano 0.9.0 documentation(http://deeplearning.net/software/theano/install_ubuntu.html)
8. 安裝 CNTK 2.2
sudo pip install https://cntk.ai/PythonWheel/GPU/cntk-2.2-cp27-cp27mu-linux_x86_64.whl
驗證:輸入 python -c "import cntk; print(cntk.__version__)",輸出 2.2。
Reference: Setup CNTK on your machine(https://docs.microsoft.com/en-us/cognitive-toolkit/setup-cntk-on-your-machine)
9. 安裝 Keras 2.0.8
sudo pip install keras
驗證:檢查$ python 中的 import keras 是否成功。
Reference: Keras Installation(https://keras.io/#installation)
10. 安裝 PyTorch 0.2.0
PyTorch 運行在兩個庫上: torchvision 和 torch,我們需要這樣安裝:
sudo pip install http://download.pytorch.org/whl/cu80/torch-
0.2.0.post3-cp27-cp27mu-manylinux1_x86_64.whl
sudo pip install torchvision
驗證:以下腳本能夠打印出一個帶有隨機初始浮點數(shù)的張量。
from __future__ import print_function
import torch
x = torch.Tensor(5, 3)
print(x)
Reference: http://pytorch.org/
結(jié)論
目前為止,整個過程中最難的部分是找出 Nvidia 驅(qū)動和深度學(xué)習(xí)包之間的依賴關(guān)系,以及最有效的長期安裝過程。而最簡單的部分是安裝 Python,安裝包和文檔都得到了良好的維護。
雖然閱讀文檔和源代碼都非常耗費時間,但了解每個軟件包的構(gòu)建和功能是非常具有啟發(fā)性的,它也可以幫助我們理解整個 Ubuntu 生態(tài)系統(tǒng)。
希望本文對你有所幫助。?
原文鏈接:https://medium.com/@dyth/deep-learning-software-installation-guide-d0a263714b2
長按下方二維碼 ? ?免費訂閱!
如何加入學(xué)會
注冊學(xué)會會員:
個人會員:
關(guān)注學(xué)會微信:中國指揮與控制學(xué)會(c2_china),回復(fù)“個人會員”獲取入會申請表,按要求填寫申請表即可,如有問題,可在公眾號內(nèi)進行留言。通過學(xué)會審核后方可在線進行支付寶繳納會費。
單位會員:
關(guān)注學(xué)會微信:中國指揮與控制學(xué)會(c2_china),回復(fù)“單位會員”獲取入會申請表,按要求填寫申請表即可,如有問題,可在公眾號內(nèi)進行留言。通過學(xué)會審核后方可繳納會費。
學(xué)會近期活動
1.
2017年12月6日
長按下方學(xué)會二維碼,關(guān)注學(xué)會微信
感謝關(guān)注