Microsoft Cognitive Toolkit (CNTK) - CPU 和 GPU

Microsoft Cognitive Toolkit 提供兩種不同的構建版本，即僅 CPU 版本和僅 GPU 版本。

僅 CPU 構建版本

CNTK 的僅 CPU 構建版本使用最佳化的 Intel MKLML，其中 MKLML 是 MKL（數學核心庫）的子集，並作為 Intel MKL for MKL-DNN 的終止版本與 Intel MKL-DNN 一起釋出。

僅 GPU 構建版本

另一方面，CNTK 的僅 GPU 構建版本使用高度最佳化的 NVIDIA 庫，例如 CUB 和 cuDNN。它支援跨多個 GPU 和多臺機器的分散式訓練。為了在 CNTK 中實現更快的分散式訓練，GPU 構建版本還包括：

• MSR 開發的 1 位量化 SGD。

• 塊動量 SGD 並行訓練演算法。

在 Windows 上使用 CNTK 啟用 GPU

在上一節中，我們瞭解瞭如何安裝 CNTK 的基本版本以與 CPU 一起使用。現在讓我們討論如何安裝 CNTK 以與 GPU 一起使用。但是，在深入研究之前，您首先應該擁有一張受支援的顯示卡。

目前，CNTK 支援 NVIDIA 顯示卡，並且至少需要 CUDA 3.0 支援。要確保這一點，您可以在 https://developer.nvidia.com/cuda-gpus 檢查您的 GPU 是否支援 CUDA。

因此，讓我們看看在 Windows 作業系統上使用 CNTK 啟用 GPU 的步驟：

步驟 1 - 根據您使用的顯示卡，您首先需要擁有顯示卡的最新 GeForce 或 Quadro 驅動程式。

步驟 2 - 下載驅動程式後，您需要從 NVIDIA 網站 https://developer.nvidia.com/cuda-90-download-archive?target_os=Windows&target_arch=x86_64 安裝 CUDA 工具包版本 9.0 for Windows。安裝後，執行安裝程式並按照說明操作。

步驟 3 - 接下來，您需要從 NVIDIA 網站 https://developer.nvidia.com/rdp/form/cudnn-download-survey 安裝 cuDNN 二進位制檔案。對於 CUDA 9.0 版本，cuDNN 7.4.1 可以很好地工作。基本上，cuDNN 是 CUDA 之上的一個層，由 CNTK 使用。

步驟 4 - 下載 cuDNN 二進位制檔案後，您需要將 zip 檔案解壓縮到 CUDA 工具包安裝的根資料夾中。

步驟 5 - 這是最後一步，它將啟用 CNTK 中的 GPU 使用。在 Windows 作業系統上的 Anaconda 提示符中執行以下命令：

pip install cntk-gpu

在 Linux 上使用 CNTK 啟用 GPU

讓我們看看如何在 Linux 作業系統上使用 CNTK 啟用 GPU：

下載 CUDA 工具包

首先，您需要從 NVIDIA 網站 https://developer.nvidia.com/cuda-90-download-archive?target_os=Linux&target_arch=x86_64&target_distro=Ubuntu&target_version=1604&target_type =runfilelocal 安裝 CUDA 工具包。

執行安裝程式

現在，一旦您在磁碟上擁有二進位制檔案，請透過開啟終端並執行以下命令以及螢幕上的說明來執行安裝程式：

sh cuda_9.0.176_384.81_linux-run

修改 Bash 配置檔案

在 Linux 機器上安裝 CUDA 工具包後，您需要修改 BASH 配置檔案。為此，首先在文字編輯器中開啟 $HOME/ .bashrc 檔案。現在，在指令碼的末尾，包含以下行：

export PATH=/usr/local/cuda-9.0/bin${PATH:+:${PATH}}
export LD_LIBRARY_PATH=/usr/local/cuda-9.0/lib64\
${LD_LIBRARY_PATH:+:${LD_LIBRARY_PATH}}
Installing

安裝 cuDNN 庫

最後，我們需要安裝 cuDNN 二進位制檔案。它可以從 NVIDIA 網站 https://developer.nvidia.com/rdp/form/cudnn-download-survey 下載。對於 CUDA 9.0 版本，cuDNN 7.4.1 可以很好地工作。基本上，cuDNN 是 CUDA 之上的一個層，由 CNTK 使用。

下載 Linux 版本後，使用以下命令將其解壓縮到 /usr/local/cuda-9.0 資料夾中：

tar xvzf -C /usr/local/cuda-9.0/ cudnn-9.0-linux-x64-v7.4.1.5.tgz

根據需要更改檔名的路徑。