Apache MXNet - Python API 符號

---

---

本章我們將學習 MXNet 中一個稱為符號 (Symbol) 的介面。

Mxnet.ndarray

Apache MXNet 的符號 API 是一個用於符號程式設計的介面。符號 API 的特點包括：

• 計算圖

• 減少記憶體使用

• 預用函式最佳化

以下示例展示瞭如何使用 MXNet 的符號 API 建立簡單的表示式：

使用來自普通 Python 列表的 1-D 和 2-D '陣列' 建立 NDArray：

import mxnet as mx
# Two placeholders namely x and y will be created with mx.sym.variable
x = mx.sym.Variable('x')
y = mx.sym.Variable('y')
# The symbol here is constructed using the plus ‘+’ operator.
z = x + y

輸出

您將看到以下輸出：

<Symbol _plus0>

示例

(x, y, z)

輸出

輸出如下：

(<Symbol x>, <Symbol y>, <Symbol _plus0>)

現在讓我們詳細討論 MXNet 的 ndarray API 的類、函式和引數。

類

下表包含 MXNet 符號 API 的類：

函式及其引數

以下是 mxnet.Symbol API 中涵蓋的一些重要函式及其引數：

實現示例

在下面的示例中，我們將使用函式 **power()**，它將返回 base 元素的逐元素結果，其冪來自 exp 元素。

import mxnet as mx
mx.sym.power(3, 5)

輸出

您將看到以下輸出：

243

示例

x = mx.sym.Variable('x')
y = mx.sym.Variable('y')
z = mx.sym.power(x, 3)
z.eval(x=mx.nd.array([1,2]))[0].asnumpy()

輸出

這將產生以下輸出：

array([1., 8.], dtype=float32)

示例

z = mx.sym.power(4, y)
z.eval(y=mx.nd.array([2,3]))[0].asnumpy()

輸出

執行上述程式碼時，您應該看到以下輸出：

array([16., 64.], dtype=float32)

示例

z = mx.sym.power(x, y)
z.eval(x=mx.nd.array([4,5]), y=mx.nd.array([2,3]))[0].asnumpy()

輸出

輸出如下：

array([ 16., 125.], dtype=float32)

在下面的示例中，我們將使用函式 **SoftmaxActivation()（或 softmax()）**，它將應用於輸入，並適用於內部層。

input_data = mx.nd.array([[2., 0.9, -0.5, 4., 8.], [4., -.7, 9., 2., 0.9]])
soft_max_act = mx.nd.softmax(input_data)
print (soft_max_act.asnumpy())

輸出

您將看到以下輸出：

[[2.4258138e-03 8.0748333e-04 1.9912292e-04 1.7924475e-02 9.7864312e-01]
[6.6843745e-03 6.0796250e-05 9.9204916e-01 9.0463174e-04 3.0112563e-04]]

symbol.contrib

Contrib NDArray API 定義在 symbol.contrib 包中。它通常為新功能提供許多有用的實驗性 API。此 API 作為社群嘗試新功能的地方。功能貢獻者也將獲得反饋。

函式及其引數

以下是 **mxnet.symbol.contrib API** 中涵蓋的一些重要函式及其引數：

實現示例

在下面的示例中，我們將使用 rand_zipfian 函式從近似齊夫分佈中抽取隨機樣本：

import mxnet as mx
true_cls = mx.sym.Variable('true_cls')
samples, exp_count_true, exp_count_sample = mx.sym.contrib.rand_zipfian(true_cls, 5, 6)
samples.eval(true_cls=mx.nd.array([3]))[0].asnumpy()

輸出

您將看到以下輸出：

array([4, 0, 2, 1, 5], dtype=int64)

示例

exp_count_true.eval(true_cls=mx.nd.array([3]))[0].asnumpy()

輸出

輸出如下：

array([0.57336551])

示例

exp_count_sample.eval(true_cls=mx.nd.array([3]))[0].asnumpy()

輸出

您將看到以下輸出：

array([1.78103594, 0.46847373, 1.04183923, 0.57336551, 1.04183923])

在下面的示例中，我們將使用 **while_loop** 函式執行使用者定義計算和迴圈條件的 while 迴圈：

cond = lambda i, s: i <= 7
func = lambda i, s: ([i + s], [i + 1, s + i])
loop_vars = (mx.sym.var('i'), mx.sym.var('s'))
outputs, states = mx.sym.contrib.while_loop(cond, func, loop_vars, max_iterations=10)
print(outputs)

輸出

輸出如下

[<Symbol _while_loop0>]

示例

Print(States)

輸出

這將產生以下輸出：

[<Symbol _while_loop0>, <Symbol _while_loop0>]

在下面的示例中，我們將使用 **index_copy** 函式將 new_tensor 的元素複製到 old_tensor 中。

import mxnet as mx
a = mx.nd.zeros((6,3))
b = mx.nd.array([[1,2,3],[4,5,6],[7,8,9]])
index = mx.nd.array([0,4,2])
mx.nd.contrib.index_copy(a, index, b)

輸出

執行上述程式碼時，您應該看到以下輸出：

[[1. 2. 3.]
[0. 0. 0.]
[7. 8. 9.]
[0. 0. 0.]
[4. 5. 6.]
[0. 0. 0.]]
<NDArray 6x3 @cpu(0)>

symbol.image

影像符號 API 定義在 symbol.image 包中。顧名思義，它通常用於影像及其特徵。

函式及其引數

以下是 **mxnet.symbol.image API** 中涵蓋的一些重要函式及其引數：

實現示例

在下面的示例中，我們將使用 to_tensor 函式將形狀為 (H x W x C) 或 (N x H x W x C) 且值在 [0, 255] 範圍內的影像 NDArray 轉換為形狀為 (C x H x W) 或 (N x C x H x W) 且值在 [0, 1] 範圍內的張量 NDArray。

import numpy as np

img = mx.sym.random.uniform(0, 255, (4, 2, 3)).astype(dtype=np.uint8)

mx.sym.image.to_tensor(img)

輸出

輸出如下所示：

<Symbol to_tensor4>

示例

img = mx.sym.random.uniform(0, 255, (2, 4, 2, 3)).astype(dtype=np.uint8)

mx.sym.image.to_tensor(img)

輸出

輸出如下所示

<Symbol to_tensor5>

在下面的示例中，我們將使用函式normalize()來歸一化形狀為(C x H x W)或(N x C x H x W)的張量，並使用均值和標準差(SD)。

img = mx.sym.random.uniform(0, 1, (3, 4, 2))

mx.sym.image.normalize(img, mean=(0, 1, 2), std=(3, 2, 1))

輸出

程式碼輸出如下：

<Symbol normalize0>

示例

img = mx.sym.random.uniform(0, 1, (2, 3, 4, 2))

mx.sym.image.normalize(img, mean=(0, 1, 2), std=(3, 2, 1))

輸出

輸出如下所示：

<Symbol normalize1>

symbol.random

隨機符號API定義在symbol.random包中。顧名思義，它是MXNet的隨機分佈生成器符號API。

函式及其引數

以下是mxnet.symbol.random API涵蓋的一些重要函式及其引數：

實現示例

在下面的示例中，我們將使用shuffle()函式隨機打亂元素。它將沿第一個軸打亂陣列。

data = mx.nd.array([[0, 1, 2], [3, 4, 5], [6, 7, 8],[9,10,11]])
x = mx.sym.Variable('x')
y = mx.sym.random.shuffle(x)
y.eval(x=data)

輸出

您將看到以下輸出：

[
[[ 9. 10. 11.]
[ 0. 1. 2.]
[ 6. 7. 8.]
[ 3. 4. 5.]]
<NDArray 4x3 @cpu(0)>]

示例

y.eval(x=data)

輸出

執行上述程式碼時，您應該看到以下輸出：

[
[[ 6. 7. 8.]
[ 0. 1. 2.]
[ 3. 4. 5.]
[ 9. 10. 11.]]
<NDArray 4x3 @cpu(0)>]

在下面的示例中，我們將從廣義負二項分佈中抽取隨機樣本。為此，我們將使用函式generalized_negative_binomial()。

mx.sym.random.generalized_negative_binomial(10, 0.1)

輸出

輸出如下：

<Symbol _random_generalized_negative_binomial0>

symbol.sparse

稀疏符號API定義在mxnet.symbol.sparse包中。顧名思義，它提供稀疏神經網路圖和CPU上的自動微分。

函式及其引數

以下是mxnet.symbol.sparse API涵蓋的一些重要函式（包括符號建立例程、符號操作例程、數學函式、三角函式、雙曲函式、約簡函式、舍入、冪、神經網路）及其引數：

實現示例

在下面的示例中，我們將使用ElementWiseSum()函式隨機打亂元素。它將整數索引對映到向量表示，即詞嵌入。

input_dim = 4
output_dim = 5

示例

/* Here every row in weight matrix y represents a word. So, y = (w0,w1,w2,w3)
y = [[ 0., 1., 2., 3., 4.],
[ 5., 6., 7., 8., 9.],
[ 10., 11., 12., 13., 14.],
[ 15., 16., 17., 18., 19.]]
/* Here input array x represents n-grams(2-gram). So, x = [(w1,w3), (w0,w2)]
x = [[ 1., 3.],
[ 0., 2.]]
/* Now, Mapped input x to its vector representation y.
Embedding(x, y, 4, 5) = [[[ 5., 6., 7., 8., 9.],
[ 15., 16., 17., 18., 19.]],
[[ 0., 1., 2., 3., 4.],
[ 10., 11., 12., 13., 14.]]]