ONNX 生態系統
ONNX（開放神經網路交換）生態系統是一個工具、平臺和服務的集合，旨在促進使用 ONNX 作為標準格式的機器學習模型的開發、部署和最佳化。ONNX 提供了一種表示機器學習模型的開放格式，從而實現了不同框架和工具之間的互操作性。
一般來說，生態系統是指在一個特定環境中相互作用的元件的複雜網路或互連繫統。ONNX 生態系統旨在增強互操作性、最佳化效能並簡化機器學習模型在各種環境和應用程式中的部署。
ONNX 生態系統的關鍵元件
以下是 ONNX 生態系統的關鍵元件：
ONNX 執行時
ONNX 執行時是一個高效能引擎，旨在高效執行 ONNX 模型。它是一個幫助更快、更高效地執行機器學習模型的工具。ONNX 執行時支援來自 PyTorch、TensorFlow 和 scikit-learn 等流行框架的模型，從而可以輕鬆地在不同環境之間移動模型。
模型轉換和匯出工具
ONNX 提供各種可用的工具：
- ONNX 匯出器：將模型從流行框架（如 PyTorch、TensorFlow 和 scikit-learn）轉換為 ONNX 格式的工具，從而實現模型互操作性和部署。
- ONNX 匯入器：支援將 ONNX 模型匯入到不同框架或環境中以進行進一步處理或部署的工具。
整合平臺
我們可以將 ONNX 與各種平臺整合，其中一些列在下面：
- Azure 機器學習：提供在雲中訓練、部署和管理 ONNX 模型的服務，並與各種 Azure 服務整合以增強可擴充套件性和效能。
- Azure 自定義視覺：允許使用者將其自定義視覺模型匯出為 ONNX 格式，使其可以隨時在不同平臺上部署。
- Azure SQL Edge：支援在邊緣裝置上使用 ONNX 模型進行機器學習預測，從而能夠在 Azure SQL Edge 中進行機器學習模型的推理。
- Azure Synapse Analytics：在 Synapse SQL 中整合 ONNX 模型。
推理伺服器
NVIDIA Triton 推理伺服器：一個支援 ONNX 執行時作為後端的伺服器，可以在 NVIDIA GPU 上實現高效且可擴充套件的模型推理。Triton 提供高效能推理並支援多種模型格式，包括 ONNX。
自動化機器學習
ML.NET：這是一個開源的跨平臺框架，用於在 .NET 生態系統中構建機器學習模型。ML.NET 支援用於推理的 ONNX 模型，允許 .NET 開發人員將其高階 ML 功能整合到他們的應用程式中。
這是一個使用ML.NET 在 C# 控制檯應用程式中進行預測的自動化機器學習 (AutoML) 開放神經網路交換 (ONNX) 模型。
廣告