- BigQuery 教程
- BigQuery - 首頁
- BigQuery - 概述
- BigQuery - 初始設定
- BigQuery 與本地 SQL 引擎的比較
- BigQuery - Google Cloud Console
- BigQuery - Google Cloud 層次結構
- 什麼是 Dremel?
- 什麼是 BigQuery Studio?
- BigQuery - 資料集
- BigQuery - 表
- BigQuery - 檢視
- BigQuery - 建立表
- BigQuery - 基本架構設計
- BigQuery - 修改表
- BigQuery - 複製表
- 刪除和恢復表
- BigQuery - 填充表
- 標準 SQL 與傳統 SQL
- BigQuery - 編寫第一個查詢
- BigQuery - CRUD 操作
- 分割槽和叢集
- BigQuery - 資料型別
- BigQuery - 複雜資料型別
- BigQuery - STRUCT 資料型別
- BigQuery - ARRAY 資料型別
- BigQuery - JSON 資料型別
- BigQuery - 表元資料
- BigQuery - 使用者自定義函式
- 連線外部資料來源
- 整合計劃查詢
- 整合 BigQuery API
- BigQuery - 整合 Airflow
- 整合連線的表格
- 整合資料傳輸
- BigQuery - 物化檢視
- BigQuery - 角色和許可權
- BigQuery - 查詢最佳化
- BigQuery - BI 引擎
- 監控使用情況和效能
- BigQuery - 資料倉庫
- 挑戰和最佳實踐
- BigQuery 資源
- BigQuery - 快速指南
- BigQuery - 資源
- BigQuery - 討論
BigQuery - 連線外部資料來源
到目前為止,本教程的大部分內容都涉及 UI 和雲終端,現在是時候探索透過外部資料來源連線 BigQuery 了。
在 UI 中編寫查詢的侷限性
雖然在 BigQuery Studio 中編寫查詢可能很方便,但事實是,這隻能滿足有限的用途:
- 初步開發 SQL 查詢或指令碼
- 除錯查詢
- 進行抽查或質量保證
僅僅在 UI 中編寫和執行查詢並不能幫助交付自動化資料解決方案。這意味著在 BigQuery SQL 環境中,您無法:
- 訪問 BigQuery API
- 與 Airflow 整合
- 建立 ETL 管道
外部 BigQuery 整合
在接下來的章節中,我們將探討如何將 BigQuery 與以下內容整合:
- BigQuery 計劃查詢
- BigQuery API (Python)
- Cloud Composer / Airflow
- Google 表格
- BigQuery 資料傳輸
外部 BigQuery 整合使開發人員能夠利用 SQL 的強大功能來執行以下任務:
- 建立自動化提取載入 (EL) 作業
- 建立提取轉換載入 (ETL) 作業
- 建立提取載入轉換 (ELT) 作業
廣告