BigQuery - 連線外部資料來源



到目前為止,本教程的大部分內容都涉及 UI 和雲終端,現在是時候探索透過外部資料來源連線 BigQuery 了。

在 UI 中編寫查詢的侷限性

雖然在 BigQuery Studio 中編寫查詢可能很方便,但事實是,這隻能滿足有限的用途:

  • 初步開發 SQL 查詢或指令碼
  • 除錯查詢
  • 進行抽查或質量保證

僅僅在 UI 中編寫和執行查詢並不能幫助交付自動化資料解決方案。這意味著在 BigQuery SQL 環境中,您無法:

  • 訪問 BigQuery API
  • 與 Airflow 整合
  • 建立 ETL 管道

外部 BigQuery 整合

在接下來的章節中,我們將探討如何將 BigQuery 與以下內容整合:

  • BigQuery 計劃查詢
  • BigQuery API (Python)
  • Cloud Composer / Airflow
  • Google 表格
  • BigQuery 資料傳輸

外部 BigQuery 整合使開發人員能夠利用 SQL 的強大功能來執行以下任務:

  • 建立自動化提取載入 (EL) 作業
  • 建立提取轉換載入 (ETL) 作業
  • 建立提取載入轉換 (ELT) 作業
廣告
© . All rights reserved.