如何使用 Python 中的 Pandas 根據特定列合併兩個 csv 檔案?
CSV(逗號分隔值)檔案廣泛用於以簡單格式儲存和交換資料。在許多資料處理任務中,需要根據特定列合併兩個或多個 CSV 檔案。幸運的是,可以使用 Python 中的 Pandas 庫輕鬆實現這一點。
在本文中,我們將學習如何使用 Python 中的 Pandas 根據特定列合併兩個 CSV 檔案。
什麼是 Pandas 庫?
Pandas 是一個用於 Python 中資料操作和分析的開源庫。它提供用於處理結構化資料的工具,例如表格資料、時間序列資料和多維資料,以及高效能資料結構。Pandas 廣泛應用於金融、資料科學、機器學習以及其他需要資料操作的領域。
在 Python 中根據特定列合併兩個 CSV 檔案的步驟
以下是使用 Pandas 庫在 Python 中根據其特定列合併兩個 CSV 檔案的完整步驟:
步驟 1:匯入 Pandas 庫
合併兩個 CSV 檔案的第一步是匯入 pandas 庫。Pandas 是一個功能強大的 Python 資料分析庫。它提供了資料結構,可以有效地儲存和處理大型資料集。要使用 Pandas,我們首先需要在 Python 程式中匯入它。我們可以使用以下命令:
import pandas as pd
步驟 2:讀取 CSV 檔案
我們的下一步是讀取我們要合併的兩個 CSV 檔案。我們可以使用 Pandas 的 read_csv() 函式將 CSV 檔案讀取到 Pandas DataFrame 中。我們需要將 CSV 檔案的檔案路徑或 URL 作為引數提供給 read_csv() 函式。例如:
df1 = pd.read_csv('file1.csv') df2 = pd.read_csv('file2.csv')
步驟 3:合併 CSV 檔案
將 CSV 檔案讀取到 Pandas DataFrame 後,現在是時候使用 merge() 函式根據特定列合併它們了。merge() 函式將兩個 DataFrame 作為輸入,並根據公共列合併它們。以下是基本語法:
merged_df = pd.merge(df1, df2, on='column_name')
在此示例中,merged_df 是包含來自 df1 和 df2 的合併資料的新 DataFrame。on 引數指定兩個 DataFrame 合併所依據的公共列的名稱。
例如,假設我們有兩個 CSV 檔案 sales.csv 和 customers.csv。這兩個檔案都包含一個名為 CustomerID 的列。我們希望根據 CustomerID 列合併這兩個檔案。以下是操作方法:
sales = pd.read_csv('sales.csv') customers = pd.read_csv('customers.csv') merged_df = pd.merge(sales, customers, on='CustomerID')
步驟 4:處理缺失值(如果有)
根據特定列合併兩個 CSV 檔案時,合併後的 DataFrame 中可能存在缺失值。如果其中一個 CSV 檔案的對應列中沒有匹配值,則可能會出現這些缺失值。
要處理缺失值,我們可以使用 Pandas 的 fillna() 函式用預設值或計算值替換它們。例如,我們可以使用以下程式碼將缺失值替換為字串“Unknown”:
merged_df.fillna('Unknown', inplace=True)
在此示例中,我們使用了 fillna() 函式將合併後的 DataFrame 中的缺失值替換為字串“Unknown”。我們還將 inplace 引數指定為 True,這意味著將修改原始 DataFrame 而不是建立一個新的 DataFrame。
示例 1:使用 Merge() 函式
在此示例中,我們將使用 Pandas 的 merge() 函式根據特定列合併兩個 CSV 檔案。
CSV Files
假設我們有兩個 CSV 檔案:employees.csv 和 departments.csv。employees.csv 檔案包含以下資料:
員工 ID | 姓名 | 部門 ID | 工資 |
---|---|---|---|
1 | 約翰 | 1 | 50000 |
2 | 莎拉 | 2 | 60000 |
3 | 大衛 | 1 | 55000 |
4 | 亞歷克斯 | 3 | 65000 |
5 | 艾米麗 | 2 | 55000 |
departments.csv 檔案包含以下資料:
部門 ID | 部門名稱 |
---|---|
1 | IT |
2 | 銷售 |
3 | 市場 |
4 | 人力資源 |
示例
import pandas as pd # Load CSV files employees = pd.read_csv('employees.csv') departments = pd.read_csv('departments.csv') # Merge dataframes based on DepartmentID column merged_df = pd.merge(employees, departments, on='DepartmentID') # Print merged dataframe print(merged_df.head()) # Save merged dataframe to a new CSV file merged_df.to_csv('merged_employees_departments.csv', index=False)
輸出
EmployeeID Name DepartmentID Salary DepartmentName 0 1 John 1 50000 IT 1 3 David 1 55000 IT 2 2 Sarah 2 60000 Sales 3 5 Emily 2 55000 Sales 4 4 Alex 3 65000 Marketing
示例 2:使用 Join() 函式
在此示例中,我們將使用 Pandas 的 join() 方法根據特定列合併兩個 CSV 檔案。
CSV Files
假設我們有兩個 CSV 檔案:orders.csv 和 customers.csv。orders.csv 檔案包含以下資料:
訂單 ID | 客戶 ID | 訂單日期 | 總金額 |
---|---|---|---|
1 | 1 | 2022-05-01 | 100.0 |
2 | 3 | 2022-05-02 | 150.0 |
3 | 2 | 2022-05-03 | 200.0 |
4 | 1 | 2022-05-04 | 75.0 |
5 | 4 | 2022-05-05 | 120.0 |
customers.csv 檔案包含以下資料:
客戶 ID | 客戶姓名 | 電子郵件 |
---|---|---|
1 | 約翰 | john@example.com |
2 | 莎拉 | sarah@example.com |
3 | 大衛 | david@example.com |
4 | 艾米麗 | emily@example.com |
示例
import pandas as pd # Load CSV files orders = pd.read_csv('orders.csv') customers = pd.read_csv('customers.csv') # Join dataframes based on CustomerID column joined_df = orders.set_index('CustomerID').join(customers.set_index('CustomerID')) # Print joined dataframe print(joined_df.head()) # Save joined dataframe to a new CSV file joined_df.to_csv('joined_orders_customers.csv')
輸出
OrderID OrderDate TotalAmount CustomerName Email CustomerID 1 1 2022-05-01 100.0 John john@example.com 1 4 2022-05-04 75.0 John john@example.com 2 3 2022-05-03 200.0 Sarah sarah@example.com 3 2 2022-05-02 150.0 David david@example.com 4 5 2022-05-05 120.0 Emily emily@example.com
在本例中,我們使用 Pandas 的 merge() 函式根據“id”列合併了兩個 CSV 檔案。合併兩個 CSV 檔案的結果 DataFrame 包括“id”列以及“name_x”、“email_x”、“name_y”和“email_y”列。
請注意,合併後的 DataFrame 中的“name_y”和“email_y”部分存在缺失值,這與第二個 CSV 記錄中沒有匹配值的行相關。如前一步所示,可以使用 Pandas 的 fillna() 和 dropna() 函式來處理這些缺失值。
結論
根據特定列合併兩個 CSV 檔案是一項常見的資料處理任務,可以使用 Python 中的 Pandas 庫輕鬆實現。在本文中,我們學習瞭如何使用 Pandas 的 merge() 函式合併兩個 CSV 檔案。我們還討論瞭如何處理缺失值以及如何將合併後的 DataFrame 儲存到新的 CSV 檔案中。