機器學習和生成式 AI



在 2022 年 11 月 30 日 ChatGPT 首次釋出後,人們對人工智慧的興趣變得十分廣泛。ChatGPT(GPT 代表生成式預訓練 Transformer)是由 OpenAI 開發的對話式 AI 系統,任何人都可以嘗試並使用它,因為它促進了人與機器之間的自然對話。

在很短的時間內,ChatGPT 讓我們思考 AI 如何影響我們的社會和經濟。但有一點是肯定的,AI 正成為我們生活中不可或缺的一部分,並將塑造我們未來幾年的發展。

就像生成式 AI 是 ChatGPT 和 Dall-E3 等工具背後的“大腦”一樣,人們可以將“機器學習”和“深度學習”視為塑造生成式 AI 的主要組成部分。閱讀本章,瞭解 ML 和 DL 的概述,以及這兩個概念如何在塑造生成式 AI 的當前形式中發揮關鍵作用。

AI 不是一個孤立的學科,它是幫助超越人類能力的每項技術的總稱。藉助下圖,讓我們瞭解各個學科之間以及與 AI 之間的關係。

ML and Generative AI

生成式 AI 是 AI 的最新子型別,它正在重塑創造力和創新的格局。AI 的其他子型別,即機器學習和深度學習,奠定了生成式 AI 的基礎。在本章中,我們將簡要概述生成式 AI 的基礎,包括機器學習、其子型別和深度學習。

機器學習 - 簡要概述

機器學習人工智慧的一個子集,它使計算機系統或機器能夠透過使用演算法或方法從原始資料中提取模式。它透過從經驗和可用資料中學習來構建模型本身,而無需被明確程式設計。

根據訓練方法以及資料可用性,機器學習有以下三種基本學習類別:

監督學習

在這種機器學習類別中,演算法使用帶標籤的資料集進行訓練。基本上,監督學習中的演算法或模型被提供輸入-輸出對,其中每個輸入都與相應的輸出或標籤匹配。主要目標是使模型學習輸入和輸出之間的關係,使其能夠準確地預測或分類新的、未見過的資料。

無監督學習

在這種類別中,與監督學習相反,模型在沒有標籤資料集的情況下進行訓練。它學習自主分析和推匯出資料中的見解。主要目標是使模型學習未標記資料中的關係。

強化學習

在這種機器學習正規化中,模型不是使用帶標籤或未標記的資料,而是藉助代理和環境進行訓練。代理透過與環境互動來學習做出決策。

首先它在環境中採取行動,然後以獎勵或懲罰的形式接收反饋。最後,代理使用反饋來改進其決策過程。

ML 對生成式 AI 的貢獻

讓我們瞭解機器學習如何為生成式 AI 的基礎做出貢獻:

從資料中學習

在開發的早期階段,生成式 AI 模型使用監督學習來訓練模型,以便它們可以根據學習到的輸入和輸出之間的關係生成內容。

理解模式和關係

生成式 AI 利用無監督學習來發現模式和關係。它幫助生成式 AI 模型從未標記資料中生成新內容。

適應性和改進

在生成式 AI 中,適應性非常重要,尤其是在需要持續改進的任務中。生成式 AI 模型使用強化學習根據反饋和獎勵來改進其輸出。實際上,ChatGPT 使用**基於人類反饋的強化學習 (RLHF)**,其中涉及少量人類反饋來改進代理的學習過程。

最佳化模型引數

生成式 AI 模型使用 ML 最佳化技術來微調引數。它增強了它們的效能,並且它們可以生成更準確的內容。

遷移學習

生成式 AI 使用另一種稱為遷移學習的 ML 正規化來預訓練其模型。它有助於模型加速特定內容生成過程的學習。

深度學習 - 簡要概述

深度學習是受人腦結構和功能啟發的 ML 的一個子集。它使用稱為人工神經網路 (ANN) 的多層演算法結構從輸入資料中提取複雜特徵。

與演算法相比,深度學習演算法一旦設定後需要較少的人工干預。它也需要較少的測試時間,因此可以即時生成結果。

讓我們瞭解深度學習如何為生成式 AI 的基礎做出貢獻:

分層表示

為了生成多樣化的內容,生成式 AI 需要學習資料的層次表示。深度神經網路(具有多層的神經網路),一種深度學習模型,幫助生成式 AI 模型做到這一點。

卷積神經網路 (CNN)

它是一種用於分析影像的 ANN(人工神經網路)。它們使用卷積層從輸入影像中自動學習特徵的空間層次結構。生成式 AI 模型使用 CNN 從視覺資料中提取特徵並促進跨模態任務,如文字到影像生成。這使得 CNN 成為推動生成式 AI 能力發展的強大工具。

迴圈神經網路 (RNN)

它們是具有閉環的前饋神經網路,即所有節點都連線到所有其他節點。RNN 中的每個節點都充當輸入和輸出。生成式 AI 模型使用 RNN 從示例中學習並建立遵循其學習到的模式的新資料序列。

大規模資料處理

為了訓練生成式 AI 模型,我們需要訪問大規模資料集。深度學習模型有助於處理此類資料集。

生成對抗網路 (GAN)

生成對抗網路 (GAN) 是一種用於生成建模的深度神經網路架構型別。GAN 因其生成逼真影像、影片和其他內容生成型別的創新方法而被證明非常有效。

結論

在本章中,我們解釋了 AI 的各個學科是如何相互關聯的。我們還概述了機器學習和深度學習,以及它們如何在為生成式 AI 的卓越能力奠定基礎中發揮重要作用。

我們還重點介紹了各種 ML 正規化,包括監督學習、無監督學習和強化學習。很明顯,機器學習和深度學習將在釋放生成式 AI 的全部潛力的過程中發揮至關重要的作用。

廣告
© . All rights reserved.