- 生成式AI教程
- 生成式AI - 首頁
- 生成式AI基礎
- 生成式AI基礎
- 生成式AI發展
- 機器學習與生成式AI
- 生成式AI模型
- 判別式模型與生成式模型
- 生成式AI模型的型別
- 機率分佈
- 機率密度函式
- 最大似然估計
- 生成式AI網路
- GAN的工作原理?
- GAN - 架構
- 條件GAN
- StyleGAN和CycleGAN
- 訓練GAN
- GAN的應用
- 生成式AI Transformer
- 生成式AI中的Transformer
- 生成式AI中Transformer的架構
- Transformer中的輸入嵌入
- 多頭注意力機制
- 位置編碼
- 前饋神經網路
- Transformer中的殘差連線
- 生成式AI自編碼器
- 生成式AI中的自編碼器
- 自編碼器的型別和應用
- 使用Python實現自編碼器
- 變分自編碼器
- 生成式AI和ChatGPT
- 一個生成式AI模型
- 生成式AI雜項
- 生成式AI在製造業中的應用
- 生成式AI在開發者中的應用
- 生成式AI在網路安全中的應用
- 生成式AI在軟體測試中的應用
- 生成式AI在營銷中的應用
- 生成式AI在教育中的應用
- 生成式AI在醫療保健中的應用
- 生成式AI在學生中的應用
- 生成式AI在工業中的應用
- 生成式AI在電影中的應用
- 生成式AI在音樂中的應用
- 生成式AI在烹飪中的應用
- 生成式AI在媒體中的應用
- 生成式AI在通訊中的應用
- 生成式AI在攝影中的應用
- 生成式AI資源
- 生成式AI - 有用資源
- 生成式AI - 討論
生成式AI的演變
許多年前,我們智慧手機的預測文字功能讓我們驚歎不已。然後Gmail透過智慧回覆功能簡化了我們的生活,該功能利用機器學習演算法為我們提供單句回覆。這些基本的創新是生成式AI初始形式的例子。但是,從那時起,隨著生成式AI的進步,我們已經走了很長一段路。
生成式AI的演變是一個引人入勝的故事。讓我們看看生成式AI是如何發展並改變AI領域的格局的——
早期AI探索 (1950s - 1980s)
20世紀50年代是AI早期思想出現的時期。1950年,艾倫·圖靈在他發表的論文《計算機械與智慧》中探討了AI的數學可能性,並提出了一個問題:為什麼機器不能像人一樣思考。
然後在1952年,英國計算機科學家**克里斯托弗·斯特雷奇**為曼徹斯特Mark 1計算機建立了一個程式,該程式生成了一封模擬的愛情信。這個程式是第一個文字生成軟體。
1966年,麻省理工學院教授**約瑟夫·魏澤鮑姆**建立了第一個聊天機器人,名為**ELIZA**。它是一個早期的自然語言處理程式,模擬與心理治療師的對話。
1968年,麻省理工學院的斯坦福大學學生**特里·維諾格拉德**建立了一個名為**SHRDLU**的自然語言處理計算機程式。它實際上是演示了一個能夠理解和響應受限塊世界環境中命令的系統。
**邁克爾·託伊**和**格倫·維奇曼**在1980年開發了一個基於Unix的影片遊戲,名為Rogue。它是第一個實現過程生成的動態生成新遊戲關卡的遊戲之一。
神經網路的復興 (1980s - 2010s)
1985年,著名的計算機科學家和哲學家**朱迪亞·珀爾**介紹了貝葉斯網路,也稱為信念網路或因果網路。貝葉斯網路在生成式AI中建立了建模概念。
**邁克爾·喬丹**在1986年發表的論文“序列順序:一種並行分散式處理方法”為使用迴圈神經網路(RNN)奠定了基礎。
1989年,**楊立昆**和**約書亞·本吉奧**展示了卷積神經網路(CNN)在影像識別中的應用。
2003年,蒙特利爾大學的研究人員發表了一篇題為“一種神經機率語言模型”的論文。這篇論文提出了一種使用前饋神經網路進行語言建模的技術。
2006年,斯坦福大學教授**李飛飛**建立了ImageNet資料庫,為視覺目標識別奠定了基礎。
深度學習的統治與Transformer革命 (2010s - 2020s)
2011年,蘋果釋出了**Siri**,這是一個基於深度學習技術的文字轉語音語音助手。
2012年,**Alex Krizhevsky**引入了**AlexNet CNN架構**。這確實是一種自動訓練神經網路的創新方法,它利用了最近的GPU進步。
**伊恩·古德費洛**和他的同事在2014年開發了生成對抗網路(GAN)。同年,**馬克斯·韋林**和**迪德里克·金馬**開發了**變分自編碼器**(VAE)來生成文字、影像和影片。
2015年,斯坦福大學的一組研究人員發表了一篇題為“使用非平衡熱力學進行深度無監督學習”的論文。他們介紹了一種擴散模型技術,它提供了一種反向工程將噪聲新增到影像的過程的方法。
2017年,谷歌的研究人員介紹了Transformer的概念。這項技術自動將未標記的文字解析為**大型語言模型(LLM)**。
2018年,谷歌將Transformer應用於BERT(來自Transformer的雙向編碼器表示)。同年,OpenAI推出了基於Transformer的語言模型**GPT-1**。
專門的生成模型 (2020s - 至今)
2020年,OpenAI釋出了其生成預訓練Transformer的第三個迭代版本,即**GPT-3**。它是能夠生成類似人類文字的最大語言模型之一。
次年,即2021年,OpenAI推出了**DALL-E**,它可以根據文字提示生成影像。2022年11月30日,OpenAI釋出了**ChatGPT的網路預覽版**。
Open AI於2023年釋出了**GPT-4**。這家AI公司聲稱,“GPT-4可以更準確地解決具有挑戰性的問題,這要歸功於其更廣泛的常識和更先進的推理能力。”2023年8月20日,OpenAI推出了DALL-E3。
2023年3月,谷歌釋出了基於其**LaMDA**引擎的**Bard聊天服務**。但是,在2024年2月8日,**谷歌將Bard聊天機器人重新命名為Gemini**。