NovelAI - 模型

自 2021 年 6 月 NovelAI 釋出以來，其創作者已經引入了許多創新的故事創作 AI 模型等等。每個模型的名稱都受到神話的啟發，並配有手工製作的藝術作品。

卡利歐佩 (Calliope) 是 NovelAI 首個釋出的模型，釋出於 2021 年 7 月 16 日。該模型擁有 27 億個引數，但在質量和我們今天使用的其他功能方面存在不足。現在，此模型已不再可用。

當前模型

NovelAI 中的一些當前模型包括 -

1. 愛拉託 (Erato)

愛拉託是最新發布的模型，基於 **Llama 3 70B 基礎模型**，釋出於 2024 年 9 月 23 日。該模型繼續在 Nerdstash 預訓練資料集的更新部分上進行令牌訓練。該模型經過精心調整，尤其適用於講故事的任務。為了讓使用者能夠將更多故事內容融入上下文，採用了 Llama 3 分詞器，取代了 Nerdstash V2 分詞器。

2. 卡伊拉 (Kayra)

卡伊拉於 2023 年 7 月 28 日釋出，是其中一個具有代表性的高階模型，擁有 130 億個引數。該模型以其高質量的故事創作、文字冒險、指令和散文增強功能而聞名，有助於勝任各種任務，例如專案列表和影片轉錄。該模型擁有令人印象深刻的 8192 個令牌上下文視窗，是之前模型的四倍。

3. 克利俄 (Clio)

克利俄於 2023 年 5 月 23 日釋出，是第一個在 Shoggy GPU 叢集上訓練的“從頭開始”模型，擁有 30 億個引數和 1.6 萬億個訓練令牌。儘管該模型比其他模型更小，但它以速度彌補了這一點，因為它可以高效地執行文字冒險、指令和散文增強等任務。

4. 遺留模型

克拉肯 (Krake) 於 2022 年 3 月 11 日釋出，是 NovelAI 微調並使用 EleutherAI 的 Neo-X 20b 模型開發的最大模型之一，旨在提供獨特的講故事體驗。但是，它的生成速度較慢，擁有 2048 個令牌視窗，並且與模組 v2 不相容。厄特佩 (Euterpe) 是另一個遺留模型，基於 Fairseq 家族的 13b 變換器模型，具有令人印象深刻的生成速度和與模組 V2 的相容性。

西格德 (Sigurd) 是 NovelAI 的第二個模型，擁有 60 億個引數，支援自定義和模組 V2，也以其閃電般的生成速度而聞名。源氏 (Genji) 和蛇 (Snek) 是從厄特佩派生的實驗性模型，源氏專注於日語文字生成，而蛇專注於 Python 編碼，但自從推出功能更強大的最新模型後，它們不再推薦用於故事生成。