快轉到主要內容

Text Generation WebUI硬體需求

分類   開源AI應用 大型語言模型
🗓️ 民國112年 癸卯年
✍ 切換正體/簡體字
目錄
Text Generation WebUI使用教學 - 點選展開系列文章
2: 本篇文章

作業系統
#

  • Linux建議Ubuntu 22.04以上版本
  • Windows建議使用Windows 10以上版本
  • macOS建議Ventura以上版本,M1處理器的更好

硬體需求
#

  • CPU:四核心以上CPU
  • GPU:Nvidia/AMD/Intel/Apple,推薦使用Nvidia顯示卡
  • GPU VRAM:6GB以上
  • RAM:16GB以上。如果電腦沒有SWAP/分頁檔建議直接上32GB
  • 儲存空間:至少30GB

GPU非必須品,因Text Generation WebUI支援以純CPU模式運算(llama.cpp)。當然有GPU更好,生成回答的速度會快很多。

Text Generation WebUI使用教學 - 點選展開系列文章
2: 本篇文章

相關文章

oobabooga的Text Generation WebUI ~ 離線聊天AI介紹
分類   開源AI應用 大型語言模型
標籤   LLaMA AI Large Language Model
Meta的LLaMA開源大型語言模型與相關軟體介紹
分類   開源AI應用 大型語言模型
標籤   LLaMA AI Large Language Model ChatGPT
Serge:離線跑類似ChatGPT的聊天AI!支援LLaMA系列大型語言模型
分類   開源AI應用 大型語言模型
標籤   LLaMA AI Large Language Model Docker

留言板

此處提供二種留言板。點選按鈕,選擇您覺得方便的留言板。要討論程式碼請用Giscus,匿名討論請用Disqus。

這是Giscus留言板,需要Github帳號才能留言。支援markdown語法,若要上傳圖片請貼Imgur連結。您的留言會在Github Discussions向所有人公開。

這是Disqus留言板,您可能會看到Disqus強制投放的廣告。有時留言可能會被系統判定需審核,導致延遲顯示,請見諒。