Text Generation WebUI硬體需求
開源AI人工智慧應用
大型語言模型

作者
Ivon Huang
目錄
Text Generation WebUI使用教學 - 系列文章
系列之 2: 本篇文章
作業系統 #
- Linux建議Ubuntu 22.04以上版本
- Windows建議使用Windows 10以上版本
- macOS建議Ventura以上版本,M1處理器的更好
硬體需求 #
- CPU:四核心以上CPU
- GPU:Nvidia/AMD/Intel/Apple,推薦使用Nvidia顯示卡
- GPU VRAM:6GB以上
- RAM:16GB以上。如果電腦沒有SWAP/分頁檔建議直接上32GB
- 儲存空間:至少30GB
GPU非必須品,因Text Generation WebUI支援以純CPU模式運算(llama.cpp)。當然有GPU更好,生成回答的速度會快很多。
Text Generation WebUI使用教學 - 系列文章
系列之 2: 本篇文章
相關文章
oobabooga的Text Generation WebUI ~ 離線聊天AI介紹
開源AI人工智慧應用
大型語言模型
LLaMA AI
Large Language Model
自架離線版ChatGPT?Meta的LLaMA開源大型語言模型與相關軟體介紹
開源AI人工智慧應用
大型語言模型
LLaMA AI
Large Language Model
Serge:離線跑類似ChatGPT的聊天AI!支援LLaMA系列大型語言模型
開源AI人工智慧應用
大型語言模型
Self-hosting自架
LLaMA AI
Large Language Model
Docker