SillyTavern是一款為專業玩家設計的大型語言模型聊天軟體,開源免費。
1. SillyTavern特色#
- 簡單上手的角色卡機制,使用各種提示詞打造虛擬角色,開始進行冒險。
- 可自由設定變換表情的圖片、存檔點,打造Glagame的對話體驗。
- 支援長期記憶,對話紀錄保存在本機。
- 支援多種AI聊天服務:可使用線上的ChatGPT、POE,或是本機LLaMA、KoboldAI等大型語言模型作為聊天服務。部份模型可以色色。
- 支援多款AI語音合成引擎,讓角色把對話唸出來。
- 開放原始碼,透過擴充功能,還可加入語音辨識、聲音複製(RVC)、Live2D、AI生圖(Stable Diffusion WebUI)、會動的表情Talking Head、跟AI玩EmulatorJS線上遊戲對戰、網頁搜尋…等好玩的功能。
跟 Text Generation WebUI比起來,SillyTavern屬於專為角色扮演設計的前端,有很多類似玩Galgame的選項。
2. SillyTavern系統需求#
SillyTavern支援Linux、Windows、macOS、Android(Termux)系統。
SillyTavern是高度模組化的軟體,主程式部份只是NodeJS寫成的前端界面,因此SilyTavern本身沒有什麼特殊需求,隨便一台電腦應該都能跑。
需要AI運算的服務主要有這幾個組件:
- 大型語言模型,負責對話生成
- 語音合成
- AI生圖
這些都是外掛的,可自由選配,不一定要全部啟用。
至於說AI服務要怎麼跑,有二種方向:
第一種,全交給線上服務運算,比如大型語言模型部份用付費ChatGPT API,語音合成用付費ElevenLabs,AI生圖用Dall-E。
第二種,在自己的電腦同時跑大型語言模型+語音合成引擎+AI生圖的服務。這樣非常吃效能,建議準備一張Nvidia RTX3060以上等級的GPU,還有16GB以上RAM的電腦。沒有GPU用CPU跑的話也是可以啦,但生圖這部份會非常慢。