SillyTavern為一個AI聊天軟體,可以跟各種虛擬角色聊天,還支援合成語音、生成繪圖、Live2D等功能。
目前,SillyTavern沒有推出官方APP,但要硬跑依然是可以的。
我在SillyTavern安裝教學一文提過,由於SillyTavern只是一個網頁前端,AI運算服務全部外掛,所以主程式是可以在手機跑起來的,免電腦也能用。
架構會變成:手機跑SillyTavern前端,再連線到雲端API跑AI服務。
只要安裝終端機模擬器,再裝NodeJS,就能啟動SillyTavern伺服器,並用手機瀏覽器在本機端存取SillyTavern業界面。
手機SillyTavern界面雖然有點擁擠但是堪用~如果用平板跑會更好。
另外,你也可以改成在電腦架設SillyTavern,再透過手機遠端存取,這樣就不用擔心運算資源的問題了!
1. 安裝SillyTavern#
Android#
請下載Termux,設定允許背景執行。
安裝NodeJS與git
pkg install nodejs git
- 複製SillyTavern儲存庫
git clone https://github.com/SillyTavern/SillyTavern.git
- 啟動SillyTavern網頁服務
cd SillyTavern
./start.sh
用手機瀏覽器開啟
http://127.0.0.1:8000
,你就能夠開聊啦!若要停止服務,回到終端機界面按CTRL+C,停止服務,再輸入
exit
退出。
iOS#
暫無高效率跑NodeJS的方法。
2. 設定線上AI服務#
此處僅介紹大型語言模型的聊天功能。
- 要跟AI聊天你得選擇一個大型語言模型服務,參見SillyTavern 設定大型語言模型服務教學。
SillyTavern預設使用的是AI Horde的線上服務,這個雖然是免費的公共服務,但是需要排隊。
若你的手機性能夠強,那麼也可以透過Termux部署Ollama,本機跑語言模型,再讓SillyTavern連線。
到AI Horde網站註冊一個帳號,取得API Key。
點SillyTavern的插頭圖示,輸入API key,再選個模型。
點選右上角的角色卡編輯角色資料,這裡可以設定初始問候語。
再點一次關閉選單,即可開始對話