快轉到主要內容

SillyTavern Extras 擴充功能API 安裝教學

分類   開源AI應用 大型語言模型
🗓️ 民國113年 甲辰年
✍ 切換正體/簡體字
目錄

注意:2024年4月24日,開發者在Github宣佈,SillyTavern Extras專案停止維護,大部份擴充功能已經整合到SillyTavern主程式。所以你應該不用裝這個了。


SillyTavern Extras可以強化原本SillyTavern的功能,內含多款API:語音合成引擎、文本總結模型、Talking Head表情變化、網頁搜尋、連結到Stable Diffusion WebUI等功能。

需要注意的是SillyTavern Extras跟SillyTavern兩個是分開的伺服器服務,所以你得開兩個終端機,才可以同時執行二者。

SillyTavern Extra的部份服務用CPU跑會很慢,用Nvidia CUDA加速跑會比較好。

1. 安裝SillyTavern Extras
#

  1. 新增名為extras的Conda環境
conda create -n extras python=3.11

conda activate extras
  1. 安裝SillyTavern Extra的依賴套件
git clone https://github.com/SillyTavern/SillyTavern-extras

cd SillyTavern-extras

pip install -r requirements-rvc.txt

pip install -r requirements-coqui.txt

# Linux的wxPython需要手動指定發行版對應套件,否則就得用wheel編譯
pip install -U \
    -f https://extras.wxpython.org/wxPython4/extras/linux/gtk3/ubuntu-22.04 \
    wxPython

2. 設定啟動引數
#

SillyTavern的啟動選項決定了啟動後的行為,目前得將啟動引數接在Python指令後面。

啟用以下選項

--port 5100 --listen --enable-modules=coqui-tts,rvc,whisper-stt,classify,talkinghead,caption,summarize,websearch --rvc-save-file --max-content-length=1000 --coqui-gpu --talkinghead-gpu

解說:

--port通訊埠設定5100,--listen啟用外部網路連線。

--enable-modules後面是要啟用的模組,用逗號分隔。

這裡我啟用的有:Coqui語音合成、RVC聲音複製、Whisper STT語音辨識、Tallking Head表情、Caption圖片解說、文本總結、網頁搜尋

--coqui-gpu--talkinghead-gpu代表我要將Coqui和Tallking Head的服務交給GPU運算。

3. 啟動SillyTavern Extras服務
#

  1. 啟動伺服器,server.py後面接啟動引數
python server.py "啟動引數..."
  1. SilllyTavern會依照你啟用的模組,自動下載相關模型資源,請稍待

  2. 到SillyTavern的Extensions頁面,在Extras API欄位輸入預設網址http://localhost:5100,點選連接到Extra服務

參考
#

SillyTavern/SillyTavern-Extras

相關文章

SillyTavern 安裝教學 Linux / Windows / macOS
分類   開源AI應用 大型語言模型
Android手機用Termux Ollama跑任意大型語言模型
分類   開源AI應用 大型語言模型
標籤   Ollama Large Language Model Android Termux
SillyTavern 設定語言模型服務,與AI聊天前最重要的設定步驟
分類   開源AI應用 大型語言模型
標籤   Large Language Model LLaMA AI ChatGPT

留言板

此處提供二種留言板。點選按鈕,選擇您覺得方便的留言板。要討論程式碼請用Giscus,匿名討論請用Disqus。

這是Giscus留言板,需要Github帳號才能留言。支援markdown語法,若要上傳圖片請貼Imgur或Postimages。您的留言會在Github Discussions向所有人公開。

這是Disqus留言板,您可能會看到Disqus強制投放的廣告。為防止垃圾內容,有時留言可能會被系統判定需審核,導致延遲顯示,請見諒。若要上傳圖片請善用圖床網站。