快轉到主要內容

自架AI搜尋引擎,讓Open WebUI搜尋Google網頁,統整網頁資料

分類   開源AI應用 大型語言模型
標籤   Ollama Google Search
🗓️ 民國113年 甲辰年
✍ 切換正體/簡體字
目錄

自架一個類似Perplexity AI,讓Ollama Open WebUI搜尋並統整網頁資料。

這樣即使語言模型訓練時沒有加入最新資訊,他也能夠透過網路搜尋即時獲取最新資訊。

例如,你問LLaMA語言模型:「2024年台灣總統大選是誰當選?」他會說他的記憶還在2023年以前,所以不能給出答案。

讓他上網搜尋一下呢?很好,他就會告訴你是賴清德。

因為用的語言模型關係,政黨英文名字怪怪的

下面還會列出它的參考資料來源呢!

1. 安裝Open WebUI
#

參見 以Docker部署Ollama + Open WebUI

Ollama背後使用的模型,最小只要3B的版本就足以整理網頁蒐集來的資料了,不過得選擇跟你搜尋語言一樣的模型才能較好的整理資料。

2. 準備搜尋引擎
#

Open WebUI支援SearXNG、Brave、DuckDuckGo、Google、Serper等搜尋引擎。

其中,Duckduckgo開箱即用。SearXNG適合DIY玩家使用,由於他本身是元搜尋引擎,能夠較有效率的統整搜尋結果再讓AI整理。你可以考慮 自架SearXNG並啟用JSON,提供更好的結果給AI。

至於最受歡迎的Google嗎,Open WebUI沒辦法直接存取,你得自行建立「Google程式化搜尋引擎」取得API金鑰。這個搜尋引擎有限額,一週僅限搜尋1000次。

  1. 程式化搜尋引擎新增搜尋引擎

  2. 總覽頁面會看到你的搜尋引擎ID

  3. 在總覽 → 程式輔助存取權,點選新增Custom Search JSON API

  4. 點選Get a key取得API金鑰

3. 如何叫AI搜尋網路結果
#

  1. 開啟Open WebUI,點左下角開啟管理員設定面板,在網頁搜尋設定使用Google PSE,填入搜尋引擎ID與API金鑰

  2. 回到對話頁面,在對話框勾選網頁搜尋,然後詢問一些問題(建議加上「搜尋」提示詞),他會依照你的提示詞搜尋,再按照網頁回答你的問題。

參考資料
#

相關文章

Ollama Open WebUI連接ComfyUI生成圖片操作方法,讓AI指揮AI繪圖
分類   開源AI應用 大型語言模型
標籤   Ollama ComfyUI
Linux用docker-compose部署Open WebUI + Ollama語言模型網頁界面
分類   開源AI應用 大型語言模型
標籤   Ollama Large Language Model Retrieval Augmented Generation Nvidia
組個AI小電腦,樹莓派跑Ollama語言模型與架設Open WebUI網頁伺服器
分類   開源AI應用 大型語言模型
標籤   Ollama Raspberry Pi

留言板

此處提供二種留言板。點選按鈕,選擇您覺得方便的留言板。要討論程式碼請用Giscus,匿名討論請用Disqus。

這是Giscus留言板,需要Github帳號才能留言。支援markdown語法,若要上傳圖片請貼Imgur或Postimages。您的留言會在Github Discussions向所有人公開。

這是Disqus留言板,您可能會看到Disqus強制投放的廣告。為防止垃圾內容,有時留言可能會被系統判定需審核,導致延遲顯示,請見諒。若要上傳圖片請善用圖床網站。