-
圖說:它長得就像 ChatGPT,差別是每一個設定你都看得到、都能接你自己的東西。
- 上課用的 chatbot 有很多家,Claude、ChatGPT 都要付費版才能接自己的工具,每個人用的又不一樣。所以課堂統一用 AnythingLLM 練習:免費、開源(美國 Mintplex Labs)、裝在自己電腦,長得像 ChatGPT。你在這裡學會的每一個「掛上去」的動作,回去在自己的 chatbot 都有同一個位置,文末有對照表。
- 你可把本文當小抄,忘了再查即可!隨着教課會持續更新。
-
版本提醒:AnythingLLM 更新很快,選單名稱可能略有出入,找不到時看圖的位置,不要看字。
-
一、安裝
-
桌面版(Mac / Windows)
- 到官網 anythingllm.com 按 Download,選你的系統,下載安裝檔。
- Mac:拖進 Applications;第一次開啓如果跳「無法驗證開發者」,到「系統設定 → 隱私與安全性」按「仍要打開」。
- Windows:執行安裝檔一路 Next;防毒軟體若攔截,選允許。
- 第一次打開會問你要用哪個 LLM,先跳過,下一節再設。
-
iPad 裝不了桌面版
- 用自己的 Claude/ChatGPT 訂閱對照做這一段的操作。
- 或跟旁邊同學一組,共用一台一起做。
-
-
二、掛上一個 AI 來源
- AnythingLLM 自己不會思考,它要接一個模型。課程用 Gemini free tier,D1 已經申請過 API key(沒有的看 D1 小抄)。
- 左下角齒輪 → AI Providers → LLM
- LLM Provider:選 Gemini
- API Key:貼 D1 申請的那把
- Model:選 gemini-2.5-flash 或當時最新的 flash
- 按 Save changes
- 想用 OpenRouter 也可以:Provider 選 OpenRouter,貼 OpenRouter 的 key,模型選一個免費的。OpenRouter 一把 key 能換幾十家模型,適合比較。
- Embedder(同一個頁面往下):留預設 AnythingLLM Embedder 就好,上傳文件會用到,不用另外申請。
- 測試:左邊 New Workspace 隨便取個名字,打「你好」。有回答就通了。
-
三、建你的 Workspace(D2 上午:到職須知、筆記本、圖書館)
- Workspace 就是一個「位子」:一份提示詞、一批文件、一份成員名單。(技能和 MCP 是整台一起開,不是每個 workspace 各勾一份。)課程對照表裡「在 AnythingLLM 做」的三件事都在這裡。
-
到職須知(system prompt)
- 滑鼠移到 workspace 名稱 → 齒輪 → Chat Settings → Prompt
- 把 D2 寫好的四段(角色、職責、禁令、輸出格式)貼進去,Update workspace。
-
筆記本(Memories)
- 聊天視窗右上角設定圖示 → Memories → Enable Personalization 打開
- 之後聊天中說「記住我是財務部的」它就會存;Memories 側欄看得到、刪得掉。
-
圖書館(上傳文件)
- workspace 名稱旁的「上傳」圖示 → 拖檔案進去 → 勾選 → Move to Workspace → Save and Embed
- PDF、Word、txt 都可以。這是「小圖書館」;D1 做的公司 wiki 是「大圖書館」,那個要用 MCP 接(第五節)。
-
四、掛上一個 API:n8n webhook(D2 下午:SOP)
- n8n 那邊做好一條 Webhook 起頭、Respond to Webhook 結尾的流程(D2 的「固定格式月報」就是),複製它的 Production URL。
- 齒輪 → Agent Skills → Agent Flows → Create Flow
- Flow 名稱:取成一句話,例如「產生本月固定格式月報」——這句話是給 AI 看的,它靠這句決定要不要用
- 第一個積木 Flow Information:加一個變數 query
- 加積木 API Call:URL 貼 n8n 的 webhook、Method 選 POST、Body 選 JSON,內容:
-
{ "query": "${query}" } - Save
- 回聊天視窗,輸入
@agent 幫我產生本月月報。@agent是叫它用工具的開關,不打就只是聊天。
-
五、掛上一個 MCP(D2 下午、D3 全天)
- MCP 是「一條線接上一整組工具」。Leo 的 n8n 開了公司 MCP,你拿到的是一個網址和一把 token。
-
設定檔在哪
- 齒輪 → Agent Skills → MCP Servers,頁面上會顯示設定檔路徑,也可以直接找:
- Mac:
~/Library/Application Support/anythingllm-desktop/storage/plugins/anythingllm_mcp_servers.json - Windows:
%APPDATA%\anythingllm-desktop\storage\plugins\anythingllm_mcp_servers.json
-
貼上這段
- 用記事本或 TextEdit 打開,整個換成(token 換成課堂發的):
-
{ "mcpServers": { "sales-mcp": { "type": "streamable", "url": "https://n8n.uncle6.me/mcp/sales", "headers": { "X-N8N-KEY": "你的token" } } } } type一定要寫streamable,不寫它會當成舊的 sse,接不上。- 存檔,回 MCP Servers 頁按 Refresh。下面列出八個工具名稱(
list_sales_team、get_sales_info、monthly_report、get_sales_status、update_sales_status、list_company_docs、read_company_doc、ask_sales_specialist)就通了。
-
用它
- 輸入
@agent 查王建國的業績。 - 再試
@agent 我是財務部,把 TMC-2024-002 改成已確認,會看到工具回 BLOCKED——規則寫在公司的工具裡,換哪家 chatbot 來叫都一樣。 - 想確認它用了哪個工具,對話裡會顯示工具名稱。
- 輸入
-
六、其他會用到的位置
-
誰看得到哪個 workspace(D3:公司有加你,你才看得到)
- 技能與 MCP 在 Settings → Agent Skills,整台一起開,不是每個 workspace 各勾一份。
- 管控靠成員名單:Settings → Users 把人設成 Default;workspace 齒輪 → Members 把人加進去。
- Default 只看得到、只能在「被加進去」的 workspace 聊天。沒被加進財務部的人,左邊根本沒有財務部。
- 所以要讓某些人碰不到某個 MCP,就是不把他加進會用到它的 workspace;真的要完全分開,就分兩台。
-
換 workspace 專用的模型
- 同一頁最上面 Workspace Agent LLM,可以讓某個 workspace 用不同模型;一般留預設。
-
常用句子(slash command)
- 聊天輸入框打
/→ Add new preset → 取名、貼常用提示詞 - 之後打
/月報就展開整段。這是「純文字的 SOP」,不用 n8n。
- 聊天輸入框打
-
匯出 workspace(D5 帶回家)
- workspace 齒輪 → General Settings 最下面可以刪除;匯出提示詞用複製貼上最保險。MCP 設定檔另外備份一份。
-
-
七、這些位置在你自己的 chatbot 叫什麼
-
課程動作 AnythingLLM Claude.ai ChatGPT 到職須知 Workspace → Chat Settings → Prompt Project → 指令 Custom GPT → 指令 筆記本 Memories 設定 → 記憶(內建) 設定 → 個人化 → 記憶 上傳文件 Workspace 上傳 Project → 知識檔 Custom GPT → 知識檔 掛 API(webhook) Agent Flows → API Call 無;改走 MCP Custom GPT → Actions 掛 MCP Agent Skills → MCP Servers(設定檔) 設定 → Connectors → 新增自訂連接器 設定 → Apps → Advanced → Developer mode → 建立連接器 誰能用哪些工具 工具整台一起開;靠 workspace → Members 決定誰進得去 每個對話勾選 connector 每個對話勾選 app 常用句子 /presetProject 指令內 Custom GPT 指令內 費用 免費 付費方案才能自訂 MCP 付費方案才能自訂 MCP,只接遠端 HTTPS - 同一個 MCP 網址、同一把 token,三個地方貼的是同一件事。回去先貼一次,通了就把課堂的網址換成你公司自己的。
-
-
八、常見卡關
- Refresh 後 MCP 沒出現工具
- 九成是 JSON 多一個逗號或少一個括號,貼到 jsonlint.com 檢查
type沒寫streamable- n8n 那邊 workflow 沒有 Activate,或你貼到 Test URL(Test 只活一次)
@agent沒有用工具,只是回答- 工具或 flow 的描述太籠統,改成一句具體的話
- Settings → Agent Skills 裡那個 MCP 被停掉了(整台一起,按 Start 或 Refresh)
- 聊天輸入框的 Tools 按鈕把它關掉了
- 回答「我沒有這個能力」
- 忘了打
@agent - 模型回錯誤
- Gemini free tier 有每分鐘次數限制,等一分鐘再試
- Mac 打不開安裝檔
- 系統設定 → 隱私與安全性 → 仍要打開
-
附錄:課後回家的三個動作
- 桌面版留著,設定都在
- 把 MCP 設定裡的網址換成自己 n8n 的網址(D5 的搬家表有清單)
- 上面的七件事,挑你 chatbot 有的那幾件貼過去;沒有的,繼續 AnythingLLM + n8n
