• 圖說:它長得就像 ChatGPT,差別是每一個設定你都看得到、都能接你自己的東西。

  • 上課用的 chatbot 有很多家,Claude、ChatGPT 都要付費版才能接自己的工具,每個人用的又不一樣。所以課堂統一用 AnythingLLM 練習:免費、開源(美國 Mintplex Labs)、裝在自己電腦,長得像 ChatGPT。你在這裡學會的每一個「掛上去」的動作,回去在自己的 chatbot 都有同一個位置,文末有對照表。
  • 你可把本文當小抄,忘了再查即可!隨着教課會持續更新。
  • 版本提醒:AnythingLLM 更新很快,選單名稱可能略有出入,找不到時看圖的位置,不要看字。

  • 一、安裝

    • 桌面版(Mac / Windows)

      • 到官網 anythingllm.com 按 Download,選你的系統,下載安裝檔。
      • Mac:拖進 Applications;第一次開啓如果跳「無法驗證開發者」,到「系統設定 → 隱私與安全性」按「仍要打開」。
      • Windows:執行安裝檔一路 Next;防毒軟體若攔截,選允許。
      • 第一次打開會問你要用哪個 LLM,先跳過,下一節再設。
    • iPad 裝不了桌面版

      • 用自己的 Claude/ChatGPT 訂閱對照做這一段的操作。
      • 或跟旁邊同學一組,共用一台一起做。
  • 二、掛上一個 AI 來源

    • AnythingLLM 自己不會思考,它要接一個模型。課程用 Gemini free tier,D1 已經申請過 API key(沒有的看 D1 小抄)。
    • 左下角齒輪 → AI Providers → LLM
    • LLM Provider:選 Gemini
    • API Key:貼 D1 申請的那把
    • Model:選 gemini-2.5-flash 或當時最新的 flash
    • 按 Save changes
    • 想用 OpenRouter 也可以:Provider 選 OpenRouter,貼 OpenRouter 的 key,模型選一個免費的。OpenRouter 一把 key 能換幾十家模型,適合比較。
    • Embedder(同一個頁面往下):留預設 AnythingLLM Embedder 就好,上傳文件會用到,不用另外申請。
    • 測試:左邊 New Workspace 隨便取個名字,打「你好」。有回答就通了。
  • 三、建你的 Workspace(D2 上午:到職須知、筆記本、圖書館)

    • Workspace 就是一個「位子」:一份提示詞、一批文件、一份成員名單。(技能和 MCP 是整台一起開,不是每個 workspace 各勾一份。)課程對照表裡「在 AnythingLLM 做」的三件事都在這裡。
    • 到職須知(system prompt)

      • 滑鼠移到 workspace 名稱 → 齒輪 → Chat Settings → Prompt
      • 把 D2 寫好的四段(角色、職責、禁令、輸出格式)貼進去,Update workspace。
    • 筆記本(Memories)

      • 聊天視窗右上角設定圖示 → Memories → Enable Personalization 打開
      • 之後聊天中說「記住我是財務部的」它就會存;Memories 側欄看得到、刪得掉。
    • 圖書館(上傳文件)

      • workspace 名稱旁的「上傳」圖示 → 拖檔案進去 → 勾選 → Move to Workspace → Save and Embed
      • PDF、Word、txt 都可以。這是「小圖書館」;D1 做的公司 wiki 是「大圖書館」,那個要用 MCP 接(第五節)。
  • 四、掛上一個 API:n8n webhook(D2 下午:SOP)

    • n8n 那邊做好一條 Webhook 起頭、Respond to Webhook 結尾的流程(D2 的「固定格式月報」就是),複製它的 Production URL。
    • 齒輪 → Agent Skills → Agent Flows → Create Flow
    • Flow 名稱:取成一句話,例如「產生本月固定格式月報」——這句話是給 AI 看的,它靠這句決定要不要用
    • 第一個積木 Flow Information:加一個變數 query
    • 加積木 API Call:URL 貼 n8n 的 webhook、Method 選 POST、Body 選 JSON,內容:
    •   { "query": "${query}" }
    • Save
    • 回聊天視窗,輸入 @agent 幫我產生本月月報@agent 是叫它用工具的開關,不打就只是聊天。
  • 五、掛上一個 MCP(D2 下午、D3 全天)

    • MCP 是「一條線接上一整組工具」。Leo 的 n8n 開了公司 MCP,你拿到的是一個網址和一把 token。
    • 設定檔在哪

      • 齒輪 → Agent Skills → MCP Servers,頁面上會顯示設定檔路徑,也可以直接找:
      • Mac:~/Library/Application Support/anythingllm-desktop/storage/plugins/anythingllm_mcp_servers.json
      • Windows:%APPDATA%\anythingllm-desktop\storage\plugins\anythingllm_mcp_servers.json
    • 貼上這段

      • 用記事本或 TextEdit 打開,整個換成(token 換成課堂發的):
      •   {
            "mcpServers": {
              "sales-mcp": {
                "type": "streamable",
                "url": "https://n8n.uncle6.me/mcp/sales",
                "headers": { "X-N8N-KEY": "你的token" }
              }
            }
          }
      • type 一定要寫 streamable,不寫它會當成舊的 sse,接不上。
      • 存檔,回 MCP Servers 頁按 Refresh。下面列出八個工具名稱(list_sales_teamget_sales_infomonthly_reportget_sales_statusupdate_sales_statuslist_company_docsread_company_docask_sales_specialist)就通了。
    • 用它

      • 輸入 @agent 查王建國的業績
      • 再試 @agent 我是財務部,把 TMC-2024-002 改成已確認,會看到工具回 BLOCKED——規則寫在公司的工具裡,換哪家 chatbot 來叫都一樣。
      • 想確認它用了哪個工具,對話裡會顯示工具名稱。
  • 六、其他會用到的位置

    • 誰看得到哪個 workspace(D3:公司有加你,你才看得到)

      • 技能與 MCP 在 Settings → Agent Skills,整台一起開,不是每個 workspace 各勾一份。
      • 管控靠成員名單:Settings → Users 把人設成 Default;workspace 齒輪 → Members 把人加進去。
      • Default 只看得到、只能在「被加進去」的 workspace 聊天。沒被加進財務部的人,左邊根本沒有財務部。
      • 所以要讓某些人碰不到某個 MCP,就是不把他加進會用到它的 workspace;真的要完全分開,就分兩台。
    • 換 workspace 專用的模型

      • 同一頁最上面 Workspace Agent LLM,可以讓某個 workspace 用不同模型;一般留預設。
    • 常用句子(slash command)

      • 聊天輸入框打 / → Add new preset → 取名、貼常用提示詞
      • 之後打 /月報 就展開整段。這是「純文字的 SOP」,不用 n8n。
    • 匯出 workspace(D5 帶回家)

      • workspace 齒輪 → General Settings 最下面可以刪除;匯出提示詞用複製貼上最保險。MCP 設定檔另外備份一份。
  • 七、這些位置在你自己的 chatbot 叫什麼

    • 課程動作AnythingLLMClaude.aiChatGPT
      到職須知Workspace → Chat Settings → PromptProject → 指令Custom GPT → 指令
      筆記本Memories設定 → 記憶(內建)設定 → 個人化 → 記憶
      上傳文件Workspace 上傳Project → 知識檔Custom GPT → 知識檔
      掛 API(webhook)Agent Flows → API Call無;改走 MCPCustom GPT → Actions
      掛 MCPAgent Skills → MCP Servers(設定檔)設定 → Connectors → 新增自訂連接器設定 → Apps → Advanced → Developer mode → 建立連接器
      誰能用哪些工具工具整台一起開;靠 workspace → Members 決定誰進得去每個對話勾選 connector每個對話勾選 app
      常用句子/ presetProject 指令內Custom GPT 指令內
      費用免費付費方案才能自訂 MCP付費方案才能自訂 MCP,只接遠端 HTTPS
    • 同一個 MCP 網址、同一把 token,三個地方貼的是同一件事。回去先貼一次,通了就把課堂的網址換成你公司自己的。
  • 八、常見卡關

    • Refresh 後 MCP 沒出現工具
    • 九成是 JSON 多一個逗號或少一個括號,貼到 jsonlint.com 檢查
    • type 沒寫 streamable
    • n8n 那邊 workflow 沒有 Activate,或你貼到 Test URL(Test 只活一次)
    • @agent 沒有用工具,只是回答
    • 工具或 flow 的描述太籠統,改成一句具體的話
    • Settings → Agent Skills 裡那個 MCP 被停掉了(整台一起,按 Start 或 Refresh)
    • 聊天輸入框的 Tools 按鈕把它關掉了
    • 回答「我沒有這個能力」
    • 忘了打 @agent
    • 模型回錯誤
    • Gemini free tier 有每分鐘次數限制,等一分鐘再試
    • Mac 打不開安裝檔
    • 系統設定 → 隱私與安全性 → 仍要打開
  • 附錄:課後回家的三個動作

    • 桌面版留著,設定都在
    • 把 MCP 設定裡的網址換成自己 n8n 的網址(D5 的搬家表有清單)
    • 上面的七件事,挑你 chatbot 有的那幾件貼過去;沒有的,繼續 AnythingLLM + n8n

📚 相關文章