LM Studio 讀取 PDF、Word 等本地文件的方法，透過 AI 模型聊天

你需要先準備好二個軟體：

• LM Studio
• AnythingLLM

都是完全免費的，可按上方跳轉到官網下載安裝檔。

另外也記得，LM Studio 需要先下載好 AI 模型，看你要用哪一個都可以，寫這篇文章的時間點，我推薦用 Llama 3.1，這是 Meta 最新推出的 LLM 模型，中文能力還不錯。

1. 安裝 LM Studio 和 AnythingLLM

LM Studio 有直接跟 Hugging Face 資料庫串連，因此可直接在裡面尋找和安裝要用的 AI 模型，記得先裝好：

而 Anything LLM 安裝時沒特別需求，一直按下一步即可：

都安裝後，接下來將二個軟體串連起來。

2. 設置二者串連

打開 LM Sudio 的 Local Server 選單，最上方啟用你要使用的 LLM 模型。你可能會需要記下畫面中間，hello world(curl) 顯示的網址，只需要 chat 前面的網址即可，像我的是 http://localhost:1234/v1/：

確認右邊的 Context Length 數值，到時 AnythingLLM 需要設定一樣，預設是 2048，根據你使用的模型不同，提供的上限也不一樣，建議一開始可以先設置 2048，然後再慢慢調整增加。沒問題後，請按下 Start Server：

GPU 用量也建議可以開到 100%，你也能慢慢測試增加。

再來是設定 AnythingLLM，按 Get started：

於清單中找到 LM Studio：

接著下一步後，正常來說下方設置就會自動找到，如果沒有，LM Studio Base URL 就輸入上面說的 curl 網址，確認 LM Studio Model 是不是你選的那一個，Max Tokens 則要跟 LM Studio 的 Context Length 一樣：

這一步調查看你要不要填，不想要就按下方 Skip Survey：

輸入你的 Workspace 名稱，這樣就串連完成了：

3. 上傳文件測試 AI 對話

會打開大家很熟悉的 AI 對話介面，把滑鼠移到左側 Workspace 名稱上方，就會出現上傳按鈕：

將你要讓 AI 讀取的文件上傳，上傳好後，點一下它：

按下方 Move to Workspace，移動到你建立的 Workspace 中：

按右下方的 Save and Embed：

測試我的文件內容，關於暗黑四瓦森 Boss 的資訊：

一切都完成後，就能在聊天室中詢問任何你想知道的文件內容，像我問門票和 200 門票，都準確回答：