AI 工具雷達
新手路線新手難度:Docker:視使用方式而定來源:人工整理8 分鐘閱讀

本機 AI 入門 7 天試用路線:Ollama、Jan、LM Studio 該怎麼挑第一個

編輯:BJ最後檢查:2026-05-20主要來源:人工整理

想把 AI 跑在自己電腦上,第一個問題不是哪個模型最強,而是你要不要碰終端機、需不需要圖形介面、未來會不會接知識庫。這條 7 天路線幫你用最小成本挑出第一個本機 AI 工具。

本機 AI 入門 7 天試用路線封面,顯示 Ollama、Jan、LM Studio 的行程表
本機 AI 先用 7 天試出自己適合命令列、桌面 App,還是模型管理介面。

本機 AI 最容易讓人誤會的地方,是把它想成「不用付錢的 ChatGPT」。實際上,你省掉的是雲端訂閱或上傳資料的壓力,換來的是電腦規格、模型下載、顯卡記憶體、介面選擇和速度落差。這條路線不會叫你第一天就比較十幾個模型,也不會把 Ollama、Jan、LM Studio 寫成排行榜。你要先回答一個更實際的問題:第一個該裝哪一個,才不會卡在安裝畫面就放棄。

這條路線適合誰、不適合誰

適合你,如果你現在用 Windows、macOS 或 Linux,想把摘要、改寫、翻譯、簡單程式問答放在自己電腦上跑。你可能是研究生、工程師、內容工作者、資料分析師,或者公司內部不能隨便把文件丟到雲端的使用者。你不一定要會寫程式,但至少要願意看下載進度、理解模型大小,並接受本機 AI 有時候比雲端慢。

如果你用的是 8GB 記憶體以下的舊筆電,或者公司電腦不能安裝任何軟體,這條路線會很痛苦。不是完全不能玩,而是你很容易把時間花在等待模型輸出。若你期待本機 AI 第一天就能取代 ChatGPT、Claude 或 Gemini,也不適合。大多數入門本機模型適合做低風險任務,不適合拿來判斷法律、醫療、財務,也不適合直接處理不能出錯的正式報告。

排序依據:先選工作方式,不是先選模型

這條路線的排序是:先判斷你是哪一型使用者,再從一個工具開始,最後才決定要不要換。

如果你願意碰終端機,且未來可能接知識庫、Open WebUI、API 或自架服務,第一個建議從 Ollama 開始。站內先看 Ollama 入門指南,因為它會變成本機模型的底層引擎。

如果你完全不想碰命令列,只想下載模型、按下聊天、看看速度,第一個可以從 LM Studio 開始。可以先看站內的 LM Studio 新手指南,再到官方網站 lmstudio.ai 下載。

如果你想要的是「本機版聊天助理」的感覺,重視桌面 App、對話整理、日常使用介面,而不是把它接到其他服務,Jan 可以排在 LM Studio 後面試。可以搭配站內的 Jan 入門指南,再到官方來源 jan.ai 下載。

這個順序不是說 Ollama 最適合所有人,而是說它最容易延伸。你如果只是想用 GUI 聊天,LM Studio 反而比較省事;你如果想慢慢把本機 AI 接到知識庫或 Web UI,Ollama 會比較不繞路。

Day 1:先看電腦,不要先看模型榜

第一天只做規格盤點。看你的作業系統、記憶體、硬碟空間,以及有沒有獨立顯卡。時間抓 30 分鐘,花費 0 元。這天不要下載 20GB 的模型,因為你還不知道自己的機器承受範圍。

最容易卡住的是看到一堆 7B、13B、70B、Q4、Q8 名詞。先不用背。入門原則只有一個:模型越大通常越吃資源,小模型比較快但能力有限;量化版本比較省空間,但品質可能有落差。想先有一個可讀的本機模型概念,可以搭配 Gemma 開放模型本機 AI 指南。重點不是非用 Gemma,而是理解「模型」和「工具」不是同一件事。

Day 2:多數人先裝 Ollama,但只跑一個小模型

第二天,如果你能接受終端機,就裝 Ollama。照 Ollama 入門指南 跑一個小模型,不要同時下載好幾個。時間抓 1 到 2 小時,花費 0 元,真正成本是硬碟空間和等待時間。

這天的測試題不要太難。請它摘要一段 500 字文章、把一段英文翻成繁中、解釋一段簡單程式、改寫一封內部公告。不要拿它來讀整本 PDF 或處理公司機密資料。你要測的是「本機 AI 在你電腦上能不能順暢回應」,不是測它有沒有世界冠軍等級推理能力。

最容易卡住的是終端機指令跑不起來,或模型下載後不知道怎麼換。這時候不要急著換工具,先把 Ollama 當成底層服務理解:它負責在本機管理模型、啟動模型、讓其他工具呼叫模型。

Day 3:怕終端機的人,改試 LM Studio

如果 Day 2 你卡在命令列,Day 3 就不要硬撐。改試 LM Studio(lmstudio.ai)。它適合只想用圖形介面的人:搜尋模型、下載、載入、開聊天視窗,整體感覺比較像一般桌面軟體。時間抓 1 小時,花費通常仍可從 0 元開始,成本一樣是硬體和模型下載。

LM Studio 最容易卡在兩件事:你下載了太大的模型,導致回應慢到不能用;或者你下載了很多模型,結果分不清差異。這天只准保留一個能順跑的小模型,再拿 Day 2 同一組題目測一次。比較標準很簡單:哪個工具讓你更快開始聊天,哪個工具讓你更清楚知道現在跑的是哪個模型。

如果你不熟 GitHub 或開源工具下載流程,可以先讀 GitHub 開源專案新手工作流,避免在陌生下載頁亂點。LM Studio 的操作重點則可以回到 LM Studio 新手指南 對照。

Day 4:Jan 不是必裝,除非你想要桌面助理感

第四天試 Jan(jan.ai),但先講清楚:80% 的入門使用者不需要 Ollama、LM Studio、Jan 三個都裝。Jan 的價值不是「一定比前兩個強」,而是它比較像一個本機聊天 App。如果你在 Day 2 或 Day 3 已經找到順手工具,可以只看官方頁面,不一定安裝。

要試的話,時間抓 1 小時,花費從 0 元開始。拿同一組測試題跑:摘要、翻譯、改寫、簡單程式解釋。最容易卡住的是你以為換一個 App,模型能力就會大幅變強。很多時候差異在介面和模型管理,不在「AI 突然變聰明」。這一步可以回頭對照 Ollama 入門指南,把工具和模型分開看。

Day 4 結束,你要選一個留下來。選法很直接:想接後續工具,留 Ollama;想少碰技術,留 LM Studio;想要桌面聊天助理,留 Jan。不要因為焦慮而三個並行,初學者並行只會增加混亂。

Day 5:加上 Open WebUI,測「本機 AI 能不能變成日常入口」

如果你 Day 4 選的是 Ollama,第五天可以加 Open WebUI。這一步是把本機模型從終端機搬到瀏覽器介面,讓它比較像日常可用的 AI 工作台。先讀 Open WebUI 入門指南,如果你第一次看到 Docker,也要補 什麼是 Docker

時間抓 2 到 3 小時,花費 0 元起,但會花掉比較多安裝耐心。最容易卡住的是 Docker、連接埠、Ollama 服務位置。這也是為什麼 Open WebUI 不放 Day 1:你如果還不知道本機模型能不能順跑,就先裝一層 Web UI,只會多一個故障點。

這天的任務是把 Day 2 的測試題搬到 Open WebUI 裡跑一次。你要觀察的不是答案有沒有突然變神,而是對話管理、模型切換、使用體驗是不是更適合每天打開。

Day 6:拿真實工作測一次,但任務要低風險

第六天開始用真實任務測。內容工作者可以拿一篇自己的草稿做摘要與改寫;工程師可以拿一段非機密程式做解釋;研究生可以拿一段筆記請它整理成提綱。時間抓 1 到 2 小時,花費仍可維持 0 元。

這天最容易卡住的是你開始嫌它不夠聰明。這很正常。本機 AI 的第一個定位不是取代雲端大模型,而是處理低風險、重複、你不想上傳的材料。如果你要長文推理、複雜規劃、跨工具研究,雲端模型通常仍比較穩。可以把本機 AI 當成「私有草稿機」,不要一開始就當「全能顧問」。

Day 7:做出第一個選擇,而不是繼續蒐集工具

第七天只做決策。保留一個主要工具、一個備用工具,其他先刪或停用。你要寫下三件事:哪個工具最容易啟動、哪個工具速度可以接受、哪個工具未來最容易接你的下一步。

如果你選 Ollama,下一步自然是 Open WebUI 或自架知識庫;如果你選 LM Studio,下一步是熟悉模型下載與本機聊天;如果你選 Jan,下一步是看它能不能穩定成為桌面 AI 助理。這裡不需要追最新模型名稱,先把工作流固定下來。

7 天後,你應該能做到什麼?

你應該能分清楚工具、模型、介面三件事;知道自己的電腦大概跑得動什麼等級的模型;能用一個本機 AI 工具完成摘要、翻譯、改寫、簡單程式解釋;也知道什麼任務不該交給本機小模型。更重要的是,你會知道自己第一個該選誰,而不是被三個工具名字推著走。

如果你只想做最少的事

想少碰技術就先裝 LM Studio(lmstudio.ai);想未來接知識庫或 Web UI,就先裝 Ollama,再照 Open WebUI 入門指南 加一層瀏覽器介面。

下一條路線你可能想看


本文最後查證日期:2026-05-07

延伸閱讀

AI coding 新手 30 天試用路線:先在 VS Code 練基本功,再進 Cursor,最後碰 Claude Code

這不是 AI coding 工具排行,而是一條 30 天試用路線。你會先用熟悉的 VS Code 建立修改、解釋、除錯的基本流程,再換到 Cursor 測 codebase 工作流,最後用 Claude Code 看看代理型開發到底適不適合你。

想自架 AI 知識庫,先試這 5 個工具:NotebookLM → MarkItDown → AnythingLLM → Open WebUI → Dify

想做 AI 知識庫,不要第一天就自架 Dify。這條路線先用 NotebookLM 學會資料來源與問答邊界,再用 MarkItDown 整理文件,接著才試 AnythingLLM、Open WebUI 與 Dify。

我電腦能不能跑本機 AI?RAM、VRAM、CPU 白話對照

本機跑 AI 不是只看電腦新不新,而是看模型大小、RAM、VRAM、CPU 和量化格式,這篇用新手能懂的方式解釋電腦規格怎麼影響速度、能跑多大的模型,以及升級時該先看哪個零件。

為什麼我的 AI 突然忘記前面講過的事

Context window 是 AI 一次能讀進腦中的上下文容量,這篇用白話解釋它為什麼會讓 AI 忘記前文、長對話為什麼會失控、它和 Token 費用有什麼關係,以及新手該怎麼整理對話。

MCP 怎麼讓 AI 接上 GitHub 和本機檔案

MCP 是讓 AI 工具連接外部資料與工具的開放協定,這篇用新手能懂的方式解釋 MCP client、server、tool 是什麼,AI 怎麼透過 MCP 讀 GitHub、看本機檔案,以及設定時要注意哪些權限。

開源 AI 工具可以放心裝嗎?先看 README、Issue、Release

開源不代表一定安全,也不代表一定危險,這篇教新手用 README、Issue、Release、License 和安全公告快速判斷一個 AI 工具能不能先裝、要不要等、哪些警訊代表不要碰。