آخرین نسخه رسمی Ollama را از سایت سازنده دریافت کنید:
Ollama چیست؟
Ollama یک پلتفرم متنباز برای اجرای مدلهای زبانی (LLM) روی کامپیوتر شخصی است. با یک نصبگر سبک و چند دستور ساده میتوانید مدلهایی مثل Llama، Mistral، Gemma، Phi و دهها مدل دیگر را دانلود و در ترمینال یا از طریق API محلی استفاده کنید.
- اجرای آفلاین پس از دانلود مدل
- پشتیبانی از GPU (در صورت نصب درایور مناسب)
- مدیریت نسخههای مختلف مدل با دستورات کوتاه
- ارائه API سازگار با OpenAI برای اتصال اپلیکیشنها
سیستم مورد نیاز
| سیستمعامل | حداقل پیشنهادی |
|---|---|
| ویندوز 10/11 (64-bit) | ۸ گیگ RAM؛ ۱۶ گیگ برای مدلهای بزرگتر |
| macOS 11+ (Apple Silicon یا Intel) | ۸ گیگ RAM؛ Metal برای شتابدهی |
| لینوکس (توزیعهای رایج) | CUDA/ROCm اختیاری برای GPU |
ollama pull فضای دیسک کافی در نظر بگیرید.دانلود و نصب Ollama
ویندوز و macOS
از لینک بالا فایل نصبگر را بگیرید، مراحل نصب را طی کنید و پس از اتمام، Ollama معمولاً در پسزمینه اجرا میشود (آیکون در System Tray یا نوار منو).
لینوکس
نصب با یک خط در ترمینال (طبق دستور رسمی سایت):
curl -fsSL https://ollama.com/install.sh | sh
اولین اجرا: دانلود و چت با یک مدل
پس از نصب، در ترمینال (PowerShell، CMD، Terminal یا شل لینوکس) دستورات زیر را امتحان کنید:
ollama run llama3.2
در اولین اجرا، مدل بهصورت خودکار دانلود میشود. پس از آماده شدن، میتوانید مستقیماً در همان ترمینال سوال بپرسید. برای خروج از حالت چت معمولاً /bye یا Ctrl+D کار میکند.
دستورات پرکاربرد
| دستور | کاربرد |
|---|---|
ollama list |
نمایش مدلهای نصبشده روی سیستم |
ollama pull mistral |
دانلود مدل بدون ورود به چت |
ollama rm نام-مدل |
حذف مدل و آزاد کردن فضا |
ollama ps |
مدلهای در حال اجرا در حافظه |
API محلی و اتصال به ابزارها
Ollama بهطور پیشفرض روی http://localhost:11434 سرویس میدهد. بسیاری از ویرایشگرها، افزونهها و اپهای دسکتاپ میتوانند با آدرس پایه و endpointهای سازگار با OpenAI به مدل محلی شما متصل شوند.
curl http://localhost:11434/api/generate -d '{
"model": "llama3.2",
"prompt": "سلام، یک جمله کوتاه بنویس.",
"stream": false
}'
مقایسه Ollama و LM Studio
| معیار | Ollama | LM Studio |
|---|---|---|
| رابط کاربری | ترمینال + اپ سبک؛ تمرکز روی CLI | رابط گرافیکی کامل برای چت و تنظیمات |
| نصب مدل | ollama pull و کتابخانه رسمی |
جستجو و دانلود از داخل برنامه |
| مناسب برای | توسعهدهندگان، سرور محلی، اسکریپت | کاربرانی که UI گرافیکی میخواهند |
| هزینه | رایگان و متنباز | رایگان برای استفاده شخصی |
رفع مشکلات رایج
- مدل کند است: مدل کوچکتر (مثلاً نسخههای
3bیا1b) انتخاب کنید یا از GPU فعال استفاده کنید. - خطای حافظه: مدلهای در حال اجرا را با
ollama psببینید و برنامههای دیگر را ببندید. - فایروال: در شبکه سازمانی ممکن است دانلود مدل مسدود شود؛ از اتصال پایدار یا آینه استفاده کنید.
جمعبندی
با دانلود Ollama از ollama.com/download میتوانید در چند دقیقه اولین مدل را اجرا کنید. اگر به رابط گرافیکی و تنظیمات بصری بیشتر نیاز دارید، LM Studio گزینه مکمل خوبی است؛ اگر CLI، API و یکپارچگی با ابزار توسعه برایتان مهم است، Ollama انتخاب عملیتری است.
