Ollama

Ollama يتيح للمطورين والمستخدمين تحميل وتشغيل نماذج LLM مثل Llama 3.3، Phi، Gemma، Mistral، و Qwen على أجهزتهم المحلية (ويندوز، لينكس، ماك) بدون إنترنت. يوفر CLI بسيط، واجهة REST API، ودعم GPU acceleration. يمكن استخدامه مع تطبيقات مثل Open WebUI، Continue (VS Code)، و AnythingLLM. مجاني ومفتوح المصدر.