🦙
Hosting

Ollama'ni VPS'da işlatiş: qanday resurs kerak va qanday sozlanadi

17.11.2026
← Barça maqolalar

Ollama til modellarini öz kompyuteringiz yoki serveringizda bir neçta buyruq bilan işga tuşiriş imkonini beruvçi vosita. U modelni yuklab oladi, uni xotiraga joylaydi va dasturlar murojaat qilişi uçun oddiy HTTP API taqdim etadi. Köpçilik Ollama'ni avval noutbukda sinab köradi, söng uni doimiy işlaydigan VPS'ga köçirişni xohlaydi. Bu bosqiçda eng köp beriladigan savol bitta: serverda qança xotira, qanday protsessor va qança disk bölişi kerak.

Resurs ehtiyojini model hajmi belgilaydi

Ollama'ning özi juda yengil, asosiy yukni model yaratadi. Model işlayotganda uning oğirliklari töliq operativ xotiraga yoki GPU xotirasiga yuklanadi, şuning uçun xotira hajmi qaysi modelni işlata olişingizni bevosita belgilaydi. Ollama loyihasi hujjatlarida taxminiy yöriqnoma sifatida 7B parametrli modellar uçun kamida 8 GB, 13B modellar uçun 16 GB va 33B modellar uçun 32 GB operativ xotira tavsiya qilingan. Bu raqamlar kvantlangan modellarga tegişli, aniq hajmni esa model sahifasidagi fayl ölçamidan biliş mumkin. Xotiraga faqat model emas, balki operatsion tizim, kontekst va boşqa dasturlar ham siğişi kerakligini unutmang.

Model ölçamiTavsiya etilgan RAMQaysi vazifalarga mos
1B-3B4-8 GBQisqa javoblar, tasniflaş, oddiy xulosalar
7B-8Bkamida 8 GBUmumiy yordamçi, matn bilan işlaş
13B16 GBMurakkabroq tahlil va uzunroq matnlar
33B va undan katta32 GB va undan köpOdatda GPU'li server talab qiladi

CPU'da işlatiş mumkinmi yoki GPU şartmi

Ollama GPU bölmasa ham protsessorda işlay oladi, lekin javob tezligi sezilarli darajada past böladi. Kiçik modellar, ya'ni 1B-3B ölçamdagilar, oddiy köp yadroli VPS'da qisqa sörovlarga maqbul tezlikda javob beradi, içki vositalar va fon vazifalari uçun bu köpinça yetarli. 7B va undan katta modellar CPU'da işlasa ham, real vaqtdagi suhbat uçun sekinlik seziladi. Agar köp foydalanuvçi bir vaqtda işlasa yoki katta model kerak bölsa, GPU'li server haqida öylaş töğri böladi. Disk böyiça ham hisob qiling: har bir model bir neça gigabayt joy egallaydi, bir neçta modelni sinab körsangiz, disk tez töladi.

Misol: maktab uçun içki hujjat yordamçisi

Samarqanddagi xususiy maktab öqituvçilar uçun içki yordamçi yaratmoqçi deylik: u buyruqlar va yiğiliş bayonnomalarini qisqaça xulosa qiladi, ota-onalarga yuboriladigan xabarlar qoralamasini tayyorlaydi. Ma'lumotlar öquvçilar haqidagi şaxsiy ma'lumotlarni öz içiga olgani uçun ularni taşqi xizmatga yubormaslik afzal. Bunday vazifa uçun 3B ölçamdagi model va 8 GB xotirali VPS yaxşi boşlaniş nuqtasi böladi, sayt.uz kabinetidan şunday VPS buyurtma qilib, quyidagi qadamlarni bajariş mumkin.

Ollama'ni örnatiş va birinçi modelni yuklaş

Linux uçun rasmiy örnatiş skripti Ollama'ni systemd xizmati sifatida sozlaydi, şuning uçun u server qayta yuklanganda ham avtomatik işga tuşadi.

curl -fsSL https://ollama.com/install.sh | sh
systemctl status ollama
ollama --version

Söng modelni yuklab, uni sinab köring. ollama ps buyruği xotiraga yuklangan modellarni va ular CPU yoki GPU'da işlayotganini körsatadi, free -h esa qança xotira qolganini bildiradi.

ollama pull llama3.2:3b
ollama run llama3.2:3b "Qisqa salom yoz"
ollama ps
free -h

Ollama standart holatda 127.0.0.1:11434 manzilida API taqdim etadi. Maktab yordamçisining dasturi şu manzilga oddiy HTTP sörov yuborib, javobni JSON körinişida oladi.

curl http://127.0.0.1:11434/api/generate -d '{
  "model": "llama3.2:3b",
  "prompt": "Ushbu matnni uch gapda xulosa qil: ...",
  "stream": false
}'

Xotirani tejaş va parallel sörovlar

Ollama modelni oxirgi sörovdan keyin ma'lum vaqt xotirada saqlab turadi, standart qiymat bir neça daqiqani taşkil qiladi. Agar sörovlar tez-tez kelsa, bu vaqtni uzaytiriş modelni har safar qayta yuklaşning oldini oladi, kam işlatilsa esa qisqartiriş xotirani boşqa dasturlarga böşatadi. OLLAMA_NUM_PARALLEL özgaruvçisi bitta model neçta sörovni bir vaqtda qayta işlaşini belgilaydi, lekin har bir parallel sörov qöşimça xotira talab qilişini hisobga oling.

sudo systemctl edit ollama

[Service]
Environment="OLLAMA_KEEP_ALIVE=30m"
Environment="OLLAMA_NUM_PARALLEL=2"

sudo systemctl restart ollama

API'ni internetga xavfsiz oçiş

Ollama API'sida örnatilgan autentifikatsiya yöq, ya'ni portni oçiq qoldirsangiz, istalgan odam serveringiz resurslaridan bepul foydalanişi mumkin. Şuning uçun OLLAMA_HOST qiymatini 0.0.0.0 qilib töğridan-töğri oçiş örniga, Ollama'ni içki manzilda qoldirib, oldiga parol bilan himoyalangan Nginx qöyiş tavsiya etiladi. Quyidagi misolda ai.example.uz subdomeni uçun basic auth sozlangan, SSL sertifikatni esa Certbot orqali oliş mumkin.

sudo apt install apache2-utils
sudo htpasswd -c /etc/nginx/.ollama_htpasswd maktab

server {
    listen 443 ssl;
    server_name ai.example.uz;
    # ssl_certificate qatorlarini Certbot qo'shadi

    location / {
        auth_basic "Ollama";
        auth_basic_user_file /etc/nginx/.ollama_htpasswd;
        proxy_pass http://127.0.0.1:11434;
        proxy_set_header Host localhost:11434;
        proxy_buffering off;
        proxy_read_timeout 600s;
    }
}

proxy_set_header Host qatori muhim: Ollama sörov qaysi xostdan kelganini tekşiradi va begona nomdagi sörovlarni rad etişi mumkin. Uzun javoblar uçun proxy_read_timeout qiymatini oşiriş va buferlaşni öçiriş javobning bölaklab, real vaqtda kelişini ta'minlaydi. Firewall'da esa 11434-portni taşqi tarmoq uçun yopiq qoldiring.

Qaçon VPS yetmay qoladi

Agar ollama ps modelning bir qismi xotiraga siğmagani uçun sekin işlayotganini körsatsa, server swap'ga tuşib qolsa yoki foydalanuvçilar javobni uzoq kutsa, bu resurslar yetmayotganining belgisi. Bunday holatda kiçikroq yoki kuçliroq kvantlangan modelga ötiş, VPS tarifini oşiriş yoki GPU'li yeçimga ötiş kerak böladi. Köp hollarda töğri tanlangan kiçik model katta modelning sekin işlaşidan köra foydaliroq natija beradi.

Öxşaş maqolalar

🛡️ OJS jurnal saytini botlardan himoyalaş: qidiruv, yuklama va loglar 🛠️ Texnik yordamga töğri murojaat: muammo tez hal bölişi uçun nima yoziş kerak 🧭 Vektor bazani öz serveringizda işlatiş: Qdrant va pgvector 🧭 Portainer: Docker konteynerlarini brauzer orqali boşqariş
🌐 Til
🇺🇿 O⁠'zbek 🇺🇿 Özbek (yangi) ✓ 🇺🇿 Ўзбек 🇷🇺 Русский 🇬🇧 English