🦙
Хостинг

Ollama'ни VPS'да ишлатиш: қандай ресурс керак ва қандай созланади

17.11.2026
← Барча мақолалар

Ollama тил моделларини ўз компьютерингиз ёки серверингизда бир нечта буйруқ билан ишга тушириш имконини берувчи восита. У моделни юклаб олади, уни хотирага жойлайди ва дастурлар мурожаат қилиши учун оддий HTTP API тақдим этади. Кўпчилик Ollama'ни аввал ноутбукда синаб кўради, сўнг уни доимий ишлайдиган VPS'га кўчиришни хоҳлайди. Бу босқичда энг кўп бериладиган савол битта: серверда қанча хотира, қандай процессор ва қанча диск бўлиши керак.

Ресурс эҳтиёжини модель ҳажми белгилайди

Ollama'нинг ўзи жуда енгил, асосий юкни модель яратади. Модель ишлаётганда унинг оғирликлари тўлиқ оператив хотирага ёки GPU хотирасига юкланади, шунинг учун хотира ҳажми қайси моделни ишлата олишингизни бевосита белгилайди. Ollama лойиҳаси ҳужжатларида тахминий йўриқнома сифатида 7B параметрли моделлар учун камида 8 GB, 13B моделлар учун 16 GB ва 33B моделлар учун 32 GB оператив хотира тавсия қилинган. Бу рақамлар квантланган моделларга тегишли, аниқ ҳажмни эса модель саҳифасидаги файл ўлчамидан билиш мумкин. Хотирага фақат модель эмас, балки операцион тизим, контекст ва бошқа дастурлар ҳам сиғиши кераклигини унутманг.

Модель ўлчамиТавсия этилган RAMҚайси вазифаларга мос
1B-3B4-8 GBҚисқа жавоблар, таснифлаш, оддий хулосалар
7B-8Bкамида 8 GBУмумий ёрдамчи, матн билан ишлаш
13B16 GBМураккаброқ таҳлил ва узунроқ матнлар
33B ва ундан катта32 GB ва ундан кўпОдатда GPU'ли сервер талаб қилади

CPU'да ишлатиш мумкинми ёки GPU шартми

Ollama GPU бўлмаса ҳам процессорда ишлай олади, лекин жавоб тезлиги сезиларли даражада паст бўлади. Кичик моделлар, яъни 1B-3B ўлчамдагилар, оддий кўп ядроли VPS'да қисқа сўровларга мақбул тезликда жавоб беради, ички воситалар ва фон вазифалари учун бу кўпинча етарли. 7B ва ундан катта моделлар CPU'да ишласа ҳам, реал вақтдаги суҳбат учун секинлик сезилади. Агар кўп фойдаланувчи бир вақтда ишласа ёки катта модель керак бўлса, GPU'ли сервер ҳақида ўйлаш тўғри бўлади. Диск бўйича ҳам ҳисоб қилинг: ҳар бир модель бир неча гигабайт жой эгаллайди, бир нечта моделни синаб кўрсангиз, диск тез тўлади.

Мисол: мактаб учун ички ҳужжат ёрдамчиси

Самарқанддаги хусусий мактаб ўқитувчилар учун ички ёрдамчи яратмоқчи дейлик: у буйруқлар ва йиғилиш баённомаларини қисқача хулоса қилади, ота-оналарга юбориладиган хабарлар қораламасини тайёрлайди. Маълумотлар ўқувчилар ҳақидаги шахсий маълумотларни ўз ичига олгани учун уларни ташқи хизматга юбормаслик афзал. Бундай вазифа учун 3B ўлчамдаги модель ва 8 GB хотирали VPS яхши бошланиш нуқтаси бўлади, sayt.uz кабинетидан шундай VPS буюртма қилиб, қуйидаги қадамларни бажариш мумкин.

Ollama'ни ўрнатиш ва биринчи моделни юклаш

Linux учун расмий ўрнатиш скрипти Ollama'ни systemd хизмати сифатида созлайди, шунинг учун у сервер қайта юкланганда ҳам автоматик ишга тушади.

curl -fsSL https://ollama.com/install.sh | sh
systemctl status ollama
ollama --version

Сўнг моделни юклаб, уни синаб кўринг. ollama ps буйруғи хотирага юкланган моделларни ва улар CPU ёки GPU'да ишлаётганини кўрсатади, free -h эса қанча хотира қолганини билдиради.

ollama pull llama3.2:3b
ollama run llama3.2:3b "Qisqa salom yoz"
ollama ps
free -h

Ollama стандарт ҳолатда 127.0.0.1:11434 манзилида API тақдим этади. Мактаб ёрдамчисининг дастури шу манзилга оддий HTTP сўров юбориб, жавобни JSON кўринишида олади.

curl http://127.0.0.1:11434/api/generate -d '{
  "model": "llama3.2:3b",
  "prompt": "Ushbu matnni uch gapda xulosa qil: ...",
  "stream": false
}'

Хотирани тежаш ва параллел сўровлар

Ollama моделни охирги сўровдан кейин маълум вақт хотирада сақлаб туради, стандарт қиймат бир неча дақиқани ташкил қилади. Агар сўровлар тез-тез келса, бу вақтни узайтириш моделни ҳар сафар қайта юклашнинг олдини олади, кам ишлатилса эса қисқартириш хотирани бошқа дастурларга бўшатади. OLLAMA_NUM_PARALLEL ўзгарувчиси битта модель нечта сўровни бир вақтда қайта ишлашини белгилайди, лекин ҳар бир параллел сўров қўшимча хотира талаб қилишини ҳисобга олинг.

sudo systemctl edit ollama

[Service]
Environment="OLLAMA_KEEP_ALIVE=30m"
Environment="OLLAMA_NUM_PARALLEL=2"

sudo systemctl restart ollama

API'ни интернетга хавфсиз очиш

Ollama API'сида ўрнатилган аутентификация йўқ, яъни портни очиқ қолдирсангиз, исталган одам серверингиз ресурсларидан бепул фойдаланиши мумкин. Шунинг учун OLLAMA_HOST қийматини 0.0.0.0 қилиб тўғридан-тўғри очиш ўрнига, Ollama'ни ички манзилда қолдириб, олдига парол билан ҳимояланган Nginx қўйиш тавсия этилади. Қуйидаги мисолда ai.example.uz субдомени учун basic auth созланган, SSL сертификатни эса Certbot орқали олиш мумкин.

sudo apt install apache2-utils
sudo htpasswd -c /etc/nginx/.ollama_htpasswd maktab

server {
    listen 443 ssl;
    server_name ai.example.uz;
    # ssl_certificate qatorlarini Certbot qo'shadi

    location / {
        auth_basic "Ollama";
        auth_basic_user_file /etc/nginx/.ollama_htpasswd;
        proxy_pass http://127.0.0.1:11434;
        proxy_set_header Host localhost:11434;
        proxy_buffering off;
        proxy_read_timeout 600s;
    }
}

proxy_set_header Host қатори муҳим: Ollama сўров қайси хостдан келганини текширади ва бегона номдаги сўровларни рад этиши мумкин. Узун жавоблар учун proxy_read_timeout қийматини ошириш ва буферлашни ўчириш жавобнинг бўлаклаб, реал вақтда келишини таъминлайди. Firewall'да эса 11434-портни ташқи тармоқ учун ёпиқ қолдиринг.

Қачон VPS етмай қолади

Агар ollama ps моделнинг бир қисми хотирага сиғмагани учун секин ишлаётганини кўрсатса, сервер swap'га тушиб қолса ёки фойдаланувчилар жавобни узоқ кутса, бу ресурслар етмаётганининг белгиси. Бундай ҳолатда кичикроқ ёки кучлироқ квантланган моделга ўтиш, VPS тарифини ошириш ёки GPU'ли ечимга ўтиш керак бўлади. Кўп ҳолларда тўғри танланган кичик модель катта моделнинг секин ишлашидан кўра фойдалироқ натижа беради.

Ўхшаш мақолалар

💾 VPS'да swap: керакми, қанча ва қандай созланади 🗂️ ISPmanager файл менежери билан ишлаш: юклаш, архив, таҳрир ва рухсатлар ⏱️ 504 Gateway Timeout: хато сабаби ва уни босқичма-босқич тузатиш 📜 Хостинг SLA: кафолатлар, uptime фоизи ва компенсация қандай ишлайди
🌐 Тил
🇺🇿 O'zbek 🇺🇿 Ўзбек ✓ 🇷🇺 Русский 🇬🇧 English