AI agent oddiy chat-botdan farq qiladi: u foydalanuvchidan vazifa oladi, til modeliga murojaat qiladi, kerak bo'lsa ma'lumotlar bazasini o'qiydi, tashqi xizmatlarni chaqiradi va natijaga yetguncha bir necha qadamni ketma-ket bajaradi. Shu sababli agent uchun server tanlashda faqat "sayt ochiladimi" degan savol yetarli emas. Jarayon qancha vaqt davom etishi, bir vaqtda nechta foydalanuvchi bilan ishlashi va model qayerda ishlashi oldindan aniq bo'lishi kerak. Ushbu maqolada shu savollarni amaliy misol bilan ko'rib chiqamiz.
Agent serverda aslida nima bilan band bo'ladi
Ko'pchilik AI ilova katta hisoblash quvvatini talab qiladi deb o'ylaydi, lekin bu har doim ham to'g'ri emas. Agar agent tashqi model API'sidan foydalansa, og'ir hisob-kitob provayder tomonida bajariladi, sizning serveringiz esa asosan so'rov yuborib, javob kutib turadi. Bunday holatda protsessor kam yuklanadi, ammo uzoq ochiq turadigan ulanishlar, navbatdagi vazifalar va suhbat konteksti uchun xotira muhim bo'lib qoladi. Agent bir vazifa ustida o'nlab soniya yoki bir necha daqiqa ishlashi mumkin, shuning uchun ilova so'rov tugashi bilan o'chib qoladigan muhitda emas, doimiy ishlaydigan jarayon sifatida turishi kerak.
Model qayerda ishlaydi: API yoki o'z serveringiz
Server talablarini belgilaydigan eng katta omil shu. Model API orqali chaqirilsa, kichik va o'rta loyihalar uchun odatda 2 vCPU va 2-4 GB operativ xotiraga ega VPS yetarli bo'ladi, chunki serverda faqat ilova kodi, navbat va ma'lumotlar bazasi ishlaydi. Agar modelni o'zingiz ishga tushirmoqchi bo'lsangiz, vaziyat butunlay o'zgaradi: hatto kvantlangan kichik modellar ham bir necha gigabayt xotira talab qiladi, tezlik uchun esa GPU yoki kuchli protsessor kerak bo'ladi. Aniq raqamlar model hajmi va kvantlash darajasiga bog'liq, shuning uchun tanlangan modelning hujjatlarini albatta tekshiring.
| Mezon | Model API orqali | Model o'z serverda |
|---|---|---|
| Protsessor | Kam yuklanadi, 1-2 vCPU ko'pincha yetadi | Ko'p yadroli CPU yoki GPU kerak |
| Operativ xotira | Ilova va baza uchun 2-4 GB | Model hajmidan kattaroq xotira |
| Xarajat | Har bir so'rov uchun to'lov | Server ijarasi, so'rovlar uchun alohida to'lov yo'q |
| Maxfiylik | Ma'lumot provayderga yuboriladi | Ma'lumot serveringizda qoladi |
Nega oddiy shared hosting bunday ilovaga mos kelmaydi
Shared hosting asosan PHP saytlar uchun mo'ljallangan: brauzer so'rov yuboradi, skript ishlaydi va bir necha soniyada javob qaytaradi. Agentga esa fonda doimiy ishlaydigan worker, Redis kabi navbat, uzoq vaqt ochiq turadigan ulanishlar va o'zingiz o'rnatadigan Python yoki Node.js kutubxonalari kerak bo'ladi. Shared muhitda bunday jarayonlar vaqt chegarasi tufayli to'xtatiladi yoki umuman ruxsat etilmaydi. Shuning uchun agent uchun root huquqli VPS to'g'ri tanlov hisoblanadi, sayt.uz kabinetidan VPS buyurtma qilib, uni bir necha daqiqada ishga tushirish mumkin.
Xotira, disk va tarmoqni qanday hisoblash kerak
Har bir Python yoki Node.js worker bir necha yuz megabayt xotira egallashi mumkin, agar u katta kontekst yoki hujjatlarni xotirada ushlab tursa, bu ko'rsatkich oshadi. Shuning uchun nechta parallel vazifa bajarilishini oldindan belgilab, worker sonini shunga moslang. Diskka loglar, suhbatlar tarixi va vektor indekslar yoziladi, ular vaqt o'tishi bilan sezilarli hajmga yetadi, shuning uchun SSD disk va loglarni aylantirish sozlamasi kerak. Tarmoq bo'yicha esa agent asosan chet eldagi API'larga HTTPS so'rov yuboradi, demak chiquvchi ulanish barqaror bo'lishi muhim.
Misol: Toshkentdagi klinika uchun qabulga yozish agenti
Tasavvur qiling, Toshkentdagi xususiy klinika bemorlarni Telegram orqali qabulga yozadigan agent ishga tushirmoqchi. Bemor "ertaga kardiologga yozilmoqchiman" deb yozadi, agent PostgreSQL bazasidan bo'sh vaqtlarni o'qiydi, variantlarni taklif qiladi va tanlangan vaqtni band qiladi. Arxitektura oddiy: FastAPI ilovasi Telegram'dan kelgan xabarlarni qabul qiladi, vazifani Redis navbatiga qo'yadi, alohida worker esa model bilan muloqot qilib bazaga yozadi. Bunday tizim uchun 2 vCPU va 4 GB xotirali VPS boshlanishiga yetarli, worker esa systemd orqali doimiy ishlab turadi.
[Unit]
Description=Klinika AI agent worker
After=network.target redis-server.service
[Service]
User=agent
WorkingDirectory=/opt/klinika-agent
EnvironmentFile=/opt/klinika-agent/.env
ExecStart=/opt/klinika-agent/venv/bin/python worker.py
Restart=always
RestartSec=5
MemoryMax=1G
[Install]
WantedBy=multi-user.target
Faylni /etc/systemd/system/klinika-agent.service sifatida saqlab, xizmatni yoqing va loglarini kuzating. MemoryMax qatori worker xotirani nazoratsiz egallab, butun serverni sekinlashtirib qo'yishining oldini oladi.
sudo systemctl daemon-reload
sudo systemctl enable --now klinika-agent
journalctl -u klinika-agent -f
Uzoq javoblar va streaming uchun Nginx sozlamasi
Agent javobni bo'laklab, ya'ni streaming orqali yuborsa, Nginx standart holatda javobni buferlab, foydalanuvchiga hammasini bir vaqtda ko'rsatishi mumkin. Bundan tashqari, standart 60 soniyalik kutish vaqti uzoq ishlaydigan vazifalarni yarmida uzib qo'yadi. Quyidagi sozlama buferlashni o'chiradi va kutish vaqtini oshiradi, shunda foydalanuvchi javob shakllanayotganini real vaqtda ko'radi.
location /api/stream {
proxy_pass http://127.0.0.1:8000;
proxy_http_version 1.1;
proxy_set_header Connection "";
proxy_buffering off;
proxy_read_timeout 300s;
}
API kalitlari va agent huquqlarini cheklash
Model provayderining kaliti pul bilan bog'liq, u sizib chiqsa, boshqalar sizning hisobingizdan foydalanishi mumkin. Kalitni kod ichida emas, .env faylida saqlang, unga chmod 600 bilan faqat ilova foydalanuvchisi o'qiy oladigan huquq bering va faylni Git omboriga qo'shmang. Agentga beriladigan vositalarni ham cheklang: masalan, klinika agenti bazaga faqat jadval va bronlar bo'yicha yozish huquqiga ega alohida foydalanuvchi orqali ulansin. Provayder panelida oylik xarajat chegarasini o'rnatish ham foydali, shunda xato tufayli cheksiz takrorlanib qolgan sikl katta hisob-kitobga aylanmaydi.
Kuzatuv va yuklama oshganda nima qilish kerak
Agent ishga tushgach, uning xatti-harakatini kuzatib borish muhim. Navbat uzunligi, workerlar xotirasi va model javob berish vaqtini muntazam tekshiring, journalctl va oddiy monitoring vositalari bunga yordam beradi. Agar navbat doim to'lib tursa, worker sonini oshirish yoki serverni kattaroq tarifga o'tkazish kerak bo'ladi. Shu tarzda bosqichma-bosqich kengayib borish dastlab ortiqcha quvvat uchun pul to'lashdan ancha samaraliroq.