AI agent oddiy çat-botdan farq qiladi: u foydalanuvçidan vazifa oladi, til modeliga murojaat qiladi, kerak bölsa ma'lumotlar bazasini öqiydi, taşqi xizmatlarni çaqiradi va natijaga yetgunça bir neça qadamni ketma-ket bajaradi. Şu sababli agent uçun server tanlaşda faqat "sayt oçiladimi" degan savol yetarli emas. Jarayon qança vaqt davom etişi, bir vaqtda neçta foydalanuvçi bilan işlaşi va model qayerda işlaşi oldindan aniq bölişi kerak. Uşbu maqolada şu savollarni amaliy misol bilan körib çiqamiz.
Agent serverda aslida nima bilan band böladi
Köpçilik AI ilova katta hisoblaş quvvatini talab qiladi deb öylaydi, lekin bu har doim ham töğri emas. Agar agent taşqi model API'sidan foydalansa, oğir hisob-kitob provayder tomonida bajariladi, sizning serveringiz esa asosan sörov yuborib, javob kutib turadi. Bunday holatda protsessor kam yuklanadi, ammo uzoq oçiq turadigan ulanişlar, navbatdagi vazifalar va suhbat konteksti uçun xotira muhim bölib qoladi. Agent bir vazifa ustida önlab soniya yoki bir neça daqiqa işlaşi mumkin, şuning uçun ilova sörov tugaşi bilan öçib qoladigan muhitda emas, doimiy işlaydigan jarayon sifatida turişi kerak.
Model qayerda işlaydi: API yoki öz serveringiz
Server talablarini belgilaydigan eng katta omil şu. Model API orqali çaqirilsa, kiçik va örta loyihalar uçun odatda 2 vCPU va 2-4 GB operativ xotiraga ega VPS yetarli böladi, çunki serverda faqat ilova kodi, navbat va ma'lumotlar bazasi işlaydi. Agar modelni özingiz işga tuşirmoqçi bölsangiz, vaziyat butunlay özgaradi: hatto kvantlangan kiçik modellar ham bir neça gigabayt xotira talab qiladi, tezlik uçun esa GPU yoki kuçli protsessor kerak böladi. Aniq raqamlar model hajmi va kvantlaş darajasiga boğliq, şuning uçun tanlangan modelning hujjatlarini albatta tekşiring.
| Mezon | Model API orqali | Model öz serverda |
|---|---|---|
| Protsessor | Kam yuklanadi, 1-2 vCPU köpinça yetadi | Köp yadroli CPU yoki GPU kerak |
| Operativ xotira | Ilova va baza uçun 2-4 GB | Model hajmidan kattaroq xotira |
| Xarajat | Har bir sörov uçun tölov | Server ijarasi, sörovlar uçun alohida tölov yöq |
| Maxfiylik | Ma'lumot provayderga yuboriladi | Ma'lumot serveringizda qoladi |
Nega oddiy shared hosting bunday ilovaga mos kelmaydi
Shared hosting asosan PHP saytlar uçun möljallangan: brauzer sörov yuboradi, skript işlaydi va bir neça soniyada javob qaytaradi. Agentga esa fonda doimiy işlaydigan worker, Redis kabi navbat, uzoq vaqt oçiq turadigan ulanişlar va özingiz örnatadigan Python yoki Node.js kutubxonalari kerak böladi. Shared muhitda bunday jarayonlar vaqt çegarasi tufayli töxtatiladi yoki umuman ruxsat etilmaydi. Şuning uçun agent uçun root huquqli VPS töğri tanlov hisoblanadi, sayt.uz kabinetidan VPS buyurtma qilib, uni bir neça daqiqada işga tuşiriş mumkin.
Xotira, disk va tarmoqni qanday hisoblaş kerak
Har bir Python yoki Node.js worker bir neça yuz megabayt xotira egallaşi mumkin, agar u katta kontekst yoki hujjatlarni xotirada uşlab tursa, bu körsatkiç oşadi. Şuning uçun neçta parallel vazifa bajarilişini oldindan belgilab, worker sonini şunga moslang. Diskka loglar, suhbatlar tarixi va vektor indekslar yoziladi, ular vaqt ötişi bilan sezilarli hajmga yetadi, şuning uçun SSD disk va loglarni aylantiriş sozlamasi kerak. Tarmoq böyiça esa agent asosan çet eldagi API'larga HTTPS sörov yuboradi, demak çiquvçi ulaniş barqaror bölişi muhim.
Misol: Toşkentdagi klinika uçun qabulga yoziş agenti
Tasavvur qiling, Toşkentdagi xususiy klinika bemorlarni Telegram orqali qabulga yozadigan agent işga tuşirmoqçi. Bemor "ertaga kardiologga yozilmoqçiman" deb yozadi, agent PostgreSQL bazasidan böş vaqtlarni öqiydi, variantlarni taklif qiladi va tanlangan vaqtni band qiladi. Arxitektura oddiy: FastAPI ilovasi Telegram'dan kelgan xabarlarni qabul qiladi, vazifani Redis navbatiga qöyadi, alohida worker esa model bilan muloqot qilib bazaga yozadi. Bunday tizim uçun 2 vCPU va 4 GB xotirali VPS boşlanişiga yetarli, worker esa systemd orqali doimiy işlab turadi.
[Unit]
Description=Klinika AI agent worker
After=network.target redis-server.service
[Service]
User=agent
WorkingDirectory=/opt/klinika-agent
EnvironmentFile=/opt/klinika-agent/.env
ExecStart=/opt/klinika-agent/venv/bin/python worker.py
Restart=always
RestartSec=5
MemoryMax=1G
[Install]
WantedBy=multi-user.target
Faylni /etc/systemd/system/klinika-agent.service sifatida saqlab, xizmatni yoqing va loglarini kuzating. MemoryMax qatori worker xotirani nazoratsiz egallab, butun serverni sekinlaştirib qöyişining oldini oladi.
sudo systemctl daemon-reload
sudo systemctl enable --now klinika-agent
journalctl -u klinika-agent -f
Uzoq javoblar va streaming uçun Nginx sozlamasi
Agent javobni bölaklab, ya'ni streaming orqali yuborsa, Nginx standart holatda javobni buferlab, foydalanuvçiga hammasini bir vaqtda körsatişi mumkin. Bundan taşqari, standart 60 soniyalik kutiş vaqti uzoq işlaydigan vazifalarni yarmida uzib qöyadi. Quyidagi sozlama buferlaşni öçiradi va kutiş vaqtini oşiradi, şunda foydalanuvçi javob şakllanayotganini real vaqtda köradi.
location /api/stream {
proxy_pass http://127.0.0.1:8000;
proxy_http_version 1.1;
proxy_set_header Connection "";
proxy_buffering off;
proxy_read_timeout 300s;
}
API kalitlari va agent huquqlarini çeklaş
Model provayderining kaliti pul bilan boğliq, u sizib çiqsa, boşqalar sizning hisobingizdan foydalanişi mumkin. Kalitni kod içida emas, .env faylida saqlang, unga chmod 600 bilan faqat ilova foydalanuvçisi öqiy oladigan huquq bering va faylni Git omboriga qöşmang. Agentga beriladigan vositalarni ham çeklang: masalan, klinika agenti bazaga faqat jadval va bronlar böyiça yoziş huquqiga ega alohida foydalanuvçi orqali ulansin. Provayder panelida oylik xarajat çegarasini örnatiş ham foydali, şunda xato tufayli çeksiz takrorlanib qolgan sikl katta hisob-kitobga aylanmaydi.
Kuzatuv va yuklama oşganda nima qiliş kerak
Agent işga tuşgaç, uning xatti-harakatini kuzatib boriş muhim. Navbat uzunligi, workerlar xotirasi va model javob beriş vaqtini muntazam tekşiring, journalctl va oddiy monitoring vositalari bunga yordam beradi. Agar navbat doim tölib tursa, worker sonini oşiriş yoki serverni kattaroq tarifga ötkaziş kerak böladi. Şu tarzda bosqiçma-bosqiç kengayib boriş dastlab ortiqça quvvat uçun pul tölaşdan ança samaraliroq.