AI-агент отличается от обычного чат-бота: он получает задачу, обращается к языковой модели, при необходимости читает базу данных, вызывает внешние сервисы и выполняет несколько шагов подряд, пока не получит результат. Поэтому при выборе сервера недостаточно спросить, «откроется ли сайт». Нужно заранее понимать, сколько длится одна задача, сколько пользователей работает одновременно и где именно выполняется модель. В этой статье разберём эти вопросы на практическом примере.
Чем агент на самом деле занят на сервере
Принято считать, что любое AI-приложение требует огромных вычислительных мощностей, но это не всегда так. Если агент использует внешний API модели, тяжёлые вычисления выполняются на стороне провайдера, а ваш сервер в основном отправляет запросы и ждёт ответа. Процессор при этом загружен слабо, зато важны долгоживущие соединения, очередь задач и память для контекста диалога. Агент может работать над одной задачей десятки секунд или несколько минут, поэтому приложение должно быть постоянно запущенным процессом, а не скриптом, который завершается вместе с запросом.
Где работает модель: API или собственный сервер
Это главный фактор, определяющий требования. Если модель вызывается через API, для небольших и средних проектов обычно хватает VPS с 2 vCPU и 2–4 ГБ оперативной памяти: на сервере работают только код приложения, очередь и база данных. Если же вы хотите запускать модель самостоятельно, картина меняется полностью: даже небольшие квантованные модели требуют нескольких гигабайт памяти, а для приемлемой скорости нужен GPU или мощный процессор. Точные цифры зависят от размера модели и уровня квантования, поэтому обязательно сверяйтесь с документацией выбранной модели.
| Критерий | Модель через API | Модель на своём сервере |
|---|---|---|
| Процессор | Нагрузка низкая, часто хватает 1–2 vCPU | Нужен многоядерный CPU или GPU |
| Оперативная память | 2–4 ГБ для приложения и базы | Больше, чем размер модели |
| Расходы | Оплата за каждый запрос | Аренда сервера без оплаты за запросы |
| Конфиденциальность | Данные уходят провайдеру | Данные остаются на вашем сервере |
Почему обычный виртуальный хостинг не подходит
Виртуальный хостинг рассчитан в первую очередь на PHP-сайты: браузер отправляет запрос, скрипт выполняется и за пару секунд возвращает ответ. Агенту же нужны постоянно работающий фоновый воркер, очередь вроде Redis, долгие открытые соединения и библиотеки Python или Node.js, которые вы устанавливаете сами. В общей среде такие процессы прерываются по лимиту времени или вовсе запрещены. Поэтому правильный выбор для агента — VPS с root-доступом; в кабинете sayt.uz его можно заказать и запустить за несколько минут.
Как рассчитать память, диск и сеть
Каждый воркер на Python или Node.js может занимать несколько сотен мегабайт памяти, а если он держит в памяти большой контекст или документы, этот показатель растёт. Поэтому заранее определите, сколько задач будет выполняться параллельно, и подберите число воркеров под это. На диск пишутся логи, история диалогов и векторные индексы, со временем они занимают заметный объём, так что нужен SSD и настроенная ротация логов. Что касается сети, агент в основном отправляет HTTPS-запросы к зарубежным API, поэтому важна стабильность исходящих соединений.
Пример: агент записи на приём для клиники в Ташкенте
Представим частную клинику в Ташкенте, которая хочет записывать пациентов через Telegram. Пациент пишет «хочу завтра к кардиологу», агент читает свободные слоты из PostgreSQL, предлагает варианты и бронирует выбранное время. Архитектура простая: приложение на FastAPI принимает сообщения из Telegram и ставит задачу в очередь Redis, а отдельный воркер общается с моделью и записывает результат в базу. Для старта такой системе достаточно VPS с 2 vCPU и 4 ГБ памяти, а воркер постоянно работает под управлением systemd.
[Unit]
Description=Klinika AI agent worker
After=network.target redis-server.service
[Service]
User=agent
WorkingDirectory=/opt/klinika-agent
EnvironmentFile=/opt/klinika-agent/.env
ExecStart=/opt/klinika-agent/venv/bin/python worker.py
Restart=always
RestartSec=5
MemoryMax=1G
[Install]
WantedBy=multi-user.target
Сохраните файл как /etc/systemd/system/klinika-agent.service, включите службу и следите за логами. Строка MemoryMax не даст воркеру бесконтрольно занять память и замедлить весь сервер.
sudo systemctl daemon-reload
sudo systemctl enable --now klinika-agent
journalctl -u klinika-agent -f
Настройка Nginx для долгих ответов и стриминга
Если агент отдаёт ответ по частям, то есть в режиме стриминга, Nginx по умолчанию может буферизовать его и показать пользователю всё сразу. Кроме того, стандартный таймаут в 60 секунд обрывает долгие задачи на середине. Настройка ниже отключает буферизацию и увеличивает время ожидания, и пользователь видит, как ответ формируется в реальном времени.
location /api/stream {
proxy_pass http://127.0.0.1:8000;
proxy_http_version 1.1;
proxy_set_header Connection "";
proxy_buffering off;
proxy_read_timeout 300s;
}
API-ключи и ограничение прав агента
Ключ провайдера модели напрямую связан с деньгами: если он утечёт, кто-то другой сможет пользоваться вашим счётом. Храните ключ не в коде, а в файле .env, выставьте ему права chmod 600, чтобы читать его мог только пользователь приложения, и не добавляйте файл в Git-репозиторий. Ограничьте и инструменты агента: например, агент клиники должен подключаться к базе через отдельного пользователя с правами только на расписание и записи. Полезно также установить месячный лимит расходов в панели провайдера, чтобы зациклившийся из-за ошибки процесс не превратился в огромный счёт.
Мониторинг и что делать при росте нагрузки
После запуска важно наблюдать за поведением агента. Регулярно проверяйте длину очереди, потребление памяти воркерами и время ответа модели, в этом помогут journalctl и простые средства мониторинга. Если очередь постоянно переполнена, стоит увеличить число воркеров или перейти на более мощный тариф. Такое поэтапное масштабирование гораздо выгоднее, чем с самого начала платить за избыточные ресурсы.