О продукте. ИСКРА — корпоративный ИИ-ассистент: агенты, работающие с задачами и документами компании, RAG, интеграции с внешними системами (Bitrix24, GitLab, 1С, n8n). Свой продукт, небольшая команда. Инференс на собственных open-source моделях, без внешних LLM-API.
Стек. Python 3.11, FastAPI, asyncpg, PostgreSQL 16 + pgvector, Redis, Kafka, LangChain / LangGraph, Pydantic v2. Вебклиент отдельный: NestJS + Next.js, TypeScript.
Обязанности:
- Проектировать и поднимать новых агентов под предметную область заказчика: промпт, набор инструментов, мультиагентные сценарии.
- Расширять инструментарий агентов: новые tool calls, изолированное исполнение кода, выгрузка результатов файлами, поиск по документам.
- Повышать качество ответов и делать их проверяемыми: автоматическая оценка по трейсам, ссылки на источники, эвалы поиска.
- Интегрировать внешние системы: Bitrix24, 1С, медицинские информационные системы и справочники, инкрементальная синхронизация данных, инструменты агентов поверх них.
- Развивать бизнес-логику продукта: задачи, проекты, отделы, чаты, уведомления, файлы, отчёты руководителю, с проектированием контракта API под фронтенд.
- Участвовать в платформенных изменениях: Kafka, инференс через LiteLLM/vLLM, безопасность API, CI/CD.
Требования:
- Python в бэкенде, уверенный asyncio.
- Архитектурное мышление: разделение ответственности между слоями, проектирование API и схемы данных, умение обосновать решение.
- Активная разработка с нейросетями не менее 2 лет: LLM-агенты в проде, LangGraph или аналог, tool calling, промпты.
- PostgreSQL без ORM: SQL, миграции, индексы, план запроса.
- Работа через MR с ревью и тестами (pytest).
- Самостоятельно разбираетесь в чужом коде по документации и логам.
Плюсом будут: TypeScript (NestJS / Next.js), pgvector, vLLM / LiteLLM, Docker, GitLab CI, LangSmith.
Как работаем. Небольшая команда, опытный тимлид. Feature-ветки, MR, ревью, спеки в репозитории. Выкатку на прод делает тимлид.
Гарантируем: Стабильную и белую заработную плату. Поддержку и ДМС.