MCP/LLM-инженер

Мы разрабатываем прикладные LLM-решения для внутренних продуктов и процессов: от ассистентов и автоматизации рутины до интеграции моделей с корпоративными системами. Фокус — надёжные прикладные сервисы.

Чем предстоит заниматься:

• проектировать и поддерживать MCP-серверы (Python/TypeScript): tools для LLM, auth, интеграция с корпоративными API (Bitbucket Server, EWS/Outlook, Grafana и др.);
• поддерживать и отвечать за единый реестр скиллов, плагинов и MCP-серверов;
• участвовать в разработке безопасной среды исполнения агентов;
• участвовать в выводе в prod/preprod: прототип → сервис → мониторинг качества, latency и cost;
• работать с кодовой базой и документацией, предлагать решения с учётом ограничений инфраструктуры Okko.

Необходимые навыки:

Обязательно:

• высшее техническое образование;
• уверенный Python; опыт backend-разработки и интеграций с API;
• понимание современных LLM и LLM-приложений: prompt engineering, function/tool calling, RAG там, где нужен контекст;
• опыт работы с Model Context Protocol (MCP);
• опыт интеграций через REST API и настройки доступа, плюсом — работа с системами контроля версий и review-процессами;
• сильные навыки CI/CD: Docker/k8s, gitlab-ci, Jenkins;
• опыт с трейсингом и логированием в контексте LLM: Langfuse, LangSmith, OpenTelemetry;
• умение писать поддерживаемый код, тесты на критичные сценарии, документация;
• опыт настройки инференса LLM (vLLM, SGLang, TensorRT).

Желательно:

• опыт работы с векторными БД (Faiss, Chroma, Qdrant);
• опыт с LLM-платформами (OpenWebUI) и библиотеками оркестрации (чат-интерфейсы, LiteLLM, LangChain и аналоги).