Автоматический перевод Эта статья была автоматически переведена с оригинальной английской версии.
Практические заметки о компонентах AI-систем, которые должны выдерживать production: агентах, оценке, безопасности, памяти, retrieval, model engineering и инфраструктуре.
Ниже можно выбрать путь по задаче: агентные системы, оценка или retrieval и языковые системы. Для более кратких руководств по принятию решений используйте Краткие ответы.
С чего начать
Агентные системы
Связный путь через reasoning, память, инструменты, безопасность, runtime и harness engineering.
Оценка
Оценка поведения агентов и каждого этапа системы retrieval-augmented generation.
Retrieval и язык
Создание пайплайнов ранжирования, выбор Document AI и надёжное структурирование языка.
Главная серия
Листайте все шесть частей →
Инструменты разработчика · ИИ-агенты
Сопоставим pydantic и Zod, FastAPI и Hono, Celery и очередь на Postgres, а затем создадим стриминговый агентный сервис в TypeScript-монорепозитории на pnpm.
· 20 мин
ИИ-агенты Часть 6
Как управляющий код вокруг ИИ-агента авторизует инструменты, сохраняет прогресс, проверяет завершение и оправдывает добавление каждого компонента с помощью абляций.
· 21 мин
Инженерия моделей · ИИ-инфраструктура
Практическое руководство по выбору вариантов квантизации LLM и diffusion-моделей с учетом боттлнека, железа, runtime-ядра, калибровочных данных и проверок перед деплоем.
· 23 мин
ИИ-агенты
Почему production-агентам нужна память под управлением схемы с временной валидностью, provenance и структурированной обработкой конфликтов, а не обычный vector recall по сырому тексту.
· 14 мин
ИИ-агенты
Как оценивать ИИ-агентов в продакшене: превращать трейсы в версионируемые регрессионные датасеты, использовать метрики траекторий и калиброванных джаджей, а также CI-гейты.
· 20 мин
ИИ-агенты Часть 5
Как запускать долгоживущих ИИ-агентов в продакшене с помощью сессий, харнессов, сэндбоксов, чекпоинтов, трейсов и паттернов деплоя, обеспечивающих корректное восстановление.
· 34 мин
Поисковые и языковые системы
Метрики оценки RAG для парсинга, retrieval, реранкинга, генерации, цитирования и production-телеметрии, с кодом и разбором режимов отказа.
· 33 мин
ИИ-агенты Часть 4
Почему гардрейлов для LLM недостаточно для безопасности ИИ-агентов и какую роль здесь играют разрешения, сэндбоксы, HITL, ограничение MCP и проверки политик.
· 31 мин
Поисковые и языковые системы
NER в 2026 году — это выбор между GLiNER, spaCy, Transformers и извлечением с помощью LLM с учётом латентности, точности и контроля схемы.
· 30 мин
ИИ-агенты Часть 3
Сравнение JSON tool calling, MCP, Skills, CLI и code execution для ИИ-агентов: правила дизайна ACI и важные для продакшена компромиссы.
· 20 мин
Инженерия моделей · ИИ-инфраструктура
Практический справочник по 45 концепциям LLM-инжиниринга для production-систем: инференс, обучение, архитектура, деплой и эксплуатация.
· 50 мин
Поисковые и языковые системы
OCR в 2026 году — это выбор между классическими пайплайнами и VLMs для распознавания текста, анализа layout, таблиц и извлечения данных из документов.
· 12 мин
ИИ-инфраструктура
Бенчмарки Polars, DataFusion, Daft, Ray Data, Pandas и Spark на табличных и мультимодальных нагрузках, с кодом и правилами выбора.
· 14 мин
ИИ-агенты Часть 2
Как проектировать память ИИ-агента с помощью чекпоинтов, PostgreSQL или Redis, векторных хранилищ вроде Qdrant и файловой памяти для долгоживущих систем.
· 17 мин
Поисковые и языковые системы
Как построить стек ранжирования поиска с BM25, плотными эмбеддингами, гибридным RRF, реранкингом cross-encoder и listwise-реранкингом с помощью LLM на Amazon ESCI.
· 23 мин
ИИ-агенты Часть 1
Сравнение ReAct, ReWOO и Plan-and-Execute для AI-агентов. Примеры на LangGraph показывают, как каждый цикл балансирует между адаптивностью, стоимостью, латентностью и структурой планирования.
· 11 мин
Инженерия моделей
Технический разбор Manifold-Constrained Hyper-Connections (mHC) от DeepSeek: масштабирование ширины residual stream, роутинг Sinkhorn и стабильность обучения.
· 9 мин
ИИ-агенты
Что публичные решения Enterprise RAG Challenge 3 показывают об итерациях промптов, валидации, стратегиях работы с контекстом, обёртках над инструментами и архитектуре агентов.
· 9 мин
Инженерия моделей
Когда выполнять файн-тюнинг LLM, а когда использовать RAG или промптинг; как в этот процесс вписываются LoRA, QLoRA, DoRA, Unsloth, Axolotl, датасеты, эвалы и деплой.
· 19 мин
ИИ-агенты · Инженерия моделей
Как Schema-Guided Reasoning использует vLLM, XGrammar, схемы Pydantic и constrained decoding, чтобы принудительно обеспечивать структурно валидные ответы LLM.
· 10 мин
Инженерия моделей · ИИ-инфраструктура
Оценка и деплой LoRAX для сервинга long-tail LoRA: актуальные API, усиление Kubernetes-чарта, безопасность адаптеров, роутинг с учётом кэша и компромиссы по сравнению с vLLM.
· 9 мин
ИИ-агенты
Как предметно-ориентированное проектирование помогает ИИ-агентам использовать общий язык, ограниченные контексты, сервисы, репозитории и детерминированные бизнес-правила.
· 7 мин
ИИ-агенты
Как проектировать контекст-инжиниринг для ИИ-агентов: контекстные окна, иерархия инструкций, retrieval, память, инструменты, гардрейлы, provenance и сжатие.
· 13 мин
ИИ-агенты · Инструменты разработчика
Создайте собственный MCP-сервер с помощью uv и FastMCP, предоставьте инструменты ML-фичестора, протестируйте их локально и подключите сервер к Claude Desktop.
· 7 мин
Инженерия моделей
Как читать названия моделей с открытыми весами, разделяя роль в обучении, архитектуру, метод квантизации, формат хранения, рантайм и совместимость с аппаратным обеспечением.
· 9 мин
Инструменты разработчика
Сравнение локальных инструментов для генерации изображений на macOS по установке, поддержке моделей, управлению пайплайном, воспроизводимости, расширениям и статусу сопровождения.
· 6 мин
Инженерия моделей · Инструменты разработчика
Сравнение инструментов для локальных LLM на macOS по интерфейсу, формату модели, запасу памяти, доступности API и рабочему процессу разработки на Apple Silicon.
· 6 мин
Инструменты разработчика
Как pyproject.toml работает с системами сборки, метаданными проекта, runtime-зависимостями, группами для разработки, CLI entry points и конфигурацией инструментов.
· 5 мин
Инструменты разработчика
Разбираем файлы запуска Zsh: когда в macOS и Linux загружаются ~/.zprofile и ~/.zshrc, что помещать в каждый из них и как определить режим запущенного shell.
· 4 мин
ИИ-инфраструктура
Что foundation models изменили в MLOps: единицы релиза, retrieval, инструменты, эвалуация, трейсинг, сервинг и операционные риски.
· 7 мин
Инженерия моделей · ИИ-инфраструктура
Как масштабировать большие языковые модели на GPU и узлы с помощью параллелизма по данным, полностью шардированного, тензорного, конвейерного, контекстного и экспертного параллелизма.
· 8 мин
Инструменты разработчика
Чеклист настройки MacBook для AI-инжиниринга: инструменты Xcode, Homebrew, Python с uv, Docker, настройка терминала и VS Code.
· 5 мин
Инструменты разработчика
Как я использую uv на macOS для установки Python, управления зависимостями проектов и lock-файлами, inline-скриптами и разовыми CLI-инструментами.
· 6 мин
Здесь пока пусто.
