#ai

Инженерные статьи и post-mortem разборы по технологии ai.

Материалов: 11
NB AI • Systems & Infrastructure Engineering Lab

Фреймворки оценки языковых моделей: почему синтетические бенчмарки бесполезны в реальных задачах

AI & Autonomous Agents
• 3 мин • Денис

Построение собственной системы оценки на базе детерминированных тестов, покрытия ветвлений и граничных условий.

Читать статью →
NB AI • Systems & Infrastructure Engineering Lab

Schema-first дизайн интерфейсов инструментов для узкоспециализированных AI-субагентов

AI & Autonomous Agents
• 3 мин • Денис

Строгая валидация JSON Schema, ограничение скоупа прав и разделение агентов на роли чтения и записи.

Читать статью →
NB AI • Systems & Infrastructure Engineering Lab

Построение самокорректирующихся агентных циклов с верификацией кода через синтаксические деревья (AST)

AI & Autonomous Agents
• 3 мин • Денис

Интеграция линтеров и компиляторов непосредственно в петлю обратной связи LLM для предотвращения синтаксического брака.

Читать статью →
NB AI • Systems & Infrastructure Engineering Lab

Методология оценки локальных моделей генерации кода: почему синтетические бенчмарки врут

AI & Autonomous Agents
• 3 мин • Денис

Тестирование на реальных AST-мутациях, проверка синтаксиса компилятором и замеры процента успешных правок.

Читать статью →
NB AI • Systems & Infrastructure Engineering Lab

Стратегии сжатия контекстного окна для непрерывно работающих AI-агентов

AI & Autonomous Agents
• 3 мин • Денис

Иерархическая суммаризация, выборочная обрезка вызовов инструментов и сохранение ключевых архитектурных инвариантов.

Читать статью →
NB AI • Systems & Infrastructure Engineering Lab

Оркестрация мультиагентных систем: потоковая обработка вызовов инструментов и минимизация задержки токенов

AI & Autonomous Agents
• 3 мин • Денис

Как параллельный запуск независимых инструментов сокращает время ответа мультиагентного пайплайна на 65%.

Читать статью →
NB AI • Systems & Infrastructure Engineering Lab

Автономные AI-агенты: детерминированные циклы выполнения и обработка непредвиденных сбоев

AI & Autonomous Agents
• 3 мин • Денис

Архитектура конечных автоматов для LLM-агентов: предотвращение бесконечных циклов и гарантированный выход из тупиковых состояний.

Читать статью →
NB AI • Systems & Infrastructure Engineering Lab

Model Context Protocol (MCP): архитектура расширяемых серверов инструментов для AI-агентов

AI & Autonomous Agents
• 3 мин • Денис

Глубокий разбор протокола MCP: транспорт через stdio и SSE, JSON-RPC сообщения, регистрация инструментов и потоковая передача.

Читать статью →
NB AI • Systems & Infrastructure Engineering Lab

Запуск LLM на 70B параметров на рабочей станции: пропускная способность памяти как главное узкое место

AI & Autonomous Agents
• 3 мин • Денис

Почему количество терафлопсов вторично, а ширина шины DDR5 и пропускная способность UMA решают всё при генерации токенов.

Читать статью →
NB AI • Systems & Infrastructure Engineering Lab

Локальный инференс LLM: бенчмарк форматов квантования GGUF (Q4_K_M против Q8_0) на llama.cpp

AI & Autonomous Agents
• 3 мин • Денис

Замеры токенов в секунду, скорости генерации префикса (prompt processing) и потребления VRAM на локальном железе.

Читать статью →