Исключение промежуточного копирования через CPU RAM при пакетной обработке весов моделей и матричных вычислениях.
#systems
Инженерные статьи и post-mortem разборы по технологии systems.
Материалов: 7
NB AI • Systems & Infrastructure Engineering Lab
NB AI • Systems & Infrastructure Engineering Lab
Бенчмарк задержек при передаче сообщений размером 4 КБ и 1 МБ между локальными сервисами.
NB AI • Systems & Infrastructure Engineering Lab
Паттерны проектирования логгеров: буферизация на базе sync.Pool, предварительное форматирование и прямой сброс в сокет.
NB AI • Systems & Infrastructure Engineering Lab
Обработка до 12 ГБ текстовых логов в секунду на одном ядре с использованием процессорных инструкций сравнения.
NB AI • Systems & Infrastructure Engineering Lab
Как миграция с 32-битного i386 на 64-битный x86_64 привела к смещению байтов в бинарном файле состояния.
NB AI • Systems & Infrastructure Engineering Lab
Как правильно использовать GOMEMLIMIT вместо старого трюка с аллокацией балласта памяти, снижая p99 latency.
NB AI • Systems & Infrastructure Engineering Lab
Реализация lock-free очереди на атомиках с кэшлайн-пэддингом (cache-line padding) для исключения false sharing.