NB AI • Systems & Infrastructure Engineering Lab
Почему количество терафлопсов вторично, а ширина шины DDR5 и пропускная способность UMA решают всё при генерации токенов.
Инженерные статьи и post-mortem разборы по технологии inference.
Материалов: 1Почему количество терафлопсов вторично, а ширина шины DDR5 и пропускная способность UMA решают всё при генерации токенов.