Архив метки: ATLAS

Together AI представила ATLAS — адаптивную систему ускорения вывода ИИ на 400%

Новая разработка Together AI под названием ATLAS (AdapTive-LeArning Speculator System) обещает сделать вывод крупных языковых моделей до четырёх раз быстрее — без смены железа. Ключ к прорыву — способность системы самообучаться на реальных рабочих нагрузках. В двух словах ATLAS ускоряет вывод ИИ до 400% по сравнению с vLLM и другими системами. Использует двойную архитектуру спекуляторов:… Читать далее »