Список публикаций по ключевому слову: «аппаратные ускорители»
-
Аппаратные архитектуры для локального обучения больших языковых моделей: обзор масштабируемых решений
Статья в сборнике трудов конференцииАктуальные вопросы интеграции науки и практики в условиях трансформации социально-экономических систем- Авторы:
- Копыркин Николай Андреевич, Судакова Анна Дмитриевна
- Рубрика:
- Развитие информационных технологий в условиях трансформации социально-экономических систем
- Аннотация:
- В статье рассматривается выбор аппаратных ускорителей (GPU, ASIC, FPGA и др.) для обучения больших языковых моделей на собственных серверах (on-premise), а не в облаке. Проводится сравнительный анализ стоимости владения различными решениями при установке 256 ускорителей. Делается вывод, что выбор оборудования должен учитывать не только скорость вычислений, но и затраты на электроэнергию, охлаждение и программную совместимость.
- Ключевые слова:
- большие языковые модели, аппаратные ускорители, масштабируемые архитектуры, совокупная стоимость владения, локальное развёртывание