Сегодня 03 октября 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Аппаратные требования больших языковых моделей ИИ сокращаются вдвое каждые восемь месяцев

Большие языковые модели, лежащие в основе чат-ботов с искусственным интеллектом, развиваются настолько быстро, что всего за восемь месяцев необходимые им для работы аппаратные ресурсы сокращаются вдвое — сами чипы демонстрируют намного более скромный прогресс.

 Источник изображения: Gerd Altmann / pixabay.com

Источник изображения: Gerd Altmann / pixabay.com

Существуют два способа повысить производительность систем ИИ, обращает внимание исследователь из Массачусетского технологического института Тамай Бесироглу (Tamay Besiroglu): увеличить размеры больших языковых моделей, что потребует соразмерного увеличения вычислительной мощности, хотя оборудование для ИИ сегодня находится в дефиците; или оптимизировать базовые алгоритмы, чтобы более эффективно применять существующее оборудование. Похоже, нынешние разработчики больших языковых моделей предпочли второй подход.

Учёные проанализировали показатели производительности 231 большой языковой модели, разработанных в период с 2012 по 2023 гг., и обнаружили, что вычислительная мощность, необходимая для их работы, сокращалась в среднем вдвое каждые восемь месяцев. Это значительно быстрее, чем предполагает эмпирический закон Мура, согласно которому число транзисторов на кристалле (мера его производительности) удваивается каждые 18–24 месяца. Исследователи отмечают, что такой рост производительности систем ИИ отчасти связан с оптимизацией кода, хотя точно определить это не получается, потому что алгоритмы ИИ часто не поддаются анализу. Свою роль, конечно, сыграло и развитие аппаратных компонентов.

Разница в темпах развития является показателем того, насколько эффективно разработчики больших языковых моделей используют доступные им ресурсы. Бесконечно оптимизировать алгоритмы не получится, считает Бесироглу, и нет ясности, сохранится ли такой темп развития в долгосрочной перспективе. Существуют и опасения, что повышение эффективности моделей может, напротив, увеличить потребление энергии отраслью ИИ, поэтому нельзя заниматься только одним аспектом, игнорируя остальные, предостерегают учёные.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
«Выглядит словно Demon's Souls на движке Doom»: сюрреалистический шутер Mohrta получил новый геймплейный трейлер и дату выхода в Steam 16 мин.
Технологии Google губят традиционные сайты — спасительные меры могут сделать только хуже 46 мин.
ВМС США с головой погрузились в облако Microsoft Azure и никак не могут выбраться 55 мин.
2 миллиарда убитых зомби за 25 миллионов часов: разработчики Dying Light: The Beast раскрыли статистику игроков за первые дни после релиза 2 ч.
В открытый доступ попало ещё больше материалов отменённой версии ремейка Star Wars: Knights of the Old Republic 3 ч.
Соавторы инди-хита Peak анонсировали Crashout Crew — безумную кооперативную игру про работу на вилочных погрузчиках 4 ч.
МВД РФ рассказали, где безопаснее всего хранить фото документов и пароли 5 ч.
OpenAI: Маск прикрывает провалы xAI громкими исками к бывшим сотрудникам 6 ч.
В Threads появились «Сообщества» для общения по интересам 9 ч.
ИИ-браузер Perplexity Comet стал доступен бесплатно для всех — прежде требовалась подписка за $200 в месяц 13 ч.
У планеты-изгоя проснулся аппетит уровня звезды: она внезапно стала поглощать 6 млрд тонн вещества в секунду 23 мин.
Western Digital похвалилась, что уже может выпускать 44-Тбайт HDD с HAMR тысячами, но пока не будет 38 мин.
CPU двойного назначения: SiPearl анонсировала 80-ядерный Arm-процессор Athena1 2 ч.
Fujitsu внедрит технологии Nvidia в суперкомпьютеры на собственных процессорах 2 ч.
Strava обвинила Garmin в нарушении патентов и требует запретить продажу её часов и велокомпьютеров 2 ч.
Microsoft мечтает об отказе от чипов Nvidia и AMD в пользу собственных чипов, но не скоро 4 ч.
В России стартовал предзаказ на смартфоны Huawei nova 14 с «ультрареалистичной камерой» и ценой от 40 тыс. рублей 4 ч.
ИИ-ажиотаж не спадает: за день капитализация мировых чипмейкеров взлетела на $200 млрд 4 ч.
Новая статья: Обзор смартфона HUAWEI nova 14 Pro: покажет все как есть 4 ч.
Giga Computing представила серверы с Arm-чипами AmpereOne M для ИИ-инференса 5 ч.