Сегодня 03 октября 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Аппаратные требования больших языковых моделей ИИ сокращаются вдвое каждые восемь месяцев

Большие языковые модели, лежащие в основе чат-ботов с искусственным интеллектом, развиваются настолько быстро, что всего за восемь месяцев необходимые им для работы аппаратные ресурсы сокращаются вдвое — сами чипы демонстрируют намного более скромный прогресс.

 Источник изображения: Gerd Altmann / pixabay.com

Источник изображения: Gerd Altmann / pixabay.com

Существуют два способа повысить производительность систем ИИ, обращает внимание исследователь из Массачусетского технологического института Тамай Бесироглу (Tamay Besiroglu): увеличить размеры больших языковых моделей, что потребует соразмерного увеличения вычислительной мощности, хотя оборудование для ИИ сегодня находится в дефиците; или оптимизировать базовые алгоритмы, чтобы более эффективно применять существующее оборудование. Похоже, нынешние разработчики больших языковых моделей предпочли второй подход.

Учёные проанализировали показатели производительности 231 большой языковой модели, разработанных в период с 2012 по 2023 гг., и обнаружили, что вычислительная мощность, необходимая для их работы, сокращалась в среднем вдвое каждые восемь месяцев. Это значительно быстрее, чем предполагает эмпирический закон Мура, согласно которому число транзисторов на кристалле (мера его производительности) удваивается каждые 18–24 месяца. Исследователи отмечают, что такой рост производительности систем ИИ отчасти связан с оптимизацией кода, хотя точно определить это не получается, потому что алгоритмы ИИ часто не поддаются анализу. Свою роль, конечно, сыграло и развитие аппаратных компонентов.

Разница в темпах развития является показателем того, насколько эффективно разработчики больших языковых моделей используют доступные им ресурсы. Бесконечно оптимизировать алгоритмы не получится, считает Бесироглу, и нет ясности, сохранится ли такой темп развития в долгосрочной перспективе. Существуют и опасения, что повышение эффективности моделей может, напротив, увеличить потребление энергии отраслью ИИ, поэтому нельзя заниматься только одним аспектом, игнорируя остальные, предостерегают учёные.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Соавторы инди-хита Peak анонсировали Crashout Crew — безумную кооперативную игру про работу на вилочных погрузчиках 48 мин.
МВД РФ рассказали, где безопаснее всего хранить фото документов и пароли 2 ч.
OpenAI: Маск прикрывает провалы xAI громкими исками к бывшим сотрудникам 3 ч.
Приложение Sora стало хитом скачиваний в App Store, несмотря на ограниченный доступ 6 ч.
В Threads появились «Сообщества» для общения по интересам 6 ч.
ИИ-браузер Perplexity Comet стал доступен бесплатно для всех — прежде требовалась подписка за $200 в месяц 10 ч.
Starbreeze в честь второй годовщины Payday 3 объявила об отмене обещанного офлайн-режима, о котором фанаты просили с самого релиза 12 ч.
Epic Games Store устроил раздачу неовикторианского выживания Nightingale от команды бывшего руководителя BioWare 14 ч.
Нелинейная партийная RPG Starfinder: Afterlight отправит в галактику, где соединились магия и технологии — новый геймплейный трейлер 17 ч.
Facebook и Instagram обязали вернуть хронологические ленты в качестве стандартных, но только в Нидерландах 17 ч.
Microsoft мечтает об отказе от чипов Nvidia и AMD в пользу собственных чипов, но не скоро 7 мин.
В России стартовал предзаказ на смартфоны Huawei nova 14 с «ультрареалистичной камерой» и ценой от 40 тыс. рублей 13 мин.
ИИ-ажиотаж не спадает: за день капитализация мировых чипмейкеров взлетела на $200 млрд 34 мин.
Новая статья: Обзор смартфона HUAWEI nova 14 Pro: покажет все как есть 59 мин.
Giga Computing представила серверы с Arm-чипами AmpereOne M для ИИ-инференса 2 ч.
Власти Тайваня поддержат компании, строящие предприятия в США 2 ч.
Российские операторы связи начали продавать «чистые» номера — их нет в спам-рассылках 3 ч.
Американский проект по строительству крупного ЦОД в ОАЭ забуксовал, даже не стартовав 3 ч.
За месяц акции Intel выросли в цене на 50 %, доля правительства США стоит $16 млрд 5 ч.
Microsoft вложит $33 млрд в бывшую Yandex N.V. и другие «неоклауды», чтобы побороть дефицит мощностей для ИИ 12 ч.