Сегодня 10 мая 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Аппаратные требования больших языковых моделей ИИ сокращаются вдвое каждые восемь месяцев

Большие языковые модели, лежащие в основе чат-ботов с искусственным интеллектом, развиваются настолько быстро, что всего за восемь месяцев необходимые им для работы аппаратные ресурсы сокращаются вдвое — сами чипы демонстрируют намного более скромный прогресс.

 Источник изображения: Gerd Altmann / pixabay.com

Источник изображения: Gerd Altmann / pixabay.com

Существуют два способа повысить производительность систем ИИ, обращает внимание исследователь из Массачусетского технологического института Тамай Бесироглу (Tamay Besiroglu): увеличить размеры больших языковых моделей, что потребует соразмерного увеличения вычислительной мощности, хотя оборудование для ИИ сегодня находится в дефиците; или оптимизировать базовые алгоритмы, чтобы более эффективно применять существующее оборудование. Похоже, нынешние разработчики больших языковых моделей предпочли второй подход.

Учёные проанализировали показатели производительности 231 большой языковой модели, разработанных в период с 2012 по 2023 гг., и обнаружили, что вычислительная мощность, необходимая для их работы, сокращалась в среднем вдвое каждые восемь месяцев. Это значительно быстрее, чем предполагает эмпирический закон Мура, согласно которому число транзисторов на кристалле (мера его производительности) удваивается каждые 18–24 месяца. Исследователи отмечают, что такой рост производительности систем ИИ отчасти связан с оптимизацией кода, хотя точно определить это не получается, потому что алгоритмы ИИ часто не поддаются анализу. Свою роль, конечно, сыграло и развитие аппаратных компонентов.

Разница в темпах развития является показателем того, насколько эффективно разработчики больших языковых моделей используют доступные им ресурсы. Бесконечно оптимизировать алгоритмы не получится, считает Бесироглу, и нет ясности, сохранится ли такой темп развития в долгосрочной перспективе. Существуют и опасения, что повышение эффективности моделей может, напротив, увеличить потребление энергии отраслью ИИ, поэтому нельзя заниматься только одним аспектом, игнорируя остальные, предостерегают учёные.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
«Джеймс Уэбб» заделался геологом — учёные научили его заглядывать в недра далёких экзопланет 10 мин.
Xiaomi представила ТВ-приставки Mi Box 5 и Mi Box 5 Max — с Dolby Vision, DTS:X и ИИ по цене от $41 19 мин.
Škoda вернулась к истокам, представив концепт электрического мотоцикла Slavia B 25 мин.
xAI может построить 1,56-ГВт газовую электростанцию для очередного ИИ-суперкомпьютера 3 ч.
Советская станция «Космос-482» упала в Индийский океан после 53 лет на орбите 3 ч.
Временный глава Sonos признал серьёзные ошибки компании и начал их исправлять 3 ч.
Nvidia GeForce RTX 5090 способна взламывать пароли вдвое быстрее, чем RTX 4090 4 ч.
MediaTek представила чип Helio G200 для доступных смартфонов — он очень похож на Helio G100 6 ч.
Утечка раскрыла новые подробности о Samsung Galaxy S25 Edge и его аксессуарах в преддверии анонса 7 ч.
Nokia представила решение Aurelis Optical LAN для оптических локальных сетей 7 ч.