Сегодня 22 августа 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Аппаратные требования больших языковых моделей ИИ сокращаются вдвое каждые восемь месяцев

Большие языковые модели, лежащие в основе чат-ботов с искусственным интеллектом, развиваются настолько быстро, что всего за восемь месяцев необходимые им для работы аппаратные ресурсы сокращаются вдвое — сами чипы демонстрируют намного более скромный прогресс.

 Источник изображения: Gerd Altmann / pixabay.com

Источник изображения: Gerd Altmann / pixabay.com

Существуют два способа повысить производительность систем ИИ, обращает внимание исследователь из Массачусетского технологического института Тамай Бесироглу (Tamay Besiroglu): увеличить размеры больших языковых моделей, что потребует соразмерного увеличения вычислительной мощности, хотя оборудование для ИИ сегодня находится в дефиците; или оптимизировать базовые алгоритмы, чтобы более эффективно применять существующее оборудование. Похоже, нынешние разработчики больших языковых моделей предпочли второй подход.

Учёные проанализировали показатели производительности 231 большой языковой модели, разработанных в период с 2012 по 2023 гг., и обнаружили, что вычислительная мощность, необходимая для их работы, сокращалась в среднем вдвое каждые восемь месяцев. Это значительно быстрее, чем предполагает эмпирический закон Мура, согласно которому число транзисторов на кристалле (мера его производительности) удваивается каждые 18–24 месяца. Исследователи отмечают, что такой рост производительности систем ИИ отчасти связан с оптимизацией кода, хотя точно определить это не получается, потому что алгоритмы ИИ часто не поддаются анализу. Свою роль, конечно, сыграло и развитие аппаратных компонентов.

Разница в темпах развития является показателем того, насколько эффективно разработчики больших языковых моделей используют доступные им ресурсы. Бесконечно оптимизировать алгоритмы не получится, считает Бесироглу, и нет ясности, сохранится ли такой темп развития в долгосрочной перспективе. Существуют и опасения, что повышение эффективности моделей может, напротив, увеличить потребление энергии отраслью ИИ, поэтому нельзя заниматься только одним аспектом, игнорируя остальные, предостерегают учёные.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Microsoft начала расследование массового «исчезновения» SSD из Windows 11 после обновления 2 ч.
ИИ-браузер Perplexity Comet без раздумий слили мошенникам данные банковской карты 2 ч.
«Приготовьтесь к побегу»: загадочный тизер рассекретил дату выхода релизной версии Escape from Tarkov 3 ч.
«Лавкрафт передаёт пламенный привет!»: разработчики Heroes of Might & Magic: Olden Era заинтриговали фанатов тизером секретной фракции 4 ч.
Игр с FSR 4 станет куда больше: AMD выпустила FidelityFX SDK 2.0, что упростит интеграцию новейшего ИИ-масштабирования 5 ч.
Новый геймплейный трейлер раскрыл дату выхода No, I’m not a Human — паранормального хоррора о нашествии незваных Гостей в условиях конца света 6 ч.
Утечка раскрыла зарплаты и премии сотрудников Microsoft в сферах ИИ, облаков и игр 7 ч.
Похоже, Forza Horizon 6 отправит игроков в Японию — фанаты ждали этого годами 7 ч.
Google AI Mode заработает в 180 странах, но не в России 9 ч.
Meta завышала эффективность рекламы и тайно собирала данные пользователей iPhone вопреки запрету Apple 9 ч.