Сегодня 30 января 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Hardware

Энергопотребление ИИ удалось снизить на 95 % без потерь, но Nvidia новый алгоритм вряд ли одобрит

В условиях растущей популярности искусственного интеллекта высокое энергопотребление ИИ-моделей становится всё более актуальной проблемой. Несмотря на то, что такие техногиганты, как Nvidia, Microsoft и OpenAI, пока не говорят об этой проблеме громко, явно преуменьшая её значение, специалисты из BitEnergy AI разработали технологию, способную значительно снизить энергопотребление без существенных потерь в качестве и скорости работы ИИ.

 Источник изображения: Copilot

Источник изображения: Copilot

Согласно исследованию, новый метод может сократить использование энергии вплоть до 95 %. Команда называет своё открытие «Умножением линейной сложности» (Linear-Complexity Multiplication) или сокращённо L-Mul. Как пишет TechSpot, этот вычислительный процесс основан на сложении целых чисел и требует значительно меньше энергии и операций по сравнению с умножением чисел с плавающей запятой, которое широко применяется в задачах, связанных с ИИ.

На сегодняшний день числа с плавающей запятой активно используются в ИИ для обработки очень больших или очень малых чисел. Они напоминают запись в бинарной форме, что позволяет алгоритмам точно выполнять сложные вычисления. Однако такая точность требует крайне больших ресурсов и уже вызывает определённые опасения, так как некоторым ИИ-моделям нужны огромные объёмы электроэнергии. Например, для работы ChatGPT требуется столько электроэнергии, сколько потребляют 18 000 домохозяйств в США — 564 МВт·ч ежедневно. По оценкам аналитиков из Кембриджского центра альтернативных финансов, к 2027 году ИИ-индустрия может потреблять от 85 до 134 ТВт·ч ежегодно.

Алгоритм L-Mul решает эту проблему за счёт замены сложных операций умножения с плавающей запятой на более простые сложения целых чисел. В ходе тестирования ИИ-модели сохранили точность, при этом энергопотребление для операций с тензорами сократилось на 95 %, а для скалярных операций на 80 %.

L-Mul также улучшает и производительность. Оказалось, что алгоритм превосходит текущие стандарты вычислений с 8-битной точностью, обеспечивая более высокую точность с меньшим количеством операций на уровне битов. В ходе тестов, охватывающих различные задачи ИИ, включая обработку естественного языка и машинное зрение, снижение производительности составило всего 0,07 %, что специалисты сочли незначительной потерей на фоне огромной экономии энергии.

При этом модели на основе трансформеров, такие как GPT, могут получить наибольшую выгоду от использования L-Mul, поскольку алгоритм легко интегрируется во все ключевые компоненты этих систем. А тесты на популярных моделях ИИ, таких как Llama и Mistral, показали даже улучшение точности в некоторых задачах.

Плохая новость заключается в том, что L-Mul требует специализированного оборудования и современные ускорители для ИИ не оптимизированы для использования этого метода. Хорошая новость заключается в том, что уже ведутся работы по созданию такого оборудования и программных интерфейсов (API).

Одной из возможных преград может стать сопротивление со стороны крупных производителей чипов вроде Nvidia, которые могут замедлить внедрение новой технологии. Так как, например, Nvidia является лидером в производстве оборудования для искусственного интеллекта и маловероятно, что она так просто уступит позиции более энергоэффективным решениям.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Вечерний 3DNews
Каждый будний вечер мы рассылаем сводку новостей без белиберды и рекламы. Две минуты на чтение — и вы в курсе главных событий.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Маркетинговый директор Ubisoft рассекретил продажи Prince of Persia: The Lost Crown за первый год после релиза 3 ч.
Китайская ИИ-модель Kimi k1.5 освоила мультимодальные рассуждения и превзошла OpenAI o1 3 ч.
Группа инвесторов во главе с MrBeast готова предложить за TikTok «значительно» больше $20 млрд 4 ч.
Следующий большой патч для Warhammer 40,000: Space Marine 2 выйдет в феврале: шлем-клюв, гробница для PvP и другое в обновлении 6.0 4 ч.
Выручка Microsoft от Azure AI выросла на 157 %, но для удовлетворения спроса нужно ещё больше ЦОД 5 ч.
Google научила ИИ-чат-бот Gemini создавать диаграммы и визуализировать данные из таблиц 5 ч.
SoftBank не прочь вложить до $25 млрд в OpenAI 6 ч.
В Steam стартовало тестирование паранормального шутера Phantom Line, в котором смешались элементы S.T.A.L.K.E.R. и Control 8 ч.
Больше половины россиян столкнулись с телефонным мошенничеством в 2024 году 8 ч.
Meta похвасталась подскочившей на 49 % прибыли, успехами в ИИ и ростом аудитории — акции подскочили 8 ч.
Финны научат производителей 3D NAND выпускать чипы рекордной плотности 12 мин.
Канадцы построили фотонный квантовый компьютер и пообещали быстро масштабировать его до миллиона кубитов 2 ч.
Острый дефицит GeForce RTX 5080 и RTX 5090 обернулся беспорядками в Японии 2 ч.
Стартовали мировые продажи GeForce RTX 5090 и RTX 5080 — первые партии смели мгновенно 3 ч.
Более 80 % планшетов Росстата на «Авроре» оказались невостребованными после переписи населения в 2021 году 4 ч.
Chevron и Engine No. 1 построят в США газовые электростанции мощностью до 4 ГВт для прямого питания ИИ ЦОД 4 ч.
Новая статья: Обзор видеокарты NVIDIA GeForce RTX 5080 и архитектуры Blackwell 5 ч.
Veir разработала сверхпроводящие силовые кабели для ЦОД 5 ч.
Nvidia выпустила драйвер с поддержкой видеокарт GeForce RTX 5090 и RTX 5080 5 ч.
Asus не увидела ничего страшного в том, что её материнские платы зажёвывают видеокарты 6 ч.