Американские исследователи выяснили, что компактные ИИ-модели (SLM), запускаемые на локальных компьютерах, способны эффективно выполнять большинство задач, возлагаемых сейчас на крупные центры обработки данных. Однако, как пишет Reuters, намечающийся переход к менее ресурсозатратным технологиям ставит под угрозу бизнес-модели и высокие рыночные оценки таких гигантов индустрии, как OpenAI и Anthropic.
Источник изображения: AI
В ходе тестирования учёные сравнивали работу малых языковых моделей на устройствах Mac и ПК с серверными платформами, предоставляющими доступ к большим языковым моделям (LLM). Всего было использовано 500 тысяч обычных запросов и аналогичное количество задач на логическое мышление. Выяснилось, что в более чем 80 % случаев локальные SLM не уступают и даже превосходят большие LLM, а в сферах продаж, менеджмента и развлечений их показатель успешности приблизился к 100 %. При этом в наиболее сложных вычислениях SLM справляются не хуже больших в 50 % ситуаций, хотя ещё два года назад этот уровень составлял всего 8 %.
Источник изображения: Reuters.com (скриншот)
Ключевым показателем развития SLM стал резкий рост характеристики «интеллект на ватт» (intelligence per watt), который за последние два года улучшился более чем в пять раз, позволяя локальным платформам потреблять на 50–80 % меньше энергии при сохранении высокой точности. На фоне этих тенденций компания Nvidia ещё 1 июня представила новую ИИ-платформу для операционной системы Windows, продемонстрировав, что индустрия уже начинает адаптироваться к десктопным вычислениям за пределами масштабных центров обработки данных.
Reuters отмечает, что смещение фокуса в сторону небольших моделей, базирующихся преимущественно на открытом исходном коде и доступных бесплатно, способно существенно снизить размер прибыли коммерческих провайдеров и обесценить ту же SpaceX вместе с её проектом xAI, общая капитализация которых оценивается инвесторами в $2,85 трлн на волне ожиданий от ИИ. Поскольку локальные вычисления не требуют использования дорогостоящих чипов GPU, TPU и Trainium, необходимость в строительстве масштабной инфраструктуры падает, что, в свою очередь, может спровоцировать сокращение капитальных затрат и замедление темпов роста производителей полупроводников.
По мнению инвестиционного стратега компании Panmure Liberum Йоахима Клемента (Joachim Klement), главными выгодоприобретателями от подобной трансформации рынка станут производители настольных компьютеров, такие как Apple и другие компании. Эксперт полагает, что недавняя инициатива Nvidia по выходу на рынок десктопных ИИ-систем является не столько классической стратегией диверсификации, сколько попыткой застраховать свои риски и сохранить позиции в отрасли вне зависимости от того, по какому пути пойдёт дальнейшая технологическая эволюция.