Компания Meta✴ заявила о запуске нового набора ИИ-инструментов — Python-фреймворка AITemplate (AIT). Новый фреймворк позволяет не только оптимизировать модели, но и поддерживает конвертацию с Python на C++, благодаря чему повышается итоговая производительность.
По данным портала Semiaccurate.com, новая платформа позволит быстрее исполнять код ускорителем NVIDIA A100 для моделей BERT и ResNet-50, в среднем — со скоростью от 2Х до 12Х в сравнении с PyTorch. В случае с AMD Instinct MI250 обеспечено ускорение в 1,5-2 раза, но даже это очень много, если речь идёт о масштабах компаний вроде Meta✴.
При этом Meta✴ полностью открыла исходный код AITemplate, который можно бесплатно загрузить здесь для дальнейшего свободного использования в соответствии с лицензией Apache 2.0. Для работы требуется CUDA 11.6 или ROCm 5.2.3. В дальнейшем Meta✴ намерена поддерживать 90-дневный релизный цикл.
Отметим, что ещё в марте выяснилось, что Qualcomm предлагала Meta✴ стать основным покупателем первого серверного ИИ-чипа — Cloud AI 100. Взвесив возможности программного обеспечения, поставляемого с новым чипом, техногигант принял решение по-прежнему использовать уже применяемые ей аппаратные платформы. Теперь выяснилось, что у Meta✴ имеется универсальное решение, позволяющее эффективно использовать аппаратные решения как AMD, так и NVIDIA.
Источники: