Потребность в вычислительных ресурсах и оперативной памяти крупных дата-центров может существенно сократиться благодаря новому алгоритму HARP. Как сообщает газета «Известия», специалисты МФТИ создали программное решение, способное сжимать языковые модели, сохраняя при этом их высокую точность.
Внедрение данной технологии позволяет увеличить скорость функционирования систем искусственного интеллекта в два раза. В ходе испытаний алгоритм продемонстрировал эффективность на моделях Llama и Qwen. Применение максимально агрессивного сжатия не привело к критическим сбоям: согласно результатам тестов, уровень ошибки в таких условиях снизился на 15%.
