PEFT

🤗 PEFT (Parameter-Efficient Fine-Tuning) — это библиотека для эффективной адаптации крупных предобученных моделей к различным задачам без дообучения всех параметров модели, что было бы чрезмерно затратным. Методы PEFT дообучают лишь небольшое количество (дополнительных) параметров модели, что значительно снижает вычислительные и затраты на хранение, при этом обеспечивая производительность, сопоставимую с полностью дообученной моделью. Это делает обучение и хранение больших языковых моделей (LLM) и других крупных моделей более доступными на потребительском оборудовании.

PEFT интегрирован с библиотеками Transformers, Diffusers и Accelerate, чтобы обеспечить более быстрый и простой способ загрузки, обучения и использования больших моделей для инференса.

Существует множество методов «адаптации» существующих моделей, часто глубоко интегрирующихся в модель. PEFT можно рассматривать как фреймворк для произвольных методов адаптации моделей (изменение весов, обёртка слоёв, манипуляции с KV-кэшами, ...), который также служит эталонной реализацией для многих методов дообучения.