Instalação

Antes de começar, você precisará configurar seu ambiente, instalar os pacotes apropriados e configurar o 🤗 PEFT. O 🤗 PEFT é testado no Python 3.11+.

🤗 O PEFT está disponível no PyPI, bem como no GitHub:

PyPI

Para instalar o 🤗 PEFT a partir do PyPI:

pip install peft

CUDA Windows Arm64

Para instalar o PEFT com PyTorch CUDA no Windows Arm64, como em laptops NVIDIA RTX Spark, instale o PyTorch a partir do índice PyPI da NVIDIA. Esses dispositivos exigem as compilações do PyTorch para Windows Arm64 da NVIDIA, que não estão disponíveis no índice PyPI padrão nem no índice padrão de wheels do PyTorch.

Execute o comando abaixo para verificar se o seu sistema detecta uma GPU da NVIDIA.

nvidia-smi

Instale o PyTorch a partir do índice PyPI da NVIDIA e, em seguida, instale o PEFT.

pip install torch --index-url https://pypi.nvidia.com/nvtorch_oot_nightly
pip install peft

Fonte

Novos recursos que ainda não foram lançados são adicionados todos os dias, o que também significa que pode haver alguns bugs. Para experimentá-los, instale a partir do repositório do GitHub:

pip install git+https://github.com/huggingface/peft

Se você deseja brincar com o código-fonte e ver os resultados ao vivo enquanto executa o código, uma versão editável pode ser instalada a partir de uma versão clonada localmente do repositório:

git clone https://github.com/huggingface/peft
cd peft
pip install -e ".[test]"

Se você planeja contribuir para o PEFT, siga o guia de contribuição em vez disso, que também aborda o fork, a adição do remote upstream e a criação de um branch de trabalho.