Đây là một khoá học thực hành về việc huấn luyện các mô hình ngôn ngữ (LM) cho các trường hợp sử dụng cụ thể. Khoá học này là cách thuận tiện để bắt đầu với việc điều chỉnh các mô hình ngôn ngữ, bởi vì mọi thứ đều có thể chạy được trên hầu hết các máy tính cá nhân. Tại đây, chúng ta không cần quá nhiều tài nguyên GPUs hay các dịch vụ trả phí để học tập. Khoá học được xây dựng dựa trên series mô hình SmolLM2, nhưng bạn có thể áp dụng các kỹ năng học được ở đây cho các mô hình lớn hơn hoặc các mô hình ngôn ngữ nhỏ khác.
Lưu ý: Vì khóa học được dịch từ bản gốc tiếng Anh, chúng tôi sẽ giữ lại một số thuật ngữ gốc nhằm tránh gây hiểu lầm.
s
Khoá học này mở và được đánh giá bởi cộng đồng. Để tham gia khoá học hãy tạo Pull Request (PR) và gửi bài làm của bạn để được review. Các bước thực hiện:
Điều này sẽ giúp bạn học tập và xây dựng một khoá học có cộng đồng tham gia và luôn được cải thiện.
Chúng ta có thể thảo luận về quá trình học tập và phát triển trong thread này.
Khoá học này cung cấp phương pháp thực hành để làm việc với các mô hình ngôn ngữ nhỏ, từ huấn luyện ban đầu đến triển khai lên sản phẩm.
| Bài | Mô tả | Trạng thái | Ngày phát hành |
|---|---|---|---|
| Tinh chỉnh theo chỉ thị (Instruction Tuning) | Học về huấn luyện có giám sát (SFT), định dạng chat, và thực hiện các chỉ thị cơ bản | ✅ Sẵn sàng | 3/12/2024 |
| Tinh chỉnh theo sự ưu tiên (Preference Alignment) | Học các kỹ thuật DPO và ORPO để huấn luyện mô hình theo sự uy tiên của người dùng | ✅ Sẵn sàng | 6/12/2024 |
| Tinh chỉnh hiệu quả tham số (Parameter-efficient Fine-tuning) | Học về LoRA, prompt tuning và các phương pháp huấn luyện hiệu quả | ✅ Sẵn sàng | 9/12/2024 |
| Đánh giá mô hình (Evaluation) | Sử dụng benchmark tự động và tạo đánh giá theo lĩnh vực cụ thể | 🚧 Đang thực hiện | 13/12/2024 |
| Mô hình đa phương thức (Vision-language Models) | Điều chỉnh các mô hình đa phương thức (Multimodal models) cho các tác vụ thị giác-ngôn ngữ | 🚧 Đang thực hiện | 16/12/2024 |
| Dữ liệu nhân tạo (Synthetic Datasets) | Tạo và đánh giá tập dữ liệu tổng hợp cho huấn luyện | 📝 Đã lên kế hoạch | 20/12/2024 |
| Triển khai mô hình (Inference) | Triển khai mô hình một cách hiệu quả | 📝 Đã lên kế hoạch | 23/12/2024 |
Mặc dù các mô hình ngôn ngữ lớn đã cho thấy khả năng ấn tượng, chúng thường yêu cầu tài nguyên tính toán đáng kể và có thể quá mức cần thiết cho các ứng dụng tập trung. Các mô hình ngôn ngữ nhỏ mang lại nhiều lợi thế cho các ứng dụng theo lĩnh vực cụ thể:
Trước khi bắt đầu, hãy đảm bảo bạn có:
transformersChúng tôi duy trì khoá học như một package để bạn có thể cài đặt dễ dàng thông qua package manager. Chúng tôi gợi ý sử dụng uv, nhưng bạn có thể sử dụng các lựa chọn thay thế như pip hoặc pdm.
Với uv đã được cài đặt, bạn có thể cài đặt khoá học như sau:
uv venv --python 3.11.0
uv syncTất cả các ví dụ chạy trong cùng một môi trường python 3.11, vì vậy bạn nên tạo môi trường và cài đặt dependencies như sau:
# python -m venv .venv
# source .venv/bin/activate
pip install -r requirements.txtNếu dùng Google Colab bạn sẽ cần cài đặt dependencies một cách linh hoạt dựa trên phần cứng bạn đang sử dụng. Như sau:
pip install -r transformers trl datasets huggingface_hub
Hãy chia sẻ khoá học này, để cùng nhau phát triển cộng đồng AI Việt Nam.