Accelerate documentation
التسجيل
البدء
الدروس التعليمية
نظرة عامةأضِف Accelerate إلى كودكعملية التنفيذتدريب TPUإطلاق سكربتات Accelerateإطلاق التدريب الموزّع من كتيّبات Jupyter
أدلة الاستخدام
Accelerate
ابدأ من هنا!مقدّر ذاكرة النموذجتكميم النموذجمتتبعات التجاربأداة التحليلالتحقق من النقاطاستكشاف الأخطاءمثال حديقة الحيوان
التدريب
تراكم التدرجاتLocal SGDالتدريب بدقة منخفضة (FP8)DeepSpeedاستخدام عدة نماذج مع DeepSpeedخطافات اتصال DDPالتوازي الكامل للبيانات المجزأةMegatron-LMAmazon SageMakerوحدات معالجة الرسوميات Apple M1معالج IntelIntel Gaudiالتجميع
الاستدلال
المفاهيم والأساسيات
آلية Accelerate الداخليةتحميل النماذج الكبيرة في الذاكرةمقارنة الأداء عبر التكوينات الموزعةتنفيذ المهام وتأجيلهامزامنة التدرجاتFSDP مقابل DeepSpeedFSDP1 مقابل FSDP2التوازي السياقيالتوازي التسلسليطرق التدريب بدقة منخفضةالتدريب على وحدات TPU
مرجع
You are viewing main version, which requires installation from source. If you'd like
regular pip install, checkout the latest stable version (v1.15.0).
التسجيل
راجع دليل استكشاف الأخطاء وإصلاحها أو المثال أدناه لمعرفة كيفية استخدام مسجّل Accelerate.
accelerate.logging.get_logger
< source >( name: strlog_level: str | None = None )
يعيد logging.Logger لـname يمكنه التعامل مع تعدد العمليات.
إذا كان يجب استدعاء سجل على جميع العمليات، مرّر main_process_only=False وإذا كان يجب استدعاء السجل على جميع العمليات وبترتيب محدد، مرّر أيضًا in_order=True
مثال:
>>> from accelerate.logging import get_logger
>>> from accelerate import Accelerator
>>> logger = get_logger(__name__)
>>> accelerator = Accelerator()
>>> logger.info("My log", main_process_only=False)
>>> logger.debug("My log", main_process_only=True)
>>> logger = get_logger(__name__, log_level="DEBUG")
>>> logger.info("My log")
>>> logger.debug("My second log")
>>> array = ["a", "b", "c", "d"]
>>> letter_at_rank = array[accelerator.process_index]
>>> logger.info(letter_at_rank, in_order=True)