# DeepSpeed

[DeepSpeed](https://github.com/deepspeedai/DeepSpeed), Zero Redundancy Optimizer (ZeRO) altyapısıyla çalışır ve çok büyük modelleri bir GPU üzerinde eğitmek ve sığdırmak için kullanılan bir optimizasyon kütüphanesidir. Birden fazla ZeRO aşamasında kullanılabilir; her aşama, optimizör durumunu, gradyanları ve parametreleri bölerek ve CPU veya NVMe'ye aktarımı (offloading) etkinleştirerek GPU bellek tasarrufunu kademeli olarak artırır. [Trainer](/docs/transformers/v5.23.0/tr/main_classes/trainer#transformers.Trainer) sınıfıyla entegre olan DeepSpeed için kurulumun büyük bölümü sizin için otomatik olarak halledilir.

Ancak, [Trainer](/docs/transformers/v5.23.0/tr/main_classes/trainer#transformers.Trainer) olmadan DeepSpeed kullanmak istiyorsanız, Transformers bir `HfDeepSpeedConfig` sınıfı sağlar.

[Trainer](/docs/transformers/v5.23.0/tr/main_classes/trainer#transformers.Trainer) ile DeepSpeed'in nasıl kullanılacağına dair daha fazla bilgi için [DeepSpeed](../deepspeed) kılavuzuna göz atın.

## HfDeepSpeedConfig[[transformers.integrations.HfDeepSpeedConfig]]

#### transformers.integrations.HfDeepSpeedConfig[[transformers.integrations.HfDeepSpeedConfig]]

```python
transformers.integrations.HfDeepSpeedConfig(config_file_or_dict)
```

[Kaynak](https://github.com/huggingface/transformers/blob/v5.23.0/src/transformers/integrations/deepspeed.py#L60)

**Parametreler:**

config_file_or_dict (`Union[str, Dict]`) : DeepSpeed yapılandırma dosyasına veya sözlüğe yol.

Bu nesne bir DeepSpeed yapılandırma sözlüğü içerir ve zero aşaması gibi öğeler için hızlıca sorgulanabilir.

Bu nesnenin bir `weakref` örneği, Trainer nesnesi gibi objelerin kullanılamadığı alanlardan (ör. `from_pretrained` ve `_get_resized_embeddings`) yapılandırmaya erişilebilmesi için modülün küresel değişkenlerinde saklanır. Bu nedenle, program çalışmaya devam ederken bu nesnenin canlı kalması önemlidir.

[Trainer](/docs/transformers/v5.23.0/tr/main_classes/trainer#transformers.Trainer), bunun yerine `HfTrainerDeepSpeedConfig` alt sınıfını kullanır. Bu alt sınıf, `"auto"` gibi özel yer tutucu değerleri değiştirerek yapılandırmayı [TrainingArguments](/docs/transformers/v5.23.0/tr/main_classes/trainer#transformers.TrainingArguments) değerleriyle senkronize etme mantığına sahiptir. Bu özel mantık olmadan DeepSpeed yapılandırması hiçbir şekilde değiştirilmez.

