# Çıkarım Inference, eğitim görmüş bir modelin yeni veriler üzerinde tahmin yapması için kullanılması sürecidir. Bu süreç yoğun hesaplama gerektirebildiğinden, özel veya harici bir hizmet üzerinde çalıştırılması ilginç bir seçenek olabilir. `huggingface_hub` kütüphanesi, Hugging Face Hub üzerinde barındırılan modeller için birden fazla hizmette inference çalıştırmak üzere birleşik bir arayüz sunar: 1. [Inference Providers](https://huggingface.co/docs/inference-providers/index): sunucusuz çıkarım ortaklarımız tarafından desteklenen, yüzlerce makine öğrenimi modeline akıcı ve birleşik erişim. Bu yeni yaklaşım, önceki Sunucusuz Çıkarım API'miz üzerine inşa edilerek dünya çapında sağlayıcılar sayesinde daha fazla model, geliştirilmiş performans ve daha yüksek güvenilirlik sunmaktadır. Desteklenen sağlayıcıların listesine [belgeler](https://huggingface.co/docs/inference-providers/index#partners) bölümünden ulaşabilirsiniz. 2. [Inference Endpoints](https://huggingface.co/docs/inference-endpoints/index): modelleri üretime kolayca dağıtmak için bir ürün. Çıkarım, seçtiğiniz bulut sağlayıcısında Hugging Face tarafından özel, tamamen yönetilen bir altyapıda çalıştırılır. 3. Yerel uç noktalar: istemciyi bu yerel uç noktalara bağlayarak [llama.cpp](https://github.com/ggerganov/llama.cpp), [Ollama](https://ollama.com/), [vLLM](https://github.com/vllm-project/vllm), [LiteLLM](https://docs.litellm.ai/docs/simple_proxy) veya [Text Generation Inference (TGI)](https://github.com/huggingface/text-generation-inference) gibi yerel çıkarım sunucuları ile de çıkarım çalıştırabilirsiniz. Bu hizmetler [InferenceClient](/docs/huggingface_hub/main/tr/package_reference/inference_client#huggingface_hub.InferenceClient) nesnesi ile çağrılabilir. Kullanımı hakkında daha fazla bilgi için [bu kılavuza](../guides/inference) bakın. ## Çıkarım İstemcisi[[huggingface_hub.InferenceClient]] #### huggingface_hub.InferenceClient[[huggingface_hub.InferenceClient]] ```python huggingface_hub.InferenceClient(model: str | None = None, provider: typing.Union[typing.Literal['baseten', 'cerebras', 'cohere', 'deepinfra', 'fal-ai', 'featherless-ai', 'fireworks-ai', 'groq', 'hf-inference', 'novita', 'nscale', 'openai', 'ovhcloud', 'publicai', 'replicate', 'scaleway', 'together', 'wavespeed', 'zai-org'], typing.Literal['auto'], NoneType] = None, token: str | None = None, timeout: float | None = None, headers: dict[str, str] | None = None, cookies: dict[str, str] | None = None, bill_to: str | None = None, base_url: str | None = None, api_key: str | None = None) ``` [Kaynak](https://github.com/huggingface/huggingface_hub/blob/main/src/huggingface_hub/inference/_client.py#L124) **Parametreler:** model (`str`, `optional`) : Çıkarım (inference) çalıştırılacak model. Hugging Face Hub'da barındırılan bir model kimliği (ör. `meta-llama/Meta-Llama-3-8B-Instruct`) veya dağıtılmış bir Inference Endpoint'in URL'si olabilir. Varsayılan değeri None'dır; bu durumda görev için otomatik olarak önerilen bir model seçilir. Not: OpenAI istemcisiyle daha iyi uyumluluk için `model`, `base_url` olarak da adlandırılmıştır (alias). Bu iki argüman birbirini dışlar. Sohbet tamamlama (chat completion) için `model` veya `base_url` olarak bir URL geçirilirse, URL'nin sonuna `(/v1)/chat/completions` son ekli yolu eklenir. provider (`str`, *isteğe bağlı*) : Çıkarım için kullanılacak sağlayıcının adı. `"baseten"`, `"cerebras"`, `"cohere"`, `"deepinfra"`, `"fal-ai"`, `"featherless-ai"`, `"fireworks-ai"`, `"groq"`, `"hf-inference"`, `"novita"`, `"nscale"`, `"openai"`, `"ovhcloud"`, `"publicai"`, `"replicate"`, `"scaleway"`, `"together"`, `"wavespeed"` veya `"zai-org"` olabilir. Varsayılan olarak "auto"dur: varsayılan olarak "fastest" sağlayıcısına yönlendiren otomatik yönlendirme; https://hf.co/settings/inference-providers adresinde "cheapest" veya "preferred" sağlayıcı sıralamasına geçebilirsiniz. Model bir URL ise veya `base_url` geçiriliyorsa, `provider` kullanılmaz. token (`str`, *isteğe bağlı*) : Hugging Face belirteci. Verilmezse, yerel olarak kaydedilmiş belirteç varsayılan olarak kullanılır. Not: OpenAI istemcisiyle daha iyi uyumluluk için `token`, `api_key` olarak takma adlandırılmıştır. Bu 2 argüman birbirini dışlar ve tam olarak aynı davranışa sahiptir. timeout (`float`, `optional`) : Sunucudan yanıt gelmesi için beklenecek maksimum saniye sayısı. Varsayılan değeri None'dır; bu, sunucu kullanılana kadar döngüde kalacağı anlamına gelir. headers (`dict[str, str]`, `optional`) : Sunucuya gönderilecek ek başlıklar. Varsayılan olarak yalnızca authorization ve user-agent başlıkları gönderilir. Bu sözlükteki değerler varsayılan değerlerin üzerine yazar. bill_to (`str`, `optional`) : İstekler için kullanılacak faturalandırma hesabı. Varsayılan olarak istekler, kullanıcının hesabına faturalandırılır. İstekler yalnızca kullanıcının üyesi olduğu ve Enterprise Hub'a abone olan bir organizasyona faturalandırılabilir. cookies (`dict[str, str]`, `optional`) : Sunucuya gönderilecek ek çerezler. base_url (`str`, `optional`) : Çıkarım (inference) çalıştırılacak temel URL. Bu, [InferenceClient](/docs/huggingface_hub/main/tr/package_reference/inference_client#huggingface_hub.InferenceClient)'in `openai.OpenAI` istemcisiyle aynı kalıbı izlemesini sağlamak için `model`'den kopyalanmış bir argümandır. `model` ayarlanmışsa kullanılamaz. Varsayılan değeri None'dır. api_key (`str`, `optional`) : Kimlik doğrulama için kullanılacak jeton. Bu, [InferenceClient](/docs/huggingface_hub/main/tr/package_reference/inference_client#huggingface_hub.InferenceClient)'in `openai.OpenAI` istemcisiyle aynı kalıbı izlemesini sağlamak için `token`'den kopyalanmış bir argümandır. `token` ayarlanmışsa kullanılamaz. Varsayılan değeri None'dır. Yeni bir Inference Client başlatın. [InferenceClient](/docs/huggingface_hub/main/tr/package_reference/inference_client#huggingface_hub.InferenceClient), çıkarım (inference) işlemlerini gerçekleştirmek için birleşik bir deneyim sunmayı amaçlar. İstemci, (ücretsiz) Inference API, kendi barındırılan Inference Endpoints veya üçüncü taraf Inference Providers ile sorunsuz bir şekilde kullanılabilir. #### audio_classification[[huggingface_hub.InferenceClient.audio_classification]] ```python audio_classification(audio: typing.Union[bytes, typing.BinaryIO, str, pathlib.Path, ForwardRef('Image'), bytearray, memoryview], model: str | None = None, top_k: int | None = None, function_to_apply: typing.Optional[ForwardRef('AudioClassificationOutputTransform')] = None) ``` [Kaynak](https://github.com/huggingface/huggingface_hub/blob/main/src/huggingface_hub/inference/_client.py#L295) **Parametreler:** audio (Union[str, Path, bytes, BinaryIO]) : Sınıflandırılacak ses içeriği. Ham ses baytları, yerel bir ses dosyası veya bir ses dosyasına işaret eden bir URL olabilir. model (`str`, *isteğe bağlı*) : Ses sınıflandırma için kullanılacak model. Hugging Face Hub'da barındırılan bir model kimliği veya dağıtılmış bir Inference Endpoint URL'si olabilir. Sağlanmazsa, ses sınıflandırma için varsayılan önerilen model kullanılır. top_k (`int`, *isteğe bağlı*) : Belirtilirse, çıktı en olası K sınıfıyla sınırlanır. function_to_apply (`"AudioClassificationOutputTransform"`, *isteğe bağlı*) : Skorları almak için model çıktısına uygulanacak işlev. **Dönüş:** `list[AudioClassificationOutputElement]` Tahmin edilen etiketleri ve bunların güven düzeylerini içeren [AudioClassificationOutputElement](/docs/huggingface_hub/main/tr/package_reference/inference_types#huggingface_hub.AudioClassificationOutputElement) öğelerinin listesi. **Yükselen:** [InferenceTimeoutError](/docs/huggingface_hub/main/tr/package_reference/inference_client#huggingface_hub.InferenceTimeoutError) veya `HfHubHTTPError` - [InferenceTimeoutError](/docs/huggingface_hub/main/tr/package_reference/inference_client#huggingface_hub.InferenceTimeoutError) -- Model kullanılamıyorsa veya istek zaman aşımına uğrarsa. - `HfHubHTTPError` -- HTTP 503 dışında bir HTTP hata durum koduyla istek başarısız olursa. Sağlanan ses içeriğinde ses sınıflandırması yapın. Örnek: ```py >>> from huggingface_hub import InferenceClient >>> client = InferenceClient() >>> client.audio_classification("audio.flac") [ AudioClassificationOutputElement(score=0.4976358711719513, label='hap'), AudioClassificationOutputElement(score=0.3677836060523987, label='neu'), ... ] ``` #### audio_to_audio[[huggingface_hub.InferenceClient.audio_to_audio]] ```python audio_to_audio(audio: typing.Union[bytes, typing.BinaryIO, str, pathlib.Path, ForwardRef('Image'), bytearray, memoryview], model: str | None = None) ``` [Kaynak](https://github.com/huggingface/huggingface_hub/blob/main/src/huggingface_hub/inference/_client.py#L352) **Parametreler:** audio (Union[str, Path, bytes, BinaryIO]) : Model için ses içeriği. Ham ses baytları, yerel bir ses dosyası veya bir ses dosyasına işaret eden bir URL olabilir. model (`str`, *isteğe bağlı*) : Model, bir ses dosyası alıp başka bir ses dosyası döndüren herhangi bir model olabilir. Hugging Face Hub'da barındırılan bir model kimliği veya dağıtılmış bir Inference Endpoint'in URL'si olabilir. Sağlanmazsa, audio_to_audio için varsayılan önerilen model kullanılır. **Dönüş:** `list[AudioToAudioOutputElement]` Blob içinde ses içeriği, içerik türü ve ses etiketi içeren [AudioToAudioOutputElement](/docs/huggingface_hub/main/tr/package_reference/inference_types#huggingface_hub.AudioToAudioOutputElement) öğelerinin listesi. **Yükselen:** ``InferenceTimeoutError`` veya `HfHubHTTPError` - ``InferenceTimeoutError`` -- Model kullanılamıyorsa veya istek zaman aşımına uğrarsa. - `HfHubHTTPError` -- HTTP 503 dışında bir HTTP hata durum koduyla istek başarısız olursa. Modeline bağlı olarak ses-sese dönüştürme ile ilgili birden fazla görevi (ör: konuşma iyileştirme, kaynak ayrıştırma) gerçekleştirir. Örnek: ```py >>> from huggingface_hub import InferenceClient >>> client = InferenceClient() >>> audio_output = client.audio_to_audio("audio.flac") >>> for i, item in enumerate(audio_output): >>> with open(f"output_{i}.flac", "wb") as f: f.write(item.blob) ``` #### automatic_speech_recognition[[huggingface_hub.InferenceClient.automatic_speech_recognition]] ```python automatic_speech_recognition(audio: typing.Union[bytes, typing.BinaryIO, str, pathlib.Path, ForwardRef('Image'), bytearray, memoryview], model: str | None = None, extra_body: dict | None = None) ``` [Kaynak](https://github.com/huggingface/huggingface_hub/blob/main/src/huggingface_hub/inference/_client.py#L404) **Parametreler:** audio (Union[str, Path, bytes, BinaryIO]) : Transkribe edilecek içerik. Ham ses baytları, yerel ses dosyası veya bir ses dosyasına giden URL olabilir. model (`str`, *isteğe bağlı*) : ASR için kullanılacak model. Hugging Face Hub'da barındırılan bir model kimliği veya dağıtılmış bir Inference Endpoint URL'si olabilir. Belirtilmezse, ASR için varsayılan önerilen model kullanılır. extra_body (`dict`, *isteğe bağlı*) : Modeline iletilecek ek sağlayıcıya özgü parametreler. Desteklenen parametreler için sağlayıcının belgelerine başvurun. **Dönüş:** [AutomaticSpeechRecognitionOutput](/docs/huggingface_hub/main/tr/package_reference/inference_types#huggingface_hub.AutomaticSpeechRecognitionOutput) Transkribe edilmiş metni ve isteğe bağlı olarak zaman damgası parçacıklarını içeren bir öğe. **Yükselen:** [InferenceTimeoutError](/docs/huggingface_hub/main/tr/package_reference/inference_client#huggingface_hub.InferenceTimeoutError) veya `HfHubHTTPError` - [InferenceTimeoutError](/docs/huggingface_hub/main/tr/package_reference/inference_client#huggingface_hub.InferenceTimeoutError) -- Model kullanılamıyorsa veya istek zaman aşımına uğrarsa. - `HfHubHTTPError` -- HTTP 503 dışında bir HTTP hata durum koduyla istek başarısız olursa. Verilen ses içeriğinde otomatik konuşma tanıma (ASR veya ses-metne dönüştürme) gerçekleştirin. Örnek: ```py >>> from huggingface_hub import InferenceClient >>> client = InferenceClient() >>> client.automatic_speech_recognition("hello_world.flac").text "hello world" ``` #### chat_completion[[huggingface_hub.InferenceClient.chat_completion]] ```python chat_completion(messages: list, model: str | None = None, stream: bool = False, frequency_penalty: float | None = None, logit_bias: list[float] | None = None, logprobs: bool | None = None, max_tokens: int | None = None, n: int | None = None, presence_penalty: float | None = None, response_format: typing.Union[huggingface_hub.inference._generated.types.chat_completion.ChatCompletionInputResponseFormatText, huggingface_hub.inference._generated.types.chat_completion.ChatCompletionInputResponseFormatJSONSchema, huggingface_hub.inference._generated.types.chat_completion.ChatCompletionInputResponseFormatJSONObject, NoneType] = None, seed: int | None = None, stop: list[str] | None = None, stream_options: huggingface_hub.inference._generated.types.chat_completion.ChatCompletionInputStreamOptions | None = None, temperature: float | None = None, tool_choice: typing.Union[huggingface_hub.inference._generated.types.chat_completion.ChatCompletionInputToolChoiceClass, ForwardRef('ChatCompletionInputToolChoiceEnum'), NoneType] = None, tool_prompt: str | None = None, tools: list[huggingface_hub.inference._generated.types.chat_completion.ChatCompletionInputTool] | None = None, top_logprobs: int | None = None, top_p: float | None = None, extra_body: dict | None = None) ``` [Kaynak](https://github.com/huggingface/huggingface_hub/blob/main/src/huggingface_hub/inference/_client.py#L531) **Parametreler:** messages ([ChatCompletionInputMessage](/docs/huggingface_hub/main/tr/package_reference/inference_types#huggingface_hub.ChatCompletionInputMessage) listesi) : Roller ve içerik çiftlerinden oluşan konuşma geçmişi. model (`str`, *isteğe bağlı*) : Chat-completion için kullanılacak model. Hugging Face Hub üzerinde barındırılan bir model kimliği veya dağıtılmış bir Inference Endpoint URL'si olabilir. Belirtilmezse, sohbet tabanlı text-generation için varsayılan önerilen model kullanılır. Daha fazla ayrıntı için https://huggingface.co/tasks/text-generation adresine bakın. `model` bir model kimliği ise, sunucuya `model` parametresi olarak iletilir. İstek yükünde `model` ayarlarken özel bir URL tanımlamak istiyorsanız, [InferenceClient](/docs/huggingface_hub/main/tr/package_reference/inference_client#huggingface_hub.InferenceClient) başlatılırken `base_url` değerini ayarlamalısınız. frequency_penalty (`float`, *isteğe bağlı*) : Yeni jetonları, metinde o ana kadar mevcut olan sıklıklarına göre cezalandırır. Aralık: [-2.0, 2.0]. Varsayılan değer 0.0'dır. logit_bias (`list[float]`, *isteğe bağlı*) : Üretilen çıktıdaki belirli jetonların görünme olasılığını ayarlar. logprobs (`bool`, *isteğe bağlı*) : Çıktı jetonlarının log olasılıklarının döndürülüp döndürülmeyeceğini belirtir. True ise, mesaj içeriğinde döndürülen her çıktı jetonunun log olasılıkları döndürülür. max_tokens (`int`, *isteğe bağlı*) : Yanıtta izin verilen maksimum token sayısı. Varsayılan değer 100'dür. n (`int`, *isteğe bağlı*) : Her istem için oluşturulacak tamamlama sayısı. presence_penalty (`float`, *isteğe bağlı*) : -2.0 ile 2.0 arasında bir sayı. Pozitif değerler, yeni jetonları, metinde şu ana kadar görünüp görünmediklerine göre cezalandırır ve modelin yeni konulardan bahsetme olasılığını artırır. response_format (`ChatCompletionInputGrammarType()`, *isteğe bağlı*) : Dilbilgisi kısıtlamaları. JSONSchema veya bir regex olabilir. seed (İsteğe bağlı`int`, *isteğe bağlı*) : Yeniden üretilebilir kontrol akışı için tohum. Varsayılan olarak None'dir. stop (`list[str]`, *isteğe bağlı*) : Yanıtın sonunu tetikleyen en fazla dört dize. Varsayılan değeri None'dır. stream (`bool`, *isteğe bağlı*) : Yanıtların gerçek zamanlı akışını etkinleştirir. Varsayılan olarak False'dur. stream_options ([ChatCompletionInputStreamOptions](/docs/huggingface_hub/main/tr/package_reference/inference_types#huggingface_hub.ChatCompletionInputStreamOptions), *isteğe bağlı*) : Tamamlamaların akışlandırılması için seçenekler. temperature (`float`, *isteğe bağlı*) : Üretilen metinlerin rastgeleliğini kontrol eder. Daha düşük değerler, daha az rastgele tamamlamalar sağlar. Aralık: [0, 2]. Varsayılan değer: 1.0. top_logprobs (`int`, *isteğe bağlı*) : Her token konumunda, ilişkili log olasılıklarıyla birlikte, en olası token sayısını belirten 0 ile 5 arasında bir tamsayı. Bu parametre kullanılıyorsa logprobs true olarak ayarlanmalıdır. top_p (`float`, *isteğe bağlı*) : Örnekleme yapılacak en olası sonraki kelimelerin oranı. 0 ile 1 arasında olmalıdır. Varsayılan değeri 1.0'dır. tool_choice ([ChatCompletionInputToolChoiceClass](/docs/huggingface_hub/main/tr/package_reference/inference_types#huggingface_hub.ChatCompletionInputToolChoiceClass) veya `ChatCompletionInputToolChoiceEnum()`, *isteğe bağlı*) : Tamamlama için kullanılacak araç. Varsayılan olarak "auto" değerine ayarlıdır. tool_prompt (`str`, *isteğe bağlı*) : Araçlardan önce eklenmesi gereken bir istem. tools ([ChatCompletionInputTool](/docs/huggingface_hub/main/tr/package_reference/inference_types#huggingface_hub.ChatCompletionInputTool) listesi, *isteğe bağlı*) : Modelin çağırabileceği araçların listesi. Şu anda bir araç olarak yalnızca işlevler desteklenmektedir. Modelin JSON girdileri oluşturabileceği işlevlerin listesini sağlamak için bunu kullanın. extra_body (`dict`, *isteğe bağlı*) : Modeline iletilecek ek sağlayıcıya özgü parametreler. Desteklenen parametreler için sağlayıcının belgelerine başvurun. **Dönüş:** [ChatCompletionOutput](/docs/huggingface_hub/main/tr/package_reference/inference_types#huggingface_hub.ChatCompletionOutput) veya [ChatCompletionStreamOutput](/docs/huggingface_hub/main/tr/package_reference/inference_types#huggingface_hub.ChatCompletionStreamOutput) iterables Sunucudan döndürülen üretilen metin: - `stream=False` ise, üretilen metin [ChatCompletionOutput](/docs/huggingface_hub/main/tr/package_reference/inference_types#huggingface_hub.ChatCompletionOutput) olarak döndürülür (varsayılan). - `stream=True` ise, üretilen metin [ChatCompletionStreamOutput](/docs/huggingface_hub/main/tr/package_reference/inference_types#huggingface_hub.ChatCompletionStreamOutput) dizisi olarak token token döndürülür. **Yükselen:** [InferenceTimeoutError](/docs/huggingface_hub/main/tr/package_reference/inference_client#huggingface_hub.InferenceTimeoutError) veya `HfHubHTTPError` - [InferenceTimeoutError](/docs/huggingface_hub/main/tr/package_reference/inference_client#huggingface_hub.InferenceTimeoutError) -- Model kullanılamıyorsa veya istek zaman aşımına uğrarsa. - `HfHubHTTPError` -- HTTP 503 dışında bir HTTP hata durum koduyla istek başarısız olursa. Belirtilen bir dil modeli kullanılarak sohbetleri tamamlamak için bir yöntem. > [!TIP] > `client.chat_completion` yöntemi, OpenAI istemcisiyle uyumluluk için `client.chat.completions.create` olarak takma adlandırılmıştır. Girdiler ve çıktılar kesinlikle aynıdır ve her iki sözdizimi de aynı sonuçları verir. OpenAI uyumluluğu hakkında daha fazla ayrıntı için [Çıkarım kılavuzuna](https://huggingface.co/docs/huggingface_hub/guides/inference#openai-compatibility) göz atın. > [!TIP] > `extra_body` argümanını kullanarak modele sağlayıcıya özgü parametreler iletebilirsiniz. Örnek: ```py >>> from huggingface_hub import InferenceClient >>> messages = [{"role": "user", "content": "What is the capital of France?"}] >>> client = InferenceClient("meta-llama/Meta-Llama-3-8B-Instruct") >>> client.chat_completion(messages, max_tokens=100) ChatCompletionOutput( choices=[ ChatCompletionOutputComplete( finish_reason='eos_token', index=0, message=ChatCompletionOutputMessage( role='assistant', content='The capital of France is Paris.', name=None, tool_calls=None ), logprobs=None ) ], created=1719907176, id='', model='meta-llama/Meta-Llama-3-8B-Instruct', object='text_completion', system_fingerprint='2.0.4-sha-f426a33', usage=ChatCompletionOutputUsage( completion_tokens=8, prompt_tokens=17, total_tokens=25 ) ) ``` Akış kullanılarak örnek: ```py >>> from huggingface_hub import InferenceClient >>> messages = [{"role": "user", "content": "What is the capital of France?"}] >>> client = InferenceClient("meta-llama/Meta-Llama-3-8B-Instruct") >>> for token in client.chat_completion(messages, max_tokens=10, stream=True): ... print(token) ChatCompletionStreamOutput(choices=[ChatCompletionStreamOutputChoice(delta=ChatCompletionStreamOutputDelta(content='The', role='assistant'), index=0, finish_reason=None)], created=1710498504) ChatCompletionStreamOutput(choices=[ChatCompletionStreamOutputChoice(delta=ChatCompletionStreamOutputDelta(content=' capital', role='assistant'), index=0, finish_reason=None)], created=1710498504) (...) ChatCompletionStreamOutput(choices=[ChatCompletionStreamOutputChoice(delta=ChatCompletionStreamOutputDelta(content=' may', role='assistant'), index=0, finish_reason=None)], created=1710498504) ``` OpenAI sözdizimini kullanan örnek: ```py # instead of `from openai import OpenAI` from huggingface_hub import InferenceClient # instead of `client = OpenAI(...)` client = InferenceClient( base_url=..., api_key=..., ) output = client.chat.completions.create( model="meta-llama/Meta-Llama-3-8B-Instruct", messages=[ {"role": "system", "content": "You are a helpful assistant."}, {"role": "user", "content": "Count to 10"}, ], stream=True, max_tokens=1024, ) for chunk in output: print(chunk.choices[0].delta.content) ``` Üçüncü taraf bir sağlayıcıyı ek (sağlayıcıya özgü) parametrelerle doğrudan kullanan örnek. Kullanım, Together AI hesabınıza faturalandırılacaktır. ```py >>> from huggingface_hub import InferenceClient >>> client = InferenceClient( ... provider="together", # Use Together AI provider ... api_key="", # Pass your Together API key directly ... ) >>> client.chat_completion( ... model="meta-llama/Meta-Llama-3-8B-Instruct", ... messages=[{"role": "user", "content": "What is the capital of France?"}], ... extra_body={"safety_model": "Meta-Llama/Llama-Guard-7b"}, ... ) ``` Hugging Face Routing üzerinden üçüncü taraf bir sağlayıcı kullanan örnek. Kullanım, Hugging Face hesabınıza faturalandırılır. ```py >>> from huggingface_hub import InferenceClient >>> client = InferenceClient( ... provider="novita", # Use Novita provider ... api_key="hf_...", # Pass your HF token ... ) >>> client.chat_completion( ... model="meta-llama/Meta-Llama-3-8B-Instruct", ... messages=[{"role": "user", "content": "What is the capital of France?"}], ... ) ``` Girdi olarak Görsel + Metin kullanan örnek: ```py >>> from huggingface_hub import InferenceClient # provide a remote URL >>> image_url ="https://cdn.britannica.com/61/93061-050-99147DCE/Statue-of-Liberty-Island-New-York-Bay.jpg" # or a base64-encoded image >>> image_path = "/path/to/image.jpeg" >>> with open(image_path, "rb") as f: ... base64_image = base64.b64encode(f.read()).decode("utf-8") >>> image_url = f"data:image/jpeg;base64,{base64_image}" >>> client = InferenceClient("meta-llama/Llama-3.2-11B-Vision-Instruct") >>> output = client.chat.completions.create( ... messages=[ ... { ... "role": "user", ... "content": [ ... { ... "type": "image_url", ... "image_url": {"url": image_url}, ... }, ... { ... "type": "text", ... "text": "Describe this image in one sentence.", ... }, ... ], ... }, ... ], ... ) >>> output The image depicts the iconic Statue of Liberty situated in New York Harbor, New York, on a clear day. ``` Araçlar kullanılarak örnek: ```py >>> client = InferenceClient("meta-llama/Meta-Llama-3-70B-Instruct") >>> messages = [ ... { ... "role": "system", ... "content": "Don't make assumptions about what values to plug into functions. Ask for clarification if a user request is ambiguous.", ... }, ... { ... "role": "user", ... "content": "What's the weather like the next 3 days in San Francisco, CA?", ... }, ... ] >>> tools = [ ... { ... "type": "function", ... "function": { ... "name": "get_current_weather", ... "description": "Get the current weather", ... "parameters": { ... "type": "object", ... "properties": { ... "location": { ... "type": "string", ... "description": "The city and state, e.g. San Francisco, CA", ... }, ... "format": { ... "type": "string", ... "enum": ["celsius", "fahrenheit"], ... "description": "The temperature unit to use. Infer this from the users location.", ... }, ... }, ... "required": ["location", "format"], ... }, ... }, ... }, ... { ... "type": "function", ... "function": { ... "name": "get_n_day_weather_forecast", ... "description": "Get an N-day weather forecast", ... "parameters": { ... "type": "object", ... "properties": { ... "location": { ... "type": "string", ... "description": "The city and state, e.g. San Francisco, CA", ... }, ... "format": { ... "type": "string", ... "enum": ["celsius", "fahrenheit"], ... "description": "The temperature unit to use. Infer this from the users location.", ... }, ... "num_days": { ... "type": "integer", ... "description": "The number of days to forecast", ... }, ... }, ... "required": ["location", "format", "num_days"], ... }, ... }, ... }, ... ] >>> response = client.chat_completion( ... model="meta-llama/Meta-Llama-3-70B-Instruct", ... messages=messages, ... tools=tools, ... tool_choice="auto", ... max_tokens=500, ... ) >>> response.choices[0].message.tool_calls[0].function ChatCompletionOutputFunctionDefinition( arguments={ 'location': 'San Francisco, CA', 'format': 'fahrenheit', 'num_days': 3 }, name='get_n_day_weather_forecast', description=None ) ``` response_format kullanılarak örnek: ```py >>> from huggingface_hub import InferenceClient >>> client = InferenceClient("meta-llama/Meta-Llama-3-70B-Instruct") >>> messages = [ ... { ... "role": "user", ... "content": "I saw a puppy a cat and a raccoon during my bike ride in the park. What did I see and when?", ... }, ... ] >>> response_format = { ... "type": "json", ... "value": { ... "properties": { ... "location": {"type": "string"}, ... "activity": {"type": "string"}, ... "animals_seen": {"type": "integer", "minimum": 1, "maximum": 5}, ... "animals": {"type": "array", "items": {"type": "string"}}, ... }, ... "required": ["location", "activity", "animals_seen", "animals"], ... }, ... } >>> response = client.chat_completion( ... messages=messages, ... response_format=response_format, ... max_tokens=500, ... ) >>> response.choices[0].message.content '{ y": "bike ride", ": ["puppy", "cat", "raccoon"], _seen": 3, n": "park"}' ``` #### document_question_answering[[huggingface_hub.InferenceClient.document_question_answering]] ```python document_question_answering(image: typing.Union[bytes, typing.BinaryIO, str, pathlib.Path, ForwardRef('Image'), bytearray, memoryview], question: str, model: str | None = None, doc_stride: int | None = None, handle_impossible_answer: bool | None = None, lang: str | None = None, max_answer_len: int | None = None, max_question_len: int | None = None, max_seq_len: int | None = None, top_k: int | None = None, word_boxes: list[list[float] | str] | None = None) ``` [Kaynak](https://github.com/huggingface/huggingface_hub/blob/main/src/huggingface_hub/inference/_client.py#L933) **Parametreler:** image (`Union[str, Path, bytes, BinaryIO]`) : Bağlam için girdi görüntüsü. Ham baytlar, bir görüntü dosyası veya çevrimiçi bir görüntüye giden bir URL olabilir. question (`str`) : Yanıtlanması gereken soru. model (`str`, *isteğe bağlı*) : Belge soru-cevap görevi için kullanılacak model. Hugging Face Hub'da barındırılan bir model kimliği veya dağıtılmış bir Inference Endpoint URL'si olabilir. Sağlanmazsa, varsayılan önerilen belge soru-cevap modeli kullanılır. Varsayılan olarak None'dır. doc_stride (`int`, *isteğe bağlı*) : Belgedeki kelimeler, model için soruyla birlikte sığmayacak kadar uzunsa, birkaç parçaya bölünür ve bu parçalar arasında bir örtüşme bırakılır. Bu argüman, söz konusu örtüşmenin boyutunu kontrol eder. handle_impossible_answer (`bool`, *isteğe bağlı*) : İmkânsızın bir cevap olarak kabul edilip edilmeyeceği lang (`str`, *isteğe bağlı*) : OCR çalıştırılırken kullanılacak dil. Varsayılan olarak english. max_answer_len (`int`, *isteğe bağlı*) : Tahmin edilen cevapların maksimum uzunluğu (ör. yalnızca daha kısa uzunluğa sahip cevaplar dikkate alınır). max_question_len (`int`, *isteğe bağlı*) : Tokenizasyon sonrası sorunun maksimum uzunluğu. Gerekirse kısaltılır. max_seq_len (`int`, *isteğe bağlı*) : Modeline iletilen her parçanın, toplam cümlenin (bağlam + soru) token cinsinden maksimum uzunluğu. Gerekirse bağlam, birkaç parçaya bölünür (geçiş olarak doc_stride kullanılır). top_k (`int`, *isteğe bağlı*) : Dönecek cevap sayısı (olasılık sırasına göre seçilecektir). Bağlamda yeterli seçenek yoksa, top_k'dan daha az cevap dönebilir. word_boxes (`list[Union[list[float], str`, *opsiyonel*) : Kelimelerin ve sınır kutularının (normalize edilmiş 0->1000) listesi. Sağlanırsa, çıkarım OCR adımını atlar ve sağlanan sınır kutularını kullanır. **Dönüş:** `list[DocumentQuestionAnsweringOutputElement]` tahmini etiketi, ilişkili olasılığı, kelime kimliklerini ve sayfa numarasını içeren [DocumentQuestionAnsweringOutputElement](/docs/huggingface_hub/main/tr/package_reference/inference_types#huggingface_hub.DocumentQuestionAnsweringOutputElement) öğelerinin bir listesi. **Yükselen:** [InferenceTimeoutError](/docs/huggingface_hub/main/tr/package_reference/inference_client#huggingface_hub.InferenceTimeoutError) veya `HfHubHTTPError` - [InferenceTimeoutError](/docs/huggingface_hub/main/tr/package_reference/inference_client#huggingface_hub.InferenceTimeoutError) -- Model kullanılamıyorsa veya istek zaman aşımına uğrarsa. - `HfHubHTTPError` -- HTTP 503 dışında bir HTTP hata durum koduyla istek başarısız olursa. Belge görüntülerindeki soruları yanıtlayın. Örnek: ```py >>> from huggingface_hub import InferenceClient >>> client = InferenceClient() >>> client.document_question_answering(image="https://huggingface.co/spaces/impira/docquery/resolve/2359223c1837a7587402bda0f2643382a6eefeab/invoice.png", question="What is the invoice number?") [DocumentQuestionAnsweringOutputElement(answer='us-001', end=16, score=0.9999666213989258, start=16)] ``` #### feature_extraction[[huggingface_hub.InferenceClient.feature_extraction]] ```python feature_extraction(text: str | list[str], normalize: bool | None = None, prompt_name: str | None = None, truncate: bool | None = None, truncation_direction: typing.Optional[typing.Literal['left', 'right']] = None, dimensions: int | None = None, encoding_format: typing.Optional[typing.Literal['float', 'base64']] = None, model: str | None = None) ``` [Kaynak](https://github.com/huggingface/huggingface_hub/blob/main/src/huggingface_hub/inference/_client.py#L1020) **Parametreler:** text (*str* veya *list[str]*) : Gömülecek metin veya metin listesi. model (*str*, *opsiyonel*) : Özellik çıkarma görevi için kullanılacak model. Hugging Face Hub'da barındırılan bir model kimliği veya dağıtılmış bir Inference Endpoint'in URL'si olabilir. Sağlanmazsa, varsayılan önerilen özellik çıkarma modeli kullanılır. Varsayılan olarak None'dır. normalize (*bool*, *opsiyonel*) : Gömmeleştirmelerin normalize edilip edilmeyeceğini belirtir. Yalnızca Text-Embedding-Inference tarafından desteklenen sunucularda kullanılabilir. prompt_name (*str*, *opsiyonel*) : Kodlama için kullanılması gereken prompt'un adı. Ayarlanmazsa hiçbir prompt uygulanmaz. *Sentence Transformers* yapılandırmasındaki *prompts* sözlüğünde bir anahtar olmalıdır. Örneğin `prompt_name` "query" ve `prompts` &lcub;"query": "query: ",...} ise, "What is the capital of France?" cümlesi, kodlanacak metnin başına prompt metninin eklenmesi nedeniyle "query: What is the capital of France?" olarak kodlanır. truncate (*bool*, *opsiyonel*) : Gömme (embedding) değerlerinin kırpılıp kırpılmayacağını belirtir. Yalnızca Text-Embedding-Inference tarafından desteklenen sunucularda kullanılabilir. truncation_direction (*Literal["left", "right"]*, *opsiyonel*) : *truncate=True* parametresi verildiğinde girdinin hangi tarafının kısaltılacağı. dimensions (*int*, *optional*) : Sonuç olarak üretilen gömme (embedding) çıktısının sahip olması gereken boyut sayısı. Yalnızca OpenAI ile uyumlu gömme uç noktalarında kullanılabilir. encoding_format (*Literal["float", "base64"]*, *opsiyonel*) : Çıktı gömme (embedding) verilerinin biçimi. "float" veya "base64" olabilir. Yalnızca OpenAI ile uyumlu gömme uç noktalarında kullanılabilir. **Dönüş:** `*np.ndarray*` Girdi metinlerini float32 numpy dizisi olarak temsil eden gömme (embedding). **Yükselen:** [*InferenceTimeoutError*] veya [*HfHubHTTPError*] - [*InferenceTimeoutError*] -- Model kullanılamıyorsa veya istek zaman aşımına uğrarsa. - [*HfHubHTTPError*] -- HTTP 503 dışında bir HTTP hata durum koduyla istek başarısız olursa. Belirli bir metin veya metinler grubu için gömme (embedding) üretin. Örnek: ```py >>> from huggingface_hub import InferenceClient >>> client = InferenceClient() >>> client.feature_extraction("Hi, who are you?") array([[ 2.424802 , 2.93384 , 1.1750331 , ..., 1.240499, -0.13776633, -0.7889173 ], [-0.42943227, -0.6364878 , -1.693462 , ..., 0.41978157, -2.4336355 , 0.6162071 ], ..., [ 0.28552425, -0.928395 , -1.2077185 , ..., 0.76810825, -2.1069427 , 0.6236161 ]], dtype=float32) ``` #### fill_mask[[huggingface_hub.InferenceClient.fill_mask]] ```python fill_mask(text: str, model: str | None = None, targets: list[str] | None = None, top_k: int | None = None) ``` [Kaynak](https://github.com/huggingface/huggingface_hub/blob/main/src/huggingface_hub/inference/_client.py#L1103) **Parametreler:** text (`str`) : doldurulacak bir dize, [MASK] token'ını içermelidir (maskenin tam adı için model kartını kontrol edin). model (`str`, *isteğe bağlı*) : Fill mask görevi için kullanılacak model. Hugging Face Hub'da barındırılan bir model kimliği veya dağıtılmış bir Inference Endpoint'in URL'si olabilir. Belirtilmezse, varsayılan önerilen fill mask modeli kullanılır. targets (`list[str`, *optional*) : Geçirildiğinde, model puanları tüm sözlükte arama yapmak yerine verilen hedeflerle sınırlar. Sağlanan hedefler model sözlüğünde yoksa, bunlar tokenize edilir ve ilk oluşan token kullanılır (bir uyarıyla birlikte ve bu daha yavaş olabilir). top_k (`int`, *isteğe bağlı*) : Verildiğinde, döndürülecek tahmin sayısını yazar. **Dönüş:** `list[FillMaskOutputElement]` tahmini etiketi, ilişkili olasılığı, token referansını ve tamamlanmış metni içeren [FillMaskOutputElement](/docs/huggingface_hub/main/tr/package_reference/inference_types#huggingface_hub.FillMaskOutputElement) öğelerinin bir listesi. **Yükselen:** [InferenceTimeoutError](/docs/huggingface_hub/main/tr/package_reference/inference_client#huggingface_hub.InferenceTimeoutError) veya `HfHubHTTPError` - [InferenceTimeoutError](/docs/huggingface_hub/main/tr/package_reference/inference_client#huggingface_hub.InferenceTimeoutError) -- Model kullanılamıyorsa veya istek zaman aşımına uğrarsa. - `HfHubHTTPError` -- HTTP 503 dışında bir HTTP hata durum koduyla istek başarısız olursa. Eksik kelimeyi (daha doğrusu token'ı) içeren boşluğu doldurun. Örnek: ```py >>> from huggingface_hub import InferenceClient >>> client = InferenceClient() >>> client.fill_mask("The goal of life is .") [ FillMaskOutputElement(score=0.06897063553333282, token=11098, token_str=' happiness', sequence='The goal of life is happiness.'), FillMaskOutputElement(score=0.06554922461509705, token=45075, token_str=' immortality', sequence='The goal of life is immortality.') ] ``` #### get_endpoint_info[[huggingface_hub.InferenceClient.get_endpoint_info]] ```python get_endpoint_info(model: str | None = None) ``` [Kaynak](https://github.com/huggingface/huggingface_hub/blob/main/src/huggingface_hub/inference/_client.py#L3250) **Parametreler:** model (`str`, *isteğe bağlı*) : Çıkarım için kullanılacak model. Hugging Face Hub'da barındırılan bir model kimliği veya dağıtılmış bir Inference Endpoint URL'si olabilir. Bu parametre, örnek düzeyinde tanımlanan modeli geçersiz kılar. Varsayılan değeri None'dır. **Dönüş:** `dict[str, Any]` Uç nokta hakkında bilgi. Dağıtılan uç nokta hakkında bilgi alın. Bu uç nokta yalnızca Text-Generation-Inference (TGI) veya Text-Embedding-Inference (TEI) tarafından desteklenen uç noktalarda kullanılabilir. `transformers` tarafından desteklenen uç noktalar boş bir yük döndürür. Örnek: ```py >>> from huggingface_hub import InferenceClient >>> client = InferenceClient("meta-llama/Meta-Llama-3-70B-Instruct") >>> client.get_endpoint_info() { 'model_id': 'meta-llama/Meta-Llama-3-70B-Instruct', 'model_sha': None, 'model_dtype': 'torch.float16', 'model_device_type': 'cuda', 'model_pipeline_tag': None, 'max_concurrent_requests': 128, 'max_best_of': 2, 'max_stop_sequences': 4, 'max_input_length': 8191, 'max_total_tokens': 8192, 'waiting_served_ratio': 0.3, 'max_batch_total_tokens': 1259392, 'max_waiting_tokens': 20, 'max_batch_size': None, 'validation_workers': 32, 'max_client_batch_size': 4, 'version': '2.0.2', 'sha': 'dccab72549635c7eb5ddb17f43f0b7cdff07c214', 'docker_label': 'sha-dccab72' } ``` #### health_check[[huggingface_hub.InferenceClient.health_check]] ```python health_check(model: str | None = None) ``` [Kaynak](https://github.com/huggingface/huggingface_hub/blob/main/src/huggingface_hub/inference/_client.py#L3308) **Parametreler:** model (`str`, *isteğe bağlı*) : Inference Endpoint URL'si. Bu parametre, örnek düzeyinde tanımlanan modeli geçersiz kılar. Varsayılan değeri None'dır. **Dönüş:** `bool` Her şeyin düzgün çalıştığını belirtir. Dağıtılan uç noktanın sağlığını kontrol edin. Health check yalnızca Text-Generation-Inference (TGI) veya Text-Embedding-Inference (TEI) ile çalışan Inference Endpoints ile kullanılabilir. Örnek: ```py >>> from huggingface_hub import InferenceClient >>> client = InferenceClient("https://jzgu0buei5.us-east-1.aws.endpoints.huggingface.cloud") >>> client.health_check() True ``` #### image_classification[[huggingface_hub.InferenceClient.image_classification]] ```python image_classification(image: typing.Union[bytes, typing.BinaryIO, str, pathlib.Path, ForwardRef('Image'), bytearray, memoryview], model: str | None = None, function_to_apply: typing.Optional[ForwardRef('ImageClassificationOutputTransform')] = None, top_k: int | None = None) ``` [Kaynak](https://github.com/huggingface/huggingface_hub/blob/main/src/huggingface_hub/inference/_client.py#L1159) **Parametreler:** image (`Union[str, Path, bytes, BinaryIO, PIL.Image.Image]`) : Sınıflandırılacak görüntü. Ham bayt, bir görüntü dosyası, çevrimiçi bir görüntünün URL'si veya bir PIL Image olabilir. model (`str`, *isteğe bağlı*) : Görsel sınıflandırma için kullanılacak model. Hugging Face Hub'da barındırılan bir model kimliği veya dağıtılmış bir Inference Endpoint URL'si olabilir. Belirtilmezse, görsel sınıflandırma için varsayılan önerilen model kullanılır. function_to_apply (`"ImageClassificationOutputTransform"`, *isteğe bağlı*) : Skorları almak için model çıktısına uygulanacak işlev. top_k (`int`, *isteğe bağlı*) : Belirtilirse, çıktı en olası K sınıfıyla sınırlanır. **Dönüş:** `list[ImageClassificationOutputElement]` tahmini etiketi ve ilişkili olasılığı içeren [ImageClassificationOutputElement](/docs/huggingface_hub/main/tr/package_reference/inference_types#huggingface_hub.ImageClassificationOutputElement) öğelerinin bir listesi. **Yükselen:** [InferenceTimeoutError](/docs/huggingface_hub/main/tr/package_reference/inference_client#huggingface_hub.InferenceTimeoutError) veya `HfHubHTTPError` - [InferenceTimeoutError](/docs/huggingface_hub/main/tr/package_reference/inference_client#huggingface_hub.InferenceTimeoutError) -- Model kullanılamıyorsa veya istek zaman aşımına uğrarsa. - `HfHubHTTPError` -- HTTP 503 dışında bir HTTP hata durum koduyla istek başarısız olursa. Belirtilen modeli kullanarak verilen görüntü üzerinde görüntü sınıflandırması yapın. Örnek: ```py >>> from huggingface_hub import InferenceClient >>> client = InferenceClient() >>> client.image_classification("https://upload.wikimedia.org/wikipedia/commons/thumb/4/43/Cute_dog.jpg/320px-Cute_dog.jpg") [ImageClassificationOutputElement(label='Blenheim spaniel', score=0.9779096841812134), ...] ``` #### image_segmentation[[huggingface_hub.InferenceClient.image_segmentation]] ```python image_segmentation(image: typing.Union[bytes, typing.BinaryIO, str, pathlib.Path, ForwardRef('Image'), bytearray, memoryview], model: str | None = None, mask_threshold: float | None = None, overlap_mask_area_threshold: float | None = None, subtask: typing.Optional[ForwardRef('ImageSegmentationSubtask')] = None, threshold: float | None = None) ``` [Kaynak](https://github.com/huggingface/huggingface_hub/blob/main/src/huggingface_hub/inference/_client.py#L1209) **Parametreler:** image (`Union[str, Path, bytes, BinaryIO, PIL.Image.Image]`) : Bölümlendirilecek görüntü. Ham bayt, bir görüntü dosyası, çevrimiçi bir görüntünün URL'si veya bir PIL Image olabilir. model (`str`, *isteğe bağlı*) : Görüntü segmentasyonu için kullanılacak model. Hugging Face Hub'da barındırılan bir model kimliği veya dağıtılmış bir Inference Endpoint URL'si olabilir. Belirtilmezse, görüntü segmentasyonu için varsayılan önerilen model kullanılır. mask_threshold (`float`, *isteğe bağlı*) : Tahmin edilen maskelerin ikili değerlere dönüştürülürken kullanılacak eşik. overlap_mask_area_threshold (`float`, *isteğe bağlı*) : Küçük, bağlantısız segmentleri ortadan kaldırmak için maske örtüşme eşiği. subtask (`"ImageSegmentationSubtask"`, *isteğe bağlı*) : Model yeteneklerine bağlı olarak gerçekleştirilecek segmentasyon görevi. threshold (`float`, *isteğe bağlı*) : Tahmin edilen maskeleri filtrelemek için olasılık eşiği. **Dönüş:** `list[ImageSegmentationOutputElement]` Segmentasyon maskelerini ve ilişkili öznitelikleri içeren [ImageSegmentationOutputElement](/docs/huggingface_hub/main/tr/package_reference/inference_types#huggingface_hub.ImageSegmentationOutputElement) öğelerinin listesi. **Yükselen:** [InferenceTimeoutError](/docs/huggingface_hub/main/tr/package_reference/inference_client#huggingface_hub.InferenceTimeoutError) veya `HfHubHTTPError` - [InferenceTimeoutError](/docs/huggingface_hub/main/tr/package_reference/inference_client#huggingface_hub.InferenceTimeoutError) -- Model kullanılamıyorsa veya istek zaman aşımına uğrarsa. - `HfHubHTTPError` -- HTTP 503 dışında bir HTTP hata durum koduyla istek başarısız olursa. Belirtilen modeli kullanarak verilen görüntü üzerinde görüntü segmentasyonu gerçekleştirin. > [!WARNING] > Görsellerle çalışmak istiyorsanız `PIL` kurulu olmalıdır (`pip install Pillow`). Örnek: ```py >>> from huggingface_hub import InferenceClient >>> client = InferenceClient() >>> client.image_segmentation("cat.jpg") [ImageSegmentationOutputElement(score=0.989008, label='LABEL_184', mask=), ...] ``` #### image_to_image[[huggingface_hub.InferenceClient.image_to_image]] ```python image_to_image(image: typing.Union[bytes, typing.BinaryIO, str, pathlib.Path, ForwardRef('Image'), bytearray, memoryview], prompt: str | None = None, negative_prompt: str | None = None, num_inference_steps: int | None = None, guidance_scale: float | None = None, model: str | None = None, target_size: huggingface_hub.inference._generated.types.image_to_image.ImageToImageTargetSize | None = None, **kwargs) ``` [Kaynak](https://github.com/huggingface/huggingface_hub/blob/main/src/huggingface_hub/inference/_client.py#L1277) **Parametreler:** image (`Union[str, Path, bytes, BinaryIO, PIL.Image.Image]`) : Çeviri için girdi görüntüsü. Ham baytlar, bir görüntü dosyası, çevrimiçi bir görüntüye giden bir URL veya bir PIL Image olabilir. prompt (`str`, *isteğe bağlı*) : Görsel üretimi yönlendirmek için metin komutu. negative_prompt (`str`, *isteğe bağlı*) : Görsel üretimde dahil edilmemesi gerekenleri yönlendirmek için tek bir istem. num_inference_steps (`int`, *isteğe bağlı*) : Difüzyon modelleri için. Gürültü azaltma adım sayısı. Daha fazla gürültü azaltma adımı genellikle daha yavaş çıkarım pahasına daha yüksek kaliteli bir görüntüye yol açar. guidance_scale (`float`, *isteğe bağlı*) : Difüzyon modelleri için. Daha yüksek bir yönlendirme ölçeği değeri, modelin metin komutuyla yakından ilişkili görseller üretmesini teşvik eder; bunun bedeli ise daha düşük görsel kalitedir. model (`str`, *isteğe bağlı*) : Çıkarım için kullanılacak model. Hugging Face Hub'da barındırılan bir model kimliği veya dağıtılmış bir Inference Endpoint URL'si olabilir. Bu parametre, örnek düzeyinde tanımlanan modeli geçersiz kılar. Varsayılan değeri None'dır. target_size (`ImageToImageTargetSize`, *isteğe bağlı*) : Çıktı görüntüsünün piksel cinsinden boyutu. Bu parametre yalnızca bazı sağlayıcılar ve belirli modeller tarafından desteklenir. Desteklenmediğinde yok sayılır. **Dönüş:** `Image` Çevrilen görüntü. **Yükselen:** [InferenceTimeoutError](/docs/huggingface_hub/main/tr/package_reference/inference_client#huggingface_hub.InferenceTimeoutError) veya `HfHubHTTPError` - [InferenceTimeoutError](/docs/huggingface_hub/main/tr/package_reference/inference_client#huggingface_hub.InferenceTimeoutError) -- Model kullanılamıyorsa veya istek zaman aşımına uğrarsa. - `HfHubHTTPError` -- HTTP 503 dışında bir HTTP hata durum koduyla istek başarısız olursa. Belirtilen bir model kullanarak görüntüden görüntüye çeviri gerçekleştirin. > [!WARNING] > Görsellerle çalışmak istiyorsanız `PIL` kurulu olmalıdır (`pip install Pillow`). Örnek: ```py >>> from huggingface_hub import InferenceClient >>> client = InferenceClient() >>> image = client.image_to_image("cat.jpg", prompt="turn the cat into a tiger") >>> image.save("tiger.jpg") ``` #### image_to_text[[huggingface_hub.InferenceClient.image_to_text]] ```python image_to_text(image: typing.Union[bytes, typing.BinaryIO, str, pathlib.Path, ForwardRef('Image'), bytearray, memoryview], model: str | None = None) ``` [Kaynak](https://github.com/huggingface/huggingface_hub/blob/main/src/huggingface_hub/inference/_client.py#L1432) **Parametreler:** image (`Union[str, Path, bytes, BinaryIO, PIL.Image.Image]`) : Başlıklandırılacak girdi görüntüsü. Ham baytlar, bir görüntü dosyası, çevrimiçi bir görüntüye giden bir URL veya bir PIL Image olabilir. model (`str`, *isteğe bağlı*) : Çıkarım için kullanılacak model. Hugging Face Hub'da barındırılan bir model kimliği veya dağıtılmış bir Inference Endpoint URL'si olabilir. Bu parametre, örnek düzeyinde tanımlanan modeli geçersiz kılar. Varsayılan değeri None'dır. **Dönüş:** [ImageToTextOutput](/docs/huggingface_hub/main/tr/package_reference/inference_types#huggingface_hub.ImageToTextOutput) Oluşturulan metin. **Yükselen:** [InferenceTimeoutError](/docs/huggingface_hub/main/tr/package_reference/inference_client#huggingface_hub.InferenceTimeoutError) veya `HfHubHTTPError` - [InferenceTimeoutError](/docs/huggingface_hub/main/tr/package_reference/inference_client#huggingface_hub.InferenceTimeoutError) -- Model kullanılamıyorsa veya istek zaman aşımına uğrarsa. - `HfHubHTTPError` -- HTTP 503 dışında bir HTTP hata durum koduyla istek başarısız olursa. Girdi olarak bir görüntü alır ve metin döndürür. Modeller, kullanım senaryonuza (görsel açıklama, optik karakter tanıma (OCR), Pix2Struct vb.) göre çok farklı çıktılar üretebilir. Bir modelin kendine özgü özellikleri hakkında daha fazla bilgi edinmek için model kartına göz atın. Örnek: ```py >>> from huggingface_hub import InferenceClient >>> client = InferenceClient() >>> client.image_to_text("cat.jpg") 'a cat standing in a grassy field ' >>> client.image_to_text("https://upload.wikimedia.org/wikipedia/commons/thumb/4/43/Cute_dog.jpg/320px-Cute_dog.jpg") 'a dog laying on the grass next to a flower pot ' ``` #### image_to_video[[huggingface_hub.InferenceClient.image_to_video]] ```python image_to_video(image: typing.Union[bytes, typing.BinaryIO, str, pathlib.Path, ForwardRef('Image'), bytearray, memoryview], model: str | None = None, prompt: str | None = None, negative_prompt: str | None = None, num_frames: float | None = None, num_inference_steps: int | None = None, guidance_scale: float | None = None, seed: int | None = None, target_size: huggingface_hub.inference._generated.types.image_to_video.ImageToVideoTargetSize | None = None, **kwargs) ``` [Kaynak](https://github.com/huggingface/huggingface_hub/blob/main/src/huggingface_hub/inference/_client.py#L1353) **Parametreler:** image (`Union[str, Path, bytes, BinaryIO, PIL.Image.Image]`) : Video oluşturulacak girdi görüntüsü. Ham baytlar, bir görüntü dosyası, çevrimiçi bir görüntünün URL'si veya bir PIL Image olabilir. model (`str`, *isteğe bağlı*) : Çıkarım için kullanılacak model. Hugging Face Hub'da barındırılan bir model kimliği veya dağıtılmış bir Inference Endpoint URL'si olabilir. Bu parametre, örnek düzeyinde tanımlanan modeli geçersiz kılar. Varsayılan değeri None'dır. prompt (`str`, *isteğe bağlı*) : Video üretimini yönlendirmek için metin komutu. negative_prompt (`str`, *isteğe bağlı*) : Video üretiminde dahil edilmemesi gerekenleri yönlendirmek için tek bir istem. num_frames (`float`, *isteğe bağlı*) : num_frames parametresi, kaç video karesinin oluşturulacağını belirler. num_inference_steps (`int`, *isteğe bağlı*) : Difüzyon modelleri için. Gürültü azaltma adım sayısı. Daha fazla gürültü azaltma adımı genellikle daha yavaş çıkarım pahasına daha yüksek kaliteli bir görüntüye yol açar. guidance_scale (`float`, *isteğe bağlı*) : Difüzyon modelleri için. Daha yüksek bir yönlendirme ölçeği değeri, modelin metin istemine sıkı sıkıya bağlı videolar üretmesini teşvik eder; bunun bedeli ise daha düşük görüntü kalitesidir. seed (`int`, *isteğe bağlı*) : Video üretimi için kullanılacak tohum. target_size (`ImageToVideoTargetSize`, *isteğe bağlı*) : Çıktı video karelerinin piksel cinsinden boyutu. num_inference_steps (`int`, *isteğe bağlı*) : Gürültü azaltma adım sayısı. Daha fazla gürültü azaltma adımı genellikle daha yavaş çıkarım pahasına daha yüksek kaliteli bir videoya yol açar. seed (`int`, *isteğe bağlı*) : Rastgele sayı üreteci için tohum. **Dönüş:** `bytes` Oluşturulan video. Girdi görüntüsünden bir video oluşturun. Örnekler: ```py >>> from huggingface_hub import InferenceClient >>> client = InferenceClient() >>> video = client.image_to_video("cat.jpg", model="Wan-AI/Wan2.2-I2V-A14B", prompt="turn the cat into a tiger") >>> with open("tiger.mp4", "wb") as f: ... f.write(video) ``` #### object_detection[[huggingface_hub.InferenceClient.object_detection]] ```python object_detection(image: typing.Union[bytes, typing.BinaryIO, str, pathlib.Path, ForwardRef('Image'), bytearray, memoryview], model: str | None = None, threshold: float | None = None) ``` [Kaynak](https://github.com/huggingface/huggingface_hub/blob/main/src/huggingface_hub/inference/_client.py#L1478) **Parametreler:** image (`Union[str, Path, bytes, BinaryIO, PIL.Image.Image]`) : Nesne algılama yapılacak görüntü. Ham bayt, bir görüntü dosyası, çevrimiçi bir görüntünün URL'si veya bir PIL Image olabilir. model (`str`, *isteğe bağlı*) : Nesne algılama için kullanılacak model. Hugging Face Hub'da barındırılan bir model kimliği veya dağıtılmış bir Inference Endpoint URL'si olabilir. Belirtilmezse, nesne algılama için varsayılan önerilen model (DETR) kullanılır. threshold (`float`, *isteğe bağlı*) : Bir tahmin yapabilmek için gerekli olasılık. **Dönüş:** `list[ObjectDetectionOutputElement]` Sınır kutularını ve ilişkili öznitelikleri içeren [ObjectDetectionOutputElement](/docs/huggingface_hub/main/tr/package_reference/inference_types#huggingface_hub.ObjectDetectionOutputElement) öğelerinin listesi. **Yükselen:** [InferenceTimeoutError](/docs/huggingface_hub/main/tr/package_reference/inference_client#huggingface_hub.InferenceTimeoutError) veya `HfHubHTTPError` veya ``ValueError`` - [InferenceTimeoutError](/docs/huggingface_hub/main/tr/package_reference/inference_client#huggingface_hub.InferenceTimeoutError) -- Model kullanılamıyorsa veya istek zaman aşımına uğrarsa. - `HfHubHTTPError` -- HTTP 503 dışında bir HTTP hata durum koduyla istek başarısız olursa. - ``ValueError`` -- İstek çıktısı bir List değilse. Belirtilen modeli kullanarak verilen görüntüde nesne algılama gerçekleştirin. > [!WARNING] > Görsellerle çalışmak istiyorsanız `PIL` kurulu olmalıdır (`pip install Pillow`). Örnek: ```py >>> from huggingface_hub import InferenceClient >>> client = InferenceClient() >>> client.object_detection("people.jpg") [ObjectDetectionOutputElement(score=0.9486683011054993, label='person', box=ObjectDetectionBoundingBox(xmin=59, ymin=39, xmax=420, ymax=510)), ...] ``` #### question_answering[[huggingface_hub.InferenceClient.question_answering]] ```python question_answering(question: str, context: str, model: str | None = None, align_to_words: bool | None = None, doc_stride: int | None = None, handle_impossible_answer: bool | None = None, max_answer_len: int | None = None, max_question_len: int | None = None, max_seq_len: int | None = None, top_k: int | None = None) ``` [Kaynak](https://github.com/huggingface/huggingface_hub/blob/main/src/huggingface_hub/inference/_client.py#L1526) **Parametreler:** question (`str`) : Yanıtlanması gereken soru. context (`str`) : Sorunun bağlamı. model (`str`) : Soru cevaplandırma görevi için kullanılacak model. Hugging Face Hub'da barındırılan bir model kimliği veya dağıtılmış bir Inference Endpoint'in URL'si olabilir. align_to_words (`bool`, *isteğe bağlı*) : Cevabı gerçek kelimelere hizalamayı dener. Boşlukla ayrılan dillerde kaliteyi artırır. Boşlukla ayrılmayan dillerde (Japonca veya Çince gibi) kaliteyi düşürebilir. doc_stride (`int`, *isteğe bağlı*) : Bağlam, model için soruyla birlikte sığmayacak kadar uzunsa, bazı örtüşmelerle birkaç parçaya bölünür. Bu argüman, bu örtüşmenin boyutunu kontrol eder. handle_impossible_answer (`bool`, *isteğe bağlı*) : İmkânsızın bir cevap olarak kabul edilip edilmeyeceği. max_answer_len (`int`, *isteğe bağlı*) : Tahmin edilen cevapların maksimum uzunluğu (ör. yalnızca daha kısa uzunluğa sahip cevaplar dikkate alınır). max_question_len (`int`, *isteğe bağlı*) : Tokenizasyon sonrası sorunun maksimum uzunluğu. Gerekirse kısaltılır. max_seq_len (`int`, *isteğe bağlı*) : Modeline iletilen her parçanın, toplam cümlenin (bağlam + soru) token cinsinden maksimum uzunluğu. Gerekirse bağlam, birkaç parçaya bölünür (geçiş olarak docStride kullanılır). top_k (`int`, *isteğe bağlı*) : Döndürülecek cevap sayısı (olasılık sırasına göre seçilecektir). Bağlamda yeterli seçenek yoksa, topk'dan daha az cevap döndürüldüğünü unutmayın. **Dönüş:** Union[`QuestionAnsweringOutputElement`, list[QuestionAnsweringOutputElement](/docs/huggingface_hub/main/tr/package_reference/inference_types#huggingface_hub.QuestionAnsweringOutputElement)] top_k 1 olduğunda veya verilmediğinde, tek bir `QuestionAnsweringOutputElement` döndürür. top_k 1'den büyük olduğunda, `QuestionAnsweringOutputElement` listesini döndürür. **Yükselen:** [InferenceTimeoutError](/docs/huggingface_hub/main/tr/package_reference/inference_client#huggingface_hub.InferenceTimeoutError) veya `HfHubHTTPError` - [InferenceTimeoutError](/docs/huggingface_hub/main/tr/package_reference/inference_client#huggingface_hub.InferenceTimeoutError) -- Model kullanılamıyorsa veya istek zaman aşımına uğrarsa. - `HfHubHTTPError` -- HTTP 503 dışında bir HTTP hata durum koduyla istek başarısız olursa. Verilen bir metinden bir sorunun cevabını alın. Örnek: ```py >>> from huggingface_hub import InferenceClient >>> client = InferenceClient() >>> client.question_answering(question="What's my name?", context="My name is Clara and I live in Berkeley.") QuestionAnsweringOutputElement(answer='Clara', end=16, score=0.9326565265655518, start=11) ``` #### sentence_similarity[[huggingface_hub.InferenceClient.sentence_similarity]] ```python sentence_similarity(sentence: str, other_sentences: list, model: str | None = None) ``` [Kaynak](https://github.com/huggingface/huggingface_hub/blob/main/src/huggingface_hub/inference/_client.py#L1610) **Parametreler:** sentence (`str`) : Diğerleriyle karşılaştırılacak ana cümle. other_sentences (`list[str]`) : Karşılaştırılacak cümlelerin listesi. model (`str`, *isteğe bağlı*) : Cümle benzerliği görevi için kullanılacak model. Hugging Face Hub'da barındırılan bir model kimliği veya dağıtılmış bir Inference Endpoint'in URL'si olabilir. Belirtilmezse, varsayılan önerilen cümle benzerliği modeli kullanılır. Varsayılan olarak None'dır. **Dönüş:** `list[float]` Girdi metnini temsil eden gömme (embedding). **Yükselen:** [InferenceTimeoutError](/docs/huggingface_hub/main/tr/package_reference/inference_client#huggingface_hub.InferenceTimeoutError) veya `HfHubHTTPError` - [InferenceTimeoutError](/docs/huggingface_hub/main/tr/package_reference/inference_client#huggingface_hub.InferenceTimeoutError) -- Model kullanılamıyorsa veya istek zaman aşımına uğrarsa. - `HfHubHTTPError` -- HTTP 503 dışında bir HTTP hata durum koduyla istek başarısız olursa. Cümle gömme vektörlerini karşılaştırarak bir cümle ile diğer cümlelerin oluşturduğu liste arasındaki anlamsal benzerliği hesaplayın. Örnek: ```py >>> from huggingface_hub import InferenceClient >>> client = InferenceClient() >>> client.sentence_similarity( ... "Machine learning is so easy.", ... other_sentences=[ ... "Deep learning is so straightforward.", ... "This is so difficult, like rocket science.", ... "I can't believe how much I struggled with this.", ... ], ... ) [0.7785726189613342, 0.45876261591911316, 0.2906220555305481] ``` #### özetleme[[huggingface_hub.InferenceClient.summarization]] ```python summarization(text: str, model: str | None = None, clean_up_tokenization_spaces: bool | None = None, generate_parameters: dict[str, typing.Any] | None = None, truncation: typing.Optional[ForwardRef('SummarizationTruncationStrategy')] = None) ``` [Kaynak](https://github.com/huggingface/huggingface_hub/blob/main/src/huggingface_hub/inference/_client.py#L1663) **Parametreler:** text (`str`) : Özetlenecek girdi metni. model (`str`, *isteğe bağlı*) : Çıkarım için kullanılacak model. Hugging Face Hub'da barındırılan bir model kimliği veya dağıtılmış bir Inference Endpoint URL'si olabilir. Belirtilmezse, özetleme için varsayılan önerilen model kullanılır. clean_up_tokenization_spaces (`bool`, *isteğe bağlı*) : Metin çıktısındaki olası ek boşlukların temizlenip temizlenmeyeceğini belirtir. generate_parameters (`dict[str, Any]`, *isteğe bağlı*) : Metin üretim algoritmasının ek parametrelemesi. truncation (`"SummarizationTruncationStrategy"`, *isteğe bağlı*) : Kullanılacak kesme stratejisi. **Dönüş:** [SummarizationOutput](/docs/huggingface_hub/main/tr/package_reference/inference_types#huggingface_hub.SummarizationOutput) Oluşturulan özet metni. **Yükselen:** [InferenceTimeoutError](/docs/huggingface_hub/main/tr/package_reference/inference_client#huggingface_hub.InferenceTimeoutError) veya `HfHubHTTPError` - [InferenceTimeoutError](/docs/huggingface_hub/main/tr/package_reference/inference_client#huggingface_hub.InferenceTimeoutError) -- Model kullanılamıyorsa veya istek zaman aşımına uğrarsa. - `HfHubHTTPError` -- HTTP 503 dışında bir HTTP hata durum koduyla istek başarısız olursa. Belirtilen bir model kullanılarak verilen bir metnin özetini oluşturun. Örnek: ```py >>> from huggingface_hub import InferenceClient >>> client = InferenceClient() >>> client.summarization("The Eiffel tower...") SummarizationOutput(generated_text="The Eiffel tower is one of the most famous landmarks in the world....") ``` #### table_question_answering[[huggingface_hub.InferenceClient.table_question_answering]] ```python table_question_answering(table: dict, query: str, model: str | None = None, padding: typing.Optional[ForwardRef('Padding')] = None, sequential: bool | None = None, truncation: bool | None = None) ``` [Kaynak](https://github.com/huggingface/huggingface_hub/blob/main/src/huggingface_hub/inference/_client.py#L1721) **Parametreler:** table (`str`) : Girdiler başlıklar, listeler ise tüm değerler olan bir liste sözlüğü olarak temsil edilen veri tablosu; tüm listelerin aynı boyutta olması gerekir. query (`str`) : Tabloya sormak istediğiniz düz metin sorgusu. model (`str`) : Tablo-soru-cevap görevi için kullanılacak model. Hugging Face Hub'da barındırılan bir model kimliği veya dağıtılmış bir Inference Endpoint'in URL'si olabilir. padding (`"Padding"`, *isteğe bağlı*) : Dolguyu etkinleştirir ve kontrol eder. sequential (`bool`, *isteğe bağlı*) : Çıkarımın sıralı olarak mı yoksa bir parti (batch) olarak mı yapılacağını belirtir. Partileme daha hızlıdır, ancak SQA gibi modeller, konuşmacı doğaları gereği diziler içindeki ilişkileri çıkarabilmek için çıkarımın sıralı olarak yapılmasını gerektirir. truncation (`bool`, *isteğe bağlı*) : Kırpma işlemini etkinleştirir ve kontrol eder. **Dönüş:** [TableQuestionAnsweringOutputElement](/docs/huggingface_hub/main/tr/package_reference/inference_types#huggingface_hub.TableQuestionAnsweringOutputElement) cevabı, koordinatları, hücreleri ve kullanılan toplayıcıyı içeren bir tablo soru-cevap çıktısı. **Yükselen:** [InferenceTimeoutError](/docs/huggingface_hub/main/tr/package_reference/inference_client#huggingface_hub.InferenceTimeoutError) veya `HfHubHTTPError` - [InferenceTimeoutError](/docs/huggingface_hub/main/tr/package_reference/inference_client#huggingface_hub.InferenceTimeoutError) -- Model kullanılamıyorsa veya istek zaman aşımına uğrarsa. - `HfHubHTTPError` -- HTTP 503 dışında bir HTTP hata durum koduyla istek başarısız olursa. Bir tablodaki bilgilerden bir sorunun cevabını alın. Örnek: ```py >>> from huggingface_hub import InferenceClient >>> client = InferenceClient() >>> query = "How many stars does the transformers repository have?" >>> table = {"Repository": ["Transformers", "Datasets", "Tokenizers"], "Stars": ["36542", "4512", "3934"]} >>> client.table_question_answering(table, query, model="google/tapas-base-finetuned-wtq") TableQuestionAnsweringOutputElement(answer='36542', coordinates=[[0, 1]], cells=['36542'], aggregator='AVERAGE') ``` #### tabular_classification[[huggingface_hub.InferenceClient.tabular_classification]] ```python tabular_classification(table: dict, model: str | None = None) ``` [Kaynak](https://github.com/huggingface/huggingface_hub/blob/main/src/huggingface_hub/inference/_client.py#L1783) **Parametreler:** table (`dict[str, Any]`) : Sınıflandırılacak öznitelikler kümesi. model (`str`, *isteğe bağlı*) : Tabular sınıflandırma görevi için kullanılacak model. Hugging Face Hub'da barındırılan bir model kimliği veya dağıtılmış bir Inference Endpoint URL'si olabilir. Sağlanmazsa, varsayılan önerilen tabular sınıflandırma modeli kullanılır. Varsayılan olarak None'dır. **Dönüş:** `List` ilk tablodaki her satır için bir etiketten oluşan bir liste. **Yükselen:** [InferenceTimeoutError](/docs/huggingface_hub/main/tr/package_reference/inference_client#huggingface_hub.InferenceTimeoutError) veya `HfHubHTTPError` - [InferenceTimeoutError](/docs/huggingface_hub/main/tr/package_reference/inference_client#huggingface_hub.InferenceTimeoutError) -- Model kullanılamıyorsa veya istek zaman aşımına uğrarsa. - `HfHubHTTPError` -- HTTP 503 dışında bir HTTP hata durum koduyla istek başarısız olursa. Bir dizi öznitelik temelinde hedef bir kategorinin (bir grubun) sınıflandırılması. Örnek: ```py >>> from huggingface_hub import InferenceClient >>> client = InferenceClient() >>> table = { ... "fixed_acidity": ["7.4", "7.8", "10.3"], ... "volatile_acidity": ["0.7", "0.88", "0.32"], ... "citric_acid": ["0", "0", "0.45"], ... "residual_sugar": ["1.9", "2.6", "6.4"], ... "chlorides": ["0.076", "0.098", "0.073"], ... "free_sulfur_dioxide": ["11", "25", "5"], ... "total_sulfur_dioxide": ["34", "67", "13"], ... "density": ["0.9978", "0.9968", "0.9976"], ... "pH": ["3.51", "3.2", "3.23"], ... "sulphates": ["0.56", "0.68", "0.82"], ... "alcohol": ["9.4", "9.8", "12.6"], ... } >>> client.tabular_classification(table=table, model="julien-c/wine-quality") ["5", "5", "5"] ``` #### tabular_regression[[huggingface_hub.InferenceClient.tabular_regression]] ```python tabular_regression(table: dict, model: str | None = None) ``` [Kaynak](https://github.com/huggingface/huggingface_hub/blob/main/src/huggingface_hub/inference/_client.py#L1838) **Parametreler:** table (`dict[str, Any]`) : Bir tabloda saklanan öznitelikler kümesi. Hedefi tahmin etmek için kullanılan öznitelikler hem sayısal hem de kategorik olabilir. model (`str`, *isteğe bağlı*) : Tabular regresyon görevi için kullanılacak model. Hugging Face Hub'da barındırılan bir model kimliği veya dağıtılmış bir Inference Endpoint URL'si olabilir. Sağlanmazsa, varsayılan önerilen tabular regresyon modeli kullanılır. Varsayılan olarak None'dır. **Dönüş:** `List` tahmin edilen sayısal hedef değerlerinin listesi. **Yükselen:** [InferenceTimeoutError](/docs/huggingface_hub/main/tr/package_reference/inference_client#huggingface_hub.InferenceTimeoutError) veya `HfHubHTTPError` - [InferenceTimeoutError](/docs/huggingface_hub/main/tr/package_reference/inference_client#huggingface_hub.InferenceTimeoutError) -- Model kullanılamıyorsa veya istek zaman aşımına uğrarsa. - `HfHubHTTPError` -- HTTP 503 dışında bir HTTP hata durum koduyla istek başarısız olursa. Bir tablodaki bir dizi özellik/öznitelik verildiğinde sayısal bir hedef değeri tahmin etme. Örnek: ```py >>> from huggingface_hub import InferenceClient >>> client = InferenceClient() >>> table = { ... "Height": ["11.52", "12.48", "12.3778"], ... "Length1": ["23.2", "24", "23.9"], ... "Length2": ["25.4", "26.3", "26.5"], ... "Length3": ["30", "31.2", "31.1"], ... "Species": ["Bream", "Bream", "Bream"], ... "Width": ["4.02", "4.3056", "4.6961"], ... } >>> client.tabular_regression(table, model="scikit-learn/Fish-Weight") [110, 120, 130] ``` #### text_classification[[huggingface_hub.InferenceClient.text_classification]] ```python text_classification(text: str, model: str | None = None, top_k: int | None = None, function_to_apply: typing.Optional[ForwardRef('TextClassificationOutputTransform')] = None) ``` [Kaynak](https://github.com/huggingface/huggingface_hub/blob/main/src/huggingface_hub/inference/_client.py#L1888) **Parametreler:** text (`str`) : Sınıflandırılacak bir dize. model (`str`, *isteğe bağlı*) : Metin sınıflandırma görevi için kullanılacak model. Hugging Face Hub'da barındırılan bir model kimliği veya dağıtılmış bir Inference Endpoint'in URL'si olabilir. Belirtilmezse, varsayılan önerilen metin sınıflandırma modeli kullanılır. Varsayılan olarak None'dır. top_k (`int`, *isteğe bağlı*) : Belirtilirse, çıktı en olası K sınıfıyla sınırlanır. function_to_apply (`"TextClassificationOutputTransform"`, *isteğe bağlı*) : Skorları almak için model çıktısına uygulanacak işlev. **Dönüş:** `list[TextClassificationOutputElement]` tahmini etiketi ve ilişkili olasılığı içeren [TextClassificationOutputElement](/docs/huggingface_hub/main/tr/package_reference/inference_types#huggingface_hub.TextClassificationOutputElement) öğelerinin bir listesi. **Yükselen:** [InferenceTimeoutError](/docs/huggingface_hub/main/tr/package_reference/inference_client#huggingface_hub.InferenceTimeoutError) veya `HfHubHTTPError` - [InferenceTimeoutError](/docs/huggingface_hub/main/tr/package_reference/inference_client#huggingface_hub.InferenceTimeoutError) -- Model kullanılamıyorsa veya istek zaman aşımına uğrarsa. - `HfHubHTTPError` -- HTTP 503 dışında bir HTTP hata durum koduyla istek başarısız olursa. Verilen metin üzerinde metin sınıflandırma (ör. duygu analizi) gerçekleştirin. Örnek: ```py >>> from huggingface_hub import InferenceClient >>> client = InferenceClient() >>> client.text_classification("I like you") [ TextClassificationOutputElement(label='POSITIVE', score=0.9998695850372314), TextClassificationOutputElement(label='NEGATIVE', score=0.0001304351753788069), ] ``` #### text_generation[[huggingface_hub.InferenceClient.text_generation]] ```python text_generation(prompt: str, details: bool | None = None, stream: bool | None = None, model: str | None = None, adapter_id: str | None = None, best_of: int | None = None, decoder_input_details: bool | None = None, do_sample: bool | None = None, frequency_penalty: float | None = None, grammar: huggingface_hub.inference._generated.types.text_generation.TextGenerationInputGrammarType | None = None, max_new_tokens: int | None = None, repetition_penalty: float | None = None, return_full_text: bool | None = None, seed: int | None = None, stop: list[str] | None = None, temperature: float | None = None, top_k: int | None = None, top_n_tokens: int | None = None, top_p: float | None = None, truncate: int | None = None, typical_p: float | None = None, watermark: bool | None = None) ``` [Kaynak](https://github.com/huggingface/huggingface_hub/blob/main/src/huggingface_hub/inference/_client.py#L2091) **Parametreler:** prompt (`str`) : Girdi metni. details (`bool`, *isteğe bağlı*) : Varsayılan olarak, text_generation bir dize döndürür. Ayrıntılı bir çıktı (tokenler, olasılıklar, tohum, bitirme nedeni vb.) istiyorsanız `details=True` parametresini iletin. Yalnızca `text-generation-inference` arka ucuyla çalışan modellerde kullanılabilir. stream (`bool`, *isteğe bağlı*) : Varsayılan olarak, text_generation tam olarak üretilen metni döndürür. Token akışının döndürülmesini istiyorsanız `stream=True` parametresini iletin. Yalnızca `text-generation-inference` arka ucuyla çalışan modellerde kullanılabilir. model (`str`, *isteğe bağlı*) : Çıkarım için kullanılacak model. Hugging Face Hub'da barındırılan bir model kimliği veya dağıtılmış bir Inference Endpoint URL'si olabilir. Bu parametre, örnek düzeyinde tanımlanan modeli geçersiz kılar. Varsayılan değeri None'dır. adapter_id (`str`, *isteğe bağlı*) : Lora adaptör kimliği. best_of (`int`, *isteğe bağlı*) : best_of dizilerini üretir ve en yüksek token logprobs değerine sahip olanı döndürür. decoder_input_details (`bool`, *isteğe bağlı*) : Dekoder giriş token logprobs ve kimliklerini döndürür. Bunun dikkate alınması için `details=True` değerinin de ayarlanması gerekir. Varsayılan değer `False`'tür. do_sample (`bool`, *isteğe bağlı*) : logits örneklemeyi etkinleştirir frequency_penalty (`float`, *isteğe bağlı*) : -2.0 ile 2.0 arasında bir sayı. Pozitif değerler, yeni jetonları metinde o ana kadar görülen sıklıklarına göre cezalandırır ve modelin aynı satırı kelimesi kelimesine tekrar etme olasılığını azaltır. grammar ([TextGenerationInputGrammarType](/docs/huggingface_hub/main/tr/package_reference/inference_types#huggingface_hub.TextGenerationInputGrammarType), *isteğe bağlı*) : Dilbilgisi kısıtlamaları. JSONSchema veya bir regex olabilir. max_new_tokens (`int`, *isteğe bağlı*) : Üretilen jetonların maksimum sayısı. Varsayılan değer 100'dür. repetition_penalty (`float`, *isteğe bağlı*) : Tekrar cezası parametresi. 1.0 ceza uygulanmadığı anlamına gelir. Daha fazla ayrıntı için [bu makaleye](https://arxiv.org/pdf/1909.05858.pdf) bakın. return_full_text (`bool`, *isteğe bağlı*) : Üretilen metnin başına istemin eklenip eklenmeyeceğini belirtir seed (`int`, *isteğe bağlı*) : Rastgele örneklemleme tohumu stop (`list[str]`, *isteğe bağlı*) : `stop` üyelerinden biri üretilirse token üretimini durdurur. temperature (`float`, *isteğe bağlı*) : Logit dağılımını modüle etmek için kullanılan değer. top_n_tokens (`int`, *isteğe bağlı*) : Sadece örneklenen token yerine, her üretim adımında en olası `top_n_tokens` token hakkında bilgi döndürür. top_k (`int`, *isteğe bağlı`) : Top-k filtreleme için en yüksek olasılığa sahip kaç sözlük token'ının tutulacağı. top_p (`float`, *optional`) : If set to < 1, only the smallest set of most probable tokens with probabilities that add up to `top_p` or higher are kept for generation. truncate (`int`, *isteğe bağlı`) : Girdi token'larını verilen boyuta kısaltır. typical_p (`float`, *isteğe bağlı`) : Tipik Çözme kütlesi Daha fazla bilgi için [Doğal Dil Üretimi için Tipik Çözme](https://arxiv.org/abs/2202.00666) bölümüne bakın watermark (`bool`, *isteğe bağlı*) : [A Watermark for Large Language Models](https://arxiv.org/abs/2301.10226) ile filigran **Dönüş:** `Union[str, TextGenerationOutput, Iterable[str], Iterable[TextGenerationStreamOutput]]` Sunucudan döndürülen üretilen metin: - `stream=False` ve `details=False` ise, üretilen metin `str` olarak döndürülür (varsayılan) - `stream=True` ve `details=False` ise, üretilen metin `Iterable[str]` olarak token token döndürülür - `stream=False` ve `details=True` ise, üretilen metin daha fazla ayrıntıyla birlikte [TextGenerationOutput](/docs/huggingface_hub/main/tr/package_reference/inference_types#huggingface_hub.TextGenerationOutput) olarak döndürülür - `details=True` ve `stream=True` ise, üretilen metin [TextGenerationStreamOutput](/docs/huggingface_hub/main/tr/package_reference/inference_types#huggingface_hub.TextGenerationStreamOutput) türünde bir iterable olarak token token döndürülür **Yükseltir:** ``ValidationError`` veya [InferenceTimeoutError](/docs/huggingface_hub/main/tr/package_reference/inference_client#huggingface_hub.InferenceTimeoutError) veya `HfHubHTTPError` - ``ValidationError`` -- Girdi değerleri geçerli değilse. Sunucuya HTTP çağrısı yapılmaz. - [InferenceTimeoutError](/docs/huggingface_hub/main/tr/package_reference/inference_client#huggingface_hub.InferenceTimeoutError) -- Model kullanılamıyorsa veya istek zaman aşımına uğrarsa. - `HfHubHTTPError` -- HTTP 503 dışında bir HTTP hata durum koduyla istek başarısız olursa. Bir istem verildiğinde, aşağıdaki metni üretin. > [!TIP] > Sohbet mesajlarından bir yanıt üretmek istiyorsanız [InferenceClient.chat_completion()](/docs/huggingface_hub/main/tr/package_reference/inference_client#huggingface_hub.InferenceClient.chat_completion) metodunu kullanmalısınız. Bu metot, tek bir metin istemi yerine bir mesaj listesi kabul eder ve sohbet şablonlamayı sizin için halleder. Örnek: ```py >>> from huggingface_hub import InferenceClient >>> client = InferenceClient() # Case 1: generate text >>> client.text_generation("The huggingface_hub library is ", max_new_tokens=12) '100% open source and built to be easy to use.' # Case 2: iterate over the generated tokens. Useful for large generation. >>> for token in client.text_generation("The huggingface_hub library is ", max_new_tokens=12, stream=True): ... print(token) 100 % open source and built to be easy to use . # Case 3: get more details about the generation process. >>> client.text_generation("The huggingface_hub library is ", max_new_tokens=12, details=True) TextGenerationOutput( generated_text='100% open source and built to be easy to use.', details=TextGenerationDetails( finish_reason='length', generated_tokens=12, seed=None, prefill=[ TextGenerationPrefillOutputToken(id=487, text='The', logprob=None), TextGenerationPrefillOutputToken(id=53789, text=' hugging', logprob=-13.171875), (...) TextGenerationPrefillOutputToken(id=204, text=' ', logprob=-7.0390625) ], tokens=[ TokenElement(id=1425, text='100', logprob=-1.0175781, special=False), TokenElement(id=16, text='%', logprob=-0.0463562, special=False), (...) TokenElement(id=25, text='.', logprob=-0.5703125, special=False) ], best_of_sequences=None ) ) # Case 4: iterate over the generated tokens with more details. # Last object is more complete, containing the full generated text and the finish reason. >>> for details in client.text_generation("The huggingface_hub library is ", max_new_tokens=12, details=True, stream=True): ... print(details) ... TextGenerationStreamOutput(token=TokenElement(id=1425, text='100', logprob=-1.0175781, special=False), generated_text=None, details=None) TextGenerationStreamOutput(token=TokenElement(id=16, text='%', logprob=-0.0463562, special=False), generated_text=None, details=None) TextGenerationStreamOutput(token=TokenElement(id=1314, text=' open', logprob=-1.3359375, special=False), generated_text=None, details=None) TextGenerationStreamOutput(token=TokenElement(id=3178, text=' source', logprob=-0.28100586, special=False), generated_text=None, details=None) TextGenerationStreamOutput(token=TokenElement(id=273, text=' and', logprob=-0.5961914, special=False), generated_text=None, details=None) TextGenerationStreamOutput(token=TokenElement(id=3426, text=' built', logprob=-1.9423828, special=False), generated_text=None, details=None) TextGenerationStreamOutput(token=TokenElement(id=271, text=' to', logprob=-1.4121094, special=False), generated_text=None, details=None) TextGenerationStreamOutput(token=TokenElement(id=314, text=' be', logprob=-1.5224609, special=False), generated_text=None, details=None) TextGenerationStreamOutput(token=TokenElement(id=1833, text=' easy', logprob=-2.1132812, special=False), generated_text=None, details=None) TextGenerationStreamOutput(token=TokenElement(id=271, text=' to', logprob=-0.08520508, special=False), generated_text=None, details=None) TextGenerationStreamOutput(token=TokenElement(id=745, text=' use', logprob=-0.39453125, special=False), generated_text=None, details=None) TextGenerationStreamOutput(token=TokenElement( id=25, text='.', logprob=-0.5703125, special=False), generated_text='100% open source and built to be easy to use.', details=TextGenerationStreamOutputStreamDetails(finish_reason='length', generated_tokens=12, seed=None) ) # Case 5: generate constrained output using grammar >>> response = client.text_generation( ... prompt="I saw a puppy a cat and a raccoon during my bike ride in the park", ... model="HuggingFaceH4/zephyr-orpo-141b-A35b-v0.1", ... max_new_tokens=100, ... repetition_penalty=1.3, ... grammar={ ... "type": "json", ... "value": { ... "properties": { ... "location": {"type": "string"}, ... "activity": {"type": "string"}, ... "animals_seen": {"type": "integer", "minimum": 1, "maximum": 5}, ... "animals": {"type": "array", "items": {"type": "string"}}, ... }, ... "required": ["location", "activity", "animals_seen", "animals"], ... }, ... }, ... ) >>> json.loads(response) { "activity": "bike riding", "animals": ["puppy", "cat", "raccoon"], "animals_seen": 3, "location": "park" } ``` #### text_to_image[[huggingface_hub.InferenceClient.text_to_image]] ```python text_to_image(prompt: str, negative_prompt: str | None = None, height: int | None = None, width: int | None = None, num_inference_steps: int | None = None, guidance_scale: float | None = None, model: str | None = None, scheduler: str | None = None, seed: int | None = None, extra_body: dict[str, typing.Any] | None = None) ``` [Kaynak](https://github.com/huggingface/huggingface_hub/blob/main/src/huggingface_hub/inference/_client.py#L2418) **Parametreler:** prompt (`str`) : Bir görüntü oluşturmak için kullanılacak istem. negative_prompt (`str`, *isteğe bağlı*) : Görsel üretimde dahil edilmemesi gerekenleri yönlendirmek için tek bir istem. height (`int`, *isteğe bağlı*) : Çıktı görüntüsünün piksel cinsinden yüksekliği width (`int`, *isteğe bağlı*) : Çıktı görüntüsünün piksel cinsinden genişliği num_inference_steps (`int`, *isteğe bağlı*) : Gürültü azaltma adım sayısı. Daha fazla gürültü azaltma adımı genellikle daha yavaş çıkarım pahasına daha yüksek kaliteli bir görüntüye yol açar. guidance_scale (`float`, *isteğe bağlı*) : Daha yüksek bir yönlendirme ölçeği değeri, modelin metin istemine yakın bağlantılı görseller üretmesini teşvik eder, ancak çok yüksek değerler doygunluk ve diğer artefaktlara neden olabilir. model (`str`, *isteğe bağlı*) : Çıkarım için kullanılacak model. Hugging Face Hub'da barındırılan bir model kimliği veya dağıtılmış bir Inference Endpoint URL'si olabilir. Belirtilmezse, varsayılan önerilen metinden görüntüye model kullanılır. Varsayılan olarak None'dır. scheduler (`str`, *isteğe bağlı*) : Zamanlayıcıyı, uyumlu bir zamanlayıcıyla değiştirir. seed (`int`, *isteğe bağlı*) : Rastgele sayı üreteci için tohum. extra_body (`dict[str, Any]`, *isteğe bağlı*) : Modeline iletilecek ek sağlayıcıya özgü parametreler. Desteklenen parametreler için sağlayıcının belgelerine başvurun. **Dönüş:** `Image` Oluşturulan görüntü. **Yükselen:** [InferenceTimeoutError](/docs/huggingface_hub/main/tr/package_reference/inference_client#huggingface_hub.InferenceTimeoutError) veya `HfHubHTTPError` - [InferenceTimeoutError](/docs/huggingface_hub/main/tr/package_reference/inference_client#huggingface_hub.InferenceTimeoutError) -- Model kullanılamıyorsa veya istek zaman aşımına uğrarsa. - `HfHubHTTPError` -- HTTP 503 dışında bir HTTP hata durum koduyla istek başarısız olursa. Belirtilen bir model kullanarak verilen bir metne dayalı olarak bir görüntü oluşturun. > [!WARNING] > Görsellerle çalışmak istiyorsanız `PIL` kurulu olmalıdır (`pip install Pillow`). > [!TIP] > `extra_body` argümanını kullanarak modele sağlayıcıya özgü parametreler iletebilirsiniz. Örnek: ```py >>> from huggingface_hub import InferenceClient >>> client = InferenceClient() >>> image = client.text_to_image("An astronaut riding a horse on the moon.") >>> image.save("astronaut.png") >>> image = client.text_to_image( ... "An astronaut riding a horse on the moon.", ... negative_prompt="low resolution, blurry", ... model="stabilityai/stable-diffusion-2-1", ... ) >>> image.save("better_astronaut.png") ``` Doğrudan üçüncü taraf bir sağlayıcı kullanan örnek. Kullanım, fal.ai hesabınıza faturalandırılır. ```py >>> from huggingface_hub import InferenceClient >>> client = InferenceClient( ... provider="fal-ai", # Use fal.ai provider ... api_key="fal-ai-api-key", # Pass your fal.ai API key ... ) >>> image = client.text_to_image( ... "A majestic lion in a fantasy forest", ... model="black-forest-labs/FLUX.1-schnell", ... ) >>> image.save("lion.png") ``` Hugging Face Routing üzerinden üçüncü taraf bir sağlayıcı kullanan örnek. Kullanım, Hugging Face hesabınıza faturalandırılır. ```py >>> from huggingface_hub import InferenceClient >>> client = InferenceClient( ... provider="replicate", # Use replicate provider ... api_key="hf_...", # Pass your HF token ... ) >>> image = client.text_to_image( ... "An astronaut riding a horse on the moon.", ... model="black-forest-labs/FLUX.1-dev", ... ) >>> image.save("astronaut.png") ``` Ek parametrelerle Replicate sağlayıcısını kullanan örnek ```py >>> from huggingface_hub import InferenceClient >>> client = InferenceClient( ... provider="replicate", # Use replicate provider ... api_key="hf_...", # Pass your HF token ... ) >>> image = client.text_to_image( ... "An astronaut riding a horse on the moon.", ... model="black-forest-labs/FLUX.1-schnell", ... extra_body={"output_quality": 100}, ... ) >>> image.save("astronaut.png") ``` #### text_to_speech[[huggingface_hub.InferenceClient.text_to_speech]] ```python text_to_speech(text: str, model: str | None = None, do_sample: bool | None = None, early_stopping: typing.Union[bool, ForwardRef('TextToSpeechEarlyStoppingEnum'), NoneType] = None, epsilon_cutoff: float | None = None, eta_cutoff: float | None = None, max_length: int | None = None, max_new_tokens: int | None = None, min_length: int | None = None, min_new_tokens: int | None = None, num_beam_groups: int | None = None, num_beams: int | None = None, penalty_alpha: float | None = None, temperature: float | None = None, top_k: int | None = None, top_p: float | None = None, typical_p: float | None = None, use_cache: bool | None = None, extra_body: dict[str, typing.Any] | None = None) ``` [Kaynak](https://github.com/huggingface/huggingface_hub/blob/main/src/huggingface_hub/inference/_client.py#L2655) **Parametreler:** text (`str`) : Sentezlenecek metin. model (`str`, *isteğe bağlı*) : Çıkarım için kullanılacak model. Hugging Face Hub'da barındırılan bir model kimliği veya dağıtılmış bir Inference Endpoint URL'si olabilir. Belirtilmezse, varsayılan önerilen metin-ses modelinin kullanılacağı varsayılır. Varsayılan olarak None'dır. do_sample (`bool`, *isteğe bağlı*) : Yeni token üretirken açgözlü çözümleme yerine örneklemeyi kullanıp kullanmayacağı. early_stopping (`Union[bool, "TextToSpeechEarlyStoppingEnum"]`, *isteğe bağlı*) : Işın tabanlı yöntemler için durdurma koşulunu kontrol eder. epsilon_cutoff (`float`, *isteğe bağlı*) : 0 ile 1 arasında kesin bir float değere ayarlanırsa, yalnızca koşullu olasılığı epsilon_cutoff değerinden büyük olan token'lar örneklenir. Makalede, modelin boyutuna bağlı olarak önerilen değerler 3e-4 ile 9e-4 arasında değişmektedir. Daha fazla ayrıntı için [Truncation Sampling as Language Model Desmoothing](https://hf.co/papers/2210.15191) başlıklı makaleye bakın. eta_cutoff (`float`, *isteğe bağlı*) : Eta örneklemesi, yerel tipik örneklemesi ve epsilon örneklemesinin bir hibrididir. 0 ile 1 arasında katı bir float değere ayarlanırsa, bir token yalnızca eta_cutoff veya sqrt(eta_cutoff) * exp(-entropy(softmax(next_token_logits))) değerlerinden birinden büyükse dikkate alınır. Son terim, sezgisel olarak, sqrt(eta_cutoff) ile ölçeklendirilmiş beklenen sonraki token olasılığıdır. Makalede, modelin boyutuna bağlı olarak önerilen değerler 3e-4 ile 2e-3 arasında değişmektedir. Daha fazla ayrıntı için [Truncation Sampling as Language Model Desmoothing](https://hf.co/papers/2210.15191) makalesine bakın. max_length (`int`, *isteğe bağlı*) : Girdi dahil olmak üzere, üretilen metnin maksimum uzunluğu (token cinsinden). max_new_tokens (`int`, *isteğe bağlı*) : Üretilecek maksimum token sayısı. max_length parametresine öncelik verir. min_length (`int`, *isteğe bağlı*) : Girdi dahil olmak üzere, üretilen metnin minimum uzunluğu (token cinsinden). min_new_tokens (`int`, *isteğe bağlı*) : Üretilecek en az token sayısı. min_length parametresine göre önceliklidir. num_beam_groups (`int`, *isteğe bağlı*) : Farklı beam grupları arasında çeşitliliği sağlamak için num_beams'in bölüneceği grup sayısı. Daha fazla ayrıntı için [bu makaleye](https://hf.co/papers/1610.02424) bakın. num_beams (`int`, *isteğe bağlı*) : Beam search için kullanılacak beam sayısı. penalty_alpha (`float`, *isteğe bağlı*) : Bu değer, kontrastif arama çözümlemede model güvenini ve dejenerasyon cezasını dengelemek için kullanılır. temperature (`float`, *isteğe bağlı*) : Bir sonraki token olasılıklarını modüle etmek için kullanılan değer. top_k (`int`, *isteğe bağlı*) : top-k filtreleme için en yüksek olasılığa sahip en fazla kaç sözlük token'ının tutulacağını belirler. top_p (`float`, *isteğe bağlı*) : float < 1 olarak ayarlanırsa, üretim için yalnızca olasılıkları top_p veya daha yüksek bir değere eşitlenen en küçük en olası token kümesi korunur. typical_p (`float`, *isteğe bağlı*) : Local typicality, üretilen kısmi metin verildiğinde, bir sonraki hedef token'ı tahmin etmenin koşullu olasılığının, bir sonraki rastgele bir token'ı tahmin etmenin beklenen koşullu olasılığına ne kadar benzer olduğunu ölçer. float < 1 olarak ayarlanırsa, olasılıkları typical_p veya daha yüksek bir toplamda birleşen en küçük yerel tipik token kümesi üretim için korunur. Daha fazla ayrıntı için [bu makaleye](https://hf.co/papers/2202.00666) bakın. use_cache (`bool`, *isteğe bağlı*) : Modelin, çözümleme hızını artırmak için geçmiş son anahtar/değer dikkatlerini kullanıp kullanmaması extra_body (`dict[str, Any]`, *isteğe bağlı*) : Modeline iletilecek ek sağlayıcıya özgü parametreler. Desteklenen parametreler için sağlayıcının belgelerine başvurun. **Dönüş:** `bytes` Oluşturulan ses. **Yükselen:** [InferenceTimeoutError](/docs/huggingface_hub/main/tr/package_reference/inference_client#huggingface_hub.InferenceTimeoutError) veya `HfHubHTTPError` - [InferenceTimeoutError](/docs/huggingface_hub/main/tr/package_reference/inference_client#huggingface_hub.InferenceTimeoutError) -- Model kullanılamıyorsa veya istek zaman aşımına uğrarsa. - `HfHubHTTPError` -- HTTP 503 dışında bir HTTP hata durum koduyla istek başarısız olursa. Belirtilen bir metni seslendiren bir sesin ses kaydını sentezleyin. > [!TIP] > `extra_body` argümanını kullanarak modele sağlayıcıya özgü parametreler iletebilirsiniz. Örnek: ```py >>> from pathlib import Path >>> from huggingface_hub import InferenceClient >>> client = InferenceClient() >>> audio = client.text_to_speech("Hello world") >>> Path("hello_world.flac").write_bytes(audio) ``` Üçüncü taraf bir sağlayıcıyı doğrudan kullanan örnek. Kullanım, Replicate hesabınıza faturalandırılır. ```py >>> from huggingface_hub import InferenceClient >>> client = InferenceClient( ... provider="replicate", ... api_key="your-replicate-api-key", # Pass your Replicate API key directly ... ) >>> audio = client.text_to_speech( ... text="Hello world", ... model="OuteAI/OuteTTS-0.3-500M", ... ) >>> Path("hello_world.flac").write_bytes(audio) ``` Hugging Face Routing üzerinden üçüncü taraf bir sağlayıcı kullanan örnek. Kullanım, Hugging Face hesabınıza faturalandırılır. ```py >>> from huggingface_hub import InferenceClient >>> client = InferenceClient( ... provider="replicate", ... api_key="hf_...", # Pass your HF token ... ) >>> audio =client.text_to_speech( ... text="Hello world", ... model="OuteAI/OuteTTS-0.3-500M", ... ) >>> Path("hello_world.flac").write_bytes(audio) ``` Ek parametrelerle Replicate sağlayıcısını kullanan örnek ```py >>> from huggingface_hub import InferenceClient >>> client = InferenceClient( ... provider="replicate", # Use replicate provider ... api_key="hf_...", # Pass your HF token ... ) >>> audio = client.text_to_speech( ... "Hello, my name is Kororo, an awesome text-to-speech model.", ... model="hexgrad/Kokoro-82M", ... extra_body={"voice": "af_nicole"}, ... ) >>> Path("hello.flac").write_bytes(audio) ``` fal.ai üzerinde "YuE-s1-7B-anneal-en-cot" ile örnek müzik üretimi ```py >>> from huggingface_hub import InferenceClient >>> lyrics = ''' ... [verse] ... In the town where I was born ... Lived a man who sailed to sea ... And he told us of his life ... In the land of submarines ... So we sailed on to the sun ... 'Til we found a sea of green ... And we lived beneath the waves ... In our yellow submarine ... [chorus] ... We all live in a yellow submarine ... Yellow submarine, yellow submarine ... We all live in a yellow submarine ... Yellow submarine, yellow submarine ... ''' >>> genres = "pavarotti-style tenor voice" >>> client = InferenceClient( ... provider="fal-ai", ... model="m-a-p/YuE-s1-7B-anneal-en-cot", ... api_key=..., ... ) >>> audio = client.text_to_speech(lyrics, extra_body={"genres": genres}) >>> with open("output.mp3", "wb") as f: ... f.write(audio) ``` #### text_to_video[[huggingface_hub.InferenceClient.text_to_video]] ```python text_to_video(prompt: str, model: str | None = None, guidance_scale: float | None = None, negative_prompt: list[str] | None = None, num_frames: float | None = None, num_inference_steps: int | None = None, seed: int | None = None, extra_body: dict[str, typing.Any] | None = None) ``` [Kaynak](https://github.com/huggingface/huggingface_hub/blob/main/src/huggingface_hub/inference/_client.py#L2558) **Parametreler:** prompt (`str`) : Bir video oluşturmak için kullanılacak istem. model (`str`, *isteğe bağlı*) : Çıkarım için kullanılacak model. Hugging Face Hub'da barındırılan bir model kimliği veya dağıtılmış bir Inference Endpoint URL'si olabilir. Belirtilmezse, varsayılan önerilen metinden videoya model kullanılır. Varsayılan olarak None'dır. guidance_scale (`float`, *isteğe bağlı*) : Daha yüksek bir yönlendirme ölçeği değeri, modelin metin istemine yakın bağlantılı videolar üretmesini teşvik eder, ancak çok yüksek değerler doygunluk ve diğer artefaktlara neden olabilir. negative_prompt (`list[str]`, *isteğe bağlı*) : Video üretiminde dahil edilmemesi gerekenleri yönlendirmek için bir veya birden fazla istem. num_frames (`float`, *isteğe bağlı*) : num_frames parametresi, kaç video karesinin oluşturulacağını belirler. num_inference_steps (`int`, *isteğe bağlı*) : Gürültü azaltma adım sayısı. Daha fazla gürültü azaltma adımı genellikle daha yavaş çıkarım pahasına daha yüksek kaliteli bir videoya yol açar. seed (`int`, *isteğe bağlı*) : Rastgele sayı üreteci için tohum. extra_body (`dict[str, Any]`, *isteğe bağlı*) : Modeline iletilecek ek sağlayıcıya özgü parametreler. Desteklenen parametreler için sağlayıcının belgelerine başvurun. **Dönüş:** `bytes` Oluşturulan video. Verilen bir metne dayalı olarak bir video oluşturun. > [!TIP] > `extra_body` argümanını kullanarak modele sağlayıcıya özgü parametreler iletebilirsiniz. Örnek: Doğrudan üçüncü taraf bir sağlayıcı kullanan örnek. Kullanım, fal.ai hesabınıza faturalandırılır. ```py >>> from huggingface_hub import InferenceClient >>> client = InferenceClient( ... provider="fal-ai", # Using fal.ai provider ... api_key="fal-ai-api-key", # Pass your fal.ai API key ... ) >>> video = client.text_to_video( ... "A majestic lion running in a fantasy forest", ... model="tencent/HunyuanVideo", ... ) >>> with open("lion.mp4", "wb") as file: ... file.write(video) ``` Hugging Face Routing üzerinden üçüncü taraf bir sağlayıcı kullanan örnek. Kullanım, Hugging Face hesabınıza faturalandırılır. ```py >>> from huggingface_hub import InferenceClient >>> client = InferenceClient( ... provider="replicate", # Using replicate provider ... api_key="hf_...", # Pass your HF token ... ) >>> video = client.text_to_video( ... "A cat running in a park", ... model="genmo/mochi-1-preview", ... ) >>> with open("cat.mp4", "wb") as file: ... file.write(video) ``` #### token_classification[[huggingface_hub.InferenceClient.token_classification]] ```python token_classification(text: str, model: str | None = None, aggregation_strategy: typing.Optional[ForwardRef('TokenClassificationAggregationStrategy')] = None, ignore_labels: list[str] | None = None, stride: int | None = None) ``` [Kaynak](https://github.com/huggingface/huggingface_hub/blob/main/src/huggingface_hub/inference/_client.py#L2863) **Parametreler:** text (`str`) : Sınıflandırılacak bir dize. model (`str`, *isteğe bağlı*) : Token sınıflandırma görevi için kullanılacak model. Hugging Face Hub'da barındırılan bir model kimliği veya dağıtılmış bir Inference Endpoint'in URL'si olabilir. Belirtilmezse, varsayılan önerilen token sınıflandırma modeli kullanılır. Varsayılan olarak None'dır. aggregation_strategy (`"TokenClassificationAggregationStrategy"`, *isteğe bağlı*) : Model tahminlerine dayanarak tokenları birleştirmek için kullanılan strateji ignore_labels (`list[str`, *opsiyonel*) : Yoksayılacak etiketlerin listesi stride (`int`, *isteğe bağlı*) : Girdi metnini bölme sırasında parçalar arasındaki örtüşen jeton sayısı. **Dönüş:** `list[TokenClassificationOutputElement]` Varlık grubu, güven skoru, kelime, başlangıç ve bitiş indeksini içeren [TokenClassificationOutputElement](/docs/huggingface_hub/main/tr/package_reference/inference_types#huggingface_hub.TokenClassificationOutputElement) öğelerinin listesi. **Yükselen:** [InferenceTimeoutError](/docs/huggingface_hub/main/tr/package_reference/inference_client#huggingface_hub.InferenceTimeoutError) veya `HfHubHTTPError` - [InferenceTimeoutError](/docs/huggingface_hub/main/tr/package_reference/inference_client#huggingface_hub.InferenceTimeoutError) -- Model kullanılamıyorsa veya istek zaman aşımına uğrarsa. - `HfHubHTTPError` -- HTTP 503 dışında bir HTTP hata durum koduyla istek başarısız olursa. Verilen metin üzerinde token sınıflandırması gerçekleştirin. Genellikle cümle ayrıştırma için kullanılır; bu ayrıştırma dilbilgisel olabilir ya da metin içindeki anahtar kelimeleri anlamak için Adlandırılmış Varlık Tanıma (NER) olabilir. Örnek: ```py >>> from huggingface_hub import InferenceClient >>> client = InferenceClient() >>> client.token_classification("My name is Sarah Jessica Parker but you can call me Jessica") [ TokenClassificationOutputElement( entity_group='PER', score=0.9971321225166321, word='Sarah Jessica Parker', start=11, end=31, ), TokenClassificationOutputElement( entity_group='PER', score=0.9773476123809814, word='Jessica', start=52, end=59, ) ] ``` #### çeviri[[huggingface_hub.InferenceClient.translation]] ```python translation(text: str, model: str | None = None, src_lang: str | None = None, tgt_lang: str | None = None, clean_up_tokenization_spaces: bool | None = None, truncation: typing.Optional[ForwardRef('TranslationTruncationStrategy')] = None, generate_parameters: dict[str, typing.Any] | None = None) ``` [Kaynak](https://github.com/huggingface/huggingface_hub/blob/main/src/huggingface_hub/inference/_client.py#L2938) **Parametreler:** text (`str`) : Çevrilecek bir dize. model (`str`, *isteğe bağlı*) : Çeviri görevi için kullanılacak model. Hugging Face Hub'da barındırılan bir model kimliği veya dağıtılmış bir Inference Endpoint'in URL'si olabilir. Belirtilmezse, varsayılan önerilen çeviri modeli kullanılır. Varsayılan olarak None'dır. src_lang (`str`, *isteğe bağlı*) : Metnin kaynak dili. Birden fazla dilden çeviri yapabilen modeller için zorunludur. tgt_lang (`str`, *isteğe bağlı*) : Çevrilecek hedef dil. Birden fazla dile çevirebilen modeller için zorunludur. clean_up_tokenization_spaces (`bool`, *isteğe bağlı*) : Metin çıktısındaki olası ek boşlukların temizlenip temizlenmeyeceğini belirtir. truncation (`"TranslationTruncationStrategy"`, *isteğe bağlı*) : Kullanılacak kesme stratejisi. generate_parameters (`dict[str, Any]`, *isteğe bağlı*) : Metin üretim algoritmasının ek parametrelemesi. **Dönüş:** [TranslationOutput](/docs/huggingface_hub/main/tr/package_reference/inference_types#huggingface_hub.TranslationOutput) Oluşturulan çevrilmiş metin. **Yükselen:** [InferenceTimeoutError](/docs/huggingface_hub/main/tr/package_reference/inference_client#huggingface_hub.InferenceTimeoutError) veya `HfHubHTTPError` veya ``ValueError`` - [InferenceTimeoutError](/docs/huggingface_hub/main/tr/package_reference/inference_client#huggingface_hub.InferenceTimeoutError) -- Model kullanılamıyorsa veya istek zaman aşımına uğrarsa. - `HfHubHTTPError` -- HTTP 503 dışında bir HTTP hata durum koduyla istek başarısız olursa. - ``ValueError`` -- `src_lang` ve `tgt_lang` argümanlarından yalnızca biri sağlanırsa. Metni bir dilden diğerine çevirin. Belirli kullanım durumunuz için en iyi modeli seçmenin nasıl yapılacağına dair daha fazla bilgi için https://huggingface.co/tasks/translation adresine göz atın. Kaynak ve hedef diller genellikle modele bağlıdır. Ancak, belirli modeller için kaynak ve hedef dilleri belirtmek mümkündür. Bu modellerden biriyle çalışıyorsanız, ilgili bilgileri iletmek için `src_lang` ve `tgt_lang` argümanlarını kullanabilirsiniz. Örnek: ```py >>> from huggingface_hub import InferenceClient >>> client = InferenceClient() >>> client.translation("My name is Wolfgang and I live in Berlin") 'Mein Name ist Wolfgang und ich lebe in Berlin.' >>> client.translation("My name is Wolfgang and I live in Berlin", model="Helsinki-NLP/opus-mt-en-fr") TranslationOutput(translation_text='Je m'appelle Wolfgang et je vis à Berlin.') ``` Dillerin belirtilmesi: ```py >>> client.translation("My name is Sarah Jessica Parker but you can call me Jessica", model="facebook/mbart-large-50-many-to-many-mmt", src_lang="en_XX", tgt_lang="fr_XX") "Mon nom est Sarah Jessica Parker mais vous pouvez m'appeler Jessica" ``` #### visual_question_answering[[huggingface_hub.InferenceClient.visual_question_answering]] ```python visual_question_answering(image: typing.Union[bytes, typing.BinaryIO, str, pathlib.Path, ForwardRef('Image'), bytearray, memoryview], question: str, model: str | None = None, top_k: int | None = None) ``` [Kaynak](https://github.com/huggingface/huggingface_hub/blob/main/src/huggingface_hub/inference/_client.py#L3027) **Parametreler:** image (`Union[str, Path, bytes, BinaryIO, PIL.Image.Image]`) : Bağlam için girdi görüntüsü. Ham baytlar, bir görüntü dosyası, çevrimiçi bir görüntünün URL'si veya bir PIL Image olabilir. question (`str`) : Yanıtlanması gereken soru. model (`str`, *isteğe bağlı*) : Görsel soru cevaplandırma görevi için kullanılacak model. Hugging Face Hub'da barındırılan bir model kimliği veya dağıtılmış bir Inference Endpoint URL'si olabilir. Sağlanmazsa, varsayılan önerilen görsel soru cevaplandırma modeli kullanılır. Varsayılan olarak None'dır. top_k (`int`, *isteğe bağlı*) : Döndürülecek cevap sayısı (olasılık sırasına göre seçilecektir). Bağlamda yeterli seçenek yoksa, topk'dan daha az cevap döndürüldüğünü unutmayın. **Dönüş:** `list[VisualQuestionAnsweringOutputElement]` tahmini etiketi ve ilişkili olasılığı içeren [VisualQuestionAnsweringOutputElement](/docs/huggingface_hub/main/tr/package_reference/inference_types#huggingface_hub.VisualQuestionAnsweringOutputElement) öğelerinin bir listesi. **Yükselen:** ``InferenceTimeoutError`` veya `HfHubHTTPError` - ``InferenceTimeoutError`` -- Model kullanılamıyorsa veya istek zaman aşımına uğrarsa. - `HfHubHTTPError` -- HTTP 503 dışında bir HTTP hata durum koduyla istek başarısız olursa. Bir görsel temelinde açık uçlu soruları yanıtlama. Örnek: ```py >>> from huggingface_hub import InferenceClient >>> client = InferenceClient() >>> client.visual_question_answering( ... image="https://huggingface.co/datasets/mishig/sample_images/resolve/main/tiger.jpg", ... question="What is the animal doing?" ... ) [ VisualQuestionAnsweringOutputElement(score=0.778609573841095, answer='laying down'), VisualQuestionAnsweringOutputElement(score=0.6957435607910156, answer='sitting'), ] ``` #### zero_shot_classification[[huggingface_hub.InferenceClient.zero_shot_classification]] ```python zero_shot_classification(text: str, candidate_labels: list, multi_label: bool | None = False, hypothesis_template: str | None = None, model: str | None = None) ``` [Kaynak](https://github.com/huggingface/huggingface_hub/blob/main/src/huggingface_hub/inference/_client.py#L3086) **Parametreler:** text (`str`) : Sınıflandırılacak girdi metni. candidate_labels (`list[str]`) : Metnin sınıflandırılacağı olası sınıf etiketleri kümesi. multi_label (`bool`, *isteğe bağlı*) : Birden fazla aday etiketin doğru olup olamayacağı. False ise, her dizi için etiket olasılıklarının toplamı 1 olacak şekilde puanlar normalize edilir. True ise, etiketler bağımsız kabul edilir ve olasılıklar her aday için normalize edilir. hypothesis_template (`str`, *isteğe bağlı*) : `candidate_labels` ile birlikte, yer tutucuyu aday etiketlerle değiştirerek metin sınıflandırmasını denemek için kullanılan cümle. model (`str`, *isteğe bağlı*) : Çıkarım için kullanılacak model. Hugging Face Hub'da barındırılan bir model kimliği veya dağıtılmış bir Inference Endpoint URL'si olabilir. Bu parametre, örnek düzeyinde tanımlanan modeli geçersiz kılar. Sağlanmazsa, varsayılan önerilen sıfır atıflı sınıflandırma modeli kullanılır. **Dönüş:** `list[ZeroShotClassificationOutputElement]` Tahmin edilen etiketleri ve bunların güven düzeylerini içeren [ZeroShotClassificationOutputElement](/docs/huggingface_hub/main/tr/package_reference/inference_types#huggingface_hub.ZeroShotClassificationOutputElement) öğelerinin listesi. **Yükselen:** [InferenceTimeoutError](/docs/huggingface_hub/main/tr/package_reference/inference_client#huggingface_hub.InferenceTimeoutError) veya `HfHubHTTPError` - [InferenceTimeoutError](/docs/huggingface_hub/main/tr/package_reference/inference_client#huggingface_hub.InferenceTimeoutError) -- Model kullanılamıyorsa veya istek zaman aşımına uğrarsa. - `HfHubHTTPError` -- HTTP 503 dışında bir HTTP hata durum koduyla istek başarısız olursa. Girdi olarak, girdi metnini sınıflandırmak için bir metin ve aday etiketler kümesi sağlayın. `multi_label=False` ile örnek: ```py >>> from huggingface_hub import InferenceClient >>> client = InferenceClient() >>> text = ( ... "A new model offers an explanation for how the Galilean satellites formed around the solar system's" ... "largest world. Konstantin Batygin did not set out to solve one of the solar system's most puzzling" ... " mysteries when he went for a run up a hill in Nice, France." ... ) >>> labels = ["space & cosmos", "scientific discovery", "microbiology", "robots", "archeology"] >>> client.zero_shot_classification(text, labels) [ ZeroShotClassificationOutputElement(label='scientific discovery', score=0.7961668968200684), ZeroShotClassificationOutputElement(label='space & cosmos', score=0.18570658564567566), ZeroShotClassificationOutputElement(label='microbiology', score=0.00730885099619627), ZeroShotClassificationOutputElement(label='archeology', score=0.006258360575884581), ZeroShotClassificationOutputElement(label='robots', score=0.004559356719255447), ] >>> client.zero_shot_classification(text, labels, multi_label=True) [ ZeroShotClassificationOutputElement(label='scientific discovery', score=0.9829297661781311), ZeroShotClassificationOutputElement(label='space & cosmos', score=0.755190908908844), ZeroShotClassificationOutputElement(label='microbiology', score=0.0005462635890580714), ZeroShotClassificationOutputElement(label='archeology', score=0.00047131875180639327), ZeroShotClassificationOutputElement(label='robots', score=0.00030448526376858354), ] ``` `multi_label=True` ve özel bir `hypothesis_template` ile örnek: ```py >>> from huggingface_hub import InferenceClient >>> client = InferenceClient() >>> client.zero_shot_classification( ... text="I really like our dinner and I'm very happy. I don't like the weather though.", ... candidate_labels=["positive", "negative", "pessimistic", "optimistic"], ... multi_label=True, ... hypothesis_template="This text is {} towards the weather" ... ) [ ZeroShotClassificationOutputElement(label='negative', score=0.9231801629066467), ZeroShotClassificationOutputElement(label='pessimistic', score=0.8760990500450134), ZeroShotClassificationOutputElement(label='optimistic', score=0.0008674879791215062), ZeroShotClassificationOutputElement(label='positive', score=0.0005250611575320363) ] ``` #### zero_shot_image_classification[[huggingface_hub.InferenceClient.zero_shot_image_classification]] ```python zero_shot_image_classification(image: typing.Union[bytes, typing.BinaryIO, str, pathlib.Path, ForwardRef('Image'), bytearray, memoryview], candidate_labels: list, model: str | None = None, hypothesis_template: str | None = None) ``` [Kaynak](https://github.com/huggingface/huggingface_hub/blob/main/src/huggingface_hub/inference/_client.py#L3187) **Parametreler:** image (`Union[str, Path, bytes, BinaryIO, PIL.Image.Image]`) : Başlıklandırılacak girdi görüntüsü. Ham baytlar, bir görüntü dosyası, çevrimiçi bir görüntüye giden bir URL veya bir PIL Image olabilir. candidate_labels (`list[str]`) : Bu görüntü için aday etiketler model (`str`, *isteğe bağlı*) : Çıkarım için kullanılacak model. Hugging Face Hub'da barındırılan bir model kimliği veya dağıtılmış bir Inference Endpoint URL'si olabilir. Bu parametre, örnek düzeyinde tanımlanan modeli geçersiz kılar. Sağlanmazsa, varsayılan önerilen sıfır atışlı (zero-shot) görüntü sınıflandırma modeli kullanılır. hypothesis_template (`str`, *isteğe bağlı*) : `candidate_labels` ile birlikte, yer tutucuyu aday etiketlerle değiştirerek görüntü sınıflandırmasını denemek için kullanılan cümle. **Dönüş:** `list[ZeroShotImageClassificationOutputElement]` Tahmin edilen etiketleri ve bunların güven düzeylerini içeren [ZeroShotImageClassificationOutputElement](/docs/huggingface_hub/main/tr/package_reference/inference_types#huggingface_hub.ZeroShotImageClassificationOutputElement) öğelerinin listesi. **Yükselen:** [InferenceTimeoutError](/docs/huggingface_hub/main/tr/package_reference/inference_client#huggingface_hub.InferenceTimeoutError) veya `HfHubHTTPError` - [InferenceTimeoutError](/docs/huggingface_hub/main/tr/package_reference/inference_client#huggingface_hub.InferenceTimeoutError) -- Model kullanılamıyorsa veya istek zaman aşımına uğrarsa. - `HfHubHTTPError` -- HTTP 503 dışında bir HTTP hata durum koduyla istek başarısız olursa. Görsel için metin etiketlerini tahmin etmek üzere giriş görseli ve metin etiketlerini sağlayın. Örnek: ```py >>> from huggingface_hub import InferenceClient >>> client = InferenceClient() >>> client.zero_shot_image_classification( ... "https://upload.wikimedia.org/wikipedia/commons/thumb/4/43/Cute_dog.jpg/320px-Cute_dog.jpg", ... candidate_labels=["dog", "cat", "horse"], ... ) [ZeroShotImageClassificationOutputElement(label='dog', score=0.956),...] ``` ## Asenkron Çıkarım İstemcisi[[huggingface_hub.AsyncInferenceClient]] Müşterinin asenkron bir sürümü de `asyncio` ve `httpx2` tabanlı olarak sağlanmaktadır. #### huggingface_hub.AsyncInferenceClient[[huggingface_hub.AsyncInferenceClient]] ```python huggingface_hub.AsyncInferenceClient(model: str | None = None, provider: typing.Union[typing.Literal['baseten', 'cerebras', 'cohere', 'deepinfra', 'fal-ai', 'featherless-ai', 'fireworks-ai', 'groq', 'hf-inference', 'novita', 'nscale', 'openai', 'ovhcloud', 'publicai', 'replicate', 'scaleway', 'together', 'wavespeed', 'zai-org'], typing.Literal['auto'], NoneType] = None, token: str | None = None, timeout: float | None = None, headers: dict[str, str] | None = None, cookies: dict[str, str] | None = None, bill_to: str | None = None, base_url: str | None = None, api_key: str | None = None) ``` [Kaynak](https://github.com/huggingface/huggingface_hub/blob/main/src/huggingface_hub/inference/_generated/_async_client.py#L112) **Parametreler:** model (`str`, `optional`) : Çıkarım (inference) çalıştırılacak model. Hugging Face Hub'da barındırılan bir model kimliği (ör. `meta-llama/Meta-Llama-3-8B-Instruct`) veya dağıtılmış bir Inference Endpoint'in URL'si olabilir. Varsayılan değeri None'dır; bu durumda görev için otomatik olarak önerilen bir model seçilir. Not: OpenAI istemcisiyle daha iyi uyumluluk için `model`, `base_url` olarak da adlandırılmıştır (alias). Bu iki argüman birbirini dışlar. Sohbet tamamlama (chat completion) için `model` veya `base_url` olarak bir URL geçirilirse, URL'nin sonuna `(/v1)/chat/completions` son ekli yolu eklenir. provider (`str`, *isteğe bağlı*) : Çıkarım için kullanılacak sağlayıcının adı. `"baseten"`, `"cerebras"`, `"cohere"`, `"deepinfra"`, `"fal-ai"`, `"featherless-ai"`, `"fireworks-ai"`, `"groq"`, `"hf-inference"`, `"novita"`, `"nscale"`, `"openai"`, `"ovhcloud"`, `"publicai"`, `"replicate"`, `"scaleway"`, `"together"`, `"wavespeed"` veya `"zai-org"` olabilir. Varsayılan olarak "auto"dur: varsayılan olarak "fastest" sağlayıcısına yönlendiren otomatik yönlendirme; https://hf.co/settings/inference-providers adresinde "cheapest" veya "preferred" sağlayıcı sıralamasına geçebilirsiniz. Model bir URL ise veya `base_url` geçiriliyorsa, `provider` kullanılmaz. token (`str`, *isteğe bağlı*) : Hugging Face belirteci. Verilmezse, yerel olarak kaydedilmiş belirteç varsayılan olarak kullanılır. Not: OpenAI istemcisiyle daha iyi uyumluluk için `token`, `api_key` olarak takma adlandırılmıştır. Bu 2 argüman birbirini dışlar ve tam olarak aynı davranışa sahiptir. timeout (`float`, `optional`) : Sunucudan yanıt gelmesi için beklenecek maksimum saniye sayısı. Varsayılan değeri None'dır; bu, sunucu kullanılana kadar döngüde kalacağı anlamına gelir. headers (`dict[str, str]`, `optional`) : Sunucuya gönderilecek ek başlıklar. Varsayılan olarak yalnızca authorization ve user-agent başlıkları gönderilir. Bu sözlükteki değerler varsayılan değerlerin üzerine yazar. bill_to (`str`, `optional`) : İstekler için kullanılacak faturalandırma hesabı. Varsayılan olarak istekler, kullanıcının hesabına faturalandırılır. İstekler yalnızca kullanıcının üyesi olduğu ve Enterprise Hub'a abone olan bir organizasyona faturalandırılabilir. cookies (`dict[str, str]`, `optional`) : Sunucuya gönderilecek ek çerezler. base_url (`str`, `optional`) : Çıkarım (inference) çalıştırılacak temel URL. Bu, [InferenceClient](/docs/huggingface_hub/main/tr/package_reference/inference_client#huggingface_hub.InferenceClient)'in `openai.OpenAI` istemcisiyle aynı kalıbı izlemesini sağlamak için `model`'den kopyalanmış bir argümandır. `model` ayarlanmışsa kullanılamaz. Varsayılan değeri None'dır. api_key (`str`, `optional`) : Kimlik doğrulama için kullanılacak jeton. Bu, [InferenceClient](/docs/huggingface_hub/main/tr/package_reference/inference_client#huggingface_hub.InferenceClient)'in `openai.OpenAI` istemcisiyle aynı kalıbı izlemesini sağlamak için `token`'den kopyalanmış bir argümandır. `token` ayarlanmışsa kullanılamaz. Varsayılan değeri None'dır. Yeni bir Inference Client başlatın. [InferenceClient](/docs/huggingface_hub/main/tr/package_reference/inference_client#huggingface_hub.InferenceClient), çıkarım (inference) işlemlerini gerçekleştirmek için birleşik bir deneyim sunmayı amaçlar. İstemci, (ücretsiz) Inference API, kendi barındırılan Inference Endpoints veya üçüncü taraf Inference Providers ile sorunsuz bir şekilde kullanılabilir. #### audio_classification[[huggingface_hub.AsyncInferenceClient.audio_classification]] ```python audio_classification(audio: typing.Union[bytes, typing.BinaryIO, str, pathlib.Path, ForwardRef('Image'), bytearray, memoryview], model: str | None = None, top_k: int | None = None, function_to_apply: typing.Optional[ForwardRef('AudioClassificationOutputTransform')] = None) ``` [Kaynak](https://github.com/huggingface/huggingface_hub/blob/main/src/huggingface_hub/inference/_generated/_async_client.py#L313) **Parametreler:** audio (Union[str, Path, bytes, BinaryIO]) : Sınıflandırılacak ses içeriği. Ham ses baytları, yerel bir ses dosyası veya bir ses dosyasına işaret eden bir URL olabilir. model (`str`, *isteğe bağlı*) : Ses sınıflandırma için kullanılacak model. Hugging Face Hub'da barındırılan bir model kimliği veya dağıtılmış bir Inference Endpoint URL'si olabilir. Sağlanmazsa, ses sınıflandırma için varsayılan önerilen model kullanılır. top_k (`int`, *isteğe bağlı*) : Belirtilirse, çıktı en olası K sınıfıyla sınırlanır. function_to_apply (`"AudioClassificationOutputTransform"`, *isteğe bağlı*) : Skorları almak için model çıktısına uygulanacak işlev. **Dönüş:** `list[AudioClassificationOutputElement]` Tahmin edilen etiketleri ve bunların güven düzeylerini içeren [AudioClassificationOutputElement](/docs/huggingface_hub/main/tr/package_reference/inference_types#huggingface_hub.AudioClassificationOutputElement) öğelerinin listesi. **Yükselen:** [InferenceTimeoutError](/docs/huggingface_hub/main/tr/package_reference/inference_client#huggingface_hub.InferenceTimeoutError) veya `HfHubHTTPError` - [InferenceTimeoutError](/docs/huggingface_hub/main/tr/package_reference/inference_client#huggingface_hub.InferenceTimeoutError) -- Model kullanılamıyorsa veya istek zaman aşımına uğrarsa. - `HfHubHTTPError` -- HTTP 503 dışında bir HTTP hata durum koduyla istek başarısız olursa. Sağlanan ses içeriğinde ses sınıflandırması yapın. Örnek: ```py # Must be run in an async context >>> from huggingface_hub import AsyncInferenceClient >>> client = AsyncInferenceClient() >>> await client.audio_classification("audio.flac") [ AudioClassificationOutputElement(score=0.4976358711719513, label='hap'), AudioClassificationOutputElement(score=0.3677836060523987, label='neu'), ... ] ``` #### audio_to_audio[[huggingface_hub.AsyncInferenceClient.audio_to_audio]] ```python audio_to_audio(audio: typing.Union[bytes, typing.BinaryIO, str, pathlib.Path, ForwardRef('Image'), bytearray, memoryview], model: str | None = None) ``` [Kaynak](https://github.com/huggingface/huggingface_hub/blob/main/src/huggingface_hub/inference/_generated/_async_client.py#L371) **Parametreler:** audio (Union[str, Path, bytes, BinaryIO]) : Model için ses içeriği. Ham ses baytları, yerel bir ses dosyası veya bir ses dosyasına işaret eden bir URL olabilir. model (`str`, *isteğe bağlı*) : Model, bir ses dosyası alıp başka bir ses dosyası döndüren herhangi bir model olabilir. Hugging Face Hub'da barındırılan bir model kimliği veya dağıtılmış bir Inference Endpoint'in URL'si olabilir. Sağlanmazsa, audio_to_audio için varsayılan önerilen model kullanılır. **Dönüş:** `list[AudioToAudioOutputElement]` Blob içinde ses içeriği, içerik türü ve ses etiketi içeren [AudioToAudioOutputElement](/docs/huggingface_hub/main/tr/package_reference/inference_types#huggingface_hub.AudioToAudioOutputElement) öğelerinin listesi. **Yükselen:** ``InferenceTimeoutError`` veya `HfHubHTTPError` - ``InferenceTimeoutError`` -- Model kullanılamıyorsa veya istek zaman aşımına uğrarsa. - `HfHubHTTPError` -- HTTP 503 dışında bir HTTP hata durum koduyla istek başarısız olursa. Modeline bağlı olarak ses-sese dönüştürme ile ilgili birden fazla görevi (ör: konuşma iyileştirme, kaynak ayrıştırma) gerçekleştirir. Örnek: ```py # Must be run in an async context >>> from huggingface_hub import AsyncInferenceClient >>> client = AsyncInferenceClient() >>> audio_output = await client.audio_to_audio("audio.flac") >>> async for i, item in enumerate(audio_output): >>> with open(f"output_{i}.flac", "wb") as f: f.write(item.blob) ``` #### automatic_speech_recognition[[huggingface_hub.AsyncInferenceClient.automatic_speech_recognition]] ```python automatic_speech_recognition(audio: typing.Union[bytes, typing.BinaryIO, str, pathlib.Path, ForwardRef('Image'), bytearray, memoryview], model: str | None = None, extra_body: dict | None = None) ``` [Kaynak](https://github.com/huggingface/huggingface_hub/blob/main/src/huggingface_hub/inference/_generated/_async_client.py#L424) **Parametreler:** audio (Union[str, Path, bytes, BinaryIO]) : Transkribe edilecek içerik. Ham ses baytları, yerel ses dosyası veya bir ses dosyasına giden URL olabilir. model (`str`, *isteğe bağlı*) : ASR için kullanılacak model. Hugging Face Hub'da barındırılan bir model kimliği veya dağıtılmış bir Inference Endpoint URL'si olabilir. Belirtilmezse, ASR için varsayılan önerilen model kullanılır. extra_body (`dict`, *isteğe bağlı*) : Modeline iletilecek ek sağlayıcıya özgü parametreler. Desteklenen parametreler için sağlayıcının belgelerine başvurun. **Dönüş:** [AutomaticSpeechRecognitionOutput](/docs/huggingface_hub/main/tr/package_reference/inference_types#huggingface_hub.AutomaticSpeechRecognitionOutput) Transkribe edilmiş metni ve isteğe bağlı olarak zaman damgası parçacıklarını içeren bir öğe. **Yükselen:** [InferenceTimeoutError](/docs/huggingface_hub/main/tr/package_reference/inference_client#huggingface_hub.InferenceTimeoutError) veya `HfHubHTTPError` - [InferenceTimeoutError](/docs/huggingface_hub/main/tr/package_reference/inference_client#huggingface_hub.InferenceTimeoutError) -- Model kullanılamıyorsa veya istek zaman aşımına uğrarsa. - `HfHubHTTPError` -- HTTP 503 dışında bir HTTP hata durum koduyla istek başarısız olursa. Verilen ses içeriğinde otomatik konuşma tanıma (ASR veya ses-metne dönüştürme) gerçekleştirin. Örnek: ```py # Must be run in an async context >>> from huggingface_hub import AsyncInferenceClient >>> client = AsyncInferenceClient() >>> await client.automatic_speech_recognition("hello_world.flac").text "hello world" ``` #### chat_completion[[huggingface_hub.AsyncInferenceClient.chat_completion]] ```python chat_completion(messages: list, model: str | None = None, stream: bool = False, frequency_penalty: float | None = None, logit_bias: list[float] | None = None, logprobs: bool | None = None, max_tokens: int | None = None, n: int | None = None, presence_penalty: float | None = None, response_format: typing.Union[huggingface_hub.inference._generated.types.chat_completion.ChatCompletionInputResponseFormatText, huggingface_hub.inference._generated.types.chat_completion.ChatCompletionInputResponseFormatJSONSchema, huggingface_hub.inference._generated.types.chat_completion.ChatCompletionInputResponseFormatJSONObject, NoneType] = None, seed: int | None = None, stop: list[str] | None = None, stream_options: huggingface_hub.inference._generated.types.chat_completion.ChatCompletionInputStreamOptions | None = None, temperature: float | None = None, tool_choice: typing.Union[huggingface_hub.inference._generated.types.chat_completion.ChatCompletionInputToolChoiceClass, ForwardRef('ChatCompletionInputToolChoiceEnum'), NoneType] = None, tool_prompt: str | None = None, tools: list[huggingface_hub.inference._generated.types.chat_completion.ChatCompletionInputTool] | None = None, top_logprobs: int | None = None, top_p: float | None = None, extra_body: dict | None = None) ``` [Kaynak](https://github.com/huggingface/huggingface_hub/blob/main/src/huggingface_hub/inference/_generated/_async_client.py#L552) **Parametreler:** messages ([ChatCompletionInputMessage](/docs/huggingface_hub/main/tr/package_reference/inference_types#huggingface_hub.ChatCompletionInputMessage) listesi) : Roller ve içerik çiftlerinden oluşan konuşma geçmişi. model (`str`, *isteğe bağlı*) : Chat-completion için kullanılacak model. Hugging Face Hub üzerinde barındırılan bir model kimliği veya dağıtılmış bir Inference Endpoint URL'si olabilir. Belirtilmezse, sohbet tabanlı text-generation için varsayılan önerilen model kullanılır. Daha fazla ayrıntı için https://huggingface.co/tasks/text-generation adresine bakın. `model` bir model kimliği ise, sunucuya `model` parametresi olarak iletilir. İstek yükünde `model` ayarlarken özel bir URL tanımlamak istiyorsanız, [InferenceClient](/docs/huggingface_hub/main/tr/package_reference/inference_client#huggingface_hub.InferenceClient) başlatılırken `base_url` değerini ayarlamalısınız. frequency_penalty (`float`, *isteğe bağlı*) : Yeni jetonları, metinde o ana kadar mevcut olan sıklıklarına göre cezalandırır. Aralık: [-2.0, 2.0]. Varsayılan değer 0.0'dır. logit_bias (`list[float]`, *isteğe bağlı*) : Üretilen çıktıdaki belirli jetonların görünme olasılığını ayarlar. logprobs (`bool`, *isteğe bağlı*) : Çıktı jetonlarının log olasılıklarının döndürülüp döndürülmeyeceğini belirtir. True ise, mesaj içeriğinde döndürülen her çıktı jetonunun log olasılıkları döndürülür. max_tokens (`int`, *isteğe bağlı*) : Yanıtta izin verilen maksimum token sayısı. Varsayılan değer 100'dür. n (`int`, *isteğe bağlı*) : Her istem için oluşturulacak tamamlama sayısı. presence_penalty (`float`, *isteğe bağlı*) : -2.0 ile 2.0 arasında bir sayı. Pozitif değerler, yeni jetonları, metinde şu ana kadar görünüp görünmediklerine göre cezalandırır ve modelin yeni konulardan bahsetme olasılığını artırır. response_format (`ChatCompletionInputGrammarType()`, *isteğe bağlı*) : Dilbilgisi kısıtlamaları. JSONSchema veya bir regex olabilir. seed (İsteğe bağlı`int`, *isteğe bağlı*) : Yeniden üretilebilir kontrol akışı için tohum. Varsayılan olarak None'dir. stop (`list[str]`, *isteğe bağlı*) : Yanıtın sonunu tetikleyen en fazla dört dize. Varsayılan değeri None'dır. stream (`bool`, *isteğe bağlı*) : Yanıtların gerçek zamanlı akışını etkinleştirir. Varsayılan olarak False'dur. stream_options ([ChatCompletionInputStreamOptions](/docs/huggingface_hub/main/tr/package_reference/inference_types#huggingface_hub.ChatCompletionInputStreamOptions), *isteğe bağlı*) : Tamamlamaların akışlandırılması için seçenekler. temperature (`float`, *isteğe bağlı*) : Üretilen metinlerin rastgeleliğini kontrol eder. Daha düşük değerler, daha az rastgele tamamlamalar sağlar. Aralık: [0, 2]. Varsayılan değer: 1.0. top_logprobs (`int`, *isteğe bağlı*) : Her token konumunda, ilişkili log olasılıklarıyla birlikte, en olası token sayısını belirten 0 ile 5 arasında bir tamsayı. Bu parametre kullanılıyorsa logprobs true olarak ayarlanmalıdır. top_p (`float`, *isteğe bağlı*) : Örnekleme yapılacak en olası sonraki kelimelerin oranı. 0 ile 1 arasında olmalıdır. Varsayılan değeri 1.0'dır. tool_choice ([ChatCompletionInputToolChoiceClass](/docs/huggingface_hub/main/tr/package_reference/inference_types#huggingface_hub.ChatCompletionInputToolChoiceClass) veya `ChatCompletionInputToolChoiceEnum()`, *isteğe bağlı*) : Tamamlama için kullanılacak araç. Varsayılan olarak "auto" değerine ayarlıdır. tool_prompt (`str`, *isteğe bağlı*) : Araçlardan önce eklenmesi gereken bir istem. tools ([ChatCompletionInputTool](/docs/huggingface_hub/main/tr/package_reference/inference_types#huggingface_hub.ChatCompletionInputTool) listesi, *isteğe bağlı*) : Modelin çağırabileceği araçların listesi. Şu anda bir araç olarak yalnızca işlevler desteklenmektedir. Modelin JSON girdileri oluşturabileceği işlevlerin listesini sağlamak için bunu kullanın. extra_body (`dict`, *isteğe bağlı*) : Modeline iletilecek ek sağlayıcıya özgü parametreler. Desteklenen parametreler için sağlayıcının belgelerine başvurun. **Dönüş:** [ChatCompletionOutput](/docs/huggingface_hub/main/tr/package_reference/inference_types#huggingface_hub.ChatCompletionOutput) veya [ChatCompletionStreamOutput](/docs/huggingface_hub/main/tr/package_reference/inference_types#huggingface_hub.ChatCompletionStreamOutput) iterables Sunucudan döndürülen üretilen metin: - `stream=False` ise, üretilen metin [ChatCompletionOutput](/docs/huggingface_hub/main/tr/package_reference/inference_types#huggingface_hub.ChatCompletionOutput) olarak döndürülür (varsayılan). - `stream=True` ise, üretilen metin [ChatCompletionStreamOutput](/docs/huggingface_hub/main/tr/package_reference/inference_types#huggingface_hub.ChatCompletionStreamOutput) dizisi olarak token token döndürülür. **Yükselen:** [InferenceTimeoutError](/docs/huggingface_hub/main/tr/package_reference/inference_client#huggingface_hub.InferenceTimeoutError) veya `HfHubHTTPError` - [InferenceTimeoutError](/docs/huggingface_hub/main/tr/package_reference/inference_client#huggingface_hub.InferenceTimeoutError) -- Model kullanılamıyorsa veya istek zaman aşımına uğrarsa. - `HfHubHTTPError` -- HTTP 503 dışında bir HTTP hata durum koduyla istek başarısız olursa. Belirtilen bir dil modeli kullanılarak sohbetleri tamamlamak için bir yöntem. > [!TIP] > `client.chat_completion` yöntemi, OpenAI istemcisiyle uyumluluk için `client.chat.completions.create` olarak takma adlandırılmıştır. Girdiler ve çıktılar kesinlikle aynıdır ve her iki sözdizimi de aynı sonuçları verir. OpenAI uyumluluğu hakkında daha fazla ayrıntı için [Çıkarım kılavuzuna](https://huggingface.co/docs/huggingface_hub/guides/inference#openai-compatibility) göz atın. > [!TIP] > `extra_body` argümanını kullanarak modele sağlayıcıya özgü parametreler iletebilirsiniz. Örnek: ```py # Must be run in an async context >>> from huggingface_hub import AsyncInferenceClient >>> messages = [{"role": "user", "content": "What is the capital of France?"}] >>> client = AsyncInferenceClient("meta-llama/Meta-Llama-3-8B-Instruct") >>> await client.chat_completion(messages, max_tokens=100) ChatCompletionOutput( choices=[ ChatCompletionOutputComplete( finish_reason='eos_token', index=0, message=ChatCompletionOutputMessage( role='assistant', content='The capital of France is Paris.', name=None, tool_calls=None ), logprobs=None ) ], created=1719907176, id='', model='meta-llama/Meta-Llama-3-8B-Instruct', object='text_completion', system_fingerprint='2.0.4-sha-f426a33', usage=ChatCompletionOutputUsage( completion_tokens=8, prompt_tokens=17, total_tokens=25 ) ) ``` Akış kullanılarak örnek: ```py # Must be run in an async context >>> from huggingface_hub import AsyncInferenceClient >>> messages = [{"role": "user", "content": "What is the capital of France?"}] >>> client = AsyncInferenceClient("meta-llama/Meta-Llama-3-8B-Instruct") >>> async for token in await client.chat_completion(messages, max_tokens=10, stream=True): ... print(token) ChatCompletionStreamOutput(choices=[ChatCompletionStreamOutputChoice(delta=ChatCompletionStreamOutputDelta(content='The', role='assistant'), index=0, finish_reason=None)], created=1710498504) ChatCompletionStreamOutput(choices=[ChatCompletionStreamOutputChoice(delta=ChatCompletionStreamOutputDelta(content=' capital', role='assistant'), index=0, finish_reason=None)], created=1710498504) (...) ChatCompletionStreamOutput(choices=[ChatCompletionStreamOutputChoice(delta=ChatCompletionStreamOutputDelta(content=' may', role='assistant'), index=0, finish_reason=None)], created=1710498504) ``` OpenAI sözdizimini kullanan örnek: ```py # Must be run in an async context # instead of `from openai import OpenAI` from huggingface_hub import AsyncInferenceClient # instead of `client = OpenAI(...)` client = AsyncInferenceClient( base_url=..., api_key=..., ) output = await client.chat.completions.create( model="meta-llama/Meta-Llama-3-8B-Instruct", messages=[ {"role": "system", "content": "You are a helpful assistant."}, {"role": "user", "content": "Count to 10"}, ], stream=True, max_tokens=1024, ) for chunk in output: print(chunk.choices[0].delta.content) ``` Üçüncü taraf bir sağlayıcıyı ek (sağlayıcıya özgü) parametrelerle doğrudan kullanan örnek. Kullanım, Together AI hesabınıza faturalandırılacaktır. ```py >>> from huggingface_hub import InferenceClient >>> client = InferenceClient( ... provider="together", # Use Together AI provider ... api_key="", # Pass your Together API key directly ... ) >>> client.chat_completion( ... model="meta-llama/Meta-Llama-3-8B-Instruct", ... messages=[{"role": "user", "content": "What is the capital of France?"}], ... extra_body={"safety_model": "Meta-Llama/Llama-Guard-7b"}, ... ) ``` Hugging Face Routing üzerinden üçüncü taraf bir sağlayıcı kullanan örnek. Kullanım, Hugging Face hesabınıza faturalandırılır. ```py >>> from huggingface_hub import InferenceClient >>> client = InferenceClient( ... provider="novita", # Use Novita provider ... api_key="hf_...", # Pass your HF token ... ) >>> client.chat_completion( ... model="meta-llama/Meta-Llama-3-8B-Instruct", ... messages=[{"role": "user", "content": "What is the capital of France?"}], ... ) ``` Girdi olarak Görsel + Metin kullanan örnek: ```py # Must be run in an async context >>> from huggingface_hub import AsyncInferenceClient # provide a remote URL >>> image_url ="https://cdn.britannica.com/61/93061-050-99147DCE/Statue-of-Liberty-Island-New-York-Bay.jpg" # or a base64-encoded image >>> image_path = "/path/to/image.jpeg" >>> with open(image_path, "rb") as f: ... base64_image = base64.b64encode(f.read()).decode("utf-8") >>> image_url = f"data:image/jpeg;base64,{base64_image}" >>> client = AsyncInferenceClient("meta-llama/Llama-3.2-11B-Vision-Instruct") >>> output = await client.chat.completions.create( ... messages=[ ... { ... "role": "user", ... "content": [ ... { ... "type": "image_url", ... "image_url": {"url": image_url}, ... }, ... { ... "type": "text", ... "text": "Describe this image in one sentence.", ... }, ... ], ... }, ... ], ... ) >>> output The image depicts the iconic Statue of Liberty situated in New York Harbor, New York, on a clear day. ``` Araçlar kullanılarak örnek: ```py # Must be run in an async context >>> client = AsyncInferenceClient("meta-llama/Meta-Llama-3-70B-Instruct") >>> messages = [ ... { ... "role": "system", ... "content": "Don't make assumptions about what values to plug into functions. Ask for clarification if a user request is ambiguous.", ... }, ... { ... "role": "user", ... "content": "What's the weather like the next 3 days in San Francisco, CA?", ... }, ... ] >>> tools = [ ... { ... "type": "function", ... "function": { ... "name": "get_current_weather", ... "description": "Get the current weather", ... "parameters": { ... "type": "object", ... "properties": { ... "location": { ... "type": "string", ... "description": "The city and state, e.g. San Francisco, CA", ... }, ... "format": { ... "type": "string", ... "enum": ["celsius", "fahrenheit"], ... "description": "The temperature unit to use. Infer this from the users location.", ... }, ... }, ... "required": ["location", "format"], ... }, ... }, ... }, ... { ... "type": "function", ... "function": { ... "name": "get_n_day_weather_forecast", ... "description": "Get an N-day weather forecast", ... "parameters": { ... "type": "object", ... "properties": { ... "location": { ... "type": "string", ... "description": "The city and state, e.g. San Francisco, CA", ... }, ... "format": { ... "type": "string", ... "enum": ["celsius", "fahrenheit"], ... "description": "The temperature unit to use. Infer this from the users location.", ... }, ... "num_days": { ... "type": "integer", ... "description": "The number of days to forecast", ... }, ... }, ... "required": ["location", "format", "num_days"], ... }, ... }, ... }, ... ] >>> response = await client.chat_completion( ... model="meta-llama/Meta-Llama-3-70B-Instruct", ... messages=messages, ... tools=tools, ... tool_choice="auto", ... max_tokens=500, ... ) >>> response.choices[0].message.tool_calls[0].function ChatCompletionOutputFunctionDefinition( arguments={ 'location': 'San Francisco, CA', 'format': 'fahrenheit', 'num_days': 3 }, name='get_n_day_weather_forecast', description=None ) ``` response_format kullanılarak örnek: ```py # Must be run in an async context >>> from huggingface_hub import AsyncInferenceClient >>> client = AsyncInferenceClient("meta-llama/Meta-Llama-3-70B-Instruct") >>> messages = [ ... { ... "role": "user", ... "content": "I saw a puppy a cat and a raccoon during my bike ride in the park. What did I see and when?", ... }, ... ] >>> response_format = { ... "type": "json", ... "value": { ... "properties": { ... "location": {"type": "string"}, ... "activity": {"type": "string"}, ... "animals_seen": {"type": "integer", "minimum": 1, "maximum": 5}, ... "animals": {"type": "array", "items": {"type": "string"}}, ... }, ... "required": ["location", "activity", "animals_seen", "animals"], ... }, ... } >>> response = await client.chat_completion( ... messages=messages, ... response_format=response_format, ... max_tokens=500, ... ) >>> response.choices[0].message.content '{ y": "bike ride", ": ["puppy", "cat", "raccoon"], _seen": 3, n": "park"}' ``` #### kapat[[huggingface_hub.AsyncInferenceClient.close]] ```python close() ``` [Kaynak](https://github.com/huggingface/huggingface_hub/blob/main/src/huggingface_hub/inference/_generated/_async_client.py#L226) İstemciyi kapatın. Bu yöntem, istemci bir bağlam yöneticisi olarak kullanıldığında otomatik olarak çağrılır. #### document_question_answering[[huggingface_hub.AsyncInferenceClient.document_question_answering]] ```python document_question_answering(image: typing.Union[bytes, typing.BinaryIO, str, pathlib.Path, ForwardRef('Image'), bytearray, memoryview], question: str, model: str | None = None, doc_stride: int | None = None, handle_impossible_answer: bool | None = None, lang: str | None = None, max_answer_len: int | None = None, max_question_len: int | None = None, max_seq_len: int | None = None, top_k: int | None = None, word_boxes: list[list[float] | str] | None = None) ``` [Kaynak](https://github.com/huggingface/huggingface_hub/blob/main/src/huggingface_hub/inference/_generated/_async_client.py#L960) **Parametreler:** image (`Union[str, Path, bytes, BinaryIO]`) : Bağlam için girdi görüntüsü. Ham baytlar, bir görüntü dosyası veya çevrimiçi bir görüntüye giden bir URL olabilir. question (`str`) : Yanıtlanması gereken soru. model (`str`, *isteğe bağlı*) : Belge soru-cevap görevi için kullanılacak model. Hugging Face Hub'da barındırılan bir model kimliği veya dağıtılmış bir Inference Endpoint URL'si olabilir. Sağlanmazsa, varsayılan önerilen belge soru-cevap modeli kullanılır. Varsayılan olarak None'dır. doc_stride (`int`, *isteğe bağlı*) : Belgedeki kelimeler, model için soruyla birlikte sığmayacak kadar uzunsa, birkaç parçaya bölünür ve bu parçalar arasında bir örtüşme bırakılır. Bu argüman, söz konusu örtüşmenin boyutunu kontrol eder. handle_impossible_answer (`bool`, *isteğe bağlı*) : İmkânsızın bir cevap olarak kabul edilip edilmeyeceği lang (`str`, *isteğe bağlı*) : OCR çalıştırılırken kullanılacak dil. Varsayılan olarak english. max_answer_len (`int`, *isteğe bağlı*) : Tahmin edilen cevapların maksimum uzunluğu (ör. yalnızca daha kısa uzunluğa sahip cevaplar dikkate alınır). max_question_len (`int`, *isteğe bağlı*) : Tokenizasyon sonrası sorunun maksimum uzunluğu. Gerekirse kısaltılır. max_seq_len (`int`, *isteğe bağlı*) : Modeline iletilen her parçanın, toplam cümlenin (bağlam + soru) token cinsinden maksimum uzunluğu. Gerekirse bağlam, birkaç parçaya bölünür (geçiş olarak doc_stride kullanılır). top_k (`int`, *isteğe bağlı*) : Dönecek cevap sayısı (olasılık sırasına göre seçilecektir). Bağlamda yeterli seçenek yoksa, top_k'dan daha az cevap dönebilir. word_boxes (`list[Union[list[float], str`, *opsiyonel*) : Kelimelerin ve sınır kutularının (normalize edilmiş 0->1000) listesi. Sağlanırsa, çıkarım OCR adımını atlar ve sağlanan sınır kutularını kullanır. **Dönüş:** `list[DocumentQuestionAnsweringOutputElement]` tahmini etiketi, ilişkili olasılığı, kelime kimliklerini ve sayfa numarasını içeren [DocumentQuestionAnsweringOutputElement](/docs/huggingface_hub/main/tr/package_reference/inference_types#huggingface_hub.DocumentQuestionAnsweringOutputElement) öğelerinin bir listesi. **Yükselen:** [InferenceTimeoutError](/docs/huggingface_hub/main/tr/package_reference/inference_client#huggingface_hub.InferenceTimeoutError) veya `HfHubHTTPError` - [InferenceTimeoutError](/docs/huggingface_hub/main/tr/package_reference/inference_client#huggingface_hub.InferenceTimeoutError) -- Model kullanılamıyorsa veya istek zaman aşımına uğrarsa. - `HfHubHTTPError` -- HTTP 503 dışında bir HTTP hata durum koduyla istek başarısız olursa. Belge görüntülerindeki soruları yanıtlayın. Örnek: ```py # Must be run in an async context >>> from huggingface_hub import AsyncInferenceClient >>> client = AsyncInferenceClient() >>> await client.document_question_answering(image="https://huggingface.co/spaces/impira/docquery/resolve/2359223c1837a7587402bda0f2643382a6eefeab/invoice.png", question="What is the invoice number?") [DocumentQuestionAnsweringOutputElement(answer='us-001', end=16, score=0.9999666213989258, start=16)] ``` #### feature_extraction[[huggingface_hub.AsyncInferenceClient.feature_extraction]] ```python feature_extraction(text: str | list[str], normalize: bool | None = None, prompt_name: str | None = None, truncate: bool | None = None, truncation_direction: typing.Optional[typing.Literal['left', 'right']] = None, dimensions: int | None = None, encoding_format: typing.Optional[typing.Literal['float', 'base64']] = None, model: str | None = None) ``` [Kaynak](https://github.com/huggingface/huggingface_hub/blob/main/src/huggingface_hub/inference/_generated/_async_client.py#L1048) **Parametreler:** text (*str* veya *list[str]*) : Gömülecek metin veya metin listesi. model (*str*, *opsiyonel*) : Özellik çıkarma görevi için kullanılacak model. Hugging Face Hub'da barındırılan bir model kimliği veya dağıtılmış bir Inference Endpoint'in URL'si olabilir. Sağlanmazsa, varsayılan önerilen özellik çıkarma modeli kullanılır. Varsayılan olarak None'dır. normalize (*bool*, *opsiyonel*) : Gömmeleştirmelerin normalize edilip edilmeyeceğini belirtir. Yalnızca Text-Embedding-Inference tarafından desteklenen sunucularda kullanılabilir. prompt_name (*str*, *opsiyonel*) : Kodlama için kullanılması gereken prompt'un adı. Ayarlanmazsa hiçbir prompt uygulanmaz. *Sentence Transformers* yapılandırmasındaki *prompts* sözlüğünde bir anahtar olmalıdır. Örneğin `prompt_name` "query" ve `prompts` &lcub;"query": "query: ",...} ise, "What is the capital of France?" cümlesi, kodlanacak metnin başına prompt metninin eklenmesi nedeniyle "query: What is the capital of France?" olarak kodlanır. truncate (*bool*, *opsiyonel*) : Gömme (embedding) değerlerinin kırpılıp kırpılmayacağını belirtir. Yalnızca Text-Embedding-Inference tarafından desteklenen sunucularda kullanılabilir. truncation_direction (*Literal["left", "right"]*, *opsiyonel*) : *truncate=True* parametresi verildiğinde girdinin hangi tarafının kısaltılacağı. dimensions (*int*, *optional*) : Sonuç olarak üretilen gömme (embedding) çıktısının sahip olması gereken boyut sayısı. Yalnızca OpenAI ile uyumlu gömme uç noktalarında kullanılabilir. encoding_format (*Literal["float", "base64"]*, *opsiyonel*) : Çıktı gömme (embedding) verilerinin biçimi. "float" veya "base64" olabilir. Yalnızca OpenAI ile uyumlu gömme uç noktalarında kullanılabilir. **Dönüş:** `*np.ndarray*` Girdi metinlerini float32 numpy dizisi olarak temsil eden gömme (embedding). **Yükselen:** [*InferenceTimeoutError*] veya [*HfHubHTTPError*] - [*InferenceTimeoutError*] -- Model kullanılamıyorsa veya istek zaman aşımına uğrarsa. - [*HfHubHTTPError*] -- HTTP 503 dışında bir HTTP hata durum koduyla istek başarısız olursa. Belirli bir metin veya metinler grubu için gömme (embedding) üretin. Örnek: ```py # Must be run in an async context >>> from huggingface_hub import AsyncInferenceClient >>> client = AsyncInferenceClient() >>> await client.feature_extraction("Hi, who are you?") array([[ 2.424802 , 2.93384 , 1.1750331 , ..., 1.240499, -0.13776633, -0.7889173 ], [-0.42943227, -0.6364878 , -1.693462 , ..., 0.41978157, -2.4336355 , 0.6162071 ], ..., [ 0.28552425, -0.928395 , -1.2077185 , ..., 0.76810825, -2.1069427 , 0.6236161 ]], dtype=float32) ``` #### fill_mask[[huggingface_hub.AsyncInferenceClient.fill_mask]] ```python fill_mask(text: str, model: str | None = None, targets: list[str] | None = None, top_k: int | None = None) ``` [Kaynak](https://github.com/huggingface/huggingface_hub/blob/main/src/huggingface_hub/inference/_generated/_async_client.py#L1132) **Parametreler:** text (`str`) : doldurulacak bir dize, [MASK] token'ını içermelidir (maskenin tam adı için model kartını kontrol edin). model (`str`, *isteğe bağlı*) : Fill mask görevi için kullanılacak model. Hugging Face Hub'da barındırılan bir model kimliği veya dağıtılmış bir Inference Endpoint'in URL'si olabilir. Belirtilmezse, varsayılan önerilen fill mask modeli kullanılır. targets (`list[str`, *optional*) : Geçirildiğinde, model puanları tüm sözlükte arama yapmak yerine verilen hedeflerle sınırlar. Sağlanan hedefler model sözlüğünde yoksa, bunlar tokenize edilir ve ilk oluşan token kullanılır (bir uyarıyla birlikte ve bu daha yavaş olabilir). top_k (`int`, *isteğe bağlı*) : Verildiğinde, döndürülecek tahmin sayısını yazar. **Dönüş:** `list[FillMaskOutputElement]` tahmini etiketi, ilişkili olasılığı, token referansını ve tamamlanmış metni içeren [FillMaskOutputElement](/docs/huggingface_hub/main/tr/package_reference/inference_types#huggingface_hub.FillMaskOutputElement) öğelerinin bir listesi. **Yükselen:** [InferenceTimeoutError](/docs/huggingface_hub/main/tr/package_reference/inference_client#huggingface_hub.InferenceTimeoutError) veya `HfHubHTTPError` - [InferenceTimeoutError](/docs/huggingface_hub/main/tr/package_reference/inference_client#huggingface_hub.InferenceTimeoutError) -- Model kullanılamıyorsa veya istek zaman aşımına uğrarsa. - `HfHubHTTPError` -- HTTP 503 dışında bir HTTP hata durum koduyla istek başarısız olursa. Eksik kelimeyi (daha doğrusu token'ı) içeren boşluğu doldurun. Örnek: ```py # Must be run in an async context >>> from huggingface_hub import AsyncInferenceClient >>> client = AsyncInferenceClient() >>> await client.fill_mask("The goal of life is .") [ FillMaskOutputElement(score=0.06897063553333282, token=11098, token_str=' happiness', sequence='The goal of life is happiness.'), FillMaskOutputElement(score=0.06554922461509705, token=45075, token_str=' immortality', sequence='The goal of life is immortality.') ] ``` #### get_endpoint_info[[huggingface_hub.AsyncInferenceClient.get_endpoint_info]] ```python get_endpoint_info(model: str | None = None) ``` [Kaynak](https://github.com/huggingface/huggingface_hub/blob/main/src/huggingface_hub/inference/_generated/_async_client.py#L3302) **Parametreler:** model (`str`, *isteğe bağlı*) : Çıkarım için kullanılacak model. Hugging Face Hub'da barındırılan bir model kimliği veya dağıtılmış bir Inference Endpoint URL'si olabilir. Bu parametre, örnek düzeyinde tanımlanan modeli geçersiz kılar. Varsayılan değeri None'dır. **Dönüş:** `dict[str, Any]` Uç nokta hakkında bilgi. Dağıtılan uç nokta hakkında bilgi alın. Bu uç nokta yalnızca Text-Generation-Inference (TGI) veya Text-Embedding-Inference (TEI) tarafından desteklenen uç noktalarda kullanılabilir. `transformers` tarafından desteklenen uç noktalar boş bir yük döndürür. Örnek: ```py # Must be run in an async context >>> from huggingface_hub import AsyncInferenceClient >>> client = AsyncInferenceClient("meta-llama/Meta-Llama-3-70B-Instruct") >>> await client.get_endpoint_info() { 'model_id': 'meta-llama/Meta-Llama-3-70B-Instruct', 'model_sha': None, 'model_dtype': 'torch.float16', 'model_device_type': 'cuda', 'model_pipeline_tag': None, 'max_concurrent_requests': 128, 'max_best_of': 2, 'max_stop_sequences': 4, 'max_input_length': 8191, 'max_total_tokens': 8192, 'waiting_served_ratio': 0.3, 'max_batch_total_tokens': 1259392, 'max_waiting_tokens': 20, 'max_batch_size': None, 'validation_workers': 32, 'max_client_batch_size': 4, 'version': '2.0.2', 'sha': 'dccab72549635c7eb5ddb17f43f0b7cdff07c214', 'docker_label': 'sha-dccab72' } ``` #### health_check[[huggingface_hub.AsyncInferenceClient.health_check]] ```python health_check(model: str | None = None) ``` [Kaynak](https://github.com/huggingface/huggingface_hub/blob/main/src/huggingface_hub/inference/_generated/_async_client.py#L3362) **Parametreler:** model (`str`, *isteğe bağlı*) : Inference Endpoint URL'si. Bu parametre, örnek düzeyinde tanımlanan modeli geçersiz kılar. Varsayılan değeri None'dır. **Dönüş:** `bool` Her şeyin düzgün çalıştığını belirtir. Dağıtılan uç noktanın sağlığını kontrol edin. Health check yalnızca Text-Generation-Inference (TGI) veya Text-Embedding-Inference (TEI) ile çalışan Inference Endpoints ile kullanılabilir. Örnek: ```py # Must be run in an async context >>> from huggingface_hub import AsyncInferenceClient >>> client = AsyncInferenceClient("https://jzgu0buei5.us-east-1.aws.endpoints.huggingface.cloud") >>> await client.health_check() True ``` #### image_classification[[huggingface_hub.AsyncInferenceClient.image_classification]] ```python image_classification(image: typing.Union[bytes, typing.BinaryIO, str, pathlib.Path, ForwardRef('Image'), bytearray, memoryview], model: str | None = None, function_to_apply: typing.Optional[ForwardRef('ImageClassificationOutputTransform')] = None, top_k: int | None = None) ``` [Kaynak](https://github.com/huggingface/huggingface_hub/blob/main/src/huggingface_hub/inference/_generated/_async_client.py#L1189) **Parametreler:** image (`Union[str, Path, bytes, BinaryIO, PIL.Image.Image]`) : Sınıflandırılacak görüntü. Ham bayt, bir görüntü dosyası, çevrimiçi bir görüntünün URL'si veya bir PIL Image olabilir. model (`str`, *isteğe bağlı*) : Görsel sınıflandırma için kullanılacak model. Hugging Face Hub'da barındırılan bir model kimliği veya dağıtılmış bir Inference Endpoint URL'si olabilir. Belirtilmezse, görsel sınıflandırma için varsayılan önerilen model kullanılır. function_to_apply (`"ImageClassificationOutputTransform"`, *isteğe bağlı*) : Skorları almak için model çıktısına uygulanacak işlev. top_k (`int`, *isteğe bağlı*) : Belirtilirse, çıktı en olası K sınıfıyla sınırlanır. **Dönüş:** `list[ImageClassificationOutputElement]` tahmini etiketi ve ilişkili olasılığı içeren [ImageClassificationOutputElement](/docs/huggingface_hub/main/tr/package_reference/inference_types#huggingface_hub.ImageClassificationOutputElement) öğelerinin bir listesi. **Yükselen:** [InferenceTimeoutError](/docs/huggingface_hub/main/tr/package_reference/inference_client#huggingface_hub.InferenceTimeoutError) veya `HfHubHTTPError` - [InferenceTimeoutError](/docs/huggingface_hub/main/tr/package_reference/inference_client#huggingface_hub.InferenceTimeoutError) -- Model kullanılamıyorsa veya istek zaman aşımına uğrarsa. - `HfHubHTTPError` -- HTTP 503 dışında bir HTTP hata durum koduyla istek başarısız olursa. Belirtilen modeli kullanarak verilen görüntü üzerinde görüntü sınıflandırması yapın. Örnek: ```py # Must be run in an async context >>> from huggingface_hub import AsyncInferenceClient >>> client = AsyncInferenceClient() >>> await client.image_classification("https://upload.wikimedia.org/wikipedia/commons/thumb/4/43/Cute_dog.jpg/320px-Cute_dog.jpg") [ImageClassificationOutputElement(label='Blenheim spaniel', score=0.9779096841812134), ...] ``` #### image_segmentation[[huggingface_hub.AsyncInferenceClient.image_segmentation]] ```python image_segmentation(image: typing.Union[bytes, typing.BinaryIO, str, pathlib.Path, ForwardRef('Image'), bytearray, memoryview], model: str | None = None, mask_threshold: float | None = None, overlap_mask_area_threshold: float | None = None, subtask: typing.Optional[ForwardRef('ImageSegmentationSubtask')] = None, threshold: float | None = None) ``` [Kaynak](https://github.com/huggingface/huggingface_hub/blob/main/src/huggingface_hub/inference/_generated/_async_client.py#L1240) **Parametreler:** image (`Union[str, Path, bytes, BinaryIO, PIL.Image.Image]`) : Bölümlendirilecek görüntü. Ham bayt, bir görüntü dosyası, çevrimiçi bir görüntünün URL'si veya bir PIL Image olabilir. model (`str`, *isteğe bağlı*) : Görüntü segmentasyonu için kullanılacak model. Hugging Face Hub'da barındırılan bir model kimliği veya dağıtılmış bir Inference Endpoint URL'si olabilir. Belirtilmezse, görüntü segmentasyonu için varsayılan önerilen model kullanılır. mask_threshold (`float`, *isteğe bağlı*) : Tahmin edilen maskelerin ikili değerlere dönüştürülürken kullanılacak eşik. overlap_mask_area_threshold (`float`, *isteğe bağlı*) : Küçük, bağlantısız segmentleri ortadan kaldırmak için maske örtüşme eşiği. subtask (`"ImageSegmentationSubtask"`, *isteğe bağlı*) : Model yeteneklerine bağlı olarak gerçekleştirilecek segmentasyon görevi. threshold (`float`, *isteğe bağlı*) : Tahmin edilen maskeleri filtrelemek için olasılık eşiği. **Dönüş:** `list[ImageSegmentationOutputElement]` Segmentasyon maskelerini ve ilişkili öznitelikleri içeren [ImageSegmentationOutputElement](/docs/huggingface_hub/main/tr/package_reference/inference_types#huggingface_hub.ImageSegmentationOutputElement) öğelerinin listesi. **Yükselen:** [InferenceTimeoutError](/docs/huggingface_hub/main/tr/package_reference/inference_client#huggingface_hub.InferenceTimeoutError) veya `HfHubHTTPError` - [InferenceTimeoutError](/docs/huggingface_hub/main/tr/package_reference/inference_client#huggingface_hub.InferenceTimeoutError) -- Model kullanılamıyorsa veya istek zaman aşımına uğrarsa. - `HfHubHTTPError` -- HTTP 503 dışında bir HTTP hata durum koduyla istek başarısız olursa. Belirtilen modeli kullanarak verilen görüntü üzerinde görüntü segmentasyonu gerçekleştirin. > [!WARNING] > Görsellerle çalışmak istiyorsanız `PIL` kurulu olmalıdır (`pip install Pillow`). Örnek: ```py # Must be run in an async context >>> from huggingface_hub import AsyncInferenceClient >>> client = AsyncInferenceClient() >>> await client.image_segmentation("cat.jpg") [ImageSegmentationOutputElement(score=0.989008, label='LABEL_184', mask=), ...] ``` #### image_to_image[[huggingface_hub.AsyncInferenceClient.image_to_image]] ```python image_to_image(image: typing.Union[bytes, typing.BinaryIO, str, pathlib.Path, ForwardRef('Image'), bytearray, memoryview], prompt: str | None = None, negative_prompt: str | None = None, num_inference_steps: int | None = None, guidance_scale: float | None = None, model: str | None = None, target_size: huggingface_hub.inference._generated.types.image_to_image.ImageToImageTargetSize | None = None, **kwargs) ``` [Kaynak](https://github.com/huggingface/huggingface_hub/blob/main/src/huggingface_hub/inference/_generated/_async_client.py#L1309) **Parametreler:** image (`Union[str, Path, bytes, BinaryIO, PIL.Image.Image]`) : Çeviri için girdi görüntüsü. Ham baytlar, bir görüntü dosyası, çevrimiçi bir görüntüye giden bir URL veya bir PIL Image olabilir. prompt (`str`, *isteğe bağlı*) : Görsel üretimi yönlendirmek için metin komutu. negative_prompt (`str`, *isteğe bağlı*) : Görsel üretimde dahil edilmemesi gerekenleri yönlendirmek için tek bir istem. num_inference_steps (`int`, *isteğe bağlı*) : Difüzyon modelleri için. Gürültü azaltma adım sayısı. Daha fazla gürültü azaltma adımı genellikle daha yavaş çıkarım pahasına daha yüksek kaliteli bir görüntüye yol açar. guidance_scale (`float`, *isteğe bağlı*) : Difüzyon modelleri için. Daha yüksek bir yönlendirme ölçeği değeri, modelin metin komutuyla yakından ilişkili görseller üretmesini teşvik eder; bunun bedeli ise daha düşük görsel kalitedir. model (`str`, *isteğe bağlı*) : Çıkarım için kullanılacak model. Hugging Face Hub'da barındırılan bir model kimliği veya dağıtılmış bir Inference Endpoint URL'si olabilir. Bu parametre, örnek düzeyinde tanımlanan modeli geçersiz kılar. Varsayılan değeri None'dır. target_size (`ImageToImageTargetSize`, *isteğe bağlı*) : Çıktı görüntüsünün piksel cinsinden boyutu. Bu parametre yalnızca bazı sağlayıcılar ve belirli modeller tarafından desteklenir. Desteklenmediğinde yok sayılır. **Dönüş:** `Image` Çevrilen görüntü. **Yükselen:** [InferenceTimeoutError](/docs/huggingface_hub/main/tr/package_reference/inference_client#huggingface_hub.InferenceTimeoutError) veya `HfHubHTTPError` - [InferenceTimeoutError](/docs/huggingface_hub/main/tr/package_reference/inference_client#huggingface_hub.InferenceTimeoutError) -- Model kullanılamıyorsa veya istek zaman aşımına uğrarsa. - `HfHubHTTPError` -- HTTP 503 dışında bir HTTP hata durum koduyla istek başarısız olursa. Belirtilen bir model kullanarak görüntüden görüntüye çeviri gerçekleştirin. > [!WARNING] > Görsellerle çalışmak istiyorsanız `PIL` kurulu olmalıdır (`pip install Pillow`). Örnek: ```py # Must be run in an async context >>> from huggingface_hub import AsyncInferenceClient >>> client = AsyncInferenceClient() >>> image = await client.image_to_image("cat.jpg", prompt="turn the cat into a tiger") >>> image.save("tiger.jpg") ``` #### image_to_text[[huggingface_hub.AsyncInferenceClient.image_to_text]] ```python image_to_text(image: typing.Union[bytes, typing.BinaryIO, str, pathlib.Path, ForwardRef('Image'), bytearray, memoryview], model: str | None = None) ``` [Kaynak](https://github.com/huggingface/huggingface_hub/blob/main/src/huggingface_hub/inference/_generated/_async_client.py#L1466) **Parametreler:** image (`Union[str, Path, bytes, BinaryIO, PIL.Image.Image]`) : Başlıklandırılacak girdi görüntüsü. Ham baytlar, bir görüntü dosyası, çevrimiçi bir görüntüye giden bir URL veya bir PIL Image olabilir. model (`str`, *isteğe bağlı*) : Çıkarım için kullanılacak model. Hugging Face Hub'da barındırılan bir model kimliği veya dağıtılmış bir Inference Endpoint URL'si olabilir. Bu parametre, örnek düzeyinde tanımlanan modeli geçersiz kılar. Varsayılan değeri None'dır. **Dönüş:** [ImageToTextOutput](/docs/huggingface_hub/main/tr/package_reference/inference_types#huggingface_hub.ImageToTextOutput) Oluşturulan metin. **Yükselen:** [InferenceTimeoutError](/docs/huggingface_hub/main/tr/package_reference/inference_client#huggingface_hub.InferenceTimeoutError) veya `HfHubHTTPError` - [InferenceTimeoutError](/docs/huggingface_hub/main/tr/package_reference/inference_client#huggingface_hub.InferenceTimeoutError) -- Model kullanılamıyorsa veya istek zaman aşımına uğrarsa. - `HfHubHTTPError` -- HTTP 503 dışında bir HTTP hata durum koduyla istek başarısız olursa. Girdi olarak bir görüntü alır ve metin döndürür. Modeller, kullanım senaryonuza (görsel açıklama, optik karakter tanıma (OCR), Pix2Struct vb.) göre çok farklı çıktılar üretebilir. Bir modelin kendine özgü özellikleri hakkında daha fazla bilgi edinmek için model kartına göz atın. Örnek: ```py # Must be run in an async context >>> from huggingface_hub import AsyncInferenceClient >>> client = AsyncInferenceClient() >>> await client.image_to_text("cat.jpg") 'a cat standing in a grassy field ' >>> await client.image_to_text("https://upload.wikimedia.org/wikipedia/commons/thumb/4/43/Cute_dog.jpg/320px-Cute_dog.jpg") 'a dog laying on the grass next to a flower pot ' ``` #### image_to_video[[huggingface_hub.AsyncInferenceClient.image_to_video]] ```python image_to_video(image: typing.Union[bytes, typing.BinaryIO, str, pathlib.Path, ForwardRef('Image'), bytearray, memoryview], model: str | None = None, prompt: str | None = None, negative_prompt: str | None = None, num_frames: float | None = None, num_inference_steps: int | None = None, guidance_scale: float | None = None, seed: int | None = None, target_size: huggingface_hub.inference._generated.types.image_to_video.ImageToVideoTargetSize | None = None, **kwargs) ``` [Kaynak](https://github.com/huggingface/huggingface_hub/blob/main/src/huggingface_hub/inference/_generated/_async_client.py#L1386) **Parametreler:** image (`Union[str, Path, bytes, BinaryIO, PIL.Image.Image]`) : Video oluşturulacak girdi görüntüsü. Ham baytlar, bir görüntü dosyası, çevrimiçi bir görüntünün URL'si veya bir PIL Image olabilir. model (`str`, *isteğe bağlı*) : Çıkarım için kullanılacak model. Hugging Face Hub'da barındırılan bir model kimliği veya dağıtılmış bir Inference Endpoint URL'si olabilir. Bu parametre, örnek düzeyinde tanımlanan modeli geçersiz kılar. Varsayılan değeri None'dır. prompt (`str`, *isteğe bağlı*) : Video üretimini yönlendirmek için metin komutu. negative_prompt (`str`, *isteğe bağlı*) : Video üretiminde dahil edilmemesi gerekenleri yönlendirmek için tek bir istem. num_frames (`float`, *isteğe bağlı*) : num_frames parametresi, kaç video karesinin oluşturulacağını belirler. num_inference_steps (`int`, *isteğe bağlı*) : Difüzyon modelleri için. Gürültü azaltma adım sayısı. Daha fazla gürültü azaltma adımı genellikle daha yavaş çıkarım pahasına daha yüksek kaliteli bir görüntüye yol açar. guidance_scale (`float`, *isteğe bağlı*) : Difüzyon modelleri için. Daha yüksek bir yönlendirme ölçeği değeri, modelin metin istemine sıkı sıkıya bağlı videolar üretmesini teşvik eder; bunun bedeli ise daha düşük görüntü kalitesidir. seed (`int`, *isteğe bağlı*) : Video üretimi için kullanılacak tohum. target_size (`ImageToVideoTargetSize`, *isteğe bağlı*) : Çıktı video karelerinin piksel cinsinden boyutu. num_inference_steps (`int`, *isteğe bağlı*) : Gürültü azaltma adım sayısı. Daha fazla gürültü azaltma adımı genellikle daha yavaş çıkarım pahasına daha yüksek kaliteli bir videoya yol açar. seed (`int`, *isteğe bağlı*) : Rastgele sayı üreteci için tohum. **Dönüş:** `bytes` Oluşturulan video. Girdi görüntüsünden bir video oluşturun. Örnekler: ```py # Must be run in an async context >>> from huggingface_hub import AsyncInferenceClient >>> client = AsyncInferenceClient() >>> video = await client.image_to_video("cat.jpg", model="Wan-AI/Wan2.2-I2V-A14B", prompt="turn the cat into a tiger") >>> with open("tiger.mp4", "wb") as f: ... f.write(video) ``` #### object_detection[[huggingface_hub.AsyncInferenceClient.object_detection]] ```python object_detection(image: typing.Union[bytes, typing.BinaryIO, str, pathlib.Path, ForwardRef('Image'), bytearray, memoryview], model: str | None = None, threshold: float | None = None) ``` [Kaynak](https://github.com/huggingface/huggingface_hub/blob/main/src/huggingface_hub/inference/_generated/_async_client.py#L1513) **Parametreler:** image (`Union[str, Path, bytes, BinaryIO, PIL.Image.Image]`) : Nesne algılama yapılacak görüntü. Ham bayt, bir görüntü dosyası, çevrimiçi bir görüntünün URL'si veya bir PIL Image olabilir. model (`str`, *isteğe bağlı*) : Nesne algılama için kullanılacak model. Hugging Face Hub'da barındırılan bir model kimliği veya dağıtılmış bir Inference Endpoint URL'si olabilir. Belirtilmezse, nesne algılama için varsayılan önerilen model (DETR) kullanılır. threshold (`float`, *isteğe bağlı*) : Bir tahmin yapabilmek için gerekli olasılık. **Dönüş:** `list[ObjectDetectionOutputElement]` Sınır kutularını ve ilişkili öznitelikleri içeren [ObjectDetectionOutputElement](/docs/huggingface_hub/main/tr/package_reference/inference_types#huggingface_hub.ObjectDetectionOutputElement) öğelerinin listesi. **Yükselen:** [InferenceTimeoutError](/docs/huggingface_hub/main/tr/package_reference/inference_client#huggingface_hub.InferenceTimeoutError) veya `HfHubHTTPError` veya ``ValueError`` - [InferenceTimeoutError](/docs/huggingface_hub/main/tr/package_reference/inference_client#huggingface_hub.InferenceTimeoutError) -- Model kullanılamıyorsa veya istek zaman aşımına uğrarsa. - `HfHubHTTPError` -- HTTP 503 dışında bir HTTP hata durum koduyla istek başarısız olursa. - ``ValueError`` -- İstek çıktısı bir List değilse. Belirtilen modeli kullanarak verilen görüntüde nesne algılama gerçekleştirin. > [!WARNING] > Görsellerle çalışmak istiyorsanız `PIL` kurulu olmalıdır (`pip install Pillow`). Örnek: ```py # Must be run in an async context >>> from huggingface_hub import AsyncInferenceClient >>> client = AsyncInferenceClient() >>> await client.object_detection("people.jpg") [ObjectDetectionOutputElement(score=0.9486683011054993, label='person', box=ObjectDetectionBoundingBox(xmin=59, ymin=39, xmax=420, ymax=510)), ...] ``` #### question_answering[[huggingface_hub.AsyncInferenceClient.question_answering]] ```python question_answering(question: str, context: str, model: str | None = None, align_to_words: bool | None = None, doc_stride: int | None = None, handle_impossible_answer: bool | None = None, max_answer_len: int | None = None, max_question_len: int | None = None, max_seq_len: int | None = None, top_k: int | None = None) ``` [Kaynak](https://github.com/huggingface/huggingface_hub/blob/main/src/huggingface_hub/inference/_generated/_async_client.py#L1562) **Parametreler:** question (`str`) : Yanıtlanması gereken soru. context (`str`) : Sorunun bağlamı. model (`str`) : Soru cevaplandırma görevi için kullanılacak model. Hugging Face Hub'da barındırılan bir model kimliği veya dağıtılmış bir Inference Endpoint'in URL'si olabilir. align_to_words (`bool`, *isteğe bağlı*) : Cevabı gerçek kelimelere hizalamayı dener. Boşlukla ayrılan dillerde kaliteyi artırır. Boşlukla ayrılmayan dillerde (Japonca veya Çince gibi) kaliteyi düşürebilir. doc_stride (`int`, *isteğe bağlı*) : Bağlam, model için soruyla birlikte sığmayacak kadar uzunsa, bazı örtüşmelerle birkaç parçaya bölünür. Bu argüman, bu örtüşmenin boyutunu kontrol eder. handle_impossible_answer (`bool`, *isteğe bağlı*) : İmkânsızın bir cevap olarak kabul edilip edilmeyeceği. max_answer_len (`int`, *isteğe bağlı*) : Tahmin edilen cevapların maksimum uzunluğu (ör. yalnızca daha kısa uzunluğa sahip cevaplar dikkate alınır). max_question_len (`int`, *isteğe bağlı*) : Tokenizasyon sonrası sorunun maksimum uzunluğu. Gerekirse kısaltılır. max_seq_len (`int`, *isteğe bağlı*) : Modeline iletilen her parçanın, toplam cümlenin (bağlam + soru) token cinsinden maksimum uzunluğu. Gerekirse bağlam, birkaç parçaya bölünür (geçiş olarak docStride kullanılır). top_k (`int`, *isteğe bağlı*) : Döndürülecek cevap sayısı (olasılık sırasına göre seçilecektir). Bağlamda yeterli seçenek yoksa, topk'dan daha az cevap döndürüldüğünü unutmayın. **Dönüş:** Union[`QuestionAnsweringOutputElement`, list[QuestionAnsweringOutputElement](/docs/huggingface_hub/main/tr/package_reference/inference_types#huggingface_hub.QuestionAnsweringOutputElement)] top_k 1 olduğunda veya verilmediğinde, tek bir `QuestionAnsweringOutputElement` döndürür. top_k 1'den büyük olduğunda, `QuestionAnsweringOutputElement` listesini döndürür. **Yükselen:** [InferenceTimeoutError](/docs/huggingface_hub/main/tr/package_reference/inference_client#huggingface_hub.InferenceTimeoutError) veya `HfHubHTTPError` - [InferenceTimeoutError](/docs/huggingface_hub/main/tr/package_reference/inference_client#huggingface_hub.InferenceTimeoutError) -- Model kullanılamıyorsa veya istek zaman aşımına uğrarsa. - `HfHubHTTPError` -- HTTP 503 dışında bir HTTP hata durum koduyla istek başarısız olursa. Verilen bir metinden bir sorunun cevabını alın. Örnek: ```py # Must be run in an async context >>> from huggingface_hub import AsyncInferenceClient >>> client = AsyncInferenceClient() >>> await client.question_answering(question="What's my name?", context="My name is Clara and I live in Berkeley.") QuestionAnsweringOutputElement(answer='Clara', end=16, score=0.9326565265655518, start=11) ``` #### sentence_similarity[[huggingface_hub.AsyncInferenceClient.sentence_similarity]] ```python sentence_similarity(sentence: str, other_sentences: list, model: str | None = None) ``` [Kaynak](https://github.com/huggingface/huggingface_hub/blob/main/src/huggingface_hub/inference/_generated/_async_client.py#L1647) **Parametreler:** sentence (`str`) : Diğerleriyle karşılaştırılacak ana cümle. other_sentences (`list[str]`) : Karşılaştırılacak cümlelerin listesi. model (`str`, *isteğe bağlı*) : Cümle benzerliği görevi için kullanılacak model. Hugging Face Hub'da barındırılan bir model kimliği veya dağıtılmış bir Inference Endpoint'in URL'si olabilir. Belirtilmezse, varsayılan önerilen cümle benzerliği modeli kullanılır. Varsayılan olarak None'dır. **Dönüş:** `list[float]` Girdi metnini temsil eden gömme (embedding). **Yükselen:** [InferenceTimeoutError](/docs/huggingface_hub/main/tr/package_reference/inference_client#huggingface_hub.InferenceTimeoutError) veya `HfHubHTTPError` - [InferenceTimeoutError](/docs/huggingface_hub/main/tr/package_reference/inference_client#huggingface_hub.InferenceTimeoutError) -- Model kullanılamıyorsa veya istek zaman aşımına uğrarsa. - `HfHubHTTPError` -- HTTP 503 dışında bir HTTP hata durum koduyla istek başarısız olursa. Cümle gömme vektörlerini karşılaştırarak bir cümle ile diğer cümlelerin oluşturduğu liste arasındaki anlamsal benzerliği hesaplayın. Örnek: ```py # Must be run in an async context >>> from huggingface_hub import AsyncInferenceClient >>> client = AsyncInferenceClient() >>> await client.sentence_similarity( ... "Machine learning is so easy.", ... other_sentences=[ ... "Deep learning is so straightforward.", ... "This is so difficult, like rocket science.", ... "I can't believe how much I struggled with this.", ... ], ... ) [0.7785726189613342, 0.45876261591911316, 0.2906220555305481] ``` #### özetleme[[huggingface_hub.AsyncInferenceClient.summarization]] ```python summarization(text: str, model: str | None = None, clean_up_tokenization_spaces: bool | None = None, generate_parameters: dict[str, typing.Any] | None = None, truncation: typing.Optional[ForwardRef('SummarizationTruncationStrategy')] = None) ``` [Kaynak](https://github.com/huggingface/huggingface_hub/blob/main/src/huggingface_hub/inference/_generated/_async_client.py#L1701) **Parametreler:** text (`str`) : Özetlenecek girdi metni. model (`str`, *isteğe bağlı*) : Çıkarım için kullanılacak model. Hugging Face Hub'da barındırılan bir model kimliği veya dağıtılmış bir Inference Endpoint URL'si olabilir. Belirtilmezse, özetleme için varsayılan önerilen model kullanılır. clean_up_tokenization_spaces (`bool`, *isteğe bağlı*) : Metin çıktısındaki olası ek boşlukların temizlenip temizlenmeyeceğini belirtir. generate_parameters (`dict[str, Any]`, *isteğe bağlı*) : Metin üretim algoritmasının ek parametrelemesi. truncation (`"SummarizationTruncationStrategy"`, *isteğe bağlı*) : Kullanılacak kesme stratejisi. **Dönüş:** [SummarizationOutput](/docs/huggingface_hub/main/tr/package_reference/inference_types#huggingface_hub.SummarizationOutput) Oluşturulan özet metni. **Yükselen:** [InferenceTimeoutError](/docs/huggingface_hub/main/tr/package_reference/inference_client#huggingface_hub.InferenceTimeoutError) veya `HfHubHTTPError` - [InferenceTimeoutError](/docs/huggingface_hub/main/tr/package_reference/inference_client#huggingface_hub.InferenceTimeoutError) -- Model kullanılamıyorsa veya istek zaman aşımına uğrarsa. - `HfHubHTTPError` -- HTTP 503 dışında bir HTTP hata durum koduyla istek başarısız olursa. Belirtilen bir model kullanılarak verilen bir metnin özetini oluşturun. Örnek: ```py # Must be run in an async context >>> from huggingface_hub import AsyncInferenceClient >>> client = AsyncInferenceClient() >>> await client.summarization("The Eiffel tower...") SummarizationOutput(generated_text="The Eiffel tower is one of the most famous landmarks in the world....") ``` #### table_question_answering[[huggingface_hub.AsyncInferenceClient.table_question_answering]] ```python table_question_answering(table: dict, query: str, model: str | None = None, padding: typing.Optional[ForwardRef('Padding')] = None, sequential: bool | None = None, truncation: bool | None = None) ``` [Kaynak](https://github.com/huggingface/huggingface_hub/blob/main/src/huggingface_hub/inference/_generated/_async_client.py#L1760) **Parametreler:** table (`str`) : Girdiler başlıklar, listeler ise tüm değerler olan bir liste sözlüğü olarak temsil edilen veri tablosu; tüm listelerin aynı boyutta olması gerekir. query (`str`) : Tabloya sormak istediğiniz düz metin sorgusu. model (`str`) : Tablo-soru-cevap görevi için kullanılacak model. Hugging Face Hub'da barındırılan bir model kimliği veya dağıtılmış bir Inference Endpoint'in URL'si olabilir. padding (`"Padding"`, *isteğe bağlı*) : Dolguyu etkinleştirir ve kontrol eder. sequential (`bool`, *isteğe bağlı*) : Çıkarımın sıralı olarak mı yoksa bir parti (batch) olarak mı yapılacağını belirtir. Partileme daha hızlıdır, ancak SQA gibi modeller, konuşmacı doğaları gereği diziler içindeki ilişkileri çıkarabilmek için çıkarımın sıralı olarak yapılmasını gerektirir. truncation (`bool`, *isteğe bağlı*) : Kırpma işlemini etkinleştirir ve kontrol eder. **Dönüş:** [TableQuestionAnsweringOutputElement](/docs/huggingface_hub/main/tr/package_reference/inference_types#huggingface_hub.TableQuestionAnsweringOutputElement) cevabı, koordinatları, hücreleri ve kullanılan toplayıcıyı içeren bir tablo soru-cevap çıktısı. **Yükselen:** [InferenceTimeoutError](/docs/huggingface_hub/main/tr/package_reference/inference_client#huggingface_hub.InferenceTimeoutError) veya `HfHubHTTPError` - [InferenceTimeoutError](/docs/huggingface_hub/main/tr/package_reference/inference_client#huggingface_hub.InferenceTimeoutError) -- Model kullanılamıyorsa veya istek zaman aşımına uğrarsa. - `HfHubHTTPError` -- HTTP 503 dışında bir HTTP hata durum koduyla istek başarısız olursa. Bir tablodaki bilgilerden bir sorunun cevabını alın. Örnek: ```py # Must be run in an async context >>> from huggingface_hub import AsyncInferenceClient >>> client = AsyncInferenceClient() >>> query = "How many stars does the transformers repository have?" >>> table = {"Repository": ["Transformers", "Datasets", "Tokenizers"], "Stars": ["36542", "4512", "3934"]} >>> await client.table_question_answering(table, query, model="google/tapas-base-finetuned-wtq") TableQuestionAnsweringOutputElement(answer='36542', coordinates=[[0, 1]], cells=['36542'], aggregator='AVERAGE') ``` #### tabular_classification[[huggingface_hub.AsyncInferenceClient.tabular_classification]] ```python tabular_classification(table: dict, model: str | None = None) ``` [Kaynak](https://github.com/huggingface/huggingface_hub/blob/main/src/huggingface_hub/inference/_generated/_async_client.py#L1823) **Parametreler:** table (`dict[str, Any]`) : Sınıflandırılacak öznitelikler kümesi. model (`str`, *isteğe bağlı*) : Tabular sınıflandırma görevi için kullanılacak model. Hugging Face Hub'da barındırılan bir model kimliği veya dağıtılmış bir Inference Endpoint URL'si olabilir. Sağlanmazsa, varsayılan önerilen tabular sınıflandırma modeli kullanılır. Varsayılan olarak None'dır. **Dönüş:** `List` ilk tablodaki her satır için bir etiketten oluşan bir liste. **Yükselen:** [InferenceTimeoutError](/docs/huggingface_hub/main/tr/package_reference/inference_client#huggingface_hub.InferenceTimeoutError) veya `HfHubHTTPError` - [InferenceTimeoutError](/docs/huggingface_hub/main/tr/package_reference/inference_client#huggingface_hub.InferenceTimeoutError) -- Model kullanılamıyorsa veya istek zaman aşımına uğrarsa. - `HfHubHTTPError` -- HTTP 503 dışında bir HTTP hata durum koduyla istek başarısız olursa. Bir dizi öznitelik temelinde hedef bir kategorinin (bir grubun) sınıflandırılması. Örnek: ```py # Must be run in an async context >>> from huggingface_hub import AsyncInferenceClient >>> client = AsyncInferenceClient() >>> table = { ... "fixed_acidity": ["7.4", "7.8", "10.3"], ... "volatile_acidity": ["0.7", "0.88", "0.32"], ... "citric_acid": ["0", "0", "0.45"], ... "residual_sugar": ["1.9", "2.6", "6.4"], ... "chlorides": ["0.076", "0.098", "0.073"], ... "free_sulfur_dioxide": ["11", "25", "5"], ... "total_sulfur_dioxide": ["34", "67", "13"], ... "density": ["0.9978", "0.9968", "0.9976"], ... "pH": ["3.51", "3.2", "3.23"], ... "sulphates": ["0.56", "0.68", "0.82"], ... "alcohol": ["9.4", "9.8", "12.6"], ... } >>> await client.tabular_classification(table=table, model="julien-c/wine-quality") ["5", "5", "5"] ``` #### tabular_regression[[huggingface_hub.AsyncInferenceClient.tabular_regression]] ```python tabular_regression(table: dict, model: str | None = None) ``` [Kaynak](https://github.com/huggingface/huggingface_hub/blob/main/src/huggingface_hub/inference/_generated/_async_client.py#L1879) **Parametreler:** table (`dict[str, Any]`) : Bir tabloda saklanan öznitelikler kümesi. Hedefi tahmin etmek için kullanılan öznitelikler hem sayısal hem de kategorik olabilir. model (`str`, *isteğe bağlı*) : Tabular regresyon görevi için kullanılacak model. Hugging Face Hub'da barındırılan bir model kimliği veya dağıtılmış bir Inference Endpoint URL'si olabilir. Sağlanmazsa, varsayılan önerilen tabular regresyon modeli kullanılır. Varsayılan olarak None'dır. **Dönüş:** `List` tahmin edilen sayısal hedef değerlerinin listesi. **Yükselen:** [InferenceTimeoutError](/docs/huggingface_hub/main/tr/package_reference/inference_client#huggingface_hub.InferenceTimeoutError) veya `HfHubHTTPError` - [InferenceTimeoutError](/docs/huggingface_hub/main/tr/package_reference/inference_client#huggingface_hub.InferenceTimeoutError) -- Model kullanılamıyorsa veya istek zaman aşımına uğrarsa. - `HfHubHTTPError` -- HTTP 503 dışında bir HTTP hata durum koduyla istek başarısız olursa. Bir tablodaki bir dizi özellik/öznitelik verildiğinde sayısal bir hedef değeri tahmin etme. Örnek: ```py # Must be run in an async context >>> from huggingface_hub import AsyncInferenceClient >>> client = AsyncInferenceClient() >>> table = { ... "Height": ["11.52", "12.48", "12.3778"], ... "Length1": ["23.2", "24", "23.9"], ... "Length2": ["25.4", "26.3", "26.5"], ... "Length3": ["30", "31.2", "31.1"], ... "Species": ["Bream", "Bream", "Bream"], ... "Width": ["4.02", "4.3056", "4.6961"], ... } >>> await client.tabular_regression(table, model="scikit-learn/Fish-Weight") [110, 120, 130] ``` #### text_classification[[huggingface_hub.AsyncInferenceClient.text_classification]] ```python text_classification(text: str, model: str | None = None, top_k: int | None = None, function_to_apply: typing.Optional[ForwardRef('TextClassificationOutputTransform')] = None) ``` [Kaynak](https://github.com/huggingface/huggingface_hub/blob/main/src/huggingface_hub/inference/_generated/_async_client.py#L1930) **Parametreler:** text (`str`) : Sınıflandırılacak bir dize. model (`str`, *isteğe bağlı*) : Metin sınıflandırma görevi için kullanılacak model. Hugging Face Hub'da barındırılan bir model kimliği veya dağıtılmış bir Inference Endpoint'in URL'si olabilir. Belirtilmezse, varsayılan önerilen metin sınıflandırma modeli kullanılır. Varsayılan olarak None'dır. top_k (`int`, *isteğe bağlı*) : Belirtilirse, çıktı en olası K sınıfıyla sınırlanır. function_to_apply (`"TextClassificationOutputTransform"`, *isteğe bağlı*) : Skorları almak için model çıktısına uygulanacak işlev. **Dönüş:** `list[TextClassificationOutputElement]` tahmini etiketi ve ilişkili olasılığı içeren [TextClassificationOutputElement](/docs/huggingface_hub/main/tr/package_reference/inference_types#huggingface_hub.TextClassificationOutputElement) öğelerinin bir listesi. **Yükselen:** [InferenceTimeoutError](/docs/huggingface_hub/main/tr/package_reference/inference_client#huggingface_hub.InferenceTimeoutError) veya `HfHubHTTPError` - [InferenceTimeoutError](/docs/huggingface_hub/main/tr/package_reference/inference_client#huggingface_hub.InferenceTimeoutError) -- Model kullanılamıyorsa veya istek zaman aşımına uğrarsa. - `HfHubHTTPError` -- HTTP 503 dışında bir HTTP hata durum koduyla istek başarısız olursa. Verilen metin üzerinde metin sınıflandırma (ör. duygu analizi) gerçekleştirin. Örnek: ```py # Must be run in an async context >>> from huggingface_hub import AsyncInferenceClient >>> client = AsyncInferenceClient() >>> await client.text_classification("I like you") [ TextClassificationOutputElement(label='POSITIVE', score=0.9998695850372314), TextClassificationOutputElement(label='NEGATIVE', score=0.0001304351753788069), ] ``` #### text_generation[[huggingface_hub.AsyncInferenceClient.text_generation]] ```python text_generation(prompt: str, details: bool | None = None, stream: bool | None = None, model: str | None = None, adapter_id: str | None = None, best_of: int | None = None, decoder_input_details: bool | None = None, do_sample: bool | None = None, frequency_penalty: float | None = None, grammar: huggingface_hub.inference._generated.types.text_generation.TextGenerationInputGrammarType | None = None, max_new_tokens: int | None = None, repetition_penalty: float | None = None, return_full_text: bool | None = None, seed: int | None = None, stop: list[str] | None = None, temperature: float | None = None, top_k: int | None = None, top_n_tokens: int | None = None, top_p: float | None = None, truncate: int | None = None, typical_p: float | None = None, watermark: bool | None = None) ``` [Kaynak](https://github.com/huggingface/huggingface_hub/blob/main/src/huggingface_hub/inference/_generated/_async_client.py#L2134) **Parametreler:** prompt (`str`) : Girdi metni. details (`bool`, *isteğe bağlı*) : Varsayılan olarak, text_generation bir dize döndürür. Ayrıntılı bir çıktı (tokenler, olasılıklar, tohum, bitirme nedeni vb.) istiyorsanız `details=True` parametresini iletin. Yalnızca `text-generation-inference` arka ucuyla çalışan modellerde kullanılabilir. stream (`bool`, *isteğe bağlı*) : Varsayılan olarak, text_generation tam olarak üretilen metni döndürür. Token akışının döndürülmesini istiyorsanız `stream=True` parametresini iletin. Yalnızca `text-generation-inference` arka ucuyla çalışan modellerde kullanılabilir. model (`str`, *isteğe bağlı*) : Çıkarım için kullanılacak model. Hugging Face Hub'da barındırılan bir model kimliği veya dağıtılmış bir Inference Endpoint URL'si olabilir. Bu parametre, örnek düzeyinde tanımlanan modeli geçersiz kılar. Varsayılan değeri None'dır. adapter_id (`str`, *isteğe bağlı*) : Lora adaptör kimliği. best_of (`int`, *isteğe bağlı*) : best_of dizilerini üretir ve en yüksek token logprobs değerine sahip olanı döndürür. decoder_input_details (`bool`, *isteğe bağlı*) : Dekoder giriş token logprobs ve kimliklerini döndürür. Bunun dikkate alınması için `details=True` değerinin de ayarlanması gerekir. Varsayılan değer `False`'tür. do_sample (`bool`, *isteğe bağlı*) : logits örneklemeyi etkinleştirir frequency_penalty (`float`, *isteğe bağlı*) : -2.0 ile 2.0 arasında bir sayı. Pozitif değerler, yeni jetonları metinde o ana kadar görülen sıklıklarına göre cezalandırır ve modelin aynı satırı kelimesi kelimesine tekrar etme olasılığını azaltır. grammar ([TextGenerationInputGrammarType](/docs/huggingface_hub/main/tr/package_reference/inference_types#huggingface_hub.TextGenerationInputGrammarType), *isteğe bağlı*) : Dilbilgisi kısıtlamaları. JSONSchema veya bir regex olabilir. max_new_tokens (`int`, *isteğe bağlı*) : Üretilen jetonların maksimum sayısı. Varsayılan değer 100'dür. repetition_penalty (`float`, *isteğe bağlı*) : Tekrar cezası parametresi. 1.0 ceza uygulanmadığı anlamına gelir. Daha fazla ayrıntı için [bu makaleye](https://arxiv.org/pdf/1909.05858.pdf) bakın. return_full_text (`bool`, *isteğe bağlı*) : Üretilen metnin başına istemin eklenip eklenmeyeceğini belirtir seed (`int`, *isteğe bağlı*) : Rastgele örneklemleme tohumu stop (`list[str]`, *isteğe bağlı*) : `stop` üyelerinden biri üretilirse token üretimini durdurur. temperature (`float`, *isteğe bağlı*) : Logit dağılımını modüle etmek için kullanılan değer. top_n_tokens (`int`, *isteğe bağlı*) : Sadece örneklenen token yerine, her üretim adımında en olası `top_n_tokens` token hakkında bilgi döndürür. top_k (`int`, *isteğe bağlı`) : Top-k filtreleme için en yüksek olasılığa sahip kaç sözlük token'ının tutulacağı. top_p (`float`, *optional`) : If set to < 1, only the smallest set of most probable tokens with probabilities that add up to `top_p` or higher are kept for generation. truncate (`int`, *isteğe bağlı`) : Girdi token'larını verilen boyuta kısaltır. typical_p (`float`, *isteğe bağlı`) : Tipik Çözme kütlesi Daha fazla bilgi için [Doğal Dil Üretimi için Tipik Çözme](https://arxiv.org/abs/2202.00666) bölümüne bakın watermark (`bool`, *isteğe bağlı*) : [A Watermark for Large Language Models](https://arxiv.org/abs/2301.10226) ile filigran **Dönüş:** `Union[str, TextGenerationOutput, AsyncIterable[str], AsyncIterable[TextGenerationStreamOutput]]` Sunucudan döndürülen üretilen metin: - `stream=False` ve `details=False` ise, üretilen metin `str` olarak döndürülür (varsayılan) - `stream=True` ve `details=False` ise, üretilen metin `AsyncIterable[str]` olarak token token döndürülür - `stream=False` ve `details=True` ise, üretilen metin daha fazla ayrıntıyla birlikte [TextGenerationOutput](/docs/huggingface_hub/main/tr/package_reference/inference_types#huggingface_hub.TextGenerationOutput) olarak döndürülür - `details=True` ve `stream=True` ise, üretilen metin [TextGenerationStreamOutput](/docs/huggingface_hub/main/tr/package_reference/inference_types#huggingface_hub.TextGenerationStreamOutput) türünde bir iterable olarak token token döndürülür **Yükseltir:** ``ValidationError`` veya [InferenceTimeoutError](/docs/huggingface_hub/main/tr/package_reference/inference_client#huggingface_hub.InferenceTimeoutError) veya `HfHubHTTPError` - ``ValidationError`` -- Girdi değerleri geçerli değilse. Sunucuya HTTP çağrısı yapılmaz. - [InferenceTimeoutError](/docs/huggingface_hub/main/tr/package_reference/inference_client#huggingface_hub.InferenceTimeoutError) -- Model kullanılamıyorsa veya istek zaman aşımına uğrarsa. - `HfHubHTTPError` -- HTTP 503 dışında bir HTTP hata durum koduyla istek başarısız olursa. Bir istem verildiğinde, aşağıdaki metni üretin. > [!TIP] > Sohbet mesajlarından bir yanıt üretmek istiyorsanız [InferenceClient.chat_completion()](/docs/huggingface_hub/main/tr/package_reference/inference_client#huggingface_hub.InferenceClient.chat_completion) metodunu kullanmalısınız. Bu metot, tek bir metin istemi yerine bir mesaj listesi kabul eder ve sohbet şablonlamayı sizin için halleder. Örnek: ```py # Must be run in an async context >>> from huggingface_hub import AsyncInferenceClient >>> client = AsyncInferenceClient() # Case 1: generate text >>> await client.text_generation("The huggingface_hub library is ", max_new_tokens=12) '100% open source and built to be easy to use.' # Case 2: iterate over the generated tokens. Useful for large generation. >>> async for token in await client.text_generation("The huggingface_hub library is ", max_new_tokens=12, stream=True): ... print(token) 100 % open source and built to be easy to use . # Case 3: get more details about the generation process. >>> await client.text_generation("The huggingface_hub library is ", max_new_tokens=12, details=True) TextGenerationOutput( generated_text='100% open source and built to be easy to use.', details=TextGenerationDetails( finish_reason='length', generated_tokens=12, seed=None, prefill=[ TextGenerationPrefillOutputToken(id=487, text='The', logprob=None), TextGenerationPrefillOutputToken(id=53789, text=' hugging', logprob=-13.171875), (...) TextGenerationPrefillOutputToken(id=204, text=' ', logprob=-7.0390625) ], tokens=[ TokenElement(id=1425, text='100', logprob=-1.0175781, special=False), TokenElement(id=16, text='%', logprob=-0.0463562, special=False), (...) TokenElement(id=25, text='.', logprob=-0.5703125, special=False) ], best_of_sequences=None ) ) # Case 4: iterate over the generated tokens with more details. # Last object is more complete, containing the full generated text and the finish reason. >>> async for details in await client.text_generation("The huggingface_hub library is ", max_new_tokens=12, details=True, stream=True): ... print(details) ... TextGenerationStreamOutput(token=TokenElement(id=1425, text='100', logprob=-1.0175781, special=False), generated_text=None, details=None) TextGenerationStreamOutput(token=TokenElement(id=16, text='%', logprob=-0.0463562, special=False), generated_text=None, details=None) TextGenerationStreamOutput(token=TokenElement(id=1314, text=' open', logprob=-1.3359375, special=False), generated_text=None, details=None) TextGenerationStreamOutput(token=TokenElement(id=3178, text=' source', logprob=-0.28100586, special=False), generated_text=None, details=None) TextGenerationStreamOutput(token=TokenElement(id=273, text=' and', logprob=-0.5961914, special=False), generated_text=None, details=None) TextGenerationStreamOutput(token=TokenElement(id=3426, text=' built', logprob=-1.9423828, special=False), generated_text=None, details=None) TextGenerationStreamOutput(token=TokenElement(id=271, text=' to', logprob=-1.4121094, special=False), generated_text=None, details=None) TextGenerationStreamOutput(token=TokenElement(id=314, text=' be', logprob=-1.5224609, special=False), generated_text=None, details=None) TextGenerationStreamOutput(token=TokenElement(id=1833, text=' easy', logprob=-2.1132812, special=False), generated_text=None, details=None) TextGenerationStreamOutput(token=TokenElement(id=271, text=' to', logprob=-0.08520508, special=False), generated_text=None, details=None) TextGenerationStreamOutput(token=TokenElement(id=745, text=' use', logprob=-0.39453125, special=False), generated_text=None, details=None) TextGenerationStreamOutput(token=TokenElement( id=25, text='.', logprob=-0.5703125, special=False), generated_text='100% open source and built to be easy to use.', details=TextGenerationStreamOutputStreamDetails(finish_reason='length', generated_tokens=12, seed=None) ) # Case 5: generate constrained output using grammar >>> response = await client.text_generation( ... prompt="I saw a puppy a cat and a raccoon during my bike ride in the park", ... model="HuggingFaceH4/zephyr-orpo-141b-A35b-v0.1", ... max_new_tokens=100, ... repetition_penalty=1.3, ... grammar={ ... "type": "json", ... "value": { ... "properties": { ... "location": {"type": "string"}, ... "activity": {"type": "string"}, ... "animals_seen": {"type": "integer", "minimum": 1, "maximum": 5}, ... "animals": {"type": "array", "items": {"type": "string"}}, ... }, ... "required": ["location", "activity", "animals_seen", "animals"], ... }, ... }, ... ) >>> json.loads(response) { "activity": "bike riding", "animals": ["puppy", "cat", "raccoon"], "animals_seen": 3, "location": "park" } ``` #### text_to_image[[huggingface_hub.AsyncInferenceClient.text_to_image]] ```python text_to_image(prompt: str, negative_prompt: str | None = None, height: int | None = None, width: int | None = None, num_inference_steps: int | None = None, guidance_scale: float | None = None, model: str | None = None, scheduler: str | None = None, seed: int | None = None, extra_body: dict[str, typing.Any] | None = None) ``` [Kaynak](https://github.com/huggingface/huggingface_hub/blob/main/src/huggingface_hub/inference/_generated/_async_client.py#L2462) **Parametreler:** prompt (`str`) : Bir görüntü oluşturmak için kullanılacak istem. negative_prompt (`str`, *isteğe bağlı*) : Görsel üretimde dahil edilmemesi gerekenleri yönlendirmek için tek bir istem. height (`int`, *isteğe bağlı*) : Çıktı görüntüsünün piksel cinsinden yüksekliği width (`int`, *isteğe bağlı*) : Çıktı görüntüsünün piksel cinsinden genişliği num_inference_steps (`int`, *isteğe bağlı*) : Gürültü azaltma adım sayısı. Daha fazla gürültü azaltma adımı genellikle daha yavaş çıkarım pahasına daha yüksek kaliteli bir görüntüye yol açar. guidance_scale (`float`, *isteğe bağlı*) : Daha yüksek bir yönlendirme ölçeği değeri, modelin metin istemine yakın bağlantılı görseller üretmesini teşvik eder, ancak çok yüksek değerler doygunluk ve diğer artefaktlara neden olabilir. model (`str`, *isteğe bağlı*) : Çıkarım için kullanılacak model. Hugging Face Hub'da barındırılan bir model kimliği veya dağıtılmış bir Inference Endpoint URL'si olabilir. Belirtilmezse, varsayılan önerilen metinden görüntüye model kullanılır. Varsayılan olarak None'dır. scheduler (`str`, *isteğe bağlı*) : Zamanlayıcıyı, uyumlu bir zamanlayıcıyla değiştirir. seed (`int`, *isteğe bağlı*) : Rastgele sayı üreteci için tohum. extra_body (`dict[str, Any]`, *isteğe bağlı*) : Modeline iletilecek ek sağlayıcıya özgü parametreler. Desteklenen parametreler için sağlayıcının belgelerine başvurun. **Dönüş:** `Image` Oluşturulan görüntü. **Yükselen:** [InferenceTimeoutError](/docs/huggingface_hub/main/tr/package_reference/inference_client#huggingface_hub.InferenceTimeoutError) veya `HfHubHTTPError` - [InferenceTimeoutError](/docs/huggingface_hub/main/tr/package_reference/inference_client#huggingface_hub.InferenceTimeoutError) -- Model kullanılamıyorsa veya istek zaman aşımına uğrarsa. - `HfHubHTTPError` -- HTTP 503 dışında bir HTTP hata durum koduyla istek başarısız olursa. Belirtilen bir model kullanarak verilen bir metne dayalı olarak bir görüntü oluşturun. > [!WARNING] > Görsellerle çalışmak istiyorsanız `PIL` kurulu olmalıdır (`pip install Pillow`). > [!TIP] > `extra_body` argümanını kullanarak modele sağlayıcıya özgü parametreler iletebilirsiniz. Örnek: ```py # Must be run in an async context >>> from huggingface_hub import AsyncInferenceClient >>> client = AsyncInferenceClient() >>> image = await client.text_to_image("An astronaut riding a horse on the moon.") >>> image.save("astronaut.png") >>> image = await client.text_to_image( ... "An astronaut riding a horse on the moon.", ... negative_prompt="low resolution, blurry", ... model="stabilityai/stable-diffusion-2-1", ... ) >>> image.save("better_astronaut.png") ``` Doğrudan üçüncü taraf bir sağlayıcı kullanan örnek. Kullanım, fal.ai hesabınıza faturalandırılır. ```py >>> from huggingface_hub import InferenceClient >>> client = InferenceClient( ... provider="fal-ai", # Use fal.ai provider ... api_key="fal-ai-api-key", # Pass your fal.ai API key ... ) >>> image = client.text_to_image( ... "A majestic lion in a fantasy forest", ... model="black-forest-labs/FLUX.1-schnell", ... ) >>> image.save("lion.png") ``` Hugging Face Routing üzerinden üçüncü taraf bir sağlayıcı kullanan örnek. Kullanım, Hugging Face hesabınıza faturalandırılır. ```py >>> from huggingface_hub import InferenceClient >>> client = InferenceClient( ... provider="replicate", # Use replicate provider ... api_key="hf_...", # Pass your HF token ... ) >>> image = client.text_to_image( ... "An astronaut riding a horse on the moon.", ... model="black-forest-labs/FLUX.1-dev", ... ) >>> image.save("astronaut.png") ``` Ek parametrelerle Replicate sağlayıcısını kullanan örnek ```py >>> from huggingface_hub import InferenceClient >>> client = InferenceClient( ... provider="replicate", # Use replicate provider ... api_key="hf_...", # Pass your HF token ... ) >>> image = client.text_to_image( ... "An astronaut riding a horse on the moon.", ... model="black-forest-labs/FLUX.1-schnell", ... extra_body={"output_quality": 100}, ... ) >>> image.save("astronaut.png") ``` #### text_to_speech[[huggingface_hub.AsyncInferenceClient.text_to_speech]] ```python text_to_speech(text: str, model: str | None = None, do_sample: bool | None = None, early_stopping: typing.Union[bool, ForwardRef('TextToSpeechEarlyStoppingEnum'), NoneType] = None, epsilon_cutoff: float | None = None, eta_cutoff: float | None = None, max_length: int | None = None, max_new_tokens: int | None = None, min_length: int | None = None, min_new_tokens: int | None = None, num_beam_groups: int | None = None, num_beams: int | None = None, penalty_alpha: float | None = None, temperature: float | None = None, top_k: int | None = None, top_p: float | None = None, typical_p: float | None = None, use_cache: bool | None = None, extra_body: dict[str, typing.Any] | None = None) ``` [Kaynak](https://github.com/huggingface/huggingface_hub/blob/main/src/huggingface_hub/inference/_generated/_async_client.py#L2700) **Parametreler:** text (`str`) : Sentezlenecek metin. model (`str`, *isteğe bağlı*) : Çıkarım için kullanılacak model. Hugging Face Hub'da barındırılan bir model kimliği veya dağıtılmış bir Inference Endpoint URL'si olabilir. Belirtilmezse, varsayılan önerilen metin-ses modelinin kullanılacağı varsayılır. Varsayılan olarak None'dır. do_sample (`bool`, *isteğe bağlı*) : Yeni token üretirken açgözlü çözümleme yerine örneklemeyi kullanıp kullanmayacağı. early_stopping (`Union[bool, "TextToSpeechEarlyStoppingEnum"]`, *isteğe bağlı*) : Işın tabanlı yöntemler için durdurma koşulunu kontrol eder. epsilon_cutoff (`float`, *isteğe bağlı*) : 0 ile 1 arasında kesin bir float değere ayarlanırsa, yalnızca koşullu olasılığı epsilon_cutoff değerinden büyük olan token'lar örneklenir. Makalede, modelin boyutuna bağlı olarak önerilen değerler 3e-4 ile 9e-4 arasında değişmektedir. Daha fazla ayrıntı için [Truncation Sampling as Language Model Desmoothing](https://hf.co/papers/2210.15191) başlıklı makaleye bakın. eta_cutoff (`float`, *isteğe bağlı*) : Eta örneklemesi, yerel tipik örneklemesi ve epsilon örneklemesinin bir hibrididir. 0 ile 1 arasında katı bir float değere ayarlanırsa, bir token yalnızca eta_cutoff veya sqrt(eta_cutoff) * exp(-entropy(softmax(next_token_logits))) değerlerinden birinden büyükse dikkate alınır. Son terim, sezgisel olarak, sqrt(eta_cutoff) ile ölçeklendirilmiş beklenen sonraki token olasılığıdır. Makalede, modelin boyutuna bağlı olarak önerilen değerler 3e-4 ile 2e-3 arasında değişmektedir. Daha fazla ayrıntı için [Truncation Sampling as Language Model Desmoothing](https://hf.co/papers/2210.15191) makalesine bakın. max_length (`int`, *isteğe bağlı*) : Girdi dahil olmak üzere, üretilen metnin maksimum uzunluğu (token cinsinden). max_new_tokens (`int`, *isteğe bağlı*) : Üretilecek maksimum token sayısı. max_length parametresine öncelik verir. min_length (`int`, *isteğe bağlı*) : Girdi dahil olmak üzere, üretilen metnin minimum uzunluğu (token cinsinden). min_new_tokens (`int`, *isteğe bağlı*) : Üretilecek en az token sayısı. min_length parametresine göre önceliklidir. num_beam_groups (`int`, *isteğe bağlı*) : Farklı beam grupları arasında çeşitliliği sağlamak için num_beams'in bölüneceği grup sayısı. Daha fazla ayrıntı için [bu makaleye](https://hf.co/papers/1610.02424) bakın. num_beams (`int`, *isteğe bağlı*) : Beam search için kullanılacak beam sayısı. penalty_alpha (`float`, *isteğe bağlı*) : Bu değer, kontrastif arama çözümlemede model güvenini ve dejenerasyon cezasını dengelemek için kullanılır. temperature (`float`, *isteğe bağlı*) : Bir sonraki token olasılıklarını modüle etmek için kullanılan değer. top_k (`int`, *isteğe bağlı*) : top-k filtreleme için en yüksek olasılığa sahip en fazla kaç sözlük token'ının tutulacağını belirler. top_p (`float`, *isteğe bağlı*) : float < 1 olarak ayarlanırsa, üretim için yalnızca olasılıkları top_p veya daha yüksek bir değere eşitlenen en küçük en olası token kümesi korunur. typical_p (`float`, *isteğe bağlı*) : Local typicality, üretilen kısmi metin verildiğinde, bir sonraki hedef token'ı tahmin etmenin koşullu olasılığının, bir sonraki rastgele bir token'ı tahmin etmenin beklenen koşullu olasılığına ne kadar benzer olduğunu ölçer. float < 1 olarak ayarlanırsa, olasılıkları typical_p veya daha yüksek bir toplamda birleşen en küçük yerel tipik token kümesi üretim için korunur. Daha fazla ayrıntı için [bu makaleye](https://hf.co/papers/2202.00666) bakın. use_cache (`bool`, *isteğe bağlı*) : Modelin, çözümleme hızını artırmak için geçmiş son anahtar/değer dikkatlerini kullanıp kullanmaması extra_body (`dict[str, Any]`, *isteğe bağlı*) : Modeline iletilecek ek sağlayıcıya özgü parametreler. Desteklenen parametreler için sağlayıcının belgelerine başvurun. **Dönüş:** `bytes` Oluşturulan ses. **Yükselen:** [InferenceTimeoutError](/docs/huggingface_hub/main/tr/package_reference/inference_client#huggingface_hub.InferenceTimeoutError) veya `HfHubHTTPError` - [InferenceTimeoutError](/docs/huggingface_hub/main/tr/package_reference/inference_client#huggingface_hub.InferenceTimeoutError) -- Model kullanılamıyorsa veya istek zaman aşımına uğrarsa. - `HfHubHTTPError` -- HTTP 503 dışında bir HTTP hata durum koduyla istek başarısız olursa. Belirtilen bir metni seslendiren bir sesin ses kaydını sentezleyin. > [!TIP] > `extra_body` argümanını kullanarak modele sağlayıcıya özgü parametreler iletebilirsiniz. Örnek: ```py # Must be run in an async context >>> from pathlib import Path >>> from huggingface_hub import AsyncInferenceClient >>> client = AsyncInferenceClient() >>> audio = await client.text_to_speech("Hello world") >>> Path("hello_world.flac").write_bytes(audio) ``` Üçüncü taraf bir sağlayıcıyı doğrudan kullanan örnek. Kullanım, Replicate hesabınıza faturalandırılır. ```py >>> from huggingface_hub import InferenceClient >>> client = InferenceClient( ... provider="replicate", ... api_key="your-replicate-api-key", # Pass your Replicate API key directly ... ) >>> audio = client.text_to_speech( ... text="Hello world", ... model="OuteAI/OuteTTS-0.3-500M", ... ) >>> Path("hello_world.flac").write_bytes(audio) ``` Hugging Face Routing üzerinden üçüncü taraf bir sağlayıcı kullanan örnek. Kullanım, Hugging Face hesabınıza faturalandırılır. ```py >>> from huggingface_hub import InferenceClient >>> client = InferenceClient( ... provider="replicate", ... api_key="hf_...", # Pass your HF token ... ) >>> audio =client.text_to_speech( ... text="Hello world", ... model="OuteAI/OuteTTS-0.3-500M", ... ) >>> Path("hello_world.flac").write_bytes(audio) ``` Ek parametrelerle Replicate sağlayıcısını kullanan örnek ```py >>> from huggingface_hub import InferenceClient >>> client = InferenceClient( ... provider="replicate", # Use replicate provider ... api_key="hf_...", # Pass your HF token ... ) >>> audio = client.text_to_speech( ... "Hello, my name is Kororo, an awesome text-to-speech model.", ... model="hexgrad/Kokoro-82M", ... extra_body={"voice": "af_nicole"}, ... ) >>> Path("hello.flac").write_bytes(audio) ``` fal.ai üzerinde "YuE-s1-7B-anneal-en-cot" ile örnek müzik üretimi ```py >>> from huggingface_hub import InferenceClient >>> lyrics = ''' ... [verse] ... In the town where I was born ... Lived a man who sailed to sea ... And he told us of his life ... In the land of submarines ... So we sailed on to the sun ... 'Til we found a sea of green ... And we lived beneath the waves ... In our yellow submarine ... [chorus] ... We all live in a yellow submarine ... Yellow submarine, yellow submarine ... We all live in a yellow submarine ... Yellow submarine, yellow submarine ... ''' >>> genres = "pavarotti-style tenor voice" >>> client = InferenceClient( ... provider="fal-ai", ... model="m-a-p/YuE-s1-7B-anneal-en-cot", ... api_key=..., ... ) >>> audio = client.text_to_speech(lyrics, extra_body={"genres": genres}) >>> with open("output.mp3", "wb") as f: ... f.write(audio) ``` #### text_to_video[[huggingface_hub.AsyncInferenceClient.text_to_video]] ```python text_to_video(prompt: str, model: str | None = None, guidance_scale: float | None = None, negative_prompt: list[str] | None = None, num_frames: float | None = None, num_inference_steps: int | None = None, seed: int | None = None, extra_body: dict[str, typing.Any] | None = None) ``` [Kaynak](https://github.com/huggingface/huggingface_hub/blob/main/src/huggingface_hub/inference/_generated/_async_client.py#L2603) **Parametreler:** prompt (`str`) : Bir video oluşturmak için kullanılacak istem. model (`str`, *isteğe bağlı*) : Çıkarım için kullanılacak model. Hugging Face Hub'da barındırılan bir model kimliği veya dağıtılmış bir Inference Endpoint URL'si olabilir. Belirtilmezse, varsayılan önerilen metinden videoya model kullanılır. Varsayılan olarak None'dır. guidance_scale (`float`, *isteğe bağlı*) : Daha yüksek bir yönlendirme ölçeği değeri, modelin metin istemine yakın bağlantılı videolar üretmesini teşvik eder, ancak çok yüksek değerler doygunluk ve diğer artefaktlara neden olabilir. negative_prompt (`list[str]`, *isteğe bağlı*) : Video üretiminde dahil edilmemesi gerekenleri yönlendirmek için bir veya birden fazla istem. num_frames (`float`, *isteğe bağlı*) : num_frames parametresi, kaç video karesinin oluşturulacağını belirler. num_inference_steps (`int`, *isteğe bağlı*) : Gürültü azaltma adım sayısı. Daha fazla gürültü azaltma adımı genellikle daha yavaş çıkarım pahasına daha yüksek kaliteli bir videoya yol açar. seed (`int`, *isteğe bağlı*) : Rastgele sayı üreteci için tohum. extra_body (`dict[str, Any]`, *isteğe bağlı*) : Modeline iletilecek ek sağlayıcıya özgü parametreler. Desteklenen parametreler için sağlayıcının belgelerine başvurun. **Dönüş:** `bytes` Oluşturulan video. Verilen bir metne dayalı olarak bir video oluşturun. > [!TIP] > `extra_body` argümanını kullanarak modele sağlayıcıya özgü parametreler iletebilirsiniz. Örnek: Doğrudan üçüncü taraf bir sağlayıcı kullanan örnek. Kullanım, fal.ai hesabınıza faturalandırılır. ```py >>> from huggingface_hub import InferenceClient >>> client = InferenceClient( ... provider="fal-ai", # Using fal.ai provider ... api_key="fal-ai-api-key", # Pass your fal.ai API key ... ) >>> video = client.text_to_video( ... "A majestic lion running in a fantasy forest", ... model="tencent/HunyuanVideo", ... ) >>> with open("lion.mp4", "wb") as file: ... file.write(video) ``` Hugging Face Routing üzerinden üçüncü taraf bir sağlayıcı kullanan örnek. Kullanım, Hugging Face hesabınıza faturalandırılır. ```py >>> from huggingface_hub import InferenceClient >>> client = InferenceClient( ... provider="replicate", # Using replicate provider ... api_key="hf_...", # Pass your HF token ... ) >>> video = client.text_to_video( ... "A cat running in a park", ... model="genmo/mochi-1-preview", ... ) >>> with open("cat.mp4", "wb") as file: ... file.write(video) ``` #### token_classification[[huggingface_hub.AsyncInferenceClient.token_classification]] ```python token_classification(text: str, model: str | None = None, aggregation_strategy: typing.Optional[ForwardRef('TokenClassificationAggregationStrategy')] = None, ignore_labels: list[str] | None = None, stride: int | None = None) ``` [Kaynak](https://github.com/huggingface/huggingface_hub/blob/main/src/huggingface_hub/inference/_generated/_async_client.py#L2909) **Parametreler:** text (`str`) : Sınıflandırılacak bir dize. model (`str`, *isteğe bağlı*) : Token sınıflandırma görevi için kullanılacak model. Hugging Face Hub'da barındırılan bir model kimliği veya dağıtılmış bir Inference Endpoint'in URL'si olabilir. Belirtilmezse, varsayılan önerilen token sınıflandırma modeli kullanılır. Varsayılan olarak None'dır. aggregation_strategy (`"TokenClassificationAggregationStrategy"`, *isteğe bağlı*) : Model tahminlerine dayanarak tokenları birleştirmek için kullanılan strateji ignore_labels (`list[str`, *opsiyonel*) : Yoksayılacak etiketlerin listesi stride (`int`, *isteğe bağlı*) : Girdi metnini bölme sırasında parçalar arasındaki örtüşen jeton sayısı. **Dönüş:** `list[TokenClassificationOutputElement]` Varlık grubu, güven skoru, kelime, başlangıç ve bitiş indeksini içeren [TokenClassificationOutputElement](/docs/huggingface_hub/main/tr/package_reference/inference_types#huggingface_hub.TokenClassificationOutputElement) öğelerinin listesi. **Yükselen:** [InferenceTimeoutError](/docs/huggingface_hub/main/tr/package_reference/inference_client#huggingface_hub.InferenceTimeoutError) veya `HfHubHTTPError` - [InferenceTimeoutError](/docs/huggingface_hub/main/tr/package_reference/inference_client#huggingface_hub.InferenceTimeoutError) -- Model kullanılamıyorsa veya istek zaman aşımına uğrarsa. - `HfHubHTTPError` -- HTTP 503 dışında bir HTTP hata durum koduyla istek başarısız olursa. Verilen metin üzerinde token sınıflandırması gerçekleştirin. Genellikle cümle ayrıştırma için kullanılır; bu ayrıştırma dilbilgisel olabilir ya da metin içindeki anahtar kelimeleri anlamak için Adlandırılmış Varlık Tanıma (NER) olabilir. Örnek: ```py # Must be run in an async context >>> from huggingface_hub import AsyncInferenceClient >>> client = AsyncInferenceClient() >>> await client.token_classification("My name is Sarah Jessica Parker but you can call me Jessica") [ TokenClassificationOutputElement( entity_group='PER', score=0.9971321225166321, word='Sarah Jessica Parker', start=11, end=31, ), TokenClassificationOutputElement( entity_group='PER', score=0.9773476123809814, word='Jessica', start=52, end=59, ) ] ``` #### çeviri[[huggingface_hub.AsyncInferenceClient.translation]] ```python translation(text: str, model: str | None = None, src_lang: str | None = None, tgt_lang: str | None = None, clean_up_tokenization_spaces: bool | None = None, truncation: typing.Optional[ForwardRef('TranslationTruncationStrategy')] = None, generate_parameters: dict[str, typing.Any] | None = None) ``` [Kaynak](https://github.com/huggingface/huggingface_hub/blob/main/src/huggingface_hub/inference/_generated/_async_client.py#L2985) **Parametreler:** text (`str`) : Çevrilecek bir dize. model (`str`, *isteğe bağlı*) : Çeviri görevi için kullanılacak model. Hugging Face Hub'da barındırılan bir model kimliği veya dağıtılmış bir Inference Endpoint'in URL'si olabilir. Belirtilmezse, varsayılan önerilen çeviri modeli kullanılır. Varsayılan olarak None'dır. src_lang (`str`, *isteğe bağlı*) : Metnin kaynak dili. Birden fazla dilden çeviri yapabilen modeller için zorunludur. tgt_lang (`str`, *isteğe bağlı*) : Çevrilecek hedef dil. Birden fazla dile çevirebilen modeller için zorunludur. clean_up_tokenization_spaces (`bool`, *isteğe bağlı*) : Metin çıktısındaki olası ek boşlukların temizlenip temizlenmeyeceğini belirtir. truncation (`"TranslationTruncationStrategy"`, *isteğe bağlı*) : Kullanılacak kesme stratejisi. generate_parameters (`dict[str, Any]`, *isteğe bağlı*) : Metin üretim algoritmasının ek parametrelemesi. **Dönüş:** [TranslationOutput](/docs/huggingface_hub/main/tr/package_reference/inference_types#huggingface_hub.TranslationOutput) Oluşturulan çevrilmiş metin. **Yükselen:** [InferenceTimeoutError](/docs/huggingface_hub/main/tr/package_reference/inference_client#huggingface_hub.InferenceTimeoutError) veya `HfHubHTTPError` veya ``ValueError`` - [InferenceTimeoutError](/docs/huggingface_hub/main/tr/package_reference/inference_client#huggingface_hub.InferenceTimeoutError) -- Model kullanılamıyorsa veya istek zaman aşımına uğrarsa. - `HfHubHTTPError` -- HTTP 503 dışında bir HTTP hata durum koduyla istek başarısız olursa. - ``ValueError`` -- `src_lang` ve `tgt_lang` argümanlarından yalnızca biri sağlanırsa. Metni bir dilden diğerine çevirin. Belirli kullanım durumunuz için en iyi modeli seçmenin nasıl yapılacağına dair daha fazla bilgi için https://huggingface.co/tasks/translation adresine göz atın. Kaynak ve hedef diller genellikle modele bağlıdır. Ancak, belirli modeller için kaynak ve hedef dilleri belirtmek mümkündür. Bu modellerden biriyle çalışıyorsanız, ilgili bilgileri iletmek için `src_lang` ve `tgt_lang` argümanlarını kullanabilirsiniz. Örnek: ```py # Must be run in an async context >>> from huggingface_hub import AsyncInferenceClient >>> client = AsyncInferenceClient() >>> await client.translation("My name is Wolfgang and I live in Berlin") 'Mein Name ist Wolfgang und ich lebe in Berlin.' >>> await client.translation("My name is Wolfgang and I live in Berlin", model="Helsinki-NLP/opus-mt-en-fr") TranslationOutput(translation_text='Je m'appelle Wolfgang et je vis à Berlin.') ``` Dillerin belirtilmesi: ```py >>> client.translation("My name is Sarah Jessica Parker but you can call me Jessica", model="facebook/mbart-large-50-many-to-many-mmt", src_lang="en_XX", tgt_lang="fr_XX") "Mon nom est Sarah Jessica Parker mais vous pouvez m'appeler Jessica" ``` #### visual_question_answering[[huggingface_hub.AsyncInferenceClient.visual_question_answering]] ```python visual_question_answering(image: typing.Union[bytes, typing.BinaryIO, str, pathlib.Path, ForwardRef('Image'), bytearray, memoryview], question: str, model: str | None = None, top_k: int | None = None) ``` [Kaynak](https://github.com/huggingface/huggingface_hub/blob/main/src/huggingface_hub/inference/_generated/_async_client.py#L3075) **Parametreler:** image (`Union[str, Path, bytes, BinaryIO, PIL.Image.Image]`) : Bağlam için girdi görüntüsü. Ham baytlar, bir görüntü dosyası, çevrimiçi bir görüntünün URL'si veya bir PIL Image olabilir. question (`str`) : Yanıtlanması gereken soru. model (`str`, *isteğe bağlı*) : Görsel soru cevaplandırma görevi için kullanılacak model. Hugging Face Hub'da barındırılan bir model kimliği veya dağıtılmış bir Inference Endpoint URL'si olabilir. Sağlanmazsa, varsayılan önerilen görsel soru cevaplandırma modeli kullanılır. Varsayılan olarak None'dır. top_k (`int`, *isteğe bağlı*) : Döndürülecek cevap sayısı (olasılık sırasına göre seçilecektir). Bağlamda yeterli seçenek yoksa, topk'dan daha az cevap döndürüldüğünü unutmayın. **Dönüş:** `list[VisualQuestionAnsweringOutputElement]` tahmini etiketi ve ilişkili olasılığı içeren [VisualQuestionAnsweringOutputElement](/docs/huggingface_hub/main/tr/package_reference/inference_types#huggingface_hub.VisualQuestionAnsweringOutputElement) öğelerinin bir listesi. **Yükselen:** ``InferenceTimeoutError`` veya `HfHubHTTPError` - ``InferenceTimeoutError`` -- Model kullanılamıyorsa veya istek zaman aşımına uğrarsa. - `HfHubHTTPError` -- HTTP 503 dışında bir HTTP hata durum koduyla istek başarısız olursa. Bir görsel temelinde açık uçlu soruları yanıtlama. Örnek: ```py # Must be run in an async context >>> from huggingface_hub import AsyncInferenceClient >>> client = AsyncInferenceClient() >>> await client.visual_question_answering( ... image="https://huggingface.co/datasets/mishig/sample_images/resolve/main/tiger.jpg", ... question="What is the animal doing?" ... ) [ VisualQuestionAnsweringOutputElement(score=0.778609573841095, answer='laying down'), VisualQuestionAnsweringOutputElement(score=0.6957435607910156, answer='sitting'), ] ``` #### zero_shot_classification[[huggingface_hub.AsyncInferenceClient.zero_shot_classification]] ```python zero_shot_classification(text: str, candidate_labels: list, multi_label: bool | None = False, hypothesis_template: str | None = None, model: str | None = None) ``` [Kaynak](https://github.com/huggingface/huggingface_hub/blob/main/src/huggingface_hub/inference/_generated/_async_client.py#L3135) **Parametreler:** text (`str`) : Sınıflandırılacak girdi metni. candidate_labels (`list[str]`) : Metnin sınıflandırılacağı olası sınıf etiketleri kümesi. multi_label (`bool`, *isteğe bağlı*) : Birden fazla aday etiketin doğru olup olamayacağı. False ise, her dizi için etiket olasılıklarının toplamı 1 olacak şekilde puanlar normalize edilir. True ise, etiketler bağımsız kabul edilir ve olasılıklar her aday için normalize edilir. hypothesis_template (`str`, *isteğe bağlı*) : `candidate_labels` ile birlikte, yer tutucuyu aday etiketlerle değiştirerek metin sınıflandırmasını denemek için kullanılan cümle. model (`str`, *isteğe bağlı*) : Çıkarım için kullanılacak model. Hugging Face Hub'da barındırılan bir model kimliği veya dağıtılmış bir Inference Endpoint URL'si olabilir. Bu parametre, örnek düzeyinde tanımlanan modeli geçersiz kılar. Sağlanmazsa, varsayılan önerilen sıfır atıflı sınıflandırma modeli kullanılır. **Dönüş:** `list[ZeroShotClassificationOutputElement]` Tahmin edilen etiketleri ve bunların güven düzeylerini içeren [ZeroShotClassificationOutputElement](/docs/huggingface_hub/main/tr/package_reference/inference_types#huggingface_hub.ZeroShotClassificationOutputElement) öğelerinin listesi. **Yükselen:** [InferenceTimeoutError](/docs/huggingface_hub/main/tr/package_reference/inference_client#huggingface_hub.InferenceTimeoutError) veya `HfHubHTTPError` - [InferenceTimeoutError](/docs/huggingface_hub/main/tr/package_reference/inference_client#huggingface_hub.InferenceTimeoutError) -- Model kullanılamıyorsa veya istek zaman aşımına uğrarsa. - `HfHubHTTPError` -- HTTP 503 dışında bir HTTP hata durum koduyla istek başarısız olursa. Girdi olarak, girdi metnini sınıflandırmak için bir metin ve aday etiketler kümesi sağlayın. `multi_label=False` ile örnek: ```py # Must be run in an async context >>> from huggingface_hub import AsyncInferenceClient >>> client = AsyncInferenceClient() >>> text = ( ... "A new model offers an explanation for how the Galilean satellites formed around the solar system's" ... "largest world. Konstantin Batygin did not set out to solve one of the solar system's most puzzling" ... " mysteries when he went for a run up a hill in Nice, France." ... ) >>> labels = ["space & cosmos", "scientific discovery", "microbiology", "robots", "archeology"] >>> await client.zero_shot_classification(text, labels) [ ZeroShotClassificationOutputElement(label='scientific discovery', score=0.7961668968200684), ZeroShotClassificationOutputElement(label='space & cosmos', score=0.18570658564567566), ZeroShotClassificationOutputElement(label='microbiology', score=0.00730885099619627), ZeroShotClassificationOutputElement(label='archeology', score=0.006258360575884581), ZeroShotClassificationOutputElement(label='robots', score=0.004559356719255447), ] >>> await client.zero_shot_classification(text, labels, multi_label=True) [ ZeroShotClassificationOutputElement(label='scientific discovery', score=0.9829297661781311), ZeroShotClassificationOutputElement(label='space & cosmos', score=0.755190908908844), ZeroShotClassificationOutputElement(label='microbiology', score=0.0005462635890580714), ZeroShotClassificationOutputElement(label='archeology', score=0.00047131875180639327), ZeroShotClassificationOutputElement(label='robots', score=0.00030448526376858354), ] ``` `multi_label=True` ve özel bir `hypothesis_template` ile örnek: ```py # Must be run in an async context >>> from huggingface_hub import AsyncInferenceClient >>> client = AsyncInferenceClient() >>> await client.zero_shot_classification( ... text="I really like our dinner and I'm very happy. I don't like the weather though.", ... candidate_labels=["positive", "negative", "pessimistic", "optimistic"], ... multi_label=True, ... hypothesis_template="This text is {} towards the weather" ... ) [ ZeroShotClassificationOutputElement(label='negative', score=0.9231801629066467), ZeroShotClassificationOutputElement(label='pessimistic', score=0.8760990500450134), ZeroShotClassificationOutputElement(label='optimistic', score=0.0008674879791215062), ZeroShotClassificationOutputElement(label='positive', score=0.0005250611575320363) ] ``` #### zero_shot_image_classification[[huggingface_hub.AsyncInferenceClient.zero_shot_image_classification]] ```python zero_shot_image_classification(image: typing.Union[bytes, typing.BinaryIO, str, pathlib.Path, ForwardRef('Image'), bytearray, memoryview], candidate_labels: list, model: str | None = None, hypothesis_template: str | None = None) ``` [Kaynak](https://github.com/huggingface/huggingface_hub/blob/main/src/huggingface_hub/inference/_generated/_async_client.py#L3238) **Parametreler:** image (`Union[str, Path, bytes, BinaryIO, PIL.Image.Image]`) : Başlıklandırılacak girdi görüntüsü. Ham baytlar, bir görüntü dosyası, çevrimiçi bir görüntüye giden bir URL veya bir PIL Image olabilir. candidate_labels (`list[str]`) : Bu görüntü için aday etiketler model (`str`, *isteğe bağlı*) : Çıkarım için kullanılacak model. Hugging Face Hub'da barındırılan bir model kimliği veya dağıtılmış bir Inference Endpoint URL'si olabilir. Bu parametre, örnek düzeyinde tanımlanan modeli geçersiz kılar. Sağlanmazsa, varsayılan önerilen sıfır atışlı (zero-shot) görüntü sınıflandırma modeli kullanılır. hypothesis_template (`str`, *isteğe bağlı*) : `candidate_labels` ile birlikte, yer tutucuyu aday etiketlerle değiştirerek görüntü sınıflandırmasını denemek için kullanılan cümle. **Dönüş:** `list[ZeroShotImageClassificationOutputElement]` Tahmin edilen etiketleri ve bunların güven düzeylerini içeren [ZeroShotImageClassificationOutputElement](/docs/huggingface_hub/main/tr/package_reference/inference_types#huggingface_hub.ZeroShotImageClassificationOutputElement) öğelerinin listesi. **Yükselen:** [InferenceTimeoutError](/docs/huggingface_hub/main/tr/package_reference/inference_client#huggingface_hub.InferenceTimeoutError) veya `HfHubHTTPError` - [InferenceTimeoutError](/docs/huggingface_hub/main/tr/package_reference/inference_client#huggingface_hub.InferenceTimeoutError) -- Model kullanılamıyorsa veya istek zaman aşımına uğrarsa. - `HfHubHTTPError` -- HTTP 503 dışında bir HTTP hata durum koduyla istek başarısız olursa. Görsel için metin etiketlerini tahmin etmek üzere giriş görseli ve metin etiketlerini sağlayın. Örnek: ```py # Must be run in an async context >>> from huggingface_hub import AsyncInferenceClient >>> client = AsyncInferenceClient() >>> await client.zero_shot_image_classification( ... "https://upload.wikimedia.org/wikipedia/commons/thumb/4/43/Cute_dog.jpg/320px-Cute_dog.jpg", ... candidate_labels=["dog", "cat", "horse"], ... ) [ZeroShotImageClassificationOutputElement(label='dog', score=0.956),...] ``` ## InferenceTimeoutError[[huggingface_hub.InferenceTimeoutError]] #### huggingface_hub.InferenceTimeoutError[[huggingface_hub.InferenceTimeoutError]] ```python huggingface_hub.InferenceTimeoutError(message: str) ``` [Kaynak](https://github.com/huggingface/huggingface_hub/blob/main/src/huggingface_hub/errors.py#L155) Bir model kullanılamadığında veya istek zaman aşımına uğradığında oluşturulan hata.