# Puntos de inferencia

Inference Endpoints ofrece una solución de producción segura para desplegar modelos fácilmente en una infraestructura dedicada y con escalado automático gestionada por Hugging Face. Un Inference Endpoint se crea a partir de un modelo del [Hub](https://huggingface.co/models). Esta página es una referencia para la integración de `huggingface_hub` con Inference Endpoints. Para obtener más información sobre el producto Inference Endpoints, consulta su [documentación oficial](https://huggingface.co/docs/inference-endpoints/index).

> [!TIP]
> Consulta la [guía relacionada](../guides/inference_endpoints) para aprender a usar `huggingface_hub` para gestionar tus Inference Endpoints de forma programática.

Los Inference Endpoints pueden gestionarse por completo mediante la API. Los endpoints están documentados con [Swagger](https://api.endpoints.huggingface.cloud/). La clase [InferenceEndpoint](/docs/huggingface_hub/v2.4.0/es/package_reference/inference_endpoints#huggingface_hub.InferenceEndpoint) es un envoltorio simple construido sobre esta API.

## Métodos

Un subconjunto de las funciones de Inference Endpoint se implementa en [HfApi](/docs/huggingface_hub/v2.4.0/es/package_reference/hf_api#huggingface_hub.HfApi):

- [get_inference_endpoint()](/docs/huggingface_hub/v2.4.0/es/package_reference/hf_api#huggingface_hub.HfApi.get_inference_endpoint) y [list_inference_endpoints()](/docs/huggingface_hub/v2.4.0/es/package_reference/hf_api#huggingface_hub.HfApi.list_inference_endpoints) para obtener información sobre tus Inference Endpoints
- [list_inference_endpoints_hardware()](/docs/huggingface_hub/v2.4.0/es/package_reference/hf_api#huggingface_hub.HfApi.list_inference_endpoints_hardware) para listar el hardware en el que puedes desplegar un Inference Endpoint
- [create_inference_endpoint()](/docs/huggingface_hub/v2.4.0/es/package_reference/hf_api#huggingface_hub.HfApi.create_inference_endpoint), [update_inference_endpoint()](/docs/huggingface_hub/v2.4.0/es/package_reference/hf_api#huggingface_hub.HfApi.update_inference_endpoint) y [delete_inference_endpoint()](/docs/huggingface_hub/v2.4.0/es/package_reference/hf_api#huggingface_hub.HfApi.delete_inference_endpoint) para desplegar y gestionar Inference Endpoints
- [list_inference_catalog()](/docs/huggingface_hub/v2.4.0/es/package_reference/hf_api#huggingface_hub.HfApi.list_inference_catalog) y [create_inference_endpoint_from_catalog()](/docs/huggingface_hub/v2.4.0/es/package_reference/hf_api#huggingface_hub.HfApi.create_inference_endpoint_from_catalog) para explorar y desplegar el Catálogo de Modelos curado
- [pause_inference_endpoint()](/docs/huggingface_hub/v2.4.0/es/package_reference/hf_api#huggingface_hub.HfApi.pause_inference_endpoint) y [resume_inference_endpoint()](/docs/huggingface_hub/v2.4.0/es/package_reference/hf_api#huggingface_hub.HfApi.resume_inference_endpoint) para pausar y reanudar un Inference Endpoint
- [scale_to_zero_inference_endpoint()](/docs/huggingface_hub/v2.4.0/es/package_reference/hf_api#huggingface_hub.HfApi.scale_to_zero_inference_endpoint) para escalar manualmente un Endpoint a 0 réplicas

## InferenceEndpoint[[huggingface_hub.InferenceEndpoint]]

La dataclass principal es [InferenceEndpoint](/docs/huggingface_hub/v2.4.0/es/package_reference/inference_endpoints#huggingface_hub.InferenceEndpoint). Contiene información sobre un `InferenceEndpoint` desplegado, incluida su configuración y su estado actual. Una vez desplegado, puede ejecutar inferencia en el Endpoint utilizando las propiedades [InferenceEndpoint.client](/docs/huggingface_hub/v2.4.0/es/package_reference/inference_endpoints#huggingface_hub.InferenceEndpoint.client) y [InferenceEndpoint.async_client](/docs/huggingface_hub/v2.4.0/es/package_reference/inference_endpoints#huggingface_hub.InferenceEndpoint.async_client), que devuelven respectivamente un objeto [InferenceClient](/docs/huggingface_hub/v2.4.0/es/package_reference/inference_client#huggingface_hub.InferenceClient) y un objeto [AsyncInferenceClient](/docs/huggingface_hub/v2.4.0/es/package_reference/inference_client#huggingface_hub.AsyncInferenceClient).

#### huggingface_hub.InferenceEndpoint[[huggingface_hub.InferenceEndpoint]]

```python
huggingface_hub.InferenceEndpoint(namespace: str, raw: dict, _token: str | bool | None, _api: HfApi)
```

[Fuente](https://github.com/huggingface/huggingface_hub/blob/v2.4.0/src/huggingface_hub/_inference_endpoints.py#L116)

**Parámetros:**

name (`str`) : El nombre único del Inference Endpoint.

namespace (`str`) : El espacio de nombres donde se encuentra el Inference Endpoint.

repository (`str`) : El nombre del repositorio de modelos desplegado en este Inference Endpoint.

status ([InferenceEndpointStatus](/docs/huggingface_hub/v2.4.0/es/package_reference/inference_endpoints#huggingface_hub.InferenceEndpointStatus)) : El estado actual del punto de inferencia.

url (`str`, *opcional*) : La URL del Inference Endpoint, si está disponible. Solo un Inference Endpoint desplegado tendrá una URL.

framework (`str`) : El marco de aprendizaje automático utilizado para el modelo.

revision (`str`) : La revisión específica del modelo desplegada en el Inference Endpoint.

task (`str`) : La tarea asociada con el modelo desplegado.

created_at (`datetime.datetime`) : La marca de tiempo en la que se creó el Inference Endpoint.

updated_at (`datetime.datetime`) : La marca de tiempo de la última actualización del Inference Endpoint.

type ([InferenceEndpointType](/docs/huggingface_hub/v2.4.0/es/package_reference/inference_endpoints#huggingface_hub.InferenceEndpointType)) : El tipo del punto de inferencia (público, autenticado, privado).

raw (`dict`) : Los datos de diccionario en bruto devueltos por la API.

token (`str` o `bool`, *opcional*) : Token de autenticación para el Inference Endpoint, si se establece al solicitar la API. Si no se proporciona, se usará el token guardado localmente. Pasa `token=False` si no deseas enviar tu token al servidor.

Contiene información sobre un Inference Endpoint desplegado.

Ejemplo:
```python
>>> from huggingface_hub import get_inference_endpoint
>>> endpoint = get_inference_endpoint("my-text-to-image")
>>> endpoint
InferenceEndpoint(name='my-text-to-image', ...)

# Get status
>>> endpoint.status
'running'
>>> endpoint.url
'https://68a0f3b5c6ee5c9dcc0e0a01.endpoints.huggingface.cloud'

# Run inference
>>> endpoint.client.text_to_image(...)

# Pause endpoint to save $$$
>>> endpoint.pause()

# ...
# Resume and wait for deployment
>>> endpoint.resume()
>>> endpoint.wait()
>>> endpoint.client.text_to_image(...)
```

#### from_raw[[huggingface_hub.InferenceEndpoint.from_raw]]

```python
from_raw(raw: dict, namespace: str, token: str | bool | None = None, api: typing.Optional[ForwardRef('HfApi')] = None)
```

[Fuente](https://github.com/huggingface/huggingface_hub/blob/v2.4.0/src/huggingface_hub/_inference_endpoints.py#L199)

Inicializar objeto desde un diccionario en bruto.

#### client[[huggingface_hub.InferenceEndpoint.client]]

```python
client()
```

[Fuente](https://github.com/huggingface/huggingface_hub/blob/v2.4.0/src/huggingface_hub/_inference_endpoints.py#L220)

**Devuelve:** [InferenceClient](/docs/huggingface_hub/v2.4.0/es/package_reference/inference_client#huggingface_hub.InferenceClient)

un cliente de inferencia que apunta al punto de acceso desplegado.

**Excepciones:** [InferenceEndpointError](/docs/huggingface_hub/v2.4.0/es/package_reference/inference_endpoints#huggingface_hub.InferenceEndpointError)

- [InferenceEndpointError](/docs/huggingface_hub/v2.4.0/es/package_reference/inference_endpoints#huggingface_hub.InferenceEndpointError) -- Si el Inference Endpoint aún no está desplegado.

Devuelve un cliente para realizar predicciones en este Inference Endpoint.

#### async_client[[huggingface_hub.InferenceEndpoint.async_client]]

```python
async_client()
```

[Fuente](https://github.com/huggingface/huggingface_hub/blob/v2.4.0/src/huggingface_hub/_inference_endpoints.py#L242)

**Devuelve:** [AsyncInferenceClient](/docs/huggingface_hub/v2.4.0/es/package_reference/inference_client#huggingface_hub.AsyncInferenceClient)

un cliente de inferencia compatible con asyncio que apunta al punto de acceso desplegado.

**Excepciones:** [InferenceEndpointError](/docs/huggingface_hub/v2.4.0/es/package_reference/inference_endpoints#huggingface_hub.InferenceEndpointError)

- [InferenceEndpointError](/docs/huggingface_hub/v2.4.0/es/package_reference/inference_endpoints#huggingface_hub.InferenceEndpointError) -- Si el Inference Endpoint aún no está desplegado.

Devuelve un cliente para realizar predicciones en este Inference Endpoint.

#### eliminar[[huggingface_hub.InferenceEndpoint.delete]]

```python
delete()
```

[Fuente](https://github.com/huggingface/huggingface_hub/blob/v2.4.0/src/huggingface_hub/_inference_endpoints.py#L487)

Eliminar el Inference Endpoint.

Esta operación no es reversible. Si no desea ser cobrado por un Inference Endpoint, es preferible pausarlo con [InferenceEndpoint.pause()](/docs/huggingface_hub/v2.4.0/es/package_reference/inference_endpoints#huggingface_hub.InferenceEndpoint.pause) o escalarlo a cero con [InferenceEndpoint.scale_to_zero()](/docs/huggingface_hub/v2.4.0/es/package_reference/inference_endpoints#huggingface_hub.InferenceEndpoint.scale_to_zero).

Este es un alias de [HfApi.delete_inference_endpoint()](/docs/huggingface_hub/v2.4.0/es/package_reference/hf_api#huggingface_hub.HfApi.delete_inference_endpoint).

#### fetch[[huggingface_hub.InferenceEndpoint.fetch]]

```python
fetch()
```

[Fuente](https://github.com/huggingface/huggingface_hub/blob/v2.4.0/src/huggingface_hub/_inference_endpoints.py#L317)

**Devuelve:** [InferenceEndpoint](/docs/huggingface_hub/v2.4.0/es/package_reference/inference_endpoints#huggingface_hub.InferenceEndpoint)

el mismo Inference Endpoint, mutado in situ con los datos más recientes.

Obtener la información más reciente sobre el Inference Endpoint.

#### pausa[[huggingface_hub.InferenceEndpoint.pause]]

```python
pause()
```

[Fuente](https://github.com/huggingface/huggingface_hub/blob/v2.4.0/src/huggingface_hub/_inference_endpoints.py#L430)

**Devuelve:** [InferenceEndpoint](/docs/huggingface_hub/v2.4.0/es/package_reference/inference_endpoints#huggingface_hub.InferenceEndpoint)

el mismo Inference Endpoint, mutado in situ con los datos más recientes.

Pausa el Inference Endpoint.

Un Inference Endpoint en pausa no genera cargos. Puede reanudarse en cualquier momento mediante [InferenceEndpoint.resume()](/docs/huggingface_hub/v2.4.0/es/package_reference/inference_endpoints#huggingface_hub.InferenceEndpoint.resume). Esto es diferente de escalar el Inference Endpoint a cero con [InferenceEndpoint.scale_to_zero()](/docs/huggingface_hub/v2.4.0/es/package_reference/inference_endpoints#huggingface_hub.InferenceEndpoint.scale_to_zero), que se reiniciaría automáticamente cuando se le hiciera una solicitud.

Este es un alias de [HfApi.pause_inference_endpoint()](/docs/huggingface_hub/v2.4.0/es/package_reference/hf_api#huggingface_hub.HfApi.pause_inference_endpoint). El objeto actual se modifica in situ con los datos más recientes del servidor.

#### reanudar[[huggingface_hub.InferenceEndpoint.resume]]

```python
resume(running_ok: bool = True)
```

[Fuente](https://github.com/huggingface/huggingface_hub/blob/v2.4.0/src/huggingface_hub/_inference_endpoints.py#L448)

**Parámetros:**

running_ok (`bool`, *opcional*) : Si `True`, el método no lanzará un error si el Inference Endpoint ya está en ejecución. El valor predeterminado es `True`.

**Devuelve:** [InferenceEndpoint](/docs/huggingface_hub/v2.4.0/es/package_reference/inference_endpoints#huggingface_hub.InferenceEndpoint)

el mismo Inference Endpoint, mutado in situ con los datos más recientes.

Resume el punto de inferencia.

Este es un alias de [HfApi.resume_inference_endpoint()](/docs/huggingface_hub/v2.4.0/es/package_reference/hf_api#huggingface_hub.HfApi.resume_inference_endpoint). El objeto actual se modifica in situ con los datos más recientes del servidor.

#### scale_to_zero[[huggingface_hub.InferenceEndpoint.scale_to_zero]]

```python
scale_to_zero()
```

[Fuente](https://github.com/huggingface/huggingface_hub/blob/v2.4.0/src/huggingface_hub/_inference_endpoints.py#L469)

**Devuelve:** [InferenceEndpoint](/docs/huggingface_hub/v2.4.0/es/package_reference/inference_endpoints#huggingface_hub.InferenceEndpoint)

el mismo Inference Endpoint, mutado in situ con los datos más recientes.

Escalar el punto de inferencia a cero.

Un Inference Endpoint escalado a cero no se facturará. Se reanudará en la siguiente solicitud, con un retraso de arranque en frío. Esto es diferente de pausar el Inference Endpoint con [InferenceEndpoint.pause()](/docs/huggingface_hub/v2.4.0/es/package_reference/inference_endpoints#huggingface_hub.InferenceEndpoint.pause), lo cual requeriría una reanudación manual con [InferenceEndpoint.resume()](/docs/huggingface_hub/v2.4.0/es/package_reference/inference_endpoints#huggingface_hub.InferenceEndpoint.resume).

Este es un alias de [HfApi.scale_to_zero_inference_endpoint()](/docs/huggingface_hub/v2.4.0/es/package_reference/hf_api#huggingface_hub.HfApi.scale_to_zero_inference_endpoint). El objeto actual se modifica in situ con los datos más recientes del servidor.

#### actualizar[[huggingface_hub.InferenceEndpoint.update]]

```python
update(accelerator: str | None = None, instance_size: str | None = None, instance_type: str | None = None, min_replica: int | None = None, max_replica: int | None = None, scale_to_zero_timeout: int | None = None, repository: str | None = None, framework: str | None = None, revision: str | None = None, task: str | None = None, custom_image: dict | None = None, container_command: list[str] | None = None, container_args: list[str] | None = None, tensor_parallel_size: int | None = None, data_parallel_size: int | None = None, secrets: dict[str, str] | None = None)
```

[Fuente](https://github.com/huggingface/huggingface_hub/blob/v2.4.0/src/huggingface_hub/_inference_endpoints.py#L328)

**Parámetros:**

accelerator (`str`, *opcional*) : El acelerador de hardware que se utilizará para la inferencia (p. ej. `"cpu"`).

instance_size (`str`, *opcional*) : El tamaño o tipo de la instancia que se utilizará para alojar el modelo (p. ej., `"x4"`).

instance_type (`str`, *opcional*) : El tipo de instancia en la nube donde se desplegará el Inference Endpoint (p. ej. `"intel-icl"`).

min_replica (`int`, *opcional*) : El número mínimo de réplicas (instancias) que deben mantenerse en ejecución para el Inference Endpoint.

max_replica (`int`, *opcional*) : El número máximo de réplicas (instancias) al que escalar el Inference Endpoint.

scale_to_zero_timeout (`int`, *opcional*) : La duración en minutos antes de que un punto de acceso inactivo se escale a cero.

repository (`str`, *opcional*) : El nombre del repositorio de modelos asociado con el Inference Endpoint (p. ej. `"gpt2"`).

framework (`str`, *opcional*) : El marco de aprendizaje automático utilizado para el modelo (p. ej. `"custom"`).

revision (`str`, *opcional*) : La revisión específica del modelo que se desplegará en el Inference Endpoint (p. ej. `"6c0e6080953db56375760c0471a8c5f2929baf11"`).

task (`str`, *opcional*) : La tarea en la que se desplegará el modelo (p. ej. `"text-classification"`).

custom_image (`dict`, *opcional*) : La imagen de contenedor que se va a ejecutar. Puede ser un diccionario con claves por variante de imagen (p. ej. `{"vLLM": {"url": "vllm/vllm-openai:v0.23.0", "port": 8000}}`, también `sGLang`, `tgi`, `tei`, `llamacpp`, `hfServe`, ...), que se reenvía tal cual, o un diccionario plano que describe un contenedor personalizado (p. ej. `{"url": ..., "port": ...}`), que se envía como `{"custom": ...}`.

container_command (`list[str]`, *opcional*) : Anula el comando de punto de entrada del contenedor (se corresponde con `model.command` en la carga de la API). Funciona tanto con imágenes de motor administradas (p. ej., vLLM, SGLang) como con imágenes personalizadas.

container_args (`list[str]`, *opcional*) : Argumentos añadidos al punto de entrada del contenedor (corresponde a `model.args` en la carga de la API). Funciona tanto con imágenes de motor administradas (p. ej., vLLM, SGLang) como con imágenes personalizadas.

tensor_parallel_size (`int`, *opcional*) : Número de aceleradores en los que dividir una copia única del modelo (imágenes de vLLM y SGLang). Cuando no se proporciona `custom_image`, se obtiene la imagen configurada actualmente en el punto de acceso y se actualiza en su lugar, ya que la API requiere `model.image` como un todo.

data_parallel_size (`int`, *opcional*) : Número de copias del modelo a ejecutar, una por acelerador (imágenes de vLLM).

secrets (`dict[str, str]`, *opcional*) : Valores secretos para inyectar en el entorno del contenedor.

**Devuelve:** [InferenceEndpoint](/docs/huggingface_hub/v2.4.0/es/package_reference/inference_endpoints#huggingface_hub.InferenceEndpoint)

el mismo Inference Endpoint, mutado in situ con los datos más recientes.

Actualice el punto de inferencia.

Este método permite actualizar la configuración de cómputo, el modelo desplegado o ambos. Todos los argumentos son opcionales, pero se debe proporcionar al menos uno.

Este es un alias de [HfApi.update_inference_endpoint()](/docs/huggingface_hub/v2.4.0/es/package_reference/hf_api#huggingface_hub.HfApi.update_inference_endpoint). El objeto actual se modifica in situ con los datos más recientes del servidor.

#### esperar[[huggingface_hub.InferenceEndpoint.wait]]

```python
wait(timeout: int | None = None, refresh_every: int = 5)
```

[Fuente](https://github.com/huggingface/huggingface_hub/blob/v2.4.0/src/huggingface_hub/_inference_endpoints.py#L264)

**Parámetros:**

timeout (`int`, *opcional*) : El tiempo máximo de espera para que el Inference Endpoint se despliegue, en segundos. Si es `None`, esperará indefinidamente.

refresh_every (`int`, *opcional*) : El tiempo de espera entre cada consulta del estado del Inference Endpoint, en segundos. El valor predeterminado es 5 s.

**Devuelve:** [InferenceEndpoint](/docs/huggingface_hub/v2.4.0/es/package_reference/inference_endpoints#huggingface_hub.InferenceEndpoint)

el mismo Inference Endpoint, mutado in situ con los datos más recientes.

**Excepciones:** [InferenceEndpointError](/docs/huggingface_hub/v2.4.0/es/package_reference/inference_endpoints#huggingface_hub.InferenceEndpointError) o `InferenceEndpointTimeoutError`

- [InferenceEndpointError](/docs/huggingface_hub/v2.4.0/es/package_reference/inference_endpoints#huggingface_hub.InferenceEndpointError) -- Si el Inference Endpoint terminó en un estado de error.
- `InferenceEndpointTimeoutError` -- Si el Inference Endpoint no se despliega después de `timeout` segundos.

Espera a que el Inference Endpoint se haya desplegado.

La información del servidor se obtendrá cada 1 s. Si el Inference Endpoint no se ha desplegado después de `timeout` segundos, se lanzará un `InferenceEndpointTimeoutError`. El [InferenceEndpoint](/docs/huggingface_hub/v2.4.0/es/package_reference/inference_endpoints#huggingface_hub.InferenceEndpoint) se mutará in situ con los datos más recientes.

## InferenceEndpointHardware[[huggingface_hub.InferenceEndpointHardware]]

#### huggingface_hub.InferenceEndpointHardware[[huggingface_hub.InferenceEndpointHardware]]

```python
huggingface_hub.InferenceEndpointHardware(id: str, vendor: str, region: str, accelerator: str, instance_type: str, instance_size: str, architecture: str, num_accelerators: int, num_cpus: int | None, memory_gb: float, gpu_memory_gb: int | None, price_per_hour: float, status: str, max_accelerators: int, used_accelerators: int)
```

[Fuente](https://github.com/huggingface/huggingface_hub/blob/v2.4.0/src/huggingface_hub/_inference_endpoints.py#L519)

**Parámetros:**

id (`str`) : Identificador único de hardware, p. ej. `"aws-us-east-1-nvidia-l4-x1"`.

vendor (`str`) : El proveedor de nube que aloja el hardware, p. ej. `"aws"`.

region (`str`) : La región de la nube en la que está disponible el hardware, p. ej. `"us-east-1"`.

accelerator (`str`) : El tipo de acelerador de hardware, p. ej. `"cpu"`, `"gpu"` o `"neuron"`.

instance_type (`str`) : El tipo de instancia en la nube, p. ej. `"nvidia-l4"`.

instance_size (`str`) : El multiplicador del tamaño de la instancia, p. ej. `"x1"`.

architecture (`str`) : Descripción de hardware legible por humanos, p. ej. `"Nvidia L4"`.

num_accelerators (`int`) : Número de unidades de acelerador por réplica.

num_cpus (`int`, *opcional*) : Número de vCPUs por réplica.

memory_gb (`float`) : RAM por réplica, en GB.

gpu_memory_gb (`int`, *opcional*) : Memoria total de GPU por réplica, en GB (es decir, sumada sobre `num_accelerators`). `None` para hardware que no es GPU.

price_per_hour (`float`) : Costo por réplica por hora, en USD.

status (`str`) : Disponibilidad del hardware: `"available"`, `"low_availability"`, `"not_available"`, `"reserved"` o `"deprecated"`.

max_accelerators (`int`) : Número máximo de aceleradores de este tipo que el espacio de nombres está autorizado a ejecutar.

used_accelerators (`int`) : Número de aceleradores de este tipo que se están utilizando actualmente en el espacio de nombres.

Contiene información sobre una configuración de hardware disponible para los Inference Endpoints.

Los campos `vendor`, `region`, `accelerator`, `instance_type` y `instance_size` son exactamente los valores que se deben pasar a [create_inference_endpoint()](/docs/huggingface_hub/v2.4.0/es/package_reference/hf_api#huggingface_hub.HfApi.create_inference_endpoint) (o `hf endpoints deploy`) para desplegar en este hardware.

Ejemplo:
```python
>>> from huggingface_hub import list_inference_endpoints_hardware
>>> hardware = list_inference_endpoints_hardware()
>>> hardware[0]
InferenceEndpointHardware(id='aws-us-east-1-nvidia-l4-x1', vendor='aws', region='us-east-1', ...)
```

#### from_raw[[huggingface_hub.InferenceEndpointHardware.from_raw]]

```python
from_raw(raw: dict, vendor: str, region: str)
```

[Fuente](https://github.com/huggingface/huggingface_hub/blob/v2.4.0/src/huggingface_hub/_inference_endpoints.py#L584)

Inicializa un objeto desde un diccionario de cálculo en bruto, anidado bajo un proveedor y una región en la respuesta de la API.

## InferenceCatalogModel[[huggingface_hub.InferenceCatalogModel]]

#### huggingface_hub.InferenceCatalogModel[[huggingface_hub.InferenceCatalogModel]]

```python
huggingface_hub.InferenceCatalogModel(repo_id: str, name: str, author: str, license: str, task: str, created_at: datetime, recipes: list)
```

[Fuente](https://github.com/huggingface/huggingface_hub/blob/v2.4.0/src/huggingface_hub/_inference_endpoints.py#L647)

**Parámetros:**

repo_id (`str`) : El id del repositorio del modelo en el Hub, p. ej. `"meta-llama/Llama-3.1-8B-Instruct"`.

name (`str`) : El nombre del modelo, es decir, la parte de `repo_id` que sigue al autor, p. ej. `"Llama-3.1-8B-Instruct"`.

author (`str`) : El autor del repositorio del modelo, p. ej. `"meta-llama"`.

license (`str`) : La licencia del modelo, por ejemplo, `"Apache 2.0"`.

task (`str`) : La tarea en la que se despliega el modelo, p. ej. `"text-generation"`.

created_at (`datetime`) : La fecha en que el modelo se añadió al catálogo.

recipes (`list[InferenceCatalogRecipe]`) : Las formas probadas de desplegar este modelo.

Contiene información sobre un modelo disponible en el Catálogo de Inferencia.

Ejemplo:
```python
>>> from huggingface_hub import list_inference_catalog
>>> catalog = list_inference_catalog(engine="vllm")
>>> catalog[0]
InferenceCatalogModel(repo_id='Qwen/Qwen2.5-Coder-7B-Instruct', name='Qwen2.5-Coder-7B-Instruct', ...)
```

#### from_raw[[huggingface_hub.InferenceCatalogModel.from_raw]]

```python
from_raw(raw: dict)
```

[Fuente](https://github.com/huggingface/huggingface_hub/blob/v2.4.0/src/huggingface_hub/_inference_endpoints.py#L684)

Inicializa un objeto desde un diccionario de elemento de catálogo sin procesar.

## InferenceCatalogRecipe[[huggingface_hub.InferenceCatalogRecipe]]

#### huggingface_hub.InferenceCatalogRecipe[[huggingface_hub.InferenceCatalogRecipe]]

```python
huggingface_hub.InferenceCatalogRecipe(id: str, accelerator: str, engine: str, gguf_file: str | None, revision: str | None)
```

[Fuente](https://github.com/huggingface/huggingface_hub/blob/v2.4.0/src/huggingface_hub/_inference_endpoints.py#L608)

**Parámetros:**

id (`str`) : El identificador público de la receta, para pasarlo a [create_inference_endpoint_from_catalog()](/docs/huggingface_hub/v2.4.0/es/package_reference/hf_api#huggingface_hub.HfApi.create_inference_endpoint_from_catalog) como `recipe_id`.

accelerator (`str`) : El tipo de acelerador de hardware en el que se ejecuta la receta, p. ej. `"cpu"`, `"gpu"` o `"neuron"`.

engine (`str`) : El motor de inferencia que ejecuta la receta, p. ej. `"vllm"`, `"llamacpp"`, `"tei"` o `"sglang"`.

gguf_file (`str`, *opcional*) : El archivo GGUF desplegado por la receta. Solo se establece para las recetas `"llamacpp"`.

revision (`str`, *opcional*) : La revisión del modelo a la que está fijada la receta, si la hay.

Contiene información sobre una forma preprobada de desplegar un modelo del Inference Catalog.

Una receta es una combinación de hardware y motor que el equipo de Inference Endpoints ha probado para un modelo dado. Un modelo suele tener una receta, pero puede tener varias (p. ej., una para GPU y otra para Neuron, o una por cada cuantización GGUF).

#### from_raw[[huggingface_hub.InferenceCatalogRecipe.from_raw]]

```python
from_raw(raw: dict)
```

[Fuente](https://github.com/huggingface/huggingface_hub/blob/v2.4.0/src/huggingface_hub/_inference_endpoints.py#L634)

Inicializa un objeto desde un diccionario de receta en bruto, anidado bajo un modelo en la respuesta de la API.

## InferenceEndpointStatus[[huggingface_hub.InferenceEndpointStatus]]

#### huggingface_hub.InferenceEndpointStatus[[huggingface_hub.InferenceEndpointStatus]]

```python
huggingface_hub.InferenceEndpointStatus(value, names = None, module = None, qualname = None, type = None, start = 1)
```

[Fuente](https://github.com/huggingface/huggingface_hub/blob/v2.4.0/src/huggingface_hub/_inference_endpoints.py#L93)

Una enumeración.

## InferenceEndpointType[[huggingface_hub.InferenceEndpointType]]

#### huggingface_hub.InferenceEndpointType[[huggingface_hub.InferenceEndpointType]]

```python
huggingface_hub.InferenceEndpointType(value, names = None, module = None, qualname = None, type = None, start = 1)
```

[Fuente](https://github.com/huggingface/huggingface_hub/blob/v2.4.0/src/huggingface_hub/_inference_endpoints.py#L104)

Una enumeración.

## InferenceEndpointError[[huggingface_hub.InferenceEndpointError]]

#### huggingface_hub.InferenceEndpointError[[huggingface_hub.InferenceEndpointError]]

[Fuente](https://github.com/huggingface/huggingface_hub/blob/v2.4.0/src/huggingface_hub/errors.py#L162)

Excepción genérica al trabajar con Inference Endpoints.

