Llama 3.1 8B Instruct

Meta's latest class of model (Llama 3.1) launched with a variety of sizes & flavors. This 8B instruct-tuned version is fast and efficient. It has demonstrated strong performance compared to leading closed-source models in human evaluations. To read more about the model release, [click here](https://ai.meta.com/blog/meta-llama-3-1/). Usage of this model is subject to [Meta's Acceptable Use Policy](https://llama.meta.com/llama3/use-policy/).

ChatMeta131k tokens$0.0545 / $0.0872 · 1M

meta-llama/llama-3.1-8b-instruct

Contexto
131k tokens
Máx. completion
131,072
Tools
JSON
Lanzamiento
2024-07-23

Llámalo desde Geek Hub

El mismo SDK de OpenAI. Cambia el base URL y el id del modelo.

curl https://api.geekhub.mx/v1/chat/completions \
  -H "Authorization: Bearer $GEEKHUB_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "meta-llama/llama-3.1-8b-instruct",
    "messages": [{"role": "user", "content": "Hola"}]
  }'
Consigue tu API key

Preguntas frecuentes

¿Qué es Llama 3.1 8B Instruct?
Meta's latest class of model (Llama 3.1) launched with a variety of sizes & flavors. This 8B instruct-tuned version is fast and efficient. It has demonstrated strong performance compared to leading closed-source models in human evaluations. To read more about the model release, [click here](https://ai.meta.com/blog/meta-llama-3-1/). Usage of this model is subject to [Meta's Acceptable Use Policy](https://llama.meta.com/llama3/use-policy/). Llama 3.1 8B Instruct corre en el API de Geek Hub (compatible con OpenAI). Id: meta-llama/llama-3.1-8b-instruct.
¿Llama 3.1 8B Instruct es gratis?
No. El input cuesta $0.0545 / 1M tokens y el output $0.0872 / 1M tokens en Geek Hub (markup incluido).
¿Cuál es el contexto de Llama 3.1 8B Instruct?
Llama 3.1 8B Instruct tiene una ventana de 131k tokens. Soporta hasta 131,072 tokens de completion.
¿Llama 3.1 8B Instruct soporta tool calling y structured outputs?
Llama 3.1 8B Instruct acepta tools y tool_choice para function calling. También soporta structured outputs con un JSON schema en response_format.
¿Cuándo se lanzó Llama 3.1 8B Instruct?
Llama 3.1 8B Instruct se lanzó el 23 de julio de 2024.

Más modelos de Meta