Llama 3.1 70B Instruct

Meta's latest class of model (Llama 3.1) launched with a variety of sizes & flavors. This 70B instruct-tuned version is optimized for high quality dialogue usecases. It has demonstrated strong performance compared to leading closed-source models in human evaluations. To read more about the model release, [click here](https://ai.meta.com/blog/meta-llama-3-1/). Usage of this model is subject to [Meta's Acceptable Use Policy](https://llama.meta.com/llama3/use-policy/).

ChatMeta131k tokens$0.436 / $0.436 · 1M

meta-llama/llama-3.1-70b-instruct

Contexto
131k tokens
Máx. completion
16,384
Tools
JSON
Lanzamiento
2024-07-23

Llámalo desde Geek Hub

El mismo SDK de OpenAI. Cambia el base URL y el id del modelo.

curl https://api.geekhub.mx/v1/chat/completions \
  -H "Authorization: Bearer $GEEKHUB_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "meta-llama/llama-3.1-70b-instruct",
    "messages": [{"role": "user", "content": "Hola"}]
  }'
Consigue tu API key

Preguntas frecuentes

¿Qué es Llama 3.1 70B Instruct?
Meta's latest class of model (Llama 3.1) launched with a variety of sizes & flavors. This 70B instruct-tuned version is optimized for high quality dialogue usecases. It has demonstrated strong performance compared to leading closed-source models in human evaluations. To read more about the model release, [click here](https://ai.meta.com/blog/meta-llama-3-1/). Usage of this model is subject to [Meta's Acceptable Use Policy](https://llama.meta.com/llama3/use-policy/). Llama 3.1 70B Instruct corre en el API de Geek Hub (compatible con OpenAI). Id: meta-llama/llama-3.1-70b-instruct.
¿Llama 3.1 70B Instruct es gratis?
No. El input cuesta $0.436 / 1M tokens y el output $0.436 / 1M tokens en Geek Hub (markup incluido).
¿Cuál es el contexto de Llama 3.1 70B Instruct?
Llama 3.1 70B Instruct tiene una ventana de 131k tokens. Soporta hasta 16,384 tokens de completion.
¿Llama 3.1 70B Instruct soporta tool calling y structured outputs?
Llama 3.1 70B Instruct acepta tools y tool_choice para function calling. También soporta structured outputs con un JSON schema en response_format.
¿Cuándo se lanzó Llama 3.1 70B Instruct?
Llama 3.1 70B Instruct se lanzó el 23 de julio de 2024.

Más modelos de Meta