Meta: Llama 3.1 8B Instruct
مدلی از Meta با پنجرهٔ کانتکست 131K توکن. ورودی: متن.
- ورودی
- 10,248 تومان/ میلیون توکن
- خروجی
- 17,080 تومان/ میلیون توکن
- کانتکست
- 131K
- حداکثر خروجی
- 16K
- انتشار
- ۲ مرداد ۱۴۰۳
- سازنده
- Meta
قیمتهای طرح رایگان، به تومان با نرخ امروز. طرحها و قیمتها
قیمت در هر طرح
تومان به ازای هر میلیون توکن، با نرخ امروز. هر طرح قیمت مصرف شما را تا سقفی در هر دوره پایین میآورد.
| طرح | ورودی | خروجی |
|---|---|---|
| رایگان | 10,248 | 17,080 |
| حرفهای | 9,828 | 16,380 |
| مکس | 9,408 | 15,680 |
دربارهٔ این مدل
توضیح سازندهٔ مدل، به انگلیسی:
Meta's latest class of model (Llama 3.1) launched with a variety of sizes & flavors. This 8B instruct-tuned version is fast and efficient.
قابلیتها
- متن
- ابزار
- JSON
ورودی و خروجی
میپذیرد
- متن
میسازد
- متن
فراخوانی
نام مدل را meta-llama/llama-3.1-8b-instruct بگذارید، یا بگذارید router/auto بهجای شما انتخاب کند.
import os
from openai import OpenAI
client = OpenAI(
base_url="https://ai.fluxcdn.cloud/api/v1",
api_key=os.environ["FLUXCDN_API_KEY"],
)
resp = client.chat.completions.create(
model="router/auto",
messages=[{"role": "user", "content": "Hello"}],
)
print(resp.choices[0].message.content)
