پرش به محتوا
FluxCDNFluxCDN
esc
ورود

Meta: Llama 3.1 8B Instruct

مدلی از Meta با پنجرهٔ کانتکست 131K توکن. ورودی: متن.

ورودی
10,248 تومان/ میلیون توکن
خروجی
17,080 تومان/ میلیون توکن
کانتکست
131K
حداکثر خروجی
16K
انتشار
۲ مرداد ۱۴۰۳
سازنده
Meta

قیمت‌های طرح رایگان، به تومان با نرخ امروز. طرح‌ها و قیمت‌ها

قیمت در هر طرح

تومان به ازای هر میلیون توکن، با نرخ امروز. هر طرح قیمت مصرف شما را تا سقفی در هر دوره پایین می‌آورد.

طرحورودیخروجی
رایگان10,24817,080
حرفه‌ای9,82816,380
مکس9,40815,680

دربارهٔ این مدل

توضیح سازندهٔ مدل، به انگلیسی:

Meta's latest class of model (Llama 3.1) launched with a variety of sizes & flavors. This 8B instruct-tuned version is fast and efficient.

قابلیت‌ها

  • متن
  • ابزار
  • JSON

ورودی و خروجی

می‌پذیرد
  • متن
می‌سازد
  • متن

فراخوانی

نام مدل را meta-llama/llama-3.1-8b-instruct بگذارید، یا بگذارید router/auto به‌جای شما انتخاب کند.

import os

from openai import OpenAI

client = OpenAI(
    base_url="https://ai.fluxcdn.cloud/api/v1",
    api_key=os.environ["FLUXCDN_API_KEY"],
)

resp = client.chat.completions.create(
    model="router/auto",
    messages=[{"role": "user", "content": "Hello"}],
)

print(resp.choices[0].message.content)