پرش به محتوا
FluxCDNFluxCDN
esc
ورود

Meta: Llama 3.1 70B Instruct

مدلی از Meta با پنجرهٔ کانتکست 131K توکن. ورودی: متن.

ورودی
259,616 تومان/ میلیون توکن
خروجی
259,616 تومان/ میلیون توکن
کانتکست
131K
حداکثر خروجی
8K
انتشار
۲ مرداد ۱۴۰۳
سازنده
Meta

قیمت‌های طرح رایگان، به تومان با نرخ امروز. طرح‌ها و قیمت‌ها

قیمت در هر طرح

تومان به ازای هر میلیون توکن، با نرخ امروز. هر طرح قیمت مصرف شما را تا سقفی در هر دوره پایین می‌آورد.

طرحورودیخروجی
رایگان259,616259,616
حرفه‌ای248,976248,976
مکس238,336238,336

دربارهٔ این مدل

توضیح سازندهٔ مدل، به انگلیسی:

Meta's latest class of model (Llama 3.1) launched with a variety of sizes & flavors. This 70B instruct-tuned version is optimized for high quality dialogue usecases.

قابلیت‌ها

  • متن
  • ابزار

ورودی و خروجی

می‌پذیرد
  • متن
می‌سازد
  • متن

فراخوانی

نام مدل را meta-llama/llama-3.1-70b-instruct بگذارید، یا بگذارید router/auto به‌جای شما انتخاب کند.

import os

from openai import OpenAI

client = OpenAI(
    base_url="https://ai.fluxcdn.cloud/api/v1",
    api_key=os.environ["FLUXCDN_API_KEY"],
)

resp = client.chat.completions.create(
    model="router/auto",
    messages=[{"role": "user", "content": "Hello"}],
)

print(resp.choices[0].message.content)