Meta: Llama 3.3 70B

سالم

اسب بارکشِ قابل‌اتکای وزن‌باز. اغلب ارزان‌ترین نقطهٔ پایانی سالم برای دنبال کردن سادهٔ دستورها.

ورودی: 9,100 تومان/M tokens
خروجی: 27,300 تومان/M tokens
بافتار: 131K
بیشینهٔ خروجی: 16K
انتشار: Dec 6, 2024
مسیریابی هفتگی: 168B

نقاط اتصال

هر ردیف، یک مسیر مشخص است که این مدل می‌تواند از طریق آن سرویس داده شود. مسیریاب در هر درخواست میان آن‌ها انتخاب می‌کند؛ شما هرگز مستقیماً یک نقطهٔ اتصال را صدا نمی‌زنید مگر آنکه خودتان آن را تثبیت کنید.

ارائه‌دهنده	منطقه	ورودی	خروجی	TTFT	در دسترس‌بودن	سلامت
Fluxcdn vLLM	us-east	9,100 تومان	27,300 تومان	0.24s	99.89%	سالم
Fluxcdn vLLM	eu-west	9,100 تومان	27,300 تومان	0.27s	99.91%	سالم

قابلیت‌ها

متن
ابزار
JSON

حالت‌ها

ورودی: متن
خروجی: متن

کاربردهای رایج

Support
Programming

فراخوانی

نام مدل را meta/llama-3.3-70b بگذارید، یا بگذارید router/auto به‌جای شما انتخاب کند.

from openai import OpenAI

client = OpenAI(
    base_url="https://api.fluxcdn.com/v1",
    api_key=os.environ["FLUXCDN_KEY"],
)

resp = client.chat.completions.create(
    model="router/auto",
    messages=[{"role": "user", "content": "Hello"}],
)

print(resp.choices[0].message.content)