Name: Qwen2.5 72B API
Brand: Alibaba Cloud

О модели#

Qwen2.5-72B - флагманская открытая языковая модель серии Qwen2.5 от Alibaba Cloud. Обучена на 18 триллионах токенов и превосходит модели аналогичного класса по знаниям, математике и программированию. Отлично подходит для сложных рассуждений, генерации кода, работы с многоязычными текстами и длинным контекстом до 128K токенов.

Характеристики#

Параметр	Значение
Контекстное окно	131K токенов
Максимальная длина вывода	16K токенов
Мультимодальность	Текст
Дата выхода	19 сентября 2024

Бенчмарки#

Бенчмарк	Результат
MMLU (5-shot)	86.1%
MMLU-Pro	71.1%
GPQA	49.0%
MATH	83.1%
GSM8K	95.8%
HumanEval	86.6%
LiveCodeBench	55.5%
Arena-Hard	81.2%

Стоимость#

Тип токенов	Цена за 1M токенов
Входящие (Input)	40 руб
Исходящие (Output)	44 руб

Оплата списывается с баланса DS Lab в DS-коинах. 1 DS-коин = 1 ₽.

API#

1. Создайте API-ключ на странице dslab.tech/api/keys

2. Используйте https://api.dslab.tech/v1 как base_url в любом OpenAI-совместимом SDK. Модель: qwen2.5-72b.

3. Ознакомьтесь с документацией SDK: platform.openai.com/docs/libraries

Обычный запрос

curl https://api.dslab.tech/v1/chat/completions \
  -H "Authorization: Bearer YOUR_DSLAB_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "qwen2.5-72b",
    "messages": [
      {"role": "user", "content": "Напиши функцию сортировки на Python"}
    ]
  }'

Эндпоинт#

Отправляет запрос на получение ответа модели для заданного диалога. Поддерживает потоковый и обычный режим.

POST https://api.dslab.tech/v1/chat/completions

Поле	Значение
Authorization	Bearer $DSLAB_API_KEY
Content-Type	application/json
Model	qwen2.5-72b

Параметры#

Параметр	Тип	По умолчанию	Описание
`max_tokens`	integer	-	Максимальное количество токенов в ответе
`temperature`	number	-	Контролирует случайность ответа: ниже - детерминированнее
`top_p`	number	-	Ядерная выборка (nucleus sampling)
`tools`	array	-	Список доступных инструментов и их параметров (формат OpenAI)
`tool_choice`	string \| object	auto	Управляет использованием инструментов: автоматический выбор, принудительный вызов или запрет
`response_format`	map	-	Задает требуемый формат ответа модели (например, JSON)
`stop`	array	-	Останавливает генерацию при появлении указанных стоп-последовательностей токенов

Qwen2.5 72B

Содержание