API 文档是为开发者提供的接口调用说明,开发者可以通过 API 文档了解模型使用相关接口的调用方式, 参数说明, 返回结果等信息.

本文档中的全部 API 均为 OpenAI-API-Compatible, 除文档中描述的直接请求外, 均支持通过 openai sdk 调用. 只需用我们告知的 Token 替换 OPENAI_API_TOKEN 的值, 修改 BASE_URL 即可.

已开放的模型列表

• DeepSeek-R1:671b
• DeepSeek-V3:671b - 0324版
• DeepSeek-R1:32b
• 千问推理模型 QwQ:32b
• 星火推理模型 Spark-X1:70b
• 嵌入模型 gte-Qwen2-7B(嵌入维度 3584，上下文长度 32K)
• 嵌入模型 bge-large-zh:latest
• Rerank模型 bge-reranker-v2-m3
• 千问模型 Qwen3:235B

即将上线的模型列表

• 千问多模态 qwen2.5-vl:32b
• OCR 模型