Tài liệu API Mini cpm

Xác thực và Base URL

Bắt đầu mọi yêu cầu với khóa API của bạn và URL cơ sở chính xác. Chúng tôi sử dụng các tiêu đề OpenAI tiêu chuẩn để tương thích. Khóa của bạn cấp quyền truy cập vào mô hình không kiểm duyệt ngay lập tức. URL cơ sở là HTTPS://api.cpmmini.com/v1. Sử dụng tiêu đề Authorization: Bearer . Giữ khóa của bạn an toàn. Nó xác định tài khoản tín dụng trả trước của bạn. Không có phí đăng ký ở đây. Chỉ trả tiền theo token đã sử dụng.

Yêu cầu đầu tiên

Gửi tin nhắn đầu tiên đến điểm cuối hoàn tất cuộc trò chuyện. Điều này xác nhận khóa của bạn hoạt động và số dư tài khoản được trừ đúng. Model không kiểm duyệt phản hồi mà không có các từ chối thông thường. Sử dụng curl để kiểm tra nhanh. Thay thế YOUR_API_KEY bằng khóa thực tế của bạn từ bảng điều khiển. Bước này xác minh khả năng kết nối và độ trễ. Lỗi 401 cho biết khóa không hợp lệ. Hãy kiểm tra bảng điều khiển tài khoản nếu nó không thành công. Phản hồi trả về văn bản đã tạo.

Tích hợp SDK Python

Sử dụng thư viện Python chính thức của OpenAI để truy cập theo chương trình. Đặt base URL thành điểm cuối của chúng tôi. Điều này đảm bảo tất cả các yêu cầu được định tuyến đến mô hình không kiểm duyệt của chúng tôi. Cài đặt thư viện qua pip. Truyền API key của bạn trong quá trình khởi tạo client. Yêu cầu model uncensored. SDK tự động xử lý việc thử lại và phân tích JSON. Cách tiếp cận này đơn giản hóa việc tích hợp vào các bot hiện có của bạn. Nó cũng hoạt động với các vòng lặp bất đồng bộ. Kiểm tra số dư tín dụng của bạn sau khi gọi.

Thiết lập SDK Node

Tích hợp với Node.js bằng gói npm. Cấu hình URL cơ sở trỏ đến API của chúng tôi. Điều này duy trì tương thích với các tiêu chuẩn OpenAI. Cài đặt phần phụ thuộc trong dự án của bạn. Khởi tạo client với khóa của bạn. Gọi phương thức hoàn thành trò chuyện. Đối tượng phản hồi chứa văn bản được tạo. Xử lý lỗi một cách duyên dáng trong ứng dụng của bạn. Thiết lập này hỗ trợ cả mô-đun CommonJS và ES. Nó lý tưởng cho các bot trò chuyện phía máy chủ.

Phản hồi luồng

Phát trực tiếp token cho trải nghiệm người dùng theo thời gian thực. Bật phát trực tiếp trong các tham số yêu cầu của bạn. API gửi các gói khi chúng được tạo. Điều này làm giảm độ trễ cảm nhận cho người dùng. Sử dụng điểm cuối SSE cho dữ liệu liên tục. Phân tích từng gói để xây dựng thông điệp cuối cùng. Tính năng này hoạt động với cả SDK Python và Node. Nó rất cần thiết cho các giao diện trò chuyện. Theo dõi sử dụng token trong gói cuối cùng. Tín dụng của bạn bị trừ dựa trên tổng số token đã gửi.

Giới hạn, Lỗi và Ngữ cảnh

Chú ý giới hạn tốc độ và trạng thái tiền. Bạn được 300 yêu cầu mỗi phút. Chỉ cho phép tám yêu cầu đồng thời mỗi khóa. Lỗi 429 nghĩa là bạn đã đạt giới hạn. Lỗi 402 cho biết không đủ tiền. Nạp thêm bằng tiền điện tử để tiếp tục. Cửa sổ ngữ cảnh hỗ trợ 100.000 token. Điều này cho phép cuộc trò chuyện dài mà không mất lịch sử. Lỗi và từ chối không tốn tiền. Tiền nạp trước của bạn không bao giờ hết hạn. Quản lý khóa của bạn trong bảng điều khiển.

cURL

Copycurl https://api.cpmmini.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Send test message"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.cpmmini.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.cpmmini.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Phát trực tiếp

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)