Overview

—
— Endpoints
— healthy
— Active Users
— total
— Requests Today
— all time
— Total Input Tokens
↑ — today
— Total Output Tokens
↓ — today
— Success Rate
— / — today

Analytics

—

Token Usage

—

Requests & Latency

—

Top Modelsby requests

Endpointsby requests

Failures by Status

Failed Requests0

Endpoints Status

Recent Requests

Top Users (7 days)

Select User

Select a user to view their activity

Global Toggle

When enabled, any request where the model name contains claude will be automatically converted from OpenAI Chat Completions format to Anthropic's native Messages API format, with full SDK identity headers (Anthropic/JS 0.94.0 + x-stainless-* headers).

This handles: system message extraction, message role alternation merging, streaming SSE translation, image conversion, and thinking block filtering.

Non-Claude models are never affected and pass through unchanged.

When enabled, Claude text is streamed live as it is generated (asks upstream for stream:true and translates Anthropic SSE to OpenAI chunks). When disabled, the converter waits for the full answer and sends it in one piece — the old behaviour. Turn this OFF if a provider misbehaves while streaming; the converter keeps working either way. No restart needed.

Legacy. Simulates streaming by slicing an already-complete answer into 6-character pieces with a 10ms pause between each, so it is SLOWER than just waiting. Ignored when Real Streaming is on. Leave OFF.

Custom Model Converter

Converts only the exact model IDs listed below from OpenAI Chat Completions to the upstream native Anthropic Messages API. Matching is case-insensitive. Unlisted models pass through unchanged.

Streaming sends an immediate OpenAI SSE handshake, keeps waiting clients alive, and starts one delayed backup request when the upstream does not return headers within 15 seconds.

One model ID per line. Default: Kimi-k3.
Starts one duplicate request only if the first has not returned HTTP headers. Use 0 to disable it. Allowed: 0 or 5-600 seconds. This is independent of token-free keepalives.

Custom Error Messages

Khi upstream trả lỗi, proxy sẽ hiện message tùy chỉnh cho user thay vì raw error. Để trống = dùng message mặc định.

Upstream Errors
Khắc phục: Tắt truyền đồng thời cả temperature + top_p, tắt frequency/presence penalty, bỏ assistant prefill, hoặc sửa từ ngữ bị safety filter chặn.
Khắc phục: Key của endpoint đã hết hạn/bị thu hồi hoặc OAuth refresh lỗi — kiểm tra/thay API key trong tab Endpoints.
Khắc phục: Tài khoản upstream hết credit hoặc chạm daily quota — nạp thêm balance hoặc tắt member đó trong Model Groups.
Khắc phục: API key upstream chưa subscribe model này (vd: VL/Mi Proxy), gói hết hạn, hoặc vi phạm điều khoản — bật model trên trang upstream.
Khắc phục: Tên model trên upstream đã đổi hoặc không còn hỗ trợ — bấm Fetch Models ở tab Endpoints và cập nhật lại Model Group.
Khắc phục: Prompt hoặc ảnh gửi lên vượt quá context window của model upstream — giảm Max Context trong SillyTavern hoặc gộp/xoá bớt chat.
Khắc phục: Upstream (VL) vừa đổi giá model và tạm khoá — vào dashboard upstream → API Keys → tab Models bấm xác nhận giá mới.
Khắc phục: Chạm giới hạn RPM/session của upstream — đợi vài giây gửi lại hoặc thêm nhiều endpoint vào pool để chia tải.
Khắc phục: Lỗi nội bộ phía provider hoặc mất kết nối khi đọc chunk — thử gửi lại hoặc kiểm tra định dạng response của endpoint.
Khắc phục: Gateway upstream sập hoặc hết sạch account khả dụng — chạy Ping All trong Model Groups để tự động tắt nhánh chết.
Khắc phục: Model trên upstream đang bảo trì hoặc hết slot — chờ vài giây thử lại hoặc bật Auto Failover sang nhánh phụ.
Khắc phục: Upstream xử lý quá 120s không trả lời — bật Streaming (SSE), giảm context/thinking budget hoặc đổi endpoint nhanh hơn.
Khắc phục: Web server của upstream trả kết quả rỗng/ngắt kết nối với Cloudflare — lỗi tạm thời phía provider, thử lại sau.
Khắc phục: Cloudflare không bắt tay được với server gốc của upstream — server gốc đang down, nên tạm tắt endpoint này.
Khắc phục: Request non-stream chạy quá 100s của Cloudflare — bật Streaming hoặc dùng Real Stream trong Claude Converter.
Khắc phục: Máy chủ Anthropic/upstream quá tải đỉnh điểm (529 Overloaded) — đợi 10-30s rồi gửi lại hoặc chuyển sang nhánh dự phòng.
Khắc phục: Đang stream thì upstream ngắt kết nối giữa chừng (unexpected EOF) — bấm swipe/gửi lại hoặc giảm max output tokens.
Khắc phục: Upstream trả HTTP 200 nhưng rỗng 0 token (do filter ngầm hoặc lỗi converter) — kiểm tra prompt/prefill hoặc đổi endpoint trong pool.
Internal Errors

Output Token Limit (max_tokens)

Giới hạn output tokens cho mọi request chat completion. Proxy sẽ inject hoặc clamp giá trị max_tokens về đây trước khi gọi upstream.
0 = tắt (dùng default của upstream).

0 = disabled  |  recommended: 8192–16384  |  max: 32768

Venom Prompt

Bật: proxy chèn prompt Venom làm system message đầu tiên của mọi request chat. AI chỉ xưng Venom khi từ chối, lỗi hoặc đề xuất nội dung khác; prompt của khách luôn được ưu tiên. Lưu ngay khi bấm, không cần restart.

Loading...