推理 API：成本與權衡

LLM 推理

為什麼「無審查」比標準推理 API 更貴

無審查模型通常需要更多的運算資源，以在沒有過濾層的情況下維持品質。標準推理 API 會套用安全過濾器，從而降低 token 處理的複雜性。移除這些過濾器意味著模型必須處理更廣泛的提示，包括小眾或露骨內容。如果未經適當調校，這會增加生成低品質或重複文本的風險。

我們的無審查 LLM 運行在專用伺服器上以確保一致的效能。我們收取輸入 token 每 1M $0.15 及輸出 token 每 1M $0.50 的費用。此定價反映了提供原始、無過濾模型的直接成本。您無需為多模型轉接或安全基礎設施的額外開銷付費。

因未成年人內容硬性限制而導致的錯誤與拒絕是免費的。這確保您只需為成功的 Token 生成付費。abliterated 模型經過調整，可針對合法的成人用途無拒絕地回答。它不會根據主觀的內容指南進行過濾。

上下文視窗現實：100k Token 與實際使用

100,000 token 的上下文視窗可容納大量的對話歷史而無需截斷。對於需要長期記憶的語氣扮演應用而言，這至關重要。然而，大多數實際使用案例的單次請求很少超過 16,000 token。每次請求的最大輸出為 16,000 token，若未設定 max_tokens，則為 2,048 token。

使用完整的上下文視窗會增加延遲和成本。上下文中的每個 token 都會增加處理時間。對於大多數聊天機器人而言，較小的上下文更有效率。您可以透過摘要較舊的訊息或截斷歷史記錄來管理記憶體。

API 透過 SSE 支援串流，這改善了感知效能。Token 使用量包含在最後一個 chunk 中。這允許您即時追蹤成本。調整上下文視窗大小取決於應用程式的具體需求。

• 輸入 token 計入 100k 限制。
• 輸出 token 上限為每次請求 16,000 個。
• 串流為使用者提供即時回饋。

僅限加密貨幣付款：隱私與便利性的權衡

加密支付提供匿名性並減少數據收集。我們接受 TRC20 上的 USDT 和 Base 上的 USDC。充值範圍為從 $20 到 $500 的整數金額。信用額度永不過期，因此您可以隨時方便地充值。這非常適合偏好隱私的開發者。然而，手動充值比自動支付需要更多的精力。

註冊僅需電子郵件或 Google 帳戶。不需要手機號碼。試用額度 $0.50 有效期限為 7 天。錯誤與退款透過支援頁面處理。餘額不會退費，但重複扣款等錯誤會進行處理。

「單一模型」策略與多模型路由器的比較

多模型路由器提供多樣性，但會引入延遲和複雜性。它們根據可用性或成本將請求轉送至不同的模型。這可能導致回應不一致以及更高的開銷。單一無審查模型提供直接且不受限制的端點。它專門針對成人內容進行了調優，沒有轉送邏輯的干擾。

我們的 API 提供 ID 為 'uncensored' 的單一模型。它是託管於我們自己伺服器上的開放權重模型。它不是 GPT、Claude 或其他任何供應商模型。這種簡化確保了可預測的效能。您無需管理多個 API 金鑰或模型參數。

路由增加了一個抽象層，可能會減慢響應速度。直接訪問模型可降低延遲。對於 NSFW 聊天機器人，一致性比多樣性更重要。單一模型確保一致的語調和風格。

處理高流量 NSFW 應用的速率限制

速率限制可防止伺服器過載並確保公平使用。我們的 API 允許每個金鑰每分鐘 300 次請求。您可以每個金鑰同時擁有 8 次請求。請求主體限制為 8 MB。這些限制足以滿足大多數高流量應用程式。

如果您超過速率限制，將收到 429 錯誤。請實作指數退避以處理重試。使用多個 API 金鑰可以提高吞吐量，但每個帳戶每個金鑰僅限一個有效金鑰。您可以將舊金鑰替換為新金鑰。

監控您的使用情況可避免意外的中斷。API 會在最後一個串流區塊中提供計數使用情況。這允許您即時追蹤速率限制的使用情況。根據這些限制調整應用程式的請求頻率。

串流與非串流：對使用者體驗的影響

串流透過顯示即時生成的文字提供更好的使用者體驗。這降低了感知延遲，特別是對於長回應。該 API 支援透過 Server-Sent Events (SSE) 進行串流。Token 用量包含在最後一個區塊中。

非流式傳輸等待整個響應發送後才發送。這可能導致複雜提示的長時間等待。流式傳輸允許用戶在模型仍在思考時開始閱讀。這對於交互式應用程序至關重要。

實作串流需要處理部分回應。您必須正確解析 SSE 格式。API 提供了串流所需的所有參數。使用官方 OpenAI SDK 或任何相容的客戶端來啟用串流。

串流也有助於速率限制管理。如果使用者改變主意，您可以提前停止回應。這節省了 token 並降低了成本。非串流不具備這種靈活性。

JSON 模式與工具使用：角色 AI 應用程式的關鍵

JSON 模式可確保結構化回應，這對於在應用程式中解析資料至關重要。API 支援 response_format json_object。這會強制模型輸出有效的 JSON。它減少了下游處理中的錯誤。

工具使用允許模型呼叫函式。這對於需要與外部系統互動的角色 AI 應用程式很有用。API 支援帶有工具和 tool_choice 的函式呼叫。你可以為模型定義自訂函式。

溫度、top_p 和 seed 等參數可讓您控制隨機性。這有助於維持角色回應的一致性。JSON 模式和工具使用對於構建健壯的應用程式至關重要。它們確保 API 與您的應用程式之間可靠地交換數據。

• JSON 模式強制執行結構化輸出。
• 工具使用可啟用外部函式呼叫。
• 參數控制回應的變異性。

資料隱私：推論供應商是否使用您的提示進行訓練？

隱私是許多開發者關注的重點。我們的 API 不會將提示用於訓練。帳戶只需電子郵件即可建立，確保了最少的資料收集。這對於重視隱私的使用者來說非常理想。

大多數推理供應商可能會將數據用於訓練或改進。我們的設計旨在將您的數據保持獨立。模型運行在我們自己的伺服器上，降低了第三方數據訪問的風險。這確保了您的提示詞保持私密。

對於敏感應用程式，這種程度的隱私至關重要。您可以放心，您的資料不會被用於改進其他模型。對未成年人內容的嚴格限制是唯一的過濾器。其餘一切由您決定。