推理 API：成本与权衡

LLM 推理

为什么“无审查”比标准推理 API 成本更高

无审查模型通常需要更多的计算资源来在不使用过滤层的情况下保持质量。标准推理 API 应用安全过滤器以减少令牌处理的复杂性。移除这些过滤器意味着模型必须处理更广泛的提示，包括小众或显式内容。如果未正确调整，这会增加生成低质量或重复文本的风险。

我们的无审查 LLM 在专用服务器上运行，以确保一致的性能。我们收取输入令牌每 1M $0.15 和输出令牌每 1M $0.50 的费用。此定价反映了提供原始、无过滤模型的服务成本。您无需为多模型路由或安全基础设施的开销付费。

因对未成年人内容的硬性限制导致的错误和拒绝是免费的。这确保您只为成功的令牌生成付费。abliterated 模型经过调整，可在合法成人使用中无拒绝地回答。它不基于主观内容指南进行过滤。

上下文窗口现实：100k 令牌 vs. 实际使用

100,000 token 的上下文窗口允许保留大量对话历史而无需截断。这对于需要长期记忆的角色扮演应用至关重要。然而，大多数实际用例的请求很少超过 16,000 个 token。每次请求的最大输出为 16,000 个 token，如果未设置 max_tokens，则默认为 2,048 个 token。

使用完整的上下文窗口会增加延迟和成本。上下文中的每个 token 都会增加处理时间。对于大多数聊天机器人来说，较小的上下文更高效。您可以通过总结旧消息或截断历史记录来管理内存。

该 API 通过 SSE 支持流式传输，从而改善感知性能。Token 使用情况包含在最后一个 chunk 中。这允许您实时跟踪成本。调整上下文窗口大小取决于您应用程序的具体需求。

• 输入令牌计入 100k 限制。
• 输出 token 每次请求上限为 16,000。
• 流式传输为用户提供即时反馈。

加密货币专属支付：隐私与便利的权衡

加密货币支付提供匿名性并减少数据收集。我们接受 TRC20 上的 USDT 和 Base 上的 USDC。充值范围为 $20 到 $500 的整金额。积分永不过期，因此您可以随时方便地充值。这对于偏好隐私的开发者来说是理想选择。然而，手动充值比自动支付需要更多精力。

注册仅需邮箱或 Google 账号。无需手机号。$0.50 的试用额度有效期为 7 天。错误和退款通过支持页面处理。余额不会退还，但重复扣款等错误会修复。

“单一模型”策略与多模型路由器

多模型路由器提供多样性，但引入了延迟和复杂性。它们根据可用性或成本将请求路由到不同的模型。这可能导致响应不一致和更高的开销。单一的无审查模型提供直接、无限制的端点。它专门针对成人内容进行了调整，没有路由逻辑的干扰。

我们的 API 提供 ID 为 'uncensored' 的单一模型。它是一个在我们自己服务器上运行的开源模型。它不是 GPT、Claude 或其他任何供应商的模型。这种简单性确保了可预测的性能。你无需管理多个 API 密钥或模型参数。

路由增加了一层抽象，可能会减慢响应速度。直接访问模型可降低延迟。对于 NSFW 聊天机器人，一致性比多样性更重要。单一模型可确保一致的语气和风格。

处理高流量 NSFW 应用的速率限制

速率限制可防止服务器过载并确保公平使用。我们的 API 允许每个密钥每分钟 300 次请求。每个密钥可以同时处理 8 个请求。请求体限制为 8 MB。这些限制足以满足大多数高流量应用。

如果您超出速率限制，将收到 429 错误。实现指数退避以处理重试。使用多个 API 密钥可以提高吞吐量，但每个账户每个密钥限制为一个活跃密钥。您可以将旧密钥替换为新密钥。

监控使用情况可避免意外中断。API 在最后一个流式响应块中提供令牌使用情况。这使您可以实时跟踪速率限制使用情况。根据这些限制调整应用程序的请求频率。

流式与非流式：对用户体验的影响

流式传输通过显示生成的文本提供更好的用户体验。这降低了感知延迟，尤其是对于长响应。API 支持通过 Server-Sent Events (SSE) 进行流式传输。Token 用量包含在最后一个数据块中。

非流式传输等待整个响应发送后才发送。这可能导致复杂提示的长时间等待。流式传输允许用户在模型仍在思考时开始阅读。这对于交互式应用至关重要。

实现流式传输需要正确处理 SSE 格式。API 提供了流式传输所需的所有参数。使用官方 OpenAI SDK 或任何兼容的客户端即可启用流式传输。

流式传输还有助于速率限制管理。如果用户改变主意，您可以提前停止响应。这节省了 token 并降低了成本。非流式传输不提供这种灵活性。

JSON 模式与工具使用：角色 AI 应用的关键

JSON 模式可确保结构化响应，这对于在应用程序中解析数据至关重要。API 支持 response_format json_object。这会强制模型输出有效的 JSON。它减少了下游处理中的错误。

工具使用允许模型调用函数。这对于需要与外部系统交互的角色扮演 AI 应用非常有用。API 支持带有工具和 tool_choice 的函数调用。您可以为模型定义自定义函数。

温度、top_p 和 seed 等参数允许您控制随机性。这有助于保持角色响应的一致性。JSON 模式和工具使用对于构建健壮的应用程序至关重要。它们确保 API 与您的应用之间可靠的数据交换。

• JSON 模式强制执行结构化输出。
• 工具使用支持外部函数调用。
• 参数控制响应的可变性。

数据隐私：推理提供商是否使用您的提示进行训练？

隐私是许多开发者关注的关键问题。我们的 API 不会将提示词用于训练。注册账户只需电子邮件，确保最小化数据收集。这对于重视隐私的用户来说非常理想。

大多数推理提供商可能会将数据用于训练或改进。我们的设计是将你的数据保持独立。模型运行在我们自己的服务器上，降低了第三方数据访问的风险。这确保了你的提示保持私密。

对于敏感应用，这种隐私级别至关重要。你可以放心，你的数据未被用于改进其他模型。对未成年人内容的硬性限制是唯一应用的过滤器。其余由你决定。