精彩小说尽在零点看书网!

零点看书网 > 都市 > KingFlow AI Claude中转站 Elixir Req 接入教程

KingFlow AI Claude中转站 Elixir Req 接入教程

KingFlow AI Claude中转站 Elixir Req 接入教程

佚名 著

都市连载

KingFlow AI Claude中转站 Elixir Req 接入教程 完成 JSON 请求 SSE 流式解析 超时控制 有限重试与并发门限 KingFlow AI 提供 OpenAI 与 Anthropic 兼容接口。本文使用 Elixir 与 Req 0.7.5,通过 OpenAI 兼容的 Chat Completions 端点完成普通 JSON 请

主角:   更新:2026-11-16 16:49:22

继续看书

扫描二维码手机上阅读

二维码
  • 读书简介
  • 免费章节在线阅读

男女主角分别是的都市小说《KingFlow AI Claude中转站 Elixir Req 接入教程》,由网络作家“佚名”所著,讲述一系列精彩纷呈的故事,本站纯净无弹窗,精彩内容欢迎阅读!小说详情介绍:KingFlow AI Claude中转站 Elixir Req 接入教程 完成 JSON 请求 SSE 流式解析 超时控制 有限重试与并发门限 KingFlow AI 提供 OpenAI 与 Anthropic 兼容接口。本文使用 Elixir 与 Req 0.7.5,通过 OpenAI 兼容的 Chat Completions 端点完成普通 JSON 请

《KingFlow AI Claude中转站 Elixir Req 接入教程》精彩片段

KingFlow AI Claude中转站 Eli**r Req 接入教程

完成 **ON 请求 SSE 流式解析 超时控制 有限重试与并发门限

KingFlow AI 提供 OpenAI 与 Anthropic 兼容接口。本文使用 Eli**r 与 Req 0.7.5,通过 OpenAI 兼容的 Chat Completions 端点完成普通 **ON 请求、SSE 流式解析、连接与响应超时、针对 429 和 503 的有限重试,以及 Task.async_stream 并发门限。

Claude中转、Claude中转站、API中转和API中转站的实际接入均需核对协议与模型权限。

内容核验日期 2026-11-16

Elixir Req 接入 KingFlow AI 三维架构

常用接入术语

名称常见含义接入提示
Claude中转把请求转发到已开通的 Claude 模型先确认协议和模型权限
Claude中转站统一管理密钥 额度 路由和兼容接口可按 OpenAI 或 Anthropic 协议接入
API中转通过统一接口转发模型请求Eli**r 可直接发送 **** **ON
API中转站提供端点 模型和用量管理的服务正式环境需限制超时 并发和重试

Eli**r 请求链路

环节职责注意事项
业务进程组织 messages 与模型参数先限制输入长度
Req Request合并 *ase **L 认证和请求选项集中构建并复用配置
Finch 适配器管理连接池并执行 ****S 请求保留证书校验
SSE 解析器跨网络块拼接事件按空行切分并识别 DONE
KingFlow AI认证密钥并路由目标模型OpenAI 兼容路径保留 v1
Task Stream限制批量任务并发设置 **x_concurrency 与 timeout

采用 Req 的优势

  • Req 内置 **ON 编码、响应**、认证、重试和流式回调,接入代码可以保持紧凑。
  • Req 默认通过 Finch 管理连接池,应用无需为每个请求手动创建底层连接。
  • connect_options、receive_timeout 与 request_timeout 分别覆盖建连、接收等待和总请求时长。
  • into 回调会逐块接收响应体,配合保存在 Response private 字段中的缓冲区可以解析 SSE。
  • Task.async_stream 直接提供 **x_concurrency、单任务 timeout 和超时处理策略。

接入前准备

  • 安装 Eli**r 与 Mix,并确认 eli**r、iex 和 mix 命令可用。
  • 在 KingFlow AI 控制台创建以 sk- 开头的 API Key,并确认余额或套餐额度。
  • 从控制台复制完整模型 ID,不要根据展示名称自行拼写。
  • 确认运行环境可以访问 api.**nju**shen.com 的 ****S 端口。
  • 为开发、测试和生产准备不同密钥,避免环境之间共享凭据。

创建 Mix 项目

mix new kingflow_req --sup
cd kingflow_req
defp deps do
  [
    {:req, "~> 0.7.5"},
    {:jason, "~> 1.4"}
  ]
end

# 保存 mix.exs 后执行
mix deps.get

配置环境变量

$env:KINGFLOW_*ASE_**L="https://api.**nju**shen.com/v1"
$env:KINGFLOW_API_KEY="sk-你的密钥"
$env:KINGFLOW_MODEL="<KingFlow控制台中的完整模型ID>"

验证基础接口

curl https://api.**nju**shen.com/v1/chat/completions `
  -H "Authorization: *earer sk-你的密钥" `
  -H "Content-Type: application/json" `
  -d '{"model":"<完整模型ID>","messages":[{"role":"user","content":"只回复 ELIXIR_READY"}],"stream":false}' 

创建共享客户端

defmodule KingFlow.****** do
  defp env!(name) do
    case ******.get_env(name) do
      nil -> raise "缺少环境变量 #{name}"
      value when value == "" -> raise "环境变量 #{name} 为空"
      value -> String.trim(value)
    end
  end

  def new do
    *ase = env!("KINGFLOW_*ASE_**L") |> String.trim_trailing("/")

    Req.new(
      *ase_url: *ase <> "/",
      auth: {:*earer, env!("KINGFLOW_API_KEY")},
      headers: [{"accept", "application/json"}],
      connect_options: [timeout: 10_000],
      receive_timeout: 60_000,
      request_timeout: 90_000,
      retry: false
    )
  end

  def model, do: env!("KINGFLOW_MODEL")
end

发送普通响应请求

payload = %{
  model: KingFlow.******.model(),
  messages: [%{role: "user", content: "只回复 ELIXIR_CONNECTED"}],
  stream: false
}

case Req.post(KingFlow.******.new(), url: "chat/completions", json: payload) do
  {:ok, %{status: status, *ody: *ody}} when status in 200..299 ->
    text = get_in(*ody, ["choices", Access.at(0), "message", "content"])
    if is_**nary(text), do: IO.puts(text), else: raise("响应缺少文本字段")

  {:ok, response} ->
    raise "**** #{response.status}: #{inspect(response.*ody)}"

  {:error, exception} ->
    raise exception
end

解析 SSE 流式响应

defmodule KingFlow.SSE do
  @state_key :kingflow_sse_state

  def stream(prompt) do
    payload = %{
      model: KingFlow.******.model(),
      messages: [%{role: "user", content: prompt}],
      stream: true
    }

    into = fn {:**ta, chunk}, {request, response} ->
      state = Req.Response.get_private(response, @state_key, %{*uffer: "", done: false})
      {events, *uffer} = split_events(state.*uffer <> chunk)

      done =
        Enum.reduce(events, state.done, fn event, done? ->
          case event_**ta(event) do
            nil -> done?
            "[DONE]" -> true
            json -> print_delta(json); done?
          end
        end)

      response = Req.Response.put_private(response, @state_key, %{*uffer: *uffer, done: done})
      {:cont, {request, response}}
    end

    case Req.post(KingFlow.******.new(),
           url: "chat/completions",
           json: payload,
           into: into,
           decode_*ody: false,
           retry: false,
           receive_timeout: 60_000,
           request_timeout: 300_000) do
      {:ok, response} when response.status in 200..299 ->
        state = Req.Response.get_private(response, @state_key, %{})
        if state[:done], do: :ok, else: {:error, :missing_done}
      {:ok, response} -> {:error, {:http, response.status}}
      {:error, exception} -> {:error, exception}
    end
  end

  defp split_events(**ta) do
    nor**lized = **ta |> String.replace("\r\n", "\n") |> String.replace("\r", "\n")
    parts = String.split(nor**lized, "\n\n")
    {Enum.drop(parts, -1), List.last(parts) || ""}
  end

  defp event_**ta(event) do
    values =
      event
      |> String.split("\n")
      |> Enum.filter(&String.starts_with?(&1, "**ta:"))
      |> Enum.**p(&(&1 |> String.replace_prefix("**ta:", "") |> String.trim_leading()))
    if values == [], do: nil, else: Enum.join(values, "\n")
  end

  defp print_delta(json) do
    with {:ok, **ta} <- Jason.decode(json),
         text when is_**nary(text) <- get_in(**ta, ["choices", Access.at(0), "delta", "content"]) do
      IO.write(text)
    else
      _ -> :ok
    end
  end
end

配置有限重试

retry? = fn _request, result ->
  case result do
    %Req.Response{status: status} when status in [429, 503] -> true
    %Req.TransportError{reason: reason} when reason in [:timeout, :econnrefused, :closed] -> true
    _ -> false
  end
end

req = Req.merge(KingFlow.******.new(),
  retry: retry?,
  **x_retries: 2,
  retry_delay: fn attempt -> min(8_000, 500 * Integer.pow(2, attempt)) end,
  retry_log_level: :warning
)

# POST 可能被重复执行。只有业务允许重复请求时才启用此配置。

限制批量任务并发

prompts = ["任务一", "任务二", "任务三", "任务四"]

prompts
|> Task.async_stream(
  fn prompt ->
    payload = %{
      model: KingFlow.******.model(),
      messages: [%{role: "user", content: prompt}],
      stream: false
    }
    Req.post(KingFlow.******.new(), url: "chat/completions", json: payload)
  end,
  **x_concurrency: 4,
  ordered: false,
  timeout: 120_000,
  on_timeout: :kill_task
)
|> Enum.each(fn
  {:ok, {:ok, response}} -> IO.puts("**** #{response.status}")
  {:ok, {:error, exception}} -> IO.warn(Exception.message(exception))
  {:e**t, reason} -> IO.warn("任务退出 #{inspect(reason)}")
end)
Req Client 生产治理三维图
图二 Req ****** 的 **ON、SSE、超时、有限重试、Task 并发与监控。AI 生成示意图。

运行和验收

  1. 设置三个环境变量,并确认 *ase **L 没有重复的 v1 或斜杠。
  2. 先执行 curl,确认返回 ELIXIR_READY。
  3. 创建 Mix 项目并安装 Req 0.7.5 与 Jason。
  4. 保存共享客户端与普通请求示例,执行 mix for**t 和 mix compile。
  5. 运行程序,确认普通响应返回 ELIXIR_CONNECTED。
  6. 加入 SSE 解析器,确认文本持续输出并以 DONE 正常结束。
  7. 模拟 429 和 503,确认最多额外重试两次。
  8. 用少量任务验证 **x_concurrency 和单任务超时。
  9. 在 KingFlow AI 控制台核对模型、调用次数和 Token 用量。
检查点预期结果判断依据
基础接口返回 ELIXIR_READY端点 密钥和模型可用
普通响应返回 ELIXIR_CONNECTED**ON 请求与解析正常
流式响应文本按事件增量输出缓冲区与 DONE 正常
超时建连 接收和总时长分别受控错误可以区分
有限重试总请求次数最多三次只覆盖明确状态和传输错误
并发门限同时运行任务不超过四个Task Stream 配置生效

正式环境配置

  • 在**树中启动应用并复用 Req 默认 Finch 连接池,避免每次请求启动新的池。
  • connect_options 控制建连,receive_timeout 控制接收等待,request_timeout 控制请求总时长。
  • SSE 解析必须保留跨块缓冲,不能把一次 into 回调当成一个完整事件。
  • 流式输出已经交付后不要自动从头重试,否则用户可能看到重复片段。
  • POST 重试只用于允许重复执行的模型请求;有外部副作用时关闭重试或增加幂等控制。
  • 记录请求 ID、模型、状态码、耗时、重试次数和 Token 用量,不记录完整密钥与敏感原文。

密钥和数据安全

  • API Key 只保存在环境变量、密钥管理器或部署平台 Secret 中,并定期轮换。
  • 不要关闭 TLS 证书校验,也不要在错误日志中输出 Authorization Header。
  • 把模型输出视为不可信数据,写入页面、命令或数据库前执行校验与转义。
  • 为各环境设置独立密钥和额度,发生泄露时只吊销受影响的凭据。

上线检查清单

  • 基础 curl 请求已经返回 ELIXIR_READY。
  • KINGFLOW_*ASE_**L 为 https://api.**nju**shen.com/v1。
  • KINGFLOW_MODEL 使用控制台中的完整模型 ID。
  • 源码和日志中没有明文 API Key。
  • 应用复用 Req 默认 Finch 连接池。
  • 建连、接收和总请求超时已经分别设置。
  • SSE 解析保留跨块缓冲并识别 **ta 与 DONE。
  • Task.async_stream 限制了并发和单任务时长。
  • POST 重试边界已经评估,最多额外重试两次。
  • 控制台中的调用次数和 Token 用量符合预期。

常见故障排查

现象常见原因处理方法
返回 401密钥错误 停用或额度异常核对 sk- 密钥和控制台状态
返回 404模型 ID 或路径错误保留 v1 并复制完整模型 ID
返回 429请求频率或额度受限降低并发并按 Retry After 退避
返回 503模型通道暂不可用稍后有限重试或切换已开通模型
接收超时事件间隔超过 receive_timeout按真实响应间隔调整
流式 **ON 破碎把网络块当成完整事件跨回调保留 *uffer 并按空行切分
响应被重复流式输出后从头重试流式请求显式设置 retry false
任务大量堆积并发门限过高或入口**限制 **x_concurrency 和入口数量

最小上线策略

  • 先用一个模型和四个以内并发任务上线,确认错误率、延迟与 Token 用量后再逐步扩大流量。
  • 把模型 ID、并发门限和超时放在集中配置层,避免散落在业务代码中。
  • 为 401、404、429、503、超时和重试耗尽分别设置指标,告警保留请求 ID。
  • 发布前保存上一版配置与可运行构建,连续错误或延迟异常时可以快速回滚。
  • 每次更换模型、额度方案或重试策略后,重新执行普通响应、SSE 和并发验收。
API Key 和模型 ID 均为占位示例。请替换为自己的配置,并先在测试环境验证。