通过 OpenRouter 同时运行 4 个模型

并行模型背后的架构

为了提供快速且一致的多模型评估体验，Nousaxis 采用了 OpenRouter。

为什么选择 OpenRouter？

与其分别管理各个 API 网关和连接，OpenRouter 充当统一枢纽，让我们能在数秒内同时查询四个主流模型。

并行处理如何运作

• 分发：用户提示会拆分为面向不同模型的异步流式请求。
• 独立数据流：某个模型的延迟绝不会阻塞其他模型。
• 统一上下文：一轮结束后，回复会被收集起来，并可在后续回合中复用。