New API 如何支持模型输入缓存

[chiangzi]

研发内部搭建了一个New API平台，要对接Deepseek 官方模型（使用一个deepseek 官方 key）
请问，研发内部基于New API平台的分发的多个key，提交的大模型请求是否能够支持官方的输入token 缓存机制，从而减低费用？
如果默认不支持，该如何配置才能让不同的开发采用New API 接入并转发给 deepseek 官方的请求，支持输入缓存，来减低总费用。

[Calcium-Ion]

如果你只是一个deepseek的key接到你的渠道，那么是可以正常触发缓存的，和直接使用deepseek的key没有区别，如果多个deepseek的key轮询，很难触发缓存

[chiangzi]

多谢回答， 回头我们试试
不知道多人共享一个 deepseek key ， 缓存命中率是否会下降？
我一个人独占一个 deepseek key, 用roocode进行coding， 缓存命中率非常高。 消费 3百万+ 的token，采用 deepseek 官方v3.2 exp模型 ，只需要 0.7~0.8 元，而百炼的deepseek v3.2 exp 消费同样token，则需要 6 元多。 成本降低很多啊。