托管 API

托管 API 让你无需硬件就能使用大模型。twinny 把它们当作普通提供者；区别在于你的代码会发送给供应商，并按 token 付费。密钥随提供者保存在 VS Code 存储中，并会从 twinny 的日志中脱敏。

与托管 API 的对话通过供应商的 SDK 发往其固定端点，因此主机名、端口和路径字段被隐藏。补全和嵌入（如果提供）是发往供应商路由的普通 HTTP 请求。

各家能做什么

提供者	对话	自动补全（FIM）	嵌入	获取密钥
OpenAI	✓		✓ `/v1/embeddings`	platform.openai.com
Anthropic	✓			console.anthropic.com
Mistral	✓	✓ Codestral `/v1/fim/completions`		console.mistral.ai
DeepSeek	✓	✓ `/beta/completions`		platform.deepseek.com
OpenRouter	✓	✓ `/api/v1/completions`		openrouter.ai
Gemini	✓			aistudio.google.com
Groq	✓			console.groq.com
Cohere	✓			dashboard.cohere.com
Perplexity	✓			perplexity.ai/settings/api

Anthropic、Groq、Cohere、Perplexity 和 Gemini 仅支持对话：它们没有 twinny 可以用 fill-in-the-middle 提示驱动的 completions 端点。表单不允许为它们创建自动补全提供者。

在智能体模式中，只要 SDK 支持，工具就通过供应商自己的工具调用传递（OpenAI、Anthropic、Gemini、Mistral、Groq、OpenRouter）；带工具的 OpenAI 对话使用其 Responses API（/v1/responses）。Perplexity 则被要求把工具调用写在回复中。

预设

添加提供者 → 托管 API 列出各家及可修改的默认模型名称：

提供者	默认对话模型	说明
OpenAI	`gpt-4.1`	嵌入预设使用 `text-embedding-3-small`
Anthropic	`claude-sonnet-4-20250514`
DeepSeek	`deepseek-chat`	补全使用同一密钥和 `/beta/completions`；`deepseek-coder` 模型可用于 FIM
Gemini	`gemini-2.5-pro-preview-05-06`
Groq	`llama-3.3-70b-versatile`	非常快；适合用开源模型对话
Mistral	`mistral-small-latest`	Codestral 预设（`codestral-latest`）是推荐的托管自动补全模型
OpenRouter	`openai/gpt-4.1`	一个密钥用数百个模型；名称为 `vendor/model`
Cohere	`command-r-plus`
Perplexity	`llama-3.1-sonar-small-128k-online`	回答可包含网页搜索结果

供应商发布新模型时名称会变化；以供应商文档列出的为准。twinny 在发出请求前不会校验托管模型名称，名称错误会返回模型未找到错误。

用 Codestral 做补全

Mistral 的 Codestral 经过 fill-in-the-middle 训练，并在专用 FIM 端点提供服务，因此是 twinny 推荐的唯一托管自动补全选项：

添加提供者 → 自动补全 → Codestral。
粘贴 Mistral API 密钥。视套餐而定，Codestral 可能需要 Mistral 控制台 Codestral 区域的单独密钥。
FIM 模板已预设为 codestral。

延迟受网络限制，建议会比本地模型稍晚到达。

混用本地与托管

常见配置：本地 1.5B 模型做补全（快、私密、免费，足以补全接下来几行），托管模型做对话、审查和编辑。每项工作的当前提供者相互独立，无需切换。

隐私与费用

请求中的一切都会发给供应商：提示、附加的文件、@workspace 结果、审查 diff。不要把托管提供者用于不可共享的代码。
密钥防护（secret shield）会在请求离开你的机器之前，把提示中的 API 密钥、令牌、私钥和密码替换为 REDACTED_GITHUB_TOKEN_1 这样的占位符，并在回复用到它们的地方换回原值。它覆盖对话、补全、内联编辑和嵌入，对托管 API 默认开启；twinny.secretShield 决定何时运行（见设置）。起作用时，对话回复会显示 N secrets withheld。
补全在每次输入停顿时都会发请求。使用托管自动补全提供者时累积起来不少；留意供应商的用量页面，或调高 twinny.debounceWait。
除你配置的供应商外，twinny 不向任何人发送任何内容，也完全不向 twinny 的作者发送。