团队
twinny 对个人免费且开源,并将一直如此。团队多得到一样东西:网关。它是一个小型服务器(twinny-server),运行在放置模型的机器上,为每位开发者的 VS Code 提供对话、自动补全和嵌入,整个团队共用一台 GPU 机器,而不是各自运行模型。
开发者的笔记本 你的 GPU 机器 ┌──────────────────┐ ┌─────────────────────────────────────┐ │ VS Code + twinny │ ─── HTTPS ───────► │ twinny-server ──► Ollama / llama.cpp │ │ (个人密钥) │ │ 密钥 · 用量 · 管理页面 · 许可证 │ └──────────────────┘ └─────────────────────────────────────┘你得到什么
- 代码不出楼。 提示只发往你的网关及其后端,别无他处。网关不向 twinny 发送任何东西;它只调用你配置的后端,以及你开启的插件所对接的服务(你的代码托管平台、你的 webhook、你的存储桶、你的身份提供者)。提示中的凭据在到达另一台机器上的后端之前会被替换为占位符。
- 每位开发者一把密钥。 密钥在管理页面或命令行上创建和撤销,无需重启即生效,并以哈希形式存储。
- 按人、按模型统计用量。 请求数、失败数和 token 数,保留时长由你决定。只有在你开启记录时才保留内容,而且每位开发者都会被告知。
- 团队只需连接一次。 开发者打开邀请链接,或输入网关地址和自己的密钥,只做一次;管理员为对话、自动补全和嵌入设置的默认模型会自动应用。
- 管理页面。 后端健康状况、用量图表、密钥、提供者与模型、插件和套餐,都在浏览器中。开发者用自己的密钥登录,使用你共享给他们的插件。
- 审计记录。 每一次管理变更都写入可验证、可导出的哈希链式审计日志;管理员密钥可以设为只读;
/metrics提供 Prometheus 指标。
套餐
| Free | Team | Enterprise | |
|---|---|---|---|
| 开发者(活跃密钥) | 最多 5 位 | 免费的 5 位,加上你购买的席位 | 50 位起 |
| 以上全部 | 有 | 有 | 有 |
| 团队策略:仅限团队的提供者、锁定的默认值、路由规则、团队系统提示 | 无 | 有 | 有 |
| 记录:保留对话、自动补全和嵌入内容;审阅;导出训练数据 | 无 | 有 | 有 |
| 插件:由你自己的模型审查 GitHub、GitLab、Gitea 和 Bitbucket 的拉取请求与议题;Slack、Discord 和 Teams 通知;SSO 登录;共享上下文;备份 | 无 | 有 | 有 |
| 覆盖的网关 | 一个 | 每份许可证一个 | 任意数量,一份组织许可证 |
| 支持 | 社区(GitHub discussions) | 邮件 | 优先支持,有指定联系人 |
| 运行在哪里 | 你的机器 | 你的机器 | 你的机器 |
| 费用 | 永久免费 | 免费 5 位之外每席位每月 $6,按年计费 | 每席位每月 $10,按年计费 |
席位即一把活跃密钥。免费套餐不是试用:五人团队无需许可证即可无限期运行网关,网关的全部功能都可用:管理页面、按开发者统计的用量、密钥、邀请链接、团队 GPU 共享、在线修改提供者配置、审计日志和指标。超过五人后,来自 twinny 的许可证令牌提高席位数,并开启策略、记录和插件。令牌安装一次,本地校验;网关从不回连。Enterprise 增加一份覆盖整个组织的许可证、来自指定联系人的优先支持,以及发票或采购订单付款。见许可与席位。
从哪里开始
完整的运维参考,包括配置字段、路由、作为服务运行和故障排除,在仓库的 docs/gateway.md。