JetBrains 控费与 AWS 模型生态演进实录
JetBrains 控费与 AWS 模型生态演进实录
核心事件与技术背景
开发侧 AI 支出在半年内激增约十倍(InfoQ),迫使 JetBrains 调整内部策略。公司不再单纯限制工程师使用工具集,而是转向构建共享访问与会计层架构。该架构旨在保留团队工具自主选择权的同时,赋予管理层更高的消费可见度与控制力。
在云基础设施侧,AWS What’s New(链接)宣布将 langcache-embed-v3-small、Mellum2_12B_A2.5B_Thinking(注意命名规范为下划线连接)及 LightOnOCR-2-1B 模型接入 SageMaker JumpStart。这三款模型分别覆盖语义缓存优化、代码推理及端到端文档 OCR,扩展了 AWS 客户可部署的基础模型组合。
关键信息
JetBrains:共享计费层架构逻辑
JetBrains 的解决方案核心在于解耦权限管理与成本核算。通过中间件拦截请求并记录 Token 消耗是典型实现路径。以下伪代码展示了如何通过 API Gateway 或自定义 Middleware 实现消费计量与账单生成。
python
概念性架构图解:共享访问层逻辑流
class AIUsageMeter: def init(self, billing_endpoint): self.billing_endpoint = billing_endpoint
async def intercept_request(self, request_context):
# 1. 识别请求来源与工具类型 (保留选择权)
tool_id = request_context.get('tool_identifier')
# 2. 记录 Token 消耗量 (核心成本数据)
token_count = await self.count_tokens(request_context.response_body)
cost_estimate = token_count * unit_price
# 3. 写入共享会计层数据库
await db.insert_record({
'team_id': request_context.team,
'tool_used': tool_id, # 允许使用任意工具,非白名单制
'cost_delta': cost_estimate
})
async def generate_bill(self):
# 聚合各团队消费数据生成账单
pass
此架构避免了“一刀切”的工具封锁,转而通过精细化计量实现成本透明化。InfoQ(链接)指出该层旨在给团队带来更大可见性。
AWS SageMaker JumpStart:模型接入标准化实践
AWS 此次更新引入了 JetBrains’ Mellum2_12B_A2.5B-Thinking(官方命名规范为 Mellum2_12B_A2.5B_Thinking,见 URL)。
模型能力矩阵:
- langcache-embed-v3-small: 专注于语义缓存优化,提升检索效率。
- Mellum2_12B_A2.5B_Thinking: JetBrains 出品,侧重代码推理与逻辑构建。注意此处必须使用下划线
_连接符以匹配 SageMaker API 调用规范,避免部署失败。 - LightOnOCR-2-1B: LightOn 贡献模型,提供端到端文档 OCR 能力。
这些模型直接集成至 JumpStart 目录,允许客户在 AWS 基础设施上快速部署高性能 AI 方案。根据 AWS What’s New 报道,这些模型扩展了基础模型组合。
参考来源
- JetBrains Details Its First Steps to Bring Rapidly Growing AI Spend Under Control - InfoQ
- Thinking of ACE? We Can Do It with Fewer Tokens - Hugging Face
- OpenAI reportedly completed a $7 billion employee tender offer - TechCrunch AI
- langcache-embed-v3-small, Mellum2-12B-A2.5B-Thinking, and LightOnOCR-2-1B models now available on Amazon SageMaker JumpStart - AWS What’s New