Umbra
OpenAI-compatible API for models nobody else hosts
评分 62 ▲ 6 ◆ 2 付费
概述
Umbra 是一个 OpenAI 兼容的 API 平台，通过聚合 Apple Silicon 设备主的算力，为那些没有官方托管 API 的开源权重模型提供按 token 计费的推理服务。
创新点
利用闲置的 Apple Silicon 设备构成分布式推理网络，填补主流云服务商不托管的长尾开源模型空白，供应侧门槛低且具备去中心化特征
目标用户
需要调用小众开源模型的 AI 开发者，以及拥有 Apple Silicon Mac 并希望出租算力的个人用户
竞争格局
竞争格局较复杂：Replicate、Together AI、Fireworks AI 均提供开源模型托管，but 覆盖的模型范围有限；Ollama/llama.cpp 是本地部署替代方案；直接竞争者尚少，但头部平台随时可扩展模型支持
标签
API平台开发者工具AI推理开源模型分布式计算开发者
团队
- Thomas Suen — storyteller
相关产品
Claude Fable 5 91
Anthropic's most capable model ever — free until June 22
GPT-5.6 88
A new standard for intelligence and efficiency
Glaze by Raycast 85
Create your own Mac apps by chatting with AI
Clark 82
An AI coworker with its own cloud computer
Kimi K3 82
The world's first open 3T-class model
Kimi K3 82
The world's first open 3T-class model