curl https://babelmesh.ai/v1/chat/completions \ -H "Authorization: Bearer $BABEL_KEY" \ -H "Content-Type: application/json" \ -d '{ "model": "auto", "messages": [{"role": "user", "content": "Explain a hash ring"}] }' 网关会选好模型，再选一个合适的节点。
下面的图片和视频就是在这个网络上生成的。
选 auto，请求只会被读取，不会被保存：简短的问题交给快速模型，代码交给代码模型，难题交给最强的模型。
client = OpenAI(base_url="https://babelmesh.ai/v1",
api_key="sk-fab-...")
client.chat.completions.create(
model="auto", stream=True,
messages=[{"role": "user", "content": "..."}])一句话，一张图。
把文本变成向量，用于搜索和检索，用的是能在普通 CPU 上运行的小模型。
curl https://babelmesh.ai/v1/embeddings \
-H "Authorization: Bearer $BABEL_KEY" \
-d '{"model": "embedding-default",
"input": ["a lighthouse at dawn"]}'短视频在后台生成。需要几分钟，完成后文件就可以保存。
你的应用带着密钥调用 API，和其他兼容 OpenAI 的服务一样。
网关挑一个合适的节点：看模型、提示词的长度和当前负载。
节点运行模型，并把答案通过网关流式送回来。
双方对回执签名，还会把一部分结果重新计算一遍来核对。
NVIDIA、AMD、Intel 或苹果芯片。你不在的时候，它负责处理聊天、代码、图像和视频。
没有可用的 GPU？可以借出 CPU 来跑小模型和嵌入，只会用大约一半的线程。
计划中：把模型文件存放在离需要的人更近的地方，按你提供的字节数获得积分。
用量以积分计费：文本和嵌入按词元，图像按张，视频按秒。共享算力也可以赚取积分。
处理你请求的节点能读到请求，但看不到你是谁。Babel Mesh 不保存对话，记账回执里只有哈希和用量。只有触发内容规则的请求，才会留下命中处前后的一小段摘录。不要发送密码、身份证号或其他敏感材料。详见安全页面。
请求分散在许多独立的机器上。你不用租下整台机器，也不用搭环境，用多少付多少。提供的是模型推理，而不是单纯的 GPU 租赁。
装有 NVIDIA（CUDA）或 AMD、Intel（Vulkan）显卡的 Windows 和 Linux（x86-64），以及苹果芯片的 Mac（Metal）。没有可用显卡的电脑可以共享处理器。客户端正在准备中。