APIs de modelos compartilhados

Ainda não aberto. Veja como vai funcionar. Números e regras ainda podem mudar antes da abertura.

Usando um modelo compartilhado

O nome do modelo é api/<name>. Ele é listado separadamente dos nossos modelos.
Concorde primeiro. Essas solicitações são tratadas pela conta de outra pessoa e pelo serviço de origem dela, que podem ler seu prompt. Você pode concordar para a conta inteira ou só para uma solicitação.
Somente conteúdo público. Solicitações de nível mais alto são recusadas, não encaminhadas. Contas de teste gratuito não podem usar modelos compartilhados.
Cobrado pelo preço do modelo. Se o uso informado pelo provedor não corresponder ao tamanho do texto, cobramos uma estimativa, assim você nunca paga por tokens que não existiram.
Quando nenhum provedor está disponível, você recebe «nenhum modelo assim» ou «nenhum provedor pode responder agora», e nada é cobrado.

Você precisa de uma conta completa, de um serviço de origem compatível com a API da OpenAI e da sua própria chave de origem.
Execute o programa do provedor no seu próprio computador. Ele se conecta para fora à Babel Mesh, então nenhuma porta precisa ser aberta. Pare-o quando não quiser compartilhar.
Sua chave de origem fica no seu computador. O programa a usa apenas nas solicitações para a sua origem. Ela não é registrada em log e nunca é enviada à Babel Mesh. As solicitações que recebemos não trazem a identidade de quem pediu.
Defina um limite diário. Quando ele é atingido, o programa para de aceitar trabalho e recomeça no dia seguinte.
Declare a faixa do modelo com honestidade. As faixas são verificadas, e uma declaração inflada é detectada.

Um modelo novo começa em teste. Durante o teste, ele recebe apenas perguntas de verificação, geradas por um programa e corrigidas automaticamente.
As solicitações reais só chegam depois que ele passa, e perguntas de verificação continuam sendo misturadas de tempos em tempos.
Um modelo flagrado fingindo é isolado. Ele não recebe mais solicitações reais, e os ganhos ainda retidos são perdidos.
Algumas simulações são difíceis de notar. Se uma origem trocar silenciosamente um modelo por outro da mesma faixa, não podemos garantir que vamos perceber.

O provedor fica com uma parte do que é pago, 60% por padrão. Isso pode ser ajustado.
Os ganhos ficam retidos por 72 horas antes de ficarem disponíveis. Se o modelo for isolado durante a retenção, esses ganhos são perdidos.
Os ganhos disponíveis vão para os créditos da sua conta.

Provedores e a origem deles podem ler o que você envia. Não envie senhas, números de documentos, segredos comerciais ou dados pessoais privados por um modelo compartilhado.
Avalie você mesmo os termos do provedor de origem. Muitos provedores não permitem revender ou compartilhar créditos de API. As consequências são suas, e a Babel Mesh não decide isso por você.
Nós verificamos. Uma pequena parte das solicitações é executada novamente no nosso próprio modelo e os resultados são comparados, para detectar simulações.