Together AI na mesa de operações

Destaque

Together AI lança Post-Training para ajustar modelos abertos

A Together AI lançou o Together Post-Training, serviço para criar modelos personalizados a partir de LLMs de pesos abertos, com SFT ou aprendizado por reforço. O cliente escreve o ciclo de treinamento em GPUs dedicadas, e a Together cuida da infraestrutura. Nas primeiras oito semanas, o preço promocional é de US$ 9 por GPU-hora de B200.

O que muda na operação — Para uma empresa B2B de 10 a 200 pessoas, isso só interessa se uma tarefa específica e de alto volume, como ranquear leads ou pontuar candidatos, estiver custando caro demais em um modelo fechado. O caso da Jack & Jill, descrito na fonte, tem exatamente esse formato: um modelo aberto igualou um modelo fechado em testes offline e sai mais barato para servir. A cobrança é por GPU-minuto, então defina o orçamento de um experimento antes de começar. Se você não tem equipe de ML, precisará recorrer aos engenheiros alocados (forward-deployed) da Together, que a fonte apresenta como opção de apoio.

Together AI publica receita de US$ 17 para classificar tickets

Para um time de suporte que recebe algumas centenas de tickets por dia, isso é um blueprint concreto para um bot de triagem de primeira linha: alimenta-se a mensagem do cliente mais a lista de intenções já existente, recebe-se de volta um único rótulo com pouquíssimo texto de saída, e roteia-se o ticket a partir disso. O custo de treino (~US$ 17) e o tempo (~25 minutos) tornam viável iterar sobre os próprios tickets históricos em vez de depender de uma chamada de LLM genérico para cada classificação, e a configuração fixa de temperature=0, max_tokens=8 torna as saídas previsíveis o suficiente para alimentar diretamente uma regra de roteamento ou um webhook de CRM sem revisão humana nos casos de alta confiança.