OpenAI divulga as APIs do ChatGPT e do Whisper

• Agora é possível usar os recursos do ChatGPT e de Speech-To-Text dentro do seu próprio app
• Desde o anúncio do ChatGPT em dezembro, alcançaram uma redução de 90% nos custos por meio de otimizações, e isso será repassado aos usuários da API

API do ChatGPT

• Usa o modelo gpt-3.5-turbo, o mesmo utilizado atualmente no produto ChatGPT
  • $0.002 por 1k tokens, 10 vezes mais barato que o GPT-3.5 anterior
  • Também é o melhor modelo para finalidades além de chat, e é possível migrar facilmente do text-davinci-003 para o gpt-3.5-turbo (migração recomendada)
• A API recebe como entrada texto não estruturado composto por tokens
  • Internamente, isso é renderizado como uma sequência de tokens chamada ChatML
• O gpt-3.5-turbo continuará sendo atualizado para a versão mais recente. No momento, a versão gpt-3.5-turbo-0301 terá suporte até 1/6
• Uma nova versão estável será lançada em abril
• Também haverá Dedicated Instance separadamente (suporta contexto mais longo e é adequada para usuários que executam mais de 450 milhões de tokens por dia)

API do Whisper

• Modelo Speech-To-Text lançado como open source em setembro de 2022
• Foi bem avaliado pela comunidade de desenvolvedores, mas era difícil de operar
• O modelo large-v2 pode ser usado via API, por $0.006/minuto
• Disponível nos endpoints transcriptions / translations
• Suporta os formatos m4a, mp3, mp4, mpeg, mpga, wav, webm

Empresas usuárias iniciais

• Snap: oferece um chatbot baseado em ChatGPT chamado My AI for Snapchat+. Ele faz recomendações e escreve poemas (haicais) para amigos
• Quizlet: aplicou o ChatGPT ao Q-Chat, um tutor de IA adaptativo que faz perguntas de acordo com o histórico de estudos
• Instacart: adotou no recurso Ask, que permite fazer perguntas sobre comida e receber respostas
• Shopify: adicionou um recurso de assistente de compras ao app Shop
• Speak: app de ensino de idiomas que usa a API do Whisper.

[frogred8]

No original, aparece como US$ 0,002 por 1k tokens.

It is priced at $0.002 per 1k tokens

E eu fiquei curioso sobre a definição de token, então pesquisei um pouco mais e parece que isso é determinado pela quantidade de caracteres de entrada/saída.

The number of tokens processed in a given API request depends on the length of both your inputs and outputs. As a rough rule of thumb, 1 token is approximately 4 characters or 0.75 words for English text.

[xguru]

Opa, tinha um erro de digitação numa parte importante T_T. Já corrigi.

[lukaid]

Toda semana surgem novas notícias de IA... Dá expectativa e também um pouco de medo... mas, ao tentar não perder as tendências, acho que o cansaço também acaba sendo bem grande.

[functor]

A OpenAI é realmente incrível.