Nessa semana, foi lançada a API gpt-3.5-turbo da OpenAI, que dá acesso ao mesmo modelo utilizado pela plataforma ChatGPT. Essa nova API já está disponível para desenvolvedores e oferece uma alternativa mais acessível em comparação às outras APIs de modelos lançados pela OpenAI anteriormente, como o Ada, que é um modelo LLM mais rápido, e o Davice, que é um modelo LLM mais poderoso.
Para desenvolvedores e empresas que utilizam as APIs da OpenAI para desenvolver soluções e embarcar as capacidades dos modelos GPT3.5, como a Hop AI, a notícia do preço mais acessível é fantástica. Anteriormente, os custos das APIs disponíveis até o momento era uma grande preocupação para a Hop AI. O CEO da Hop AI, Hugo Azevedo, sempre alertava os clientes sobre a questão dos preços das APIs da OpenAI, reconhecendo que os custos poderiam representar um obstáculo significativo na sua adoção.
E de quanto foi a redução?
A a nova API gpt-3.5-turbo é impressionantemente 10 vezes mais barata que as demais disponibilizadas até o momento pela OpenAI, com um preço de $0.002 por 1.000 tokens. Essa redução foi possível devido às otimizações realizadas pela OpenAI em todo o sistema desde dezembro, que resultaram em uma redução de até 90% nos custos da plataforma. Essa redução nos custos agora foi repassada para definirem o preço dessa nova API.
Segundo a OpenAI, agora essa API acessa o melhor modelo para desenvolver soluções para casos diversos, além de uso para chat. Outra boa notícia é que eles afirmam que fizeram testes para migrar da API text-davinnci-003 para gpt-3.5-turbo exige poucos ajustes nos prompts. A Hop AI esta avaliando a nova API para confirmar essa afirmação.
Funcionamento da API gpt-3.5-turbo
A API gpt-3.5-turbo disponibilizada pela OpenAI é uma ferramenta que processa mensagens em vez de apenas texto desestruturado, assim com o ChatGPT e outros modelos GPT. Em outras palavras, em vez de processar apenas sequências de palavras e frases, o modelo acessado pela API processa mensagens inteiras juntamente com metadados. No entanto, por baixo dos panos, a API ainda converte as mensagens em sequências de tokens para que possam ser processadas pelo modelo, usando uma nova linguagem de marcação chamada Chat Markup Language (“ChatML”).
O Chat Markup Language (“ChatML”) é uma nova linguagem de marcação que foi criada especificamente para ser usada pelo ChatGPT. É uma forma de representar as mensagens enviadas pela API gpt-3.5-turbo para o modelo GPT-3.5 de uma forma que seja facilmente entendida pelo modelo. O ChatML é construído em cima de HTML (HyperText Markup Language), que é uma linguagem de marcação usada para criar páginas da web. Isso significa que o ChatML usa uma sintaxe semelhante à do HTML para representar as mensagens enviadas ao ChatGPT.
A OpenAI está escutando o mercado
A OpenAI também ouviu o feedback dos desenvolvedores e, além dos preços mais atrativos da API gpt-3.5-turbo, ela refinou seus termos de serviço da API para atender melhor às suas necessidades.
Em resumo, a nova API gpt-3.5-turbo é uma alternativa muito mais acessível para desenvolver soluções com experiências ChatGPT like. Com uma redução de custo significativa nos preços e uma série de otimizações no sistema, a ChatGPT está pronta para se tornar uma opção popular para desenvolvedores em todo o mundo.
