A plataforma OpenAI está passando por algumas mudanças importantes, já que a empresa anunciou quatro atualizações na terça-feira (1º de outubro) em seu ‘DevDay’ em São Francisco.
Isso inclui “Realtime API”, “Instant Cache”, “Model Distillation” e suporte para ajuste fino.
A equipe fez com que as novas adições fiquem visíveis e possam ser utilizadas a partir da data do anúncio, e algumas passarão por novos ajustes após a coleta de feedback.
Hoje, no DevDay SF, estamos lançando uma série de novos recursos para a plataforma OpenAI: pic.twitter.com/y4cqDGugju
– Desenvolvedores OpenAI (@OpenAIDevs) 1º de outubro de 2024
OpenAI anunciou quatro atualizações
‘API em tempo real’
Uma das atualizações mais importantes do OpenAI é a ‘Realtime API’, que dá aos desenvolvedores a capacidade de “recriar experiências rápidas de fala em seus aplicativos”.
Foi lançada uma versão beta pública da API, que é semelhante ao modelo de voz avançado do ChatGPT. Ele permite que “todos os desenvolvedores pagos criem experiências multimodais de baixo custo em seus aplicativos”.
A entrada e a saída de áudio foram introduzidas na API Completions Chat para dar suporte a casos de uso que não exigem os benefícios imediatos da API Realtime. Isso significa que os desenvolvedores agora podem passar qualquer entrada de texto ou áudio para o GPT-4o e o modelo responderá com uma escolha de texto, áudio ou ambos.
Anteriormente, a criação de uma experiência semelhante de assistente de voz exigia várias etapas, incluindo o uso de um modelo diferente para implementá-la.
“Cache Instantâneo”
Para ajudar ainda mais aqueles que desenvolvem aplicativos de IA, o “Instant Cache” foi anunciado para reduzir custos e latência. “Usando tokens de entrada visualizados recentemente, os desenvolvedores podem obter um desconto de 50% e tempos de processamento mais rápidos”, escreveu OpenAI em um comunicado à imprensa para toda a empresa.
Ele é aplicado automaticamente às versões mais recentes do GPT-4o, GPT-4o mini, o1 preview e o1-mini, bem como às versões ajustadas dos modelos.
“Destilação Exemplar”
O novo ‘Model Distillation’ visa fornecer um fluxo de trabalho integrado que pode ajudar a gerenciar todo o pipeline de destilação diretamente na plataforma OpenAI.
“Isso permite que os desenvolvedores usem facilmente os resultados de modelos de fronteira como o1-preview e GPT-4o para ajustar e melhorar o desempenho de modelos de baixo custo como GPT-4o mini.”
Antes desta introdução, a destilação exigia várias etapas manuais, enquanto esse novo recurso deveria ser muito mais fácil e rápido.
O pacote completo inclui acabamentos em estoque, avaliações e ajustes, todos disponibilizados na terça-feira.
“Vision Fine Tuning” é a quarta atualização do OpenAI
A OpenAI implementou o ajuste fino no GPT-4o, que foi usado anteriormente por “centenas de milhares de desenvolvedores”, mas a equipe diz que a nova atualização de “ajuste fino da visão” agora permite o ajuste fino com imagens. como texto.
Esta versão de imagem funciona da mesma forma que o texto, e os desenvolvedores podem preparar seu conjunto de dados de imagem para seguir o formato apropriado e depois carregá-lo na plataforma.
Isso é apenas para aqueles em níveis de uso pagos e é compatível com o lançamento do modelo GPT-4o mais recente.
Imagem em destaque: Via Mensagem do OpenAIDevs X
A postagem OpenAI compartilha quatro atualizações importantes no DevDay de São Francisco apareceu pela primeira vez no ReadWrite.
