ChatGPT e Whisper: grandi novità sul fronte AI

L’API di ChatGPT e Whisper di OpenAI sono state rese disponibili per gli sviluppatori

ChatGPT è stato migliorato con una riduzione del 90% dei costi, offrendo agli sviluppatori un’opzione conveniente per accedere alla tecnologia. Inoltre, il modello speech-to-text di Whisper è ora disponibile per l’accesso on-demand.

OpenAI ha annunciato che la sua API ora include i modelli ChatGPT e Whisper, che offrono agli sviluppatori accesso al linguaggio basato sull’intelligenza artificiale e alle funzionalità di speech-to-text. Grazie ad ottimizzazioni di sistema, il costo di ChatGPT è stato ridotto del 90% rispetto a dicembre, a tutto vantaggio anche degli utenti API.

Secondo OpenAI, il modo migliore per realizzare il pieno potenziale dell’IA, è di permettere a tutti di sviluppare con essa. Le modifiche annunciate, possono portare a numerosi ambiti applicativi, dei quali tutti potranno beneficiare. Le funzionalità linguistiche e di speech-to-text di OpenAI, offerte attraverso ChatGPT e Whisper, possono essere sfruttate da un numero crescente di aziende per sviluppare app di nuova generazione.

Inoltre, OpenAI ha ascoltato il feedback degli sviluppatori e ha apportato modifiche ai propri termini di servizio API, al fine di soddisfare al meglio le loro esigenze.

Le API

OpenAI sta rilasciando una nuova gamma di modelli ChatGPT chiamata gpt-3.5-turbo, disponibile al prezzo di 0,002 dollari per 1.000 token, il che la rende dieci volte più economica rispetto ai modelli GPT-3.5 attualmente in uso. Questo modello è ideale per una vasta gamma di casi d’uso non limitati alla sola chat, ed è essenzialmente lo stesso del prodotto ChatGPT. A differenza dei modelli GPT tradizionali, che utilizzano testo non strutturato rappresentato come sequenza di token, i modelli ChatGPT utilizzano sequenze di messaggi con metadati. Tuttavia, gli input vengono resi al modello come sequenze di token. Il modello gpt-3.5-turbo adotta un nuovo formato chiamato Chat Markup Language (ChatML).

Gli aggiornamenti

OpenAI continua a migliorare costantemente i suoi modelli ChatGPT e mira a offrire queste migliorie agli sviluppatori. Coloro che utilizzano il modello gpt-3.5-turbo, riceveranno sempre il modello stabile consigliato, ma avranno la possibilità di scegliere una versione specifica. OpenAI sta presentando una nuova versione chiamata gpt-3.5-turbo-0301, che avrà il supporto almeno fino al 1° giugno, e una nuova versione stabile è prevista per aprile. Gli sviluppatori possono trovare gli aggiornamenti nella pagina dei modelli e passare alla versione più recente.

Istanze Dedicate

OpenAI ora fornisce istanze dedicate per gli utenti che desiderano un maggiore controllo sulle versioni dei modelli e sulle prestazioni del sistema. Di default, le richieste vengono elaborate nell’infrastruttura di calcolo condivisa e gli utenti pagano per richiesta. Tuttavia, con le istanze dedicate, gli sviluppatori possono pagare per un periodo di tempo, per allocare l’infrastruttura di elaborazione, riservata esclusivamente alle loro richieste. In questo modo, gli sviluppatori hanno il controllo completo sul carico dell’istanza e possono abilitare limiti di contesto più lunghi. Le istanze dedicate possono risultare convenienti per gli sviluppatori che elaborano oltre 450 milioni di token al giorno.

Whisper API

OpenAI ha annunciato che sta migliorando l’accessibilità e l’operatività dell’API Whisper, un modello di speech-to-text open source introdotto a settembre 2022. Per aiutare gli sviluppatori a utilizzare l’API in modo più conveniente, OpenAI sta ora offrendo il modello large-v2 tramite la sua API, al prezzo di 0,006 dollari al minuto. Questo fornisce agli sviluppatori un facile accesso on-demand al modello, con prestazioni più veloci rispetto ad altri servizi. L’API Whisper è accessibile tramite trascrizioni o endpoint di traduzione, che consentono di trascrivere o tradurre la lingua di origine in inglese. In questo modo, OpenAI sta cercando di semplificare l’interfacciamento con l’API e di aumentare la sua utilità per la comunità degli sviluppatori.

Focus per gli sviluppatori

OpenAI ha effettuato specifiche modifiche in risposta ai feedback degli sviluppatori, alcuni esempi includono:

• Non utilizzare i dati inviati tramite l’API per migliorare il servizio, incluso il training dei modelli, a meno che l’organizzazione non dia il proprio consenso.
• Stabilire un periodo di conservazione predefinito dei dati di 30 giorni, con la possibilità di estenderlo a seconda delle esigenze dell’utente.
• Migliorare la documentazione per gli sviluppatori.
• Semplificare i Termini di servizio e le politiche di utilizzo.

OpenAI riconosce che, fornire un servizio affidabile, è fondamentale per garantire che l’IA sia un vantaggio per tutti. A tal fine, OpenAI si impegna a migliorare l’uptime nei prossimi mesi.

Autore: Marco Marra