OpenAI ha annunciato che offrirà agli utenti un nuovo supporto integrato per la messa a punto del suo modello linguistico di grandi dimensioni (LLM) GPT-3.5 Turbo, che consente alle aziende di fornire i propri dati per l’addestramento del modello e di eseguirlo su scala, e ha nominato Scale AI come “partner preferenziale” per questo compito.
“Il prompting, da solo, anche con i migliori LLM come GPT-3.5, non è sufficiente a personalizzare il modello per produrre i risultati più accurati ed efficienti. Come nel caso del software, un’incredibile quantità di valore deriva dalle ottimizzazioni a grana fine, e la messa a punto è fondamentale per questo”, ha dichiarato Alexandr Wang, fondatore e CEO di Scale AI, in un comunicato stampa.
Portare la potenza del fine-tuning a un numero maggiore di aziende
Scale AI ha dichiarato che la partnership “mette insieme il modello di base avanzato GPT-3.5 di OpenAI con l’esperienza di Scale nella messa a punto e il Data Engine leader del settore, per aiutare ogni azienda a creare modelli personalizzati all’avanguardia per le proprie esigenze aziendali specifiche”. Il Data Engine di Scale accelera lo sviluppo dei modelli generando suggerimenti e classificando i risultati del modello.
Scale ha dichiarato di eseguire già la messa a punto per molti modelli commerciali e open-source. “In qualità di partner preferenziale di OpenAI per il fine-tuning per GPT-3.5, siamo entusiasti di poter sfruttare le loro potenti API per aiutare un numero ancora maggiore di aziende a costruire i più potenti LLM personalizzati che aumentano l’efficienza e riducono i costi”, si legge nel comunicato stampa.
Brad Lightcap, COO di OpenAI, ha dichiarato che “Scale estende la nostra capacità di portare la potenza del fine-tuning a un numero maggiore di aziende, basandosi sulla loro esperienza di AI aziendale per aiutare le imprese ad applicare meglio i modelli OpenAI per le loro esigenze specifiche.”
GPT-3.5 fine-tuning supera il modello GPT-3.5 turbo stock nel 66% dei casi
Scale AI, un’azienda unicorno che ha raggiunto la notorietà come servizio di etichettatura dei dati e ha ottenuto una valutazione di 7 miliardi di dollari nell’aprile 2021, ha avuto un anno altalenante: a gennaio ha licenziato il 20% del suo staff di 700 persone, ma a maggio si è ripresa con il lancio di una piattaforma di AI generativa full-stack.
Ora l’azienda sta pubblicizzando un caso di perfezionamento con la società fintech Brex, che ha utilizzato gli LLM per generare note spese di alta qualità che aiutano a ridurre il peso dei requisiti di conformità per i dipendenti.
Secondo il comunicato stampa di Scale, il team di Brex aveva precedentemente utilizzato GPT-4 per la generazione di memo, ma voleva esplorare la possibilità di migliorare i costi e la latenza, mantenendo al tempo stesso la
“Utilizzando l’API di fine-tuning GPT-3.5 sui dati Brex annotati con il Data Engine di Scale, abbiamo visto che il modello GPT-3.5 fine-tuning ha superato il modello GPT-3.5 turbo stock nel 66% dei casi”, si legge nel comunicato stampa.
Henrique Dubugras, CEO di Brex, ha dichiarato che “la nostra collaborazione con OpenAI e Scale AI ci pone all’avanguardia, impiegando tecniche all’avanguardia per migliorare la compliance dei dipendenti e aiutare i team finanziari a chiudere i conti più velocemente. In particolare, la messa a punto di GPT-3.5 ci ha permesso di cambiare le carte in tavola, consentendoci di offrire esperienze AI di alta qualità, paragonabili a GPT-4, con costi e latenze molto più bassi. Questo ci permette di sbloccare una serie di nuove funzionalità che prima non erano realizzabili”.
