Al Ray Summit di San Francisco, lo scorso 23 agosto, è stata rilasciata la tecnologia Ray 2.0, con il nuovo Ray AI Runtime (AIR), destinato a funzionare come livello di runtime per l’esecuzione di servizi di machine learning. Ray consente ai modelli di machine learning di scalare tra le risorse hardware e può anche essere utilizzato per supportare i flussi di lavoro MLops su diversi strumenti ML. Ray 1.0 è uscito a settembre 2020 e ha avuto una serie di iterazioni negli ultimi due anni.
Uno dei modi più comuni per le organizzazioni di scalare ed eseguire carichi di lavoro di intelligenza artificiale (AI) sempre più grandi e complessi è stato con il framework Ray open source, utilizzato da aziende come OpenAI, Shopify e Instacart.
Ray 2.0 include anche funzionalità progettate per semplificare la creazione e la gestione dei carichi di lavoro AI. Ray è un elemento fondamentale per OpenAI, uno dei principali innovatori dell’AI, autore di GPT-3 Large Language Model e della tecnologia di generazione di immagini DALL-E.
“Stiamo usando Ray per addestrare i nostri modelli più grandi”, ha dichiarato Greg Brockman, CTO e cofondatore di OpenAI, al Ray Summit. “Per noi è molto utile essere in grado di scalare fino a una scala senza precedenti”.
Accanto alla nuova versione, Anyscale, che è il principale sostenitore commerciale di Ray, ha annunciato una nuova piattaforma aziendale per l’esecuzione di Ray. Anyscale ha anche annunciato un nuovo round di finanziamento da 99 milioni di dollari co-guidato dagli investitori esistenti Addition e Intel Capital con la partecipazione di Foundation Capital.
“Ray è iniziato come un piccolo progetto alla UC Berkeley ed è cresciuto ben oltre ciò che immaginavamo all’inizio”, ha dichiarato Robert Nishihara, cofondatore e CEO di Anyscale, durante il suo keynote al Ray Summit.
Video: Ray Summit 2022
L’importanza di Ray nell’AI
Durante il suo keynote, Robert Nishihara ha citato una lista di grandi nomi del settore IT che utilizzano Ray. Tra le aziende menzionate ci sono Shopify, che utilizza Ray per aiutare a scalare la sua piattaforma ML che impiega TensorFlow e PyTorch. Il servizio di consegne di generi alimentari Instacart è un altro utente Ray e beneficia della tecnologia per aiutare a formare migliaia di modelli ML. Anche Amazon è un utente Ray su più tipi di carichi di lavoro.
Un obiettivo primario di Ray 2.0 per Nishihara è quello di rendere più semplice per più utenti poter beneficiare della tecnologia, fornendo al contempo ottimizzazioni delle prestazioni a beneficio di utenti grandi e piccoli. Guardando al futuro, l’obiettivo di Nishihara con Ray è quello di contribuire a consentire un uso più ampio dell’AI semplificando lo sviluppo e la gestione dei carichi di lavoro ML.
