La start-up britannica Wayve ha creato un sistema di auto a guida autonoma in grado di spiegare le proprie azioni in quello che l’azienda sostiene essere un “primo nel suo genere” che darà ai proprietari dei veicoli fiducia nella tecnologia. Il sistema mira ad affrontare una delle maggiori critiche ai più recenti progressi dell’intelligenza artificiale: la mancanza di trasparenza sul perché un sistema di intelligenza artificiale produca un determinato risultato.
Lingo-1 utilizza i recenti progressi nei modelli linguistici di grandi dimensioni, la tecnologia alla base di chatbot AI come ChatGPT, per utilizzare i commenti dei conducenti umani sul loro comportamento e i dati di guida per produrre risposte in testo.
Lingo-1 di Wayve risponde alle domande
Il modello Wayve, chiamato Lingo-1, è in grado di rispondere a domande in inglese semplice per chiarire e spiegare le ragioni delle sue decisioni, ad esempio perché rallenta se nota un pedone vicino a un incrocio. “Abbiamo riconosciuto la sfida dell’interpretabilità e della sicurezza di questi sistemi e abbiamo pensato che il linguaggio sarebbe stato un ottimo modo per risolverla”, ha dichiarato Alex Kendall, amministratore delegato di Wayve. “È la prima volta che il linguaggio e la robotica vengono combinati in questo modo [e] dal punto di vista della regolamentazione, si può semplicemente chiedere al sistema cosa capisce e cosa non capisce”.
Tom Leggett, specialista di tecnologia dei veicoli presso Thatcham Research, che si occupa di industria automobilistica, ha affermato che rendere l’intelligenza artificiale più trasparente per i potenziali passeggeri delle auto a guida autonoma è essenziale per consentirne la diffusione. “Se non si comprende il funzionamento e il processo di pensiero dell’AI, non credo che i consumatori si fideranno mai di questi sistemi. Senza di ciò, non avremo mai un’adozione sicura”, ha dichiarato Leggett, la cui ricerca è finanziata dal settore assicurativo per comprendere i rischi del settore automobilistico.
La tecnologia di Wayve
Wayve, fondata a Cambridge nel 2017, ha raccolto 200 milioni di dollari in un round di serie B nel gennaio dello scorso anno guidato da Eclipse Ventures. Non ha reso nota la sua valutazione. Tra gli altri investitori figurano Baillie Gifford, Microsoft e l’angel investor e pioniere dell’AI Yann LeCun. La concorrenza nel settore delle auto autonome si è concentrata principalmente a San Francisco, dove hanno sede e operano servizi commerciali Waymo, di proprietà di Alphabet, e Cruise, di proprietà di GM.
Waymo afferma che la sua tecnologia funziona in modo diverso dalla maggior parte degli altri sistemi di guida autonoma. Invece di basarsi su regole stabilite dagli ingegneri – l’approccio con cui Waymo e Cruise hanno iniziato più di dieci anni fa – la tecnologia di Wayve impara a guidare elaborando video di persone che guidano e imparando da sola. Lingo-1 cerca di affrontare la sfida dell’abbandono dell’approccio basato sulle regole, ovvero la difficoltà per gli ingegneri di capire come l’intelligenza artificiale prenda le decisioni, nonché la difficoltà di convincere le autorità di regolamentazione che un sistema del genere è sufficientemente sicuro.
L’approvazione da parte delle autorità di regolamentazione è stato uno dei maggiori ostacoli all’avvio delle sperimentazioni sulle flotte a guida autonoma negli Stati Uniti. La questione di quanto esattamente debba essere sicura un’auto autonoma rimane aperta, con le autorità di regolamentazione riluttanti ad approvare sistemi che hanno un numero di vittime inferiore a quello degli esseri umani, ma che potrebbero comunque causare un incidente mortale.
Il cosiddetto sistema di guida autonoma “end-to-end” di Wayve è simile all’approccio annunciato da Tesla a maggio. La tecnologia di Wayve incorpora anche le regole del Codice della Strada nella sua formazione.
Le autorità di regolamentazione e gli assicuratori sono preoccupati anche per l’accuratezza della creazione di spiegazioni in questi sistemi, in quanto è difficile verificare se il linguaggio prodotto dall’AI corrisponde al comportamento di guida. Wayve ha dichiarato che Lingo-1 aveva un’accuratezza di circa il 60% rispetto alle risposte umane e stava migliorando rapidamente. L’azienda non ha fornito una data per l’incorporazione del modello nelle sue auto a guida autonoma. “C’è ancora molto lavoro da fare, perché se si vuole ritenere qualcuno responsabile di un incidente, non si può garantire al 100% che le spiegazioni giustifichino il modello sottostante”, ha dichiarato Daniel Omeiza, ricercatore dell’Oxford Robotics Institute.
