Gli agenti conversazionali basati su intelligenza artificiale, comunemente definiti chatbot, grazie alla democratizzazione (tecnica ed economica) di piattaforme digitali di machine learning sono sempre più diffusi in tutti gli ambiti aziendali e del business e da qualche tempo hanno fatto il loro ingresso anche nella Sanità.
Le chatbot, che siano basate su un ecosistema di semplici regole e alberature o fondati su piattaforme di Natural Language Processing allo stato dell’arte come GPT-3, possono sostenere le imprese lungo tutta la filiera dei servizi di relazione con i portatori di interesse.
Se implementare una chatbot in una catena alberghiera, un ristorante, un e-commerce o nel customer care di una azienda retail può essere considerato un processo potenzialmente risk-free diverso è l’uso e l’adozione di queste tecnologie in ambiti capaci di influire sulla salute e sopravvivenza degli individui.
Sebbene tali tecnologie possano essere considerate mature e utilizzabili anche in contesti “critici”, non esiste sul mercato uno standard etico e tecnologico volto a tutelare utenti, operatori e aziende nell’utilizzo di questi strumenti.
Le chatbot in ambito sanitario
Il settore sanitario, sia pubblico che privato, non è stato infatti immune dalla sperimentazione di questi strumenti integrati verticalmente lungo tutta catena del valore con migliaia di startup nate per offrire servizi specifici a favore di policy maker, strutture sanitarie, medici, operatori e pazienti.
L’avvento della pandemia di Covid-19 ha sostanzialmente accelerato questo trend in con esempi eccellenti di organizzazioni sanitarie nazionali e sovranazionali che hanno utilizzato le chatbot per la diffusione di informazioni e prescrizioni sul contenimento del coronavirus nonché per il controllo dei sintomi.
Possiamo racchiudere le possibili applicazioni di strumenti conversazionali prestati e utilizzati nel mondo Healthcare in tre macro-ambiti:
- Gestione appuntamenti: chabot e agenti conversazionali, anche vocali, capaci di interrogare i database di organizzazioni sanitarie permettendo agli utenti e operatori di anagrafarsi, identificarsi, prenotare, modificare e disdire i propri appuntamenti, sostituendo di fatto i costi e talvolta le inefficienze e le tempistiche degli operatori umani.
- Diagnosi: strumenti capaci, grazie a modelli di machine learning basati su dati statistici, tecnologie di riconoscimento immagini o strumenti di Internet of Things per il controllo dei parametri vitali, di diagnosticare patologie o quantomeno esprimersi sullo stato di salute di un paziente.
- Terapie: strumenti capaci di interagire con i pazienti e offrire assistenza nell’esecuzione e perseguimento di specifiche terapie (farmacologiche, fisioterapiche, alimentari, etc.) o persino un vero e proprio supporto psicologico simulando il contatto e la relazione umana.
Opportunità e rischi delle chatbot in Sanità
Le opportunità nell’implementazione di questi strumenti, soprattutto alla luce delle limitazioni, in termini di risorse umane ed esposizione tra individui, poste in essere dalla pandemia da Covid-19 in corso sono molteplici tra cui:
- disponibilità degli strumenti chatbot 24 su 24 e 7 giorni su 7;
- gestione delle interazioni con i pazienti facilmente scalabile e potenzialmente illimitata;
- standardizzazione di relazioni e interfacce;
- possibilità di generare e valorizzare grandissime quantità di dati oggettivi tra cui anche quelli diagnostici;
- riduzione dei costi del personale per attività a basso valore nonché riduzione dell’impatto del customer care sull’organizzazione sanitaria.
Di fronte a queste grandi opportunità vi sono i numerosi rischi emersi in questi anni e legati all’utilizzo improprio, non trasparente o malevolo, di strumenti di intelligenza artificiale. Tra questi possiamo ricordare l’uso dei Deep Fake, i bias razziali, di sesso e religione usati da alcuni strumenti di decision making, le questioni etiche e i grandi interessi economici dietro queste tecnologie.
Tutto questo senza contare le possibili implicazioni legate a diagnosi sbagliate, data leak, terapie erronee e più in generale tutti i possibili errori nella gestione della salute degli utenti.
Il framework “Chatbots Reset” per governare l’uso dell’AI nella Sanità
A fare chiarezza in questo ecosistema di straordinarie opportunità ma anche di forti rischi è intervenuto il World Economic Forum che, con il supporto di leader accademici e tecnologici a livello globale, ha creato un framework di regole chiare e condivise per sviluppatori e decision maker chiamato “Chatbots RESET”.
Il framework, pubblicato a dicembre 2020 in collaborazione con la Mitsubishi Chemical Holdings Corporation e altre realtà internazionali, offre un quadro sintetico per la governance etica e responsabile di strumenti conversazionali basati su intelligenza artificiale nell’assistenza sanitaria.
Il documento definisce le premesse a favore dell’uso di questi strumenti in ambito sanitario tracciando le fila dello stato dell’arte e dei casi d’uso con un particolare focus sulle iniziative a contrasto della pandemia da Covid-19, identificando e differenziando:
- i destinatari: pazienti “patient-facing chatbot” e organizzazioni “provider-facing chatbot”;
- i diversi gradi di automazione: da 0 “no automation” a 5 “full automation”;
- le fonti informative: da quelle aperte e libere alle cartelle cliniche dei pazienti;
- i decision maker: umani, digitali oltre alle forme ibride con le azioni da questi poste in essere.
La pubblicazione del WEF, pertanto, si pone come obiettivo quello di creare delle linee guida capaci di standardizzare il processo di implementazione di queste tecnologie unendo i principi etici legati all’intelligenza artificiale e al mondo della salute e della sanità declinandoli nelle diverse dimensioni legate alla progettazione, integrazione e diffusione di tali strumenti.
I portatori di interesse analizzati dal framework Chatbot Reset
Gettate queste premesse vengono identificati 3 potenziali portatori di interesse che potranno beneficiare del framework nei diversi livelli operativi e strategici che impattano lo sviluppo di chatbot in ambito sanitario ovvero:
- Developer: intesi come singoli sviluppatori ma anche software house e piattaforme di servizi legati a chatbot e agenti conversazionali
- Provider: intesi come organizzazioni sanitarie pubbliche e private, fornitori di servizi tecnico-sanitari, società di assistenza sanitaria
- Regulator: intesi come policy maker nazionali e organismi centrali eo regionali a tutela di pazienti e operatori.
Fonte: World Economic Forum
Ognuno dei suddetti stakeholder influisce tramite i propri obiettivi, processi e competenze alle diverse fasi di progettazione, sviluppo, implementazione e diffusione delle tecnologie chatbot in ambito sanitario.
I livelli di rischio
Il framework differenzia, inoltre, l’impatto, in termini di potenziale rischio, di questi strumenti sulla filiera healthcare individuando, sulla base del peso “specifico” delle scelte e della condizione criticità del contesto in cui sono inserite, 4 livelli di rischio, ovvero:
| Rischio | Descrizione | Esempi |
| Basso | Chatbot operanti in contesti e condizioni sanitarie non “severe” o comunque con informazioni meramente a supporto delle decisioni del personale sanitario | Informazioni e gestione appuntamenti, reminder terapie, follow up post visita |
| Moderato | Chatbot operanti in contesti anche di severità e criticità ma comunque con un livello di impatto decisionale commisurato al contesto | Check dei sintomi (senza diagnosi), raccomandazioni su terapie |
| Alto | Chatbot operanti in contesti di severità con azioni e decisioni sottoposte a un maggior grado di autonomia rispetto al rischio moderato | Diagnosi, terapie personalizzate su patologie a rischio medio-alto |
| Molto Alto | Chatbot che in contesti critici che si occupano quasi autonomamente di gestire le terapie o diagnosi dei pazienti | Terapie e trattamenti personalizzati su patologie a rischio critico |
I dieci principi fondanti
Esaminate tutte le possibili dimensioni del fenomeno chatbot in sanità, il framework definisce un ecosistema di 10 principi fondanti su cui potranno vertere tutte le azioni di sviluppo di queste tecnologie ovvero:
- Sicurezza: seguendo il giuramento di Ippocrate, ovvero perseguimento del bene del paziente e dell’utente a ogni costo
- Efficacia: attenzione al contesto e all’ambito di applicazione in cui la chatbot andrà a operare, nel rispetto degli standard internazionali
- Protezione dei Dati: rispetto della privacy by default e by design nonché dei principi di consenso esplicito all’utilizzo dei dati e perseguimento di fini in alcun modo legati a danneggiare o perseguire un utente o paziente
- Umanità: attenzione al rispetto dei diritti fondamentali dell’uomo, importanza di un controllo e supervisione umana, autonomia decisionale e libero arbitrio, garanzia di un contatto umano se richiesto
- Responsabilità / Accountability: garanzia di responsabilità giuridica, civile, penale e amministrativa sempre imputabile a individui o gruppi di individui all’interno del contesto organizzativo che ospita lo strumento nonché disponibilità all’ascolto e al miglioramento delle soluzioni tecnologiche offerte
- Trasparenza: garanzia per l’utente di sapere sempre con che tipologia di utente sta comunicando, se umano o virtuale nonché delle transizioni da una tipologia all’altra e dei limiti informativi, comunicativi e conoscitivi di entrambe le soluzioni
- Equità: garanzia di decisioni, informazioni e raccomandazioni fornite nel rispetto di etnia,
- Comunicabilità: garanzia di trasparenza nell’identificazione e spiegazione delle scelte e delle informazioni offerte dalla chatbot
- Integrità: garanzia di qualità e consistenza delle informazioni e delle sorgenti dati
- Inclusività: garanzia di accessibilità degli strumenti anche a fasce deboli, vulnerabili o potenzialmente inabili all’accesso autonomo.
Fonte: World Economic Forum
Nel solco dei suddetti principi, il World Economic Forum struttura quindi un rapporto dettagliato di azioni concrete che ciascuna categoria di portatori di interesse deve porre in essere, secondo diversi livelli di necessità e obbligatorietà, nella progettazione, costruzione, implementazione e diffusione di tecnologie chatbot, basate su intelligenza artificiale in ambito sanitario.
Conclusioni
L’intelligenza artificiale è sempre più diffusa nella nostra società con strumenti quali le chatbot, capaci di contribuire in maniera sostanziale al miglioramento della qualità dei servizi offerti da aziende e organizzazioni pubbliche, nonché della vita degli utenti che ne beneficiano.
La Sanità, anche a causa della recente pandemia da Covid-19, ha compiuto un incredibile balzo in avanti nella sperimentazione e implementazione di tecnologie avanzate all’interno dei propri processi e delle organizzazioni.
Di fronte a queste grandi opportunità offerte dalle tecnologie disruptive vi sono dimensioni di rischio che non possono essere ignorate e che devono necessariamente essere governate.
In tal senso il documento di ricerca congiunto, pubblicato dal World Economic Forum e sostenuto da mondo accademico, aziendale, scientifico e del policy making “Chatbots Reset” rappresenta uno straordinario ed efficace esempio positivo di governance dell’innovazione, capace di guidare tutti i portatori di interesse nello sviluppo di strumenti sicuri, efficaci e inclusivi a vantaggio del bene comune.
