Impedire che la salute digitale vada in crash

L'industria medica deve imparare dalle conseguenze dei recenti disastri aerei della Boeing, avverte Walter Karlen, sottolineando i parallelismi.

Walter Karlen

Per settimane ho seguito da vicino le notizie sulle tragedie del volo 610 della Lion Air e del volo 302 della Ethiopian Airlines. Gli incidenti dei nuovi aerei Boeing 737 Max hanno seguito schemi molto simili. Sono morte rispettivamente 189 e 158 persone. Non sono solo queste morti a preoccuparmi, ma vedo anche dei parallelismi tra le cause di questi incidenti aerei e le questioni di ricerca di cui mi occupo nel mio campo, la digitalizzazione e l'automazione nell'assistenza sanitaria.

Ci sono paralleli tra medicina e aviazione
Esistono paralleli tra la medicina e l'aviazione. (Immagine Sybol: Shutterstock)

Il parallelismo tra aviazione e medicina non è una novità: gli anestesisti che "guidano" un paziente in sicurezza durante un'operazione sono stati spesso paragonati ai piloti di linea. La lista di controllo della sicurezza chirurgica dell'OMS1 direttamente ispirato ai controlli dei piloti prima del decollo e dopo l'atterraggio. Infine, uno dei nostri progetti di ricerca, in cui collaboriamo con l'Ospedale universitario di Zurigo per migliorare il monitoraggio dei pazienti nelle unità di terapia intensiva (ICU) utilizzando metodi di data science, si chiama ICU Cockpit per una buona ragione.2, 3.

Tuttavia, il caso del Boeing 737 Max illustra due nuovi parallelismi tra questi settori: da un lato, la crescente digitalizzazione e automazione e dall'altro, molto meno onorevole, la massimizzazione del profitto aziendale. Un articolo pubblicato di recente sul New York Times suggerisce che quest'ultima ha giocato un ruolo significativo nel caso Boeing.4.

In sintesi: Boeing era sottoposta a una forte pressione competitiva. Invece di investire nel costoso e lungo sviluppo di un nuovo aereo moderno, l'azienda ha riprogettato un modello di aereo che aveva più di 40 anni. Per soddisfare i requisiti di marketing, come i bassi costi operativi, ha utilizzato una nuova tecnologia che non era adatta al vecchio aereo. Per compensare le carenze aerodinamiche, ha sviluppato un software che, contrariamente alle migliori pratiche del settore, interviene senza che il pilota se ne accorga. Nella fretta, la Boeing ha dimenticato di annotare le modifiche nel manuale dell'aereo e di informare le compagnie aeree e i piloti su questi meccanismi. L'azienda ha anche trascurato il fatto che le caratteristiche di sicurezza di base sono solo parte di un costoso add-on che la maggior parte delle compagnie aeree attente ai costi non ha acquistato. Inoltre, gli ingegneri della Boeing hanno ignorato - probabilmente a causa di una modifica tardiva del sistema - il principio di base della ridondanza che avrebbe potuto compensare il guasto di un sensore. Anche quando questi errori sono diventati noti dopo il primo incidente, l'azienda non ha informato le persone coinvolte in modo rapido e dettagliato per evitare un altro incidente.

Non siamo immuni da questi errori

Nel mio lavoro sono coinvolto nello sviluppo di una serie di dispositivi medici e software in grado di effettuare diagnosi o addirittura interventi. Questi dispositivi vengono attualmente testati nelle cliniche a scopo di ricerca. I malfunzionamenti possono avere rapidamente conseguenze fatali.

"Gli ospedali e i produttori di prodotti medici sentono la pressione di politici e azionisti per tagliare i costi e aumentare i servizi".Walter Karlen

Anche i collaboratori del nostro settore sono sottoposti a pressioni, nel caso dei dottorandi, ad esempio, quando vogliono completare la loro tesi di dottorato il più rapidamente possibile o quando il loro finanziamento temporaneo finisce. La tentazione di non aderire sempre alle migliori pratiche è grande. In ogni caso, il settore medico non è immune da errori come quelli commessi dalla Boeing. Nel nostro settore, gli errori potrebbero portare a perdite di vite umane ancora maggiori. Purtroppo, questi casi sarebbero probabilmente più difficili da riconoscere perché si verificano in molti ospedali di tutto il mondo.

Non c'è abbastanza ricerca sulla sicurezza

La pressione sui costi e la progressiva commercializzazione sono evidenti nel sistema sanitario della Svizzera e di altri Paesi. Gli ospedali e i produttori di prodotti medici sentono la pressione di politici e azionisti per ridurre i costi e aumentare i servizi.

La salute digitale e la raccolta di dati sanitari a distanza con i wearable fanno parte di quasi tutte le nuove iniziative sanitarie; automazione e intelligenza artificiale sono le grandi parole d'ordine. Sembra che le autorità siano ancora sopraffatte dalle nuove possibilità. In ogni caso, sono in ritardo con una regolamentazione chiara e urgente. Sia nel settore dell'aviazione che in quello della tecnologia medica, le autorità si affidano in larga misura alla responsabilità del produttore e all'autodichiarazione, anche per i produttori esterni all'industria che sono nuovi nel settore.

Quando osservo i progetti di ricerca nel mio campo, mi sembra che solo pochi di essi si occupino di sicurezza, ridondanza, valutazione del rischio e facilità d'uso. Forse questi temi ingegneristici sono trattati in modo superficiale perché considerati in parte già ben studiati e di natura troppo applicativa. Tuttavia, abbiamo tutte le ragioni per approfondire questi temi cruciali anche nel campo della salute digitale.

Agire in modo responsabile

Ma stiamo preparando i nostri studenti a questo? O li incoraggiamo solo a correre rischi e a buttarsi alla cieca nella prossima bolla di start-up, insegniamo loro gli ultimi metodi di elaborazione dei dati per soddisfare le richieste del mercato del lavoro e formiamo i nostri dottorandi solo per condurre ricerche che possono essere pubblicate su riviste di alto livello?

Sulla formazione preliminare del Giuramento di Ippocrate in medicina, alcuni anni fa gli ingegneri hanno fatto il Giuramento di Archimede.5 proposto. In breve, si tratta di essere responsabili delle proprie azioni, di non fare del male e di utilizzare le proprie capacità per il bene sociale. Credo sia giunto il momento di far rivivere questo giuramento di Archimede. Non solo come documento consegnato con la laurea specialistica, ma come parte centrale dei programmi di formazione e ricerca dell'ETH. Abbiamo bisogno di un maggior numero di ingegneri ben formati che agiscano sempre in modo responsabile, ed è ora di dare loro maggiore voce in capitolo nelle decisioni sui prodotti delle aziende tecnologiche.

JavaScript è stato disabilitato sul tuo browser