Si leggono sempre più articoli che annunciano l'arrivo dell'AI generativa per produrre automaticamente referti medici, che mostrano dati che, invece che essere rassicuranti, sono inquietanti.
"Risultati dell’intelligenza artificiale sovrapponibili a quelli degli specialisti
Secondo l’analisi statistica, la performance di XXX-X (nota tecnologia di AI, ndr) rispecchia quella dei radiologi; il tasso di individuazione di errore dell’intelligenza generativa, pari all’82,7%, può dirsi sovrapponibile a quello medio ottenuto dai radiologi, a prescindere dalla loro esperienza."
No, spezziamo una lancia o anche due in favore dei radiologi!
Innanzitutto quella percentuale attribuita ai radiologi è discutibile, o meglio, ben poco credibile che quasi il 20% dei referti radiologici (uno su cinque) contenga errori.
Ed in ogni caso, per la percentuale "non corretta", o meglio "non perfetta", occorre comprendere di quali errori si tratta.
L'errore del radiologo è spesso solo ortografico, inserito in fase di correzione, non cambia in alcun modo il significato e non compromette la diagnosi. Ma statisticamente è calcolato come un errore.
L'AI non commette errori ortografici, ma sbaglia in modo intelligente! Scrive referti sempre plausibili, formalmente corretti, senza errori, ma per via delle cosiddette allucinazioni, potrebbe contenere diagnosi errate.
L'errore del radiologo è "trivial", "cosmetico", mentre l'errore dell'AI è di contenuto, e spesso anche difficile da rilevare perché inserito in un contesto perfettamente coerente nell'errore.
Occorrerà del tempo, prima che i radiologi siano totalmente sostituiti dall'AI nella scrittura del referto. E, sicuramente, non è un buon argomento "sbagliano allo stesso modo".
Ogni giorno in un aeroporto internazionale partono ed arrivano 500 voli. Prendereste un aereo da quell'aeroporto, sapendo che uno su cinque, ovvero cento aerei al giorno hanno un guasto?
Questi numeri non riflettono per nulla l'indiscussa ECCELLENZA della sanità Italiana!
Ora, immaginiamo un percorso completo: diagnosi sulla quale c'è un 20% di errore, e vi si applica la terapia basata su AI sulla quale c'è un altro 20% di errore, e quindi sulla somministrazione effettuata tramite AI con un altro 20% di errore... nel 40% dei casi, alle dimissioni, si scriverebbe "il paziente è guarito nonostante le cure".
Security non è solo la sicurezza informatica. È anche la garanzia del contenuto del referto.
reconice, security by design.