Algoritmi e bias: il pericolo delle disuguaglianze digitali

Un altro tema caldo riguarda i cosiddetti ‘bias algoritmici’. cioè distorsioni che si verificano quando un’intelligenza artificiale è addestrata su dati non rappresentativi. Se i dataset clinici utilizzati privilegiano alcune fasce di popolazione, il risultato sarà un sistema meno accurato per pazienti di etnie, età o condizioni diverse.

Questo può generare nuove disuguaglianze nell’accesso alle cure, anziché ridurle. Per esempio, studi recenti hanno dimostrato che alcuni algoritmi di analisi radiologica risultano meno affidabili per pazienti con carnagione scura, a causa della scarsità di dati corrispondenti nei database.

La soluzione proposta dagli esperti è una maggiore ‘trasparenza’ nello sviluppo degli algoritmi, con obbligo di dichiarare la provenienza e la diversità dei dati, oltre a sistemi di validazione indipendenti. Solo così sarà possibile garantire che l’innovazione digitale migliori davvero l’equità e la qualità delle cure.