Definizione
Il bias è una distorsione sistematica che può influenzare il processo decisionale o l’accuratezza di un modello. In intelligenza artificiale (IA), il bias si manifesta quando un algoritmo produce risultati che favoriscono o penalizzano determinate categorie in modo non intenzionale, spesso a causa di dati non rappresentativi o di assunzioni implicite nel modello.
Il bias può ridurre l’affidabilità e la generalizzazione dei modelli, portando a decisioni errate o discriminatorie. Per questo motivo, è fondamentale identificarlo e mitigarne gli effetti attraverso una raccolta dati equilibrata e valutazioni rigorose dei modelli.
Applicazioni in medicina
- Un algoritmo di diagnosi radiologica addestrato su dati provenienti da un’unica popolazione potrebbe non generalizzarsi bene a pazienti di etnie diverse
- Un modello di predizione delle malattie cardiovascolari potrebbe sovrastimare o sottostimare il rischio per alcune fasce di età o genere se i dati di addestramento non sono equilibrati
