Il bias, un errore di valutazione influenzato da pregiudizi, è un fenomeno che colpisce non solo gli esseri umani ma anche le intelligenze artificiali. Questo episodio esplora come i bias cognitivi, come la percezione che un idraulico debba essere un uomo o che le donne siano più adatte a ruoli di segretariato, si riflettano nei sistemi di intelligenza artificiale. Un esempio concreto è la parola "programmatore", associata al 70% agli uomini e solo al 30% alle donne, mentre il concetto di cucinare è maggiormente legato alle donne.
L'episodio presenta due scuole di pensiero contrapposte riguardo alla gestione dei bias nelle intelligenze artificiali. La prima sostiene che il bias debba essere eliminato, poiché le AI sono sempre più utilizzate in ambiti reali come la selezione del personale, dove pregiudizi potrebbero ampliare divari esistenti. Eliminare i bias è quindi essenziale per evitare discriminazioni basate su genere, razza o altre caratteristiche.
La seconda scuola di pensiero, invece, ritiene che i bias debbano essere mantenuti. Questo perché le AI servono a prevedere comportamenti umani e non dovrebbero essere più perfette o politically correct degli esseri umani stessi. Mantenere i bias permetterebbe di riflettere accuratamente la complessità della realtà umana, evitando di creare un'immagine idealizzata e irrealistica.
La questione rimane aperta: dovremmo creare intelligenze artificiali che siano migliori di noi o che ci riflettano fedelmente? La discussione è complessa e non si risolverà in breve tempo. Invito tutti a riflettere e condividere le proprie opinioni su quale direzione dovrebbe prendere lo sviluppo delle AI.
In questa Puntata
Il bias è un errore di valutazione influenzato da pregiudizi, presente anche nelle intelligenze artificiali. Due scuole di pensiero si confrontano: una sostiene l'eliminazione del bias per evitare discriminazioni, l'altra ne promuove il mantenimento per riflettere la realtà umana. La discussione su quale approccio adottare rimane aperta e complessa.