Cos’è il pregiudizio dell’automazione che affligge il mondo moderno (e come contrastarlo)

Ogni giorno ci ritroviamo a fare i conti con tantissimi pregiudizi cognitivi, ossia errori sistematici nei processi cognitivi (come il pensiero, la percezione e la memoria) divergenti dalla razionalità, e che possono influenzare i giudizi. Scopriamo cos'è il pregiudizio dell'automazione e come evitarlo

©artemisdian/123rf

Se pensiamo al cervello umano come a un computer, il pregiudizio cognitivo possiamo definirlo come un “errore nel codice” che ci fa percepire un input in modo diverso oppure produrre un output illogico.

Ma ci sono tanti altri tipi di pregiudizi non necessariamente cognitivi; per esempio, c’è la teoria del social proofing, che è uno dei pregiudizi psicologici sociali più popolari.

Inoltre, possono esserci teorie cognitive simili a una rete di pregiudizi comuni aggrovigliati insieme, come la dissonanza cognitiva che causa disagio mentale quando abbiamo idee o credenze contrastanti nella nostra mente.

Infine, c’è il famoso effetto placebo che può effettivamente portare a cambiamenti fisiologici, ma oggi vogliamo parlare del pregiudizio dell’automazione.

Pregiudizio dell’automazione: cos’è e come contrastarlo

Il pregiudizio dell’automazione è la propensione degli esseri umani a favorire i suggerimenti dei sistemi decisionali automatizzati guidati dall’intelligenza artificiale.

Questo è diventato un problema crescente per il processo decisionale in diversi ambiti, dall’ingegneria alla medicina poiché, ad esempio, le unità di terapia intensiva, le centrali nucleari e le cabine di pilotaggio degli aerei hanno monitor di sistema computerizzati sempre più integrati e ausili decisionali per escludere possibili errori umani.

Esempi di bias di automazione vanno da questioni urgenti, come far volare un aereo con il pilota automatico a questioni banali come l’uso di programmi di controllo ortografico oppure decidere cosa guardare su Netflix.

Si parla di pregiudizio dell’automazione anche quando i medici accettano la guida di un sistema automatizzato e smettono di cercare prove di conferma, forse trasferendo la responsabilità del processo decisionale sulla macchina stessa.

Nel mondo moderno, sempre in continua evoluzione, il pregiudizio dell’automazione è diventato preoccupante poiché l’essere umano fa troppo affidamento sulla tecnologia di apprendimento automatico, perdendo così il proprio potere decisionale e anche la curiosità che caratterizza l’essere umano in quanto tale.

Sfortunatamente, il pregiudizio dell’automazione, proprio come altri pregiudizi cognitivi, non ha una soluzione semplice e universale.

Di conseguenza, per poterlo contrastare è richiesta una combinazione di strategie, come fornire una formazione continua per aumentare la propria consapevolezza oppure sperimentare tecniche di debiasing, oppure semplicemente seguire il proprio pensiero e affidarsi alla curiosità umana.

Seguici su Telegram | Instagram | Facebook | TikTok | Youtube