Machine Learning: quanto può scoprire su di me?

machine learning e privacy

Il funzionamento delle macchine ad apprendimento automatico è molto distante dai classici paradigmi di programmazione a cui siamo abituati, decisioni e risultati non sono frutto di una logica predefinita ma di funzioni elaborate in autonomia. La conseguenza di questo semplice assunto è che non possiamo sapere esattamente come verranno prese alcune decisioni e come verranno calcolati alcuni risultati.

QUANTO CI CONOSCONO LE MACCHINE?
Gli algoritmi di machine learning funzionano davvero bene e hanno a disposizione un’enorme quantità di dati che noi stessi produciamo continuamente interagendo con la rete e con gli smart device. In molti casi la quantità di informazioni che una macchina può interpolare da questi dati va oltre le nostre aspettative.

Sapevi che sono stati elaborati algoritmi in grado di prevedere la possibilità che una persona cada in depressione analizzando dati generati dalle interazioni online? Una previsione che forse nemmeno un’amico sarebbe in grado di fare con la stessa accuratezza, una possibilità che si farebbe fatica ad ammettere anche a se stessi.

COME VENGONO USATE QUESTE ANALISI?   
Questo è stato solo un’esempio, ma ci sono una grande quantità di informazioni sensibili che possono essere usate per advertising mirato o scelte aziendali di tipo diverso. Immaginiamo una situazione: cosa succede se un’azienda usa la previsione di una macchina sulla probabilità che un candidato possa soffrire di depressione in futuro per decidere chi verrà assunto e chi no?

Quando sono in gioco implicazioni etiche l’utilizzo di algoritmi di machine learning per coadiuvare processi decisionali delicati diventa una questione complessa. Non bisogna tenere conto solo della loro efficienza o della loro accuratezza, diventa importante stabilire le conseguenze sul piano morale di un’eventuale valutazione errata.

Le domande che mi hanno fatto scrivere quest’articolo penso siano il modo migliore per concluderlo:  qual’è il limite invalicabile per l’utilizzo del machine learning? Come stabilire quali decisioni possono essere delegate ad un’algoritmo?