Le decisioni automatizzate: sfide dell’IA a partire dall’art. 22 del GDPR.

The issue related to automated processing of personal data requires an evaluation from different perspectives, including legislative, ethical and social point of views. This paper aims to investigate the critical issues regarding the application of art. 22 of GDPR: this will provide an overview of the development of artificial intelligence (AI), of its different meanings, as well as the current application areas and possible future evolutions. Although it is still a relatively recent topic, AI already presents numerous challenges from the ethical point of view, due to the need to protect the fundamental rights from the risks of automated processing. In this regard, following the in-depth study of art. 22 and the associated Recital 71, the survey will be developed in relation to a new approach, called ethics by design, which provides for the integration of moral values since the design of the algorithm. Furthermore, AI presents numerous risks from the point of view of neutrality, undermined by numerous cases of discrimination that have occurred due to the algorithmic machine’s intrinsic prejudices. It presents the so-called bias, or distortions, which can emerge since the moment of its design or, similarly, on occasions of subsequent self-regulation of the systems. Particular attention will then be paid to the principles of transparency and knowability, currently still blurred by the presence of a black box, which denotes the unknown and indescribable nature of AI (which is in turn, caused by the complexity of the algorithm). To finalise the analysis, will be examinated the concepts of legal personality and responsibility, related to the eventuality for which the artificial machine may be attributable to any damage, as well as the definition of the rights and obligations of the automated machine. In conclusion, the current solutions and their possible evolution will be illustrated, underlining the need to adopt the principle of explainability and the concept of Logging by design. Also, the limits of the current legislation will be taken into consideration, as well as the possible future of the relationship between information technology, law and ethics. The entire research will be conducted also making use of the in-depth analysis of the main jurisprudential cases (starting from the "Loomis" case, up to Google Spain and Deliveroo) and regulatory documents that for years have aimed at protecting the relationship between law and AI (including Directives European Union, Guidelines and Conventions).

L’ampio tema del trattamento automatizzato dei dati personali richiede una valutazione da diversi punti di vista: normativo, etico, sociale. Il presente lavoro mira ad indagare le criticità riconducibili all'applicazione dell'art. 22 del GDPR: si fornirà così una panoramica dello sviluppo dell'intelligenza artificiale (IA), delle sue diverse accezioni, nonché degli attuali ambiti applicativi e delle possibili evoluzioni future. Sebbene sia ancora un argomento relativamente recente, l’IA presenta già numerose sfide dal punto di vista etico, dovute alla necessità di tutelare i diritti fondamentali dell'individuo dai rischi del trattamento automatizzato. A tal proposito, a seguito dell’approfondimento dell’art. 22 e del Considerando 71, ad esso collegato, si svilupperà l’indagine in relazione a un nuovo approccio, definito ethics by design, che prevede l'integrazione dei valori morali sin dalla progettazione dell'algoritmo. L'IA, inoltre, presenta numerosi rischi dal punto di vista della neutralità, messa in crisi da numerosi casi di discriminazione avvenuti a causa di pregiudizi intrinseci alla macchina algoritmica. Essa presenta le c.d. bias, ossia distorsioni, che possono emergere sin dal momento della sua progettazione o, analogamente, in occasioni di successiva auto-regolamentazione dei sistemi. Un’attenzione particolare sarà poi riservata ai principi di trasparenza e conoscibilità, attualmente ancora offuscati dalla presenza di una black box, che denota la natura essenzialmente sconosciuta e indescrivibile dell’IA (a sua volta, causata dalla complessità dell'algoritmo). A chiudere il cerchio saranno i concetti di personalità giuridica e di responsabilità, legati all’eventualità per cui la macchina artificiale possa essere imputabile di un eventuale danno, nonché la definizione dei diritti e degli obblighi in capo alla macchina automatizzata. In conclusione, saranno illustrate le attuali soluzioni e la loro possibile evoluzione, sottolineando la necessità di adottare il principio di spiegabilità e il concetto di Logging by design, e verranno presi in considerazione i limiti dell'attuale normativa, nonché il possibile futuro della relazione tra informatica, diritto ed etica. L’intera ricerca sarà condotta avvalendosi anche dell’approfondimento dei principali casi giurisprudenziali (a partire dal caso “Loomis” fino alla questione Google Spain e Deliveroo) e documenti normativi che da anni puntano a tutelare la relazione tra diritto e IA (ivi comprese Direttive europee, Linee guida e Convenzioni).