Categorie fondamentali del diritto penale e “scelte tragiche” automatizzate

1. Diritto penale e morale: due modelli di relazione

Il rapporto tra diritto e morale diventa “visibile e drammatico non tanto nei casi di affinità o di sovrapposizione tra i due ambiti, quanto nei possibili casi di conflitto tra essi”[1]. È in tali frangenti che affiorano, con maggiore nettezza, i presupposti fondanti dell’ordinamento penale, nonché i suoi limiti.

In quanto esseri umani, siamo inevitabilmente influenzati dai nostri valori morali[2]. Tali valori non vengono “neutralizzati” né “per il solo fatto di far parte di una società civile o di un ordinamento giuridico”[3], né “per il sol fatto di ricoprire qualche tipo di ruolo, ufficiale o meno”[4]. I possibili conflitti fra obblighi giuridici e obblighi morali interni sorgono per due motivi. In primo luogo perché il “diritto reclama supremazia”[5], ossia prevale, salvo deroga espressa, su qualunque altro obbligo di natura diversa. In secondo luogo, perché la vincolatività delle norme giuridiche è indipendente dal loro contenuto[6]: esse non obbligano perché intrinsecamente giuste o perché ritenute tali dal destinatario, bensì in virtù dell’autorità della loro fonte[7]. In tale prospettiva si colloca l’evoluzione del diritto penale moderno, che ha progressivamente abbandonato la repressione di condotte malum in se, ossia condotte intrinsecamente immorali, per orientarsi verso la repressione di condotte malum prohibitum, il cui disvalore deriva primariamente dalla loro contrarietà al diritto positivo. Ciò, come si vedrà, non ha comportato tuttavia una totale espulsione della dimensione morale dal diritto penale: essa continua a riemergere, seppure in forme indirette e mediate, all’interno di categorie fondamentali quali l’imputabilità, la colpevolezza e le cause di giustificazione.

Questioni classiche di questo tipo ritrovano ciclicamente popolarità all’interno del dibattito dottrinale e giurisprudenziale. Da ultimo, la rinnovata attualità è dovuta all’avvento delle nuove tecniche di intelligenza artificiale (IA). In particolare, i tentativi di creare “agenti morali artificiali”, ossia sistemi capaci di operare scelte conformi a criteri etici prestabiliti,[8] ci porta a considerazioni sempre più introspettive e a riflettere su alcuni dei presupposti morali impliciti nelle categorie penalistiche tradizionali[9]. Invero,

“Da sempre, il giurista osserva i fenomeni sociali e li analizza al fine di stabilire se essi possano essere ricompresi nella disciplina del diritto vigente […] o se viceversa appaia necessario innovare normativamente per regolarli o per regolarli meglio[10]”.

Il presente contributo muove dall’assunto che il diritto penale, pur non potendo eliminare del tutto la sua dimensione morale, non può nemmeno farsi carico di risolvere dilemmi etici mediante regole generali, né delegare tale compito a sistemi di IA. Sulla base di queste premesse, i paragrafi che seguono analizzeranno due possibili relazioni tra morale e diritto penale. La prima può essere qualificata come un prototipo di relazione identificativa[11]. ossia un’ipotesi in cui la morale viene impiegata per individuare il diritto applicabile; la seconda, invece, può essere definita come una relazione giustificativa, vale a dire un caso in cui l’ordinamento giuridico consente, entro certi limiti, la disapplicazione del precetto penale in ragione di un conflitto morale[12]. 

2. Imputabilità, capacità di intendere e limiti dell’analogia con l’IA

Un primo punto di contatto tra diritto penale e morale si può rinvenire nella nozione di imputabilità. Affinché un individuo possa essere ritenuto rimproverabile egli deve essere capace di intendere, cioè in grado di comprendere la natura della propria condotta, e capace di volere, cioè in grado di governare le proprie azioni o i propri impulsi in modo conforme a tale comprensione[13].

Il processo decisionale morale assume rilievo con riferimento al primo di tali requisiti, ossia per quanto concerne la comprensione o l’apprezzamento della natura del proprio agire. Tale concetto presenta declinazioni differenti nei moderni ordinamenti giuridici: in Germania l’imputabilità è espressamente collegata alla comprensione dell’antigiuridicità della propria azione[14]; il criterio M’Naghten, lo standard maggiormente adottato negli Stati Uniti, fa riferimento sia alla natura e qualità dell’atto, sia alla sua illiceità morale[15]; il Model Penal Code[16], invece, include nella sua formulazione di insanity defense sia la capacità di apprezzare l’antigiuridicità della propria azione che la capacità di apprezzare più genericamente l’illiceità della stessa. Inoltre, secondo la più recente pronuncia della Corte Suprema degli Stati Uniti in materia di infermità mentale (Kahler v. Kansas), il right-or-wrong test non costituisce una componente imperativa dell’insanity defense, che perciò può essere regolata dagli Stati senza includere tale elemento[17]. In altri termini, ai sensi di questo recente approdo giurisprudenziale statunitense, un soggetto può essere ritenuto imputabile anche qualora non abbia compreso il carattere moralmente riprovevole della propria condotta.

Nell’ordinamento italiano la capacità di intendere corrisponde ad un “pensare ordinato”[18], ricomprendendo al suo interno un “complesso armonico di condizioni psichiche”[19], quali l’abilità di “rendersi conto del valore sociale dell’atto che essa intende compiere, di prefigurarsene le conseguenze, di stabilirne gli effetti ed i mezzi per produrli”[20]. La comprensione della riprovevolezza e del disvalore sociale delle proprie azioni[21] sottintende anche la capacità di poter effettuare una valutazione morale sul proprio agire, ovverosia la capacità di distinguere ciò che è giusto da ciò che è sbagliato[22]. La capacità di intendere, così come concepita nel nostro ordinamento, quindi, non consiste esclusivamente nella capacità di fare scelte che siano eticamente accettabili, ma si struttura su livelli diversi. Il soggetto capace deve perciò:

“essere in grado di comprendere se la sua azione è buona o cattiva, comprenderne cioè, il valore morale, se è lecita o illecita, cioè il suo valore giuridico, e se, è utile o dannosa all’interesse comune, comprendere cioè il valore o disvalore sociale e quindi il carattere antidoveroso e proibito dell’azione stessa[23]”.

Secondo alcuni autori, vi è una generale resistenza sia in giurisprudenza che in dottrina ad interrogarsi se l’imputabilità implichi in capo al reo «un minimo di competenza morale», ossia se il concetto di razionalità “si nutra, oltre che delle capacità di pensiero logico (“ordinato”) anche del moral sense e dell’“appropriatezza” emotiva”[24]. In tal senso, sostiene Di Giovine, non sarebbe giusto “punire parimenti chi sente il significato di uccidere una persona e chi pensa che tale condotta equivalga a buttare mozziconi di sigaretta per strada”[25].

Passando ora all’analisi dei sistemi di IA: se la capacità di intendere fosse definita esclusivamente in termini di comprensione della causalità materiale di un’azione, allora questi sistemi di IA potrebbero, almeno in astratto, soddisfare senza difficoltà tale requisito[26]. In altri termini, i sistemi di IA sono in grado di conseguire una comprensione epistemica dei fatti rilevanti. Essi, infatti, possiedono una capacità di prevedere la probabilità che un evento sia fisicamente causato da una determinata azione (ossia di elaborare un modello causale) di gran lunga superiore a quella di un agente umano, grazie anche alla disponibilità di una base di conoscenze immensamente più ampia (i dati disponibili) e a capacità inferenziali più avanzate. È indubbio, pertanto, che i sistemi di IA possano apprendere, in modo esponenziale, un numero di regole della fisica incomparabilmente superiore a quello che qualsiasi essere umano potrebbe acquisire nell’arco di un’intera vita[27].

Peraltro, il rispetto delle norme giuridiche potrebbe forse essere incorporato nell’architettura del sistema di IA. È stato infatti sostenuto che sia possibile elaborare un “Bot Legal Code”, ossia una versione delle leggi direttamente interpretabile dalle macchine[28]. In linea teorica, i sistemi di IA potrebbero persino essere più inclini al rispetto della legge, poiché sono in grado di memorizzare un numero maggiore di norme rispetto agli esseri umani – potenzialmente l’intero corpus della legislazione penale di un ordinamento — e di non dimenticarle mai. Inoltre, l’effetto deterrente della pena potrebbe essere “programmato” nelle macchine, secondo “calcoli di costi-benefici puramente meccanici”[29]. Tuttavia, gli attuali sistemi di IA non sono in grado di percepire le norme in quanto tali e in modo autonomo, anche se si potrebbe sostenere, ad esempio, che le auto a guida autonoma sono già in grado di identificare e leggere direttamente le norme simbolizzate, ovvero i segnali stradali. Nondimeno, ad oggi i sistemi di IA richiedono sempre la mediazione (ovvero la programmazione) di un agente umano: devono essere istruiti sul fatto che una norma giuridica debba essere rispettata.

Nonostante il crescente interesse scientifico per lo sviluppo di artificial moral agents, i sistemi di IA non sono (ancora) in grado di compiere le operazioni cognitive sottese alla capacità di intendere, così come delineata poc’anzi. Difetta, in particolare, una caratteristica fondamentale sottostante alla nozione di imputabilità: la libertà di disattendere il precetto normativo. Da ciò discende la questione se tali sistemi possano essere assimilati, nell’ambito dell’ordinamento penale, a soggetti incapaci di intendere e di volere (c.d. Artificial Insane Offenders)[30]. Alcuni autori hanno sostenuto che un sistema di intelligenza artificiale possa essere accostato, sul piano concettuale, a un soggetto che, pur essendo incapace di comprensione morale, è comunque capace di deliberazione e azione prudenziale[31]. I sistemi di IA sarebbero dotati di “razionalità strumentale”: sarebbero quindi in grado di perseguire fini determinati e di adeguare la propria condotta a tali fini, tenendo conto delle possibili conseguenze delle proprie azioni, inclusa l’eventualità di incorrere in una sanzione penale (mostrando, dunque, prudenza in relazione all’aspettativa della punizione)[32]. Essi non possiedono però “la capacità emotiva di apprezzare la riprovevolezza morale del proprio comportamento e, conseguentemente, difettano di una motivazione intrinseca al rispetto della norma, salvo che tale conformità risponda a un interesse proprio”[33]. Eppure, ciò non sarebbe da ostacolo all’attribuzione di una responsabilità penale – seppure diminuita, nella forma di un’infermità parziale di mente – posto che tali autori rigettano la possibilità che l’assenza di capacità di agire per ragioni morali sia una condizione da sola sufficiente ad escludere l’imputabilità[34]. In conclusione, secondo altri autori, sarebbe più corretto parlare di mancanza di capacità giuridica penale dei sistemi di IA piuttosto che assenza di imputabilità, poiché i sistemi di IA non sono mai “capaci di autodeterminarsi in maniera consapevole, e di comprendere il significato dei precetti normativi […]. A difettare, infatti, è la stessa capacità “in astratto”, dei sistemi di i.a., di essere validi destinatari dei precetti penali e, dunque, soggetti del diritto penale”[35]. 

3. Dilemmi morali e stato di necessità 

a. Struttura e possibili criteri di distinzione

I dilemmi etici possono essere definiti come scenari costruiti per evidenziare un conflitto tra due principi morali[36]-[37]. Il dilemma etico implica una decisione tra due linee di condotta moralmente incompatibili[38]. Esempi di dilemmi etici, oltre al famoso problema del carrello[39], includono casi di scuola come quello della zattera contesa dopo un naufragio o l’utilizzo di mezzi di tortura nei confronti di un terrorista al fine di prevenire una strage[40]. I paragrafi successivi si concentreranno su una particolare tipologia di dilemmi etici, ossia casi di conflitti “funzionali alla tutela della vita umana”[41]. Si tratta di casi, quindi, in cui un individuo è posto davanti a delle scelte tragiche[42] ove “ogni possibile condotta è – moralmente e giuridicamente – illecita”[43]. Preme ricordare fin da ora che il diritto penale non costituisce un sistema «chiuso»: esso fornisce criteri di orientamento, ma non è in grado, né lo sarà mai, di offrire risposte definitive a tutti i casi complicati[44].

I dilemmi etici vengono tradizionalmente suddivisi in personali e impersonali. Una violazione morale è considerata personale se “a) può ragionevolmente causare un danno grave, b) ad una persona specifica o ad uno o più membri di un gruppo specifico di persone, e c) se il danno non deriva dal tentativo da parte dell’agente di deviare verso terzi una minaccia esistente”[45]. Più di recente, è stata proposta una distinzione secondo due macro-categorie diverse che identifica da un lato i dilemmi «incidentali», vale a dire situazioni in cui “la morte di una o più persone è una conseguenza prevista ma non voluta di un’azione volta a salvare un numero maggiore di persone”[46] e dilemmi “strumentali”, detti anche “sacrificali”[47], in cui “la morte di una o più persone è un mezzo usato intenzionalmente per salvare più persone”[48]. In psicologia sperimentale dilemmi etici così strutturati vengono utilizzati per indagare il funzionamento dei processi cognitivi ed emozionali nelle nostre decisioni. Difatti, secondo la “teoria del doppio processo”, il nostro giudizio morale sarebbe “frutto di un conflitto tra un sistema “cognitivo”, relativamente lento, che opera in modo consapevole e impiega risorse cognitive, e un sistema “affettivo”, più rapido, che opera in modo automatico e si basa sull’intuizione”[49]. Secondo la psicologia cognitiva, i dilemmi morali incidentali vengono decisi quindi prevalentemente tramite processi cognitivi basati su un’analisi dei costi e dei benefici mentre nei dilemmi morali sacrificali prevalgono i processi emozionali (con il conseguente rifiuto dell’opzione «sacrificale»). Inoltre, rileva anche il coinvolgimento del soggetto che deve fare la scelta tragica: “nei dilemmi in cui anche la vita dell’agente è in pericolo, il sacrificio di un individuo per salvare se stesso e gli altri viene giudicato moralmente più accettabile rispetto ai dilemmi in cui l’agente non è in pericolo e il sacrificio permette di salvare solo le altre persone”[50]. Un esempio dei “nuovi” dilemmi morali sviluppati, in particolare di un dilemma morale strumentale con coinvolgimento, è il seguente:

“Sei il pilota di un elicottero da turismo e stai trasportando 4 persone in un volo panoramico sulle Alpi francesi, a circa 2000 metri di altezza. Ad un certo punto l’elicottero perde quota e non risponde più ai comandi. Lanci una richiesta di aiuto e tenti diverse manovre, ma l’elicottero continua a precipitare rischiando di schiantarsi contro una parete rocciosa. Per riacquistare quota, spingi la persona vicino a te fuori dall’elicottero. Sai che questa si schianterà a terra e morirà, ma tu e gli altri 3 riuscirete a salvarvi”[51].

Come tradurre quindi questi concetti in un linguaggio conosciuto dal penalista? Il pilota può essere ritenuto responsabile per la morte del passeggero da lui spinto fuori dall’elicottero? E se l’elicottero fosse pilotato da un sistema di IA totalmente autonomo, dovrebbe essere programmato per prendere questo tipo di decisioni?

Senza dubbio, si tratta di “esperimenti mentali ritenuti idonei a saggiare sul piano teorico la resistenza di determinati principi morali sulla linea di confine tra il bene e il male”[52]. Non si può che non esser d’accordo con chi afferma che tali “colpi di fioretto” fra filosofi “delimitano concetti tutt’altro che lontani dal campo d’azione […] dei penalisti”[53]. 

b. Dilemmi morali e stato di necessità

I dilemmi morali possono fornire spunti di riflessione nell’ambito dello stato di necessità, così come regolato dall’art. 54 del codice penale[54]. Ai sensi dell’art. 54, infatti, l’ordinamento penale rinuncia alla pretesa punitiva in casi in cui «si determina un rapporto di alternatività tra il salvataggio di un bene (in pericolo) e il sacrificio di un altro (offeso dal fatto criminoso giustificato), nel senso che il salvataggio del primo può avvenire solo col sacrificio del secondo e – per contro – il rispetto di quest’ultimo mediante l’astensione dal fatto criminoso comporta la perdita del bene in pericolo[55]. Lo stato di necessità può essere ricostruito in una prospettiva utilitaristica[56]. Tuttavia, come è stato osservato, “[…] da una prospettiva deontologica, si può sostenere che un fine buono non giustifica mai mezzi cattivi. Lo stato di necessità è qualcosa di più di un mero calcolo utilitaristico; altrimenti, l’uccisione di una persona al fine di espiantarne gli organi per salvare più pazienti dovrebbe essere considerata giustificata”[57].

La qualificazione giuridica dell’art. 54 c.p. quale causa di giustificazione o scusante è ampiamente dibattuta. Ci si è chiesti pertanto:

“[E]siste un principio generale che renda lecita la violazione della legge (o del precetto morale, religioso, di costume) quando tale violazione costituisca nella situazione concreta, il male minore, a fronte dell’esigenza di evitare un danno più grave? O piuttosto ci si deve limitare a scusare, a perdonare chi abbia agito trovandosi nella necessità cogente di scegliere tra due mali, ed abbia preferito il male altrui al male proprio, in tal modo comportandosi come qualunque persona non dotata di eroismo (magari lo stesso giudice, o, chissà, lo stesso confessore) si sarebbe comportata se si fosse trovata nella medesima situazione?”[58].

La questione non è di facile soluzione in quanto sono identificabili elementi che ripongono ai sensi di una e dell’altra tesi. Secondo una concezione oggettiva dello stato di necessità, questo si sostanzierebbe in una circostanza che esclude l’antigiuridicità della condotta in forza di un bilanciamento tra interessi contrapposti in situazioni in cui il danno ad uno di essi è inevitabile[59]. Secondo un secondo orientamento, lo stato di necessità sarebbe un’“espressione del principio dell’inesigibilità”[60] della condotta di un soggetto che agisce seguendo un irresistibile istinto di “conservazione”[61] che esclude la sua colpevolezza dell’agente[62].

Tale distinzione appare più difficile nel caso di situazioni riconducibili a conflitti fra doveri “insolvibili”, come quelli aventi ad oggetto vite umane.[63] Trattasi cioè di situazioni in cui non si ha a che fare con la facoltà riconosciuta in capo all’agente di “commettere un fatto di regola vietato da una norma incriminatrice, bensì l’eventuale sussistenza di un suo dovere di commettere il fatto medesimo”, come nello scenario del pilota di cui sopra[64]. In tale situazioni il soggetto ha, da un lato, “il dovere di astenersi dalla commissione di un fatto penalmente rilevante” e, dall’altro, l’ “opposto dovere di compiere il fatto medesimo, in presenza di particolari circostanze”[65]. Secondo un primo orientamento, lo stato di necessità avrebbe una funzione scusante in situazioni in cui è imposta la scelta fra più vite umane. Difatti,

“non sembra accettabile né una mera fungibilità degli uni con gli altri, né una semplicistica “mancanza di danno sociale” rispetto alla perdita degli uni o degli altri; là dove siano in gioco vite umane, in particolare, qualsiasi comparazione si rivela insostenibile qualunque scelta arbitraria: quando due soggetti sono in pericolo vita, un conto è che l’ordinamento non possa più praticamente proteggerli entrambi, altro conto che mostri teoricamente un’assoluta indifferenza per il sacrificio dell’uno o dell’altro, legittimando in tal modo a priori un asolidaristico impiego della forza e dell’astuzia di uno dei due”[66].

Secondo altri, ancora, non si avrebbe a priori una situazione di “non risolvibilità” del conflitto, posto che non si può parlare di antigiuridicità di una condotta ove non sia identificabile, all’opposto, una condotta doverosa e lecita che fungerebbe da «modello comparativo”. Quindi la soluzione sarebbe “affermare la liceità di entrambe le scelte possibili”[67], escludendone l’antigiuridicità.

In tali dilemmi, vi è senz’altro un profilo di inesigibilità della condotta, interpretabile quale “situazione di pressione psicologica, non necessariamente da intendersi quale emotività incontrollata, ma semplicemente in termini di conflitto motivazionale che interessa il soggetto nel momento in cui compie la scelta, conflitto che viene reputato meritevole di considerazione dall’ordinamento sulla base di una valutazione normativo-sociale”[68]. In tal senso, vi è chi suggerisce di distinguere, da un lato, situazioni in cui il conflitto di doveri è “interno”, ossia ove l’agente si trova «nella posizione di dover decidere tra il sacrificio di interesse proprio – o di un proprio caro – e un dovere che, vincolante sul piano del diritto, ha però la peggio sul fronte delle scelte soggettivamente condizionate”[69]. Tale situazione sarebbe sussumibile all’interno dell’inesigibilità della condotta che sarà pertanto non colpevole[70]. Dall’altro, vi sarebbero situazioni in cui il conflitto è esterno, ossia ha ad oggetto «un conflitto di doveri insolubile ma ““equidistante” per l’agente”, sussumibili nell’antigiuridicità della condotta, in quanto ad impossibilia nemo tenetur[71].

Seguendo questo ragionamento, il comportamento del pilota dell’elicottero di cui sopra rappresenta un conflitto tragico di doveri normativamente irrisolvibile rilevante sul piano della colpevolezza, anche in forza dell’impossibilità per un ordinamento giuridico di giustificare un calcolo utilitaristico avente ad oggetto la vita delle persone[72]. Infatti, ogni vita ha lo stesso valore e, perciò, non può essere sottoposta a bilanciamento[73]. D’altro canto, nel caso del chirurgo che, “consapevole che la separazione di due siamesi di pochi mesi richiederà la morte dell’una per consentire di salvare la vita all’altra porti a compimento l’operazione, con sacrificio di una delle bambine”[74] o della madre che “chiamata alla scelta di quale dei figli in pericolo di vita soccorrere, ne tragga in salvo uno, abbandonando l’altro al suo destino”, si renderebbe applicabile in via teorica lo stato di necessità scriminante. La condotta di questi due soggetti sarebbe lecita in quanto essi hanno fatto una scelta neutra perché esterni agli interessi coinvolti o, comunque, nel caso della madre, perché trattasi di una scelta fra “due doveri soggettivamente equivalenti”[75] in una situazione in cui l’evento lesivo è inevitabile. Nel caso in cui invece un padre spinga in mare un soggetto terzo innocente, impedendogli di salire sulla zattera, per trarre in salvo il figlio, si attribuirebbe un “rilievo scusante al “motivo profondamente umano” rappresentato dall’affetto paterno”, ossia l’”anormale motivazione che spinge imperiosamente il genitore ad attivarsi in favore del figlio, anche quando ciò vada a danno di terzi innocenti”[76]. In conclusione, condotte commesse sotto «lo stimolo imperioso dell’istinto di autoconservazione» di sé stessi e dei propri cari[77], comporterebbero l’applicabilità di uno stato di necessità “scusante”. 

c. IA e scelte tragiche

Come è stato autorevolmente sostenuto, la “diversificazione dell’universo etico nelle società ad alto tasso di evoluzione scientifico-tecnologica”[78] ha determinato una progressiva “dilatazione del campo di intervento della giustificazione”[79]. In particolare, il diritto penale è sempre più esposto a casi c.d. “eticamente sensibili”, ossia casi difficili da regolare tramite soluzioni normative prestabilite[80]. Tale fenomeno risulta oggi ulteriormente accentuato dalla diffusione di sistemi di IA, i quali contribuiscono a moltiplicare le situazioni in cui l’agire umano si intreccia con processi decisionali automatizzati. In questo contesto, la categoria dell’antigiuridicità assume un ruolo centrale, in quanto è quella che, più di altre, ““apre” il reato a un confronto con gli interessi generali dell’intero ordinamento”[81]. Ne consegue che “[...] il penalista non può rifiutare la consapevolezza che anche il diritto penale vive, specie nelle manifestazioni più clamorose della modernità, interconnesso e calato nell’insieme normativo e nella molteplicità degli interessi del complessivo ordinamento-istituzione”[82].

I dilemmi morali devono essere maneggiati con cautela[83], soprattutto quando si tratta di sviluppare sistemi di IA. Difatti,

“[…] vengono utilizzati nell’apprendimento automatico per fornire situazioni nelle quali non è disponibile alcuna opzione eticamente accettabile per l’agente (artificiale) chiamato a decidere. Tuttavia, affermare che si desidera che un sistema autonomo minimizzi gli esiti non etici in tali circostanze presuppone che si sappia già quali siano gli esiti non etici da minimizzare, ossia che le rilevanti questioni meta-etiche siano state previamente risolte”[84].

Inoltre, come affermato in apertura di questo contributo, allo stato attuale non è possibile qualificare i sistemi di IA quali agenti morali «autentici» facenti parte della nostra comunità e, in quanto tali, destinatari delle medesime regole etiche e giuridiche degli esseri umani[85]. Né vi è consenso, sul piano filosofico, circa l’effettiva attribuzione di responsabilità morale in capo a questi, sebbene alcune evidenze sperimentali mostrino che gli esseri umani tendano talvolta ad ascrivere ai robot livelli di responsabilità comparabili, o persino superiori, a quelli attribuiti ad agenti umani in scenari funzionalmente equivalenti[86]. Cosa possono mostrare quindi i dilemmi etici al penalista chiamato a confrontarsi con una società in cui l’agire è sempre più il risultato di una cooperazione – o di una sovrapposizione – tra agenti umani e artificiali?

Riprendendo l’esempio dell’elicottero già menzionato[87], ci si trova dinanzi a un classico conflitto di doveri: il pilota è gravato dall’obbligo di tutelare l’incolumità di tutti i passeggeri, senza che l’ordinamento fornisca criteri normativi idonei a legittimare il sacrificio intenzionale di uno di essi per salvare gli altri. Si tratta di una situazione, si è già detto, che può essere descritta come “normativamente ingovernabile”[88] e che rileva, più che sul versante della giustificazione, su quello dell’inesigibilità della condotta conforme al diritto. Ipotizziamo ora che l’elicottero sia pilotato da un sistema di IA – ipotesi tutt’altro che remota[89] – e che la situazione posta dinanzi al sistema sia la medesima. Quest’ultimo, innanzitutto, non si troverà in una situazione di coazione emotiva, in quanto non percepirà la tragicità della scelta. Peraltro, è senz’altro possibile programmare sistemi di IA in modo che possiedano una sorta di “intuizione” meccanica, simile al nostro sistema “affettivo”, ossia che siano in grado di effettuare un calcolo molto veloce, basato su scale di valori predeterminati, che porti ad una determinazione automatica e probabilistica del “male minore”. Sebbene sia tecnicamente possibile progettare tali sistemi, ciò che dovrebbe essere evitato è l’attribuzione al sistema stesso del potere di adottare autonomamente la decisione esecutiva finale. È possibile, senza snaturarne il significato, trasformare ciò che il diritto penale valuta ex post come limite dell’esigibilità (o come fattore scriminante) in una serie di criteri definiti ex ante per determinare la scelta “corretta” in scenari tragici? Nella prassi, infatti, l’applicazione di una causa di giustificazione o di una scusante passa necessariamente per una valutazione in concreto effettuata caso per caso. Ciò si pone come ostacolo ad un’eventuale standardizzazione delle possibili soluzioni giuridiche ad un dilemma morale.

Resta poi il problema delle modalità di addestramento del sistema: il trasferimento delle conoscenze dovrà avvenire attraverso l’intervento degli esperti, chiamati a formare i sistemi di IA così come hanno formato, in precedenza, le generazioni successive di piloti. Un approfondimento di tali aspetti richiederebbe un’analisi autonoma, che non può essere svolta nell’ambito del presente lavoro[90].

Infine, un impiego simile dell’IA non implica necessariamente uno scenario distopico in cui la tecnologia “decide” della vita umana. Al contrario, la valutazione automatizzata potrebbe costituire uno strumento di supporto idoneo ad attivare sistemi di allerta e a rimettere la decisione ultima a un agente umano, il cui processo decisionale, pur restando dilemmatico, risulterebbe almeno parzialmente svincolato dalle pressioni emotive legate ad un coinvolgimento personale. Qualora l’introduzione di sistemi di IA riduca significativamente il rischio complessivo di incidenti, non appare forse necessario giuridicizzare ogni residuo evento dannoso. Tale conclusione non è estranea alla disciplina dei sistemi complessi, se si considera la Normal Accident Theory[91], secondo cui nei sistemi tecnologici complessi e ad alto rischio il verificarsi di incidenti costituisce un esito strutturalmente inevitabile, piuttosto che un’anomalia imputabile a singole scelte colpevoli[92],

 

In ultima battuta, i dilemmi etici non sarebbero traducibili in regole decisionali programmabili, anche perché “interpretando la scelta morale come una procedura di problem solving, sfiorisce la tragicità del dilemma, la tragicità dell’interrogativo, in nous dell’esistere dell’umano”[93]. 

4. Riflessioni conclusive

Nei paragrafi precedenti si è cercato di fornire alcune riflessioni attinenti a questioni etiche che potrebbero concretizzarsi in questioni giuridiche[94]. L’avvento dei sistemi di IA, lungi dal semplificare tale confronto, contribuisce ad accentuarne la problematicità. Il senso di disorientamento che si prova nel trattare di questi interrogativi è dettato anche dal fatto che “in fondo, l’alternativa tra “legittimo” e “illegittimo” non può mai essere del tutto indipendente da quella tra “bene” e “male”, salvo rincorrere impostazioni di teoria pura del diritto tanto rigoristiche da finire per risultare chimeriche o, forse, distopiche”[95]. La speranza è che queste brevi riflessioni fungano da ponte tra il penalista alle prese con questioni complesse e le altre branche del sapere, in particolare quello filosofico ma non solo. Questa d’altronde è una delle caratteristiche dell’IA moderna: è oggetto di curiosità e di discussione da parte di tutti, senza discriminazioni.