Puliscono il fucile dell'amico, ma parte un colpo: muore un cacciatore colpito al pettoSiamo pronti ad accettare che il “fattore umano” possa smentire precisissime predizioni algoritmiche?Campanella In un film di Clint Eastwood, Sully, uscito nel 2016 e che ho recentemente visto su Amazon Prime, mi sono confrontata con il concetto di human in the loop. Un principio di cui oggi si sente molto parlare in diverse circostanze pubbliche e che riguarda la messa in opera di sistemi di intelligenza artificiale, sotto la sorveglianza di un essere umano.Uomo al centroIn sintesi, per garantire che i sistemi di intelligenza artificiale rimangano human centered, l’AI Act, il regolamento che disciplina la messa sul mercato europeo di modelli e sistemi di intelligenza artificiale, e prevede come nei sistemi AI ad alto rischio, sia necessario garantire che l’uomo possa avere sempre il controllo della situazione. Ma tra il dire e fare c'è il rischio che di mezzo si metta l'ipocrisia umana, alimentata dai protocolli o dal concreto rischio di risarcimento per i danni. Tutta una serie di indagini che vengono espletate nel tentativo di risalire all'eventuale errore umano e simulazioni algoritmiche. È proprio questo aspetto che il film di Eastwood squaderna, lasciandoci in eredità l’interrogativo: cosa accadrebbe se, a fronte di una decisione umana inaspettata e senza precedenti, l’algoritmo avesse fatto una scelta diversa? Siamo disposti ad avere fede nella decisione umana contro ogni calcolo algoritmico?La trama del filmSully narra l'ammaraggio del volo Us Airways 1549 avvenuto il 15 gennaio 2009 nel fiume Hudson, a New York, deciso in 230 secondi dal capitano Chesley Sullenberger, magistralmente interpretato da Tom Hanks, che a causa delle avverse condizioni di volo, va a impattare contro un stormo di grossi uccelli e perde l'uso di entrambi i motori. Grazie alle manovre eseguite dal comandante l’ammaraggio ci concluderà nel migliore dei modi per i 155 passeggeri e Sully verrà considerato un eroe.Finché non comincia l'inchiesta interna, con simulazioni algoritmiche contro il fattore umano. “Ogni simulazione algoritmica effettuata con gli stessi parametri reali di volo ha dimostrato che il ritorno dell’aereo [all’aeroporto di La Guardia, ndr] non solo era possibile, ma anche probabile”, si sente obiettare Sully, convenuto nella commissione interna alla compagnia aerea, impegnata nella indagine sui fattori umani. Gli inquirenti interni sono convinti infatti che Sully sarebbe potuto ritornare indietro e atterrare nell’aeroporto di partenza. Per questo hanno messo al lavoro gli ingegneri aereonautici, che hanno realizzato 20 simulazioni algoritmiche, eseguendo due simulazioni con piloti veri e finite bene. Alla fine, non c'è dubbio, Sully avrebbe potuto evitare l’ammaraggio e tornare alla base.Di fronte a questo armamentario ingegneristico, Sully tira fuori - peraltro pronunciando una dellefrasi cult del film: “Facciamo sul serio, ora” - l’unica cosa che l’inchiesta aveva deliberatamenteomesso: il fattore umano, ossia la sua esperienza maturata in 40 anni di voli, la sua competenza, che gli fa dire “Ho calcolato a vista i parametri”, la sua affidabilità (“Se avessi seguiti le regole saremmo morti”) e la sua responsabilità. Insomma, proprio il suo fattore umano contro l’ipocrisia algoritmica.Tra finzione e realtàOra pare che nel report finale dell’incidente di tutto questo non ci sia traccia. Anzi, si legge che “a contribuire alla sopravvivenza dell'incidente è stato (1) il processo decisionale dei membri dell'equipaggio di volo e la gestione delle risorse dell'equipaggio durante la sequenza dell'incidente. (2) L'uso fortuito di un velivolo equipaggiato per un volo prolungato sull'acqua, inclusa la disponibilità di scivoli/zattere anteriori, anche se non era tenuto a esserlo. (3) Le prestazioni dei membri dell'equipaggio di cabina nell'accelerare l'evacuazione del velivolo. E (4) la vicinanza dei soccorritori al luogo dell'incidente e la loro risposta immediata e adeguata all'incidente”. Ma non è compito del cinema metterci davanti ai nostri fantasmi? Perché, come dice Sully nel film, “Tutto è senza precedenti, finché non accade”.
I 10 eventi più importanti che hanno segnato la storia del 2022Scomparsa Emanuela Orlandi: tutte le tappe del caso Saman Abbas, è ufficiale: identificato il corpo della ragazza grazie ad un'anomalia dentariaIl commosso addio della comunità alla maestra Aprilia BorgoVentimiglia, quali sono le reali condizioni del piccolo Ryan?