Di algoritmi, frodi ed espulsioni informatiche…

Nel 2014 un’inchiesta della BBC aveva portato all’attenzione dell’allora “Home Secretary” Theresa May, in carica per gli affari di immigrazione e cittadinanza, frodi commesse durante test di conoscenza della lingua inglese da studenti stranieri per poter ottenere un permesso di soggiorno. Venne così richiesto ai creatori del test e agli istituti che lo utilizzavano di rivedere i metodi di valutazione, introducendo metodi all’altezza per contrastare il fenomeno. Da 2014 al 2016 i risultati vennero riscrutinati e le revoche dei permessi furono circa 35800, di cui circa 7000 emesse ingiustamente stando ad un recente articolo del Financial Times.

A dichiarare fraudolenti i risultati dei test è stato un algoritmo, nello specifico un software di identificazione vocale impiegato dalla società che creò il test (Educational Testing Service), per verificare se le parti orali dell’esame fossero state realmente sostenute dai candidati o piuttosto da un complice al loro posto. Il Programma confrontava le tracce vocali dei candidati alla ricerca di “doppioni” come prova che qualcuno potesse aver sostenuto con successo l’esame per conto di più candidati.

Ad attrarre attenzione intorno a questa faccenda sono diversi aspetti: quello sociale, per la prontezza con cui sono state applicate le espulsioni, spesso precedute anche da arresti e dall’impossibilità di ricorrere in appello; l’aspetto politico, poiché l’episodio si colloca in un annunciato clima di “linea dura” contro l’immigrazione illegale, dimostrando le dirette ripercussioni di certi provvedimenti sull’immigrazione legale.
L’aspetto su cui muovere l’attenzione in questo contesto è invece l’ennesima dimostrazione del difficile rapporto fra istituzioni e tecnologia.
La vicenda è esempio di come alcuni sviluppi informatici siano ancora vissuti come mezzi a cui rivolgersi quando un mal progettato iter legale si dimostra fallimentare, piuttosto che strumenti da affinare e integrare fin dai primi stadi di progettazione di percorsi normativi.

La storia dei programmi di identificazione vocale è strettamente legata a quella dei software di riconoscimento vocale, oggi largamente diffusi in applicazioni di uso quotidiano: personal assistants, programmi di dettatura, comandi vocali applicati ai più disparati sistemi operativi, ma anche spionaggio e analisi forensi. Lo sviluppo di tali tecnologie inizia negli anni ’50 con programmi in grado di riconoscere solo numeri (Audrey, Bell Laboratories 1952) passa poi negli anni ottanta a sistemi moderatamente più avanzati grazie all’interesse della DARPA, con cui vennero introdotte le prime rudimentali forme di predizione. Ad oggi questi programmi dispongono di vocabolari di circa 200 miliardi fra parole e frasi. Vantano inoltre forme di predizione molto più elaborate. Parallela abbiamo l’analisi forense degli spettrogrammi eseguita in ambito legale da software ed esperti.

Non sono disponibili dettagli sul software utilizzato nelle verifiche degli esami TOEIC, né sono stati resi pubblici i criteri con cui si è scelto di accettare come valido oppure invalido un esame, dato che il software, confrontando due campioni audio, restituisce nulla più di una percentuale di somiglianza. Secondo la rivista QUARTZ, che anche si è occupata della vicenda, in un precedente caso simile i risultati del TOEIC furono controllati da due impiegati dopo le indicazioni del software e solo nel 60% dei casi questi si rivelarono d’accordo con il programma.

La natura incerta di questi risultati non è solo da attribuirsi a questo specifico programma, qualunque esso sia, ma alla natura stessa con cui queste applicazioni si sviluppano e migliorano oggi, ossia il Machine-Learning.
È bene specificare che la grande maggioranza dei programmi che agiscono dietro a numerosi aspetti della nostra vita “hanno imparato il mestiere da soli”, ovvero gli sono stati somministrate grandi quantità di dati che, attraverso classificazione e generalizzazione, hanno trasformato in modelli da riconoscere e con cui interagire all’interno del ruolo che devono svolgere. Se prendiamo ad esempio le immagini, sappiamo che sarebbe estremamente dispendioso cercare di definire un “bicchiere” e così, ad un programma destinato a riconoscere bicchieri all’interno di più complesse rappresentazioni, è molto più facile dare un enorme corpus di immagini contenenti bicchieri e lasciare che esso trovi da solo il modo più efficiente di definire e riconoscere tale oggetto.
La conoscenza di queste macchine è di tipo statistico e, anche se in continuo miglioramento, sotto certi aspetti ancora rudimentale.

Sono diverse le testimonianze in ambito tecnologico di una certa tendenza di questi programmi ad eludere i limiti che vengono loro posti pur di adempiere alle loro funzioni, come ampiamente descritto dalla scienziata Janelle Shane nel suo blog.

Sembra si stiano attraversando paesaggi di nuova insicurezza in cui l’aspetto più spaventoso è l’impossibilità di “ragionare” con questi nuovi agenti avversi. Ci sono nuovi attori nella nostra vita, sono macchine prive d’autista che falliscono nel riconoscere un pedone, programmi di trading in grado di cambiare le sorti di importanti titoli in poche ore, ma anche ingranaggi dietro ai motori di ricerca che cambiano la quantità e la qualità delle informazioni a cui possiamo avere accesso.
Pare che queste tecnologie, i loro creatori e chi le implementa stiano vivendo un’adolescenza. Un periodo di grande entusiasmo, ma anche di significativa ignoranza che sta avendo, per qualcuno, effetti devastanti.

Mattia Rodini


Aldo Giannuli

Aldo Giannuli

Storico, è il promotore di questo, che da blog, tenta di diventare sito. Seguitemi su Twitter o su Facebook.

Comments (28)

  • O.t.
    Vi assicuro che questa non è una ACME NEWS. C’e il fuoco amico sul nascente governo da parte di Macron, che vede all’opera forze forze eterogenee e paradossali (come se esistessero elettori paradossali ed etetogennei), ma nello stesso tempo Emanuele il Bello ha fiducia in Mattarella, salvo premettere che “bisogna accettare quello che i popoli decidono”, per poi far finta di cadere angelico dal pero e dire “non so quali saranno le posizioni del nuovo governo italiano”.
    Non ricordo che in occasione delle presidenziali francesi il governo italiano abbia interferito o fatto apprezzamenti su alcuno dei candidati, per cui con quale potere si ingerisce nelle vicende italiane a suon di corbellerie?
    Ma perchè non gli si risponde di guardare quanto poco amico sia dell’Italia e che questo risultato elettorale è frutto anche delle sue politiche anti italiane e bonapartiste, per non dire delle sberle ?
    Se l’Europa è un incubo che ha aiutato la vittoria di Salvini e dei 5* è merito anche del direttorio franco-tedesco.
    TACI MACRON !

    • Emanuele il Bello, perchè prima di pensare all’Italia non ricorda le pastette tra Thatcher, il suo Mitterrand e Kohl ?
      .. e poi hanno il coraggio di lamentarsi dell’Italia, quando semmai dovrebbero essere gli italiani a lamentarsi dell’Europa, di questa Europa, la loro Europa.

  • O.T.
    So che voi a volte ridete alla lettura dell’ACME NEWS. A me talvota viene da ridere alla lettura delle ANSA.
    Ebbene, il corrispondente da Mosca ha raccolto una fonte vicino al Cremlino sul contratto tra Lega e 5*.
    Da Mosca ritengono un “Buon segno” la volontà del nascente di togliere le sanzioni, ma all’Italia si chiede di più, sopratutto in sede europea per abolirle del tutto.
    Escluso che visiano stati abboccamenti tra il nascente governo e il Cremlino, per il tramite del ministero degli esteri russo e l’ambasciata in Italia, ragionamoci su.
    Salvini ha il problema elettorale degli imprenditori che si vedono interrotto uno sbocco, prevedibilmente soppiantato dai russi. Arriva al Cremlino l’eco del contratto lega – 5*, politicamentre positivo per loro -tanto più perchè sceso dal cielo-, ma non altrettanto rilevante commercialmente, come invece potrebbero essere gli scambi con il resto dell’Europa. Allora si chiede all’Italia di fare di più, oltre il proprio, condannando la sua azione scientemente al fallimento. In sostanza per il Cremlino il contratto è poco più che irrilevante e i politici italiani potrebbero essere al più degli utili idioti.
    Siamo alle solite !
    A Mosca si comportano da superpotenza, ma non ricordano che l’Italia, senza volerlo, in buona parte per miopia russa, è stata e rischia di essere una fonte di guai. Sono fermi al tempo delle Due Sicilie.
    Contenti loro.
    In ogni caso a lavare la testa ai politici russi, si perde tempo, acqua e sapone.

  • Gico della torre tra Trmp, Putin, Xi, Macron, May e il cameriere italiano.
    Ovvio, la torre è Trump. E’ una Trump Tower.Trump non può essere gettato giù. Putin minaccia fiamme e fuoco, manco fosse Cecco Angiolieri. Xi si è portato di nascosto Kim rocket man. May, cagnolino di Trump, giammai. Macron ha portato da bere. Chi serve ??
    Che sarà mai la morte accidentale di un cameriere/governo italiano ??
    Mai presentarsi da cameriere o da pecora con quelli, perchè si fanno lupi e ti magnano, o ti buttano giù.

  • Avatar

    Cicciuzz a Verdeschk

    Quello che la società d’oggi ha bisogno è un software che riconosce le cozze di Taranto da quelle di Bari,solo cosi potremo finalmente essere al passo coi tempi.Perchè poi possiamo anche regolarci meglio con l’indotto dei limoni che saranno trasportati con dei droni direttamente dalla Sicilia.Non sottovaluterei neanche l’utilizzo d braccialettii elettronici per le aragoste non si sa mai che dovessero scappare di nuovo in mare.Che ne pensate?

  • Avatar

    DI MAIO NEL CUORE

    Volevo dire al prof. Giannulli che è un traditore e che noi attivisti del Movimento non ci dimentichiamo del suo voltagabbanismo… CON DI MAIO ANCHE FINO A CHERNOBYL !!!

    • .. se proprio le piace la categoria del tradimento si faccia un giro nell’Italia nella seconda guerra mondiale e di cose MAI viste ne troverà.
      Non creda, anche dopo.
      I traditori e i traditi li cerchi piuttosto sul carro dei vincitori e paraggi: quello sono i posti naturali.

  • Emanuele il Bello, perchè prima di pensare all’Italia non ricorda le pastette tra Thatcher, il suo Mitterrand e Kohl ?
    .. e poi hanno il coraggio di lamentarsi dell’Italia, quando semmai dovrebbero essere gli italiani a lamentarsi dell’Europa, di questa Europa, la loro Europa.

  • Una delle difficoltà dell’inglese, ma anche del tedesco e del francese è dovuta al fatto di non essere lingue piane, che si leggono come si scrivono, come lo sono tendenzialmente l’italiano o il latino .. e mi sembra anche lo spagnolo.
    Se per 28.500 persone desiderose di studiare la lingua inglese risulta ostica, qualcosa vorra pur dire, ovvero che per i non nativi è inascoltabile.
    Quale miglior prova del fatto che la lingua inglese di per se non ha pregi per essere lingua veicolare europea? Sono gli inglesi stessi che si sono complicati la pronuncia della loro lingua, al punto che è molto più comprensibile l’inglese dei non inglesi che non quello degli Stati Uniti del Sud.
    Chi è disgrafico patisce molto più nell’imparare una lingua non piana.
    Su tutto questo e altro il Professor Giannuli voglia illuminarci.

  • “è molto più facile dare un enorme corpus di immagini contenenti bicchieri e lasciare che esso trovi da solo il modo più efficiente di definire e riconoscere tale oggetto.” Chiedo scusa, ma è sempre necessario definire delle modalità per riconoscere la “bicchierezza”, all’nterno di questi canoni il software è sempre e cmq vincolato. O no? Domanda retorica, visto che il suo pezzo è molto chiaro nel dire il contrario. Mi piacerebbe sapere se possibile come funzionano questi “canoni” per procedere alla calssificazione dei dati. Grazie.

    • Una buona opportunità per valutare le differenze tra votazioni rosseau ed i sondaggi all’elettorato m5s: Presumibilmente i risultari dovrebbero essere dissimili ma secondo alcuni sondaggi la distanza tra sì e no negli elettori m5s é del 30-40% a vantaggio del sì.

      Per ribaltare un simile svantaggio ci dovrebbero essere differenze enormi nei due campioni.

  • USA, Bill Gates su Trump: “Gli ho dovuto spiegare la differenza tra l’Hiv e il papilloma virus”

    Durante gli stessi incontri, Trump ha chiesto ripetutamente a Gates anche degli effetti indesiderati dei vaccini, perché stava pensando di istituire una commissione per indagarli dato che sembra convinto siano collegati all’autismo. “Gli ho detto di no – ha riferito Gates – perchè sarebbe una cosa negativa. Non farlo”. Il patron di Microsoft ha dunque rivelato che Trump il mese scorso si era appassionato all’idea di un vaccino universale per l’influenza. Gates ha infine svelato che l’inquilino della Casa Bianca gli ha proposto di diventare un suo consulente scientifico, ma che lui ha declinato l’offerta.

  • A proposito dei test.
    Non ne ho conoscenza diretta, ma dalla descrizione fatta mi pare di capire che le registrazioni vocali non sono prese sotto il controllo di qualcuno, altrimenti non si porrebbe il prpblema dello scambio di persona.
    Presumo quindi che siano fatte direttamente a cura dell’esaminato e trasmesse poi agli uffici competenti.
    Se è così, mi pare un comportamento assolutamente coerente con il modo di fare anglosassone, intendendo sia quello del Regno Unito, sia negli USA.
    Il fatto è che in genere il rapporto delle istituzioni con i cittadini in quei Paesi è più basato sulla fiducia (con le dovute cautele); a differenza nostra, che siamo sempre considerati sudditi e perciò stesso infidi e infingardi (inimmaginabile una procedura simile qui da noi), inglesi e americani partono dal presupposto che il cittadino si comporti correttamente. Basti pensare a quei questionari che ti fanno compilare per avere un visto, in cui ti chiedono quasi esplicitamente se sei un terrorista e se hai intenzioni cattive.
    E’ per questo che quando si viene scoperti a mentire e ad imbrogliare, da loro sono cavoli amari! Mica come qui da noi; se ad esempio negli USa ti beccano con una dichiarazione dei redditi fasulla, oppure con un falso in bilancio, ti mettono dentro e buttano la chiave.
    Da noi invece abbiamo gli “anti-giustizialisti”, cioè quelli che essendo in difetto e volendo continuare ad esserlo, strillano contro quelli che li denunciano.
    Tant’è che uno dei punti nel contratto Lega-M5S (voluto dal Movimento) parla esplicitamente di whisteblowing.

    • https://en.wikipedia.org/wiki/Exam_invigilator

      L’impiego di sorveglianti implica un modo di fare difforme dal comportamento anglosassone presunto; rimane da confermare la severità anglosassone verso gli organizzatori delle sistematiche violazioni alle procedure di controllo previste per i centri certificatori autorizzati.

      […]mass cheating at two test centres approved to stage an exam called the Test of English for International Communication or TOEIC.

      Undercover footage showed entire classrooms of registered candidates standing aside so their written and oral tests could be done by paid cheats who spoke better English.

      The answers were recorded on computer and sent to be marked in the US by a company called ETS, which failed to detect the same voices appearing numerous times under different names.

      In a multiple-choice paper, an invigilator was secretly filmed reading out the answers to those sitting the test.

      Until the BBC exposed these abuses in 2014, foreign students could use a TOEIC pass to show they had the required standard of English to qualify for a visa.
      http://www.bbc.com/news/uk-38236852

    • @Roberto R.
      .. devo dedurre che se portassi meco a Parigi o a Londra l’1% di quel che scrivo qui di Franza e Angliterra, i franzos e los anglos mi farebbero volentieri a salsiccia o al salmì, ancor prima di spedirmi indietro ?

      • Perchè? Non capisco dove vuoi arrivare. Spiegati, altrimenti chiamo a risponderti Di Pietro.
        Comunque, se negli ultimi dieci anni, diciamo, hai chiesto un visto per gli USA, hai dovuto rispondere a domande che a noi italiani, specialmente, ci paiono molto ingenue. Un po’ come chiedere all’oste se il vino è annacquato.
        Domande che si sono poi ripetute al momento dell’ingresso negli USA, in cui devi compilare un form e firmarlo (con le impronte digitali! Che poi rimangono in qualche loro data base per omnia secula seculorum, il che significa che possono essere tirate fuori anche dopo anni e anni).
        Ed è molto meglio prendere seriamente questi questionari, anche se possono farci sorridere, perchè se disgraziatamente qualche fatto in cui dovessi trovarti coinvolto durante la tua permanenza nel Paese, allora o successivamente nel corso di un’altro viaggio fatto ad anni di distanza, dovesse evidenziare che una o più risposte date nel questionario erano fasulle, … beh preparati a farti mandare un bel po’ di soldi da casa per pagare i salatissimi conti degli avvocati americani.

        • @Roberto B.
          Sugli Estado Unidos non ho quasi mai scritto. Forse due volte.
          Ma sui franzos e sugli anglos e sugli allemannos ho scritto.
          P.s. A. D. P. fa finta di rispondere, elude le domande, svia. E’ tempo perso.

  • O.t.
    Berlusconi, dopo il ritorno da Sofia, ha fatto al collo il fiocco col nastrino del mantello del super eroe!
    Ha iniziato a parlare su tutto.
    Ci sarà da divertirsi.

  • Memoranda per il nuovo ministro degli esteri.
    L’irrilevanza internazionale, con quel che ne consegue, è a portata di mano.
    Non è necessario chiamarsi come quel ministro siciliano, di cui non ricordo il nome, per non contare nulla sullo scacchiere internazionale. Lo stesso risulatato, con meno sforzi e con più successo, lo si ottiene prendendo il primo che passa dalle parti della Farnesina.
    Per quanto diversi, i casi Regeni e Skripal sono sintomatici di due modi antitetici di agire e ottenere risultati.
    Per Regeni si è ottenuto poco. Dalla Gran Bretagna non si è riusciti neppure a far sciogliere la lingua ad una docente. MEno ancora si è avuto dal resto delle nazioni amiche, per modo di dire.
    Nel caso Skripal un centinaio di diplomatici russi sono stati espulsi: due dall’Italia.
    Il paragone tra i due casi è impietoso.
    Ci saranno pur delle ragioni … prima di tutto interne e da ricercare all’interno.

  • ACME NEW
    Ritrovate le memorie del ministro degli esteri del governo Salvini – Di MAio. Tra le carte l’attenzione degli storici è caduta su un singolare appunto dove il ministro implora il Signore.
    “Signore, tutti mi spernacchiano, nessuno mi considera, tutti ridono di me e voglio ingannarmi.
    Dall’alto il Signore mi rispose. MA tu, figlio mio, ha provato almeno a farti sentire, a battere i pugni, a ricattarli, a farti una rete di informatici e informatori, a fare pulizia dentro casa tua, a farti due bombette nucleari, a garantirti il controllo del Mediterraneo, a buttare fuori quei puzzoni? Ci hai provato almeno e ti sei organizzato per farlo vittoriosamente? Che hai prianificato? Cha alleati hai cercato?
    Se non hai fatto nulla di nulla, che vuoi da me?”
    Gli storici stupiti e increduli parlano di un falso storico.

  • Il San Paolo di Napoli ha fatto registrare il tutto esautiro. Il pubblico delle grandi occasioni è accorso in massa ai botteghini per l’amichevole di lusso Italia – Inghilterra. I biglietti sono oramai introvabili da alcuni giorni.
    Gli spalti si preannunciano gremitissimi.
    Le due tifoserie si sfideranno a suon di striscioni dalle opposte curve.
    Gli inglesi, prima di partire dall’aeroporto di Ashford, hanno mostrato alla stampa inglese un enorme striscione con il classico “WE ARE NOT NEAPOLITANS.”
    Al rione Sanità, alcuni tifosi disoccupati hanno fatto la colletta per comprare un barattolo di vernice, un pennello e un cartello. Sul davanti hanno scritto: NOI BARBARI VISIVOTI. VOI COLONIALISTI GENOCIDI.
    Sul di dietro hanno ripegato sul classico “CAMILLA E’ NA ZOCCOLA”

  • Confesso di campire sempre meno del Partito Destra. Rischio di incorrere negli stessi errori di comprensione commessi dagli inglesi quando mandano i loro Giems Vagabond a svernare in Italia, con l’obbligo di scrivere di tanto in tanto qualcosa di politica, che puntualmente scambiano per folklore o antropologia, irritando gli italiani. Per il Giems di turno dopotutto la politica italiana è troppo complicata da capire, per cui non ne vale la pena affaticarsi. Meglio scrivere di qualcosa che le assomigli.
    Ebbene, per evitare di scrivere enormità, vi chiedo che vuole significare l’espressione Martina reggente.
    Conosco l’autoreggente. Martina è il nome di una calza non autoreggente, quindi più piccola ?
    Ma ancor prima non ho compreso chi sia il segretario. Renzi dimissionario o il reggente – non autoreggente MArtina? E se Martina fa un colpaccio di Stato nel partito e si nomina da solo reggente, diventa autoreggente?
    E che vorrà mai dire che le dimissioni di Renzi sono congelate? E’ un metodo di conservazione per evitare la putrefazione? Forse coll’estate possono essere servite con un Cuba Libre ?
    Questi non me la contano giusta. Vogliono ingannarmi.
    Di questo passo, la prossima volta che in farmacia vedo la scritta “Farmaci da Banco” penserò che per acquistarli occorre prima passare dalla banca per un mutuo.

  • Che vorrà mai dire che il Presidente della Repubblica è il garante e degli equilibri con l’Europa?
    A parte la visione eurocentrica, forse vuole significare che gli esecutivi sono composti da sciocchini che hanno bisogno del tutore, rappresentato dal babbo quirinalizio.
    Non mi pare che Giovanni Leone o Sandro Pertini Si ergessero a dei supremi e controllori degli atti del governo.
    Steinmeier è il garante della Merkel? In generale il presidente federale è stato il tutore di Kohl?
    I primi ministri inglesi hanno avuto bisogno della regina come euro-balia?
    In Italia da Napolitano in poi sembra che il voto degli italiani conti relativamente, tanto poi c’è l’ortopedia del Presidente della REpubblica, che raddrizza il governo entro i binari i giusti binari europei.
    Allra perchè non raddrizzare nei binari europei Macron qua ndo ci prende a sberle e la padrona Merkel?
    … ma si sa, le regole sono fatte per gli altri: i diretti interessati possono farne strame.
    Se Cameron avesse avuto come re Giorgio, sarebbe stato ingabbiato negli schemi europei, ovvero non avrebbe indetto il referendum che portò alla Brexit.
    I vincoli europei in realtà servono a legare mani e piedi un’intera nazione, qualunque sia il governo, in funzione degli interessi di chi dall’esterno comanda, ed è tanto forte da porter imporre sotto mentite spoglie la propria volontà pro domo sua.
    DE’ UN IMBROGLIO

Lascia un commento

Il tuo indirizzo email non sarà pubblicato. I campi obbligatori sono contrassegnati *

Questo sito usa Akismet per ridurre lo spam. Scopri come i tuoi dati vengono elaborati.