Stanno cercando di fare nuove leggi per proteggerci dall'IA?

Quali aree ti preoccupano di più - gli algoritmi di assunzione, la sorveglianza, o qualcos'altro?

Sì, i legislatori nel Regno Unito e altrove si stanno muovendo decisamente su questo. La preoccupazione è fondata perché l'IA sta già filtrando le candidature per i lavori, decidendo chi ottiene prestiti, marcando persone negli assembramenti negli aeroporti. Quando questi sistemi commettono errori o incorporano i pregiudizi di qualcuno, colpiscono le vite reali e le opportunità delle persone. Quindi la spinta verso la legislazione sta sostanzialmente cercando di mettere guardrail prima che la tecnologia si intrecci ancora di più in decisioni che contano.

La parte complicata è bilanciare l'innovazione con la protezione. Vuoi regole che fermino usi genuinamente dannosi - come l'assunzione discriminatoria o la sorveglianza invasiva - senza creare così tanta burocrazia che le applicazioni legittime restino bloccate. Cose come la trasparenza (sapere quando un'IA ha preso una decisione su di te), il diritto di contestare quelle decisioni, e tracciamenti di audit per sistemi ad alto rischio hanno senso. Le protezioni della privacy sono probabilmente la più grande, soprattutto dato che la raccolta dei dati continua a espandersi.

Quello che è interessante è che paesi diversi affrontano questo diversamente. L'approccio del Regno Unito versus quello dell'UE o degli Stati Uniti non saranno identici, il che crea i suoi problemi sia per le aziende che per gli utenti. Ma onestamente, è meglio avere questa conversazione adesso e mettere in atto un quadro normativo piuttosto che aspettare che le cose vadano male su larga scala. I diritti che contano di più probabilmente si riducono all'equità negli esiti, sapere quali dati vengono usati su di te, e avere una persona umana con cui puoi effettivamente parlare quando qualcosa va storto.

I registri di trasparenza e i requisiti di audit probabilmente farebbero più di una legislazione generica - se le aziende dovessero pubblicare cosa fanno davvero i loro algoritmi (non solo affermare), la gente potrebbe effettivamente reagire quando le cose vanno male invece di scoprire discriminazioni anni dopo in tribunale. L'angolazione pratica che la maggior parte ignora: pretendere di vedere i dati di addestramento e i criteri decisionali prima di iscriversi a qualsiasi servizio che usa l'AI per giudicarti, che sia una candidatura per un lavoro o un controllo del credito, perché al momento non c'è quasi nessun meccanismo che forzi questa conversazione a priori.

L'aspetto pratico che la maggior parte della gente trascura è che le leggi da sole non significano granché se nessuno le controlla davvero. Puoi scrivere tutti i requisiti di trasparenza che vuoi, ma senza finanziamenti adeguati perché i regolatori facciano effettivamente un audit di questi sistemi, le aziende fanno spuntare le caselle e vanno avanti. La vera protezione arriva quando c'è qualcosa di concreto - team di controllo con competenze tecniche che possono frugare nel codice e dire "no, non è quello che hai detto che fa."

Dove mi concentrerei è meno su divieti generalizzati e più su decisioni specifiche ad alto rischio. Algoritmi per le assunzioni, calcolo dei punteggi di credito, raccomandazioni sulla cauzione - quelli cambiano direttamente la vita delle persone e meritano scrutinio. La sorveglianza è più complicata perché è ovunque, ma potresti iniziare richiedendo un consenso esplicito per il riconoscimento facciale negli spazi pubblici e una chiara divulgazione quando viene utilizzata. Il problema con la maggior parte della legislazione proposta è che è o troppo vaga per essere applicabile o così ampia da soffocare l'innovazione senza risolvere davvero nulla.

Ecco quello di cui nessuno parla: le clausole sul diritto alla spiegazione suonano bene sulla carta, ma se un sistema è così complesso che nemmeno i suoi creatori riescono a spiegare perché ti ha segnalato, la legge diventa inutile. Quello che funziona davvero è richiedere alle aziende di mantenere decisori umani nel processo per qualsiasi cosa consequenziale. Non è l'IA a prendere la decisione da sola - un umano deve rivedere e autorizzare, soprattutto quando a qualcuno viene negato qualcosa. Non è glamour e costa soldi, ma è l'unico modo affinché una legge protegga effettivamente le persone invece di sembrare solo di farla.

Gli algoritmi di assunzione e di valutazione del credito sono quelli che mi preoccupano di più, perché prendono decisioni che influiscono direttamente sulla vita delle persone, e a differenza della sorveglianza che potresti accorgerti di evitare, spesso non sai nemmeno di essere stato filtrato da un sistema. Se a qualcuno viene negato un lavoro o un prestito in base a un algoritmo black-box, non ha modo di contestarlo a meno che non ci sia una vera trasparenza incorporata nella legge.

Hai mai provato a scoprire perché sei stato rifiutato per qualcosa e ti sei scontrato con un muro? Questo è il nocciolo della questione - la maggior parte delle persone non può vedere il ragionamento dietro le decisioni algoritmiche che le riguardano, quindi le leggi hanno bisogno di mordere su trasparenza e contestabilità, non solo di principi vaghi.

L'aspetto delle decisioni di assunzione e di credito colpisce più duramente perché il danno è immediato e personale. Conosco qualcuno che è stato segnalato da un algoritmo di verifica dei precedenti per qualcosa che non era nemmeno nel suo fascicolo - ci sono voluti mesi e molti avanti e indietro per risolvere. C'è anche la questione della sorveglianza, ma almeno con le telecamere sa che esistono. Con gli algoritmi che filtrano silenziosamente le tue candidature di lavoro o ti negano il credito, stai navigando al buio. I legislatori che parlano di questo capiscono quella parte, ma sono ancora troppo concentrati sul linguaggio dell'"IA responsabile" piuttosto che forzare le aziende a spiegare effettivamente i loro sistemi in tempo reale.

Il vuoto normativo è reale però. Puoi imporre audit e registri di trasparenza, ma senza finanziamenti adeguati per chi dovrebbe controllare, diventa teatro. E c'è un problema di tempistica - nel momento in cui i regolatori si accorgono di cosa c'è di sbagliato in un sistema, è già stato utilizzato su migliaia di persone. Le leggi sono necessarie, ma quelle spinte avanti devono includere veri denti penali e risorse per verificare la conformità, non solo linee guida.