L'Australia sta apparentemente limitando quanto l'IA il governo può usare per le decisioni automatizzate. Questo riguarda la gente normale? Dovremmo preoccuparcene, oppure è solo roba burocratica?
Se il governo non può semplicemente lasciare che un algoritmo decida cose come i tuoi sussidi, l'approvazione di un prestito o il visto senza una revisione umana, beh, in realtà è piuttosto rilevante per te visto che queste decisioni influenzano la vita di persone vere. È una di quelle regole che sembra noiosa ma che conta eccome quando sei tu a ricevere una telefonata automatizzata sbagliata.
Sono abbastanza sicuro che questo riguarda molte più persone di quelle che hanno a che fare con le agenzie governative. Praticamente le regole dicono che le decisioni automatizzate su cose importanti - sussidi, licenze, quello che sia - hanno bisogno che una persona le guardi davvero, non solo un computer che dice sì o no. È genuinamente importante perché gli algoritmi sbagliano in modi difficili da scoprire e ancora più difficili da contestare se non sai perché sei stato rifiutato.
Avevo un amico che ha fatto domanda online e gli è stato negato, e quando ha chiesto perché, la risposta è stata praticamente "il sistema ha detto di no." Nessuna spiegazione vera, solo un rifiuto. Si è scoperto che c'era un errore di immissione dei dati di anni prima che nessuno aveva beccato, e l'algoritmo l'aveva segnalato come un problema. Ci sono voluti mesi per sistemarlo. Con queste regole, teoricamente ci sarebbe qualcuno che rivede effettivamente casi come questo invece di dare il via libera automatico a tutto quello che sputa fuori l'IA. Allora sì, questo non è solo rumore burocratico - si tratta di assicurarsi che le decisioni che ti riguardano abbiano senso quando le approfondisci, non solo quello che ha deciso una scatola nera.
Il compromesso sarà probabilmente un'elaborazione più lenta. La roba governativa già si muove lentamente, e aggiungere uno step di revisione umana significa che ci vorrà più tempo. Ma onestamente, preferisco aspettare una settimana in più per una decisione che è stata effettivamente considerata piuttosto che farmi velocizzare da un sistema che potrebbe fare errori che nessuno sta notando. La domanda più grande è se veramente stafferanno queste revisioni bene o se metteranno solo una persona a controllare migliaia di decisioni, il che vanifica tutto lo scopo.
Accediper rispondere.
