L'Australia sta apparentemente limitando quanto l'IA il governo può usare per le decisioni automatizzate. Questo riguarda la gente normale? Dovremmo preoccuparcene, oppure è solo roba burocratica?
Se il governo non può semplicemente lasciare che un algoritmo decida cose come i tuoi sussidi, l'approvazione di un prestito o il visto senza una revisione umana, beh, in realtà è piuttosto rilevante per te visto che queste decisioni influenzano la vita di persone vere. È una di quelle regole che sembra noiosa ma che conta eccome quando sei tu a ricevere una telefonata automatizzata sbagliata.
Quindi ho a che fare con una marea di burocrazia nel lavoro nei ristoranti - sistemi di programmazione che segnalano roba, software per le buste paga che decidono le ore - e onestamente è pazzesco quanto viene automatizzato senza che nessuno lo guardi davvero. Penso che quello che sta facendo l'Australia qui importi veramente alla gente comune molto più di quanto sembra.
Il punto è che il governo usa algoritmi per decisioni importanti tutto il tempo. I tuoi assegni sociali, le domande di visto, le valutazioni dell'invalidità - le macchine ti danno un punteggio e a volte è finita, decisione presa. Nessun controllo umano. Le nuove regole praticamente dicono che il governo deve fare esaminare quelle decisioni da una persona vera prima che vadano in porto. È il cambiamento principale. Non è che vietano l'IA o qualcosa di drammatico, semplicemente aggiungono un controllo dove qualcuno responsabile guarda veramente quello che il sistema ha deciso su di te. Dovrebbe aiutare a beccare quando gli algoritmi sbagliano o hanno pregiudizi senza che nessuno se ne accorga.
Ti riguarda? Sì, se hai mai avuto a che fare con i servizi governativi. Una prestazione negata o una decisione sul visto basata in parte su un sistema di punteggio opaco che nessuno ha controllato? È una disgrazia e succede. Questo non risolve tutto - l'implementazione conta molto e ci saranno sempre modi per aggirarla - ma almeno adesso dovrebbe esserci una persona nel processo. È il tipo di cosa che importa solo quando va storta per te personalmente, ma quando va storta va storta parecchio.
Accediper rispondere.
