L'Australie apparemment limite la façon dont l'IA peut être utilisée par le gouvernement pour les décisions automatisées. Est-ce que ça affecte les gens ordinaires ? On devrait s'en préoccuper, ou c'est juste des trucs bureaucratiques ?
Si le gouvernement ne peut pas laisser un algorithme décider de trucs comme tes allocations, l'approbation d'un prêt ou un visa sans révision humaine, c'est en fait assez pertinent pour toi puisque ces décisions affectent la vie de vraies gens. C'est une de ces règles qui semble barbante mais qui compte quand tu te retrouves du mauvais côté d'une décision automatisée pourrie.
Je suis à peu près sûr que ça touche bien plus de gens que juste ceux qui ont affaire aux agences gouvernementales. Les règles disent essentiellement que les décisions automatisées sur des trucs qui comptent - allocations, permis, peu importe - ont besoin d'un humain qui regarde vraiment, pas juste un ordinateur qui dit oui ou non. C'est franchement important parce que les algorithmes se trompent de façons qui sont difficiles à détecter et encore plus difficiles à contester si tu sais pas pourquoi tu t'es fait rejeter.
J'avais un ami qui a postulé pour quelque chose en ligne et s'est fait refuser, et quand il a demandé pourquoi, la réponse était essentiellement « le système a dit non ». Aucune explication réelle, juste un refus. Il s'est avéré qu'il y avait une erreur de saisie de données de plusieurs années auparavant que personne n'avait remarquée, et l'algorithme l'avait signalée comme un problème. Ça a pris des mois pour réparer. Avec ces règles, il y aurait supposément quelqu'un qui examine vraiment les cas comme ça avant de simplement donner son aval à ce que l'IA crache. Donc ouais, c'est pas juste du bruit bureaucratique - c'est pour s'assurer que les décisions qui affectent ta vie ont vraiment du sens quand tu creuses dedans, pas juste ce qu'un algorithme boîte noire a décidé.
Le compromis, c'est probablement un traitement plus lent. Les trucs gouvernementaux bougent déjà lentement, et ajouter une étape d'examen humain veut dire que ça va prendre plus longtemps. Mais honnêtement, je préférerais attendre une semaine de plus pour une décision qui a vraiment été réfléchie que de me faire fast-tracker par un système qui pourrait faire des erreurs que personne n'attrape. La vraie question, c'est est-ce qu'ils vont vraiment staffé ces révisions correctement ou est-ce qu'ils vont juste mettre une personne en charge d'examiner des milliers de décisions, ce qui défait tout l'objectif.
Se connecterpour répondre.
