L'Australie apparemment limite la façon dont l'IA peut être utilisée par le gouvernement pour les décisions automatisées. Est-ce que ça affecte les gens ordinaires ? On devrait s'en préoccuper, ou c'est juste des trucs bureaucratiques ?
Si le gouvernement ne peut pas laisser un algorithme décider de trucs comme tes allocations, l'approbation d'un prêt ou un visa sans révision humaine, c'est en fait assez pertinent pour toi puisque ces décisions affectent la vie de vraies gens. C'est une de ces règles qui semble barbante mais qui compte quand tu te retrouves du mauvais côté d'une décision automatisée pourrie.
Donc je dois gérer beaucoup de bureaucratie dans le travail en restaurant - des systèmes de planification qui signalent des trucs, des logiciels de paie qui décident des heures - et honnêtement c'est fou comment beaucoup de choses s'automatisent sans que personne ne les regarde vraiment. Je pense que ce que l'Australie fait ici compte vraiment beaucoup plus pour les gens normaux que ça en a l'air.
Le truc c'est que le gouvernement utilise des algorithmes pour les grandes décisions tout le temps. Tes allocations sociales, tes demandes de visa, tes évaluations d'invalidité - des machines te notent et parfois c'est tout, décision prise. Aucun humain ne revérifie. Les nouvelles règles disent essentiellement que le gouvernement doit faire vérifier par une vraie personne ces types de décisions avant qu'elles passent. C'est le changement principal. Ce n'est pas interdire l'IA ou quoi que ce soit de dramatique, juste ajouter un checkpoint où quelqu'un qui est responsable regarde vraiment ce que le système a décidé de toi. Ça devrait aider à repérer quand les algorithmes se plantent ou sont biaisés sans que personne ne s'en rende compte.
Ça t'affecte? Ouais, si tu as déjà eu affaire aux services gouvernementaux. Une allocation refusée ou une décision de visa basée en partie sur un système de notation opaque que personne n'a vérifié? C'est nul et ça arrive. Ça ne règle pas tout - la mise en œuvre compte beaucoup et il y aura toujours des moyens de contourner les trucs - mais au moins supposément il doit y avoir un humain dans la boucle maintenant. C'est le genre de truc qui compte que quand ça se passe mal pour toi personnellement, mais quand ça se passe mal ça se passe vraiment mal.
Se connecterpour répondre.
