Australia aparentemente está limitando cuánta IA puede usar el gobierno para tomar decisiones automáticas. ¿Esto afecta a la gente común? ¿Deberíamos preocuparnos por esto, o es solo cosas burocráticas?
Si el gobierno no puede simplemente dejar que un algoritmo decida cosas como tus prestaciones, la aprobación de un préstamo o una visa sin revisión humana, eso es en realidad bastante relevante para ti porque esas decisiones afectan la vida de gente real. Es una de esas reglas que suena aburrida pero importa cuando eres vos quien recibe una llamada automatizada mala.
Así que tengo que lidiar con mucha burocracia en el trabajo de restaurante - sistemas de programación que marcan cosas, software de nómina que decide las horas - y honestamente es increíble cuánto se automatiza sin que nadie realmente lo revise. Creo que lo que está haciendo Australia aquí realmente importa a la gente común mucho más de lo que suena.
El asunto es que el gobierno usa algoritmos para grandes decisiones todo el tiempo. Tus pagos de asistencia social, solicitudes de visa, evaluaciones de discapacidad - máquinas te califican y a veces eso es todo, decisión tomada. Sin que ningún humano lo verifique. Las nuevas reglas básicamente dicen que el gobierno tiene que tener una persona real que revise esos tipos de decisiones antes de que se lleven a cabo. Ese es el cambio principal. No se trata de prohibir la IA ni nada dramático, solo añadir un punto de control donde alguien responsable realmente mire lo que el sistema decidió sobre ti. Eso debería ayudar a detectar cuándo los algoritmos fallan o son sesgados sin que nadie se dé cuenta.
¿Te afecta? Sí, si alguna vez has lidiado con servicios gubernamentales. ¿Una prestación denegada o decisión de visa basada en parte en algún sistema de puntuación opaco que nadie revisó? Eso apesta y sucede. Esto no lo arregla todo - la implementación importa mucho y siempre va a haber formas de burlar el sistema - pero al menos se supone que ahora tiene que haber un humano en el proceso. Es el tipo de cosa que solo importa cuando te sale mal personalmente, pero cuando sale mal, sale mal bastante feo.
Iniciar sesiónpara responder.
