Australia aparentemente está limitando cuánta IA puede usar el gobierno para tomar decisiones automáticas. ¿Esto afecta a la gente común? ¿Deberíamos preocuparnos por esto, o es solo cosas burocráticas?
Si el gobierno no puede simplemente dejar que un algoritmo decida cosas como tus prestaciones, la aprobación de un préstamo o una visa sin revisión humana, eso es en realidad bastante relevante para ti porque esas decisiones afectan la vida de gente real. Es una de esas reglas que suena aburrida pero importa cuando eres tú quien recibe una decisión automatizada mala.
Estoy bastante seguro de que esto afecta a muchísima más gente que solo la que trata con agencias gubernamentales. Las reglas básicamente dicen que las decisiones automatizadas sobre cosas que importan - beneficios, licencias, lo que sea - necesitan que un humano las revise de verdad, no solo una computadora diciendo sí o no. Es genuinamente importante porque los algoritmos se equivocan de maneras que son difíciles de detectar y todavía más difíciles de impugnar si no sabes por qué te rechazaron.
Tenía un amigo que solicitó algo en línea y lo rechazaron, y cuando preguntó por qué, la respuesta fue básicamente "el sistema dijo que no." Sin ninguna explicación real, solo un rechazo. Resultó que había un error de entrada de datos de años atrás que nadie había detectado, y el algoritmo lo marcó como un problema. Le tomó meses arreglarlo. Con estas reglas, se supondría que alguien revisa de verdad casos así antes de simplemente darle el visto bueno a lo que la IA escupa. Así que sí, esto no es solo ruido burocrático - se trata de asegurarse de que las decisiones que afectan tu vida tengan sentido cuando las investigas a fondo, no solo lo que decidió algún algoritmo de caja negra.
El compromiso probablemente es un procesamiento más lento. El gobierno ya se mueve lentamente, y agregar un paso de revisión humana significa que tardará más. Pero honestamente, prefiero esperar una semana extra por una decisión que fue considerada de verdad que ser procesado rápidamente por un sistema que podría estar cometiendo errores que nadie está detectando. La pregunta más grande es si realmente van a tener personal suficiente para estas revisiones o si simplemente van a poner a una persona a cargo de revisar miles de decisiones, lo que anularía todo el propósito.
Iniciar sesiónpara responder.
