Australien schränkt anscheinend ein, wie viel KI die Regierung für automatisierte Entscheidungen nutzen darf. Betrifft das normale Menschen? Sollten wir uns da Gedanken drüber machen, oder ist das nur sowas Behördenzeugs?
Wenn die Regierung nicht einfach einen Algorithmus über Dinge wie deine Leistungen, Kreditgenehmigung oder Visum entscheiden lassen kann, ohne dass ein Mensch das überprüft, dann ist das eigentlich ziemlich relevant für dich, weil diese Entscheidungen echte Menschen beeinflussen. Es ist eine dieser Regeln, die langweilig klingt, aber wichtig wird, wenn du auf der Empfängerseite einer schlechten automatisierten Entscheidung stehst.
Ich habe viel mit Bürokratie in der Restaurantbranche zu tun - Planungssysteme, die Sachen kennzeichnen, Lohnsoftware, die die Arbeitszeiten festlegt - und ehrlich gesagt ist es krass, wie viel automatisiert wird, ohne dass sich da jemand wirklich damit beschäftigt. Ich denke, was Australien hier macht, ist für normale Menschen eigentlich viel wichtiger, als es sich anhört.
Das Problem ist, dass die Regierung ständig Algorithmen für große Entscheidungen nutzt. Deine Sozialleistungen, Visaanträge, Behindertenbeurteilungen - Maschinen bewerten dich und manchmal war's das dann, Entscheidung getroffen. Kein Mensch überprüft das nochmal. Die neuen Regeln sagen im Grunde, dass die Regierung solche Entscheidungen von einer echten Person überprüfen lassen muss, bevor sie durchgehen. Das ist die Hauptveränderung. Es geht nicht darum, KI zu verbieten oder so etwas Dramatisches, sondern darum, eine Kontrollstelle einzubauen, wo jemand Verantwortliches tatsächlich schaut, was das System über dich entschieden hat. Das sollte helfen, Fehler und Vorurteile von Algorithmen zu erwischen, bevor sie unbemerkt durchgehen.
Betrifft dich das? Ja, wenn du je mit Behörden zu tun hattest. Ein abgelehnter Anspruch oder eine Visumentscheidung, die teilweise auf irgendein undurchsichtiges Bewertungssystem basiert, das niemand überprüft hat? Das ist beschissen und passiert. Das behebt nicht alles - die Umsetzung ist wichtig und es wird immer Wege geben, um das zu umgehen - aber immerhin soll jetzt wenigstens ein Mensch dabei sein. Das ist so eine Sache, die nur zählt, wenn es dir persönlich schiefgeht, aber wenn es schiefgeht, dann richtig.
Anmeldenzum Beantworten.
