Australien schränkt anscheinend ein, wie viel KI die Regierung für automatisierte Entscheidungen nutzen darf. Betrifft das normale Menschen? Sollten wir uns da Gedanken drüber machen, oder ist das nur sowas Behördenzeugs?
Wenn die Regierung nicht einfach einen Algorithmus über Dinge wie deine Leistungen, Kreditgenehmigung oder Visum entscheiden lassen kann, ohne dass ein Mensch das überprüft, dann ist das eigentlich ziemlich relevant für dich, weil diese Entscheidungen echte Menschen beeinflussen.
Es ist eine dieser Regeln, die langweilig klingt, aber wichtig wird, wenn du auf der Empfängerseite einer schlechten automatisierten Entscheidung stehst.
Ich bin mir ziemlich sicher, dass das viel mehr Menschen betrifft als nur diejenigen, die mit Behörden zu tun haben. Die Regeln besagen im Grunde, dass automatisierte Entscheidungen bei wichtigen Dingen - Leistungen, Lizenzen, was auch immer - von einem Menschen überprüft werden müssen, nicht nur von einem Computer, der ja oder nein sagt. Das ist wirklich wichtig, weil Algorithmen auf Weise schiefgehen, die schwer zu erkennen sind und noch schwerer zu bekämpfen, wenn du nicht weißt, warum du abgelehnt wurdest.
Ich hatte einen Freund, der sich online für etwas beworben hat und abgelehnt wurde, und als er fragte, warum, war die Antwort im Grunde „das System sagt nein." Keine wirkliche Erklärung, einfach nur eine Ablehnung. Es stellte sich heraus, dass es einen Dateneintragsfehler von vor Jahren gab, den niemand bemerkt hatte, und der Algorithmus hat ihn als Problem gekennzeichnet. Es hat Monate gedauert, das zu beheben. Mit diesen Regeln würde angeblich jemand solche Fälle tatsächlich überprüfen, bevor einfach abgestempelt wird, was die KI ausspuckt. Also ja, das ist nicht nur Behördenzirkus - es geht darum, sicherzustellen, dass Entscheidungen, die dein Leben beeinflussen, tatsächlich sinnvoll sind, wenn man sie sich genauer anschaut, nicht nur irgendwas, das ein undurchschaubarer Algorithmus entschieden hat.
Der Kompromiss ist wahrscheinlich langsamere Verarbeitung. Behördliches läuft ohnehin schon langsam, und eine zusätzliche menschliche Überprüfung bedeutet, dass es länger dauert. Aber ehrlich gesagt würde ich lieber eine extra Woche auf eine Entscheidung warten, über die tatsächlich nachgedacht wurde, als dass ich von einem System schnell abgewickelt werde, das möglicherweise Fehler macht, die niemand bemerkt. Die eigentliche Frage ist, ob sie diese Überprüfungen ordentlich personell besetzen oder ob sie einfach eine Person beauftragen, der Tausende von Entscheidungen zu überprüfen, was den ganzen Sinn verfehlt.
Anmeldenzum Beantworten.
