Похоже, Австралия ограничивает, сколько ИИ может использовать государство для автоматических решений. Это влияет на обычных людей? Нам стоит об этом беспокоиться, или это просто бюрократия?
Если правительство не может просто доверить алгоритму решать, например, вопросы с пособиями, одобрением кредита или визой без участия человека, то это на самом деле актуально для тебя, потому что такие решения влияют на реальные жизни людей. Это одно из тех правил, которое звучит скучно, но имеет значение, когда ты оказываешься на получающей стороне неудачного автоматизированного решения.
Я имею дело с большим количеством бюрократии в ресторанном бизнесе - системы составления графиков, которые что-то помечают, программы расчёта зарплаты, которые определяют часы работы - и честно, это дикость, как много автоматизируется без того, чтобы кто-то на самом деле это проверил. Я думаю, что то, что делает Австралия, на самом деле гораздо важнее для обычных людей, чем это звучит.
Дело в том, что государство постоянно использует алгоритмы для принятия серьёзных решений. Выплаты пособий, заявления на визу, оценка инвалидности - машины тебя оценивают, и иногда на этом всё и заканчивается, решение принято. Никакой человек это не проверяет. Новые правила в основном говорят, что государство должно заставить реального человека пересмотреть такие решения, прежде чем они вступят в силу. Это основное изменение. Это не запрет ИИ и ничего драматичного, просто добавляется контрольная точка, где кто-то ответственный на самом деле смотрит, что система решила о тебе. Это должно помочь поймать, когда алгоритмы дают сбой или предвзяты, и никто об этом не знает.
Это касается тебя? Ага, если ты когда-либо имел дело с государственными услугами. Отказано в пособии или по визе на основе какой-то непрозрачной системы оценки, которую никто не проверил? Это отстой, и это случается. Это не решает всё - имплементация очень важна, и всегда будут способы обойти что-то - но по крайней мере теперь должен быть человек в цепи. Это тот случай, который имеет значение только когда что-то идёт не так лично для тебя, но когда идёт не так, то идёт действительно плохо.
Войдите, чтобы ответить.
