Похоже, Австралия ограничивает, сколько ИИ может использовать государство для автоматических решений. Это влияет на обычных людей? Нам стоит об этом беспокоиться, или это просто бюрократия?
Если правительство не может просто доверить алгоритму решать, например, вопросы с пособиями, одобрением кредита или визой без участия человека, то это на самом деле актуально для тебя, потому что такие решения влияют на реальные жизни людей. Это одно из тех правил, которое звучит скучно, но имеет значение, когда ты оказываешься на получающей стороне неудачного автоматизированного решения.
Уверен, это касается намного больше людей, чем просто тех, кто имеет дело с госучреждениями. По сути, правила говорят, что автоматизированные решения по важным вопросам - пособия, лицензии, всё такое - должны проверяться человеком, а не просто алгоритму говорить да или нет. Это действительно важно, потому что алгоритмы ошибаются так, что потом сложно это заметить, и ещё сложнее оспорить решение, если ты вообще не знаешь, почему тебя отклонили.
У меня был друг, который подал заявку онлайн и получил отказ, а когда спросил, почему, ответ был по сути "система сказала нет". Никакого объяснения, просто отказ. Оказалось, там была ошибка ввода данных с несколько лет назад, которую никто не заметил, и алгоритм помечал это как проблему. Потребовалось несколько месяцев, чтобы всё исправить. С этими правилами предполагается, что кто-то будет реально разбирать такие случаи, прежде чем просто ставить штампик на всё, что сплюёт искусственный интеллект. Так что это не просто бюрократический шум - это о том, чтобы решения, которые влияют на твою жизнь, имели смысл, когда ты в них разбираешься, а не просто то, что какой-то чёрный ящик алгоритма решил.
Минус в том, что обработка станет медленнее. Госучреждения и так движутся как улитка, а добавление этапа проверки человеком означает, что это будет еще дольше. Но честно, я бы лучше подождал неделю-другую на решение, которое хоть кто-то реально рассмотрел, чем получить быстрое одобрение от системы, которая может допускать ошибки, которые никто не замечает. Настоящий вопрос в том, будут ли они нормально укомплектовывать эти проверки или просто посадят одного человека разбирать тысячи решений, что полностью убьёт всю идею.
Войдите, чтобы ответить.
