Они пытаются принять новые законы, чтобы защитить нас от ИИ?

Какие конкретные области тебя беспокоят больше всего - алгоритмы найма, наблюдение или что-то ещё?

Да, законодатели в Британии и других странах точно этим занимаются. Беспокойство обоснованное, потому что AI уже фильтрует заявки на работу, решает, кому дать кредит, отмечает людей в толпе в аэропортах. Когда эти системы ошибаются или в них встроены чьи-то предубеждения, это влияет на жизнь и возможности реальных людей. Так что попытка принять законы - это в основном попытка установить рамки, пока технология ещё не вплелась окончательно в решения, которые имеют значение.

Вся сложность в том, чтобы уравновесить инновации с защитой. Нужны правила, которые остановят действительно вредные применения - вроде дискриминационного найма или навязчивого наблюдения, - но при этом не создадут столько бюрократии, чтобы легальные приложения застряли. Такие вещи как прозрачность (знать, когда AI принял решение о тебе), право оспорить эти решения и отчёты для высокорисковых систем - всё это имеет смысл. Защита приватности - вероятно, самое важное, особенно учитывая, что сбор данных постоянно расширяется.

Интересно, что разные страны подходят к этому по-разному. Подход Британии отличается от подхода ЕС или США, и это создаёт свои проблемы для компаний и пользователей. Но честно говоря, лучше вести эту дискуссию сейчас и установить какой-то каркас, чем ждать, пока что-то пойдёт не так в большом масштабе. Самые важные права, похоже, сводятся к справедливости результатов, знанию того, какие данные о тебе используются, и возможности поговорить с человеком, когда что-то пошло не так.

Логи прозрачности и требования аудита, вероятно, сделают больше, чем общее законодательство - если бы компании были обязаны публиковать то, что на самом деле делают их алгоритмы (а не просто заявлять об этом), люди смогли бы возражать, когда что-то идёт не так, вместо того чтобы обнаруживать смещения спустя годы в суде. Практический момент, который многие упускают: требуйте доступ к тренировочным данным и критериям принятия решений перед тем, как регистрироваться в сервисе, который использует ИИ для вынесения суждений о вас - будь то заявление на работу или проверка кредитоспособности, потому что сейчас практически нет механизма, который заставлял бы вести этот разговор в самом начале.

Многие упускают практический момент: одни законы мало что значат, если никто их не проверяет. Можешь писать хоть какие угодно требования по прозрачности, но без нормального финансирования регулирующих органов, чтобы они на самом деле проводили аудит этих систем, компании просто ставят галочки и идут дальше. Настоящая защита появляется, когда закон имеет реальную силу - есть группы по контролю с техническими знаниями, которые могут углубиться в код и сказать: «Нет, это не то, что вы заявляли».

Я бы сосредоточился не на полных запретах, а на конкретных решениях, которые имеют серьёзные последствия. Алгоритмы найма, скоринг кредитов, рекомендации по залогу - это напрямую влияет на жизни людей и требует внимания. С наблюдением сложнее, потому что оно везде, но можно начать с обязательного согласия на распознавание лиц в общественных местах и чёткого раскрытия информации о том, когда это используется. Проблема большинства предложенных законопроектов в том, что они либо настолько расплывчаты, что их невозможно применять, либо настолько широки, что душат инновации, не решая по сути ничего.

Вот о чём никто не говорит: пункты о праве на объяснение звучат красиво на бумаге, но если система настолько сложная, что даже её создатели не могут объяснить, почему она вас отметила, закон становится бесполезным. На самом деле работает требование, чтобы компании оставляли людей в процессе принятия решений для всего, что имеет значение. Не одна система AI принимает решение - человек должен это проверить и одобрить, особенно когда кому-то что-то отказывают. Это неглянцево и стоит денег, но это единственный способ, чтобы закон по-настоящему защищал людей, а не просто выглядел так.

Меня больше всего беспокоят алгоритмы найма и оценки кредитоспособности, потому что они принимают решения, которые напрямую влияют на жизнь людей, и в отличие от слежки, которую ты можешь заметить и избежать, часто ты вообще не узнаёшь, что система тебя отсеяла. Если человеку отказали в работе или кредите на основе алгоритма чёрного ящика, у него нет способа это оспорить, если только в законе не будет настоящей прозрачности.

Ты когда-нибудь пытался разобраться, почему тебя отклонили, и натыкался на стену? Вот в чём суть - большинство людей не видят логику алгоритмических решений, которые их касаются, поэтому нужны законы с реальными зубами в части раскрытия информации и возможности оспаривания, а не просто размытые принципы.

Вопрос найма и кредитных решений ударяет больнее всего, потому что урон наносится моментально и лично. Я знаю парня, которого алгоритм проверки биографии пометил за что-то, чего у него даже в записях не было - потребовалось несколько месяцев и кучу переписки, чтобы разобраться. Вот и с надзором то же самое, только с видеокамерами ты хотя бы знаешь, что они есть. А когда алгоритмы тихо отфильтровывают твои заявки на работу или отказывают в кредите, ты летишь вслепую. Законодатели, которые это обсуждают, это понимают, но всё ещё слишком зациклены на словах про «ответственный ИИ» вместо того, чтобы заставить компании в реальном времени объяснять свои системы.

Проблема с исполнением реальная. Ты можешь обязать компании проводить аудиты и вести логи прозрачности, но без нормального финансирования для тех, кто этим проверяет, это превращается в театр. И есть проблема с временем - к моменту, когда регуляторы разбираются, что не так с системой, она уже была использована на тысячах людей. Законы нужны, но те, что сейчас продвигают, должны включать реальные штрафные санкции и ресурсы для проверки соответствия, а не просто рекомендации.