ООН выпустила первое пособие для городов: кто отвечает за решения ИИ
ООН выпустила первое пособие для городов: кто отвечает за решения ИИ
Представьте: в вашем городе чат-бот решает, кому дать место в детском саду, а алгоритм выбирает, какую дорогу ремонтировать первой. Удобно? Возможно. Но кто ответит, если решение окажется несправедливым или просто ошибочным? Именно об этом задумались в ООН и выпустили первое в истории общесистемное пособие для городов — о том, как использовать ИИ, не теряя человеческого контроля.
Что это за документ и зачем он нужен
На днях на Всемирном конгрессе умных городов в Барселоне представили «Инструментарий U4SSC для человекоцентричных умных городов в эпоху ИИ». Подготовили его Международный союз электросвязи (ITU) и Программа ООН по населённым пунктам (UN-Habitat) в рамках инициативы «Объединённые усилия для умных и устойчивых городов» (U4SSC), которой в этом году исполняется 10 лет. Пособие адресовано мэрам, городским управленцам и политикам — тем, кто каждый день решает, пускать ли алгоритмы в общественные службы и на каких условиях.
ИИ уже вовсю работает в мэриях по всему миру: чат-боты отвечают жителям, алгоритмы выбирают дороги для ремонта, программы помогают принимать административные решения. Всё это может сделать услуги быстрее и отзывчивее, но, как предупреждают в ООН, несёт и риски — предвзятость, вторжение в частную жизнь, угрозы правам человека и размывание ответственности. «Умные и устойчивые города определяются тем, насколько хорошо люди выигрывают от технологий, созданных для улучшения повседневной жизни», — подчеркнула генеральный секретарь ITU Дорин Богдан-Мартин.
Четыре простых правила
Инструментарий предлагает городам отвечать на практические вопросы: какую проблему мы решаем? Кто может выиграть, а кто пострадать? Как следить за работой приложения? Кто отвечает за его решения? И когда пора остановиться? Для этого сформулированы четыре ключевых правила: начинать с городской проблемы, а не с технологии; сохранять общественные решения под реальным человеческим контролем; усиливать защиту по мере роста возможного вреда; и признавать, что решение вовсе не использовать ИИ — тоже ответственный выбор. В основе пособия — реальные примеры из Хельсинки и этеквини (ЮАР). Подробности на сайте IfG.CC.
Отдельно в UN-Habitat отмечают: цифровые инновации должны помогать городам лучше отвечать на нужды сообществ, особенно тех, кто живёт в неформальных поселениях и других уязвимых районах. А значит, нужно закрывать пробелы в данных, защищать права человека и давать жителям и гражданскому обществу реально участвовать в формировании городских решений.
Что это значит для вас
Если ваш город уже использует ИИ для распределения услуг, ремонта или ответов на обращения, у вас появляется понятная рамка, с которой можно спрашивать с властей. Теперь можно задать неудобный, но важный вопрос: кто именно — человек, а не программа — отвечает за то или иное решение? И не пора ли какой-то алгоритм просто отключить? Это не юридическая консультация, а скорее повод для разговора с местной администрацией.
Вместе с пособием U4SSC выпустила серию публикаций — об управлении ИИ в городах, измерении человекоцентричной цифровой трансформации, безопасности цифровой инфраструктуры и городских платформах данных. Так что у городов теперь есть общая точка отсчёта. Осталось ею воспользоваться.
📬 Хотите получать свежие материалы по этой теме первыми? Вы можете подписаться на рубрику «Технологии и общество» прямо на сайте Lamvi.Art. Уведомления будут приходить в личный кабинет (а скоро — и на почту)!
Материал подготовлен на основе информации из открытых источников. Все права на исходные материалы принадлежат их авторам. Если вы являетесь правообладателем и возражаете против использования материала, либо обнаружили неточность или имеете иное мнение о фактах, изложенных в статье, — напишите нам по адресу info@lamvi.art. Мы всегда открыты к диалогу и внимательно рассмотрим ваше обращение.
