Цифровое государство - чего боятся граждане

Цифровое государство – чего боятся гражданеИскусственный интеллект (ИИ) может с пользой применяться в самых разных сферах государственного управления. Например, в организации дорожного движения - данные в режиме реального времени собираются со светофоров, камер видеонаблюдения и других источников, позволяющих оптимизировать транспортные потоки. Алгоритмы и методы машинного обучения, в которых компьютеры анализируют большие объемы данных для выявления статистических закономерностей и разработки моделей, которыми можно пользоваться для точных прогнозов, быстро становятся ключевыми инструментами для органов власти.

Но несмотря на очевидные возможности, роль ИИ, автоматизации и робототехники в госполитике и предоставлении услуг продолжает вызывать споры. Например, удастся ли не позволить алгоритмам, основанным на данных за прошедший период, увековечить или укрепить укоренившиеся за десятилетия сознательные или бессознательные предрассудки или ошибки? Когда допустимо использование моделей глубинного обучения "черного ящика", в которых логика, используемая при принятии решений, возможно, не объяснима и не понятна даже специалистам по данным, разрабатывающими базовые алгоритмы?

Чтобы получить представление об отношении граждан к ИИ и его использованию в управлении, BCG опросила более 14 тыс. интернет-пользователей по всему миру ("Взгляд населения на использование искусственного интеллекта (ИИ) в работе государства"). Респондентам задали следующие вопросы: насколько для них приемлем факт принятия определенных решений компьютером, а не человеком? каковы их опасения в связи с использованием ИИ органами власти? насколько они обеспокоены влиянием ИИ на экономику и рабочие места?

Осторожный оптимизм

Как правило, граждане положительно относятся к идее использования ИИ властями, но уровень поддержки колеблется в зависимости от варианта использования ИИ. В целом респонденты положительно отнеслись ко всем 13 потенциальным видам использования ИИ, охваченных опросом, за исключением принятия решений в системе правосудия (использование ИИ в вопросах налогообложения и социального обеспечения, регулирование ИИ для защиты рабочих мест, использование ИИ для получения "живых данных", а также предиктивной аналитики для обслуживания оборудования, доверить ИИ принятие решений в области правосудия и формирования рекомендаций по медицинскому лечению).

Так, 51% опрошенных не согласились с использованием ИИ для определения невиновности/виновности в уголовном процессе (в России 48% против), а 46% высказались против его использования при принятии решений об условно-досрочном освобождении. Хотя теоретически ИИ может снизить субъективность таких решений, до сих пор существуют обоснованные опасения относительно вероятности ошибки или предвзятости алгоритма. Кроме того, алгоритмы не в состоянии по-настоящему понять смягчающие обстоятельства и сопутствующую информацию, которые, по мнению многих, следует учитывать при принятии таких решений.

С другой стороны, высок уровень поддержки использования ИИ во многих базовых процессах принятия решений органами власти, например, в администрировании налогов и системы социального обеспечения, отслеживании мошенничества и несоблюдения правовых норм, и, в меньшей степени, в вопросах иммиграции и оформлении виз. Высказана существенная поддержка использования ИИ при принятии не связанных с учетом неоднозначных факторов решений, например, для оптимизации дорожного движения и транспортных потоков. Респонденты в значительной мере поддержали использование ИИ для профилактического обслуживания общественной инфраструктуры и оборудования, например, дорог, поездов и автобусов. Наконец, высокая поддержка выражена использованию ИИ в каналах клиентского обслуживания, например, для виртуальных помощников, аватаров и виртуальной и дополненной реальности.

Поддержано применение ИИ в медицинской диагностике и распознавании изображений (приемлемо для 51% респондентов), предоставляющее значительные возможности для повышения быстроты выполнения и точности медицинских диагнозов. С другой стороны, граждане выразили несколько меньшую уверенность в целесообразности применения ИИ для рекомендаций по вопросам лечения, и в целом их отношение к применению ИИ в медицине сильно рознилось от страны к стране.

В среднем примерно каждый пятый респондент "не выразил согласие или несогласие" на вопрос о поддержке ИИ для конкретных случаев применения. Властям следует расширять разъяснительную работу и информирование населения о потенциальных видах применения ИИ, их преимуществах и издержках. Во многих случаях граждане, возможно, даже не знают, что их власти уже используют ИИ для поддержки или автоматизации некоторых из перечисленных видов деятельности.

Не доверяю власти – доверяю ИИ

Хотя результаты опроса выявили ряд очевидных тенденций, углубленный анализ указывает на случаи как совпадения взглядов, так и расхождений между различными регионами и возрастными группами. Население стран, относящихся к группе "новые рынки", как правило, более позитивно оценивает использование ИИ властями. Мы обнаружили, что граждане в странах с развитой экономикой, как правило, менее поддерживают использование ИИ органами власти, чем граждане развивающихся стран. Например, граждане, опрошенные в таких странах, как Эстония, Дания и Швеция, меньше других приветствуют использование искусственного интеллекта, а тройка стран-энтузиастов состоит из Китая, Объединенных Арабских Эмиратов (ОАЭ) и Индонезии.

Поддержка использования ИИ властями умеренно коррелирует с доверием к власти. Чтобы власти получали поддержку, необходимую для расширенной реализации возможностей ИИ, требуется доверие к институтам власти. Как мы обнаружили, странами, в которых граждане в максимальной мере поддерживают ИИ, являются Индия, Китай, Индонезия, Саудовская Аравия и ОАЭ. Этот показатель практически соответствует перечню стран, демонстрировавших максимальный уровень доверия к органам власти в соответствии с ежегодным глобальным обзором Edelman Trust Barometer 2018 г. В порядке убывания четыре страны на первых местах в этом списке: Китай, ОАЭ, Индонезия и Индия.

Кроме того, наш анализ показал, что страны с развивающейся экономикой и страны, в которых уровень коррупции регистрируется или воспринимается как высокий, также более склонны поддерживать ИИ: Саудовская Аравия (57 место), Китай (77 место), Индия (81 место) и Индонезия (96 место).

Кстати, в России использование ИИ в госуслугах поддержали 36-41% респондентов в  разных возрастных группах, против - 18-23%.

Напрашивается вывод: граждане предпочитают принятие решений ИИ, а не человеком при низком уровне доверия к аппарату власти. Использование ИИ чаще поддерживают поколение миллениалов и городские жители. Набольшую поддержку (57%) использованию ИИ властями высказывают молодые люди в возрасте 18–34 лет. Кроме того, молодые респонденты реже, чем пожилые, выражали несогласие с использованием ИИ (21% против 29% соответственно). Максимальную поддержку использованию ИИ высказали жители густонаселенных городских районов - 61%; в пригородах показатель составил 52%, в небольших городах 50%, а в сельской местности и отдалённых районах 43%.

Кроме того, граждане более молодого возраста ижители городов выразили минимальное беспокойство по поводу ИИ в ответе на вопрос: "Что вас больше всего беспокоит в отношении использования ИИ властями?" Хотя обнаружить причинно-следственную связь в различных взглядах разных когорт населения не легко, результаты нашего опроса, как правило, связаны с отношением населения к высоким технологиям в других опросах, обычно отражающих относительный опыт, цифровую зрелость и коэффициент принятия таких технологий. Это наводит на мысль, что поддержка использования ИИ со временем, естественно, будет расти, но подчеркивает и необходимость того, чтобы, стремясь заручиться поддержкой принятия ИИ, власти выстраивали коммуникационную политику с учетом опасений разных аудиторий.

Проблемы использования ИИ

Как и прежде, граждан серьёзно беспокоят этические последствия использования ИИ. Впрочем, общий уровень озабоченности ниже, чем ожидалось. Отвечая на вопрос о возможной озабоченности в связи с использованием ИИ властями, 32% граждан выразили обеспокоенность тем, что до сих пор не решены важные этические проблемы, а 25% обеспокоены возможностью предвзятости и дискриминации. Названы и другие серьезные проблемы: отсутствие прозрачности при принятии решений (31%), точность результатов и анализа (25%) и способность государственного сектора использовать ИИ (27%). Общий уровень озабоченности по поводу использования ИИ властями на данном этапе, по-видимому, относительно низок.

Эти данные, возможно, связаны с тем, что население еще только начинает принимать ИИ, или с низким уровнем информированности о потенциальных рисках; возможно действие обоих факторов. С другой стороны, граждане очень обеспокоены влиянием ИИ на трудовую занятость. Отвечая на вопрос о последствиях ИИ для экономики и общества, граждане выразили серьезную обеспокоенность в связи с наличием работы в будущем (согласны 61%), необходимостью регулировать ИИ для защиты рабочих мест (согласны 58%) и потенциальным влиянием ИИ на рабочие места (согласны 54%).

Респонденты приблизительно поровну разделились на согласных и несогласных в ответах на вопрос об адекватности состояния систем налогообложения, образования и социального обеспечения в их странах в мире, в котором ИИ присутствует на каждом шагу. Например, если ИИ действительно приведет к резкому сокращению занятости, как отреагируют системы социального обеспечения и образования? Как это повлияет на налогообложение и на способы финансирования властями свей деятельности? Та же картина наблюдается в ответах на вопрос о том, делают ли власти достаточно для управления воздействием высоких технологий на рабочую силу и экономику и для взаимодействия с населением в вопросах воздействия ИИ.

Что могут сделать власти

Цифровое государство – чего боятся гражданеРезультаты нашего опроса важны и значительны для властей в деле использования и разработки политики в отношении ИИ. Выбор варианта использования ИИ и решение этических вопросов имеют первостепенное значение для снижения обеспокоенности граждан. Граждане явно обеспокоены утратой свободы действий человека при принятии определенных решений, особенно в столь важных областях, как здравоохранение и правосудие. Опасения в связи с возможностью предвзятости и дискриминации являются важнейшим фактором, влияющим на выбор варианта применения ИИ. ИИ обладает потенциалом снижения человеческой предвзятости, как когнитивной, так и социальной, которая влияет на принятие решений человеком. Например, при когнитивной предвзятости люди непропорционально высоко полагаются на первую получаемую информацию вместо того, чтобы беспристрастно взвесить весь объем информации. Социальная предвзятость исходит из убеждений и мировоззрения предшествующих эпох и иногда проявляется в дискриминации. Алгоритмы способны минимизировать как шум, так и предвзятость при принятии решений. Например, алгоритмы могут взвешивать все исходные данные в точном соответствии с инструкциями.

Устранить предвзятость очень сложно. ИИ обучается на данных, большая часть которых получена в результате человеческой деятельности. К сожалению, эта деятельность не избавлена от человеческой предвзятости, так что возможно создание систем, которые усиливают и увековечивают уже существующие предрассудки. Создание моделей, свободных от этой предвзятости, остается серьезной технической проблемой. Например, проведенное в США исследование показало, что система COMPAS, используемая для оценки вероятности рецидивизма уголовных преступников, имеет расовые предубеждения. В некоторых случаях, таких как модели "черного ящика", может отсутствовать возможность понять, как была получена та или иная рекомендация или решение, и, таким образом, удовлетворить традиционные требования властей в отношении объяснимости, прозрачности и возможности проверки. Это тем более актуально для столь сложных инструментов, как нейронные сети и глубинное обучение.

Власти столкнутся с необходимостью тщательно выбирать, как и где запускать пилотные проекты, а в конечном итоге их масштабировать. Кроме того, следует рассматривать вопрос о способах привлечения граждан к участию в этих пилотных проектах. Так, Швейцария изучает возможность переселения лиц, ищущих убежища, в разные регионы страны с использованием ИИ. С конца 2018 года Швейцарский государственный секретариат по миграции и некоммерческая Лаборатория иммиграционной политики приступят к опробованию нового метода для распределения лиц, ищущих убежища, в кантоны по всей стране. Алгоритм позволит чиновникам переселять таких лиц в кантоны, которые оптимально соответствуют характеристикам переселенцев (больше шансов найти работу), а не распределять их случайным образом. Затем программа несколько лет будет отслеживать переселенцев, сравнивая их уровень занятости с показателями других лиц, въехавших в страну одновременно с переселенцами.

Необходимо также создать – или воссоздать – доверие к институтам власти и высокие этические принципы их функционирования. Для граждан чрезвычайно важна прозрачность: властям следует ставить ее во главу угла. Это означает наличие четких представлений об этической значимости ИИ, а также о том, как ИИ будет – и как не будет – применяться. Властям следует подчеркивать роль человека в принятии решений органами власти. В некоторых случаях для принятия решений может использоваться лишь ИИ, но во многих других случаях работа ИИ должен подкрепляться человеческой логикой и играть поддерживающую роль в принятии решений.

Если мы хотим, чтобы граждане доверяли властям в вопросах использования ИИ, критически важным будет вопрос надлежащего надзора за ИИ. Регулирование должно быть тщательно продумано, обеспечивая баланс между необходимостью ограничивать использование властями личных данных и ИИ и одновременно позволяя властям внедрять инновации в использование высоких технологий.


Автор: finam.info

Всего отзывов о компании : 0 (оставить свой)

Ваш комментарий
html не поддерживается
Подписаться на комментарии
Похожие материалы

Вас заинтересуют так же следующие новости

  • 01 июн 2019

    Бесплатные курсы начнутся в столичных парках с 1 июня...

    Столичные парки откроют бесплатные курсы с 1 июня. Об этом сообщили на сайте мэра Москвы. В парке Горького можно появилась возможность бесплатно изучать иностранные языки. Занятия по английскому будут проходить каждую пятницу до конца августа, а по воскресеньям научат французскому......

  • 01 июн 2019

    Аэропорт Внуково начал принимать электронные посадочные талоны...

    Столичный аэропорт Внуково вслед за Шереметьево и Домодедово с 1 июня начал принимать электронные посадочные талоны. Впервые данная опция появилась в российских аэропортах 24 февраля 2019 года. При самостоятельной онлайн-регистрации на рейс пассажир получает электронный посадочный талон, по......

  • 01 июн 2019

    Государственный исторический музей будет работать без выходных...

    Государственный исторический музей с 1 июня перешел на летний режим работы без выходных. — Это стало традицией — последние три года мы открываем парадный вход в Исторический музей на летний период и переходим на другой режим работы: отменяем выходные дни, меняем часы работы музейного комплекса, —......

  • 01 июн 2019

    Google уличили в нарушении законодательства...

    Министерство юстиции США заподозрило корпорацию Alphabet, владельца компании Google, в нарушении антимонопольного законодательства. Ведомство уже готовится начать расследование. Об этом сообщает газета The Wall Street Journal......

  • 01 июн 2019

    Сухая и теплая погода ожидает москвичей в субботу...

    Предстоящим днем, 1 июня, в столице температура воздуха составит плюс 23–25 градусов. Осадков не ожидается. Ночью она опустится до 11 градусов тепла. Ветер будет дуть западный, северо-западный со скоростью 5–10 метров в секунду......

  • 01 июн 2019

    "Уралкалий" выплатит 346 млн рублей жителям Березников...

    Вице-премьер РФ Дмитрий Козак по итогам совещания о ликвидации последствий техногенной аварии в Березниках поручил предоставить социальные выплаты гражданам за счёт средств федерального бюджета, бюджета Пермского края, средств "Уралкалия" в равных долях (по 1/3) в 2019 году в размере 1,0374 млрд......

  • 01 июн 2019

    Россия расширила запрет на въезд представителей ЕС...

    Россия расширила список представителей Евросоюза, которым запрещен въезд на территорию страны. Об этом сообщается на сайте МИДа РФ. Отмечается, что Российская Федерация неоднократно предостерегала сторону ЕС от использования противоречащего международному праву инструмента односторонних санкций......

  • 01 июн 2019

    Пока Трамп воюет с Китаем, Африка создает крупнейшую в мире зону свободной торговли...

    Объемы мировой торговли в этом году рухнули до уровней, в последний раз наблюдавшиеся во время "Великой рецессии". И это резко усилило тревоги по поводу того, что нам, возможно, придется вновь пережить крайне непростые времена, которые большинство инвесторов, вероятно, предпочли бы забыть......

  • 01 июн 2019

    Полиграф подтвердил вину экс-главы Раменского района в убийстве...

    Глава Раменского района Подмосковья прошёл проверку на полиграфе. Она подтвердила вину Андрея Кулакова в убийстве заместителя председателя Общественной палаты Раменского района Евгении Исаенковой. Кроме того, существуют и другие улики, указывающие на Кулакова......

  • 01 июн 2019

    Более 1,1 миллиона москвичей воспользовались госуслугами для детей...

    Более 1,1 миллиона москвичей пользуются электронными услугами для детей и родителей. Об этом сообщил руководитель Департамента информационных технологий Эдуард Лысенко. Родители могут подать заявление о предоставлении льготного питания, записать ребенка в поликлинику или в различные кружки и секции......

  • 01 июн 2019

    Специальные летние программы для детей подготовили в Москве...

    В Москве 1 июня отметят Международный день защиты детей. В этом году на Выставке достижений народного хозяйства торжественные мероприятия начнутся со спектакля «Вафельное сердце», в котором рассказывается о забавных и трогательных приключениях девятилетнего мальчика Трилле и его одноклассницы Лены......

  • 01 июн 2019

    Шахматный турнир «Блиц на высоте» пройдет на Московской канатной дороге...

    В День защиты детей на Московской канатной дороге состоится шахматный турнир «Блиц на высоте». Соревнования начнутся в 14:00. Впервые в мире шахматные партии будут сыграны в движущихся кабинах канатной дороги......

  • 01 июн 2019

    Многодетные москвичи получат разрешение на бесплатную парковку на три года...

    Многодетные семьи Москвы теперь могут оформить разрешение на бесплатную парковку автомобиля. Льгота будет действовать в течение трех лет. О том, что данная опция вступит в силу 1 июня сообщал Сергей Собянин в апреле текущего года......

  • 01 июн 2019

    Россиянам разрешили оплачивать налоги по QR-коду...

    В России скоро начнёт действовать новая форма налоговых уведомлений по НДФЛ и имущественным налогам, которая включает в себя QR-код для оплаты. Использовать его и вносить деньги можно будет через банковские терминалы или мобильные устройства......

  • 01 июн 2019

    Марат Хуснуллин: все предложения жителей по проектам кварталов реновации будут рассмотрены...

    «Скажу, что жители с вниманием относятся к проектам планировки территорий своих районов. Мы продолжаем принимать предложения и пожелания по проектам реновации, которые сейчас проходят процедуру публичных слушаний, ранее направленные замечания жителей уже прорабатываются проектировщиками», –......

  • 01 июн 2019

    Китай решил создать собственный чёрный список для мести США...

    Министерство торговли Китая сообщило о создании «списка ненадёжных организаций». Это аналог «чёрного списка» Министерства торговли США, куда недавно внесли Huawei. В китайский список будут помещать иностранные компании или отдельных лиц, которые не соблюдают рыночные правила и прекращают поставки......

  • 01 июн 2019

    Благотворительный марафон «Бегущие сердца» стартовал в Москве...

    В Москве 1 июня на Васильевском спуске стартовал благотворительный «Зеленый марафон «Бегущие сердца». В забеге принимают участие около 10 тысяч человек. В этом году в программу мероприятия включили классическую марафонскую дистанцию длиной 42 километра 195 метров......

  • 01 июн 2019

    Все предложения жителей по проектам кварталов реновации будут рассмотрены – Хуснуллин...

    «Все предложения, вынесенные жителями в ходе обсуждения, будут рассмотрены проектировщиками. Москвичи внимательно относятся к проектам планировки территорий своих районов. Мы продолжаем принимать предложения и пожелания по проектам реновации, которые сейчас проходят публичные слушания, ранее......

  • 01 июн 2019

    Twitter стал причиной снижения интеллекта у студентов...

    Исследователи из Католического университета Святого Сердца в Милане сравнили успеваемость двух разных групп студентов. В одной группе студенты использовали Twitter для обсуждения учебной работы, а в другой нет......

  • 01 июн 2019

    Хуснуллин: на Москве-реке построят около 20 причалов за 4,5 года...

    «Сегодня Москва-река используется в основном как туристическая, прогулочная артерия города. Однако ее транспортная функция в ближайшие годы будет активно развиваться. Для этого мы и планируем построить дополнительные причалы», – сказал М......

  • 01 июн 2019

    На все времена: Яркие и редкие фото Мэрилин Монро...

    Ровно 93 года назад на свет появилась голливудская актриса и секс-символ Мэрилин Монро. Норма Джин Бейкер начала карьеру модели, когда ей было всего 18 лет. Девушке пришлось решиться на перемены во внешности, но оно того стоило......

Нажимая кнопку авторизации, я подтверждаю, что ознакомлен и согласен с «Политикой конфиденциальности» этого сайта.

^