Статья
1371 16 июля 2021 13:19

Искусственный интеллект: беспристрастность или несправедливость

Искусственный интеллект используется уже практически во всех сферах жизни. Его применяют при постановке диагнозов, вынесении решений о выдаче кредитов, даже при распределении доз вакцины от коронавируса. Однако системы искусственного интеллекта часто совершают ошибки, которые могут остаться незамеченными, либо, даже если они будут обнаружены, их трудно исправить. Американский специалист в области информационных технологий Джошуа Кролл опубликовал доклад о том, почему так происходит, а также предложил решение этой проблемы.

Кролл приводит в пример проблемы, которые возникают при использовании искусственного интеллекта для принятия решения о выдаче кредита и о предоставлении вакцины. В первом случае искусственный интеллект должен оценить кредитоспособность клиента. При сравнении характеристик прежних клиентов с текущим искусственный интеллект выявляет определенные закономерности, основанные на кредитных рейтингах, моделях прогнозирования риска дефолта и участии конкретного клиента в каких-либо финансовых программах.

Однако эти модели часто нацелены на оптимизацию прибыли банка, которая может перекрыть бизнес-логику, понятную специалистам в конкретной сфере, а также более широкие социальные понятия, такие как равноправный доступ к кредитам или недопущение дискриминационных практик.

И хотя банкир с надлежащими полномочиями может выносить суждение, предоставив кредит, казалось бы, платежеспособному заявителю, который не соответствует формальным критериям банка, пороговые значения и правила, которым обучен искусственный интеллект, не позволят это сделать. На практике это часто дает преимущества клиентам с хорошими связями, которые кажутся «подходящими», добавляя субъективности, присущую системе кредитования.

Казалось бы, решение искусственного интеллекта, вынесенное на основе четких правил, которым он обучен, потенциально позволяет снизить предвзятость в процессе предоставления кредита. Но эти правила имеют и обратную сторону: тем, кто не похож на предыдущих успешных клиентов, будет отказано в предоставлении кредита из-за их более низкого или недоступного кредитного рейтинга, будь то опытные предприниматели или люди, чье прошлое отличается от тех, кого обслуживали ранее — например, жители неблагополучных районов, либо маргинальные группы, определенные по таким категориям, как раса и пол. Такие слои населения имеют меньше шансов на предоставление кредита, если это решение принимает искусственный интеллект.

Еще один пример — принятие решения о предоставлении вакцины от COVID-19. Искусственный интеллект должен определить приоритетность распределения вакцины на основе формулы, которая основана на сравнении риска смерти в разных слоях населения. Таким образом, приоритет был отдан старшему медицинскому персоналу, а более молодые сотрудники были поставлены во вторую очередь предоставления вакцины. Это привело к тому, что только пяти из 1,3 тыс. сотрудников больницы была назначена вакцинация в первой очереди.

Специалист делает вывод, что автоматизация способна обеспечить высокую скорость принятия решений, однако разработчикам следует признать, что преобразования процесса принятия решения в цифры, как это делает автоматизация, недостаточно, и человеку необходимо работать совместно с системами машинного обучения.

Почему это важно. В настоящий момент ведутся дискуссии об использовании искусственного интеллекта в политической и военной сферах. Однако, если при принятии решений в автоматическом режиме в этих областях будут совершены ошибки, это может привести к непредсказуемым последствиям.
Комментарии для сайта Cackle
20 декабря 2021 Новости
В Совфеде предложили запретить оборот роботов, способных принимать решения
 В Совфеде предложили запретить оборот роботов, способных принимать решения Комплексный законопроект, который предлагает принципы взаимоотношений робота и человека, разработали в Совете Федерации. Автором документа стал глава комитета верхней палаты парламента по экономической политике Андрей Кутепов.
14 декабря 2021 Новости
Экспертов МИД заменят искусственным интеллектом
 Экспертов МИД заменят искусственным интеллектом В 2022 году российский МИД собирается подготовить проект системы анализа big data, которая с помощью искусственного интеллекта будет анализировать данные о внешней политике. Об этом журналистам рассказал спецпредставитель министра иностранных дел России по вопросам цифровой трансформации Сергей Кирюшин.
10 декабря 2021 Новости
Искусственный интеллект: риски внедрения новой технологии
 Искусственный интеллект: риски внедрения новой технологии В чрезвычайно быстро развивающейся области искусственного интеллекта (ИИ) мало международного сотрудничества. Решающее значение для функционирования современного общества, особенно в высокотехнологичных областях, имеют технические стандарты, однако для новых технологий они возникают не в результате правительственных решений, а в результате инноваций частного сектора.
© 2008 - 2022 Фонд «Центр политической конъюнктуры»
Сетевое издание «Актуальные комментарии». Свидетельство о регистрации средства массовой информации Эл № ФС77-58941 от 5 августа 2014 года, Свидетельство о регистрации средства массовой информации Эл № ФС77-82371 от 03 декабря 2021 года. Издается с сентября 2008 года. Информация об использовании материалов доступна в разделе "Об издании".