Этическая сторона искусственного интеллекта — обострение болезни
Вашингтон, 21 июля, 2020, 23:38 — ИА Регнум. Компании Deloitte, одно из крупнейших международных консалтинговых агентств, и американская аналитическая компания FICO провели независимые социологические исследования, которые выявили неожиданное и резкое изменение отношения топ-менеджеров крупных IT-компаний к этическим проблемам применения технологий искусственного интеллекта (ИИ), которые в условиях пандемии COVOD-19 стали ускоренно внедряться во всех отраслях экономики.
Ещё полтора месяца назад большинство руководителей видели от внедрения ИИ только выгоду при максимально эффективном его использовании без оглядки на человека. Компании всё смелее полагались на искусственный интеллект (ИИ), передавая ему самые ответственные функции. Теперь «думающие» машины работают вместе с людьми на складах, дают рекомендации о том, кто имеет право получить кредит, определяют размер страхового взноса, отбирают и группируют пациентов в больницах и поликлиниках, анализируют гигантские объемы финансовых данных.
При форсированном внедрении технологий ИИ на передний план вышли этические проблемы передачи полномочий человека системам ИИ, что предвидели многие эксперты и о чем предупреждал Папа Римский. Теперь нерешённые этические вопросы, согласно третьему исследованию Deloitte применения технологий ИИ на предприятиях, вызывают беспокойство и у большинства из 2737 руководителей крупных компаний, опрошенных в ходе исследования. Многие из тех, кто использовал ИИ в своем бизнесе, сообщали о «серьезных» или «крайних» опасениях по поводу возникающих этических рисков. Эксперты Deloitte считают, что во многом тревога топ-менеджеров корпораций спровоцирована громкими скандалами, связанными с ошибками в работе ИИ известных компаний. Имеются в виду автокатастрофы беспилотных автомобилей Uber и Тесла, которые привели к гибели пассажиров и пешехода; ИИ Amazon был замечен в предвзятом отношении к женщинам при обработке резюме соискателей; Microsoft остановила работу своего Twitter-бота, который начал проявлять «ненависть» к пользователям; IBM свернула исследования по распознаванию лиц, сославшись на нарушение прав человека.
Опрос Deloitte, проведенный среди руководителей компаний-разработчиков ИИ, показал, что более половины из них обеспокоены вопросами этики, ответственности и последствиями при использовании личных данных без согласия их носителей и владельцев.
Аналогичное исследование компании FICO обнаружило, что 60% руководителей ИИ-компаний сообщили о давлении на них Советов директоров по вопросам этики, а о таком давлении со стороны своих клиентов сообщили лишь 26% руководителей.
Но ситуация двойного давления на топ-менеджеров не привела к активным усилиям по созданию ответственного ИИ. В том же опросе Deloitte было обнаружено, что только треть руководителей компаний по разработке ИИ стали разрабатывать этические кодексы или подразделения по обеспечению соблюдения этических норм. Менее половины руководителей в опросе FICO заявили, что создали отделы этики ИИ, соответствующим образом диверсифицировали свои команды разработчиков или предприняли шаги по борьбе с предвзятостью в процессе построения моделей.
Некоторые отрасли экономики в этом отношении опережают другие. Например, в сфере финансов и здравоохранения руководители более внимательно следят за тем, чтобы решения алгоритмов были прозрачными и соответствовали законодательству и внутренним правилам компаний. Некоторые компании, такие как Microsoft и Google, делают этику ИИ важным атрибутом бренда. Но большинство фирм только начинают сталкиваться с этими проблемами.
Как видно из выводов, сделанных обеими аналитическими компаниями, большая часть опрошенных относятся к внедрению ИИ в своих операционных и производственных процессах с большой долей осторожности и с оглядкой на нормы человеческой этики. Более того, опрос Deloitte показал, что 56% компаний тормозят внедрение инструментов ИИ из-за этических рисков.
Согласно опросу FICO, 67% организаций полностью готовы внедрить более строгие правила этического использования ИИ.