ЭТИЧЕСКИЕ И СОЦИАЛЬНЫЕ ПРОБЛЕМЫ ВНЕДРЕНИЯ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА: ВЗГЛЯД ПРОГРАММИСТА - Студенческий научный форум

X Международная студенческая научная конференция Студенческий научный форум - 2018

ЭТИЧЕСКИЕ И СОЦИАЛЬНЫЕ ПРОБЛЕМЫ ВНЕДРЕНИЯ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА: ВЗГЛЯД ПРОГРАММИСТА

Бут А.Н. 1, Бжельников Е.В. 1
1Нижегородский государственный технический университет им. Р.Е. Алексеева, Дзержинский политехнический институт
 Комментарии
Текст работы размещён без изображений и формул.
Полная версия работы доступна во вкладке "Файлы работы" в формате PDF
Сообщество программистов, членами которого мы является, все чаще сталкивается с проблемами внедрения разработанного программного обеспечения, направленного на автоматизацию и упрощение труда человека. Проявляются эти проблемы как нежелание людей вносить изменения в свой образ жизни, менять привычки и устоявшиеся взгляды, опасение преобразований, связанных с новыми технологиям. В настоящее время всё большее развитие получают системы с искусственным интеллектом (ИИ), всё большее внимание уделяется машинному обучению. Человечество стоит на пороге массового внедрения искусственного интеллекта в процессы жизнедеятельности общества. Активное внедрение происходит уже сейчас, что заставляет задуматься не только о названных выше проблемах, но и том, насколько реальные возникающие в массовом сознании опасения. Насколько реальны опасения, возникающие в связи с распространением систем с искусственным интеллектом? Выяснение этого вопроса составляет цель нашей работы. Процессы распространения искусственного интеллекта, увеличение скорости социальных изменений, резкое увеличение объемов и способов получения информации, – все это составляет объект нашего рассмотрения. Предмет работы связан с рассмотрением социальных и этических аспектов названных процессов.

Попытки внедрения искусственного интеллекта в информационные системы современного мира привели к неожиданным последствиям, проявили проблемы взаимодействия человека с умными машинами. Разработки в областях глубинного обучения, роботизирования, искусственного интеллекта подвергают опасности человечество, что накладывает ответственность на разработчиков новых систем, заставляет производить глубокий анализ на этапах проектирования, прогнозирования использования таких систем, моделировать процесс работы интеллектуальных систем в реальных условиях для выявления непредвиденных на ранних этапах ситуаций и “тонких” мест. Рассмотрим некоторые проблемы, появившиеся при взаимодействии человека с искусственным интеллектом.

Однозначно предвидеть все последствия интегрирования роботов и искусственного интеллекта на данный момент нельзя, но уже сейчас возникает множество вопросов и далеко не все из них имеют решение. Основной проблемой является отношение людей к роботам. Возьмём, к примеру, безопасность. Эксперты отмечают, что по статистике каждый год только в США на дорогах «погибает 37 462 человека. В 94% случаев аварии происходят по вине водителей, которые не сумели вовремя среагировать», были в состоянии алкогольного опьянения или отвлеклись на смартфоны [1]. Решение проблемы связывают с беспилотными автомобилями. Однако, как следует из доклада американского стратегического исследовательского центра RAND Corporation, не все так однозначно: если к ошибкам водителей человечество уже привыкло, то ошибки роботов станут предметом всеобщего внимания и эмоциональных оценок. Невзирая на то, насколько в целом уменьшится число аварий. Поэтому тормозить массовое внедрение беспилотников будут люди, причём не только те, у кого беспилотники отнимают работу. Очередной раз проблема оказывается больше социологической, чем технической. Без правильной подачи и подготовки процесс будет практически нереализуем, ведь тяжело доверить роботам свою безопасность и контроль над ситуацией, даже если это заведомо безопасно.

Актуальна и проблема восприятия людьми человекоподобных роботов – андроидов. Широко известен такой факт: « В 1978 году японский учёный Масахиро Мори провёл опрос, исследуя эмоциональную реакцию людей на внешний вид роботов. Поначалу результаты были предсказуемыми: чем больше робот похож на человека, тем симпатичнее он кажется — но лишь до определённого предела. Наиболее человекоподобные роботы неожиданно оказались неприятны людям из-за мелких несоответствий реальности, вызывающих чувство дискомфорта и страха. Неожиданный спад на графике «симпатии» (Рисунок 1) и был назван «Зловещей долиной», притом Масахиро Мори обнаружил, что анимация усиливает и позитивное, и негативное восприятие [2]. Преодолеть этот интервал неприязни андроидов очень сложно, но крайне необходимо. Роботизированные системы призваны являться персональными помощниками людей, предназначены для ежедневного взаимодействия и, исходя из тенденций разработки в данной области, будут даже восполнять недостаток в общении современного человека, много времени проводящего в общественном или личном транспорте. Поэтому подобные гаджеты не должны вызывать отторжение, недоверие и тем более страх пользователя.

Иногда на неожиданные проблемы находятся не менее неожиданные решения. Об одном из таких решений рассказал Григорий Бакунов. В докладе «Как развитие

Рисунок 1 – Эмоциональная реакция человека в зависимости от человекоподобности наблюдаемого объекта

искусственного интеллекта изменит мир вокруг нас» на конференции Лимуд-2016 он говорил о своём участии в разработке программного обеспечения с элементами искусственного интеллекта для службы поддержки одного из сотовых операторов. И живой человек, и искусственный интеллект отвечают на вопросы не сразу, им нужно секунду подумать. Выяснилось, что человека очень раздражает тот факт, что когда он совершает звонок в службу поддержки, ему отвечают: “Здравствуйте, я виртуальный оператор Елена. Чем могу помочь?” Человек что-то говорит, а потом образуется секундная пауза. Для решения проблемы придумали такой фокус: записали стук клавиш на клавиатуре и просто пускали его в фоне. Человек думает: «А, ну всё нормально. С той стороны сидит робот и он печатает». Все современные интеллектуальные системы пытаются решить проблему восприятия человека. Подобные решения сейчас часто являются важнее, чем технологический прогресс.

Кроме описанных выше проблем существуют не менее важные проблемы иного рода. С одной стороны, внедрение ИИ и роботов способствует развитию экономики, упрощению, ускорению, автоматизации как рутинных операций, так и сложных аналитических расчётов. Но есть и обратная сторона: впервые в истории потеря рабочих мест угрожает не только профессиям, связанным с физическим трудом, но и профессиям, связанным с умственным трудом и требующим высокой квалификации. Например, фирма GoldmanSachs заменила команду из 600 трейдеров на двух человек и автоматизированные программы алгоритмического трейдинга, для обслуживания которых были наняты 200 разработчиков-программистов [3].

Специалисты отмечают: «Оособенности современного рынка труда привели к тому, что огромное количество даже дипломированных специалистов не может устроиться по специальности. Если в 1995 году, по данным социолога Ж.Т. Тощенко и его коллег, по специальности не могли устроиться только 17,6% специалистов, то в 2002 году цифра тех, кто не смог работать по диплому возросла до 37%, а в 2013 году — до 49,1% [4]. Внедрение искусственного интеллекта только усугубит эту ситуацию. Например, по прогнозам Исследовательского института Mitsubishi, в Японии к 2030 году число рабочих мест сократится на 2,4 млн. из-за внедрения роботов во все сферы деятельности.

Аллисон Дютман, координатор программ ForesightInstitute, некоммерческой организации, базирующейся в Силиконовой долине для продвижения новых технологий, среди вариантов решения проблемы вытеснения человека машиной на рынке труда, называет введение "универсального базового дохода", который бы получал каждый житель вне зависимости от уровня дохода и занятости. Подобный доход финансировался бы за счет инновационного налога LandValueTax, введение которого сейчас активно обсуждается в Силиконовой долине [5].

Таким образом, при внедрении искусственного интеллекта в жизнь общества кроме очевидных преимуществ возникает и множество неоднозначных проблем социального характера, не имеющих явного решения на данный момент. В совокупности эти проблемы создают серьёзное препятствие для массового внедрения искусственного интеллекта в обозримом будущем. При этом тенденции, устанавливаемые крупными компаниями ИТ индустрии, говорят о том, что человек будет сталкиваться с умными машинами всё чаще и чаще. Мы являемся свидетелями очередной технологической революции, которая приведёт к существенным изменениям в обществе, и проблемы, актуальные и прогнозируемые, требуют решения уже сейчас. Разумеется, останутся вопросы, для которых нет доступного или однозначного решения. Однако если заняться их решением уже сейчас, можно будет свести влияние таких проблем к минимуму.

Огромное влияние на доверие и отношение общества к чему-либо формирует реклама и маркетинг. Поэтому маркетологи должны именовать, рекламировать и внедрять продукт таким образом, чтобы максимально снизить недоверие пользователей к искусственному интеллекту, доказать безопасность и “нормальность” использования систем с ИИ, грамотно обозначить преимущества и внушить чувство доверия к ним. То есть формировать положительное представление общества о системах с ИИ.

Ответственность за выбор направлений разработок, их этичность и необходимость для общества ложится в первую очередь на компании, занятые разработкой интеллектуальных систем, самые важные из которых принадлежат ведущим мировым корпорациям. Каждый работник — аналитик, проектировщик, программист — должен осознавать серьёзность принятых им решений. Также ответственными за исход внедрения данных систем могут считаться чиновники и юристы, подготавливающие правовое поле для разработчиков. Уже сейчас возникает необходимость в модернизации законодательства, связанного с изменяющимися областями, а также в создании базовых механизмов защиты граждан от предполагаемой потери рабочих мест и предоставлении возможности переквалификации большого количества населения в соответствии с появившимися рабочими местами и новыми профессиями в области проектирования, разработки и обслуживания интеллектуальных систем. Профессиональные сообщества программистов, безусловно, должны включиться в обсуждение этих проблем. Но это требует активной коммуникации с представителями других профессиональных и социальных групп, активной социальной коммуникации.

Список литературы

1. Гоголадзе, О. «Беспилотные автомобили нужно внедрять как можно скорее» [Электронный ресурс]// Режим доступа: https://hightech.fm/2017/11/07/autonomous-vehicles

2. Андроид Toshiba и Зловещая Долина [Электронный ресурс]// Режим доступа: http://roboting.ru/1912-android-toshiba-i-zloveschaya-dolina.html

3. Goldman Sachs заменила 600 трейдеров на 200 программистов [Электронный ресурс]// Режим доступа: https://geektimes.ru/post/285642/

4. Искусственный интеллект и новый пролетариат. Что ждёт человечество? [Электронный ресурс]// Режим доступа: https://pravdoryb.info/iskusstvennyy-intellekt-i-novyy-proletariat-chto-zhdyot-chelovechestvo.html

5. Искусственный интеллект: угроза или помощник? [Электронный ресурс]// Режим доступа:

http://newsarmenia.am/news/science/iskusstvennyy-intellekt-vs-chelovek-ugroza-ili-pomoshchnik/

Интернет-ресурсы, использованные при подготовке работы:

  • Блог Григория Бакунова [Электронный ресурс]// Режим доступа: http://addmeto.cc/

  • Национальная социологическая энциклопедия [Электронный ресурс]// Режим доступа: http://voluntary.ru/

  • “Theenemyofgood” [Электронный ресурс]// Режим доступа: https://www.rand.org/pubs/research_reports/RR2150.html

 

 

Просмотров работы: 745