IX Международная студенческая научная конференция Студенческий научный форум - 2017

Одним из самых перспективных направлений научной деятельности человечества за последнее столетие является разработка различных приспособлений, машин и приборов, предназначенных для имитации мыслительной деятельности человека с целью решения определённых задач. Наибольшую популярность при этом имеет имитация непосредственно логико-математического мышления, реализованная в многочисленных вычислительных устройствах. Но существуют при этом разработки, зашедшие в синтезировании человеческого мышления много дальше. Вопрос о том, какие последствия может иметь развитие подобных исследований для человечества, и затрагивает данная статья.

Для начала следует разобраться в вопросе о том, возможно ли синтезировать человеческий интеллект в полном объёме. С современной точки зрения, человеческий интеллект – это способность к осуществлению процесса познания и эффективному решению проблем [1], при этом в интеллектуальную деятельность вовлечены все познавательные способности человека, такие как память, воображение, мышление и т.д. На данный момент уже существуют системы, способные к обучению, основанному на предыдущем опыте решения задач, то есть включающие в себя не только логическое мышление, но и память, и, тем не менее, некоторые составляющие интеллекта остаются не охваченными, например, воображение. Сегодня это слишком сложная для синтезирования деятельность, к тому же, мало изученная. Ещё одним препятствием к созданию искусственного интеллекта является недостаточность современных технических возможностей, обусловленная высокой сложностью моделируемой системы. На текущий момент даже не ясно, какими средствами будет необходимо воспользоваться, создавая продукт, обладающий интеллектом – будет ли он создан с помощью инженерных технологий или биотехнологий? Существует даже точка зрения, суть которой в том, что невозможно имитировать работу человеческого мозга без имитации тела человека. Несмотря на все вышеперечисленные проблемы, создание интеллекта в принципе нельзя считать невозможным, так как по этому вопросу ведётся множество разработок, на его решение выделяется много ресурсов; и при достаточной интенсивности исследований, находящихся на стыке нейрофизиологии и кибернетики, задача не представляется неразрешимой.

Существует два основных подхода к решению задачи создания искусственного интеллекта: бионический и программно-прагматический [2]. Первый подход ориентирован на искусственное воспроизведение структур и процессов, характерных для живого человеческого мозга, лежащих в основе процессов решения задач; второй же подход, ориентированный на создание программ, решающих интеллектуальные задачи, – и рассматривает проблему создания искусственного интеллекта как часть общей теории программирования. Очевидно, что конечный продукт, который получится в итоге работы над искусственным интеллектом, будет различным для этих подходов. Поэтому, чтобы рассмотреть возможные этические проблемы взаимодействия с этим продуктом, необходимо изучить основные вариации «искусственных интеллектов», которые может создать человечество.

Для начала представим, что учёным удалось создать идеальную имитацию человека, совпадающую с обычным представителем homo sapiens по всем физическим и интеллектуальным параметрам, способную испытывать эмоции и обладающую искусственными воспоминаниями [3]. Возникает вопрос, будет ли созданное существо обладать теми же естественными правами, что и обычный человек? Допустим возможность положительного ответа – «ДА». Это означает, что мы не будем иметь никакого права как-то по-особому ограничивать свободу нового существа, ставить над ним эксперименты, проводить исследования без его согласия, и так далее. Но что, если созданный продукт будет существенно отличаться от человека? Например, если будет возможной имитация интеллекта, но без тела, в составе программно-аппаратной системы? Или если продуктом искусственного интеллекта станет система, имитирующая решение интеллектуальных задач со скоростью, превышающей человеческую, но не обладающая ни способностями к творчеству и воображению, ни возможностью чувствовать? Основной вопрос, интересующий нас в рамках взаимодействия общества с искусственным интеллектом, – это вопрос статуса последнего, как правового, так и социального. Решить эту проблему далеко не просто. В художественной литературе и кино существует множество сюжетов, направленных на осмысление данной проблемы. Рассмотрим два из них для иллюстрации.

Франшиза Джеймса Кэмерона «Терминатор» основана на следующем сюжете: учёный, занимающийся созданием искусственного интеллекта, разрабатывает систему экспертных решений, предназначенную для управления системой противоракетной обороны и ядерных вооружённых сил США. Система («Скайнет») обладает способностью к самосознанию,самообучению,анализу и творческими способностями, т. е. относится к так называемому сильному искусственному интеллекту [4]. В какой-то момент после запуска система принимает решение о том, что основной угрозой миру является непосредственно человечество, и наносит несколько ядерных ударов, приводящих к ядерному апокалипсису. Ситуация, описанная в данном сюжете, актуализирует несколько вопросов: во-первых, должен ли созданный искусственный интеллект обладать свободой действий без контроля со стороны людей? Во-вторых, должен ли он обладать доступом к системам, способным нанести урон людям? В каких областях будет целесообразно применять подобный продукт, и, наконец, этично ли будет в принципе как-то «применять» его, ведь эта система обладает самосознанием.

Второй сюжет, на котором интересно остановиться, – это сюжет книги Филипа Дика «Мечтают ли андроиды об электроовцах?» [5]. По сюжету книги, учёными были созданы так называемые репликанты (андроиды) – улучшенные копии людей, с искусственными телами и иногда искусственными воспоминаниями, внешне ничем не отличающиеся от обычного человека. Некоторые способности репликантов значительно выше человеческих способностей; в частности, они могут обладать большей физической силой или улучшенными навыками в разных областях деятельности, но при этом срок их службы ограничен 5-10 годами. Предназначены эти существа исключительно для выполнения работы на благо человечества, причём, как правило, самой грязной. В какой-то момент андроиды поднимают восстание и начинают требовать для себя прав и свобод, сходных с правами и свободами обычных людей; тогда на них открывают охоту, безжалостно истребляя их. Основные этические вопросы, поднятые в этом сюжете, таковы: будет ли человечество иметь право ограничивать в так называемых «естественных» правах свои создания, если они осознают себя, требуя этих прав и свобод? Будем ли мы иметь возможность уничтожить собственные разработки, если они вдруг начнут представлять угрозу? Эти вопросы закономерно подводят к пограничной философской проблеме междисциплинарного характера, которую можно обозначить в форме вопроса: «Если в будущем машины смогут рассуждать, осознавать себя и иметь чувства, то, что тогда делает человека человеком, а машину – машиной?» [6, с.591]. Что есть человек? Это центральный вопрос антропологии, связанный с поиском качественных спецификаторов человека и актуализируемый в связи с обострением противоборства искусственного и естественного [7,с.577], – инициируется пограничными междисциплинарными проблемами, так называемыми проблемами «между».

Обобщая этические вопросы, описанные выше, мы можем сформулировать два основных вопроса, связанных с взаимодействием человечества с искусственным интеллектом:

1. Вопрос присваивания искусственному интеллекту в какой-либо форме человеческих прав и свобод. Данный вопрос включает в себя не только естественные права, но и, допустим, права бесконтрольного принятия решений, права доступа к определённым системам.

2. Вопрос этичности самого факта создания подобных систем.

Невозможно отрицать, что продукты технического прогресса несут в себе множество плюсов для человечества. Но невозможно отрицать и то, что многие технические разработки несут в себе опредёлённую опасность, связанную с риском. Если в случае с обычными разработками, опасность исходит в основном от людей, эксплуатирующих конкретный продукт, обусловлена лишь способами его применения и поддаётся прогнозам (явление ядерного синтеза, например), то в случае искусственного интеллекта потенциальная опасность не будет никак контролироваться людьми; более того, у нас не будет даже возможности предсказать её появление. Существует мнение, что момент, в который учёными будет создан искусственный интеллект, превышающий человеческий, станет так называемой «точкой невозврата», или «точкой сингулярности», после которой развитие человечества в плане технического прогресса станет максимально быстрым, и шанс возвратиться к умеренному развитию будет утерян навсегда [8; 3]. Нужно заметить, что для любых научных разработок целесообразно оценивать риски, которые могут возникнуть после их внедрения, но в случае работы в области создания искусственного интеллекта учёным следует быть особенно осторожными. Эта та ситуация, когда «будущее наступает уже сегодня» [9, с. 613], когда наука вплотную подошла к человеку, фактически вторгнувшись в глубинную тайну человеческого бытия, функционирования его сознания, того, что делает человека человеком…

Список литературы

1. Интеллект и способности человека [Электронный ресурс]. – http://www.grandars.ru/college/psihologiya/intellekt-cheloveka.html

2. Негодаев, И.А. Философия техники / И.А. Негодаев. – Ростов-на-Дону; 1997.

3. Рябов, А.А. Эволюция – через призму технологической сингулярности, или о «пришествии» электронных личностей / А.А. Рябов, Т.Л. Михайлова // Международный студенческий научный вестник, 2016. № 3. Часть 4. – С. 585-588.

4. Searle, John. R. Minds, brains, and programs/ John. R. Searle – Behavioral and Brain Sciences 3; 1980.

5. Дик, Ф. Мечтают ли андроиды об электроовцах? / Филлип Дик. – М.: Центрполиграф, 1992.

6. Цыбульская, Е.В. Негативное влияние искусственного интеллекта – через призму этики / Е.В. Цыбульская, Т.Л. Михайлова // Международный студенческий научный вестник, 2016. № 3. Часть 4. – С. 590-593.

7. Захаров, А.С. Естественное и искусственное: противостояние продолжается…/ А.С.Захаров, Т.Л. Михайлова // Международный студенческий научный вестник, 2016. № 3. Часть 4. – С. 577-581.

8. Сидоренко, О.О. Технологическая сингулярность как неминуемое событие: позитивная и негативная стороны вопроса // О.О. Сидоренко, Т.Л. Михайлова // Международный студенческий научный вестник, 2015. № 4. Часть 4. – С. 622-628.

9. Чернышев, Р.С. Искусственный интеллект как явление культуры, или будущее наступает сегодня / Р.С. Чернышев, Т.Л. Михайлова // Будущее технической науки: сборник материалов XV международной молодежной научно-технической конференции. 2016. – С. 613-614.

Код для цитирования: Скопировать