В течение последних лет широко обсуждается проблема этики в контексте развития цифровых технологий, в том числе, основанных на искусственном интеллекте (ИИ). Прорыва в именно этом направлении пока не произошло, однако дискуссия ведется в широком масштабе, что обусловлено необходимостью определить возможные угрозы и найти адекватные инструменты контроля рисков, которые могут возникнуть в результате трансформации общественных систем из-за внедрения технологий ИИ [16]. Также задачей не только теоретического, но и практического значения, является рефлексия по поводу этической составляющей интеграции систем ИИ в политическую, экономическую и социальную сферы¹.

Проблематика, связанная с этическими аспектами инновационных технологий, стала предметом философского осмысления много раньше, чем появился термин «искусственный интеллект», который, полагаем, имеет революционное значение для культуры, поскольку объединил искусственное и естественное в одной из самых спорных и таинственных категориях - мышлении. Термин «искусственный интеллект» впервые предложил Д. Маккарти в 1955 году [15], а М. Минский в 1956 г. определил его как науку, целью которой является осуществление с помощью машины задач, которые человек выполняет, используя свой интеллект [14]. Именно поэтому на технологиях, связанных с ИИ, столь интенсивно отрабатываются и апробируются жизнеспособность и пригодность различных форм взаимодействия между человеческим и нечеловеческим, естественным и искусственным, биологическим и техническим.

Однако вспомним, что история этого дискурса началась раньше и насчитывает многие десятилетия. Возможно, М. Хайдеггер был наиболее ярким философом из тех, кто отметил завораживающую опасность мира, в котором определяющую роль играют технологии [3]. Мыслитель отмечал, что техника отнюдь не нейтральна по отношению к человеку в таком мироустройстве, что именно она несет ответственность за трансформацию привычного природного мира, и понимание техники как что-то «обыкновенное» - это фатальная ошибка, заплатить за которую человеку придется порабощением. А Н.А. Бердяев еще в начале прошлого века утверждал, что техника является последней любовью человека, который готов изменить даже свою природу под влиянием предмета своей любви [2].

С учетом стремительного развития технологий, их совершенствования и распространения, разработка и применение этического кодекса в отношении субъектов и объектов технологий, основанных на ИИ, со временем приобретает не только новое звучание, но и все большие значение и актуальность. Новые условия существования, обусловленные проникновением технологий во все сферы жизни, оказывают влияние на образ жизни, правила и нормы коммуникации, трансформируют само мироощущение человека. Из истории мы знаем, что не можем позволить себе откладывать решение этих проблем на более позднее время: о неприемлемости использования оружия массового поражения стали говорить только после трагедии Хиросимы и Нагасаки, а проблема пластикового загрязнения вошла в мировую повестку лишь после того, как экологическая катастрофа приобрела мировой масштаб. Цена отсрочки слишком высока, а проблема сама собой не разрешится. Новые технологии бросают вызов и демонстрируют непригодность культурных норм и концептов для новой реальности, и мы не должны ждать, пока риски выйдут из-под контроля или ущерб достигнет критического предела, чтобы начать серьезно относиться к возникшим проблемам. Поэтому необходимо проанализировать процессы, происходящие в общественной жизни, и на основе проведенного анализа заблаговременно внести релевантные изменения в законодательство и общественные нормы. Для этого требуется интеграция различных сфер знания, методологии и практики для осмысления этих процессов в целях формирования человекоразмерного будущего [9]. Интеграция необходима как в рамках научной и исследовательской, так и законотворческой и практической деятельности между государством, академическим сообществом и всем социумом, поскольку данная проблематика охватывает гораздо более широкую область по сравнению с теми, которые в состоянии отработать отдельные институты, организации, сообщества и исследователи.

Отметим работу В.А. Кутырова «Естественное и искусственное: борьба миров», в которой исследователь доказывает, что еще к концу прошлого века «образовались две реальности, «два мира» - мир естественного и мир искусственного… Искусственное стало самостоятельным и его соотношение с естественным определяет нынче содержание любой сколько-нибудь серьезной проблемы» [5]. А.Ю. Алексеев пишет об актуальности исследований искусственной жизни в качестве важной составляющей развития нано- и биотехнологий с целью создания феномена биологической жизни с помощью цифровых технологий. Кроме этого, искусственная жизнь является ключевым компонентом искусственных обществ, которые в свою очередь служат основой информационных и социокультурных технологий, направленных на исследование всей широты общественной жизни. Это поле открыло путь искусственной личности, которой исследователи приписывают не только сознание и самосознание, но и, в частности, свободу выбора и способность к нравственному вменению – оправданию или осуждению собственных мыслей и поступков [1].

Это доказывает, что исследование принципов этичного поведения интеллектуальных систем имеет сегодня многостороннее значение, как с теоретической, так и с практической позиции. Чтобы дать понимание, что мы имеем в виду под интеллектуальной системой, предлагаем рассмотреть достаточно смелый термин «искусственная интеллектуальная система» через ее основные принципы: такая система осуществляет активное взаимодействие с окружающим миром, воспринимая и демонстрируя (в соответствии с имеющимися свойствами и ресурсами) реакцию на направленное воздействие. Степень ее автономности является тем выше, чем более независима система от источников информации и управляющих команд. «Чем меньше система зависит от информационных источников и управляющих команд, тем выше степень ее автономности. Искусственные интеллектуальные системы – это в определенном смысле самодостаточные системы, на которые может возлагаться решение определенного комплекса прикладных задач» [7]³. С учетом стремительных темпов развития технологий далее мы будем рассматривать интеллектуальные системы именно в таком значении.

Уже сегодня мы можем определить некоторые последствия деятельности интеллектуальных систем, которые обладают как положительными, так и отрицательными характеристиками. С одной стороны, эти системы обеспечивают безопасность и повышают уровень удобства и комфорта в повседневной жизни, с другой же – под вопросом находятся такие неотъемлемые ценности, как свобода, частная жизнь и персональная информация. Становится сложным определить, кто в новых условиях играет доминирующую роль: государство, корпорации или кто-то еще. Идет настоящая борьба даже в сфере цифрового суверенитета, причем это касается не только нашей страны, но и других государств, в том числе, европейских. В июле 2020 года Европейский совет по международным отношениям выступил с заявлением, в котором отмечено, что ЕС больше не может полагаться на урегулирование существующих проблем регуляторными инструментами, и должен войти в число мировых технологических сверхдержав. Не попав в число технологических лидеров во время первой волны развития цифровых технологий, Европа должна в самый ближайший период выработать общую стратегию развития технологий ИИ, которая, в частности, будет обеспечивать защиту конфиденциальности и других цифровых прав на всем пространстве ЕС [4]. На этом примере мы видим, насколько важная проблематика для самоопределения человека в настоящем и будущем находится сейчас на повестке дня. Наряду с теми возможностями, которые дают интеллектуальные системы, необходимо учитывать и исходящие от них угрозы, несущие социальные последствия. Именно поэтому далее мы будем говорить об этических аспектах функционирования таких систем, о том, насколько их поведение может быть обусловлено этическими парадигмами, нормами, представлениями.

Необходимо найти четкие и общепринятые всеми заинтересованными участниками ответы на вопросы, для чего мы должны и можем использовать интеллектуальные системы, какие полномочия следует передать этим системам, какие риски это несет, и как их возможно контролировать. При этом мы должны понимать, что интеллектуальные системы уже сегодня способны оказывать влияние на социум, и, отмечая необходимость разработки этического кодекса, мы говорим о системе, которая обеспечивает «процессы планирования, целеполагания, выбора и осуществления того или иного поведения» [4]. В ближайшем будущем интеллектуальные системы будут оказывать еще большее влияние на человека и общество. Далее мы постараемся обозначить и сгруппировать основные этические проблемы, возникающие при взаимодействии между человеком и интеллектуальными системами, которые требуют особого внимания, анализа и оперативного урегулирования.

• Кто должен обладать правом организации и осуществления надзора за обществом, его отдельными сегментами или индивидами с помощью интеллектуальных систем. Определение возможных границ надзора и безусловной приватности.
• Возможность и условия передачи и/или купли-продажи данных, генерируемых и/или обработанных интеллектуальными системами, в том числе, в пользу или между третьими агентами.
• Оценка этичности бизнес-моделей ведущих мировых корпораций на технологическом рынке (таких как Google, Facebook, Apple и пр.), использующих человеческие слабости для манипуляций и стимулирования зависимостей [17].
• Этичность самой модели «надзорного капитализма», основанного на монетизации данных [18].
• Риск манипуляций реакциями и/или поведением человека, отдельных сегментов общества или всего общества в цифровом пространстве или в физическом мире путем использования инструментов сбора и анализа данных с помощью интеллектуальных систем.
• Проблема прозрачности в принятии решений интеллектуальными системами и обеспечение непредвзятости на всех этапах их создания и функционирования.

Последняя, а также некоторые другие проблемы, отмеченные выше, входят в сферу «этики больших данных». В ее рамках осуществляется поиск инструментов, которые должны обеспечить принятие адекватной правовой базы, процедур и аудита в отношении всех этапов создания и использования интеллектуальных систем. В этом процессе критически важным представляется обеспечение широкого общественного участия, чтобы гарантировать прозрачность и не допустить ошибок из-за предвзятости и предубеждений, возможно, ненамеренных [12].

Второй пул этических проблем, связанных с развитием интеллектуальных систем, обусловлен необходимостью оценки понятия эффективности. Вне всяких сомнений, технологии ИИ в существенной мере позволяют повысить производительность, и, на первый взгляд, способствовать росту благосостояния. Однако следствием внедрения цифровых технологий является то, что человеческие ресурсы становятся менее востребованными. По меньшей мере, от работников начинает требоваться набор качественно новых компетенций, обрести которые не так просто. При этом система цифровых работников может быть достаточно просто и экономично развернута в различных сферах деятельности, что приводит к существенной трансформации рынка труда уже сегодня[6]. В этой связи возникают следующие вопросы, ответы на которые должны быть сформулированы с учетом этических позиций:

• Необходимость внесения корректив в систему социальной политики, которые будут направлены на честное распределение расходов и полученных выгод в результате цифровой трансформации государственного управления, бизнеса и других сфер общественной жизни.
• Обеспечение справедливой системы взаимодействия между работниками с разной квалификацией и работодателями в условиях расширенного применения интеллектуальных систем, оказывающих влияние на спрос на рабочую силу. Организация переобучения, переподготовки работников для соответствия требований рынка.

Третья группа этических проблем связана с балансом автономии и ответственности. Каковы пределы «свободы» интеллектуальных систем, кто или что несет ответственность за последствия их деятельности? Если «быть автономным значит самому устанавливать собственные законы или, другими словами, быть самоуправляемым», то разрыв с тем, чтобы нести ответственность, не наблюдается: «быть автономным значит нести ответственность за собственную жизнь: как за успехи, так и за неудачи. Можно сказать также, что быть автономным значит составлять единое целое с самим собой в том смысле, что быть автономным значит действовать исходя из оснований, которые решающим – но трудно объяснимым – образом являются нашими собственными» [8]. Однако это относится к человеку, к его месту и отношениям в обществе, а что мы можем сказать про интеллектуальные системы и про их взаимодействие с человеком?

Этот вопрос заставляет задуматься о том, достаточно ли адаптировать существующую методологию, или следует пересмотреть само понимание концептов автономии и ответственности через призму того, что интеллектуальные системы в состоянии действовать самостоятельно в той или иной мере уже сегодня. Например, в отношении автономных транспортных средств сейчас ведется дискуссия не только по поводу того, как должна распределяться ответственность в условиях их функционирования, но и вообще насколько этично и целесообразно развивать полностью автономный транспорт [16].

В более широком смысле данные вопросы входят в сферу машинной этики, изучающей, как возможно обеспечить принятие этических решений роботами, компьютерами с ИИ и, собственно, интеллектуальными системами с учетом таких сложных и многогранных факторов, как, социальные ценности, их приоритеты в отдельных ситуациях, например, с учетом различных мультикультурных контекстов [10].

Для достижения данной цели необходимо не просто создать базу знаний или обеспечить работу платформы для обмена мнениями, но важно сформировать условия для устойчивого и конструктивного взаимодействия между экспертами. Фактором успеха такого проекта станет достижение общего понимания и принятие глубоко осознанных решений, отвечающих интересам развития общества и индивида. Результатом должно явиться формирование новой онтологии, которая позволит взаимно увязать и согласовать этические и технические понятийные системы [4].