Как можно доверять системам искусственного интеллекта? Объективные, субъективные и интерсубъективные параметры доверия.

Алексеев Андрей Ю.; Гарбук Сергей В.

doi:10.18254/S207751800020550-4

1

Введение

Проблему доверия к системам и технологиям «искусственного интеллекта» поставил президент РАН А.С. Сергеев на заседании президиума РАН 23 ноября 2021 г. [1]. Во многом она инспирирована проблемой информационной безопасности. Технологии искусственного интеллекта (ИИ) нашли широкое применение при решении самых разных прикладных задач обработки данных, в том числе – особо ответственных задач, то есть таких, некорректное решение которых может привести к рискам для здоровья и жизни людей, серьёзному экономическому или экологическому ущербу. К подобным задачам относятся медицинская диагностика и поддержка принятия врачебных решений, управление беспилотными транспортными средствами, управление строительной техникой и опасным промышленным оборудованием, задачи в области обороны и безопасности, другие задачи. Для таких задач на первый план выходит проблема обеспечения доверия к системам ИИ со стороны пользователей этих систем, государственных регуляторов и общества в целом.

<h3 id="text_content_item_1" class="docx-publication-h3">Введение </h3> Проблему доверия к системам и технологиям «искусственного интеллекта» поставил президент РАН А.С. Сергеев на заседании президиума РАН 23 ноября 2021 г. [1]. Во многом она инспирирована проблемой информационной безопасности. Технологии искусственного интеллекта (ИИ) нашли широкое применение при решении самых разных прикладных задач обработки данных, в том числе – особо ответственных задач, то есть таких, некорректное решение которых может привести к рискам для здоровья и жизни людей, серьёзному экономическому или экологическому ущербу. К подобным задачам относятся медицинская диагностика и поддержка принятия врачебных решений, управление беспилотными транспортными средствами, управление строительной техникой и опасным промышленным оборудованием, задачи в области обороны и безопасности, другие задачи. Для таких задач на первый план выходит проблема обеспечения доверия к системам ИИ со стороны пользователей этих систем, государственных регуляторов и общества в целом.

2

В работе [17] показано, что термин «доверие» (субъекта к объекту) имеет социогуманитарное происхождение и определяет совокупность представлений и настроений субъекта:

3

отражающих его ожидания того, что объект будет реализовывать некоторые функции, способствующие увеличению или сохранению ресурсов субъекта;
проявляющихся в готовности субъекта делегировать объекту реализацию этих функций.

4

При использовании понятия «доверие» для характеристики технических систем ИИ важно учитывать определённые особенности и ограничения, накладываемые сложившимся в гуманитарных науках смыслом этого термина. В частности, в соответствии с [17]:

5

понятие «доверие» не определено для изолированной системы ИИ. Доверие к системе ИИ фактически означает доверие к сообществу, обеспечивающему разработку, создание и поддержание системы ИИ в процессе эксплуатации, включая компании – разработчики и поставщики систем, государственные регуляторы и иные организации (так называемая «экосистема ИИ»);
доверие к системе ИИ всегда включает некоторую долю безосновательной веры в то, что цели, ценности и мотивы участников экосистемы ИИ в основном совпадают с соответствующими установками пользователя системы. Величина этой иррациональной составляющей определяет, насколько уровень доверия к системе ИИ оказывается ниже, чем уровень уверенности в системе, который может быть обеспечен, благодаря объективному измерению функциональных и иных характеристик, внутренне присущих системе ИИ как таковой и не зависящих от намерений участников экосистемы ИИ;
отношение доверия может быть установлено преимущественно для систем ИИ, предназначенных для решения «антропоморфных» интеллектуальных задач, что существенно сокращает область применения механизмов подтверждения доверия к системам ИИ.

<ul class="docx-publication-list"> <li> понятие «доверие» не определено для изолированной системы ИИ. Доверие к системе ИИ фактически означает доверие к сообществу, обеспечивающему разработку, создание и поддержание системы ИИ в процессе эксплуатации, включая компании – разработчики и поставщики систем, государственные регуляторы и иные организации (так называемая «экосистема ИИ»);</li> <li> доверие к системе ИИ всегда включает некоторую долю безосновательной веры в то, что цели, ценности и мотивы участников экосистемы ИИ в основном совпадают с соответствующими установками пользователя системы. Величина этой иррациональной составляющей определяет, насколько уровень доверия к системе ИИ оказывается ниже, чем уровень уверенности в системе, который может быть обеспечен, благодаря объективному измерению функциональных и иных характеристик, внутренне присущих системе ИИ как таковой и не зависящих от намерений участников экосистемы ИИ;</li> <li> отношение доверия может быть установлено преимущественно для систем ИИ, предназначенных для решения «антропоморфных» интеллектуальных задач, что существенно сокращает область применения механизмов подтверждения доверия к системам ИИ.</li></ul>

6

В общем случае уровень доверия между субъектом и объектом неизбежно определяется не только свойствами собственно объекта, но и так или иначе – свойствами субъекта (например, пользователь автомобиля с беспилотной системой управления движением может быть в той или иной мере доверчивым), что в целом ряде случаев является мешающим, искажающим объективно присущие системе ИИ свойства. Таким образом, весьма актуальным является вопрос разработки подходов к оценке доверия к технологиям (системам, алгоритмам) ИИ, имеющих объективный характер, позволяющих получать характеристики технологий ИИ, в минимальной степени зависящие от свойств, намерений и предпочтений субъекта оценки и пригодные для принятия объективных решений о делегировании системе ИИ ответственных задач в области обработки данных.

7

Объективные параметры доверия к системам искусственного интеллекта

Одним из перспективных подходов к объективному определению уровня доверия к ИИ является квалиметрический подход, основанный на оценке характеристик качества систем ИИ [37]. При этом предполагается, что доверие к системе ИИ обеспечивается в том случае, если качество системы, определённое согласно [20] как степень соответствия функциональных характеристик системы установленным требованиям, достигает заданного значения (бинарная модель доверия), либо уровень доверия соответствует уровню качества системы ИИ (количественная модель доверия). В рамках реализации данного «интеллометрического» подхода целесообразно выделить две ключевые задачи:

8

формирование исчерпывающих перечней функциональных характеристик, измерение которых необходимо при определении качества системы ИИ, рассчитанной на решение конкретной прикладной интеллектуальной задачи;
разработка способов измерения функциональных характеристик, позволяющих получать статистические оценки этих характеристик, являющиеся несмещёнными, состоятельными и эффективными.

9

Решение первой задачи осуществляется на этапе внешнего проектирования, когда функциональные характеристики системы ИИ могут быть выявлены, исходя из особенностей применения системы для решения той или иной прикладной задачи, а также, исходя из необходимости обеспечения безопасности системы ИИ для окружающих. Опционально решение этой задачи характерно для «киберфизических» систем, в которых происходит активное взаимодействие информационной системы ИИ с физической средой.

10

Что касается второй задачи, то здесь ключевым моментом является подготовка репрезентативной выборки тестовых данных, на которой могут быть получены необходимые оценки функциональных характеристик систем ИИ. Ключевой особенностью алгоритмов ИИ, в особенности – алгоритмов машинного обучения, является их принципиально плохая интерпретируемость (interpretability), объяснимость (explainability) и понятность (transparency) для человека. Это требует особых подходов к обеспечению статистической представительности проводимых испытаний алгоритмов, основанных на детальной формализации планируемых условий их применения (context, domain). Исходя из этого обоснование репрезентативности тестовых наборов данных предполагает выполнение следующих процедур:

11

выявление исчерпывающего перечня внешних по отношению к системе ИИ факторов, существенно влияющих на качество работы алгоритмов ИИ для заданной прикладной задачи (существенных факторов эксплуатации системы ИИ). При этом каждый фактор может быть определён на своей специфической шкале (номинальной, отношений и др.);
обоснование предположений о законах распределения существенных факторов в реальных (предусмотренных) условиях эксплуатации на соответствующей шкале;
обеспечение необходимого соответствия статистических характеристик существенных факторов для тестового набора данных со статистическими характеристиками этих факторов в предусмотренных условиях эксплуатации.

12

Учитывая многообразие прикладных задач ИИ, важной задачей является унификация как функциональных характеристик систем ИИ, так и способов их оценки, то есть, прежде всего – существенных факторов эксплуатации прикладных систем ИИ. Это позволяет упростить процедуру оценки качества и подтверждения доверия к различным прикладным интеллектуальным системам, сохраняя при этом требуемую достоверность получаемых оценок.

13

Необходимая унификация может быть достигнута за счёт применения специальной классификации алгоритмов ИИ, основанной на аналогии искусственного и естественного интеллектов [18]. В классификаторе выделены следующие шесть основных групп интеллектуальных задач и соответствующих им алгоритмов ИИ: 1) распознавание образов; 2) категорирование, построение моделей окружающих объектов и процессов; 3) поиск решений; 4) реализация физических воздействий на окружающую среду; 5) автономное движение и позиционирование в пространстве; 6) социальные коммуникации.

14

Антропоморфный подход к формированию классификатора обеспечивает группирование как функциональных характеристик, так и существенных факторов эксплуатации в пределах каждого класса. Так, например, существенными факторами в задачах распознавания образов являются:

15

информационные возможности сенсоров (чувствительность, пространственное, временное и радиометрическое разрешение, полоса захвата и др.);
количество и вариативность классов распознавания;
уровень полиморфизма объектов одного класса, в том числе, связанного с изменением ракурса, реконфигурацией и т. п.;
продолжительность характерного поведенческого цикла объекта распознавания;
характеристики фона и/или среды распространения электромагнитных волн (ЭМВ), в том числе, уровень пространственно-временной изменчивости фона и среды распространения ЭМВ;
уровень возможных преднамеренных искажений характеристик распознавания объектов (маскировка и др.), в том числе, с использованием состязательных атак.

16

Среди факторов, определяющих сложность интеллектуальных задач по определению местоположения и управлению движением мобильных средств, следует выделить:

17

наличие и уровень актуальности цифрового описания операционной среды (ландшафта, городской среды, интерьера помещения);
характеристики информативности операционной среды (наличие характерных объектов и др.);
характеристики и уровень изменчивости операционной среды (характеристики подстилающей поверхности, гидрометеорологические условия);
потенциальные возможности злоумышленников по активному противодействию целевому перемещению (возможности по обнаружению и поражению объектов, возможности по воздействию на операционную среду с целью затруднения перемещений);
особенности движителя и динамические возможности мобильного средства (образца вооружения и военной техники, промышленного робота).

18

Совокупность факторов, определяющих существенные условия эксплуатации системы ИИ, должна учитываться при обосновании соответствующих требований к объекту автоматизации в целом: соответствие установленным требованиям должно выполняться в заданных условиях эксплуатации. При этом целесообразно разделять следующие виды существенных факторов [19]:

19

контролируемые управляемые факторы, включённые в методику испытания (как независимые переменные);
контролируемые неуправляемые факторы (постоянные в течение испытаний), являющиеся частью условий испытания;
неконтролируемые факторы – случайные и независимые от испытания факторы;
незначительные факторы, эффект от которых не будет учитываться.

20

Таким образом, показано, что применение методов оценки качества систем искусственного интеллекта позволяет избежать субъективности при определении уровня доверия. Удобно обозначить эти методы термином «интеллометрия», по аналогии с широко известной квалиметрией. Интеллометрия особенно важна при принятии решений о возможности использования интеллектуальных систем для решения особо ответственных прикладных задач ИИ в различных отраслях экономики и социальной сферы. Однако возможна ли чисто объективная «интеллометрия»? Ведь мы моделируем интеллект, разум, мышление, сознание, психику – всё то, что называется «субъективной реальностью» и прямо противополагается «объективной реальности»? Может ли дефиниция схватить самое надежное, самое объективное основание доверия к этим слабо объективируемым понятиям?

21

Для повышения доверия к интеллометрическим показателям вначале попробуем повысить степень их объективного понимания. Для этого разделим интуитивное и формальное определения ИИ и, в последующем, интеллометрические параметры будем изучать в контексте более четких, формальных дефиниций ИИ.

22

Интуитивное и формальное определения искусственного интеллекта

Разделение на интуитивное и формальное определения искусственного интеллекта чрезвычайно важно для оценки доверия к системе ИИ: изучаем ли мы расхожие представления об ИИ либо преследуем научные задачи. Различия этих дефиниций настолько же важны, насколько важны дистинкции между интуитивной и формальной трактовкой алгоритма для понимания сути последнего. Напомним, что интуитивное определение алгоритма предложено в ряде классических работ. Например, по А.А. Маркову под алгоритмом понимается точное предписание, определяющее вычислительный процесс, идущий от варьируемых исходных данных к искомому результату [23, с.3]. Имеются уточнения в определениях: «алгоритмом принято называть систему вычислений, которая для некоторого класса математических задач из записи А «условий» задачи позволяет при помощи однозначно определенной последовательности операций, совершаемых «механически», без вмешательства творческих способностей человека, получить запись В «решения» задачи» [22, с.3]. Вряд ли апелляция к математической строгости позволила уточнить понятие алгоритма, тем не менее, подобные определения фиксируют его общезначимые свойства: детерминированность, конечность, результативность, массовость. Это понятные, но чрезвычайно общие и нечеткие понятия. Они граничат с метафорами и потому их эпистемологическое содержание может быть и пустым. Формально эти дефиниции закрепляются в идеях частично-рекурсивных функций А. Чёрча, нормального алгорифма А.А. Маркова, машины А. Тьюринга и Э. Поста. После этих четких приемов размытые определения алгоритма начинают выполнять конструктивную роль научных терминов.

<h3 id="text_content_item_22" class="docx-publication-h3">Интуитивное и формальное определения искусственного интеллекта</h3> Разделение на интуитивное и формальное определения искусственного интеллекта чрезвычайно важно для оценки доверия к системе ИИ: изучаем ли мы расхожие представления об ИИ либо преследуем научные задачи. Различия этих дефиниций настолько же важны, насколько важны дистинкции между интуитивной и формальной трактовкой алгоритма для понимания сути последнего. Напомним, что интуитивное определение алгоритма предложено в ряде классических работ. Например, по А.А. Маркову под алгоритмом понимается точное предписание, определяющее вычислительный процесс, идущий от варьируемых исходных данных к искомому результату [23, с.3]. Имеются уточнения в определениях: «алгоритмом принято называть систему вычислений, которая для некоторого класса математических задач из записи А «условий» задачи позволяет при помощи однозначно определенной последовательности операций, совершаемых «механически», без вмешательства творческих способностей человека, получить запись В «решения» задачи» [22, с.3]. Вряд ли апелляция к математической строгости позволила уточнить понятие алгоритма, тем не менее, подобные определения фиксируют его общезначимые свойства: детерминированность, конечность, результативность, массовость. Это понятные, но чрезвычайно общие и нечеткие понятия. Они граничат с метафорами и потому их эпистемологическое содержание может быть и пустым. Формально эти дефиниции закрепляются в идеях частично-рекурсивных функций А. Чёрча, нормального алгорифма А.А. Маркова, машины А. Тьюринга и Э. Поста. После этих четких приемов размытые определения алгоритма начинают выполнять конструктивную роль научных терминов.

23

Сходным образом возможны интуитивное и формальное определения «искусственного интеллекта». Несомненно, важное интуитивное определение ИИ представлено в Указе Президента РФ от 10.10.2019 г. № 490 «О развитии искусственного интеллекта в Российской Федерации» [32]. Под ИИ понимается «комплекс технологических решений, позволяющий имитировать когнитивные функции человека (включая самообучение и поиск решений без заранее заданного алгоритма) и получать при выполнении конкретных задач результаты, сопоставимые, как минимум, с результатами интеллектуальной деятельности человека» [32, пп.5].

24

Это весьма верное определение ИИ. Однако неоднозначное толкование входящих в него составляющих служит поводом отказа в доверии к системам ИИ. Причем это концептуальное неприятие происходит с первых слов Указа, а именно, с трактовки словосочетания «когнитивная функция человека». Проведем небольшой лингвистический анализ.

25

Что такое «когнитивная»? Под словом «когнитивная» [функция] в самом общем смысле принято понимать то, что относится к познанию. Применительно к ИИ выделяется несколько способов познания. Гносеология как сугубо философская дисциплина изучает познаваемость мира вообще, пытаясь определить и то, что такое «познаваемость», «мир», «вообще». Эпистемология изучает методы, операции, нормы, ценности познания с позиции научной рациональности [29]. Когнитивистика вносит инженерный, технический аспект в познание: какими машинами и механизмами реализуется познание. И, наконец, искусственный интеллект эти машины познания рассматривает как программно-информационные системы.

26

В ИИ, казалось бы, философский подход должен быть напрочь элиминирован, ведь ранее он был почти устранён: в эпистемологии философов вытеснили ученые, в когнитивистике – инженеры, а в ИИ – программисты. Однако во многом в связи с проблемой доверия к ИИ философия реабилитируется. Актуальными становятся гносеологические задачи не только методологического, но и метафизического характера. Например, важно понять, «каково доверять технике»? Однако, позвольте, что значит «доверие»? И что такое «техника»? Это, если угодно, метафизические компоненты методологических задач познания: идентификации, формализации, систематизации, координации, унификации, интеграции и дифференциации когнитивных функций, их внутренних составляющих и внешних контекстов реализации. В силу неизбежного философского содержания семантика первого слова из словосочетания «когнитивная функция человека» представляется весьма расплывчатой для руководства к действию.

27

Что такое «функция»? В современной когнитивистике функция понимается трояко. Во-первых, это роль, которая выполняется при принятии допущения о субстратной инвариантности подсистем. Например, может быть много «сердец», помимо естественного, которые выполняют роль перекачивания крови в организме. Немаловажным для ИИ представляется то, что заменять сердце можно не только недавно умершим донором, но и искусственной нано-ЭВМ. Во-вторых, функция – это отображение, аргументом которого является мозговая активность, а областью значений – когнитивные феномены сознания: боль, понимание, мышление и многие другие. Например, «когнитом» [14] функционально задается коннектомом [31]. Это дуалистическая конструкция и она прекрасно представима функцией-отображением. В ней четко выделяется область отправления и область значения: идея/материя, дух/тело, сознание/мозг, когнитом/коннектом, когниция/реализация. В-третьих, функция – это рекурсия как конструктивное конструирование конструкции, в мельчайших деталях воспроизводящее оригинал в копии (в суррогате, дубликате, двойнике). Пример: рекурсивное определение аутопоэзиса [41].

Что такое «функция»? В современной когнитивистике функция понимается трояко. Во-первых, это роль, которая выполняется при принятии допущения о субстратной инвариантности подсистем. Например, может быть много «сердец», помимо естественного, которые выполняют роль перекачивания крови в организме. Немаловажным для ИИ представляется то, что заменять сердце можно не только недавно умершим донором, но и искусственной нано-ЭВМ. Во-вторых, функция – это отображение, аргументом которого является мозговая активность, а областью значений – когнитивные феномены сознания: боль, понимание, мышление и многие другие. Например, «когнитом» [14] функционально задается коннектомом [31]. Это дуалистическая конструкция и она прекрасно представима функцией-отображением. В ней четко выделяется область отправления и область значения: идея/материя, дух/тело, сознание/мозг, когнитом/коннектом, когниция/реализация. В-третьих, функция – это рекурсия как конструктивное конструирование конструкции, в мельчайших деталях воспроизводящее оригинал в копии (в суррогате, дубликате, двойнике). Пример: рекурсивное определение аутопоэзиса [41].

28

Наконец, к какому такому человеку относится третий член определения «когнитивной функции человека»? Это человек, которого определял Платон, как общипанного петуха с плоскими ногтями, либо это гордо звучащий человек эпохи Просвещения, либо это киборгизированный eHomo? Возможно ли указание четких антропологических параметров человека? Тысячелетиями люди не смогли этого сделать. Вспомним то, что для И. Канта решение вопроса «Что такое человек»? представлялось итогом его философии, включавшей следующее: Что я могу знать? Что я должен делать? На что я могу надеяться? [21]. Потому не понятно, зачем в определении ИИ приведено понятие «человек». Это логически некорректно, так как непомерно расширяет содержание.

29

Заключительная часть выделенного определения ИИ [32] еще хуже для целей понимания того, что же надо выполнять в Указе. Каков тот «минимум» сопоставления с результатами интеллектуальной деятельности человека, что такое «деятельность» вообще, а что такое «интеллектуальная» деятельность. Непонятно, почему учитываются только «конкретные интеллектуальные задачи». Почему не учитываются «абстрактные задачи», ведь абстрагирование имманентно интеллекту, то есть из определения интеллекта удалена неотъемлемая его составляющая? Может быть, в Указе применяется определение не по поводу ИИ, а имеется в виду нечто иное? Попытка ответить на эти вопросы вызывает недоверие к самому «Указу». Какие такие ИИ мы будем создавать в национальном масштабе, если ничего не понятно?

30

Отметим то, что формулирование Указа № 490 проходило спешно, без участия фундаментальной науки, Российской Академии наук, Научного совета РАН по методологии искусственного интеллекта и когнитивных исследований (НСМИИ РАН). Об игнорировании роли НСМИИ РАН в деле разработки Указа был специальный доклад Д.В. Винника на заседании НСМИИ РАН 20 июня 2019 г. [24]. Этот Совет задолго, за пятнадцать лет до Указа занимался проблемами разработки методологии ИИ, популяризацией ИИ, развитием передовых методов ИИ. Первый председатель НСМИИ РАН академик В.Л. Макаров основную задачу Совета связал именно с определением искусственного интеллекта. На симпозиуме, посвященном 10-летию НСМИИ РАН, он высказал следующее: «Наименование нашего Совета не зря включает слово «методология». Методология – это самое важное, с чего начинается проблематика искусственного интеллекта. Слово «искусственный интеллект» привлекает многих людей… Надо понять, что это такое, определить главные понятия и методы. Собственно, к этому и стремились мы, когда создавали наш Совет. Именно это и было источником нашего исходного энтузиазма. Далее наш Совет распространился на всю Россию. Появились региональные отделения. Таким образом, стремление разобраться с исходными основаниями искусственного интеллекта стало массовым общественным явлением» [1, с. 39 – 40].

31

Отметив обозначенные проблемы, тем не менее, мы видим выход из тупиковой ситуации недоверия к существующим дефинициям ИИ. Для этого следует перейти к формальному определению понятия ИИ. Предполагается, что оно уменьшит неоднозначность трактовки терминов Указа.

32

Формальное определение искусственного интеллекта представляется кратким и точным: Искусственный интеллект – это компьютерная реализация комплексного теста Тьюринга (предложено в [4]).

33

Комплексный тест Тьюринга – это собирательное понятие из сотен тестов, инспирированных идеей игры в имитацию А. Тьюринга [46], изучающих возможности компьютерной имитации, моделирования, репродуцирования мышления, внимания, понимания, осознания, самосознания, творчества и многих других когнитивных функций интеллектуальной деятельности [2, 5].

34

Как ни странно, здесь мы переходим из области поиска параметров объективности интеллектуальных систем, которым мы доверяем, к логически противоположной сфере, к поиску субъективных параметров. Этим параметрам мы тоже доверяем, но не по причине рациональной обоснованности, а в силу интуитивной очевидности и здравосмысловой убежденности для большинства людей возможностей имитации тех когнитивных функций, которые изучаются в предлагаемом тесте. Автор каждый частного тьюринового теста, включая А.Тьюринга, предлагал уникальную частную дефиницию искусственного интеллекта. Взятые в комплексном формате эти частные дефиниции, проверенные, доказанные и убедительные с позиции здравого смысла, получают универсальное значение и приемлемый статус доверительности к системе ИИ.

35

Субъективные параметры доверия к системам искусственного интеллекта

Субъективный статус игры в имитацию А. Тьюринга [46], предопределен антиэссенциалистским подходом к дефинициям «интеллекта» и «машины». Этот подход отрицает необходимость определения понятия для целей последующего руководства. Понятия «интеллект» и «машина» не определяются достоверно, они «статистические», утверждает Тьюринг в самом начале своей работы [46]. Эти понятия, – добавим мы, – релятивные, то есть обусловлены знаниями, опытом, образованием и воспитанием, которые относительны от человека к человеку. Такие понятия можно использовать, но в не логическом значении, а в риторическом контексте, в частности, путем поведенческой демонстрации понятий, не подводимых под дефиниции. Это возникает отнюдь не по причине принципиальной неопределяемости понятий, как раз, наоборот, их слишком много, разных определений. Просто бессмысленно предлагать дефиницию понятия, в любом случае она будет неточной, неполной и неадекватной. В конечном счете, принципы такого субъективистского подхода противополагаются принципам стандартизации понятий, которую осуществляет, например, технический комитет ТК 164 «Искусственный интеллект».

<h3 id="text_content_item_35" class="docx-publication-h3">Субъективные параметры доверия к системам искусственного интеллекта</h3> Субъективный статус игры в имитацию А. Тьюринга [46], предопределен антиэссенциалистским подходом к дефинициям «интеллекта» и «машины». Этот подход отрицает необходимость определения понятия для целей последующего руководства. Понятия «интеллект» и «машина» не определяются достоверно, они «статистические», утверждает Тьюринг в самом начале своей работы [46]. Эти понятия, – добавим мы, – релятивные, то есть обусловлены знаниями, опытом, образованием и воспитанием, которые относительны от человека к человеку. Такие понятия можно использовать, но в не логическом значении, а в риторическом контексте, в частности, путем поведенческой демонстрации понятий, не подводимых под дефиниции. Это возникает отнюдь не по причине принципиальной неопределяемости понятий, как раз, наоборот, их слишком много, разных определений. Просто бессмысленно предлагать дефиницию понятия, в любом случае она будет неточной, неполной и неадекватной. В конечном счете, принципы такого субъективистского подхода противополагаются принципам стандартизации понятий, которую осуществляет, например, технический комитет ТК 164 «Искусственный интеллект».

36

Несмотря на отсутствие универсальной дефиниции, принимаемой всеми членами сообщества, общезначимый статус этого принципиально не унифицируемого понятия, тем не менее, возможен. Надо обратиться к феноменологии собственного сознания, личному опыту и выделить антропологические типы собственной приватной социокультурной и психофизической жизни. Каждому человеку очевидно внутреннее понимание того, что обозначается словом «интеллект». Это понятие может проявляться в функциях интеллектуальной деятельности, которая, по мнению А. Тьюринга, обнаруживается в коммуникации людей. Если компьютер (универсальная цифровая вычислительная машина и нейронная сеть, по Тьюрингу) имитирует функции так же успешно, как это делает человек, когда общается с другими людьми, то машина может мыслить. Природа мышления не понятна и по ее поводу не надо увлекаться теоретизированием. Это ни к чему. Главное действовать в соответствии с принципом «делай как я, когда я мыслю». В итоге наблюдатель присуждает мышление машине, если… присуждает мышление машине. От его субъективного произвола зависит интеллектуальность машины. То есть доверие к системе ИИ целиком и полностью зависит от компетентности судьи (наблюдателя, interrogator’а). Интеллометрия в данном случае возможна посредством количественных методов экспертных оценок, например, путем применения метода «Дельфи» [28, с.10]. И, конечно, возможна иллюзия повышения степени объективности путем привлечения большего количества беспристрастных судей или экспертов. Такой юридический подход применяется с самого начала реализации тьюринговых тестов. Так было полвека назад, когда в 1971 году двенадцать экспертов присуждали интеллектуальность агенту (компьютеру или человеку) в контексте теста Колби (параноидального теста Тьюринга, см. ниже). Точно также подобная судебная практика организуется сегодня на лойбнеровских состязаниях [45].

37

Рассмотрим кратко основные субъективные параметры доверия к системе ИИ в виде феноменологически фиксируемых типов, связанных с интеллектуальной деятельностью. Такие параметры доверия удобно систематизировать в виде пяти классов функций [7], выделяемых из функциональной организации так называемых совершенных тестов Тьюринга. К совершенным тестам относится «Игра в имитацию» А.Тьюринга, «Китайская комната» Дж.Серля, «Глобальная машина» Н.Блока и др. (см. ниже). Помимо совершенных версий, имеется чрезвычайно большое количество несовершенных тестов. Их несколько сотен. В них акцентируется внимание на возможно интересной, но незначительной детали тьюрингового тестирования. Таких несовершенных версий много, их более сотни зарегистрированных. И любой из этих несовершенных тестов можно довести до статуса совершенного теста путем рекомбинации с частями других тестов. При этом следует учитывать, что доработка частного теста до нужного уровня может осуществляться посредством отрицания отрицания. Например, если концепция философского зомби в ранних мысленных экспериментах Р.Кирка [38] убедительна в одном случае и может послужить аргументом в пользу цифрового двойника как субъекта права, то в другом случае эта концепция может раскрывать абсурдность аргументации, указывая на несвязность понятия «философский зомби», как это предлагал сделать поздний Р.Кирк, «убивая зомби» после тридцати лет активной жизни в философских дискуссиях [39]. Значимость комплексного теста Тьюринга и состоит, на наш взгляд, в возможности пластичных реконфигураций частых тестов и доведения множества проверенных и, следовательно, доверительных элементов частных тестов (внушающих доверие) до уровня совершенного теста, решающего разнообразные актуальные задачи построения и применения систем ИИ. Насколько можно будет доверять комплексному тесту, если всем частным тестам приписан статус доверенности? Это вопрос системотехнического плана. В будущем его обязательно надо попытаться решить. Тем не менее, понятно то, что каждый тьюринговый тест, более или менее совершенный, вносит свой особый вклад в субъективную параметризацию доверия путем раскрытия следующих функций:

38

интеррогативной функции, характеризующей содержание и форму вопросов, которые задает тьюринговый судья (interrogator, наблюдатель) при изучении х-системы на предмет ее y-способностей;
дефинитной функции, обеспечивающей определение когнитивного феномена с учетом ее вычислительных коннотаций;
конструкторской функции, раскрывающей принципы работы компьютера, способного реализовать когнитивный феномен, исследуемый в тесте;
критической функции, отражающей суть полемики по поводу возможности или невозможности компьютерной реализации когнитивного феномена;
конститутивной функции, позиционирующей отношение судьи (эксперта, наблюдателя) к когнитивным аспектам компьютерной реальности, или, конкретнее, человека к системе ИИ.

39

Эти функции систематически сведены в таблице [4, с.113-115].

40

Возможны различные схемы определения cубъективных параметров доверия к системам ИИ. Для нормализации этого процесса нужна процедура «усовершенствования» частного теста, приведения его к совершенному формату. И далее, в условиях изучения множества полных, совершенных текстов, возможна процедура определения доверия к реализации частной когнитивной функции. Именно в условиях массированного субъективного восприятия, дополненного интеллометрическими методами, обосновывается доверие к данной конкретной реализации программной системы.

41

Например, воспользуемся оригинальным тестом Тьюринга. Это идея имитации компьютером того минимума интеллектуальных способностей, который поддерживает связный диалог собеседников. Вряд ли следует доверять компьютерной имитации речевого диалога средствами универсальной цифровой вычислительной машины, — считает А.Тьюринг. Универсальный символьный подход отрицает эволюционно-эпистемологические возможности роста знаний. Поэтому необходима обучаемая нейронная сеть, которая работает с учителем и без учителя. Учитель, в принципе, знает общие пути развития знаний у машины-ребенка. Однако конкретные знания даются ходом машинного обучения, траектория же их получения бывает непредставима символьным путем. Такой принципиальный проект гибридного, символьно-коннекционистского компьютера был предложен 72 года назад [46]. Вряд ли сегодня можно утверждать о том, что этот концептуальный проект нашел воплощение. Более того, для современного этапа применения нейросетевых методов машинного обучения налицо регресс в решении проблемы доверия. Допустим, банковская нейросетевая машина обучилась распознавать кредитоспособность клиентов. Но насколько можно ей доверять, ведь нейронная сеть не имеет механизма релёнинга (re-learning), т.е. определения траектории способа обучения. Все классические символьные системы включали специальные средства определения степени логической доверительности траектории полученного вывода. В символьных системах это был блок интерпретации модели представления знаний, необходимый для состава интеллектуальной системы. Сейчас, в эпоху коннекционистской весны, такая необходимость сомнительна. Это обусловлено принципами глубокого обучения: они настолько «глубоки», что теряются обозримые связи «знаний» на этапах их приобретения. (Хотя можно показать, что имеется теоретическая, т.е. принципиальная возможность организации релёнинга нейронной сети посредством машины Корсакова-Тьюринга как формальной дефиниции коннекционистского алгоритма [8]. Однако это теоретическая, практически нереализуемая возможность.

42

Далее, изучая субъективную параметризацию доверия к системам ИИ вполне резонен вопрос: может ли компьютер рассуждать с позиции здравого смысла? Джон Маккарти [42] полагает, что машине нельзя доверять знания здравого смысла, т. е. знания, фундированные опытом и пропитанные интуицией. Такими знаниями обладает, например, высокопрофессиональный врач. Предметом критики явилась классическая экспертная система MYCIN. По мнению Дж. Маккарти, ей нельзя доверить жизнь пациента. С большой вероятностью этот пациент скончается он неправильного диагноза: компьютеры принципиально не способны оперировать со здравым смыслом, охватывающим все мыслимые контексты работы врача.

43

Д. Деннет так же доказывает то, что здравый смысл нельзя доверить компьютеру. Однако этот «смысл» характеризует не глубинные знания, как в предыдущем случае, но поверхностные, банальные знания [36] типа сведений о способности людей завязывать шнурки на ботинках. Здесь он ссылается на новостную экспертную систему CYRUS, имитирующую деятельность Сайруса Вэнса, госсекретаря США в период правления Джеймса Картера, в конце 1970-х гг. Зачем разработчику включать в базу знаний сведения о том, что все взрослые люди умеют завязывать шнурки? Какое отношение имеют эти знания к сведениям по поводу деятельности важного политика? Но если допустить несущественность таких поверхностных знаний, то можно ли доверять компьютерной системе, не отвечающей на банальные вопросы? Ведь «Бог в мелочах».

44

Если же мы доверяем компьютерной программе, то не сродни ли такое доверие к тому, что высказывает параноик? В самом деле, программист в силу характера своей профессии является своего рода параноиком: он разрабатывает программу в силу своих знаний, опыта, навыков. Свыше заложенного программистом программа не способна трансцендировать, она не может как бы «перепрыгивать» за сферу предписанного. Получается, что интеллектуальная система выражает некоторую однобокую идею программиста, то есть воплощает одномерную, навязчивую, иначе говоря, параноидальную идею. Но можно ли доверять параноику? В параноидальном тесте К.Колби [35] подобные вопросы доверия звучали и для решения этих вопросов, по свидетельству Д.Деннета, выделялись большие средства. Это было полвека назад. Вряд ли можно утверждать, что проблема доверия стала актуальной именно сегодня.

45

Вообще, может ли компьютер функционировать как психически здоровый человек? В первую очередь, способен ли компьютер работать со смыслом и «понимать» так, как это делает человек. А главное, насколько вычисление способствует пониманию. В тесте Сёрля («Китайская комната») ставится вопрос «Может ли компьютер понимать?» [30] и знаменитый когнитивный философ доказывает то, что компьютер, к несчастью для ИИ, напротив, отдаляет понимание. Когнитивная способность понимания возникает в силу естественной биоантропосоциальной эволюции. Попытки помешать естественной психике искусственными средствами приводят, в конечном счете, не к расцвету личностного начала, а к становлению зомбиевого конца [9]. О каком доверии к ИИ под напором таких аргументов можно утверждать?

46

Хотя имеется позиция другого не менее знаменитого когнитивного философа, Д. Деннета. Он, напротив, полагает что все мы, люди, сейчас являемся зомби в силу ограниченности нас индивидуальными частными свойствами и способностями. Но в условиях глобального искусственного интеллекта мы восполним то, что нам недостает и можем стать настоящими, полноценными личностями. По всей видимости, имелась в виду реализация принципа «от каждого всем и всем от каждого», в котором квантификаторы пробегают по всем материальным и духовным частностям жизни человека и общества. Деннет достаточно убедителен. И какова будет доверительная оценка этим противоречащим аргументам по поводу роли компьютерных систем в феноменологии понимания, сознания, личности? Оба достаточно убедительны.

47

Подобные противоречия присущи субъективной позиции к дефиниции ИИ. В некоторых случаях можно подвести различные суждения под две четко выраженные контрадикторные позиции, как это было в выше приведенных случаях по поводу моделирования здравого смысла (позиция Маккарти/Деннета) или по поводу персонологической роли ИИ (позиция Серля/Деннета). В ряде случаев выделяются не только две противоречивые позиции, но семейство контрарных позиций. Например, в гендерном тесте Тьюринга имеется как минимум шесть интерпретаций решения вопроса о том, почему А. Тьюринг отождествил игру в имитацию интеллекта с игрой в имитацию пола [2, с.227 – 228]: 1) Тест Тьюринга — это не тест на интеллект, а тест решения вопроса «Чем мужчина отличается от женщины»? 2) ИИ транссексуален; 3) судья теста Тьюринга – антифеминист, для него важно решить вопрос «Может ли женщина мыслить?»; 4) напротив, подражание женщине является верхом совершенства, т.е. судья – феминист; 5) Тьюринг просто шутит, так как в научной статье гармонично сочетает ум, юмор и секс; 6) гендерный тест принципиально невозможен: судья будет правильно отличать женщину от мужчины в 50 %, а такая оценка не валидна.

48

То есть начинается «свистопляска» с разнообразием субъективных параметров, что окончательно мы закрепим на логическом уровне нашего анализа.

49

Контрадикции логически необходимых и логически достаточных условий доверия к системе ИИ

Имеются разночтения субъективных параметров. Например, индуктивный тест Тьюринга, предложенный Дж. Муром, полагает, что искусственный интеллект задается индуктивным способом: тест Тьюринга предназначен для сбора положительных фактов в пользу доказательства возможности ИИ, верификации программно-аппаратных комплексов, отбраковке систем недоверительного характера, включению в базу знаний проверенных версий. То есть необходимым условием ИИ является тест Тьюринга. Многие, кстати, полагают, что впервые слово «тест Тьюринга» предложил именно Дж. Мур в [44].

50

Противоположную позицию занял Нэд Блок. В «Новом тесте Тьюринга» [15] дедуктивно доказывается возможность ИИ путем вывода из теорий философии сознания, критики лингвистического бихевиоризма как основы тьюринговой игры в имитацию и формулировок концепции психофункционализма. Эта концепция оказывает влияние на разработку принципов проектирования интеллектуальных систем. В ней обозначаются роли феноменологии и разработки «черных ящиков сознания» («блэк блоков Блока»), роль которых понятна в общей когнитивной архитектуре, но непонятны средства и ресурсы проигрывания этих ролей. В итоге считается, что игра в имитацию является достаточным условием ИИ. Необходимым же условием возможности ИИ представляется новый тест. Он выявляет осмысленность тех сообщений, которые формируются изнутри системы ИИ программно-техническим способом. Пока предпосылок для такой системы нет: если даже знания всех людей всего человечества производятся некоторой глобальной машиной и она проходит новый тест Блока, тем не менее, машина является всего лишь транслятором знаний людей. Никакого искусственного интеллекта в ней нет. Прохождение нового теста Блока – это достаточные условия ИИ.

51

Таким образом, логически достаточные и необходимые условия системы ИИ сами представляются логически противоречивыми. Для индуктивно ориентированной логики тест Тьюринга вполне справедливо представляется необходимым условием, ведь благодаря собиранию в его составе нужных программно-аппаратных комплексов и обусловливается возможность заключить об интеллектуальности искусственной системы. Это необходимая составляющая. Если идти дедуктивно направленным путем изучения доверия к ИИ, то, в самом деле, оригинальный тест Тьюринга выступает достаточным условием интеллектуальности компьютерной системы, ведь помимо бихевиорально адекватной имитации интеллектуального поведения, что гарантирует этот тест, требуется сопровождение теста осмысленностью, креативностью, самостоятельностью, индивидуальностью. Это ведь не простая машина, а интеллектуальная машина.

52

Для комплексного теста целесообразно изучать логическую необходимость/достаточность в некотором интегральном формате, исключая вектор логических рассуждений от общего к частным положениям либо наоборот. Комплексный тест Тьюринга является необходимым концептуальным средством предварительной междисциплинарной координации исследовательских программ в области искусственного интеллекта. Можно привести длинный список достаточных условий доверия к ИИ, предложенный, например, в [7, пп. 1.1]. Это решение следующих проблем: взаимообусловленности исследований естественного интеллекта и искусственного интеллекта; изучения логико-эпистемологических особенностей моделирования естественного интеллекта; построения моделей «сознание/мозг/искусственный интеллект»; изучение способа компьютерного моделирования мышления о мышлении; создание интерфейса «человек-компьютер» и нейроинтерфейса, решающего подобные задачи взаимодействия; оптимизация методов роботизации, виртуализации и киборгизации; развитие элементной базы ЭВМ; реализация проектов искусственной жизни, искусственного мозга, искусственной личности и искусственного общества; создания экспертных систем, инвариантных для различных доменов применения, например, для когнитивной медицины и для когнитивной социологии; символьно-коннекционистской интеграции методов управления знаниями; практических интерпретаций методологии постнеклассической рациональности и многое другое.

53

С проработкой каждого направления из этого списка связаны десятки исследователей. Список достаточных условий доверия к системам ИИ является открытым и его можно продолжать настолько долго, насколько много проблем обнаруживается в разнообразии когнитивных функций и путях их реализации. С другой стороны, имеется всего лишь одна бинарная характеристика, подобная характеристике доверия к ИИ. Все исследования искусственного интеллекта предваряются простым, но твердым убеждением исследователя: либо может, либо не может компьютер мыслить (сможет/не сможет компьютер мыслить). А подобное суждение в логике принято называть необходимым условием решения задачи: если этого условия не будет, то данная задача вовсе не решаема. Содержательно это вопрос относится к компетенции теста Тьюринга: комплексный тест Тьюринга задает логически необходимые условия доверия к ИИ.

54

Условия доверия формируются стандартным способом, посредством аргументаций в дискуссиях. Утверждается тезис, определяются условия и предпосылки, формулируются аксиомы и правила вывода. Запускаются доказательства. Используются логические и риторические средства для убеждения участников дискуссии в истинности либо ложности тезиса (правоте/неправоте, справедливости/несправедливости и пр.). Участники дискуссии принимают либо не принимают тезис. Дискуссии могут продолжаться при обнаружении противоречий в ходе аргументации, корректировке исходных условий и предпосылок. Многие дискуссии по проблемам воплощения естественного в искусственном длятся тысячелетиями, в частности, и вопрос Тьюринга «Могут ли машины мыслить» длится десятками лет. Меняются средства реализации: глина, мрамор, часы, механизмы, электрохимические устройства, электронные компьютеры, социальные машины и др.

55

Автор каждого совершенного частного теста Тьюринга предлагает достаточно выверенные аргументы в пользу своего тезиса. С ними можно соглашаться, можно оспаривать. Аргументы, как правило, значимы и часто воспроизводятся в современной культуре, в СМИ, зачастую под разными словами. Частные тесты задают субъективные основания доверия к системам ИИ, поэтому степень их доверительности имеет ограниченный, хотя и особенный характер. Комплексный тест задает интерсубъективные основания концептуальной проверки, и поэтому доверие или недоверие к системе ИИ выражается методологически мощнее, целостнее, доверительнее, чем это было в случае оценки доверия частными тестами.

56

Интерсубъективные параметры доверия к системам искусственного интеллекта

Проблема доверия занимает весьма прочное и обширное место в исследованиях авторов частных совершенных тестов Тьюринга. Можно даже предложить параметр: объем доверия (точнее, объем доверия, выраженный в дискуссии). Это библиографический параметр и он означает процент материала, который отводится на предмет возможности и последствий реализации когнитивной функции к общему объему работы. Так, для игры в имитацию А. Тьюринга объем доверия составляет 50%, а если учесть то, что последний пп., «Обучающиеся машины», продолжает дискуссию на предмет опровержения возражению леди Лавлейс, то объем доверия составит 73%. Для теста Серля объем доверия весьма велик: 72 % [30]. А для теста Блока он достигает 90,2 %, так как на техническое описание машины Блока отводится всего 9.8 % от общего объема статьи, остальное составляет дискуссия по поводу отставания новой теории сознания – психофункционализма путем критики идеи оригинального теста Тьюринга.

<h3 id="text_content_item_56" class="docx-publication-h3">Интерсубъективные параметры доверия к системам искусственного интеллекта</h3> Проблема доверия занимает весьма прочное и обширное место в исследованиях авторов частных совершенных тестов Тьюринга. Можно даже предложить параметр: объем доверия (точнее, объем доверия, выраженный в дискуссии). Это библиографический параметр и он означает процент материала, который отводится на предмет возможности и последствий реализации когнитивной функции к общему объему работы. Так, для игры в имитацию А. Тьюринга объем доверия составляет 50%, а если учесть то, что последний пп., «Обучающиеся машины», продолжает дискуссию на предмет опровержения возражению леди Лавлейс, то объем доверия составит 73%. Для теста Серля объем доверия весьма велик: 72 % [30]. А для теста Блока он достигает 90,2 %, так как на техническое описание машины Блока отводится всего 9.8 % от общего объема статьи, остальное составляет дискуссия по поводу отставания новой теории сознания – психофункционализма путем критики идеи оригинального теста Тьюринга.

57

Интерсубъективные параметры доверия к системам ИИ в формате комплексного теста Тьюринга представлены в Приложении 1. Это фрагмент базы данных, которая обеспечивает сбор, хранение, систематизацию и обработку значений доверительных параметров. В этой вырезке собраны тезисы дискуссии, предложенные в тестах Тьюринга, Серля и Блока. В итоговой выборке участвуют следующие атрибуты: Тезис: уникальный код тезиса, который аутоинкрементарно добавляется в базу данных; Class: код класса иерархического классификатора тезисов; Наименование тезиса [nаmе] краткое обозначение содержания тезиса; F: операции с тезисом, в сигнатуру которых входит “+” (подтверждение тезиса), “-“ (опровержение тезиса), “н” (семантическая нормализация тезиса, т.е. приведение тезиса к концептуально приемлемому виду – см. ниже суть этой операции); Ref: ссылка на родительский тезис, если он имеется; Содержание тезиса: текст произвольной длины, детально раскрывающий суть тезиса; Библиография (ссылка на первоисточник). Тезисы в базе доверия могут выражаться произвольными мультимедийными источниками: текстовыми, графическими, графовыми, анимационными презентациями докладов и выступлений, а так же фото-, аудио- и видеозаписями реальных дискуссий на мероприятиях по проблемам философии и методологии искусственного интеллекта, организуемых, например, силами НСМИИ РАН [26]. Тем не менее, текстовый формат представления дискуссии действует по умолчанию и к нему редуцируются все остальные способы.

Интерсубъективные параметры доверия к системам ИИ в формате комплексного теста Тьюринга представлены в Приложении 1. Это фрагмент базы данных, которая обеспечивает сбор, хранение, систематизацию и обработку значений доверительных параметров. В этой вырезке собраны тезисы дискуссии, предложенные в тестах Тьюринга, Серля и Блока. В итоговой выборке участвуют следующие атрибуты: Тезис: уникальный код тезиса, который аутоинкрементарно добавляется в базу данных; Class: код класса иерархического классификатора тезисов; Наименование тезиса [nаmе] краткое обозначение содержания тезиса; F: операции с тезисом, в сигнатуру которых входит “+” (подтверждение тезиса), “-“ (опровержение тезиса), “н” (семантическая нормализация тезиса, т.е. приведение тезиса к концептуально приемлемому виду – см. ниже суть этой операции); Ref: ссылка на родительский тезис, если он имеется; Содержание тезиса: текст произвольной длины, детально раскрывающий суть тезиса; Библиография (ссылка на первоисточник). Тезисы в базе доверия могут выражаться произвольными мультимедийными источниками: текстовыми, графическими, графовыми, анимационными презентациями докладов и выступлений, а так же фото-, аудио- и видеозаписями реальных дискуссий на мероприятиях по проблемам философии и методологии искусственного интеллекта, организуемых, например, силами НСМИИ РАН [26]. Тем не менее, текстовый формат представления дискуссии действует по умолчанию и к нему редуцируются все остальные способы.

58

Конечно, в Базе доверия приоритет отдается классическим работам по обсуждению принципиальных проблем ИИ. Как правило, первопроходец закладывает основы всему последующему ходу развития. Поэтому резонно предположить то, что Тьюринг уже более семидесяти лет назад разработал метод формирования доверительного отношения к системе ИИ. В самом деле, в своей основной для ИИ работе [46] отвечая на поставленный им же вопрос «Может ли машина мыслить?», Тьюринг выполнил некоторую семантическую нормализацию (обозначается в сигнатуре F значком «н») относительно смыслового употребления терминов типа «машинное мышление», «искусственный интеллект», «право робота», «электронная культура» и др. Новые термины не должны концептуально конфликтовать с социокультурными традициями. Поэтому был осуществлен перевод вопроса в новый формат, в сценарий изучения возможности цифровой вычислительной машины играть в имитацию пола игрока столь же успешно, как это делает человек. То есть «вечный тезис» name(t1) = «машина может мыслить» заменен концептуально комфортным тезисом name (t2) = name(н(t1)) = «Машина может играть в игру имитации интеллекта человека». И, далее, с применением теоретико-вероятностного аппарата, name (t35) = name(н(t2)) = «Играя с компьютером, судья будет ошибаться в 70 процентах случаев столь же часто, как ошибается при игре с человеком».

Конечно, в Базе доверия приоритет отдается классическим работам по обсуждению принципиальных проблем ИИ. Как правило, первопроходец закладывает основы всему последующему ходу развития. Поэтому резонно предположить то, что Тьюринг уже более семидесяти лет назад разработал метод формирования доверительного отношения к системе ИИ. В самом деле, в своей основной для ИИ работе [46] отвечая на поставленный им же вопрос «Может ли машина мыслить?», Тьюринг выполнил некоторую семантическую нормализацию (обозначается в сигнатуре F значком «н») относительно смыслового употребления терминов типа «машинное мышление», «искусственный интеллект», «право робота», «электронная культура» и др. Новые термины не должны концептуально конфликтовать с социокультурными традициями. Поэтому был осуществлен перевод вопроса в новый формат, в сценарий изучения возможности цифровой вычислительной машины играть в имитацию пола игрока столь же успешно, как это делает человек. То есть «вечный тезис» name(t1) = «машина может мыслить» заменен концептуально комфортным тезисом name (t2) = name(н(t1)) = «Машина может играть в игру имитации интеллекта человека». И, далее, с применением теоретико-вероятностного аппарата, name (t35) = name(н(t2)) = «Играя с компьютером, судья будет ошибаться в 70 процентах случаев столь же часто, как ошибается при игре с человеком».

59

Тьюринг предлагает структуру проведения дискуссий по поводу возможностей, невозможностей, преимуществ и угроз замены человека компьютером. Дискуссия, подчеркнем ещё раз, имеет интерсубъективный характер. Свой тезис А. Тьюринг защищает от реальных и воображаемых людей, живущих (Курт Гёдель), умерших (Ада Лавлейс) и еще не родившихся, когда машины станут соперниками людей (см. подробнее знаменитый прогноз к 2000 г., точнее, к 2052 г. в [6]). То есть для обеспечения доверия он по сути предлагает то, что сегодня называется экспертной системой. Эта система ИИ представляет программно-технический комплекс организации, проведения и анализа дискуссий, которые выражают принципиальные идеи по поводу разработки, функционирования, сопровождения и развития систем ИИ.

60

Элементарная единица дискуссии: 1) тема возражения; 2) довод в пользу возражения; 3) ответ на возражение. Такая структура полностью отвечает основам теории аргументации: тезис – аргумент – контраргумент. Тьюринг сформировал весьма репрезентативную совокупность вопросов на положения дискуссии, защищая основной тезис («Машина может мыслить») и представил общезначимые ответы на них. Эта совокупность была названа нами «полемическим стандартом Тьюринга» [33]. Слово «стандарт» употребляется в том смысле, что вопросы, поднимаемые и на бытовом, и на научном уровнях сегодня столь часто звучат, что представляют некоторые общие темы изучения доверия к ИИ.

61

На первый взгляд, кажется правомочным вопрос о полноте и достаточности полемического стандарта Тьюринга: исчерпал ли А. Тьюринг девятью положениями всё многообразие возражений и ответов по теме «Может ли машина мыслить?». На наш взгляд, бессмысленна сама постановка этого вопроса: несмотря на семантическую общность положений, дискуссия бесконечна. Имеется бесконечное многообразие представлений об особенностях человеческого мышления и способах его моделирования. Также меняется степень доверия к аргументам дискуссии. То, что сегодня кажется верным, завтра может быть переоценено и прямо противоположно интерпретировано.

62

Неполнота этого полемического стандарта обнаруживается сразу после представления дискуссии из другого совершенного теста Тьюринга. Каждый элемент дискуссии повергается критике. Каждый тезис обосновывается, скептически проверяется, подвергается сомнению. Выдвигается антитезис, который также обосновывается и в последующем опровергается. То есть каждый автор частного теста Тьюринга, обозначая свой собственный вариант теста, явно или неявно обращается к форме «возражение»/«ответ на возражение».

63

Тьюринг предложил девять тезисов. Мы немного изменили порядок их следования, не так, как они даны в первоисточнике [46]. Например, возражения «теологическое», «безопасностное» и «телепатическое» приводятся в конце списка теста Тьюринга. Они менее значимы для формирования доверительного отношения. Некоторые положения в этой таблице сформулированы иначе, нежели чем в первоисточнике. Наконец, наши интерсубъективные исследования доверия мы начнём с главного вопроса комплексного теста Тьюринга «Может ли компьютер всё?». Именно поиск аргументации на данный вопрос и приближает нас к сути вопроса «Может ли машина мыслить?», потому что много контекстов тянется за понятием «интеллекта», а комплексный тест выявляет эти контексты.

64

Интерсубъективные параметры теста Серля в данной работе приведены достаточно полно, а вот материалы теста Блока представлены эскизно. Этих параметров очень много: как мы отметили выше, объем доверия для этого теста превышает 90 процентов. И конечно, надо хотя бы вкратце обозначить специальные методы работы с базой доверия. Полное изложение этих функций является предметом дальнейших исследований.

65

Специальные методы обеспечения доверия

Представим перечень методов обеспечения доверия. Они производны от общих методов научной деятельности, и в свою очередь, обладают рядом специфических характеристик:

66

Идентификация тезиса. Идентификация является одним из важнейших направлений стандартизации в любой сфере деятельности. Не исключается и проблема обеспечения доверия к системе ИИ, распознание того уникального мнения, положения, теории, концепции, подхода, направления, которые значимы на предмет оценки доверия к ИИ.

67

Концептуальная или семантическая нормализация, как было отмечено выше, предназначена для формирования тематически нейтральных терминов, которые не вызывают когнитивного диссонанса при вовлечении социогуманитарных и естественно-научных понятий в технический дискурс. Несмотря на то, что ИИ прочно вошел в нашу жизнь и является предметом государственного Указа, само словосочетание «искусственный интеллект» воспринимается многими как оксюморон. В самом деле, как возможно техническое воплощение моей мысли или мысли другого?

68

Редукция – приведение предмета дискуссии (тезиса, аргумента) к уже изученному положению или к более простому предмету.

69

Кодификация – выделение, группирование, упорядочение тезисов и их компонент.

70

Формализация – использование специальной символики, которая позволяет отвлечься от содержательных особенностей интерсубъективных исследований и перейти к возможностям оперирования символами.

71

Унификация – приведение разнородных, неоднородных и гетерогенных положений дискуссии к единообразной системе представления тезисов.

72

Апробация – объективная оценка результатов исследования доверия, проводимое, как правило, в условиях массового обсуждения в рамках масштабного мероприятия.

73

Верификация – подтверждение тезиса на основе представления объективных свидетельств, субъективных мнений и интерсубъективных оценок, включающих интеллометрическую экспертизу.

74

Стандартизация – системная деятельность по установлению правил и характеристик оценки доверия к системам ИИ для многократного использования.

75

Собственно, первый и последний методы являются точками входа и выхода в систему обеспечения доверия: экспертная деятельность начинается от выявления значимых положений по поводу компьютерного моделирования когнитивных функций и завершается целостной интеллектуальной системой, которая на выходе имеет два значения – можно ли системе ИИ доверять или ей доверять нельзя? Если можно доверять, то силами этой системы возможна проверка – почему ей можно доверять? А если нельзя, то что надо сделать для разработки доверительной системы ИИ?

76

Для ответа на основной вопрос данной работы «Каким системам ИИ можно доверять?» введем количественный показатель уровня доверия

T^{a}

. Для вычисления его используем выражение:

77

T^{a}

=

Q_{f}^{a} Q_{s}^{a}

78

где

Q_{f}^{a}

– показатель качества системы

S^{a}

, под которым понимается уровень соответствия требованиям, установленным потребителем [20]. Угрозы безопасности системе ИИ, влияющие на способность системы выполнять задачи по назначению, также учитываются при определении показателя качества системы;

79

Q_{s}^{a}

– уровень безопасности системы

S^{a}

, обратно пропорциональный значимости угроз безопасности (физических, информационных, социально-психологических, экологических и др.) со стороны системы ИИ для третьих лиц при применении этой системы по назначению.

80

Доверие к системе ИИ присуждается в том случае, если значение уровня доверия

T^{a}

превышает или равняется установленному порогу

Q^{*}

(критериальному уровню доверия).

81

Возможны следующие режимы оценки уровня доверия

T^{a}

:

82

ручной режим, когда экспертная оценка уровня доверия $T^{a}$ формируется человеком и определяется его знаниями, опытом, интуицией, воспитанием;
автоматизированный режим, в котором определение $T^{a}$ поддерживается средствами специальной экспертной системой оценки доверия (ЭСОД).
автоматический режим, в котором $T^{a}$ оценивается программно-аппаратным способом и решение о невозможности применения системы ИИ S^a осуществляется без участия человека.

<ul class="docx-publication-list"> <li>ручной режим, когда экспертная оценка уровня доверия 
<math xmlns:mml="http://www.w3.org/1998/Math/MathML" xmlns:m="http://schemas.openxmlformats.org/officeDocument/2006/math"><msup><mrow><mi>T</mi></mrow><mrow><mi>a</mi></mrow></msup></math>
 формируется человеком и определяется его знаниями, опытом, интуицией, воспитанием;</li> <li>автоматизированный режим, в котором определение 
<math xmlns:mml="http://www.w3.org/1998/Math/MathML" xmlns:m="http://schemas.openxmlformats.org/officeDocument/2006/math"><msup><mrow><mi>T</mi></mrow><mrow><mi>a</mi></mrow></msup></math>
 поддерживается средствами специальной экспертной системой оценки доверия (ЭСОД). </li> <li>автоматический режим, в котором 
<math xmlns:mml="http://www.w3.org/1998/Math/MathML" xmlns:m="http://schemas.openxmlformats.org/officeDocument/2006/math"><msup><mrow><mi>T</mi></mrow><mrow><mi>a</mi></mrow></msup></math>
 оценивается программно-аппаратным способом и решение о невозможности применения системы ИИ Sa осуществляется без участия человека.</li></ul>

83

Экспертная система ЭСОД является информационной системой, обеспечивающей реализацию функции оценки уровня доверия

T^{a}

посредством сбора, хранения, обработки и выдачи информации о параметрах

Q_{f}^{a}

,

Q_{s}^{a}

,

Q^{*}

.

Экспертная система ЭСОД является информационной системой, обеспечивающей реализацию функции оценки уровня доверия 
<math xmlns:mml="http://www.w3.org/1998/Math/MathML" xmlns:m="http://schemas.openxmlformats.org/officeDocument/2006/math"><msup><mrow><mi>T</mi></mrow><mrow><mi>a</mi></mrow></msup></math>
 посредством сбора, хранения, обработки и выдачи информации о параметрах 
<math xmlns:mml="http://www.w3.org/1998/Math/MathML" xmlns:m="http://schemas.openxmlformats.org/officeDocument/2006/math"><msubsup><mrow><mi>Q</mi></mrow><mrow><mi>f</mi></mrow><mrow><mi>a</mi></mrow></msubsup></math>
, 
<math xmlns:mml="http://www.w3.org/1998/Math/MathML" xmlns:m="http://schemas.openxmlformats.org/officeDocument/2006/math"><msubsup><mrow><mi>Q</mi></mrow><mrow><mi>s</mi></mrow><mrow><mi>a</mi></mrow></msubsup></math>
, 
<math xmlns:mml="http://www.w3.org/1998/Math/MathML" xmlns:m="http://schemas.openxmlformats.org/officeDocument/2006/math"><msup><mrow><mi>Q</mi></mrow><mrow><mi>*</mi></mrow></msup></math>
.

84

ЭСОД поддерживает когнитивные механизмы оценки доверия и способна лишь частично заменить эксперта (экспертов), так как доверие, вера, убеждение, знание – это приватные феномены сознания. Применение ЭСОД в автоматическом режиме возможно применительно к оценке доверия к системе

S^{a}

в контексте её использования для решения конкретной прикладной задачи ИИ G в заданных (предусмотренных) условиях эксплуатации, то есть при условии снижения критерия довериядо уровня отождествления когнитивной деятельности с механизмами ее имитации.

85

Информационным фундаментом ЭСОД является база доверия, предложенная в этой работе. Эта система может использоваться для оценки уровня доверия к интеллектуальной системе

S^{a}

безотносительно конкретной прикладной задачи (для неопределённого круга задач). Разнообразие ЭСОД должно превышать разнообразие оцениваемого предмета, поэтому предпочтительна реализация ЭСОД методами комплексного теста Тьюринга. Этот тест основан на тьюринговой игре в имитацию интеллектуального (диалогового) поведения и включает на сегодняшний день более сотни её версий и версии версий, которые имитируют когнитивные компетенции мышления, понимания, творчества, сознания, самосознания, морального вменения, личности, общества и другие x-компетенции.

86

Комбинация этих тестов обеспечивает сложностную аппроксимацию когнитивных функций системы ИИ

S^{a}

. Это позволяет полновесно оценить систему и довериться ей либо отказать в доверии. В первом случае ЭСОД должна показывать, почему уровень доверия является приемлемым. Во втором случае она должна предлагать рекомендации: что надо сделать для поднятия

T^{a}

.

87

Заключение

Отвечая на вопрос «Как можно доверять системам искусственного интеллекта?» мы предложили полный спектр параметров доверия и кратко изучили объективные, субъективные и интерсубъективные характеристики. Для увеличения степени валидности объективных параметров доверия было предложено формальное определение искусственного интеллекта как компьютерной реализации комплексного теста Тьюринга, отвечающего на вопрос: «Может ли компьютер всё?», т.е. все то, что специфицировано частными тестами. Каждый из частных тестов, отвечая на вопрос компьютерной реализации когнитивных функций понимания, сознания, самосознания, креативности, личностности и пр., выражает субъективные мнения об успешности/неуспешности имитации эти функций. Скрупулезный анализ субъективных параметров приводит, в итоге, к противоречию даже среди интерпретации логически необходимых и логически достаточных условий доверия к системе ИИ: то, что по одним меркам кажется логически необходимым условием, при других основаниях представляется логически достаточным условием. Решить методологический коллапс субъективных оснований доверия позволяет принятие интерсубъективных параметров доверия. Это, по сути, реализация критической функции комплексного теста Тьюринга. Основой содержания интерсубъективных методов оценки доверия к системам ИИ являются обобщения междисциплинарных дискуссий, обработанные путем специальных методов. Для практической оценки доверия к системам ИИ требуется специальная экспертная система. Она работает как система ИИ второго порядка и учитывает проблему аутореферентности, т. е. оценки доверия к оценке доверия. В остальном же, способ его функционирования не отличается от способов функционирования традиционной компьютерной системы поддержки принятия решения

<h3 id="text_content_item_87" class="docx-publication-h3">Заключение</h3>
Отвечая на вопрос &laquo;Как можно доверять системам искусственного интеллекта?&raquo; мы предложили полный спектр параметров доверия и кратко изучили объективные, субъективные и интерсубъективные характеристики. Для увеличения степени валидности объективных параметров доверия было предложено формальное определение искусственного интеллекта как компьютерной реализации комплексного теста Тьюринга, отвечающего на вопрос: &laquo;Может ли компьютер всё?&raquo;, т.е. все то, что специфицировано частными тестами. Каждый из частных тестов, отвечая на вопрос компьютерной реализации когнитивных функций понимания, сознания, самосознания, креативности, личностности и пр., выражает субъективные мнения об успешности/неуспешности имитации эти функций. Скрупулезный анализ субъективных параметров приводит, в итоге, к противоречию даже среди интерпретации логически необходимых и логически достаточных условий доверия к системе ИИ: то, что по одним меркам кажется логически необходимым условием, при других основаниях представляется логически достаточным условием. Решить методологический коллапс субъективных оснований доверия позволяет принятие интерсубъективных параметров доверия. Это, по сути, реализация критической функции комплексного теста Тьюринга. Основой содержания интерсубъективных методов оценки доверия к системам ИИ являются обобщения междисциплинарных дискуссий, обработанные путем специальных методов. Для практической оценки доверия к системам ИИ требуется специальная экспертная система. Она работает как система ИИ второго порядка и учитывает проблему аутореферентности, т. е. оценки доверия к оценке доверия. В остальном же, способ его функционирования не отличается от способов функционирования традиционной компьютерной системы поддержки принятия решения

<h3 id="text_content_item_87" class="docx-publication-h3">Заключение</h3> Отвечая на вопрос «Как можно доверять системам искусственного интеллекта?» мы предложили полный спектр параметров доверия и кратко изучили объективные, субъективные и интерсубъективные характеристики. Для увеличения степени валидности объективных параметров доверия было предложено формальное определение искусственного интеллекта как компьютерной реализации комплексного теста Тьюринга, отвечающего на вопрос: «Может ли компьютер всё?», т.е. все то, что специфицировано частными тестами. Каждый из частных тестов, отвечая на вопрос компьютерной реализации когнитивных функций понимания, сознания, самосознания, креативности, личностности и пр., выражает субъективные мнения об успешности/неуспешности имитации эти функций. Скрупулезный анализ субъективных параметров приводит, в итоге, к противоречию даже среди интерпретации логически необходимых и логически достаточных условий доверия к системе ИИ: то, что по одним меркам кажется логически необходимым условием, при других основаниях представляется логически достаточным условием. Решить методологический коллапс субъективных оснований доверия позволяет принятие интерсубъективных параметров доверия. Это, по сути, реализация критической функции комплексного теста Тьюринга. Основой содержания интерсубъективных методов оценки доверия к системам ИИ являются обобщения междисциплинарных дискуссий, обработанные путем специальных методов. Для практической оценки доверия к системам ИИ требуется специальная экспертная система. Она работает как система ИИ второго порядка и учитывает проблему аутореферентности, т. е. оценки доверия к оценке доверия. В остальном же, способ его функционирования не отличается от способов функционирования традиционной компьютерной системы поддержки принятия решения

88

Наименование тезиса	Содержание тезиса	Библиография
Компьютер может всё	Компьютер может всё то, что реализуют частные тесты Тьюринга	Алексеев 2016
Машина может мыслить	Вечный вопрос, решаемый в контексте ИТ	Turing 1950
Машина может играть в игру имитации интеллекта человека	Надо перевести вопрос "может ли машина мыслить" в плоскость "может ли машина играть в игру подражания человеческому поведению?"	Turing 1950, P.433, P.435
Машина способна играть в игру имитации пола человека	Надо перевести вопрос "может ли машина мыслить" в плоскость ""может ли компьютер имитировать когнитивные способности человека	Алексеев 2013
Вероятность доверительности к системе ИИ	Когда играет компьютер, судья будет ошибаться в 30 процентах случаев столь же часто, когда ошибается при игре с человеком	Тuring 1950, P442
Новая интерпретация тезиса Тьюринга об игре в имитацию	Надо перевести вопрос "может ли машина мыслить" в плоскость "может ли компьютер имитировать когнитивные способности человека"	Алексеев 2016, Указ № 490
Математическое возражение	Некоторые теоремы доказывают ограниченность мощности дискретных машин. Например, теорема Гёделя показывает, что в замкнутой логической системе достаточной мощности обязательно найдется утверждение, которое нельзя ни доказать, ни опровергнуть собственными средствами этой системы.	Тuring 1950, P.444
Вычислительная ограниченность интеллекта	Ограничения на мощность каждой конкретной машины установлены. Однако надо доказать, что эти ограничения не затрагивают человеческого интеллекта.	Тuring 1950, P.444
Доказать теорему о доказательстве недоказуемой теоремы	Надо доказать, что сами эти теоремы не требуют доказательств	Тuring 1950, P.445
Ошибки интеллекта	Надо доказать, что машины, обладающие интеллектом, не ошибаются	Тuring 1950, P.445
Требование безошибочности интеллекта	Отсутствие или наличие ошибок не есть требование к мышлению	Тuring 1950, P.445
Аргумент Лукаса	Разум не представим механизмом из-за проблем с теоремой Гёделя	Lucas 1961
Аргумент Пенроуза	Из-за проблем с теоремой Геделя разум должен быть представлен квантовым компьютером	Пенроуз 2003
Софизм для машины	Если человека попросить разрешить софизм, то он впадет в противоречие, для него вопрос q также будет невозможен и судья не отличит компьютер от человека.	Алексеев 2006, С.236
Возражение с позиции сознания (проблема другого сознания)	Чтобы быть разумной, машина должна обладать сознанием: осознавать себя, чувствовать удовольствие от успеха, расстраиваться от неудач и т.д. Однако единственный способ действительно узнать, мыслит машина или не мыслит – это быть машиной. Согласно солипсизму, единственный способ узнать мыслит или не мыслит другой человек – быть этим другим человеком. А это невозможно. Данная проблема обычно называется проблемой другого сознания.	Turing 1950, P.445
Возражение о различных невозможностях	Машины никогда не смогут сделать Х, где Х может быть любой человеческой особенностью, такой как чувство юмора, креативность, способность влюбляться или обожать клубнику.	Turing 1950 P.447
Вторая производная аргумента "от сознания"	Данная критика, как правило, представляет замаскированный довод о сознании.	Turing 1950 P.447
Ненужность довода	Некоторые Х неуместны в контексте игры в имитацию интеллекта, например, зачем компьютеру делать ошибки и любить клубнику?	Turing 1950 P.447
Угрозы от систем ИИ колоссальны	В основе возражения лежит отвращение к идее о мыслящих машинах по причине того, что последствия появления и распространения таких машин будут ужасны	Тuring 1950
Возражение по поводу непрерывности нервной системы	Нервная система непрерывна и невозможно моделировать ее поведение посредством дискретной машины	Turing 1950, P.451
Аналого-цифровые и цифро-аналоговые преобразования	Непрерывная машина дискретно представима посредством аналого-цифрового преобразования таким способом, что судья не заметит дискретности	Turing 1950, P.451
Довод о неформальном поведении	Невозможна система правил, полностью описывающая поведение человека в любой вообразимой ситуации. Если бы каждый человек имел набор правил на все случаи жизни, он был бы не лучше машины. Таких правил нет. Следовательно, люди не могут быть машинами.	Turing 1950, P.451
Неполнота правил поведения	Полный свод правил невозможен, всегда может быть упущено какое-то правило.	Turing 1950, P.451
Непредсказумость машины	Наблюдая за поведением машины также невозможно предсказать её поведение.	Turing 1950, P.451
Теологическое возражение	Мышление есть свойство бессмертной души человека. Бог дал бессмертную душу только человеку. Следовательно, машины не могут мыслить.	Тuring 1950, P.443
Ограничение всесильности всемогущего	Разрабатывая системы ИИ мы поступаем по отношению к богу не более непочтительно, узурпируя его способность создавать души, чем мы делаем это, производя потомство.	Тuring 1950, P.443
Возражение от боязни и неприязни («голова в песке»)	Ужасны угрозы появления систем ИИ и их распространения	Тuring 1950, P.444
Отвратительность идеи интеллектуальности машины	Одной из главных особенностей человека (Номо sapiens - [AA]) является его способность к мышлению и эту особенность было бы неприятно разделять с машинами.	Turing 1950, P.451
Шутка о реинкарнации	Возражение не надо опровергать, а сторонникам следует найти какое-либо утешение, что-то вроде переселения душ.	Turing 1950, P.451
Стена от телепатии	Если телепатия возможна, то судью следует помещать в комнату за стеной, защищающей от телепатии.	Turing 1950, P.453
Телепатическое возражение («с точки зрения сверхчувственного восприятия»)	Человеку иногда присуще сверхчувственное восприятие, а машине – нет. Человек способен интуитивно постичь правильный ответ на нечёткий вопрос судьи. Машина на это не способна.	Turing 1950, P.453
Интеллект любой искусственной интеллектуальной машины суть исключительно интеллект её разработчиков (программистов)	Проблема с концепцией нового теста Тьюринга и её предшественниками заключается в том, что невозможно обнаружить отличия между поведением, которое отражает собственный интеллект машины и поведением, которое отражает только интеллект программистов, её сконструировавшими.	Блок 2006, С.45
Актуальные и потенциальные знания системы ИИ	Интеллектуальная машина обладает не только актуальными знаниями, как в игре в имитацию, но и потенциальными знаниями в соответствии с концепцией Нового теста Тьюринга	Блок 2006, С.45
Нехватка потенциальных знаний интеллектуальной системы	Если бы строки [машины Блока] были записаны только до начала текущего 2020 года, машина не смогла бы ответить, как человек, на предложение типа: «Что вы думаете о последних событиях на Украине?»	Блок 2006, С.4
Интеллект не определяется исключительно фактуальной информацией	Систему можно считать интеллектуальной, даже если в неё не заложены знания о текущих событиях.	Блок 2006, С.48
Механическая машина не может быть интеллектуальной	Машина с выявленной внутренней механической структурой не является интеллектуальной даже тогда, когда она кажется интеллектуальной в любом внешнем отношении.	Блок 2006, С.51
Имитировать интеллект невозможно	Машина с выявленной внутренней механической структурой не является интеллектуальной даже тогда, когда она кажется интеллектуальной в любом внешнем отношении.	Блок 2006, С.50
Можно выявить отличие интеллектуального механизма от интеллектуального организма	Анатомический принцип доверия «Вскрытие покажет»	Блок 2006, С.59
Компьютер может понимать	Компьютер фактически понимает смысл слов	пример подхода см. в [Шенк 1989]
Компьютер может фактически понимать (с позиции сильного ИИ)	Надо изучить роли вычисления для понимания в мысленном эксперименте "Китайская комната"	Серль 2004, P.6
Системологический отзыв	Понимание является функцией понимающей системы в целом, часть системы не способна к "пониманию"	Серль 2004, P.11
Коньюнкция понимающей и непонимающей подсистем	Абсурдность идеи о том, что хотя индивид и не понимает китайского, но некое соединение индивида с листами бумаги китайский понять сможет	Серль 2004, С.12
Понимание информации желудком	Китайский язык для непонимающего китайский язык - это просто совокупность ничего не значащих завитков. Информация не содержится ни в них, ни в пище. Она существует исключительно в головах программистов и интерпретаторов.	Серль 2004, С.14
Убеждение термостата Дж.Маккартни	Изучение разума начинается с признания факта наличия у человека убеждений, в то время как у термостатов, телефонов и арифмометров убеждений нет.	Серль 2004, С.15
Робототехнический отзыв	Робот [, осуществляющий манипуляции с внешними объектами, - А.А.] в отличие от компьютера Р.Шэнка, обладает подлинным пониманием и другими ментальными свойствами	Серль 2004, С.15
Я - гомункул робота	Роботу не присущи никакие интенциональные состояния, он просто перемещается в соответствии с программой и электрическими импульсами в проводах. В свою очередь, руководствуясь программой, я так же не обладаю никакими интенциональными переживаниями. Всё, что я делаю, это попросту следую формальным инструкциям по манипулированию формальными символами.	Серль 2006, С.16
Отзыв с позиции моделирования мозга	Если репродуцировать в искусственной системе нейральные связи китайца в состоянии понимания текстов, то машина будет буквально понимать	перефраз высказывания в [ Серль 2004, С.16]
Мозг как сантехническая система [труб]	По основной формуле сильного ИИ разум относится к мозгу так же, как программа относится к аппаратным средствам – можно изучать работу разума, не вдаваясь в нейрофизиологические исследования. Однако рассмотрение деятельности мозга в таком приближении недостаточно для уяснения того, как возможно понимание.	Серль 2006, С.16
В системах ИИ моделируются формальные, а не каузальные зависимости	Я определённо не понимаю китайский текст. Не понимают его и водопроводные трубы. Если же полагать, что понимать способна конъюнкция человека и водопроводных труб, то, в принципе, человек может представить формализованную структуру водопроводных труб и в своём воображении произвести все «нейронные возбуждения». Проблема с моделированием мозга в том, что моделируются не то, что нужно. Моделируется лишь формализованная последовательность возбуждений нейронов посредством синапсических связей, а важно смоделировать каузальные, т.е. причинные зависимости [,определяющие соотношение «мозг-сознание»]. Именно причинные зависимости задают возможность интенциональных переживаний. Формальных зависимостей для этого недостаточно.	Серль 2006, С.17
Нейроморфный аналог "понимания"	Человек в «китайской» комнате, ничего не понимающий по-китайски, перебирает не символы, а управляет системой водопроводных труб, соединённых клапанами. Когда человек получает китайский иероглиф, он ищет в программе, написанной на английском, какие клапаны ему нужно открыть, а какие – закрыть. Каждое соединение водяных отсеков соответствует синапсу в мозгу китайца, а система в целом устроена таким образом, что после должной последовательности возбуждений (что соответствует должной последовательности изменений положений вентилей) ответ на китайском языке вытекает из труб, соединённых требуемым образом.	Серль 2006, С.16
Комплексный отзыв	Понимание возможно для робота, репродуцирующего все нейральные связи мозга "понимающего" китайца и обладающего поведением, которое неотличимо от поведения этого китайца	Серль 2004, С.18
Цифровая кукла, имитирующая и внешние и внутренние связи человека, разумом не обладает	Приписываемая интенциональность не имеет ничего общего со способностью оперировать формальными программами. Это приписывание основано на простом утверждении машинного функционализма [Putnam, 1960], что если робот выглядит и ведет себя как человек, то, пока не доказано обратное, робот способен пребывать в ментальных состояниях, подобных человеческим	Серль 2006, С.19
Компьютерная имитация каузальной зависимости "мозг-сознание" никогда не будет фактической каузальной зависимостью	Функционирование мозга – это не формальная тень, отбрасываемая последовательностью синапсов, а реальные свойства этих последовательностей. Все аргументы сильной версии искусственного интеллекта – это образы, рисуемые по контуру теней, отбрасываемых когнитивной способностью, с последующими заявлениями, что тени на самом деле и есть искомая реальность.	Серль 2004, С.18
Отзыв с позиции проблемы «другого сознания»	Откуда известно, что другие люди понимают китайский язык, и откуда известно, что другие люди вообще что-либо понимают? Только исходя из анализа поведения. Компьютер в принципе способен проходить тесты [на когнитивные способности] с такими же результатами, как у людей. Поэтому, если приписывать способность понимания другим людям, то её следует приписывать и компьютерам	Серль 2004, С.18
Вычислимость "ортогональна" когнитивности	Проблема состоит не в том, каким образом известно, что у других имеются когнитивные функции, а в том, что же в действительности им приписывается, когда говорится об этих функциях. Аргумент [китайской комнаты] состоит в том, что когнитивные функции не могут быть представимы в форме вычислительных процессов и их внешних проявлений. Вычислительные процессы и их проявления могут существовать без каких-либо когнитивных функций.	Серль 2004, С.19
Футурологический отзыв	Чем бы не являлись причинные зависимости, необходимые для интенциональности, в будущем будут созданы машины, обладающие данными причинными зависимостями. Такие устройства, как и сегодняшние компьютеры – это тоже искусственный интеллект. Поэтому аргумент китайской комнаты никоим образом не направлен на возможность ИИ [по крайней мере, в будущем,] искусственно продуцировать и объяснять когнитивные способности	Серль 2004, С.20
Машина может творить (контраргумент Ады Лавлейс)	Машины не способны к творчеству, не могут ничего нового сделать и не могут удивить нас. А если и удивляют своей способностью к мышлению, то в силу приписывания им этой способности со стороны человека	Turing 1950, P.450
Аргумент Ады Лавлейс (1843)	Компьютер может создать высокохудожественное произведение, однако самостоятельно творить не может: машина лишь пассивно исполняет инструкции разработчика-программиста	Menabrea 1842
Контраргумент Тьюринга (1950 г.)	Машина может творить и, следовательно, мыслить. Контраргумент Тьюринга делится на две части: символьное и коннекционистское возражение.	Turing 1950, P.450
Символьный ответ аргументу Лавлейс (1950 г.)	Неубедительно: разработчик пытается обмануть наблюдателя (эксперта, тьюрингового судью) в неотличимости творчества и его программной имитации. Оригинальность продукта определяется неожиданным ходом выполнения программы, например, машинным сбоем или неведением пользователя.	Алексеев, Янковская 2015
Коннекционистский ответ аргументу Лавлейс (1950 г.)	Частично доверительное отношение: в общих чертах поведение робота предсказуемо, однако частные продукты машинного обучения могут казаться оригинальными.	Алексеев, Янковская 2015
Тест Лавлейс (2000 г.)	Отрицается символьный ответ Тьюринга путем постулирования аксиом, запрещающих обман наблюдателя и сбой программы. Уникальность артефакта ограничена тем, что продукты известны разработчику: множество продуктов может быть потенциально бесконечным, тем не менее оно декларативно или процедурально задано, следовательно, актуально конечно и предсказуемо	Брингсйорд и др. 2006
Тест Лавлейс 2.0 (2015 г.)	Отрицается коннекционистский ответ Тьюринга, так как применим к нейронным сетям глубокого обучения. Судье сложно оценить креативность артефакта вне сферы его творческих компетенций. Аксиоматика ужесточается специализацией предметных областей и введением роли оценщика креативности продуктов.	Mark O. Riedl 2015
Тест Лавлейс 3.0 (2015 г.)	Дополняет предыдущую версию аксиомой обнаружения оценщиком осмысленного производства артефакта. Машина не способна продуцировать смысл, поэтому по-настоящему творить не может. Новый тест пройти нельзя, однако возможны относительные успехи креативной компьютерной техники. Для этого нужны технические принципы интеграции символьного и коннекционистского подходов. Новый тест выявляет смыслоконститутивные основания поведения робота, производящего артефакт. Робот может выступать в роли роболичности, если ему приписывается возможность компьютерной имитации мысли, смысла, свободы, личности, творчества. Такой робот интересен на предмет обнаружения креативности произведенных им артефактов. Если, однако, обнаружится отсутствие осмысленности в ходе продуцирования артефакта (например, когда оценщик или судья заметили подмену абстрагирования операцией обобщения), то тогда следует заключить, что творец артефакта – это, на самом деле, робозомби.	Алексеев Пожарев 2015, Алексеев Пожарев 2020, Алексеев 2020

<table class="MsoNormalTable" style="color: #000000; width: 642.7pt; background-color: white;" width="857" border="1" cellspacing="0" cellpadding="0">
<thead>
<tr>
<td style="width: 129.6pt; border: 1pt inset black; background-color: silver; padding: 0.75pt;" width="173">
Наименование тезиса
</td>
<td style="border: 1pt inset black; background-color: silver; padding: 0.75pt;">
Содержание тезиса
</td>
<td style="width: 96pt; border: 1pt inset black; background-color: silver; padding: 0.75pt;" width="128">
Библиография
</td>
</tr>
</thead>
<tbody>
<tr>
<td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173">
Компьютер может всё
</td>
<td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top">
Компьютер может всё то, что реализуют частные тесты Тьюринга
</td>
<td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128">
Алексеев 2016
</td>
</tr>
<tr>
<td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173">
Машина может мыслить
</td>
<td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top">
Вечный вопрос, решаемый в контексте ИТ
</td>
<td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128">
Turing 1950
</td>
</tr>
<tr>
<td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173">
Машина может играть в игру имитации интеллекта человека
</td>
<td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top">
Надо перевести вопрос "может ли машина мыслить" в плоскость "может ли машина играть в игру подражания человеческому поведению?"
</td>
<td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128">
Turing 1950, P.433, P.435
</td>
</tr>
<tr>
<td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173">
Машина способна играть в игру имитации пола человека
</td>
<td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top">
Надо перевести вопрос "может ли машина мыслить" в плоскость ""может ли компьютер имитировать когнитивные способности человека
</td>
<td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128">
Алексеев 2013
</td>
</tr>
<tr>
<td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173">
Вероятность доверительности к системе ИИ
</td>
<td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top">
Когда играет компьютер, судья будет ошибаться в 30 процентах случаев столь же часто, когда ошибается при игре с человеком
</td>
<td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128">
Тuring 1950,&nbsp;P442
</td>
</tr>
<tr>
<td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173">
Новая интерпретация тезиса Тьюринга об игре в имитацию
</td>
<td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top">
Надо перевести вопрос "может ли машина мыслить" в плоскость "может ли компьютер имитировать когнитивные способности человека"
</td>
<td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128">
Алексеев 2016, Указ № 490
</td>
</tr>
<tr>
<td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173">
Математическое возражение
</td>
<td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top">
Некоторые теоремы доказывают ограниченность мощности дискретных машин. Например, теорема Гёделя показывает, что в замкнутой логической системе достаточной мощности обязательно найдется утверждение, которое нельзя ни доказать, ни опровергнуть собственными средствами этой системы.
</td>
<td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128">
Тuring 1950, P.444
</td>
</tr>
<tr>
<td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173">
Вычислительная ограниченность интеллекта
</td>
<td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top">
Ограничения на мощность каждой конкретной машины установлены. Однако надо доказать, что эти ограничения не затрагивают человеческого интеллекта.
</td>
<td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128">
Тuring 1950, P.444
</td>
</tr>
<tr>
<td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173">
Доказать теорему о доказательстве недоказуемой теоремы
</td>
<td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top">
Надо доказать, что сами эти теоремы не требуют доказательств
</td>
<td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128">
Тuring 1950, P.445
</td>
</tr>
<tr>
<td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173">
Ошибки интеллекта
</td>
<td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top">
Надо доказать, что машины, обладающие интеллектом, не ошибаются
</td>
<td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128">
Тuring 1950, P.445
</td>
</tr>
<tr>
<td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173">
Требование безошибочности интеллекта
</td>
<td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top">
Отсутствие или наличие ошибок не есть требование к мышлению
</td>
<td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128">
Тuring 1950, P.445
</td>
</tr>
<tr>
<td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173">
Аргумент Лукаса
</td>
<td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top">
Разум не представим механизмом из-за проблем с теоремой Гёделя
</td>
<td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128">
Lucas 1961
</td>
</tr>
<tr>
<td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173">
Аргумент Пенроуза
</td>
<td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top">
Из-за проблем с теоремой Геделя разум должен быть представлен квантовым компьютером
</td>
<td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128">
Пенроуз 2003
</td>
</tr>
<tr>
<td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173">
Софизм для машины
</td>
<td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top">
Если человека попросить разрешить софизм, то он впадет в противоречие, для него вопрос q также будет невозможен и судья не отличит компьютер от человека.
</td>
<td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128">
Алексеев 2006, С.236
</td>
</tr>
<tr>
<td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173">
Возражение с позиции сознания (проблема другого сознания)
</td>
<td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top">
Чтобы быть разумной, машина должна обладать сознанием: осознавать себя, чувствовать удовольствие от успеха, расстраиваться от неудач и т.д. Однако единственный способ действительно узнать, мыслит машина или не мыслит – это быть машиной. Согласно солипсизму, единственный способ узнать мыслит или не мыслит другой человек – быть этим другим человеком. А это невозможно. Данная проблема обычно называется проблемой другого сознания.
</td>
<td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128">
Turing 1950, P.445
</td>
</tr>
<tr>
<td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173">
Возражение о различных невозможностях
</td>
<td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top">
Машины никогда не смогут сделать Х, где Х может быть любой человеческой особенностью, такой как чувство юмора, креативность, способность влюбляться или обожать клубнику.
</td>
<td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128">
Turing 1950 P.447
</td>
</tr>
<tr>
<td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173">
Вторая производная аргумента "от сознания"
</td>
<td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top">
Данная критика, как правило, представляет замаскированный довод о сознании.
</td>
<td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128">
Turing 1950 P.447
</td>
</tr>
<tr>
<td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173">
Ненужность довода
</td>
<td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top">
Некоторые Х неуместны в контексте игры в имитацию интеллекта, например, зачем компьютеру делать ошибки и любить клубнику?
</td>
<td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128">
Turing 1950 P.447
</td>
</tr>
<tr>
<td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173">
Угрозы от систем ИИ колоссальны
</td>
<td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top">
В основе возражения лежит отвращение к идее о мыслящих машинах по причине того, что последствия появления и распространения таких машин будут ужасны
</td>
<td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128">
Тuring 1950
</td>
</tr>
<tr>
<td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173">
Возражение по поводу непрерывности нервной системы
</td>
<td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top">
Нервная система непрерывна и невозможно моделировать ее поведение посредством дискретной машины
</td>
<td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128">
Turing 1950, P.451
</td>
</tr>
<tr>
<td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173">
Аналого-цифровые и цифро-аналоговые преобразования
</td>
<td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top">
Непрерывная машина дискретно представима посредством аналого-цифрового преобразования таким способом, что судья не заметит дискретности
</td>
<td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128">
Turing 1950, P.451
</td>
</tr>
<tr>
<td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173">
Довод о неформальном поведении
</td>
<td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top">
Невозможна система правил, полностью описывающая поведение человека в любой вообразимой ситуации. Если бы каждый человек имел набор правил на все случаи жизни, он был бы не лучше машины. Таких правил нет. Следовательно, люди не могут быть машинами.
</td>
<td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128">
Turing 1950, P.451
</td>
</tr>
<tr>
<td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173">
Неполнота правил поведения
</td>
<td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top">
Полный свод правил невозможен, всегда может быть упущено какое-то правило.
</td>
<td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128">
Turing 1950, P.451
</td>
</tr>
<tr>
<td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173">
Непредсказумость машины
</td>
<td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top">
Наблюдая за поведением машины также невозможно предсказать её поведение.
</td>
<td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128">
Turing 1950, P.451
</td>
</tr>
<tr>
<td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173">
Теологическое возражение
</td>
<td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top">
Мышление есть свойство бессмертной души человека. Бог дал бессмертную душу только человеку. Следовательно, машины не могут мыслить.
</td>
<td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128">
Тuring 1950, P.443
</td>
</tr>
<tr>
<td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173">
Ограничение всесильности всемогущего
</td>
<td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top">
Разрабатывая системы ИИ мы поступаем по отношению к богу не более непочтительно, узурпируя его способность создавать души, чем мы делаем это, производя потомство.
</td>
<td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128">
Тuring 1950, P.443
</td>
</tr>
<tr>
<td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173">
Возражение от боязни и неприязни (&laquo;голова в песке&raquo;)
</td>
<td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top">
Ужасны угрозы появления систем ИИ и их распространения
</td>
<td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128">
Тuring 1950, P.444
</td>
</tr>
<tr>
<td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173">
Отвратительность идеи интеллектуальности машины
</td>
<td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top">
Одной из главных особенностей человека (Номо sapiens - [AA]) является его способность к мышлению и эту особенность было бы неприятно разделять с машинами.
</td>
<td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128">
Turing 1950, P.451
</td>
</tr>
<tr>
<td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173">
Шутка о реинкарнации
</td>
<td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top">
Возражение не надо опровергать, а сторонникам следует найти какое-либо утешение, что-то вроде переселения душ.
</td>
<td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128">
Turing 1950, P.451
</td>
</tr>
<tr>
<td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173">
Стена от телепатии
</td>
<td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top">
Если телепатия возможна, то судью следует помещать в комнату за стеной, защищающей от телепатии.
</td>
<td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128">
Turing 1950, P.453
</td>
</tr>
<tr>
<td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173">
Телепатическое возражение (&laquo;с точки зрения сверхчувственного восприятия&raquo;)
</td>
<td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top">
Человеку иногда присуще сверхчувственное восприятие, а машине – нет. Человек способен интуитивно постичь правильный ответ на нечёткий вопрос судьи. Машина на это не способна.
</td>
<td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128">
Turing 1950, P.453
</td>
</tr>
<tr>
<td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173">
Интеллект любой искусственной интеллектуальной машины суть исключительно интеллект её разработчиков (программистов)
</td>
<td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top">
Проблема с концепцией нового теста Тьюринга и её предшественниками заключается в том, что невозможно обнаружить отличия между поведением, которое отражает собственный интеллект машины и поведением, которое отражает только интеллект программистов, её сконструировавшими.
</td>
<td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128">
Блок 2006, С.45
</td>
</tr>
<tr>
<td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173">
Актуальные и потенциальные знания системы ИИ
</td>
<td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top">
Интеллектуальная машина обладает не только актуальными знаниями, как в игре в имитацию, но и потенциальными знаниями в соответствии с концепцией Нового теста Тьюринга
</td>
<td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128">
Блок 2006, С.45
</td>
</tr>
<tr>
<td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173">
Нехватка потенциальных знаний интеллектуальной системы
</td>
<td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top">
Если бы строки [машины Блока] были записаны только до начала текущего 2020 года, машина не смогла бы ответить, как человек, на предложение типа: &laquo;Что вы думаете о последних событиях на Украине?&raquo;
</td>
<td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128">
Блок 2006, С.4
</td>
</tr>
<tr>
<td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173">
Интеллект не определяется исключительно фактуальной информацией
</td>
<td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top">
Систему можно считать интеллектуальной, даже если в неё не заложены знания о текущих событиях.
</td>
<td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128">
Блок 2006, С.48
</td>
</tr>
<tr>
<td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173">
Механическая машина не может быть интеллектуальной
</td>
<td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top">
Машина с выявленной внутренней механической структурой не является интеллектуальной даже тогда, когда она кажется интеллектуальной в любом внешнем отношении.
</td>
<td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128">
Блок 2006, С.51
</td>
</tr>
<tr>
<td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173">
Имитировать интеллект невозможно
</td>
<td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top">
Машина с выявленной внутренней механической структурой не является интеллектуальной даже тогда, когда она кажется интеллектуальной в любом внешнем отношении.
</td>
<td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128">
Блок 2006, С.50
</td>
</tr>
<tr>
<td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173">
Можно выявить отличие интеллектуального механизма от интеллектуального организма
</td>
<td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top">
Анатомический принцип доверия &laquo;Вскрытие покажет&raquo;
</td>
<td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128">
Блок 2006, С.59
</td>
</tr>
<tr>
<td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173">
Компьютер может понимать
</td>
<td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top">
Компьютер фактически понимает смысл слов
</td>
<td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128">
пример подхода см. в [Шенк 1989]
</td>
</tr>
<tr>
<td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173">
Компьютер может фактически понимать (с позиции сильного ИИ)
</td>
<td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top">
Надо изучить роли вычисления для понимания в мысленном эксперименте "Китайская комната"
</td>
<td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128">
Серль 2004, P.6
</td>
</tr>
<tr>
<td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173">
Системологический отзыв
</td>
<td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top">
Понимание является функцией понимающей системы в целом, часть системы не способна к "пониманию"
</td>
<td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128">
Серль 2004, P.11
</td>
</tr>
<tr>
<td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173">
Коньюнкция понимающей и непонимающей подсистем
</td>
<td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top">
Абсурдность идеи о том, что хотя индивид и не понимает китайского, но некое соединение индивида с листами бумаги китайский понять сможет
</td>
<td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128">
Серль 2004, С.12
</td>
</tr>
<tr>
<td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173">
Понимание информации желудком
</td>
<td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top">
Китайский язык для непонимающего китайский язык - это просто совокупность ничего не значащих завитков. Информация не содержится ни в них, ни в пище. Она существует исключительно в головах программистов и интерпретаторов.
</td>
<td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128">
Серль 2004, С.14
</td>
</tr>
<tr>
<td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173">
Убеждение термостата Дж.Маккартни
</td>
<td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top">
Изучение разума начинается с признания факта наличия у человека убеждений, в то время как у термостатов, телефонов и арифмометров убеждений нет.
</td>
<td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128">
Серль 2004, С.15
</td>
</tr>
<tr>
<td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173">
Робототехнический отзыв
</td>
<td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top">
Робот [, осуществляющий манипуляции с внешними объектами, - А.А.] в отличие от компьютера Р.Шэнка, обладает подлинным пониманием и другими ментальными свойствами
</td>
<td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128">
Серль 2004, С.15
</td>
</tr>
<tr>
<td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173">
Я - гомункул робота
</td>
<td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top">
Роботу не присущи никакие интенциональные состояния, он просто перемещается в соответствии с программой и электрическими импульсами в проводах. В свою очередь, руководствуясь программой, я так же не обладаю никакими интенциональными переживаниями. Всё, что я делаю, это попросту следую формальным инструкциям по манипулированию формальными символами.
</td>
<td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128">
Серль 2006, С.16
</td>
</tr>
<tr>
<td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173">
Отзыв с позиции моделирования мозга
</td>
<td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top">
Если репродуцировать в искусственной системе нейральные связи китайца в состоянии понимания текстов, то машина будет буквально понимать
</td>
<td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128">
перефраз высказывания в [ Серль 2004, С.16]
</td>
</tr>
<tr>
<td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173">
Мозг как сантехническая система [труб]
</td>
<td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top">
По основной формуле сильного ИИ разум относится к мозгу так же, как программа относится к аппаратным средствам – можно изучать работу разума, не вдаваясь в нейрофизиологические исследования. Однако рассмотрение деятельности мозга в таком приближении недостаточно для уяснения того, как возможно понимание.
</td>
<td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128">
Серль 2006, С.16
</td>
</tr>
<tr>
<td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173">
В системах ИИ моделируются формальные, а не каузальные зависимости
</td>
<td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top">
Я определённо не понимаю китайский текст. Не понимают его и водопроводные трубы. Если же полагать, что понимать способна конъюнкция человека и водопроводных труб, то, в принципе, человек может представить формализованную структуру водопроводных труб и в своём воображении произвести все &laquo;нейронные возбуждения&raquo;. Проблема с моделированием мозга в том, что моделируются не то, что нужно. Моделируется лишь формализованная последовательность возбуждений нейронов посредством синапсических связей, а важно смоделировать каузальные, т.е. причинные зависимости [,определяющие соотношение &laquo;мозг-сознание&raquo;]. Именно причинные зависимости задают возможность интенциональных переживаний. Формальных зависимостей для этого недостаточно.
</td>
<td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128">
Серль 2006, С.17
</td>
</tr>
<tr>
<td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173">
Нейроморфный аналог "понимания"
</td>
<td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top">
Человек в &laquo;китайской&raquo; комнате, ничего не понимающий по-китайски, перебирает не символы, а управляет системой водопроводных труб, соединённых клапанами. Когда человек получает китайский иероглиф, он ищет в программе, написанной на английском, какие клапаны ему нужно открыть, а какие – закрыть. Каждое соединение водяных отсеков соответствует синапсу в мозгу китайца, а система в целом устроена таким образом, что после должной последовательности возбуждений (что соответствует должной последовательности изменений положений вентилей) ответ на китайском языке вытекает из труб, соединённых требуемым образом.
</td>
<td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128">
Серль 2006, С.16
</td>
</tr>
<tr>
<td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173">
Комплексный отзыв
</td>
<td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top">
Понимание возможно для робота, репродуцирующего все нейральные связи мозга "понимающего" китайца и обладающего поведением, которое неотличимо от поведения этого китайца
</td>
<td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128">
Серль 2004, С.18
</td>
</tr>
<tr>
<td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173">
Цифровая кукла, имитирующая и внешние и внутренние связи человека, разумом не обладает
</td>
<td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top">
Приписываемая интенциональность не имеет ничего общего со способностью оперировать формальными программами. Это приписывание основано на простом утверждении машинного функционализма [Putnam, 1960], что если робот выглядит и ведет себя как человек, то, пока не доказано обратное, робот способен пребывать в ментальных состояниях, подобных человеческим
</td>
<td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128">
Серль 2006, С.19
</td>
</tr>
<tr>
<td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173">
Компьютерная имитация каузальной зависимости "мозг-сознание" никогда не будет фактической каузальной зависимостью
</td>
<td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top">
Функционирование мозга – это не формальная тень, отбрасываемая последовательностью синапсов, а реальные свойства этих последовательностей. Все аргументы сильной версии искусственного интеллекта – это образы, рисуемые по контуру теней, отбрасываемых когнитивной способностью, с последующими заявлениями, что тени на самом деле и есть искомая реальность.
</td>
<td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128">
Серль 2004, С.18
</td>
</tr>
<tr>
<td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173">
Отзыв с позиции проблемы &laquo;другого сознания&raquo;
</td>
<td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top">
Откуда известно, что другие люди понимают китайский язык, и откуда известно, что другие люди вообще что-либо понимают? Только исходя из анализа поведения. Компьютер в принципе способен проходить тесты [на когнитивные способности] с такими же результатами, как у людей. Поэтому, если приписывать способность понимания другим людям, то её следует приписывать и компьютерам
</td>
<td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128">
Серль 2004, С.18
</td>
</tr>
<tr>
<td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173">
Вычислимость "ортогональна" когнитивности
</td>
<td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top">
Проблема состоит не в том, каким образом известно, что у других имеются когнитивные функции, а в том, что же в действительности им приписывается, когда говорится об этих функциях. Аргумент [китайской комнаты] состоит в том, что когнитивные функции не могут быть представимы в форме вычислительных процессов и их внешних проявлений. Вычислительные процессы и их проявления могут существовать без каких-либо когнитивных функций.
</td>
<td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128">
Серль 2004, С.19
</td>
</tr>
<tr>
<td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173">
Футурологический отзыв
</td>
<td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top">
Чем бы не являлись причинные зависимости, необходимые для интенциональности, в будущем будут созданы машины, обладающие данными причинными зависимостями. Такие устройства, как и сегодняшние компьютеры – это тоже искусственный интеллект. Поэтому аргумент китайской комнаты никоим образом не направлен на возможность ИИ [по крайней мере, в будущем,] искусственно продуцировать и объяснять когнитивные способности
</td>
<td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128">
Серль 2004, С.20
</td>
</tr>
<tr>
<td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173">
Машина может творить (контраргумент Ады Лавлейс)
</td>
<td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top">
Машины не способны к творчеству, не могут ничего нового сделать и не могут удивить нас. А если и удивляют своей способностью к мышлению, то в силу приписывания им этой способности со стороны человека
</td>
<td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128">
Turing 1950, P.450
</td>
</tr>
<tr>
<td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173">
Аргумент Ады Лавлейс (1843)
</td>
<td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top">
Компьютер может создать высокохудожественное произведение, однако самостоятельно творить не может: машина лишь пассивно исполняет инструкции разработчика-программиста
</td>
<td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128">
Menabrea 1842
</td>
</tr>
<tr>
<td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173">
Контраргумент Тьюринга (1950 г.)
</td>
<td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top">
Машина может творить и, следовательно, мыслить. Контраргумент Тьюринга делится на две части: символьное и коннекционистское возражение.
</td>
<td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128">
Turing 1950, P.450
</td>
</tr>
<tr>
<td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173">
Символьный ответ аргументу Лавлейс (1950 г.)
</td>
<td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top">
Неубедительно: разработчик пытается обмануть наблюдателя (эксперта, тьюрингового судью) в неотличимости творчества и его программной имитации. Оригинальность продукта определяется неожиданным ходом выполнения программы, например, машинным сбоем или неведением пользователя.
</td>
<td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128">
Алексеев, Янковская 2015
</td>
</tr>
<tr>
<td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173">
Коннекционистский ответ аргументу Лавлейс (1950 г.)
</td>
<td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top">
Частично доверительное отношение: в общих чертах поведение робота предсказуемо, однако частные продукты машинного обучения могут казаться оригинальными.
</td>
<td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128">
Алексеев, Янковская 2015
</td>
</tr>
<tr>
<td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173">
Тест Лавлейс (2000 г.)
</td>
<td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top">
Отрицается символьный ответ Тьюринга путем постулирования аксиом, запрещающих обман наблюдателя и сбой программы. Уникальность артефакта ограничена тем, что продукты известны разработчику: множество продуктов может быть потенциально бесконечным, тем не менее оно декларативно или процедурально задано, следовательно, актуально конечно и предсказуемо
</td>
<td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128">
Брингсйорд и др. 2006
</td>
</tr>
<tr>
<td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173">
Тест Лавлейс 2.0 (2015 г.)
</td>
<td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top">
Отрицается коннекционистский ответ Тьюринга, так как применим к нейронным сетям глубокого обучения. Судье сложно оценить креативность артефакта вне сферы его творческих компетенций. Аксиоматика ужесточается специализацией предметных областей и введением роли оценщика креативности продуктов.
</td>
<td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128">
Mark O. Riedl 2015
</td>
</tr>
<tr>
<td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173">
Тест Лавлейс 3.0 (2015 г.)
</td>
<td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top">
Дополняет предыдущую версию аксиомой обнаружения оценщиком осмысленного производства артефакта. Машина не способна продуцировать смысл, поэтому по-настоящему творить не может. Новый тест пройти нельзя, однако возможны относительные успехи креативной компьютерной техники. Для этого нужны технические принципы интеграции символьного и коннекционистского подходов. Новый тест выявляет смыслоконститутивные основания поведения робота, производящего артефакт. Робот может выступать в роли роболичности, если ему приписывается возможность компьютерной имитации мысли, смысла, свободы, личности, творчества. Такой робот интересен на предмет обнаружения креативности произведенных им артефактов. Если, однако, обнаружится отсутствие осмысленности в ходе продуцирования артефакта (например, когда оценщик или судья заметили подмену абстрагирования операцией обобщения), то тогда следует заключить, что творец артефакта – это, на самом деле, робозомби.
</td>
<td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128">
Алексеев Пожарев 2015, Алексеев Пожарев 2020,
Алексеев 2020
</td>
</tr>
</tbody>
</table>

<table class="MsoNormalTable" style="color: #000000; width: 642.7pt; background-color: white;" width="857" border="1" cellspacing="0" cellpadding="0"> <thead> <tr> <td style="width: 129.6pt; border: 1pt inset black; background-color: silver; padding: 0.75pt;" width="173"> Наименование тезиса </td> <td style="border: 1pt inset black; background-color: silver; padding: 0.75pt;"> Содержание тезиса </td> <td style="width: 96pt; border: 1pt inset black; background-color: silver; padding: 0.75pt;" width="128"> Библиография </td> </tr> </thead> <tbody> <tr> <td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173"> Компьютер может всё </td> <td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top"> Компьютер может всё то, что реализуют частные тесты Тьюринга </td> <td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128"> Алексеев 2016 </td> </tr> <tr> <td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173"> Машина может мыслить </td> <td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top"> Вечный вопрос, решаемый в контексте ИТ </td> <td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128"> Turing 1950 </td> </tr> <tr> <td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173"> Машина может играть в игру имитации интеллекта человека </td> <td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top"> Надо перевести вопрос "может ли машина мыслить" в плоскость "может ли машина играть в игру подражания человеческому поведению?" </td> <td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128"> Turing 1950, P.433, P.435 </td> </tr> <tr> <td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173"> Машина способна играть в игру имитации пола человека </td> <td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top"> Надо перевести вопрос "может ли машина мыслить" в плоскость ""может ли компьютер имитировать когнитивные способности человека </td> <td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128"> Алексеев 2013 </td> </tr> <tr> <td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173"> Вероятность доверительности к системе ИИ </td> <td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top"> Когда играет компьютер, судья будет ошибаться в 30 процентах случаев столь же часто, когда ошибается при игре с человеком </td> <td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128"> Тuring 1950, P442 </td> </tr> <tr> <td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173"> Новая интерпретация тезиса Тьюринга об игре в имитацию </td> <td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top"> Надо перевести вопрос "может ли машина мыслить" в плоскость "может ли компьютер имитировать когнитивные способности человека" </td> <td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128"> Алексеев 2016, Указ № 490 </td> </tr> <tr> <td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173"> Математическое возражение </td> <td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top"> Некоторые теоремы доказывают ограниченность мощности дискретных машин. Например, теорема Гёделя показывает, что в замкнутой логической системе достаточной мощности обязательно найдется утверждение, которое нельзя ни доказать, ни опровергнуть собственными средствами этой системы. </td> <td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128"> Тuring 1950, P.444 </td> </tr> <tr> <td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173"> Вычислительная ограниченность интеллекта </td> <td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top"> Ограничения на мощность каждой конкретной машины установлены. Однако надо доказать, что эти ограничения не затрагивают человеческого интеллекта. </td> <td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128"> Тuring 1950, P.444 </td> </tr> <tr> <td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173"> Доказать теорему о доказательстве недоказуемой теоремы </td> <td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top"> Надо доказать, что сами эти теоремы не требуют доказательств </td> <td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128"> Тuring 1950, P.445 </td> </tr> <tr> <td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173"> Ошибки интеллекта </td> <td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top"> Надо доказать, что машины, обладающие интеллектом, не ошибаются </td> <td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128"> Тuring 1950, P.445 </td> </tr> <tr> <td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173"> Требование безошибочности интеллекта </td> <td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top"> Отсутствие или наличие ошибок не есть требование к мышлению </td> <td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128"> Тuring 1950, P.445 </td> </tr> <tr> <td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173"> Аргумент Лукаса </td> <td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top"> Разум не представим механизмом из-за проблем с теоремой Гёделя </td> <td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128"> Lucas 1961 </td> </tr> <tr> <td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173"> Аргумент Пенроуза </td> <td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top"> Из-за проблем с теоремой Геделя разум должен быть представлен квантовым компьютером </td> <td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128"> Пенроуз 2003 </td> </tr> <tr> <td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173"> Софизм для машины </td> <td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top"> Если человека попросить разрешить софизм, то он впадет в противоречие, для него вопрос q также будет невозможен и судья не отличит компьютер от человека. </td> <td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128"> Алексеев 2006, С.236 </td> </tr> <tr> <td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173"> Возражение с позиции сознания (проблема другого сознания) </td> <td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top"> Чтобы быть разумной, машина должна обладать сознанием: осознавать себя, чувствовать удовольствие от успеха, расстраиваться от неудач и т.д. Однако единственный способ действительно узнать, мыслит машина или не мыслит – это быть машиной. Согласно солипсизму, единственный способ узнать мыслит или не мыслит другой человек – быть этим другим человеком. А это невозможно. Данная проблема обычно называется проблемой другого сознания. </td> <td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128"> Turing 1950, P.445 </td> </tr> <tr> <td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173"> Возражение о различных невозможностях </td> <td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top"> Машины никогда не смогут сделать Х, где Х может быть любой человеческой особенностью, такой как чувство юмора, креативность, способность влюбляться или обожать клубнику. </td> <td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128"> Turing 1950 P.447 </td> </tr> <tr> <td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173"> Вторая производная аргумента "от сознания" </td> <td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top"> Данная критика, как правило, представляет замаскированный довод о сознании. </td> <td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128"> Turing 1950 P.447 </td> </tr> <tr> <td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173"> Ненужность довода </td> <td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top"> Некоторые Х неуместны в контексте игры в имитацию интеллекта, например, зачем компьютеру делать ошибки и любить клубнику? </td> <td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128"> Turing 1950 P.447 </td> </tr> <tr> <td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173"> Угрозы от систем ИИ колоссальны </td> <td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top"> В основе возражения лежит отвращение к идее о мыслящих машинах по причине того, что последствия появления и распространения таких машин будут ужасны </td> <td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128"> Тuring 1950 </td> </tr> <tr> <td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173"> Возражение по поводу непрерывности нервной системы </td> <td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top"> Нервная система непрерывна и невозможно моделировать ее поведение посредством дискретной машины </td> <td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128"> Turing 1950, P.451 </td> </tr> <tr> <td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173"> Аналого-цифровые и цифро-аналоговые преобразования </td> <td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top"> Непрерывная машина дискретно представима посредством аналого-цифрового преобразования таким способом, что судья не заметит дискретности </td> <td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128"> Turing 1950, P.451 </td> </tr> <tr> <td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173"> Довод о неформальном поведении </td> <td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top"> Невозможна система правил, полностью описывающая поведение человека в любой вообразимой ситуации. Если бы каждый человек имел набор правил на все случаи жизни, он был бы не лучше машины. Таких правил нет. Следовательно, люди не могут быть машинами. </td> <td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128"> Turing 1950, P.451 </td> </tr> <tr> <td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173"> Неполнота правил поведения </td> <td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top"> Полный свод правил невозможен, всегда может быть упущено какое-то правило. </td> <td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128"> Turing 1950, P.451 </td> </tr> <tr> <td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173"> Непредсказумость машины </td> <td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top"> Наблюдая за поведением машины также невозможно предсказать её поведение. </td> <td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128"> Turing 1950, P.451 </td> </tr> <tr> <td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173"> Теологическое возражение </td> <td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top"> Мышление есть свойство бессмертной души человека. Бог дал бессмертную душу только человеку. Следовательно, машины не могут мыслить. </td> <td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128"> Тuring 1950, P.443 </td> </tr> <tr> <td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173"> Ограничение всесильности всемогущего </td> <td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top"> Разрабатывая системы ИИ мы поступаем по отношению к богу не более непочтительно, узурпируя его способность создавать души, чем мы делаем это, производя потомство. </td> <td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128"> Тuring 1950, P.443 </td> </tr> <tr> <td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173"> Возражение от боязни и неприязни («голова в песке») </td> <td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top"> Ужасны угрозы появления систем ИИ и их распространения </td> <td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128"> Тuring 1950, P.444 </td> </tr> <tr> <td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173"> Отвратительность идеи интеллектуальности машины </td> <td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top"> Одной из главных особенностей человека (Номо sapiens - [AA]) является его способность к мышлению и эту особенность было бы неприятно разделять с машинами. </td> <td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128"> Turing 1950, P.451 </td> </tr> <tr> <td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173"> Шутка о реинкарнации </td> <td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top"> Возражение не надо опровергать, а сторонникам следует найти какое-либо утешение, что-то вроде переселения душ. </td> <td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128"> Turing 1950, P.451 </td> </tr> <tr> <td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173"> Стена от телепатии </td> <td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top"> Если телепатия возможна, то судью следует помещать в комнату за стеной, защищающей от телепатии. </td> <td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128"> Turing 1950, P.453 </td> </tr> <tr> <td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173"> Телепатическое возражение («с точки зрения сверхчувственного восприятия») </td> <td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top"> Человеку иногда присуще сверхчувственное восприятие, а машине – нет. Человек способен интуитивно постичь правильный ответ на нечёткий вопрос судьи. Машина на это не способна. </td> <td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128"> Turing 1950, P.453 </td> </tr> <tr> <td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173"> Интеллект любой искусственной интеллектуальной машины суть исключительно интеллект её разработчиков (программистов) </td> <td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top"> Проблема с концепцией нового теста Тьюринга и её предшественниками заключается в том, что невозможно обнаружить отличия между поведением, которое отражает собственный интеллект машины и поведением, которое отражает только интеллект программистов, её сконструировавшими. </td> <td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128"> Блок 2006, С.45 </td> </tr> <tr> <td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173"> Актуальные и потенциальные знания системы ИИ </td> <td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top"> Интеллектуальная машина обладает не только актуальными знаниями, как в игре в имитацию, но и потенциальными знаниями в соответствии с концепцией Нового теста Тьюринга </td> <td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128"> Блок 2006, С.45 </td> </tr> <tr> <td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173"> Нехватка потенциальных знаний интеллектуальной системы </td> <td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top"> Если бы строки [машины Блока] были записаны только до начала текущего 2020 года, машина не смогла бы ответить, как человек, на предложение типа: «Что вы думаете о последних событиях на Украине?» </td> <td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128"> Блок 2006, С.4 </td> </tr> <tr> <td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173"> Интеллект не определяется исключительно фактуальной информацией </td> <td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top"> Систему можно считать интеллектуальной, даже если в неё не заложены знания о текущих событиях. </td> <td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128"> Блок 2006, С.48 </td> </tr> <tr> <td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173"> Механическая машина не может быть интеллектуальной </td> <td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top"> Машина с выявленной внутренней механической структурой не является интеллектуальной даже тогда, когда она кажется интеллектуальной в любом внешнем отношении. </td> <td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128"> Блок 2006, С.51 </td> </tr> <tr> <td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173"> Имитировать интеллект невозможно </td> <td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top"> Машина с выявленной внутренней механической структурой не является интеллектуальной даже тогда, когда она кажется интеллектуальной в любом внешнем отношении. </td> <td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128"> Блок 2006, С.50 </td> </tr> <tr> <td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173"> Можно выявить отличие интеллектуального механизма от интеллектуального организма </td> <td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top"> Анатомический принцип доверия «Вскрытие покажет» </td> <td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128"> Блок 2006, С.59 </td> </tr> <tr> <td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173"> Компьютер может понимать </td> <td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top"> Компьютер фактически понимает смысл слов </td> <td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128"> пример подхода см. в [Шенк 1989] </td> </tr> <tr> <td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173"> Компьютер может фактически понимать (с позиции сильного ИИ) </td> <td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top"> Надо изучить роли вычисления для понимания в мысленном эксперименте "Китайская комната" </td> <td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128"> Серль 2004, P.6 </td> </tr> <tr> <td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173"> Системологический отзыв </td> <td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top"> Понимание является функцией понимающей системы в целом, часть системы не способна к "пониманию" </td> <td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128"> Серль 2004, P.11 </td> </tr> <tr> <td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173"> Коньюнкция понимающей и непонимающей подсистем </td> <td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top"> Абсурдность идеи о том, что хотя индивид и не понимает китайского, но некое соединение индивида с листами бумаги китайский понять сможет </td> <td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128"> Серль 2004, С.12 </td> </tr> <tr> <td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173"> Понимание информации желудком </td> <td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top"> Китайский язык для непонимающего китайский язык - это просто совокупность ничего не значащих завитков. Информация не содержится ни в них, ни в пище. Она существует исключительно в головах программистов и интерпретаторов. </td> <td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128"> Серль 2004, С.14 </td> </tr> <tr> <td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173"> Убеждение термостата Дж.Маккартни </td> <td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top"> Изучение разума начинается с признания факта наличия у человека убеждений, в то время как у термостатов, телефонов и арифмометров убеждений нет. </td> <td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128"> Серль 2004, С.15 </td> </tr> <tr> <td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173"> Робототехнический отзыв </td> <td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top"> Робот [, осуществляющий манипуляции с внешними объектами, - А.А.] в отличие от компьютера Р.Шэнка, обладает подлинным пониманием и другими ментальными свойствами </td> <td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128"> Серль 2004, С.15 </td> </tr> <tr> <td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173"> Я - гомункул робота </td> <td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top"> Роботу не присущи никакие интенциональные состояния, он просто перемещается в соответствии с программой и электрическими импульсами в проводах. В свою очередь, руководствуясь программой, я так же не обладаю никакими интенциональными переживаниями. Всё, что я делаю, это попросту следую формальным инструкциям по манипулированию формальными символами. </td> <td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128"> Серль 2006, С.16 </td> </tr> <tr> <td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173"> Отзыв с позиции моделирования мозга </td> <td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top"> Если репродуцировать в искусственной системе нейральные связи китайца в состоянии понимания текстов, то машина будет буквально понимать </td> <td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128"> перефраз высказывания в [ Серль 2004, С.16] </td> </tr> <tr> <td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173"> Мозг как сантехническая система [труб] </td> <td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top"> По основной формуле сильного ИИ разум относится к мозгу так же, как программа относится к аппаратным средствам – можно изучать работу разума, не вдаваясь в нейрофизиологические исследования. Однако рассмотрение деятельности мозга в таком приближении недостаточно для уяснения того, как возможно понимание. </td> <td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128"> Серль 2006, С.16 </td> </tr> <tr> <td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173"> В системах ИИ моделируются формальные, а не каузальные зависимости </td> <td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top"> Я определённо не понимаю китайский текст. Не понимают его и водопроводные трубы. Если же полагать, что понимать способна конъюнкция человека и водопроводных труб, то, в принципе, человек может представить формализованную структуру водопроводных труб и в своём воображении произвести все «нейронные возбуждения». Проблема с моделированием мозга в том, что моделируются не то, что нужно. Моделируется лишь формализованная последовательность возбуждений нейронов посредством синапсических связей, а важно смоделировать каузальные, т.е. причинные зависимости [,определяющие соотношение «мозг-сознание»]. Именно причинные зависимости задают возможность интенциональных переживаний. Формальных зависимостей для этого недостаточно. </td> <td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128"> Серль 2006, С.17 </td> </tr> <tr> <td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173"> Нейроморфный аналог "понимания" </td> <td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top"> Человек в «китайской» комнате, ничего не понимающий по-китайски, перебирает не символы, а управляет системой водопроводных труб, соединённых клапанами. Когда человек получает китайский иероглиф, он ищет в программе, написанной на английском, какие клапаны ему нужно открыть, а какие – закрыть. Каждое соединение водяных отсеков соответствует синапсу в мозгу китайца, а система в целом устроена таким образом, что после должной последовательности возбуждений (что соответствует должной последовательности изменений положений вентилей) ответ на китайском языке вытекает из труб, соединённых требуемым образом. </td> <td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128"> Серль 2006, С.16 </td> </tr> <tr> <td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173"> Комплексный отзыв </td> <td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top"> Понимание возможно для робота, репродуцирующего все нейральные связи мозга "понимающего" китайца и обладающего поведением, которое неотличимо от поведения этого китайца </td> <td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128"> Серль 2004, С.18 </td> </tr> <tr> <td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173"> Цифровая кукла, имитирующая и внешние и внутренние связи человека, разумом не обладает </td> <td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top"> Приписываемая интенциональность не имеет ничего общего со способностью оперировать формальными программами. Это приписывание основано на простом утверждении машинного функционализма [Putnam, 1960], что если робот выглядит и ведет себя как человек, то, пока не доказано обратное, робот способен пребывать в ментальных состояниях, подобных человеческим </td> <td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128"> Серль 2006, С.19 </td> </tr> <tr> <td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173"> Компьютерная имитация каузальной зависимости "мозг-сознание" никогда не будет фактической каузальной зависимостью </td> <td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top"> Функционирование мозга – это не формальная тень, отбрасываемая последовательностью синапсов, а реальные свойства этих последовательностей. Все аргументы сильной версии искусственного интеллекта – это образы, рисуемые по контуру теней, отбрасываемых когнитивной способностью, с последующими заявлениями, что тени на самом деле и есть искомая реальность. </td> <td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128"> Серль 2004, С.18 </td> </tr> <tr> <td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173"> Отзыв с позиции проблемы «другого сознания» </td> <td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top"> Откуда известно, что другие люди понимают китайский язык, и откуда известно, что другие люди вообще что-либо понимают? Только исходя из анализа поведения. Компьютер в принципе способен проходить тесты [на когнитивные способности] с такими же результатами, как у людей. Поэтому, если приписывать способность понимания другим людям, то её следует приписывать и компьютерам </td> <td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128"> Серль 2004, С.18 </td> </tr> <tr> <td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173"> Вычислимость "ортогональна" когнитивности </td> <td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top"> Проблема состоит не в том, каким образом известно, что у других имеются когнитивные функции, а в том, что же в действительности им приписывается, когда говорится об этих функциях. Аргумент [китайской комнаты] состоит в том, что когнитивные функции не могут быть представимы в форме вычислительных процессов и их внешних проявлений. Вычислительные процессы и их проявления могут существовать без каких-либо когнитивных функций. </td> <td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128"> Серль 2004, С.19 </td> </tr> <tr> <td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173"> Футурологический отзыв </td> <td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top"> Чем бы не являлись причинные зависимости, необходимые для интенциональности, в будущем будут созданы машины, обладающие данными причинными зависимостями. Такие устройства, как и сегодняшние компьютеры – это тоже искусственный интеллект. Поэтому аргумент китайской комнаты никоим образом не направлен на возможность ИИ [по крайней мере, в будущем,] искусственно продуцировать и объяснять когнитивные способности </td> <td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128"> Серль 2004, С.20 </td> </tr> <tr> <td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173"> Машина может творить (контраргумент Ады Лавлейс) </td> <td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top"> Машины не способны к творчеству, не могут ничего нового сделать и не могут удивить нас. А если и удивляют своей способностью к мышлению, то в силу приписывания им этой способности со стороны человека </td> <td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128"> Turing 1950, P.450 </td> </tr> <tr> <td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173"> Аргумент Ады Лавлейс (1843) </td> <td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top"> Компьютер может создать высокохудожественное произведение, однако самостоятельно творить не может: машина лишь пассивно исполняет инструкции разработчика-программиста </td> <td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128"> Menabrea 1842 </td> </tr> <tr> <td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173"> Контраргумент Тьюринга (1950 г.) </td> <td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top"> Машина может творить и, следовательно, мыслить. Контраргумент Тьюринга делится на две части: символьное и коннекционистское возражение. </td> <td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128"> Turing 1950, P.450 </td> </tr> <tr> <td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173"> Символьный ответ аргументу Лавлейс (1950 г.) </td> <td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top"> Неубедительно: разработчик пытается обмануть наблюдателя (эксперта, тьюрингового судью) в неотличимости творчества и его программной имитации. Оригинальность продукта определяется неожиданным ходом выполнения программы, например, машинным сбоем или неведением пользователя. </td> <td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128"> Алексеев, Янковская 2015 </td> </tr> <tr> <td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173"> Коннекционистский ответ аргументу Лавлейс (1950 г.) </td> <td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top"> Частично доверительное отношение: в общих чертах поведение робота предсказуемо, однако частные продукты машинного обучения могут казаться оригинальными. </td> <td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128"> Алексеев, Янковская 2015 </td> </tr> <tr> <td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173"> Тест Лавлейс (2000 г.) </td> <td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top"> Отрицается символьный ответ Тьюринга путем постулирования аксиом, запрещающих обман наблюдателя и сбой программы. Уникальность артефакта ограничена тем, что продукты известны разработчику: множество продуктов может быть потенциально бесконечным, тем не менее оно декларативно или процедурально задано, следовательно, актуально конечно и предсказуемо </td> <td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128"> Брингсйорд и др. 2006 </td> </tr> <tr> <td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173"> Тест Лавлейс 2.0 (2015 г.) </td> <td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top"> Отрицается коннекционистский ответ Тьюринга, так как применим к нейронным сетям глубокого обучения. Судье сложно оценить креативность артефакта вне сферы его творческих компетенций. Аксиоматика ужесточается специализацией предметных областей и введением роли оценщика креативности продуктов. </td> <td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128"> Mark O. Riedl 2015 </td> </tr> <tr> <td style="width: 129.6pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="173"> Тест Лавлейс 3.0 (2015 г.) </td> <td style="border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top"> Дополняет предыдущую версию аксиомой обнаружения оценщиком осмысленного производства артефакта. Машина не способна продуцировать смысл, поэтому по-настоящему творить не может. Новый тест пройти нельзя, однако возможны относительные успехи креативной компьютерной техники. Для этого нужны технические принципы интеграции символьного и коннекционистского подходов. Новый тест выявляет смыслоконститутивные основания поведения робота, производящего артефакт. Робот может выступать в роли роболичности, если ему приписывается возможность компьютерной имитации мысли, смысла, свободы, личности, творчества. Такой робот интересен на предмет обнаружения креативности произведенных им артефактов. Если, однако, обнаружится отсутствие осмысленности в ходе продуцирования артефакта (например, когда оценщик или судья заметили подмену абстрагирования операцией обобщения), то тогда следует заключить, что творец артефакта – это, на самом деле, робозомби. </td> <td style="width: 96pt; border: 1pt inset #d0d7e5; padding: 0.75pt;" valign="top" width="128"> Алексеев Пожарев 2015, Алексеев Пожарев 2020, Алексеев 2020 </td> </tr> </tbody> </table>

ГОСТ	Алексеев А. Ю. , Гарбук С. В. Как можно доверять системам искусственного интеллекта? Объективные, субъективные и интерсубъективные параметры доверия. // Искусственные общества. – 2022. – T. 17. – Выпуск 2. URL: https://artsoc.jes.su/s207751800020550-4-1/. DOI: 10.18254/S207751800020550-4
MLA	Alekseev, Andrey, Garbuk, Sergey "How can you trust Artificial Intelligence Systems? Objective, Subjective and Intersubjective parameters of Trust." Artificial societies. 17.2 (2022). DOI: 10.18254/S207751800020550-4
APA	Alekseev A., Garbuk S. (2022). How can you trust Artificial Intelligence Systems? Objective, Subjective and Intersubjective parameters of Trust. Artificial societies. vol. 17, no. 2 DOI: 10.18254/S207751800020550-4