Multiagent categories of roboPhilosophy: the roboPerson and a roboZombie
Table of contents
Share
Metrics
Multiagent categories of roboPhilosophy: the roboPerson and a roboZombie
Annotation
PII
S207751800009761-6-1
DOI
10.18254/S207751800009761-6
Publication type
Article
Статус публикации
Published
Authors
Andrey Alekseev 
Occupation: Leading researcher
Affiliation: Moscow State University
Address: Russian Federation, Moscow
Abstract

To form roboPhilosophy - a special methodological and worldview apparatus for studying robotic capabilities, problems and risks, it is proposed to introduce the opposition of two categories: roboPerson and roboZombie. RoboPerson is considered in the context of methodological studies of the project of Аrtificial Person, roboZombies - metaphysical studies of philosophical zombies. It is proposed to distinguish between individual and social roboPersons. RoboZombies are robots that do not differ from natural persons in a number of abstract characteristics, but in which there is no consciousness, personality, I. It is also proposed to distinguish between individual and social roboZombies. The methodological importance of the roboPerson category and the worldview significance of the roboZombie category are proved. RoboPersons must go along with roboZombies along the path of building roboPhilosophy.

Keywords
multi-agent research, roboPhilosophy, project of artificial person, philosophical zombies, roboPerson, roboZombie.
Received
19.04.2020
Date of publication
09.06.2020
Number of purchasers
29
Views
831
Readers community rating
5.0 (1 votes)
Cite Download pdf

To download PDF you should sign in

Additional services access
Additional services for the article
Additional services for all issues for 2020
1

Введение

Цель работы состоит в формировании концептуального аппарата робофилософии как мировоззренчески ориентированной сложностной системы междисциплинарных исследований робототехнических проектов. Концептуальный аппарат классической философии создавался веками. Он включает известные оппозиции категорий субъект/объект, часть/целое, причина/следствие, необходимость/случайность, явление/сущность и др. В специальных версиях современной философии – в философии искусственного интеллекта, нейрофилософии, робофилософии – эти категории трансформируются, изменяются, возникают новые: экстернализм/интернализм, доказательность/вычислимость, регулярное/сингулярное, аналоговое/цифровое, символизм/коннекционизм, антропоморфное/универсальное, сильный ИИ/слабый ИИ, тест Тьюринга/код Дубровского1 и др.
1. Тест Тьюринга – это принципиальная схема компьютерной имитации когнитивных феноменов. Код Дубровского задает принципиальную схему функционально-кибернетических отношений между психическими явлениями и их нейральными коррелятами. В отличие от теста Тьюринга, код Дубровского ориентирован не на имитацию, а на репродуцирование когнитивных феноменов посредством криптологической расшифровки нейрального кода.
2 Для робофилософии важной представляется оппозиция концептов «роболичность»/«робозомби». В их смысловом единстве отражены принципиальные робототехнические возможности выражать и культивировать в компьютерном мире «самое самое» в человеке, его личностное, приватное, Я. Роболичность – это робот, неотличимый от естественной личности. Способу его функционирования внешним или внутренним наблюдателем приписывается всевозможный спектр персонологических компетенций: познание, понимание, сознание, самосознание, чувственность, творчество, самость, яйность, свобода, ответственность и пр. Имеется и «оборотная сторона» приписывания, например, когда естественная личность, став узником «цифрового концлагеря», директивно объявляется неотличимой от механического робота.
3 Робозомби – это производное от метафизических исследований философских зомби. Робозомби также неотличимо от личности. Я-робот, Ты-робот, Мы-робот, это – как бы личности. Эти роботы создают высокохудожественные произведения, высказывают глубокомысленные слова, ведут себя почтенно и свято, но вот внутри у них нет «ничего личностного». Как такое возможно и мыслимо ли в принципе? Самой значимой, пожалуй, является проблема адекватности: как личностное симулировать неличностным? Например, как сознательное имитировать машинным, то есть посредством того, в чем точно нет никакой «сознательности», «подсознательности», «сверхсознательности» и «бессознательности»? Интересны и другие вопросы, например, границ феноменологической симуляции посредством компьютерной стимуляции: насколько роботы «во мне» способны сформировать виртуальную и дополненную реальности, неотличимую от реальной реальности, сформировать из меня «мозги в бочке». Робозомби внедряют в методологию роботехнологии классическую метафизику, воплощая в программах и информационных массивах дуализм, эпифеноменализм, панпсихизм, панперсонализм и пр. Имеется ли польза от этих зомбиевых укусов метафизики? Как будет показано ниже, в концептуальных спекуляциях когнитивной метафизики имеется некоторая выгода, можно заставить работать этих невозможных робозомби во благо роболичностей. Презумпция такова, что зомби – это недостаточный учет характеристик личности.
4 Роболичности и робозомби – это понятия мультиагентных суперкомпьютерных исследований (МАСКИ). Разве можно утверждать о возможностях компьютерных имитаций человеческих личностей посредством, скажем, структурного или объектно-ориентированного инструментария? Нейросетевой инструментарий, неожиданно объявленный основным методом интеллектуальной робототехники [Ефимов А. и др., 2019, с. 176 – 213], стал наносить урон моделям личности: в угоду статистике больших данных он отодвигает на задний план отработанные веками теории личности: психологические, лингвистические, социологические, религиоведческие и др. Нейросетевые модели, в свою очередь, один из этапов МАСКИ. Поэтому, без особых доказательств, будет очевидным полагать то, что категории роболичности и робозомби формируются в сфере МАСКИ.
5

Роболичность

Концепт роболичности достаточно четко выявляется в контексте проекта «искусственная личность». Тьюринговый проект искусственного интеллекта по сути и есть программа построения искусственной личности, то есть компьютерной системы, поведение которой неотличимо от внешнего лингвистического поведения человеческой личности [Turing 1950]. Такая артперсонологическая идея прослеживается в «полемическом стандарте Тьюринга», т.е. в ответах на воображаемые возражения по поводу возможностей построения «мыслящей машины» (см. подробнее в [Алексеев 2013, c.59 – 70]). Напомню то, что в «стандарт» вошли аргументы и контраргументы отнюдь не инженерно-технического плана: теологический, антисциентистский, креационистский, «от первого лица», «от другого сознания», «от творчества» и даже экстрасенсорный. Особенно четко идея «искусственной личности» прозвучала в заключение статьи, когда А. Тьюринг выразил оптимизм по поводу ролей разумных машин в будущем социальном обустройстве: машины станут работать как люди во всех сферах общественной жизни [Turing 1950, p.460].
6 С идеей «роболичности» автор столкнулся четверть века тому назад. Ему довелось выступить с рядом докладов о персонализации информационных технологий посредством экспертных систем, основанных на репрезентации «смыслов» [Алексеев 1994; 1996; 1998]. Важный доклад состоялся на конференции «Искусственный интеллект в XXI веке», 30 октября - 3 ноября 1995 г., г. Королев. Мероприятие было представительным: c пленарными докладами выступали Д.А. Поспелов и Г.С. Поспелов. Автор озвучил результаты работы над проектом «искусственная личность», который разрабатывался в 27 ЦНИИ Министерства обороны РФ. Дмитрий Александрович Поспелов выделил мой доклад, заметив следующее: в проекте, который ориентируется на моделирование не только «данных», «знаний», но и «смыслов», не стоит ограничиваться экспертным подходом. За рубежом, например, под «искусственной личностью» понимается робот, некий «Санчо Панса», помогающий пехотинцу нести тяжелое вооружение, его сопровождающий, как бы понимающий и исполняющий команды хозяина.
7 В самом деле, проекты с точностью до наименования призывают к отождествлению: «искусственная личность» (отечественный проект) и «The Artificial Person» (зарубежный проект). О наработках зарубежных коллег в те годы мы не знали: Интернета в начале 1990-х гг. не было, советское библиотечное информирование мучилось в агонии, проблемы, которые поднимались в проектах – компьютерное моделирование «смысла», «сознания», «самосознания», «самости» – не вызывали отклика среди ученых и программистов: это проблемы научно-фантастического, в лучшем случае, философско-мировоззренческого плана. Неприятие философии ИИ в исследованиях ИИ – это традиционное явление. Отмечу, однако, следующее: совсем недавно, три-четыре года назад, подобного рода проблемы неожиданно стали перспективными для национальных стратегий развития ИИ (см., например, [Ефимов А. и др. 2019, с. 178, с. 254 – 255]).
8 Рассмотрим совместно оба проекта искусственной личности. Назовем их, соответственно, робототехническим и экспертным подходом к проектированию искусственной личности, в общем (и к проектированию роболичности, в частности). Робототехника и экспертные системы – это самостоятельные направления в ИИ, исторически формировавшиеся на протяжении шестидесяти лет. «Сегодня неинтеллектуальной робототехники просто-напросто не существует», – утверждает А.Р. Ефимов, один из ведущих робототехников страны [Ефимов 2020]. Экспертные системы, в свою очередь, прочно обустроились в робототехнике: от веб-роботов сбора «биг дата» до социальных роботов государственного менеджмента.
9 Проект роболичности ускоряет конвергенцию экспертной и робототехнической технологий. Однако проект намечает глубокую дивергенцию по признакам не только социокультурной, но и, основательнее, персоналистической идентичности. Например, возможно ли обобщение роболичностей, которые создаются мультиагентным моделированием персонажей произведений Л.Н. Толстого и Ф.М. Достоевского? Многие согласятся, что при чтении произведений писателей-философов возникает чувство экзистенциальной несовместимости. А каково будет людям, которые в недалеком футурологическом сценарии подпадут под менеджмент этих социальных роболичностей? Перспективы реализации роболичности Толстого средствами акторно-сетевой теории весьма четко обозначены (см., например, [Технонаука 2019]). Сценарии такой роболичности, осмысляющей мир на фоне многомерных и многоплановых внешних событий, весьма реализуемы. Но каковы психологические перспективы людей, исполняющих роли роболичности Достоевского с ее разнообразными стереотипами смысложизненного самокопания?
10 Дивергентный статус роболичностей позволяет развести проекты тридцатилетней давности: зарубежный (индивидно-ориентированный, робототехнический) и отечественный проекты (общественно-ориентированный, экспертный). Это разные исторические и социокультурные основания для «de dicto» тождественных проектов «искусственная личность».
11

Индивидная роболичность

В начале 1990-х гг. в англо-американской литературе возник ряд крупных проектов искусственной личности. Во-первых, проект OSCAR Дж.Поллока (см. обзор в [Середкина 2007]), сформулированный в рамках «общей теории рациональности» с её приложениями для построения искусственных рациональных агентов («артилектов»). Во-вторых, проект «человекоподобных агентов» А.Сломана, призванный реализовать широкий спектр персонологических параметров, таких, как «любовь», «свобода» [Sloman 1998]. В-третьих, проект гуманоидных роботов COG Р.Брукса. Таких роботов перспективно накачать «нарративным сознанием» Д.Деннета [Деннет 2004]: личностное формируется автонарративами, т.е. сказаниями субъекта о себе и мире. В обозначенных проектах в обрамлении онтологических, эпистемологических, логических и др. контекстов аналитической философии предлагались конкретные робототехнические решения.
12 Для индивидной роболичности, на наш взгляд, показательна мультиагентная трехуровневая организация [Sloman 1998]. На реактивном уровне решаются узкие специальные задачи, отсутствуют средства формирования планов и описаний системы, множественные выборы и ветвления четко предопределены, многие процессы могут быть аналоговыми (непрерывными), возможны примитивные формы обучения, структурная перестройка агентов невозможна и адаптация происходит за счет настройки значений параметров.
13 На репрезентативном уровне строится динамическая модель предметной области, в которую включается и способ построения этой модели. Фиксируются явные мотивы агентов, разрабатываются их планы, создаются и развиваются их новые альтернативы, механизмы обучения и полученные результаты в обучении могут быть переведены на реактивный уровень, параллелизм не играет большой роли, так как механизмы обучения позволяют достигать определённой сложности, имеется интегральное управление, динамичная внешняя и внутренняя среда приводит к частым изменениям целей, необходима адаптация как самообучение этой системы, моделирующей саму себя.
14 На рефлексивном уровне осуществляется самомониторинг, самомодификация, самоуправление, саморазвитие, так как механизм метауправления улучшает распределение недостаточных ресурсов репрезентативного уровня; в памяти сохраняются и изучаются реактивные и репрезентативные агенты, исследуются новые стратегии и способности к генерализации и категоризации предметной области, развиваются высокоуровневые стратегии формирования целей и стереотипов поведения высокого уровня; сингулярно сталкиваются и сопоставляются точки зрения, осуществляется выбор фокуса внимания и др. А. Сломан полагает, что этом уровне имитируется феномен квазисознания, именно здесь пробуждается «как бы любовь» робота. Вопрос чрезвычайно важен, но мало изучен.
15 Отметим немаловажный вопрос о внешнем подобии мультиагентной системы человеческой личности. Здесь выделяются два подхода: универсальный и антропоморфный. Универсальный подход предлагается коллективом, заявившим программу Общего искусственного интеллекта (AGI). С 2008 г. под этим флагом проводятся международные конференции [AGI 2008-2020]. Главное в подходе, если подняться над разнообразием интересных методологических идей: разработать своеобразный цифровой аналог философского камня средневековых алхимиков, или, точнее, программу технологоса, компьютерно реализующей стоический логос как фундамент всевозможных нечеловеческих, недочеловеческих, человеческих, сверхчеловеческих разумов. Физические, психологические, лингвистические, интеллектуальные, персонологические, социокультурные, короче, все-все-все компетенции интеллектуальной системы производны относительно этого «общего искусственного интеллекта». На мой взгляд, сумасшедшая идея. Она овладела умами многих программистов и финансистов, что прискорбно для стратегии ИИ.
16 Антропоморфный подход развивается Родни Бруксом. Широко известен его робот COG, в особенности, в версии Kismet, впервые успешно сымитировавшей мимику человеческого лица. Р.Брукс полагает, что физическая антропоморфность робота это – первичное и необходимое качество, ведь все социокультурные понятия, посредством которых робот будет коммуницировать с людьми, предопределены физическими особенностями человека. Например, согласно риторическим принципам Дж. Лакоффа и М. Джонсона [Лакофф Дж., Джонсон М. 2002], безногому роботу трудно будет усвоить выражение «Перевернуть с головы на ноги».
17 Однако ни универсальный, ни антропоморфный принцип не валидны для индивидной роболичности. Методологически корректнее использовать принцип антропопатичности: присвоения качеств человеческой психики нечеловеческим объектам. Напомню, что антропоморфизм как принцип представления божества в образе человека применялся в классической философской антропологии Л. Фейербаха. С позиции этого принципа осуществлялась критика и идеалистической философии и религии [Фейербах 1974]. Термин «антропоморфизм», на мой взгляд, в робототехнике употребляется примерно так, как он употреблялся в словаре немецкой классической философии, т.е. в смысле Л. Фейербаха. Более сложный принцип поиска человеческой метрики для нечеловеческих объектов, нежели чем антропоморфный принцип, был предложен в небольшой статье отечественного последователя немецкого философа в области антропологической критики религии. Это – работа Петра Лавровича Лаврова «Антропоморфизм и антропопатизм», опубликованная в 1862 г. [Лавров 1989]. Она весьма незаметна в громадном массиве антиклерикальной и атеистической литературы, тем не менее, на наш взгляд, в ней явно и отчетливо определён антропологический принцип измерения социокультурной реальности, вполне применимый и в робототехнике.
18 Антропоморфизм – это представление чего-либо вне человека с человеческою формою. Антропопатизм – представление чего-либо вне человека с человеческими аффектами и страстями. Антропопатичная роболичность, таким образом, должна обладать функциональным аналогом сознания, то есть квазисознанием (у некоторых авторов применяется термин «псевдосознание»): как бы осознавать, самосознавать, мыслить, желать, болеть, страдать, радоваться, любить и пр. В этой связи классической видится дискуссия по поводу обсуждения перспектив квазисознательных роботов и искусственных личностей. Дискуссию инициировала статья Селмера Брингсйорда «Чем могут и не могут быть роботы» (1992, 1994 гг.) [Bringsjord 1994]. Главный тезис: «В будущем робот будет делать всё то, что делаем мы, но не будет одним из нас, т.е. не будет сознательным, следовательно, не будет личностью». Достаточно подробный обзор дискуссии представлен на страницах журнала «Полигнозис» в [Алексеев 2008], поэтому представлю только выводы из дискуссии применительно к роболичности.
19 Проект роболичности абсурден, так как метафизические понятия «личность», «свобода», «Я» не могут быть предметом технической реализации по причине логической невыразимости. Проект роболичности неточен, так как необходима конкретная разновидность компьютерного функционализма для представления когнитивно-компьютерной феноменологии личности. Однако роболичность возможна, так как имеются неклассические формы вычислимости. Наконец, проект роболичности значим вне зависимости от его реализуемости: он выявляет механистические аспекты человеческой личности и проясняет роль и функции сознания в жизни человека путём постановки вопроса о зомби –– о созданиях, не обладающих сознанием, но поведенчески неотличимых от человеческой личности (об этом см. ниже).
20

Социальная роболичность

Примерно в те же годы, когда проводилась обозначенная выше дискуссия, т.е. в середине 1990-х гг., в нашей стране так же разрабатывался проект «искусственная личность». По заказу Министерства обороны РФ (27 ЦНИИ МО, руководитель: проф. В.В. Деев) были организованы междисциплинарные исследования по внедрению нетрадиционных информационных технологий в системы принятия решений. Исследования базировались на мероприятиях по моделированию «смысла». Проект рассматривался как этап эволюции интеллектуальных систем. Если традиционная компьютерная технология характеризуется формулой «данные и алгоритм», технология искусственного интеллекта –– «знания и эвристика», то проект искусственной личности задаётся формулой –– «смысл и понимание». Достаточно подробно ориентированный на «смысл» подход для формирования словаря искусственных обществ воспроизведен в работе [Алексеев 2013б]. К сожалению, в этой работе не получилось обозначить важную сторону проекта: применение теории репрезентации Маркса Вартовского. Согласно этой теории, предлагается систематическое единство субъекта моделирования с моделью и способами её презентации и интерпретации. Эта связь обеспечивает динамику наполнения «смыслового объема» возможными «смысловыми траекториями» в ходе построения и изменения метода и предмета репрезентации. Эксперт погружается в рефлексивный процесс построения «модель модели». Раскрывая собственную внутреннюю личностную феноменологию, эксперт модифицирует роболичность. Новые версии роболичности меняют ее интенсионал/экстенсиональную структуру с позиции других экспертов. Эксперты строят версии роболичности. Измененные версии меняют экспертов. То есть возникает сложностная деятельность формирования роболичности. Это рефлексивный процесс, охватывающий сообщество экспертов, разработчиков, пользователей.
21 Модель «смысла» - это программно-информационная оболочка над системой представления «знаний». «Смысл» - это категориальные обобщения, схематично обозначающие траектории прагматики приобретения, структуризации и использования «данных» и «знаний»: кому и зачем всё это информационное разнообразие потребовалось. «Смысл» - это и визуальные образы сложных динамических систем, в целостном формате характеризующие их состояние и тренды. «Смысл» - это и музыкальное сопровождение процесса компьютерной имитации моделируемых систем: консонансы –все в норме, а диссонансы – что-то где-то не в порядке.
22 Апробация социальной роболичности, осуществлённая в ходе опытной эксплуатации макета, большая часть которого осталась «на бумаге», выявила ряд неудач. Главная методологическая неудача: невозможность построения теста Тьюринга на персональное. Это обусловлено персонологическими противоречиями. Например, представим ситуацию оценки параметра «свободной воли». Разыгрывается стандартный сценарий принятия решения, ставятся цели в соответствии. Допустим, на рефлексивном уровне используются датчики случайных чисел, обеспечивающие генерацию новых целей из прошлых, текущих, планируемых и прогнозируемых целей. Будет ли новая цель проявлением «свободной воли» роболичности? Припишет ли судья из теста Тьюринга «свободу воли» тестируемой системе? Если бы я был таким судьей, то не приписал бы.
23 Отмечу еще лингвистическую неудачу: модель знаний о смысле – это, конечно, не модель смысла. Несмотря на неудачи, был достигнут социокультурный эффект: предложенный инструментарий вынуждал специалистов осуществлять рефлексию над «знаниями», эксплицировать «смыслы» собственных решений и выставлять их для интерсубъективного обсуждения.
24 Индивидная и социальная роболичности дополняют друг друга. Первый подход: «роболичность – это индивидный робот, наделённый квазисознанием как минимальным основанием личностного». Второй поход: «Роболичность – это социальный робот, функции которого наполняются смыслами коммуницирующих посредством ее людей». На наш взгляд социальная роболичность и по порядку формирования, и по значимости должна предшествовать индивидной роболичности. Однако блок квазисознания, актуализирующий мультиагентную роболичность как фактически действующее сознательное «существо» представляется главным блоком роболичности. Если такого блока нет, то нет смысла в суждениях о личностном статусе роболичности.
25 Роболичность — это не из сферы научной фантастики. Это — факт современной культуры и современной социальной жизни. В своей первой пьесе про роботов «R.U.R.» (1920 г.) Карел Чапек, по сути, поднял вопросы о правах роботов как некоторых искусственных личностей. Но это было фантастикой. Через сто лет правовой статус роболичности стал обсуждаться в Европейском парламенте (Резолюция № 2015/2103 (INL)), в Эстонии, а Саудовская Аравия объявила о присвоении гражданства роботу «София» [Ефимов и др. 2019, с. 236-250].
26

Разработка искусственной личности – это, во-первых, усложнение антропоморфной организации робота: связная «речь», мимика «лица», кинематика движений, блеск «глаз» и пр. Робот становится полноправным членом общества в результате развития подобного рода киберкоммуникативных компетенций. Во-вторых, как в нашем проекте, это развитие когнитивной организации искусственной системы, антропопатичности робота, когда функции робототехнических механизмов широко и сложностно осмысляются в социопсихологическом контексте коммуникации людей, роботов, обществ.

27

Все было бы просто для построения роболичностей: развитие вычислительных моделей индивидуального и общественного квазисознания, способствующих приписыванию компьютерным системам личностных компетенций. Но невероятную путаницу в когнитивные архитектуры роботов стали вносить философские зомби, обозначенные нами как «робозомби»: в настоящей работе эти мыслимые «существа» рассматриваются исключительно в робототехническом контексте.

28

Робозомби

Под философскими зомби в общем случае подразумеваются некоторые бессознательные сущности, которые не только по ряду абстрактных характеристик (поведенчески, функционально, физически), но и в целом не отличаются от сознательных существ. Проблема философских зомби обширна, многогранна, многопланова. За полвека нашествия философских зомби вышли десятки монографий и сотни крупных статей.
29 Для дискуссий важен аргумент зомби: Если зомби возможны, то некоторая теория сознания ложна; Зомби возможны; Следовательно, теория сознания ложна. В самом деле, любая теория сознания претендует на выявление причинной связи феноменов сознания с его концептуальными, физическими, поведенческими, функциональными, информационными, вычислимыми и другими коррелятами. Зомби, как бы исполняя роль этой причинной связи, показывают несостоятельной той или иной теории сознания. Если зомби убедительны, то такой ход рассуждений верен. Однако очень просто показать, что зомби отнюдь не убедительны. Тогда аргументация быстро разрушается и критики торжествуют. Но можно усилить убедительность зомби посредством их возможности. Дело в том, что возможность зомби выступает в разных формах. Рассматривается логическая, онтологическая, метафизическая, номическая, физическая, эмпирическая, риторическая и другие возможности. Если в чем-то зомби невозможны, то в другой «возможности» они уже возможны. Тогда торжествуют критики критиков. Если типов возможностей уже не хватает, валидность зомби спасает аргумент их мыслимости: зомби - мыслимы; всё мыслимое - возможно; следовательно, зомби возможны. Если теперь и этого недостаточно, то любой метафизик может плодотворно помыслить идею мыслимости.
30 То есть, как и любая метафизическая спекуляция, философские зомби обеспечивают «перетекание из пустого в порожнее» и процесс этой теоретической бессмыслицы вряд ли можно ограничить. Короче, зомби внесли невероятную путаницу в философию сознания. Поэтому Роберт Кирк, породивший философских зомби в 1973 году для борьбы с материализмом [Kirk 1974], спустя сорок лет в монографии «Зомби и сознание» (ноябрь 2005 г.) делает обескураживающее заявление: «Книга преследует две основные цели, одна из которых – стереть идею зомби раз и навсегда! Зомби не стоит заниматься, так благодаря им возникает фундаментальная путаница в понятии сознания» [Kirk 2005].
31 В отечественной литературе философские зомби впервые появились как предмет дискуссий по проблемам искусственного интеллекта и робототехники. Они введены в работах Т.А. Коньковой (Кураевой) [Кураева, 2005] и далее систематизированы в [Алексеев 2008б; 2013]. На мой взгляд, убить зомби невозможно. И зачем? Они весьма полезны в контексте изучения компьютерных имитаций сознания, личности, Я. Благодаря зомби возможны ключевые вопросы робофилософии: как имитировать сознание будучи бессознательным, как имитировать личностное, будучи безличностным, как имитировать Я будучи не-Я? Чтобы показать пользу от робозомби рассмотрим их, как и роболичностей, в индивидном и социальном форматах.
32

Индивидное робозомби

Пожалуй, впервые индивидное робозомби было представлено в концепции «зимбо» Д. Деннета (1991 г.). В работе «Сознание объяснённое» [Dennett 1991] вначале предлагается представить «обычного» зомби – биологического или искусственного существа, которое ведёт себя сообразно с неосознаваемыми потребностями. Далее предлагается вообразить более сложную разновидность зомби, который, помимо того, что осуществляет простой зомби, контролирует собственные действия, рефлектируя над ними. Зомби как бы погружается в трехуровневую структуру индивидной роболичности, рассмотренную нами выше. Зомби начинает рефлектировать. Рефлектирующее зомби получает имя «зимбо». Это - зомби с метапрограммой самоконтроля, благодаря которой можно, не осознавая, управлять информационными состояниями низкого порядка. Деннет предлагает побеседовать с зимбо. Так как зимбо контролирует все свои действия, включая речевые акты, то может ответить на любые вопросы об образах, мечтах, чувствах, верованиях и пр. Ответы зимбо будут казаться собеседнику весьма осмысленными. Наблюдатель, например, тьюринговый судья, предполагал бы, что зимбо столь же сознателен, насколько сознателен наблюдатель. Более того, зимбо сам себя может считать сознательным, так как «… полагал бы, что пребывает в ментальных состояниях, определения которых фиксируются задаваемыми вопросами. Зимбо «думал» бы, что обладает сознанием, даже если это не так» [Dennet 1991, P.309]. Отсюда вывод о том, что все мы, люди, лишь сложные самоуправляющиеся зимбо. Мы можем говорить об образах, мечтах и чувствах, восхищаться, верить, надеяться, любить и пр. Однако если мы полагаем, что сознание – нечто отделённое от наших рассуждений об этом, то глубоко ошибаемся. «Сознание», которым владеет зимбо – это нечто вроде здоровья, оно или есть или его нет.
33 Раскрывая проблематику зомби в монографии «Открывая сознание заново» [Серль 2002] Дж. Серль по сути воспроизводит первый зомбиевый эксперимент Р.Кирка [Kirk 1974], который получил название «Дэн». Кратко напомню об этом эксперименте. Робозомби в нем нет. Зомби в нем – из «мяса и крови». Воспроизводится голливудский фильм в стиле «Я – зомби». Персонаж рассказывает от первого лица, как теряется осознавание окружающей действительности после укуса зомби. В работе «Ощущение и поведение» [Kirk, 1974б] Р. Кирк описывает отчёты, сообщаемые воображаемым персонажем по имени Дэн. Заразившись неизвестной инфекционной болезнью, Дэн проходит частичные этапы «зомбификации», теряя чувство боли. В обычной болевой ситуации он ведет себя как надо: кричит, стонет, истекает кровью. Однако, боли не чувствует. Мало-помалу притупляются и другие чувства, мечты, желания. В конце концов, осознавание полностью исчезает, хотя поведение остается осознанным и для всех наблюдателей он по-прежнему выглядит совершенно нормальным.
34 Робозомби Дж. Серля – это тот же Дэн, но роботизированный, точнее, киборгизированный персонаж. Здесь мы видим компьютерные новации: если у «Дэна» чувственность исчезает в силу неизвестной, скажем, короновирусной инфекции, то у робозомби Серля сознательная жизнь постепенно прекращается из-за киборгизации мозга путем функциональной замены некоторых нейральных структур компьютерными чипами. Сознательная жизнь потихоньку затихает и в конце концов сознание полностью покидает тело, хотя внешне наблюдаемое поведение остаётся прежним. Возможность такого чипизированного зомби для Дж. Серля вне сомнения, хотя имеется в виду «не эмпирическая, а логическая или концептуальная возможность» [Серль 2002, С. 38]. Цель зомбиевого сценария состоит в раскрытии логической возможности сохранения прежнего поведения при нарушении нормальных причинных связей между сознанием и поведением. Кремниевые чипы не дублируют каузальные силы мозга, производящие сознательные ментальные состояния, они лишь копируют «вход-выход» некоторых нейральных структур. Здесь отсутствует сознание, так как отсутствуют биологические детерминации между поведением и сознанием. Подчеркивая это положение, вспомним «Китайскую комнату» – Дж. Серль утверждает невозможность сильного ИИ по причине отсутствия у компьютерных систем биологической причинности психических феноменов [Searl 1980].
35 Таким образом, соотношение между индивидными роболичностями и индивидными робозомби у двух ведущих когнитивных философов кардинально отличаются, дополняя друг друга. У Д. Деннета все люди – зомби и лишь в будущем, в условиях глобального искусственного интеллекта, полностью реализовавшего нарративное сознание каждого человека в лице всего человечества, каждый конкретный человек сможет стать полноценной личностью. У Дж. Серля, напротив, настоящими личностями люди были исключительно в прошлом, до эпохи киборгизации, до того, как в нашу сознательную деятельность стали включаться технические программируемые средства. В будущем все мы будем зомби, если не остановим массовую чипизацию.
36 Таким образом, роболичности/робозомби реализуют в робофилософии мировоззренческий принцип дополнительности. Но имеется и другой способ рассуждений о роболичностях, отрицающий привлечение экстравагантных примеров с философскими зомби. Имеется в виду теоретический принцип несущественности сознания (сознательного инэссенциализма, «conscious inessentialism»), который был сформулирован О. Фланаганом: «любая сознательная деятельность в любой когнитивной сфере может осуществляться бессознательно, не дополняемая и не сопровождаемая сознанием, несмотря на то, что мы, люди, обычно осуществляем эту деятельность сознательно» [Фланаган, Полджер 1995, c.103]. Принцип предполагает, что любая наука о человеке должна решать вопрос – насколько сознание необходимо для организации поведения? Не только интеллектуальное, но и высокоморальное поведение может быть бессознательным, хотя им обычно приписывают сознательность. Принцип несущественности сознания (ПНС) апеллирует к вычислительному функционализму и к положениям когнитивной науки, отождествляющим информационные и ментальные процессы. Девиз О. Фланагана таков: Разуму сознание не нужно. А попробуйте доказать обратное, особенно, если убеждены в возможность построения общего искусственного интеллекта.
37 ПНС представляется важным не только для методологической части робофилософии, но и для ее мировоззренческой составляющей: этот принцип усиливает скептические вопросы о роли сознания, его адаптивной и эволюционной значимости. О. Фланаган при этом всячески отгораживается от проблемы «философских зомби», называя их концептуальными «болванами». Так, он пишет, что сознание не необходимо в возможных мирах, где обитают функционально эквивалентные нам, людям, существа. Однако в нашем мире сознание – реальность. Почему? Какое эволюционное преимущество получает сознательное существо в отличие от бессознательного существа? [Flanagan 1991]. Бессознательное существо, кстати, может быть чрезвычайно интеллектуальным. Может, сознание не значимо для истинных целей человека?
38 Верхом метафизических спекуляций по поводу индивидного робота-зомби являются модально-логические исследования Давида Чалмерса. Он предлагает вообразить свой собственный дубликат, «цифрового двойника», «искусственную версию» Чалмерса [Chalmers 1996]. Разница в следующем: там, где у реального Чалмерса нейроны, у «двойника» - кремниевые чипы. Для самого Чалмерса и, как он считает, для многих других очевидно, что «Чалмерс-зомби» не обладает сознанием, ведь у него внутри всё пусто и темно, так как ни в кремнии, ни в биохимии нет ничего того, что причиняет сознание. Однако для Д. Чалмерса очевидна мыслимость, и, следовательно, логическая возможность зомби-Чалмерса. Комментаторы обычно цитируют следующее: «Признаюсь, что логическая возможность зомби кажется совершенно очевидной для меня… Нет противоречия в данной дескрипции, хотя принятие её логической возможности основано на интуиции… Мне кажется, что едва ли не каждый способен помыслить эту возможность… Я не могу обнаружить никакой логической бессвязности [в идее зомби] и имею ясную картину, когда я представляю собственного зомби. Некоторые могут отрицать возможность зомби, однако они должны быть компетентны в проблематике возможности, причём данная компетентность должна быть выше, нежели чем у тех, кто допускает возможность зомби. Короче, доказывать [возможность/невозможность] зомби должен тот, кто утверждает, что дескрипция зомби логически невозможна. При этом [оппонент] должен чётко показать, где он усматривает противоречие [Ibid, P. 96, 99]. То есть бремя доказательства лежит не на Д. Чалмерсе, у него как бы все нормально, но на оппоненте. Это не этично – перекладывать на другого «бремя доказательства». Также Д. Чалмерс слишком уж просто «расправился» с проблемой мыслимости зомби, приступив сразу к аргументу зомби. Поэтому критики предлагают Чалмерса-зомби для оппозиции: если можно убедительно показать немыслимость Чалмерса-зомби, тогда и теория Д. Чалмерса рушится. То есть робозомби Чалмерса сформулирован достаточно тщательно, но вот убедительность этого робота – под сомнением.
39

Социальное робозомби

Социальное робозомби представлено в работе «Общение с зомби» Тодда Моуди (1994) [Moody 1995]. Он критикует ПНС и выделяет проблему отличения (дискриминации) сознательных существ от зомби, пытается найти критерий «зомбиевости» (mark of zombiehood) исследуемой системы, как отличить личностное от зомбиевого? Приводится ряд аргументов в пользу того, что идентификация зомби должна осуществляться не за счёт поведенческих отличий, а на социокультурном уровне, по крайней мере, в условиях речевой коммуникации. Ни логическая, ни физическая, ни еще какая-нибудь возможность зомби не обсуждаются. Робозомби возможны и все тут.
40 Для поиска зомбиевого критерия предлагается вообразить «Землю зомби». Жители её бессознательны. Эволюция осуществляется, однако отбору подвергаются исключительно поведенческие акты, эффективные по тем или физическим критериям. Сознательных регулятивов адаптации и эволюции нет, они ничего не значат, да и нет того, что подразумевается под «значить».
41 Допустим, между людьми и зомби возникает «культурный» обмен: люди стали прилетать на Землю зомби, зомби – на Землю людей. В ходе «межкультурного общения» выявляются лингвистические различия между людьми и зомби. Для различения человеческих и зомбиевых выражений предлагается индексировать термины: понимать[z], думать[z], воображать[z], мечтать[z], верить[z], видеть сны[z] и другие слова[z] в словаре робозомби возникнут лишь после встречи с нами, когда зомби станут рассуждать[z] о том, что люди говорят о сознании. У «истинных» же зомби словаря ментальных терминов нет, что и отличает зомбиевое от личностного. Однако это будет длиться недолго. Коммуникация между зомби и людьми приведёт к тому, что истинные зомби станут «зомби среди нас» и их невозможно будет распознать в человеческом мире. Люди, с другой стороны, станут робозомби в ходе такого рода коммуникации.
42 Мысленный эксперимент Т. Моуди вызвал оживлённую дискуссию. Она достаточно подробно раскрыта в [Алексеев 2008б]. Кратко обозначу типовые отзывы о социальном робозомби. Во-первых, это свидетельство философской глупости: «”Земля зомби” – невнятное самоопровержение собственной позиции. Т. Моуди определяет зомби как существ, поведенчески неотличимых от сознательных людей, поэтому они и в самом деле должны быть неотличимы» [Dennett 1995]. П. Чёрчленд полагает, что это демонстрация слабости мысленных экспериментов. С. Брингсйорд считает, что сама идея зомби превосходит способность человеческого понимания: как можно сознательно представить бессознательное состояние или, наоборот, бессознательно представить сознательное состояние? Тем не менее, робозомби продуктивны для изучения сознания, так как влекут новые акценты в проблематике сознания, но не в отношении «сознание/мозг», а в отношении «сознание/поведение» (Р.М.Дж. Коттерилл). А. Элитзар считает, что «дух» зомби полезен, так как оспаривает исключительность прав у физической (технической) реальности.
43 Специалисты по интеллектуальной робототехнике однозначно против робозомби. Дж. Маккарти полагает, что для зомби требуется «псевдосознание». Этот блок организует моторно-двигательные, речевые, интеллектуальные акты. Однако, по определению зомби, ничто похожего на псевдосознание у них не может быть, «как бы» сознание не отделимо от поведения. Сознательное поведение бессознательного существа – это нонсенс. А. Сломан продолжает: зомби не сможет имитировать поведение сознательного существа, не обладая моделями «эмоций», «точек зрения» или иных феноменов субъективной жизни. Для инженера представить себе робота-зомби означает отказаться от всего того, что он знает о механизмах обработки воспринимаемой информации, хранении её, генерации новых задач, принятия решений для реализации поведения или воздержания от недопустимых действий, оценки степени выполнения задачи или мобилизации ресурсов.
44 О. Флаганан и Т. Полджер полагают, что робозомби Моуди возможны, они способны эволюционировать, создавать зомбиевый язык, который выражает и ментальное, например, философию зомби. Но такой язык возникнет в ходе сбоев работы роботов.
45

Заключение

Автором одной из версий робофилософии является Хироси Исигуро, известный японский робототехник, профессор университета в г. Осаго. Исигуро признаётся, что занимается «электронным клонированием» для того, чтобы лучше понять людей и разобраться в себе самом. Общие положения робофилософии представлены в [Добрюха 2015]. На мой взгляд, такая версия робофилософии мало интересна. В ней отсутствуют вопросы, которые способен сформулировать принцип несущественности сознания. Так же не используется и скептический потенциал робозомби. В его философии участвует одна категория – роболичность, причем моя роболичность, мой цифровой двойник. Эта роболичность должна полностью повторить облик самого создателя (меня) и быть полезной, например, заменяя меня во время лекций.

46

Такая робофилософия пафосна: роботы-копии – это, оказывается, для познания человеком самого себя. Не проще ли для самопознания обходиться традиционными экстра-интроспективными средствами самопознания. Зачем для этого нужна плохая имитация мимики моего лица? Такая версия робофилософии абсолютистски однолинейна: всё направлено для построения роболичности с целью самопонимания Я. Это своеобразное робототехническое гегельянство. Такая робофилософия не обладает внутренним критическим эвристическим методологическим аппаратом: в ней невозможна критика. А за критику как раз отвечает робозомби. Робофилософия без робозомби – не философия. Роболичность – это методологический аспект робофилософии. Робозомби – метафизический аспект робофилософии.

47

Роболичность не ограничивается компьютерной имитацией личности. Важны и иные онтологические притязания компьютинга когнитивной реальности, помимо механики ее реплицирования. Роболичность важна как компьютерная репрезентация личности, для формирования ее персонологических эвристик и рекомендаций. Роболичность интересна и как компьютерная репродукция естественной личности в многообразии частных сторон ее субъективной жизни. Роболичность, наконец, интересна как компьютерная рекреация личности в смысле, например, кибериадного творения себе подобных роболичностей.

48 Робозомби, возможно, интересная вещь, но это всего лишь компьютерная репликация личности, причем такая репликация, когда мы не в состоянии отследить, зачем, почему и кому эта репликация нужна. Робозомби – это чисто концептуальная конструкция, в действительности это лишь ущербность роболичности, недостаток понимания возможностей, потребностей, опасностей в производстве или в использовании роболичности.
49

Робозомби как безликая компьютерная репликация естественной личности способна, однако, стать роболичностью. Для этого робозомби надо поместить в сложностную систему воплощенных знаний, носителями которыx являются, в конечном счете, люди – заказчики, разработчики, разработчики-пользователи, конечные потребители, наблюдатели. Носителями могут являться и роболичности, рекурсивно воплощающие воплощаемые человеческие знания. Возникает вопрос о том, чьи идеи были воплощены в конкретном экземпляре роболичности. Кто обучил эту роболичность и, в свою очередь, обучился обучению? Вряд ли сегодня можно отыскать такого рода эволюционно-антропогенетические основания знаний. Так как источники исходных знаний людей теряются в архетипическом прошлом, то роболичности будут идти в обнимку с робозомби на всем протяжении беспредельного пути обретения и воплощения глобальным (точнее, космическим) человечеством некоторого истинного первоисточника своих знаний. Но этот путь лежит за сферой робофилософии. Это уже сфера роборелигии.

References

1. Alekseev A.Yu. Personalisticheskaya kontseptsiya informatizatsii cheloveko-tekhnicheskikh sistem. // V sb. «Informatika i naukovedenie» 3 Mezhdunar.(5 Tamb.) nauch. konferentsii 28-29 noyab.1994 g. Tambov: MINTs - 1994 g.

2. Alekseev A.Yu., Deev V.V., Kulyanitsa A.L., Plyusnin A.Yu. Iskusstvennaya lichnost'. Istoki i stanovlenie. Anomaliya. N 1-96(31). M.:ITAR-TASS, 1996.

3. Alekseev A.Yu. Gumanizm, personalizm i informatika (k obscheteoreticheskim osnovam modelirovaniya iskusstvennoj lichnosti) // Zdravyj smysl, 1998. № 3/7

4. Alekseev, A.Yu. Trudnosti i problemy proekta iskusstvennoj lichnosti // Zhurnal «Polignozis» 2008, № 1

5. Alekseev, A.Yu. Opredelenie filosofskikh zombi // Filosofskie nauki, 2008, № 2

6. Alekseev A.Yu. Kompleksnyj test T'yuringa: filosofsko-metodologicheskie i sotsiokul'turnye aspekty. // M.: IInteLL, 2013

7. Alekseev A. Yu. Ob'emnaya (3d) intensional'naya semantika slovarya iskusstvennogo obschestva // Iskusstvennye obschestva. 2013, T. 8, № 1-4 URL: https://artsoc.jes.su/s207751800000038-0-2/

8. Dennett D.S. Vidy psikhiki: na puti k ponimaniyu soznaniya. Per. s angl. A.Veretennikova. M.: Ideya-Press, 2004.

9. Dobryukha E. Mechtayut li androidy ob ehlektrolyudyakh. Ot HOMO SAPIENS k ROBO SAPIENS. // «Kot Shryodingera», 2015, №9 (11) URL: https://kot.sh/statya/391/mechtayut-li-androidy-ob-elektrolyudyah

10. Efimov A.R. Postt'yuringovaya metodologiya intellektual'noj robototekhniki. Doklad na seminare NSMII RAN "Chelovek i kiberfizicheskaya real'nost'", 31 yanvarya 2020 g., M.: IF RAN; URL: https://www.scmai.ru/2020/01/31

11. Efimov A., Tsygankov V., Zatyagov D. Analiticheskij obzor mirovogo rynka robototekhniki // 2019. M.: Sberbank, 2019

12. Alekseev A.Yu., Kuraeva T.A. 2005. Problema zombi i perspektivy proekta iskusstvennoj lichnosti //Filosofiya iskusstvennogo intellekta. Materialy Vserossijskoj mezhdistsiplinarnoj konferentsii, g. Moskva, MIEhM, 17 – 19 yanvarya 2005 g. – M.: IF RAN, 2005

13. Lavrov P.L. Antropomorfizm i antropopatizm. V kn. "O religii". Redkol.: A.F.Okulov (pred.) i dr.; Sost. i avt. vstup. st. A.I. Volodin; Primech. i ukazateli sost. B.M.Shakhmatovym. // M.: Mysl', 1989.

14. Lakoff Dzh., Dzhonson M.. Metafory, kotorymi my zhivem: Per. s angl. / Pod red. i s predisl. A.N. Baranova. // M.: Editorial URSS, 2004

15. Seryodkina E.V. Obschaya teoriya ratsional'nosti i artilekty v proekte OSCAR Dzh.Polloka // Filosofsko-metodologicheskie problemy iskusstvennogo intellekta: materialy postoyanno dejstvu-yuschego teoreticheskogo mezhdistsiplinarnogo seminara. Perm': Izd-vo Perm.gos.tekhn. un-ta, 2007. S. 108–122.

16. Serl' Dzh. Otkryvaya soznanie zanovo. Per. s ang. A.F. Gryaznova. M.: 2002.

17. Tekhnonauka kak kategoriya istorii estestvoznaniya. – Otv.??red. A.A. Pechenkin. // M.: IIntell, 2018. URL: https://aintell.info/35/book1.pdf

18. Fejerbakh L.A. Istoriya filosofii. Sobranie proizvedenij v trekh tomakh. T.1. Pod obsch. red. i vstup. stat'ej M.M. Grigor'yana. // M.: Mysl', 1974

19. Flanagan O., Poldzher T. Zombi i rol' soznaniya. Perevod T. Kuraevoj // Test T'yuringa. Roboty. Zombi. Pod red. A.Yu. Alekseeva – M.: MIEhM, 2006.

20. AGI 2008-2020. Conference series on Artificial General Intelligence // URL: http://agi-conference.org/

21. Bringsjord, Selmer. (1994) What Robots Can and Can't be , Psycoloquy: 5,#59 Robot Consciousness (1); URL: http://psycprints.ecs.soton.ac.uk/archive/00000418/#html

22. Chalmers, D. J. 1996. The Conscious Mind. Oxford

23. Dennett, D. C. Consciousness Explained. Little-Brown, 1991.

24. Dennett, D. C. The unimagined preposterousness of zombies. Journal of Consciousness Studies 2 (1995), pp:322-326. (http://ase.tufts.edu/cogstud/papers/unzombie.htm)

25. Flanagan, O. The Science of the Mind. Cambridge, MA: MIT Press, 1991, p. 309

26. Flanagan O., Polger Tom. Zombies and the function of consciousness, Journal of Consciousness Studies 2, 1995, pp. 313-321; URL: http://homepages.uc.edu/~polgertw/Polger-ZombiesJCS.pdf.

27. Kirk R. Zombies vs materialists. Aristotelian Society Supplement, 48 (1974), pp.135-152.

28. Kirk R. Sentience and behaviour. Mind 81 (1974):43-60.

29. Kirk R. Zombies and Consciousness. University of Nottingham, November, 2005 (URL: http://www.oup.co.uk/isbn/0-19-928548-9)

30. Moody T. (1995), Conversations with zombies; URL: http://www.imprint.co.uk/Moody_zombies.html

31. Searle J. R. Minds, brains and programs. Behavioral and Brain Sciences 3, 1980. pp. 417–424; URL: http://www.cs.ucsb.edu/~cs165a/articles/Searle.html

32. Sloman A. What Sort of Architecture is Required for a Human-Like Agent? in Foundations of Rational Agency. Kluwer Academic Publishers. URL: http://cogprints.ecs.soton.ac.uk/archive/00000411/

33. Turing, A. Computing Machinery and Intelligence, Mind 59(236), pp. 433–460

Comments

Write a review
Translate