Reflexive software engine as the basis for creating quasi-reasonable virtual agents
Table of contents
Share
Metrics
Reflexive software engine as the basis for creating quasi-reasonable virtual agents
Annotation
PII
S207751800000100-9-2
DOI
10.18254/S0000100-9-1
Publication type
Article
Статус публикации
Published
Authors
Evgeny Grishin 
Affiliation: Independent researcher and inventor
Address: Russian Federation, Moscow
Abstract
The concept presupposes the creation of such a technology for the functioning of a reflexive software engine that would allow us to recognize a software product built on the basis of this engine as having the property of "quasi- reasonable " by applying a special test (similar to A. Turing's test)
Keywords
quasi-reasonable virtual agent, reflective engine, multi-agent systems
Received
07.08.2017
Date of publication
14.09.2017
Number of characters
16028
Number of purchasers
2
Views
1157
Readers community rating
0.0 (0 votes)
Previous versions
Cite Download pdf

To download PDF you should sign in

1 Общее описание проекта
2 Цель проекта рассматривается как создание рефлексивного программного движка, являющегося технологической основой для развития в следующих направлениях:
3
  1. Как ядро для разработки концептуально нового вида компьютерных симуляторов – взаимодействие человека с виртуальной личностью (симулятор души),
  2. Как основа для разработки оболочки для операционных систем нового поколения.
4 Суть инновации
5 Концепция предполагает создание такой технологии функционирования рефлексивного программного движка, которая позволила бы признать программный продукт, построенный на основе данного движка, как имеющий свойство «квазиразумности», посредством применения специального теста (подобного тесту А.Тьюринга):
6 Виртуальный Агент может считаться «квазиразумным», если он, периодически общаясь с человеком на взаимопонятном языке, окажется способным многократно заключить с ним и исполнить в течение заданного времени экономические договоры (сделки) по обмену ресурсами на основе взаимной рациональности и этичности.
7 При этом:
8
  • взаимная рациональность есть условия договора, учитывающие интерес каждого партнёра по срокам, цене и виду поставляемого товара (услуги),
  • взаимная этичность есть ответственность за неисполнение условий договора каждым партнёром, потерей им РЕПУТАЦИИ у партнёров, и, в конечном итоге, потерей ресурсов для существования.
9 Существующие примеры интеллектуальных Агентов Многоагентных систем (МАС–Агентов, табл. 1) можно квалифицировать следующим образом:
10
  • Агенты могут быть автономны (независимы от Человека) после включения их на исполнение, в смысле их функциональности и жизнеспособности.
  • Интеллектуальность Агента рассматривается как способность к взаимопониманию в рамках постановки задачи Человеком, и как способность к расшифровке и объяснению для Человека результатов совместной деятельности Агентов.
  • Человек может включить и выключить Агента, не спрашивая согласия у Агента (принцип приказа).
  • Список задач, которые может выполнять Агент, ограничивается задачами, требующими чёткой формулировки задачи Человеком (приказа), или предполагающими игровую конфронтацию Человек-Агент; список включает: поиск информации в сетевых БД, слежение за объектами, контроль состояния объектов, управление техническими системами, партнёрство в играх (шахматы, NPC, Second Life), и др.
  • Ответственность за неэффективное исполнение функций системой Агентов ПОЛНОСТЬЮ остаётся за Человеком (оператором, конструктором).
11

Предлагаемую концепцию интеллектуального МАС–агента можно квалифицировать следующим образом:

12
  • Агент самостоятелен в том смысле, что взаимоотношения его с Человеком (и другими Агентами) строятся на принципе добровольного ДОГОВОРА (а не приказа).
  • Задача выживания Агента решается им в полной зависимости от поддержания и роста его РЕПУТАЦИИ у людей и партнёров-Агентов.
  • Репутация Агента есть следствие его ОТВЕТСТВЕННОСТИ в исполнении обязательств по договорам.
  • Ответственность Агента может быть реализована приданием ему свойств РАЗУМНОСТИ в смысле вышеуказанного теста, что потребовало от автора разработки серьёзных добавлений к архитектуре интеллектуального Агента, рекомендованной FIPA (Foundation for Intelligence Phisical Agents. Табл. 1).
  • Список задач, решение которых возможно с участием самостоятельных Агентов, расширяется включением всех задач, сегодня решаемых посредством договоров между людьми, строящихся на их РАВНОПРАВНОЙ КООПЕРАЦИИ. К таковым задачам можно отнести все сделки типа форвардных (с окончательным расчётом в будущем), и которые могут строиться только на основе ответственности, доверия и репутации участников (инвестиционные проекты, финансовые операции, купля/продажа, лизинг, страхование, взаимное резервирование при управлении общим ресурсом, и т.д.). Совместное с Человеком решение подобных задач может привести к качественному росту эффективности подобных сделок, ввиду ответственности и неподкупности самостоятельных Агентов.
  • Ответственность за результаты совместной деятельности Человека и Агента ПАРИТЕТНО делится между Человеком и Агентом в соответствии с Договором.
13 Концепция создания нового вида компьютерных симуляторов «души» отличается от современных концепций следующим:
14
  • является способом реализации идеи самостоятельности, рациональности и «квазиразумности» виртуального агента-личности, взаимодействующего с человеком-игроком в роли помощника, собеседника, учителя, тренера, друга, делового партнера и взаимодействующего с другими агентами-личностями в роли делового партнера,
  • является для человека-оператора, взаимодействующего с виртуальным агентом-личностью, способом игрового удовлетворения широкого спектра своих потребностей, как рациональных (материальных, денежных, игровых, профессионального обучения, престижа), так и иррациональных (справедливости, совести, чести, достоинства).
15 Концепция построения оболочек операционных систем нового поколения на базе рефлексивного программного движка предполагает возможность эффективного разрешения ряда существующих проблем, таких, как:
16
  • сохранение работоспособности компьютеров и сетей при «зависаниях»,
  • повышение защищенности от нелицензионного использования программ;
  • повышение защищенности от вредоносных программ (вирусов).
17 Принцип взаимного резервирования предполагает последовательную взаимную передачу права управления общим ресурсом и разделение рисков между Человеком-оператором и Агентом (взаимная страховка от потери общего ресурса). Идея заключается в замене «приказного принципа» на «договорный принцип» взаимодействия Человек-Агент. Предполагаемый эффект от реализации идеи заключается в снижении статистики катастроф в человеко-машинных системах, происходящих по причинам влияния человеческого фактора или отказа техники.
18 Области кооперации человек-автомат на принципе взаимного резервирования (в т.ч. как при создании самих систем управления, так и при создании тренажёров-симуляторов) могут быть следующими:
19
  • Энергетика (атомная, гидро, тепловая)
  • Транспорт (авиация, ЖД, водный транспорт, продуктопровод)
  • Связь (мобильная)
  • Управление вычислительными системами (операционные системы)
  • Управление в робототехнических системах (беспилотники, движущиеся роботы, нанороботы)
  • Управление сетевыми агентами, в т.ч. антивирусная безопасность
  • Бизнес-управление предприятием
  • Компьютерные тренажёры для автоматизированных систем управления в вышеприведенных областях, и др.
20 Одной из областей применения «квазиразумного» агента являются системы планирования и управления ресурсами предприятий (Enterprise Resource Planning), в том числе предприятий, осуществляющих разработку проектов в разнообразных направлениях науки и техники.
21 В данном случае Агент может выступить в роли партнёра лица, принимающего решения (ЛПР), с целью осуществления совместного управления ресурсами предприятия (подразделения, проекта) в рамках принципа «взаимного резервирования».
22

Агент берёт на себя функции регулятора «взаимного резервирования». Он должен в режиме On-Line отслеживать действия каждого участника предприятия (проекта), от низового исполнителя до ЛПР, в смысле исполнения ими планов в рамках принятых на себя ролей в едином сетевом календарном плане-графике работ (ЕСКП) предприятия (проекта). Планы участников выступают как договоры (не приказы) между ЛПР и исполнителями разных уровней на каждую работу, которые им необходимо согласовывать, прежде чем Агент поставит их на учёт и контроль в ЕСКП.

23 В случае неисполнения в срок плана того или иного участника Агент должен оперативно и визуально информировать ЛПР об этом. ЛПР должен провести анализ ситуации и принять решение о сдвиге сроков, перераспределении ресурсов или исполнителей, на основе вариантов решений, подсказанных Агентом, осуществляющим в режиме On-Line пересчёт ЕСКП.
24 При этом и Агент, и ЛПР обязаны учитывать время и ресурсы, затрачиваемые самим ЛПР на принятие решений и Агентом на пересчёт плана, как отражающиеся в конечном итоге на смете затрат и сроках исполнения работ ЕСКП.
25 В данном случае суть «взаимного резервирования» заключается в попеременной передаче между ЛПР и Агентом прав на принятие решений в критических для проекта ситуациях, когда предыдущие решения того или другого снизили эффективность ЕСКП.
26 Статут «взаимного резервирования» должен быть предусмотрен договором между ЛПР и Агентом. При несоблюдении ЛПР условий договора Агент имеет право отказаться от сотрудничества и претендовать на неустойку для своего жизнеобеспечения.
27 Внедрение принципа взаимного резервирования предполагает следующие шаги:
28
  • Разработка и оформление международного патента на изобретение «Взаимное резервирование как способ совместного управления жизнеобеспечением в системе человек-машина», на базе патента, полученного автором в РФ – «Способ автоматического прерывания задач, находящихся в цикличности».
  • Разработка прототипа рефлексивного программного движка, полностью реализующего функции патента на реальных вычислительных платформах.
  • Продвижение идеи на рынок технологических инноваций и поиск покупателей – лидеров производства и продаж фундаментальных и прикладных вычислительных платформ (soft и hard).
29 Краткое описание технологической части
30 Предлагаемая технология рефлексивного программного движка, используемая для создания и существования виртуального агента в компьютерной игре, обеспечивает способность виртуального агента входить во взаимоотношения с человеком-игроком или другим виртуальным агентом и проявлять свойства «квазиразумности» за счёт придания виртуальному агенту следующих пяти основных качеств [1]:
31
  1. Обладание свойством ЖИВОГО.
  2. Обладание способностью к РЕФЛЕКСИИ.
  3. Обладание способностью ОБУЧАТЬСЯ и САМООБУЧАТЬСЯ.
  4. Обладание способностью и стремлением к ИГРЕ.
  5. Обладание способностью САМОРАЗВИВАТЬСЯ.
32 Технология рефлексивного программного движка, предлагаемая для использования в создании оболочек операционных систем нового поколения, обеспечивает способность операционных систем разрешать существующие проблемы защиты от зависаний, от нелицензионного использования программ и от вредоносных вирусов, что достигается:
33
  1. Приданием каждой исполняемой программе специального аккаунта-счёта, учитывающего планируемые и фактически затрачиваемые вычислительные ресурсы и время для исполнения задачи.
  2. Разделением любого вычислительного процесса между двумя процессорами (ядрами), один из которых исполняет программу формирования аккаунта (планирование и корректировку ресурсов), а второй одновременно (параллельно) с первым исполняет саму вычислительную задачу, а также исполняет программу контроля аккаунта (фактически затрачиваемых ресурсов).
  3. Рефлексивной заменой (обменом) аккаунтов между процессорами (ядрами) при прерывании из-за несоответствия плана и факта затрат ресурсов в текущей задаче.
34

Федеральной службой по интеллектуальной собственности, патентам и товарным знакам РФ в 2012 г. автору выдан Патент на изобретение, сущность которого лежит в основе построения вышеизложенной технологии рефлексивного программного движка [2].

35 К настоящему времени автором разработан действующий прототип виртуального агента на базе технологии рефлексивного программного движка, могущий самостоятельно существовать в течение длительного времени в некоем компьютерном виртуальном мире ему подобных агентов. Агент взаимодействует с ними и с пользователем-человеком по своей инициативе или инициативе партнёра, ведя диалог на взаимопонятном языке, заключая взаимовыгодные договоры-сделки и исполняя их в течение обговорённого календарного времени с использованием виртуальных денег. При этом он в каждый момент принимает решения о своём поведении в зависимости от понимания, как сочетаются его собственные интересы с интересами партнёра. Однажды пообщавшись, агент запоминает каждого партнёра, человека или агента, помнит свои и чужие неоплаченные долги и обязательства на будущее, помнит «кредитную историю» каждого его партнёра.
36 В зависимости от этого агент в каждый момент обращения партнёра может предлагать помощь или просить о помощи, предлагать или отвергать общение или сделку, быть предупредительным или требовательным к человеку-партнёру.
37 Основа взаимоотношений агента с другими – «репутация чести и достоинства партнёров». Поэтому агенту невозможно угрожать, нельзя безнаказанно обмануть или склонить к обману или к угрозе другому. С агентом можно только по-доброму договориться. Но, договорившись, можно быть уверенным, что агент договор исполнит или внесёт неустойку, и что человеку лучше вести себя соответственно, чтобы не рисковать своей репутацией перед агентом как партнёром.
38 Партнёр-человек может составить впечатление о «квазиразумности» агента, взаимодействуя с ним в течение достаточно короткого времени, по совокупности вышеуказанных проявлений агента.
39 Программный прототип виртуального агента на базе рефлексивного программного движка к настоящему времени реализован на средствах MS Excel и Visual Basic (VB-6) и прошёл двухлетнее тестирование.
40 Возможные аналоги, конкуренты
41 Аналогом предлагаемой концепции структуры базы знаний может являться многоуровневая архитектура базы знаний интеллектуального агента, названная BDI (beliefs, desires, intentions, goals, plans, events), или убеждения, потребности, деятельности, цели, планы, события [3].
42 Основным отличием данного проекта от аналога (концепции BDI-агентов) является возможность предлагаемого «квазиразумного» агента пройти тест на способность многократно заключать с Человеком и ответственно исполнять договоры, проявляя жизнеспособность и этическое поведение. Концепция основана на разработанной автором оригинальной модели виртуальной целостности, которая, в свою очередь, базируется на рефлексивных идеях В.Лефевра, «принципе дополнительности» Н.Бора в сочетании с принципом «метасистемного перехода» В.Турчина.
43 Автор считает, что вышеуказанные различия в концепциях виртуальных персонажей есть основание не для конкуренции авторов разработок, а основание для объединения усилий в решении проблемы создания AGI, т.е., «сильного искусственного интеллекта», в соответствии с определением Джона Сёрля [4].
44 Цели предлагаемого проекта:
45 Коммерческие цели заключаются в следующем:
46
  • завоевание ниши на российском и зарубежном рынке компьютерных игр, основанных на передовой концепции – симулятор души. Сегодняшнее состояние рынка таково, что подобная игровая концепция потенциально широко востребована. Соответствующее же предложение находится в зачаточном состоянии, при всей насыщенности рынка разнообразными компьютерными играми. Иначе говоря, вероятность жёсткой конкуренции в данной нише достаточно низка.
  • разработка и внедрение новых стандартов в построении оболочки операционных систем, имеющей структуру «рефлексивной машины», выработка рекомендаций по её применению, как обладающей способностью автоматического прерывания цикличности, способностью защищаться от вирусной опасности и от нелицензионного использования программ.
47 Дидактические цели проекта заключаются в разработке такой технологии взаимодействия человека с рефлексивным виртуальным агентом, которая обладала бы обучающей, тренирующей и воспитывающей функциями. Подобная технология должна представлять собой эффективный инструмент-тренажёр, помогающий удовлетворению важной социальной потребности в образовательном (учебном) процессе, общем и специальном профессиональном.
48

Научные цели проекта заключаются в экспериментальном исследовании модели взаимоотношений виртуального агента, построенного на базе рефлексивной концепции, с человеком в реальном мире, с целью выработки рекомендаций по предупреждению или по разрешению проблемы опасного неконтролируемого развития популяций автоматов, обладающих «сильным» искусственным интеллектом [5].

 

49

Таблица 1.  Сравнительные характеристики существующих Агентов МАС и предлагаемого Агента: RBDI - ReputationalBDIagent.  

50