Artificial Tutor: Subjectivity or Agency?
Table of contents
Share
Metrics
Artificial Tutor: Subjectivity or Agency?
Annotation
PII
S207751800009804-3-1
DOI
10.18254/S207751800009804-3
Publication type
Article
Статус публикации
Published
Authors
Ekaterina Alekseeva 
Occupation: Associate Professor of the Philosophy Faculty
Affiliation: The State Academic University for the Humanities (GAUGN)
Address: Russian Federation, Moscow
Abstract

The article is devoted to the question about the scenario of the widespread implementation of information technology solutions, which generally can be called an “artificial teacher”. This “artificial teacher” is intelligent and robotic systems using in the learning process. There are forecasts contending that such systems completely or partially replace human teachers in the near future. We use the several aspects of the Actor-network theory to answer the question about possibility of AI – teacher replacement. It allows us to consider an artificial teacher from the point of view of the presence of such a system of subjectivity or agency. It is shown how the human teacher and the artificial teacher differ in terms of the presence of these properties. Demonstrates the need for subjectivity of the teacher in the educational process. It is also shown how the use of intelligent systems in education is possible, which does not imply the replacement of a real teacher with an artificial system. For this, it is proposed to use the concept of sociotechnical assemblage.

Keywords
artificial teacher, learning, intellectual systems, actor-network theory, subjectivity, agency, assemblage
Received
02.05.2020
Date of publication
09.06.2020
Number of purchasers
27
Views
528
Readers community rating
0.0 (0 votes)
Cite Download pdf

To download PDF you should sign in

1

Введение

Внедрение робототехники и искусственного интеллекта в различные сферы повседневной жизни вызывает среди прочего опасение за будущее некоторых профессий. Периодически проводятся исследования и составляются списки тех профессиональных отраслей, где потенциально возможна замена профессионалов искусственными системами. К их числу относят и сферу образования, предполагая, что, возможно, в не столь далеком будущем искусственные преподаватели будут полезнее педагогов-людей. Прогнозы относительно будущего профессии преподавателя, которые даются на основе экспертных оценок, нельзя, однако, назвать однозначными. Например, если обратиться к исследованию рынка отечественного онлайн-образования за 2019 год [3], то можно увидеть, что только в 6% образовательных проектов применяется искусственный интеллект, а еще в 6% используются роботы. В исследовании «Будущее работы: как новые технологии меняют задачи» указывается, что сложные компетенции и творческие навыки будут по-прежнему востребованы, хотя сама структура занятости изменится [17]. Но есть и более печальные для педагогов прогнозы, согласно которым значительная часть их работы может быть передана искусственному интеллекту.

2

Надо также отметить, что помимо вопроса о методологической и технологической целесообразности применения искусственного интеллекта в образовании существует еще и экзистенциальная, и этическая проблематика. Сама мысль о замене преподавателя искусственным интеллектом, особенно если эта замена продиктована экономическими соображениями, вызывает экзистенциальное сопротивление. Мы не готовы признать профессию педагога настолько отчужденной, чтобы отделить ее функционал от антропологической составляющей. При этом повсеместная автоматизация интеллектуального труда таит, по выражению Н. Селвина, другую опасность: «Учителя, работающие как роботы, являются гораздо более вероятным сценарием, чем их прямая замена роботами» [16].

3 Таким образом, возникает не только вопрос о том, насколько реалистичным является сценарий замены естественных преподавателей искусственными системами, но и проблема того, какую роль будут играть как педагоги-люди, так и интеллектуальные системы в формирующейся технологизированной системе образования. Предполагается, что существующие формы организации образовательного процесса существенно изменятся, но в какой мере и каким образом – это пока остается в сфере гипотетических сценариев и техноутопий.
4

Искусственный преподаватель – техноутопия или близкая перспектива?

Понятием «искусственный преподаватель» обозначается совокупность реальных и гипотетических проектов, связанных с применением искусственного интеллекта и робототехники в образовании. Применение искусственного интеллекта в сфере образования становится одним из заметных трендов в области EdTech примерно с 2016 года. При этом отмечается, что использование искусственного интеллекта в образовании – это одна из повторяющихся образовательных тенденций, и она то входит в моду, то выходит из нее. Возвращение интереса к образовательному искусственному интеллекту связывается с тем, что образование ассимилирует в себе технологии, уже доказавшие свою успешность в других областях, и к 2016 году именно это и произошло с искусственным интеллектом [19].

5 В настоящее время достаточно успешно реализуются некоторые проекты, условно подпадающие под категорию искусственного преподавателя. Одним из наиболее показательных и известных примеров таких проектов является робот-гиноид Bina48 – разработка компании Hanson Robotics 2010 года. Bina48 использовалась в качестве одного из преподавателей на курсе политической философии в Вест-Пойнте, она обладала обширной базой знаний по проблематике курса, вела лекцию, отвечала на вопросы учащихся.
6 Еще один яркий пример – «учитель Уилл», представляющий собой программу, обладающую интерфейсом в виде анимированного аватара. Этот аватар способен довольно правдоподобно имитировать человеческую мимику. Он стал частью образовательного проекта в области экологии и проводил занятия в школах Новой Зеландии. Этот искусственный учитель отвечал на вопросы школьников, а также проверял уровень усвоения учебного материала. Отмечалось, что ученики проявляли большой интерес к изучаемому предмету, но связан он был, видимо, с тем, что привлекательной казалась сама новая технология, заменившая рутину привычных уроков с живым учителем.
7

Более известна еще одна обучающая программа – чат-бот, искусственная ассистентка Джилл Уотсон. Она была разработана одним из профессоров Технического института Джорджии. Этот чат-бот способен отвечать на вопросы, касающиеся организации учебного процесса, и давать пояснения по учебному материалу. Многие студенты даже не догадывались, что общаются с чат-ботом, а не с реальной женщиной. Видимо, можно считать, что эта программа прошла тест Тьюринга, ведь ее уровень был гораздо выше уровня чат-ботов в банках или интернет-магазинах. Это, скорее, когнитивный ассистент, обладающий «способностью вести разговоры, гораздо больше похожие на человеческие, … по сравнению с обычными ботами» [15].

8

Наконец, можно вспомнить об амбициозном китайском проекте, основатель которого практически напрямую заявляет, что искусственные обучающие системы могут быть успешнее, чем люди-педагоги. Стартап Squirrel AI Learning – онлайн-школа внеклассного индивидуального обучения в области математики и китайского языка. Алгоритмы искусственного интеллекта оценивают уровень ученика и адаптируют под него учебные задания. Были проведены исследования, в ходе которых применение этой системы привело к лучшим учебным результатам для определенной группы заданий по сравнению с обучением у реального учителя [18].

9

Подобные исследования позволяют утверждать, что искусственные системы, интегрированные в образовательный процесс, «еще находятся на экспериментальной стадии, но мы прогнозируем, что роботы-инструкторы станут более способными и доступными в ближайшем будущем… Хотя роботы не могут полностью заменить людей-инструкторов, они могут помочь студентам улучшить учебный опыт и достичь определенных результатов обучения» [14]. И здесь возникает закономерный вопрос: является ли идея о замене (полной или частичной) реальных педагогов различными вариантами «искусственного преподавателя» всего лишь техноутопией или же это обозримое будущее образовательного процесса, в котором преподаватели-люди не смогут подтвердить свою эффективность.

10 Очевидно, ответ на этот вопрос связан с определенной группой проблем, касающихся соотношения естественного и искусственного интеллекта. В первую очередь не вполне ясно, что в данном случае подразумевается под искусственным интеллектом. Идет ли речь о так называемом специализированном искусственном интеллекте, который разрабатывается для решения определенного круга задач, или же о гипотетическом общем ИИ, способном выполнять любую интеллектуальную деятельность и фактически быть искусственным аналогом человека. Если предположить, что специализированного ИИ достаточно для вытеснения людей-педагогов, то это значит, что сам процесс обучения не требует от того, кто обучает, специфических человеческих свойств. Будем считать, что ключевым подобным свойством является субъектность.
11

Таким образом, основную проблему в данном случае можно сформулировать так: необходима ли преподавателю субъектность, и каковы пределы применения искусственных интеллектуальных систем в образовании, если они субъектностью не обладают? Получается даже, что «более важными являются не технологические, а этические проблемы искусственного интеллекта в образовании… Возможно, самый большой вклад ИИ будет в том, чтобы заставить нас понять, насколько действительно важны люди в системе образования» [19].

12

Нужна ли субъектность преподавателю?

Задаваясь вопросом о специфичности преподавательской активности, мы используем понятие «субъектность», поскольку оно, с одной стороны, указывает на человеческую специфичность, с другой – отсылает к понятию агентности, также необходимому для понимания соотношения между естественным и искусственным преподавателем. Более того, субъектность и агентность иногда рассматриваются как синонимичные концепты, но здесь предлагается их дифференцировать. Такая дифференциация особенно важна в контексте наделения агентностью, то есть способностью действовать, неживые, нечеловеческие системы, к которым можно отнести и искусственный интеллект. Здесь мы с очевидностью делаем отсылку к акторно-сетевой теории Б. Латура и его последователей, которых как раз обвиняют в стирании различий между человеческими и нечеловеческими сущностями [4].

13 Под субъектностью будем понимать специфические свойства человеческих агентов как существ, способных действовать и оказывать своими действиями влияние на других агентов. Сутью этого специфического свойства можно считать относительную автономность, свободу воли, самодетерминацию и спонтанность, нехарактерные для нечеловеческой агентности. Предполагается, что в процессе обучения взаимодействует субъектность учащегося с субъектностью обучающего (и обе эти субъектности связны с множеством агентностей). Возможно ли, сосредоточившись на субъектности учащегося, для которого необходимо достижение определенных результатов обучения, заменить субъектность обучающего квази-субъектностью или чистой бессубъектной агентностью искусственной обучающей системы?
14

Необходимо проинтерпретировать роль субъектности обучающего с точки зрения методологических аспектов обучения. Д. Дирксен, автор бестселлера по методологии обучения «Искусство обучать», отмечает: «Вспомните ваш самый успешный опыт обучения. Каким он был? … Чаще всего мне отвечали: “У меня был прекрасный преподаватель…”» [2] Что это значит с точки зрения когнитивных основ обучения? Современная когнитивная наука достаточно далеко ушла от понимания когнитивных процессов на основе компьютерной метафоры мышления, с точки зрения которой эти процессы являются переработкой информации, происходящей по определенным алгоритмам. В настоящее время в когнитивистике происходят попытки совместить объективирующие методы исследования «от третьего лица» с феноменологическими подходами к пониманию персонального опыта «от первого лица» [11]. С точки зрения такого подхода значимыми признаются различные аспекты телесного [8] и социального опыта, подчеркиваются когнитивные функции эмоций. Предлагается концепция distributed cognition, согласно которой процесс получения знаний или формирования навыков в ходе обучения – это не только алгоритмизируемый процесс, но и часть неявного межсубъектного взаимодействия, которое невозможно формализовать во всех его аспектах [9].

15 С подобной точки зрения, обучение настолько специфический процесс, что преподаватель должен быть включен в него как субъект, а его способность выполнять свои образовательные функции напрямую зависит от его субъектных черт, персонального опыта, ценностной системы, эмоциональной вовлеченности. Само по себе предоставление образовательного контента и формирование навыков еще не несет в себе полноты образовательного воздействия, поскольку уникальный опыт учащегося как субъекта, связанный напрямую с его когнитивными функциями, возможно сформировать только во взаимодействии с уникальным опытом другого субъекта.
16

Казалось бы, интеллектуальная система, основная цель применения которой в образовательном процессе состоит в возможности работать с огромным объемом информации для построения индивидуальных образовательных траекторий, должна успешно учитывать персональные особенности учащихся, их уникальный опыт. Такая система способна узнать об учащемся практически все (особенности восприятия информации, предпочтения, интересы) и учесть это знание, например, при создании учебной программы. Однако интеллектуальные системы разрабатываются таким образом, что они зачастую содержат так называемые Biases in AI, то есть предрассудки, возникающие в системе искусственного интеллекта [7]. Получается, что анализ персонального опыта учащегося производится на основе этой предзаданной системы предубеждений, при этом он редуцируется к той системе показателей, которая закладывается в систему разработчиками. Показатели эти представляют собой модель учащегося, в которой учитываются его параметры, доступные в определенный момент для формализации. При этом нет какого-либо общепринятого принципа формализации этих особенностей, поскольку не существует единой когнитивной теории обучения, как и единой теории психики в целом.

17

На это можно возразить, что у «живого» преподавателя тоже имеются когнитивные искажения, интерференции его собственного опыта и набор предрассудков. В чем же состоит тогда его отличие от искусственной интеллектуальной системы? Основным отличием здесь как раз и будут те аспекты субъектности, которые уже были отмечены ранее. Преподаватель-человек способен скорректировать систему собственных установок, его способы обучения могут быть уникальны, нелинейны, не предусмотрены изначальными условиями, что обусловлено его свободой воли и свободой воли учащегося. Это, однако, не делает процесс обучения недетерминированным и не исключает его рационализации. В таком направлении исследований детерминизма, как компатибилизм, показано, что определенные варианты детерминизма вполне совместимы со свободой воли [10].

18 Тем не менее интеллектуальные системы, как уже отмечалось, продемонстрировали свою эффективность во многих областях человеческой деятельности. Нет никаких оснований полгать, что они не могут использоваться в процессе образования. Но в данном случае вопрос должен ставиться не о замене естественного преподавателя искусственным, а об эффективном взаимодействии агентности искусственных систем с субъектностью учащегося и преподавателя в общем образовательном процессе.
19

Агентность искусственных интеллектуальных систем в процессе обучения

Если мы рассматриваем взаимодействие человеческих субъектов и наделенных агентностью искусственных систем в процессе обучения, то для начала нужно понять, почему эти системы в принципе обладают агентностью, почему они не являются простым инструментом, но способны оказывать воздействие на субъектов-людей. С точки зрения акторно-сетевой теории, источником агентности для искусственных систем является так называемое делегирование компетенций, когда человеческая способность совершать определенное действие переходит к искусственной системе. Это касается как сложных технических систем, так и самых обыденных и примитивных: например, мы создаем вешалку, в структуре которой реализуется наша способность удерживать определенный предмет. Получается, что способность совершать определенные действия переходит к неживым объектам [5]. В то же время очевидно, что такое делегирование компетенций возможно только на основе всего предшествующего человеческого опыта в области совершения определенных действий.

20

Если мы допускаем, что агентность – это результат делегирования компетенций, то нет необходимости уравнивать между собой человеческую и нечеловеческую агентность. Как показывает, например, Л. Сачмен, человеческое не уравнивается в правах с нечеловеческим, поэтому говорить о замене человеческих акторов нечеловеческими мы в принципе не можем [6]. В этом контексте система образования будет построена как сложное переструктурирующееся взаимодействие акторов-субъектов и акторов, представляющих собой технические системы, в том числе системы искусственного интеллекта.

21 Возникает вопрос о том, какие компетенции могут быть делегированы искусственному интеллекту, применяемому в системе образования. Сама возможность делегирования искусственным системам компетенций в сфере образования основана на том, что образовательная деятельность крайне неоднородна. Она включает в себя как сложные, креативные действия, стратегическое планирование, дифференциацию подходов к обучению, так и большое количество рутинных процедур, а также исследование большого объема данных.
22 Именно для анализа большого объема данных в первую очередь можно использовать системы искусственного интеллекта в образовании. Необходимость такого анализа возникает в процессе разработки индивидуальных образовательных траекторий, поскольку в этом случае требуется поиск закономерностей в большом объеме плохо структурированной информации. Коррекция учебной активности в соответствии с индивидуальным запросом обучающегося, предполагаемая построением индивидуальной образовательной траектории, тоже может производиться с помощью интеллектуальных систем.
23 Другие аспекты применения интеллектуальных систем в образовании – это поиск и систематизация учебного материала по тем параметрам, которые задает преподаватель. Применение чат-ботов может быть оправдано для ассистирования учащимся, для проверки некоторых учебных результатов и формирования определенных навыков. Есть также ряд рутинных процедур в организационно-методической работе, которые может взять на себя искусственный интеллект.
24

Таким образом, искусственные интеллектуальные системы, если применять их в обучении, несут в себе, скорее, функции тьюторов, а не преподавателей. В настоящее время уже существует опыт разработки таких искусственных тьюторов, представляющих собой варианты специализированного искусственного интеллекта [13]. Такие системы являются показательной реализацией делегирования компетенций и наделения искусственных систем агентностью, но не предполагают никакой субъектности, которая могла бы вытеснить субъектность преподавателя.

25

Получается, что в образовательном процессе возникает сеть взаимосвязей между самыми разнообразными агентами, образующими социотехнические ассамбляжи [1]. Если следовать онтологии Д. Харавей [12] и ее последователей в русле нового материализма и киберфеминизма, то, являясь частью социотехнического ассамбляжа, мы образуем киборганические системы. Фактически, делегируя часть собственных интеллектуальных функций искусственным системам, мы становимся чем-то вроде метафорического когнитивного киборга, чья интеграция с техникой расширена за пределы индивидуального мозга. Очевидно, что такая киборгизация требует новых подходов к разработке стратегий и методов образования, а преподаватель в этом процессе сможет играть новые роли, поскольку часть прежних функций будет делегирована искусственным системам как части человекомашинного ассамбляжа.

26

Заключение

Таким образом, представление о том, что искусственные системы могут полностью вытеснить педагогов-людей из образовательного процесса кажется в настоящее время не вполне обоснованным. Скорее, произойдет перераспределение образовательных действий, вызванное делегированием части интеллектуальных компетенций искусственным системам. Разумеется, в этот процесс могут вмешаться экономические факторы, за счет которых перераспределение образовательных функций и роль преподавателя в образовании начнет диктоваться краткосрочной экономической целесообразностью, а не долгосрочными образовательными перспективами. В этом случае преподавательский труд будет трудом отчужденным и делегирование интеллектуальных функций только укрепит это отчуждение.
27 В то же время развитие и повсеместное применение интеллектуальных технологий, как и любых других технических новшеств, несет в себе значительный эмансипирующий потенциал. Возможно, этот потенциал позволит создать принципиально новые модели обучения, где роль субъектности как учащегося, так и преподавателя приобретет гораздо большее значение.

References

1. Delanda M. Novaya filosofiya obschestva. Teoriya assamblyazhej i sotsial'naya slozhnost'. // Perm': Gile Press, 2018.

2. Dirksen D. Iskusstvo obuchat' // Per. s angl. Dolgovoj O.V. M.: Mann, Ivanov i Ferber, 2017.

3. Issledovanie rynka onlajn-obrazovaniya v Rossii, 2019. // URL: https://drive.google.com/file/d/1t-gafwZlP-eJ3yiabGNR4mtwDznzDNhq/view

4. Latur B. Peresborka sotsial'nogo: vvedenie v aktorno-setevuyu teoriyu // per. s angl. I. Polonskoj; pod red. S. Gavrilenko. M.: Izd. dom Vysshej shkoly ehkonomiki, 2014.

5. Napreenko I.V. Delegirovanie agentnosti v kontseptsii Bruno Latura: kak sobrat' gibridnyj kollektiv kiborgov i antropomorfov? // Sotsiologiya vlasti. 2015, №1.

6. Sachmen L. Rekonfiguratsii otnoshenij chelovek - mashina. Plany i situativnye dejstviya // Per. s angl. Maksimovoj A. M.: Ehlementarnye formy, 2019.

7. Acuna D.E., Liang L. Artificial mental phenomena: Psychophysics as a framework to detect perception biases in AI models // Proceedings of the 2020 Conference on Fairness, Accountability, and Transparency, 2020. pp. 403–412.

8. Adams F. Embodied Cognition // Phenomenology and Cognition. 2010, 9 (4). pp. 619–628.

9. Clarke D., Xu L. What Does Distributed Cognition Tell Us about Student Learning of Science? // Research in Science Education. 2012, 42(3).

10. Clarke R. Dispositions, Abilities to Act, and Free Will: The New Dispositionalism // Mind, New Series, 2009, Vol. 118, No. 470.

11. Gallagher S., Zahavi D. The Phenomenological Mind. // Routledge, 2012.

12. Haraway D. J. Manifestly Haraway. // University of Minnesota Press, 2016.

13. Kim W.-H., Kim J.-H. Individualized AI Tutor Based on Developmental Learning Networks // IEEE Access, 2020, Feb. pp. 27927–27937.

14. Knox J., Wang Yu., Gallagher M. (Eds.) Artificial Intelligence and Inclusive Education. // Springer, 2019.

15. Sabharwal N., Barua S., Anand N., Aggarwal P. Developing Cognitive Bots Using the IBM Watson Engine. // Berkeley, CA: Apress, 2020.

16. Selwyn N. Should Robots Replace Teachers?: AI and the Future of Education (Digital Futures). // Polity, 2019.

17. The Future of Work: How New Technologies Are Transforming Tasks, 2019. // URL: https://mitibmwatsonailab.mit.edu/wp-content/uploads/2020/02/The-Future-of-Work-How-New-Technologies-Are-Transforming-Tasks2.pdf

18. Wei C., Zhen X., Khanh-Phuong T. Performance Comparison of an AI-Based Adaptive Learning System in China // Conference Paper, Chinese Automation Congress (CAC), 2018. pp. 3170–3175.

19. Weller M. 25 Years of Ed Tech. // Canada: AU Press, 2020.