О роли этической теории в структуре искусственных моральных агентов в культурном поле информационного общества

В рамках данного исследования актуализируются этические и философские аспекты создания искусственных интеллектуальных систем и искусственных моральных агентов. Актуальность обращения к данной проблеме обусловлена насущными задачами осмысления процесса формирования цифровой этики, которая в пространстве современной культуры занимает всё более значимое положение. Неоднозначный характер данного феномена определил не до конца сформированный предмет анализа. Вместе с тем очевидно, что этические характеристики выступают частью общекультурного пространства встраивания в мир людей интеллектуальных систем и рефлексии над этим процессом. Таким образом, цель исследования состоит в выделении и анализе различных подходов к роли этической теории в структуре искусственных моральных агентов. Для этого реализуются следующие задачи. Во-первых, рассматриваются различные стратегии этической регуляции с точки зрения их формализации для использования в интеллектуальных системах. Особое внимание уделяется негативным проявлениям создания искусственных моральных агентов, а также анализируются аргументы против их появления. Среди последних выделяются как общеизвестные (проблема злонамеренного использования и экзистенциальные переживания человечества как вида), так и более специфичные для философии и этики (например, манипуляция поведением за счёт эмуляции эмоций и проблема удалённого доступа и использования). Во-вторых, поднимаются вопросы, связанные с этикой интеллектуальных систем, приводятся противоречия, связанные с их реализацией. В-третьих, анализируются деонтология и утилитаризм в качестве теорий, подходящих для формализации и использования в структуре и архитектуре искусственных моральных агентов. Для реализации обозначенных шагов используются методология этической и гуманитарной экспертизы и анализа кейсов. Основным материалом для проведения исследования служат теоретические модели реализации искусственных моральных агентов и встраивания в них этических теорий, таких как деонтология и утилитаризм. Также на основании кейса социального робота рассматриваются различия между деонтологией и утилитаризмом с точки зрения разрешения конкретных ситуаций. Результат исследования состоит в обнаружении как позитивных моментов, так и существенных изъянов в каждом из рассмотренных подходов. Например, использование утилитаризма как моральной арифметики больше и лучше отвечает требованиям формализации и использования в архитектуре искусственных моральных агентов, поскольку каждому действию и его последствиям возможно представить количественный параметр. Однако деонтология позволяет выстроить теорию разрешенных и запрещенных действий, которые способны лучше отражать реальный процесс совершения поступка. Основным затруднением для формализации деонтологии является проблема соотнесения типов долженствования и сложность работы с категорией допустимости действия, поскольку допустимое не является ни запрещённым действием, ни обязательным для исполнения. На основании проведённого анализа обоснована перспективность следующего вывода: недостаточно просто формализовать этическую теорию, необходимо сделать так, чтобы искусственные агенты могли самостоятельно построить этическую модель.

1. Антипов А.В. Автономия искусственных моральных агентов // Человек, интеллект, познание. — Новосибирск: Новосибирский национальный исследовательский государственный университет, 2023a. — С. 235–237.

2. Антипов А.В. Искусственные моральные агенты: анализ аргументов против // Цифровые технологии и право. — Казань: Издательство "Познание", 2023b. — С. 15–20. https://doi.org/10.21202/978-5-8399-978-5-8399-0819-2_476

3. Уланова А.Е. Образ противника технологий в рассказе А. Азимова «Раб корректуры»: современная интерпретация // Концепт: философия, религия, культура. — 2020. — Т. 4, № 2. — С. 135–143. https://doi.org/10.24833/2541-8831-2020-2-14-135-143

4. Allen C., Smit I., Wallach W. Artificial Morality: Top-down, Bottom-up, and Hybrid Approaches // Ethics and Information Technology. — 2005. — Vol. 7, No 3. — P. 149–155. https://doi.org/10.1007/s10676-0060004-4

5. Anderson S.L. Philosophical Concerns with Machine Ethics // Machine Ethics. — Cambridge: Cambridge University Press, 2011. — P. 162–167. https://doi.org/10.1017/CBO9780511978036.014

6. Artificial Moral Agents: A Survey of the Current Status / J.-A. Cervantes, S. López, L.-F. Rodríguez, et al. // Science and Engineering Ethics. — 2020. — Vol. 26, No 2. — P. 501–532. https://doi.org/10.1007/s11948019-00151-x

7. Chakraborty A., Bhuyan N. Can artificial intelligence be a Kantian moral agent? On moral autonomy of AI system // AI and Ethics. — 2024. — Vol. 4, No 2. — P. 325–331. https://doi.org/10.1007/s43681-023-00269-6

8. Cristani M., Burato E. Approximate solutions of moral dilemmas in multiple agent system // Knowledge and Information Systems. — 2009. — Vol. 18, No 2. — P. 157–181. https://doi.org/10.1007/s10115-0080172-0

9. Formosa P., Ryan M. Making moral machines: why we need artificial moral agents // AI & SOCIETY. — 2021. — Vol. 36, No 3. — P. 839–851. https://doi.org/10.1007/s00146-020-01089-6

10. Franck G. The economy of attention // Journal of Sociology. — 2019. — Vol. 55, No 1. — P. 8–19. https://doi.org/10.1177/1440783318811778

11. Hanna R., Kazim E. Philosophical foundations for digital ethics and AI Ethics: a dignitarian approach // AI and Ethics. — 2021. — Vol. 1, No 4. — P. 405–423. https://doi.org/10.1007/s43681-021-00040-9

12. Luke A. Digital Ethics Now // Language and Literacy. — 2018. — Vol. 20, No 3. — P. 185–198. https://doi.org/10.20360/langandlit29416

13. Moor J.H. The Nature, Importance, and Difficulty of Machine Ethics // IEEE Intelligent Systems. — 2006. — Vol. 21, No 4. — P. 18–21. https://doi.org/10.1109/MIS.2006.80

14. Pereira L.M., Lopes A.B. Artificial Intelligence, Machine Autonomy and Emerging Needs // Machine

15. Ethics. Studies in Applied Philosophy, Epistemology and Rational Ethics. — Cham: Springer, 2020. — P. 19–24. https://doi.org/10.1007/978-3-030-39630-5_2

16. Powers T.M. Prospects for a Kantian Machine // IEEE Intelligent Systems. — 2006. — Vol. 21, No 4. — P. 46–51. https://doi.org/10.1109/MIS.2006.77

17. Strasser A. Distributed responsibility in human–machine interactions // AI and Ethics. — 2022. — Vol. 2, No 3. — P. 523–532. https://doi.org/10.1007/s43681-021-00109-5

18. Turing A.M. Computing machinery and intelligence // Mind. — 1950. — Vol. LIX, No 236. — P. 433–460. https://doi.org/10.1093/mind/LIX.236.433

19. Voigt P., von dem Bussche A. The EU General Data Protection Regulation (GDPR). — Cham: Springer International Publishing, 2017. — 383 p. https://doi.org/10.1007/978-3-319-57959-7

20. Whiting R., Pritchard K. Digital ethics // The SAGE Handbook of Qualitative Business and Management Research Methods: History and Traditions. — London: SAGE Publications Ltd, 2018. — P. 562–577. https://doi.org/10.4135/9781526430212

21. Zuboff S. Surveillance Capitalism and the Challenge of Collective Action // New Labor Forum. — 2019. — Vol. 28, No 1. — P. 10–29. https://doi.org/10.1177/1095796018819461