Законы робототехники Азимова: мировоззренческие основы и когнитивные искажения
https://doi.org/10.25205/2541-7517-2024-22-4-5-24
Аннотация
«Законы робототехники» Айзека Азимова пользуются исключительным авторитетом и являются своего рода заповедями для многих сторон этически-философского дискурса вокруг искусственного интеллекта. Практическое применение этих «законов», однако, сталкивается с принципиальными трудностями, причины которых исследованы в этой статье. В частности, первый «закон» о недопущении вреда человеку не уточняет, об ущербе кому идёт речь; второй «закон» о подчинении робота человеку не уточняет, кому из претендентов на управление роботом следует отдать предпочтение. На элементарных примерах показано, что при наличии конфликта интересов оба этих абстрактно-гуманистических «закона» теряют смысл и являются жизненно несостоятельными. Кроме того, даже в отсутствие такого конфликта «недопущение вреда» требует от робота предвидения последствий тех или иных действий в сколь угодно далёком будущем, однако возможность такого прогноза противоречит законам физики и биологии. Наконец, показано, что формулировки всех трёх «законов», очевидно абсурдные для неодушевлённых инструментов, предполагают наличие у роботов свободы действия, ошибочно наделяя их субъектностью. Этот ложный антропоморфизм, характерный для современных обсуждений искусственного интеллекта, закрепился в устойчивых языковых формах. Система выявленных искажений представляет собой чуждую традиционным культурам когнитивно-мировоззренческую матрицу, угрожающую безопасности общества на переходе к новым техноукладам.
Об авторе
И. А. Суров
Национальный исследовательский университет ИТМО
Россия
Россия
Илья Алексеевич Суров, кандидат физ.-мат. наук старший научный сотрудник
Санкт–Петербург
Список литературы
1. Азимов А. Миры Айзека Азимова. Книга первая. Совершенный робот. М.: Полярис, 1994. 668 с.
2. Алексеева И. Ю. Этика искусственного интеллекта как прикладная этика // Философия и общество. 2024. № 3. С. 69–85.
3. Алексеев А. П., Алексеева И. Ю. Статус этических кодексов в этике искусственного интеллекта // Информационное общество. 2024. № 4. С. 43–49.
4. Алимова С. З., Каменская И. Б. Критическая рецепция цикла рассказов Айзека Азимова «Я, робот» // Формирование профессиональной компетентности филолога в поликультурной образовательной среде: Материалы II Международной научно-практической конференции / Под общ. ред. И. Б. Каменской. Евпатория: Индивидуальный предприниматель Корниенко Андрей Анатольевич, 2019. С. 23–26.
5. Батурин, Ю. М., Полубинская С. В. Искусственный интеллект: правовой статус или правовой режим? // Государство и право. 2022. № 10. С. 141–154.
6. Борзых С. В. Антропоморфизм ИИ // Журнал философских исследований. 2019. Т. 5. № 2. С. 2–9.
7. Введенская Е. В. Актуальные проблемы робоэтики // Науковедческие исследования. 2019. № 2019. С. 88–101.
8. Владимирова З. В. О возможных способах наделения искусственного интеллекта правосубъектностью // Вестник магистратуры. 2021. № 8. С. 50–55.
9. Водолазов Г. Г. Гуманизм абстрактный и гуманизм реальный // Гуманизм и современность: Материалы международной научно-образовательной конференции. Казань: Казанский (Приволжский) федеральный университет, 2013. С. 30–40.
10. Высочина Д. С. Повседневность прогнозируемого мира (Сборник рассказов Азимова «Я, робот») // Вестник Калужского университета. Серия 2. Исследования по филологии. 2023. № 3. С. 70–76.
11. Гребенщикова Е. Г. Этика как управление // Сибирский философский журнал. 2018. Т. 16. № 4. С. 135–146.
12. Дронова Е. А. Искусственный интеллект и социология морали // Свободная мысль. 2024. № 4. С. 55–62.
13. Еськов В. М. Конец определенности: хаос гомеостатических систем. Тула: ТППО, 2017. 595 с.
14. Еськов В. М. и др. Хаотический мозг // Сложность. Разум. Постнеклассика. 2022. № 2. С. 5–16.
15. Карпов В. Э., Готовцев П. М., Ройзензон Г. В. К вопросу об этике и системах искусственного интеллекта // Философия и общество. 2018. № 2. С. 84–105.
16. Кружалова Л. В. Проблемы взаимоотношений естественного и искусственного интеллектов (роботов) в произведениях научной фантастики (К. Чапек, И. Варшавский , А. Азимов и др.) // International journal of professional science. 2023. № 9. C. 5–13.
17. Латиева А. Р. Взаимодействие научно-фантастических концепций и социума // Проблемы современных социокультурных исследований / Под ред. Е.В. Хлыщевой, Р.Т. Алиева, В.Л. Тихоновой, О.И. Закутнова. Астрахань: Изд. дом «Астраханский университет», 2019. С. 77–81.
18. Маслова К. К. Трансформация образа «робот» от «механического подобия» к образу «робот-человек» в произведениях (К. Чапека, Е. И. Замятина, О. Хаксли и А. Азимова) // Вестник славянских культур. 2018. Т. 49. С. 161–170.
19. Нигоматуллина Р. М. Этика как онтология управления // Сибирский философский журнал. 2022. Т. 20. № 1. С. 15–25.
20. Панов А. Д. Технологическая сингулярность, теорема Пенроуза об искусственном интеллекте и квантовая природа сознания // Информационные технологии (Приложение к журналу). 2014. № 5. С. 1–32.
21. Попова А. В. Этические принципы взаимодействия с искусственным интеллектом как основа правового регулирования // Правовое государство: теория и практика. 2020. Т. 16. № 3. С. 34–43.
22. Попова Н. Н. Развитие технологий искусственного интеллекта в перспективах трансформации права: правосознание в проекции будущего // Вестник Московского государственного областного университета. Серия: Юриспруденция. 2021. № 3. С. 65–76.
23. Разин А. В. Этика искусственного интеллекта // Философия и общество. 2019. Т. 1. № 90. С. 57–93.
24. Суров И. А. Квантовая концепция свободы выбора // Ученые записки Института психологии РАН. 2023. Т. 3. № 4. С. 68–82.
25. Шибаева К. В., Холова Л. Н. Три закона робототехники Айзека Азимова: к вопросу о гуманности применения смертоносных автономных систем вооружения на войне // Теология, философия, право. 2018. Т. 8. № 4. С. 28–41. Asimov I. I, Robot. New York: Gnome Press, 1950.
26. Bueno C. C., Jankowski S. Judgement aft er Automation: Posthumanist Reflections on Asimov’s Laws of Robotics // Journal of science fiction and philosophy. 2024. Vol. 7. P. 1–19.
27. Caporael L. R. Anthropomorphism and mechanomorphism: Two faces of the human machine // Computers in human behavior. 1986. Vol. 2. No. 3. P. 215–234.
28. Clarke R. Asimov’s laws of robotics: implications for information technology. Part 1 // Computer. 1993. Vol. 26. No. 12. P. 53–61.
29. Clarke R. Asimov’s laws of robotics: Implications for information technology. Part 2 // Computer. 1994. Vol. 27. No. 1. P. 57–66.
30. Cleeremans A., Allakhverdov V. M., Kuvaldina M. (eds.) Implicit learning: 50 years on. Abingdon, Oxon: Routledge, 2019. 262 p.
31. Frensch P. A., Rünger D. Implicit Learning // Current Directions in Psychological Science. 2003. Vol. 12. No. 1. P. 13–18.
32. Guthrie S. E. Anthropomorphism: A defi nition and a theory // Anthropomorphism, anecdotes, and animals / Ed. R. W. Mitchell, N. S. Th omson, H. L. Miles. New York: State University of New York Press, 1997. P. 50–58.
33. Jedlicka P. Revisiting the quantum brain hypothesis: Toward quantum (neuro)biology? // Frontiers in Molecular Neuroscience. 2017. Vol. 10. P. 1–8.
34. Levin M. Technological Approach to Mind Everywhere: An Experimentally-Grounded Framework for Understanding Diverse Bodies and Minds // Frontiers in Systems Neuroscience. 2022. Vol. 16. P. 768201.
35. Lyon P. и др. Reframing cognition: getting down to biological basics // Philosophical Transactions of the Royal Society B: Biological Sciences. 2021. Vol. 376. No. 1820. P. 20190750.
36. McCauley L. AI Armageddon and the Th ree Laws of Robotics // Ethics and Information Technology. 2007. Vol. 9. No. 2. P. 153–164.
37. Melnikova E., Surov I. Legal Status of Artifi cial Intelligence from Quantum-Th eoretic Perspective // BRICS Law Journal. 2023. Vol. 10. No. 4. P. 5–34.
38. Persson E., Hedlund M. Th e Trolley problem and Isaac Asimov’s First law of robotics // Journal of science fi ction and philosophy. 2024. Vol. 7. P. 1–21.
39. Placani A. Anthropomorphism in AI: hype and fallacy // AI Ethics. 2024. Vol. 4. No. 3. P. 691–698.
40. Rubik B. Artifi cial intelligence and the human biofi eld: New opportunities and challenges // Cosmos and history: Th e Journal of natural and social philosophy. 2018. Vol. 14. No. 1. P. 153–162.
41. Surov I. A., Melnikova E. N. Subjectness of intelligence: quantum–theoretic analysis and ethical perspective // Foundations of science. 2024. https://doi.org/10.1007/s10699-024-09947-y
42. Toyoshima Y. и др. Ensemble dynamics and information fl ow deduction from wholebrain imaging data // PLOS computational biology. 2024. Vol. 20. No. 3. E1011848.
Рецензия
Для цитирования:
Суров И.А. Законы робототехники Азимова: мировоззренческие основы и когнитивные искажения. Сибирский философский журнал. 2024;22(4):5-24. https://doi.org/10.25205/2541-7517-2024-22-4-5-24
For citation:
Surov I.A. Asimov’s laws of robotics: conceptual foundations and cognitive fallacies. Siberian Journal of Philosophy. 2024;22(4):5-24. (In Russ.) https://doi.org/10.25205/2541-7517-2024-22-4-5-24
Просмотров:
13
Послать статью по эл. почте 