Цифровые технологии на службе у предпринимательства: новые вызовы для регулирования

В статье рассматриваются новые проблемы и вызовы для регуляторных органов, порождаемые расширением применения искусственного интеллекта (далее ИИ) и технологий сбора и обработки больших данных со стороны компаний. Целью исследование является выявление оптимального теоретического подхода к регулированию применения ИИ в области ценообразования и оптимизации работы с потребителями. В качестве новых проблем, требующих вмешательства регулятора, выделены манипуляция поведением потребителей и эксплуатация их когнитивных отклонений на основе сбора больших данных, усиление проблемы ценовой дискриминации и риски возникновения трудно выявляемых ценовых сговоров в условиях применения алгоритмического ценообразования. К основным факторам, которые необходимо учитывать при выборе мер, регулирующих применение ИИ компаниями, отнесены сверхбыстрые темпы развития цифровых технологий и частое восприятие их как «черного ящика», снижающаяся в динамично меняющихся условиях эффективность традиционных методов экономического анализа, необходимость комплексного подхода к решению множества проблем и координации действий различных регуляторных органов. В соответствии с этим наиболее оптимальным подходом к регулированию применения ИИ компаниями признано «умное регулирование». Несмотря на то, что его реализация сопряжена с высокими трансакционными издержками, этом подход позволяет нивелировать проблемы применения ИИ, ex ante снизить вероятность появления новых рисков и при этом сохранять привносимые ИИ позитивные эффекты. В качестве инструментов, применяемых в рамках «умного регулирования» ИИ выделены создание «регуляторных песочниц» и механизмов предварительного тестирования алгоритмов ИИ, расширение стимулов для саморегулирования, разработка контр-алгоритмов и др.

1. Бикташев, А. А. (2023). Концепция «умное регулирование» (smart regulation) в зарубежных исследованиях по государственному управлению. Вопросы государственного и муниципального управления, 1, 199–222. https://doi.org/10.17323/1999-5431-2023-0-1-199-222

2. Купряшин, Г. Л., & Сарычева, Н. Н. (2013). Концепция умного регулирования: зарубежный опыт и возможности применения в государственном управлении России. Вестник Московского университета. Серия 21: Управление (государство и общество), 2, 3–20.

3. Милкова, М. А. (2021). Информация и ограниченная рациональность выбора в цифровой экономике. Цифровая экономика, 1, 69–88. https://doi.org/10.34706/DE-2021-01-08

4. Проволович, Т. О. (2022). Искусственный интеллект как инструмент манипулирования поведением. Дата обращения 08.09.2023, https://phc.hse.ru/humai/news/603110314.html

5. Тутов, Л. А., & Шаститко, А. Е. (2005). Ограниченная рациональность: проблемы системности определения в междисциплинарном контексте. Общественные науки и современность, 2, 117–127.

6. Шаститко, А. Е., & Моросанова А. А. (2024). Дорогая бесплатность. Вопросы теоретической экономики, 2, 56–72. https://doi.org/10.52342/2587-7666VTE_2024_2_56_72

7. Эзрахи, А., & Стаки, М. (2022). Виртуальная конкуренция: посулы и опасности алгоритмической экономики. М.: Дело РАНХиГС.

8. Alben, A. (2020). When Artificial Intelligence and Big Data Collide — How Data Aggregation and Predictive Machines Threaten our Privacy and Autonomy. AI Ethics Journal, 1(1) https://doi.org/10.47289/AIEJ20201106

9. Calvano, E., Calzolari, G, Denicolò, V., & Pastorello, S. (2019). Algorithmic pricing what implications for competition policy? Review of Industrial Organization, 55, 155–171. https://doi.org/10.1007/s11151-019-09689-3

10. Calvano, E., Calzolari, G, Denicolò, V., & Pastorello, S. (2020a). Artificial Intelligence, Algorithmic Pricing, and Collusion. American Economic Review, 110(10), 3267–3297. https://doi.org/10.1257/aer.20190623

11. Calvano, E., Calzolari, G., Denicolo, V., Harrington, J., & Pastorello, S. (2020b). Protecting consumers from collusive prices due to AI. Insights, 370(6520), 1040–1042. https://doi.org/10.1126/science.abe3796

12. Davidson, S. (2023). The economic institutions of artificial intelligence. SSRN Working Paper. Дата обращения 27.10.2023, https://ssrn.com/abstract=4456471 or http://dx.doi.org/10.2139/ssrn.4456471

13. de Marcellis-Warin, N., Marty, F., Thelisson, E., & Warrin, T. (2022). Artificial intelligence and consumer manipulations: from consumer’s counter algorithms to firm’s self-regulation tools. AI and Ethics, 2, 259–268. https://doi.org/10.1007/s43681-022-00149-5

14. Earl, P. E. (2016). Bounded Rationality in the Digital Age. In R. Frantz, L. Marsh (Eds.), Minds, Models and Millieux (p. 253–271). https://doi.org/10.1057/9781137442505_15

15. Gal, M. S. (2019). Illegal pricing algorithms. Communications of the ACM, 62(1), 18–20. https://dl.acm.org/doi/10.1145/3292515

16. Gerlick, J. A., & Liozu, S. M. (2020). Ethical and legal considerations of artificial intelligence and algorithmic decision-making in personalized pricing. Journal of Revenue and Pricing Management, 19, 85–98. https://doi.org/10.1057/s41272-019-00225-2

17. Gunningham, N., & Grabosky, P. (1998). Smart Regulation: Designing Environmental Policy. Oxford University Press.

18. Ienca, M. (2023). On Artificial Intelligence and Manipulation. Topoi, 42, 833–842. https://doi.org/10.1007/s11245-023-09940-3

19. MacKay, A., & Weinstein, S. (2022). Dynamic Pricing Algorithms, Consumer Harm, and Regulatory Response. Harvard Business School. Working Paper No. 22–050. Дата обращения 23.10.2023, https://www.hbs.edu/ris/Publication%20Files/22-050_ec28aaca-2b94-477f-84e6-e8b58428ba43.pdf

20. Maitland, I. (1985). The limits of self-regulation. Calif. Manage. Rev, 27(3).

21. Royakkers, L., Timmer, J., Kool, L., & Est, R. (2018). Societal and Ethical Issues of Digitalization. Ethics and Information Technology, 20(2). https://doi.org/10.1007/s10676-018-9452-x

22. Schwartz, B. (2005). The Paradox of Choice: Why More is Less. New York: Harper Perennial.

23. Simon, H. A. (1956). Rational choice and the structure of the environment. Psychological Review, 63(2), 129–138. https://doi.org/10.1037/h0042769

24. Simon, H. A. (1978). Rationality as Process and as Product of Thought. American Economic Review, 68(2), 1–16.

25. Truby, J., Brown, R., Ibrahim, I., & Parellada, O. (2022). A Sandbox Approach to Regulating High-Risk Artificial Intelligence Applications. European Journal of Risk Regulation, 13(2), 270–294. https://doi.org/10.1017/err.2021.52

26. Wagner, G., & Eidenmueller, H. (2019). Down by Algorithms? Siphoning Rents, Exploiting Biases and Shaping Preferences — The Dark Side of Personalized Transactions. University of Chicago Law Review, 20. http://dx.doi.org/10.2139/ssrn.3160276

27. World Bank. Digital Regulation Handbook (2020). Дата обращения 23.10.2023, https://www.itu.int/en/ITU-D/Regulatory-Market/Pages/DigiReg20.aspx

28. Zuboff, S. (2015). Big other: surveillance capitalism and the prospects of an information civilization. Journal of Information Technology, 30, 75–89. https://doi.org/10.1057/jit.2015.5