msueconВестник Московского университета. Серия 6. ЭкономикаLomonosov Economics Journal0130-0105MSUPRESS10.55959/MSU0130-0105-6-59-3-1msuecon-1347Research ArticleЭКОНОМИЧЕСКАЯ ТЕОРИЯECONOMIC THEORYЦифровые технологии на службе у предпринимательства: новые вызовы для регулированияDigital technologies in the service of entrepreneurship: new challenges for regulationhttps://orcid.org/0000-0002-8652-3341ТутовЛ. А.TutovL. A.

Тутов Леонид Арнольдович — д.филос.н., профессор, заведующий кафедры философии и методологии, Экономический факультет МГУ имени М.В. Ломоносова.

Москва

Moscow

l.tutov@yandex.ruhttps://orcid.org/0009-0004-7984-3613ИзмайловА. А.IzmaylovA. A.

Измайлов Александр Александрович — ассистент кафедры философии и методологии экономики, Экономический факультет МГУ имени М.В. Ломоносова.

Москва

Moscow

izmaylov571@gmail.comМосковский государственный университет имени М.В. ЛомоносоваРоссияLomonosov Moscow State UniversityRussian Federation202426052024593320Copyright © Тутов Л.А., Измайлов А.А., 20242024Тутов Л.А., Измайлов А.А.Tutov L.A., Izmaylov A.A.Данная работа распространяется под лицензией Creative Commons Attribution 4.0.This work is licensed under a Creative Commons Attribution 4.0 License.https://msuecon.elpub.ru/jour/article/view/1347

В статье рассматриваются новые проблемы и вызовы для регуляторных органов, порождаемые расширением применения искусственного интеллекта (далее ИИ) и технологий сбора и обработки больших данных со стороны компаний. Целью исследование является выявление оптимального теоретического подхода к регулированию применения ИИ в области ценообразования и оптимизации работы с потребителями. В качестве новых проблем, требующих вмешательства регулятора, выделены манипуляция поведением потребителей и эксплуатация их когнитивных отклонений на основе сбора больших данных, усиление проблемы ценовой дискриминации и риски возникновения трудно выявляемых ценовых сговоров в условиях применения алгоритмического ценообразования. К основным факторам, которые необходимо учитывать при выборе мер, регулирующих применение ИИ компаниями, отнесены сверхбыстрые темпы развития цифровых технологий и частое восприятие их как «черного ящика», снижающаяся в динамично меняющихся условиях эффективность традиционных методов экономического анализа, необходимость комплексного подхода к решению множества проблем и координации действий различных регуляторных органов. В соответствии с этим наиболее оптимальным подходом к регулированию применения ИИ компаниями признано «умное регулирование». Несмотря на то, что его реализация сопряжена с высокими трансакционными издержками, этом подход позволяет нивелировать проблемы применения ИИ, ex ante снизить вероятность появления новых рисков и при этом сохранять привносимые ИИ позитивные эффекты. В качестве инструментов, применяемых в рамках «умного регулирования» ИИ выделены создание «регуляторных песочниц» и механизмов предварительного тестирования алгоритмов ИИ, расширение стимулов для саморегулирования, разработка контр-алгоритмов и др.

The article examines new challenges for regulators arising from an increasing use of artificial intelligence (AI) and technologies for collecting and processing big data by companies. The purpose of the study is to identify an optimal theoretical approach to the regulation of AI use in the field of pricing and optimization of work with consumers. The manipulation of consumer behavior and the exploitation of their cognitive deviations based on the collection of big data, the strengthening of the problem of price discrimination and the risks of difficult-to-detect price collusion in the context of the use of algorithmic pricing are highlighted as new problems requiring regulatory intervention. The main factors that must be taken into account when choosing measures regulating the use of AI by companies include ultra-fast pace of development of digital technologies and frequent perception of them as a “black box”, the decreasing effectiveness of traditional methods of economic analysis in dynamically changing conditions, the need for an integrated approach to solving many problems and coordinating the actions of various regulatory authorities. In accordance with this, “smart regulation” is recognized as the most optimal approach to regulating the use of AI by companies. Despite the fact that its implementation is associated with high transaction costs, this approach allows us to level out the problems of using AI, ex ante reduce the likelihood of new risks emerging and at the same time maintain the positive effects brought by AI. The tools used within the framework of “smart regulation” of AI include the creation of “regulatory sandboxes” and mechanisms for preliminary testing of AI algorithms, expansion of incentives for self-regulation, development of counter-algorithms, etc.

искусственный интеллектбольшие данныеманипуляции поведением потребителейалгоритмическое ценообразованиеценовая дискриминация«умное регулирование»предпринимательствоartificial intelligencebig datamanipulation of consumer behavioralgorithmic pricingprice discriminationsmart regulationentrepreneurshipСтатья подготовлена в рамках реализации внутрифакультетского гранта Экономического факультета МГУ имени М.В. Ломоносова по теме «Регуляторное вмешательство в цифровую эпоху: корректировка когнитивных ошибок или препятствование предпринимательству?»ReferencesБикташев, А. А. (2023). Концепция «умное регулирование» (smart regulation) в зарубежных исследованиях по государственному управлению. Вопросы государственного и муниципального управления, 1, 199–222. https://doi.org/10.17323/1999-5431-2023-0-1-199-222Biktashev, A. A. (2023). The concept of “smart regulation” in foreign public administration studies. Public Administration Issues, 1, 199–222. https://doi.org/10.17323/1999-5431-2023-0-1-199-222.Купряшин, Г. Л., & Сарычева, Н. Н. (2013). Концепция умного регулирования: зарубежный опыт и возможности применения в государственном управлении России. Вестник Московского университета. Серия 21: Управление (государство и общество), 2, 3–20.Ezrachi, A., Stucke, M. E., (2022). Virtual Competition: The Promise of the Algorothm-Driven Economy. Delo RANEPA.Милкова, М. А. (2021). Информация и ограниченная рациональность выбора в цифровой экономике. Цифровая экономика, 1, 69–88. https://doi.org/10.34706/DE-2021-01-08Kupryashin, G. L., & Sarycheva, N. N. (2013). The concept of smart regulation: foreign experience and possibilities of application in Russian public administration. Lomonosov Public Administration Journal. Series, 21(2), 3–20.Проволович, Т. О. (2022). Искусственный интеллект как инструмент манипулирования поведением. Дата обращения 08.09.2023, https://phc.hse.ru/humai/news/603110314.htmlMilkova, M. A. (2021). Information and bounded rationality of choice in the digital economy. Digital Economy, 1, 69–88. https://doi.org/10.34706/DE-2021-01-08Тутов, Л. А., & Шаститко, А. Е. (2005). Ограниченная рациональность: проблемы системности определения в междисциплинарном контексте. Общественные науки и современность, 2, 117–127.Provolovich, T. O. (2022). Artificial intelligence as a tool for manipulating behavior. Retrieved August 9, 2023, from https://phc.hse.ru/humai/news/603110314.htmlШаститко, А. Е., & Моросанова А. А. (2024). Дорогая бесплатность. Вопросы теоретической экономики, 2, 56–72. https://doi.org/10.52342/2587-7666VTE_2024_2_56_72Shastitko, A., Morosanova A. (2024). Expensive Free. Voprosy teoreticheskoy ekonomiki, 2, 56–72. https://doi.org/10.52342/2587-7666VTE_2024_2_56_72Эзрахи, А., & Стаки, М. (2022). Виртуальная конкуренция: посулы и опасности алгоритмической экономики. М.: Дело РАНХиГС.Tutov, L. A., & Shastitko, A. E. (2005). Bounded rationality: problems of systematic definition in an interdisciplinary context. Social Sciences and Contemporary World, 2, 117–127.Alben, A. (2020). When Artificial Intelligence and Big Data Collide — How Data Aggregation and Predictive Machines Threaten our Privacy and Autonomy. AI Ethics Journal, 1(1) https://doi.org/10.47289/AIEJ20201106Alben, A. (2020). When Artificial Intelligence and Big Data Collide — How Data Aggregation and Predictive Machines Threaten our Privacy and Autonomy. AI Ethics Journal, 1(1) https://doi.org/10.47289/AIEJ20201106Calvano, E., Calzolari, G, Denicolò, V., & Pastorello, S. (2019). Algorithmic pricing what implications for competition policy? Review of Industrial Organization, 55, 155–171. https://doi.org/10.1007/s11151-019-09689-3Calvano, E., Calzolari, G, Denicolò, V., & Pastorello, S. (2019). Algorithmic pricing what implications for competition policy? Review of Industrial Organization, 55, 155–171. https://doi.org/10.1007/s11151-019-09689-3Calvano, E., Calzolari, G, Denicolò, V., & Pastorello, S. (2020a). Artificial Intelligence, Algorithmic Pricing, and Collusion. American Economic Review, 110(10), 3267–3297. https://doi.org/10.1257/aer.20190623Calvano, E., Calzolari, G, Denicolò, V., & Pastorello, S. (2020a). Artificial Intelligence, Algorithmic Pricing, and Collusion. American Economic Review, 110(10), 3267–3297. https://doi.org/10.1257/aer.20190623Calvano, E., Calzolari, G., Denicolo, V., Harrington, J., & Pastorello, S. (2020b). Protecting consumers from collusive prices due to AI. Insights, 370(6520), 1040–1042. https://doi.org/10.1126/science.abe3796Calvano, E., Calzolari, G., Denicolo, V., Harrington, J., & Pastorello, S. (2020b). Protecting consumers from collusive prices due to AI. Insights, 370(6520), 1040–1042. https://doi.org/10.1126/science.abe3796Davidson, S. (2023). The economic institutions of artificial intelligence. SSRN Working Paper. Дата обращения 27.10.2023, https://ssrn.com/abstract=4456471 or http://dx.doi.org/10.2139/ssrn.4456471Davidson, S. (2023). The economic institutions of artificial intelligence. SSRN Working Paper. Дата обращения 27.10.2023, https://ssrn.com/abstract=4456471 or http://dx.doi.org/10.2139/ssrn.4456471de Marcellis-Warin, N., Marty, F., Thelisson, E., & Warrin, T. (2022). Artificial intelligence and consumer manipulations: from consumer’s counter algorithms to firm’s self-regulation tools. AI and Ethics, 2, 259–268. https://doi.org/10.1007/s43681-022-00149-5de Marcellis-Warin, N., Marty, F., Thelisson, E., & Warrin, T. (2022). Artificial intelligence and consumer manipulations: from consumer’s counter algorithms to firm’s self-regulation tools. AI and Ethics, 2, 259–268. https://doi.org/10.1007/s43681-022-00149-5Earl, P. E. (2016). Bounded Rationality in the Digital Age. In R. Frantz, L. Marsh (Eds.), Minds, Models and Millieux (p. 253–271). https://doi.org/10.1057/9781137442505_15Earl, P. E. (2016). Bounded Rationality in the Digital Age. In R. Frantz, L. Marsh (Eds.), Minds, Models and Millieux (p. 253–271). https://doi.org/10.1057/9781137442505_15Gal, M. S. (2019). Illegal pricing algorithms. Communications of the ACM, 62(1), 18–20. https://dl.acm.org/doi/10.1145/3292515Gal, M. S. (2019). Illegal pricing algorithms. Communications of the ACM, 62(1), 18–20. https://dl.acm.org/doi/10.1145/3292515Gerlick, J. A., & Liozu, S. M. (2020). Ethical and legal considerations of artificial intelligence and algorithmic decision-making in personalized pricing. Journal of Revenue and Pricing Management, 19, 85–98. https://doi.org/10.1057/s41272-019-00225-2Gerlick, J. A., & Liozu, S. M. (2020). Ethical and legal considerations of artificial intelligence and algorithmic decision-making in personalized pricing. Journal of Revenue and Pricing Management, 19, 85–98. https://doi.org/10.1057/s41272-019-00225-2Gunningham, N., & Grabosky, P. (1998). Smart Regulation: Designing Environmental Policy. Oxford University Press.Gunningham, N., & Grabosky, P. (1998). Smart Regulation: Designing Environmental Policy. Oxford University Press.Ienca, M. (2023). On Artificial Intelligence and Manipulation. Topoi, 42, 833–842. https://doi.org/10.1007/s11245-023-09940-3Ienca, M. (2023). On Artificial Intelligence and Manipulation. Topoi, 42, 833–842. https://doi.org/10.1007/s11245-023-09940-3MacKay, A., & Weinstein, S. (2022). Dynamic Pricing Algorithms, Consumer Harm, and Regulatory Response. Harvard Business School. Working Paper No. 22–050. Дата обращения 23.10.2023, https://www.hbs.edu/ris/Publication%20Files/22-050_ec28aaca-2b94-477f-84e6-e8b58428ba43.pdfMacKay, A., & Weinstein, S. (2022). Dynamic Pricing Algorithms, Consumer Harm, and Regulatory Response. Harvard Business School. Working Paper No. 22–050. Дата обращения 23.10.2023, https://www.hbs.edu/ris/Publication%20Files/22-050_ec28aaca-2b94-477f-84e6-e8b58428ba43.pdfMaitland, I. (1985). The limits of self-regulation. Calif. Manage. Rev, 27(3).Maitland, I. (1985). The limits of self-regulation. Calif. Manage. Rev, 27(3).Royakkers, L., Timmer, J., Kool, L., & Est, R. (2018). Societal and Ethical Issues of Digitalization. Ethics and Information Technology, 20(2). https://doi.org/10.1007/s10676-018-9452-xRoyakkers, L., Timmer, J., Kool, L., & Est, R. (2018). Societal and Ethical Issues of Digitalization. Ethics and Information Technology, 20(2). https://doi.org/10.1007/s10676-018-9452-xSchwartz, B. (2005). The Paradox of Choice: Why More is Less. New York: Harper Perennial.Schwartz, B. (2005). The Paradox of Choice: Why More is Less. New York: Harper Perennial.Simon, H. A. (1956). Rational choice and the structure of the environment. Psychological Review, 63(2), 129–138. https://doi.org/10.1037/h0042769Simon, H. A. (1956). Rational choice and the structure of the environment. Psychological Review, 63(2), 129–138. https://doi.org/10.1037/h0042769Simon, H. A. (1978). Rationality as Process and as Product of Thought. American Economic Review, 68(2), 1–16.Simon, H. A. (1978). Rationality as Process and as Product of Thought. American Economic Review, 68(2), 1–16.Truby, J., Brown, R., Ibrahim, I., & Parellada, O. (2022). A Sandbox Approach to Regulating High-Risk Artificial Intelligence Applications. European Journal of Risk Regulation, 13(2), 270–294. https://doi.org/10.1017/err.2021.52Truby, J., Brown, R., Ibrahim, I., & Parellada, O. (2022). A Sandbox Approach to Regulating High-Risk Artificial Intelligence Applications. European Journal of Risk Regulation, 13(2), 270–294. https://doi.org/10.1017/err.2021.52Wagner, G., & Eidenmueller, H. (2019). Down by Algorithms? Siphoning Rents, Exploiting Biases and Shaping Preferences — The Dark Side of Personalized Transactions. University of Chicago Law Review, 20. http://dx.doi.org/10.2139/ssrn.3160276Wagner, G., & Eidenmueller, H. (2019). Down by Algorithms? Siphoning Rents, Exploiting Biases and Shaping Preferences — The Dark Side of Personalized Transactions. University of Chicago Law Review, 20. http://dx.doi.org/10.2139/ssrn.3160276World Bank. Digital Regulation Handbook (2020). Дата обращения 23.10.2023, https://www.itu.int/en/ITU-D/Regulatory-Market/Pages/DigiReg20.aspxWorld Bank. Digital Regulation Handbook (2020). Дата обращения 23.10.2023, https://www.itu.int/en/ITU-D/Regulatory-Market/Pages/DigiReg20.aspxZuboff, S. (2015). Big other: surveillance capitalism and the prospects of an information civilization. Journal of Information Technology, 30, 75–89. https://doi.org/10.1057/jit.2015.5Zuboff, S. (2015). Big other: surveillance capitalism and the prospects of an information civilization. Journal of Information Technology, 30, 75–89. https://doi.org/10.1057/jit.2015.5

The authors declare that there are no conflicts of interest present.