Translate this page:
Please select your language to translate the article


You can just close the window to don't translate
Library
Your profile

Back to contents

Police and Investigative Activity
Reference:

General risks of using AI technologies in the field of road traffic safety

Kalyuzhny Yurii Nikolaevich

PhD in Law

Docent, the department of Administation of Work of Public Order Units of Staff Training Centre, Academy of Management of the Ministry of Internal Affairs of Russia

125171, Russia, g. Moscow, ul. Zoi I Aleksandra, 8

kaluzhniy-y@yandex.ru
Other publications by this author
 

 

DOI:

10.25136/2409-7810.2021.3.36425

Received:

08-09-2021


Published:

10-02-2022


Abstract: The research subject is legal provisions and scientific sources reflecting the procedure of using AI technologies in the field of road traffic safety. The research object is social relations defining the fundamentals of the use of AI technologies in the field of road traffic safety. Based on the analysis of regulatory documents and scientific literature, the author outlines a set of technological, social, and legal risks of using artificial intelligence in this field, and emphasizes particular problems of legal regulation. The research methodology is based on the set of general scientific and specific methods of cognition (formal-legal, analytical, the system method, analysis, synthesis, modeling, comparison, etc.). The author formulates the conclusion that the accentualization of technological, social and legal risks as and when AI technologies are used in the field of road traffic safety, helps to organize the work of public authorities in advance and step-by-step, and to find a wide range of legal instruments helping to eliminate or minimize possible risks, raise the effectiveness of public administration of social relations in the field of road traffic safety, and promote the achievement of strategic socio-economic goals of the state.  The scientific novelty of the research consists in a comprehensive analysis of theoretical legal and organizational aspects, characterizing the risks of using AI in the field of road traffic safety, and an accentualization of particular problems of legal regulation and the prospects of implementation of AI technologies in this field.       


Keywords:

road traffic, road safety, ensuring security, artificial intelligence, artificial intelligence technologies, risks, public relations, society, legislative regulation, legal relations


Технологические процессы, позволяющие имитировать когнитивные функции человека близкие по значению, а где-то и превосходящие результаты интеллектуальной деятельности людей в последнее годы активно развиваются.

В течение эволюционного развития человечество старалось улучшить, оптимизировать свою деятельность. Технологический прогресс современности позволяет это обеспечить с использованием возможностей искусственного интеллекта. Вместе с тем, как и многое неизведанное, набирающая обороты эра искусственного интеллекта вызывает не безосновательные опасения, основанные на возможных рисках неблагоприятных последствий. О чем неоднократно отмечается в научной литературе [1,2,3].

Однако, мировых лидеров в области технологических исследований, таких как США и Китай возможность неблагоприятных последствий не останавливает, в стремлении достигнуть глобального лидерства в данной сфере.

Российская Федерация, как и многие другие государства, внедряя технологии искусственного интеллекта, основывается на нормах права.

Использование отдельных программных алгоритмов, связанных с организацией дорожного движения в историческом ракурсе, возможно, обнаружить с момента внедрения первых автоматизированных светофорных объектов на улично-дорожной сети нашего государства в начале 30-х годов XX века [4].

Развитие научно-технической индустрии предоставило возможность, в последующем, осуществить внедрение отдельных информационно-коммуникационных технологий в автомобильную и дорожную отрасли экономики, что позволило улучшить технические и эксплуатационные показатели транспортных средств и автомобильных дорог [5], содействовало возможности оказывать управленческое воздействие государства на процесс дорожного движения и его безопасность.

Нарастающая динамика использования мировыми технологическими лидерами в различных отраслях экономики возможностей искусственного интеллекта и значимость рассматриваемого направления для стратегического развития государства способствовали принятию Национальной стратегии развития искусственного интеллекта на период до 2030 года [6].

Исследование положений Стратегии позволяет спектр применения приоритетных направлений возможностей искусственного интеллекта преломить в отношении сферы дорожного движения. В частности, к таким направлениям, как совершенствование автомобильных дорог и устранение мест автоаварий; совершенствование технического состояния (программного обеспечения) транспорта; развитие технологий организации дорожного движения и технологий контроля соблюдения, установленных нормативов участниками дорожного движения. Внедрение и дальнейшее развитие технологий искусственного интеллекта в сферу дорожного движения, без сомнений, позволит реализовать стратегическую задачу сбережения граждан нашего государства.

Необходимо обратить внимание, что рассматриваемая Стратегия основана на принципе предупреждения и минимизации рисков возникновения негативных последствий, вызванных использованием технологий искусственного интеллекта. В ее положениях оговаривается, что развитие технологий искусственного интеллекта может повлечь неблагоприятные социальные и технологические изменения.

Несмотря на то, что блага для человечества от технологий искусственного интеллекта вполне очевидны все же, полемика о его рисках продолжается [7].

В глобальном, межгосударственном масштабе необходимо учитывать двойственную составляющую технологий искусственного интеллекта, выраженную в возможности их применения, как в мирных, так и социально-политических и даже военных целях, что способствует повышению интереса к развитию рассматриваемых технологий и необходимости их внедрения в повседневную жизнь.

Поэтапное развитие технологий искусственного интеллекта и их социальное применение в различных отраслях экономики, в том числе и сфере дорожного движения позволяет задуматься о возможных рисках их использования.

В целях обеспечения безопасности дорожного движения Российской Федерацией реализуется комплекс действий, направленных на обеспечение безопасности всех без исключения участников дорожного движения [8].

Существующие факторы риска представляется возможным дифференцировать на следующие три основные группы: технологические, социально-экономические, правовые.

Технологические риски могут возникнуть в связи с использованием программ иностранных производителей. В данном отношении большое значение принадлежит вычислительной мощности технологий искусственного интеллекта, основанных на использовании графических карт, произведенных за рубежом и использованию программного продукта, заимствованного у иностранных производителей Google, Facebook.

В настоящее время обозначенные технологические риски не вызывают серьезных опасений для сферы дорожного движения. Однако, развитие технологий искусственного интеллекта и их все большее применение в повседневной правоохранительной действительности, их использование в нейронных сетях, наиболее востребованных в современной действительности, может этот вопрос «поставить на повестку дня», как например, произошло с мировой банковской системой SWIFT. Евросоюз обсуждал возможность введения санкций против России связанной с блокировкой доступа нашей стране к указанной банковской системе и фактической финансовой изоляции [9].

Современные сложные технологические продукты, к которым относятся и технологии искусственного интеллекта, зачастую оснащаются функциями удаленного доступа администратора и производителя. Возможность удаленного доступа иностранного производителя программного продукта порождает риски несанкционированного доступа к базам данных автовладельцев, их персональным данным, не исключает утечки указанных данных, а также возможность вмешательства в процесс организации дорожного движения и его регулирования. Особые опасения связаны с возможностью удаленного влияния на принятие искусственным интеллектом управленческих решений в рассматриваемой сфере [10].

Дальнейшее развитие технологий искусственного интеллекта в сфере дорожного движения позволит сделать процесс предоставления государственных услуг более продуктивным. Интерактивные возможности, представленные на официальных сайтах государственных органов позволяют как гражданам, так и юридическим лицам получить государственные услуги (осуществление части регистрационных действий с автотранспортом и получение водительского удостоверения, проверка штрафов, и т.д.), а развитие рассматриваемых технологий позволят сделать их более быстрыми и доступными.

Вместе с тем, возможность принятия решения искусственным интеллектом о предоставлении тех или иных государственных услуг может потребителя поставить в затруднительное положение, получившее наименование в научной литературе «черного ящика» [11]. То есть, принятие решения искусственным интеллектом не всегда позволяет должностному лицу государственного органа объяснить основания и мотивацию его принятия (в данном отношении показателен опыт банковской сферы, где сотрудники могут только предполагать основания отказа программным модулем в выдачи кредита). Искусственный интеллект представляет собой совокупность алгоритмов и решений, выполняя миллионы операций не всегда предоставляет возможность поэтапно проверить правильность его выполнения. Сложность технологических операций функционирования искусственного интеллекта не позволяет заранее осуществить прогноз принятого решения. Необходимо учитывать и то, что результативность обучения искусственного интеллекта может содержать ошибку, которую крайне сложно будет обжаловать, да и куда?

Обозначенные проблемы показывают возможность нарушения законных прав и интересов участников дорожного движения, необходимость внедрения средств контроля за работой искусственного интеллекта (периодического либо системного), а также возможности корректировки человеком принятых решений искусственным интеллектом.

В данном аспекте несмотря на обозначенные риски, которые без сомнений существуют, необходимо отметить положительный опыт банка «Сбер» развивающего технологии использования искусственного интеллекта. В частности, используется программный продукт Digital Manager осуществляющая обработку писем электронной почты и в 90% случаев подсказывающая сотруднику верный ответ [12]. Подобные алгоритмы необходимо внедрять в механизмы предоставления государственных услуг, в том числе и сферы дорожного движения. Особенно привлекательны указанные технологии в отношении обжалования решений государственных органов в отношении нарушений отдельных норм и правил дорожного движения.

Следующим технологическим риском использования искусственного интеллекта выступает возможность поставки иностранного программного оборудования имеющего высокую погрешность в работе для сферы дорожного движения. Так, использование программного оборудования, имеющего процент погрешности в 1 % может негативно отразиться на работе Госавтоинспекции и самих автомобилистах. По данным Центра организации дорожного движения в Москве по МКАД ежедневно проезжает около 1,36 миллиона транспорта [13] и погрешность в 1 % вынудит при указанном количестве автотранспорта искусственный интеллект показать необходимость остановки, по тем или иным причинам, более 13 тысяч автомобилей, что явно не будет способствовать повышению качества правоохранительной системы и обеспечению пропускной способности, комфорта и безопасности дорожного движения.

В качестве риска использования технологий искусственного интеллекта необходимо выделить проблему характерную для использования любых технологических продуктов, имеющих программное обеспечение – риск незаконного вмешательства, приводящий к сбою алгоритмов работы программы, и более серьезным последствиям, связанным с принятием неправомерных решений, в отношении неопределенного круга пользователей.

В научной литературе пристальное внимание обращено к возможностям использования технологий искусственного интеллекта [14,15,16] и обсуждении вопроса не имеющего однозначного решения, связанного с правовым статусом искусственного интеллекта. То есть, применительно к рассматриваемой сфере возможно ли относиться к искусственному интеллекту, как субъекту права, способному самостоятельно принимать разумные, волевые, управленческие решения в отношении скорости движения транспорта, преимуществе и ограничении движения отдельных из них. В данном отношении необходимо рассмотреть отдельное перспективное направление развития, искусственного интеллекта которым выступает автономный транспорт [17].

Наиболее востребованным направлением использования технологий искусственного интеллекта принято рассматривать беспилотный транспорт, где проблема соотнесения технологий искусственного интеллекта применительно к субъекту права или объекту проявляется «максимально остро».

Совершенно справедливо утверждают отдельные исследователи, что с развитием использования полностью автономных беспилотных транспортных средств и включением их в социальную деятельность вынудят законодателя решить вопрос о правовой оценке нового общественно опасного деяния [18] и соответственно, о субъекте ответственности.

В нашей стране запланировано тестирование беспилотных автомобилей без участия инженера-испытателя с 2021 по 2024 год [19], хотя с участием инженера в салоне автомобиля тестирование осуществляется с 2018 года. Кроме того, на нормативном уровне приняты правовые основы развития и внедрения в социальную действительность [20,21], технологий беспилотного транспорта и искусственного интеллекта.

В отношении рассмотрения искусственного интеллекта, как субъекта или же объекта права представляют научный интерес подходы, выделенные авторским коллективом во главе с Л.А. Новоселовой.

Согласно немецкому подходу, невозможно закрепление и правовая охрана интеллектуальной собственности, созданной роботом и признания его субъектом права. Английский подход, предусматривает авторство лица, создавшего программный продукт (программист), а также признание прав за пользователем программы как лица, осуществившего совокупность действий для появления такого результата. В разрез с указанными позициями находится американский подход, предусматривающий признание технологий искусственного интеллекта субъектами права [22].

Все же преимущественная часть исследователей придерживаются позиции, согласно которой ответственность за действия искусственного интеллекта должен нести программист, создавший программное обеспечение, либо же правообладатель (владелец, использующий данные технологии).

Следует согласиться с авторским коллективом под руководством Ю.А. Тихомирова указывающих, что в существующих правовых условиях и уровне технологического развития искусственного интеллекта однозначно он должен восприниматься в качестве объекта права, но никак не самостоятельным субъектом. В последующем, развитие правовых норм, определяющих права, обязанности, гарантии и ответственность робототехники [16] позволит минимизировать риск принятия неверного решения, нарушающего права и законные интересы участников общественных отношений, наделив его статусом субъекта права.

Помимо обозначенных рисков необходимо указать на существование большого количества социальных рисков связанных с внедрением технологий искусственного интеллекта. Сложность механизмов функционирования искусственного интеллекта, отсутствие понимания в принятии им решений могут подорвать доверие общества, что может спровоцировать нежелание и обоснованную боязнь восприятия рассматриваемых технологий даже в таких сферах экономики, как транспорт, дорожное движение, где прослеживаются очевидные преимущества для общества.

Наиболее возможным социальным (этическим) риском использования технологий искусственного интеллекта является риск нарушения конституционного права неприкосновенности частной жизни, так как технологии обрабатывают значительный объем персональных данных. Защита от обозначенного риска во многом зависит от сформированной законодательной базы и защищенности технологий искусственного интеллекта от несанкционированного доступа [23].

Рассматривая социальные риски необходимо отметить и риски социальной справедливости. Искусственный интеллект, представляя собой совокупность технологий не представляет собой совершенно нейтральный продукт, поскольку в его основе заложено программирование и соответственно чьи-то интересы. К тому же, технологии, принимающие решение о распределении ресурсов, первоочередности медицинского лечения, характере и размере наказания и возможности его смягчения без сомнений может породить вопросы социальной справедливости.

Представители рабочей группы, осуществляющие разработку федерального проекта «Искусственный интеллект» осуществили замер технологической зрелости искусственного интеллекта в нашей стране в сравнении с передовыми странами, внедряющими рассматриваемые технологии. Показатели оказались не утешительными. Так в нашей стране он равен 6 баллам, в то время как США и Китай, являясь лидерами имеют по 77 баллов. Гораздо убедительнее России в данном аспекте выглядят Великобритания, Канада и Германия, имеющие по 26 баллов [12].

Предпосылки решения отдельных законодательных проблем внедрения и дальнейшего развития технологий искусственного интеллекта заложены в структуре национального проекта «Безопасные и качественные дороги» [24], Стратегии развития искусственного интеллекта [25], Федерального закона от 31июля 2020 г. № 258-ФЗ «Об экспериментальных правовых режимах в сфере цифровых инноваций в Российской Федерации». Но законодательная работа проводится темпами, не позволяющими внедрить технологии искусственного интеллекта в социальную действительность, тем самым занять лидирующие позиции в мире.

Таким образом, технологии искусственного интеллекта направлены на решение важных общегосударственных задач, постепенно превращаясь в отдельную индустрию, способную обеспечить устойчивый рост экономики нашей страны. Вместе с тем проблемы законодательного регулирования использования технологий искусственного интеллекта, неразвитость норм, а порой их противоречивость с нормами защищающими персональные данные участников исследуемых общественных отношений, являются сдерживающим элементом устойчивого развития России, способствующим формированию и развитию рисков использования технологий искусственного интеллекта, в том числе в сфере обеспечения безопасности дорожного движения.

Не вызывает сомнений, что выделение технологических, социальных и правовых рисков, по мере развития и внедрения технологий искусственного интеллекта в сферу обеспечения безопасности дорожного движения позволяет заблаговременно, последовательно выстроить деятельность органов государственной власти, подобрать широкий набор юридических инструментов, позволяющих нивелировать либо минимизировать возможные риски, повысить эффективность государственного управления общественными отношениями в транспортной сфере и сфере обеспечения безопасности дорожного движения, способствовать достижению стратегических социально-экономических задач развития нашего государства.

References
1. Barakina E.Yu. K voprosu ob ustanovlenii eksperimental'nogo pravovogo rezhima v oblasti primeneniya iskusstvennogo intellekta // Rossiiskaya yustitsiya. 2021. №
2. S. 64–67. 2. Zubarev S.M. Pravovye riski tsifrovizatsii gosudarstvennogo upravleniya // Aktual'nye problemy rossiiskogo prava. 2020. № 6. S. 23–32.
3. Popova N.F. Primenenie tekhnologii iskusstvennogo intellekta v pravookhranitel'noi deyatel'nosti // Administrativnoe pravo i protsess. 2021. № 3. S. 29–32.
4. Istoriya GAI: K 60-letiyu Gosavtoinspektsii MVD Rossii / M.B. Afanas'ev, L.A. Kochetov, B.V. Rossinskii i dr. / Pod red. V.A. Fedorova. M., 1996. 304 s.
5. Babkov V.F. Dorozhnye usloviya i bezopasnost' dvizheniya: uchebnik dlya vuzov. M.: Transport, 1993. 271 s.
6. Ukaz Prezidenta RF ot 10 oktyabrya 2019 g. № 490 «O razvitii iskusstvennogo intellekta v Rossiiskoi Federatsii» // Sobranie zakonodatel'stva RF, 14 oktyabrya 2019 g., № 41, st. 5700.
7. Tsifrovaya revolyutsiya v sfere finansov: pravila bezopasnogo povedeniya potrebitelya. Moskva: Redaktsiya «Rossiiskoi gazety», 2019. Vyp. 24. 160 s.
8. Kalyuzhnyi Yu.N. Povtornost', kak kvalifitsiruyushchii priznak administrativnykh deliktov v oblasti dorozhnogo dvizheniya / Yu.N. Kalyuzhnyi // Politseiskaya i sledstvennaya deyatel'nost'. 2019. № 2. S.55-62.
9. Ekspert rasskazal o posledstviyakh vozmozhnogo otklyucheniya RF ot SWIFT [Elektronnyi resurs] // URL: https://iz.ru/1171955/2021-05-31/ekspert-rasskazal-o-posledstviiakh-vozmozhnogo-otkliucheniia-rf-ot-swift (data obrashcheniya: 02 sentyabrya 2021 g.)
10. Tsifrovaya ekonomika i riski tsifrovoi kolonizatsii. N. Kasperskaya, razvernutye tezisy vystupleniya na Parlamentskikh slushaniyakh v Gosdume [Elektronnyi resurs] // URL: https://ivan4.ru/news/traditsionnye_semeynye_tsennosti/the_digital_economy_and_the_risks_of_digital_colonization_n_kasperskaya_developed_theses_of_the_spee/ (data obrashcheniya: 05 sentyabrya 2021 g.)
11. Shnurenko I. Iskusstvennyi intellekt na grani nervnogo sryva // Ekspert. 2019. № 1. S. 35.
12. Iskusstvennyi intellekt v Rossii. Sostoyanie otrasli i prognozy [Elektronnyi resurs] // URL: https://skillbox.ru/media/business/iskusstvennyy-intellekt-v-rossii/ (data obrashcheniya: 07 sentyabrya 2021 g.).
13. Stalo izvestno, skol'ko mashin proezzhayut po MKAD [Elektronnyi resurs] // URL: https://rg.ru/2019/06/03/reg-cfo/stalo-izvestno-skolko-mashin-proezzhaiut-po-mkad.html /(data obrashcheniya: 20 iyulya 2021 g.).
14. Antonov A.A. Iskusstvennyi intellekt kak istochnik povyshennoi opasnosti // Yurist. 2020. № 7. S. 69–74.
15. Zhilkin V.A. Iskusstvennyi intellekt i tsifrovye tekhnologii v yuridicheskoi deyatel'nosti v tsifrovoi real'nosti (na primere Finlyandii) // Zhurnal zarubezhnogo zakonodatel'stva i sravnitel'nogo pravovedeniya. 2018. № 5. S. 18.
16. Yuridicheskaya kontseptsiya robotizatsii: monografiya / N.V. Antonova, S.B. Bal'khaeva, Zh.A. Gaunova i dr.; otv. red. Yu.A. Tikhomirov, S.B. Nanba. M.: Prospekt, 2019. 240 s.
17. Ruchkina G.F., Demchenko M.V. Pravovoe regulirovanie iskusstvennogo intellekta, robotov i ob''ektov robototekhniki v transportnoi sfere: otechestvennyi i zarubezhnyi opyt // Mezhdunarodnoe publichnoe i chastnoe pravo. 2021. № 2. S. 40–44.
18. Korobeev A.I., Chuchaev A.I. Bespilotnye transportnye sredstva: novye vyzovy obshchestvennoi bezopasnosti // Lex russica. 2019. № 2. S. 9–28.
19. V nekotorykh gorodakh Rossii nachnut testirovat' bespilotnye avtomobili [Elektronnyi resurs] // URL: https://rg.ru/2021/08/16/reg-cfo/v-nekotoryh-gorodah-rossii-nachnut-testirovat-bespilotnye-avtomobili.html (data obrashcheniya: 25 avgusta 2021 g.).
20. Rasporyazhenie Pravitel'stva RF ot 28 aprelya 2018 g. № 831-r (red. ot 22 fevralya 2019 g.) «Ob utverzhdenii Strategii razvitiya avtomobil'noi promyshlennosti Rossiiskoi Federatsii na period do 2025 goda» // Sobranie zakonodatel'stva RF, 07 maya 2018 g., № 19, st. 2804.
21. Rasporyazhenie Pravitel'stva RF ot 25 marta 2020 g. № 724-r «Ob utverzhdenii Kontseptsii obespecheniya bezopasnosti dorozhnogo dvizheniya s uchastiem bespilotnykh transportnykh sredstv na avtomobil'nykh dorogakh obshchego pol'zovaniya» // Sobranie zakonodatel'stva RF, 30 marta 2020 g., № 13, st. 1995.
22. Nagrodskaya V.B. Novye tekhnologii (blokchein / iskusstvennyi intellekt) na sluzhbe prava: nauchno-metodicheskoe posobie / pod red. L.A. Novoselovoi. M.: Prospekt, 2019. 128 s.
23. Obzor otdel'nykh voprosov v oblasti bol'shikh dannykh i iskusstvennogo intellekta. Pod obshchei redaktsiei V.S. Ovchinskogo. V vypusk. T.1. M.: FKU «GIATs MVD Rossii», 2021. – 479 s.
24. Pasport natsional'nogo proekta «Bezopasnye i kachestvennye avtomobil'nye dorogi» (utv. prezidiumom Soveta pri Prezidente RF po strategicheskomu razvitiyu i natsional'nym proektam, protokol ot 24 dekabrya 2018 g. № 15) [Elektronnyi resurs] // Ofitsial'nyi sait Konsul'tantPlyus. URL: http://www.consultant.ru.
25. Ukaz Prezidenta RF ot 10 oktyabrya 2019 g. № 490 «O razvitii iskusstvennogo intellekta v Rossiiskoi Federatsii» // Sobranie zakonodatel'stva RF, 14 oktyabrya 2019 g., № 41, st. 5700