Library
|
Your profile |
International Law and International Organizations
Reference:
Popova S.M., Yanik A.A.
Evaluation systems and approaches towards analyzing the impact of the results of scientific research upon the economy and society: international experience
// International Law and International Organizations.
2021. № 4.
P. 34-52.
DOI: 10.7256/2454-0633.2021.4.36835 URL: https://en.nbpublish.com/library_read_article.php?id=36835
Evaluation systems and approaches towards analyzing the impact of the results of scientific research upon the economy and society: international experience
DOI: 10.7256/2454-0633.2021.4.36835Received: 06-11-2021Published: 13-11-2021Abstract: Systematic evaluation of the results of research activity funded by the state, including analysis of the impact of the results of research upon the development of the economy and society, has become common practice in governance of the science sector. It pertains to acquisition of evidence-based data and feedback necessary for decision making on the effectiveness of the existing governance techniques and selection of the methods (including legal) for their improvement. The exceptional complexity and dynamic change of the object of analysis (science, production of scientific knowledge) encourages to constantly search for new approaches worldwide for acquiring qualitative and accurate evaluations of the results of scientific research. From such perspective, systematic monitoring and analysis of the relevant foreign experience is advantageous for the theory and practice of governing scientific development, as it allows taking into account the mistakes and achievements of other countries with regards to development and improvement of their evaluation systems. Analysis is conducted on a range of systems (mainly European) and approaches towards evaluation of the contribution of sciences to socioeconomic development. The author reveals the peculiarities and flaws of the evaluation system under study. This article is first to demonstrate that the vast problematic field associated with the assessment of the contribution of sciences, should be viewed within the framework of the theory of state audit, which distinguishes between external and internal systems of monitoring. The conclusion is made that the peculiarities of functionality of science do not allow demarcating the contours of internal and external audit of the results of “scientific production” without compromising the quality of the acquired conclusions. The improvement of evaluation systems is a continuous process, associated with the co-evolution of science and scientific policy. Keywords: Science governance, Research evaluation, Public audit, Performance audit, Science Policy, Science contribution, Research impact, Impact assessment, Theory of change, Results chainВведение
Статья посвящена анализу современного зарубежного (главным образом, европейского) ландшафта наиболее распространенных систем оценивания вклада наук в социально-экономическое развитие, связанных с ними исследовательских подходов и актуальных проблем регулирования и принятия решений. Систематическая, действующая в рамках установленных норм и правил оценка научных результатов объективно необходима как самим ученым [1-2], так и структурам, финансирующим научные исследования, в первую очередь, государству (см., например [3]) и международным организациям развития. По аналогии со становлением в современных государствах систем внутреннего и внешнего государственного аудита, необходимых для целенаправленного управления развитием национальной экономики и общества [4], в области измерения и оценки вклада наук также можно выделить два контура. Первый контур связан с внутренним контролем, когда экспертиза ценности результатов исследований осуществляется самим научным сообществом и является одной из специфических функций науки как социального института. Второй – с внешним контролем (аудитом), который осуществляется с целью определить эффективность и результативность «научного производства» и, соответственно, дать оценку деятельности органов государственной власти в сфере управления развитием науки. Институционально-правовое становление и эволюция внешнего и внутреннего контура оценки научных результатов происходили неравномерно. На протяжении столетий (первые национальные академии наук возникли в XVI-XVII вв.) доминировали процедуры саморегулирования, когда оценку в форме экспертизы осуществляли сами ученые по принципу «равные среди равных» (peers) в «храме науки» [5]. По мере увеличения объемов бюджетного финансирования (сначала из казны монархов, потом – из средств налогоплательщиков) стали возникать и развиваться системы внешней оценки с различными инструментами измерения результатов научной деятельности и степени их полезности для государства и общества. Задача формирования действенного внешнего контроля эффективности бюджетных расходов на научные проекты стала особенно актуальной с середины ХХ века, когда наука столкнулась с объективными ограничениями в финансовых возможностях государства и необходимостью получать согласие общества на пределы своего развития. Согласно последним доступным данным (начало 2020 г.) расходы только государств-членов ОЭСР на исследования и разработки, включая фундаментальные изыскания, составили 1,564 трлн. долларов США в текущих ценах [6, p.10]. Рост научных бюджетов сопровождается активным развитием внешнего контура управления наукой и государственной научной политики (целенаправленное регулирование институционализированного производства знания). Необходимым элементом системы управления является аудит эффективности расходования средств на научные исследования с постоянным совершенствованием оценочных методов и процедур, ориентированным на удовлетворение динамично меняющихся интересов органов власти, различных стейкхолдеров, социальных групп и общества в целом. Таким образом, систематическое измерение и оценивание научных результатов решает две взаимосвязанные задачи: выступает регулятором отношений внутри научного сообщества (помогает поддерживать особую систему норм, должный порядок и иерархичность на основе меритократической модели) и обеспечивает легитимацию в глазах общества права ученых претендовать на часть общественных ресурсов для осуществления своей специфической деятельности. Очевидно, что содержание и задачи внутреннего и внешнего аудита эффективности функционирования науки различаются, поскольку в первом случае речь идет об анализе ценности результатов исследований для развития системы научных знаний (вклад в науку), а во втором – об обоснованности и разумности использования бюджетных средств, которая измеряется путем определения видов и количества научных «продуктов», а также продуцированных результатами научных исследований полезных эффектов по отношению к единице финансирования.
Источники и подходы
Анализ современных зарубежных систем измерения качества научных исследований был ограничен периодом 2010-2020, рамки которого формально заданы Стратегией экономического развития Europe 2020 [7] и Рамочной программой ЕС Horizon 2020 [8] по развитию научных исследований и технологий в Европейском научном пространстве (European Research Area, ERA). Источниковую базу исследования составил массив мультиязычных публикаций, в который вошли: - научные публикации, индексированные в системах цитирования WoS, SCOPUS, RCSI, РИНЦ; - специализированные периодические издания, в частности, таких издательств, как Oxford University Press (Research Evaluation, Science and Public Policy), Cambridge University Press (PS: Political Science & Politics), Willey-Blackwell (Policy Studies Journal, Journal of the Association for Information Science and Technology), Elsevier (Research Policy), Taylor & Francis (Journal of Responsible Innovation), SAGE (American Sociological Review, Evaluation, Political Studies), Policy Press (Evidence and Policy); - отчеты и рабочие материалы экспертных групп, в том числе, изданные MIT Press, OECD Publishing, Oxford University Press, RAND, SAGE, Springer; - руководящие принципы, лучшие практики и примеры оценки финансируемых ЕС научно-исследовательских и инновационных проектов; - правовые акты, материалы, отчеты, руководства зарубежных органов государственного управления по тематике, релевантной исследованию. Помимо инструментария теории государственного аудита и общенаучных методов исследований, для решения задач были также использованы концептуальные подходы теории изменений. Современные системы измерения эффективности или оценки социально-экономического воздействия каких-либо достижений (в том числе, результатов научных исследований) по большей части используют представления о «цепочке результатов» (results chain), иными словами, логической модели достижения результата, которая восходит к практике оценки международных программ и проектов развития еще начала 1960-х годов [9]. Благодаря ее простоте и широкому распространения такая модель стали основным средством маркировки [10] метрик эффективности и меры влияния совершенных действий (Рис. 1):
Рисунок 1. Логическая модель оценивания результатов действий
Помимо начальных звеньев цепочки – Input (вложение ресурсов) и Activity (собственно действия), в рамках модели отражены три стадии измерения эффекта: - Output, или отдача – это непосредственный результат действий (что получилось); - Outcome - итоговая оценка полученного результатов (решение значимой проблемы, которое стало возможным в итоге получения именно этого результата); - Impact, или воздействие (или влияние) – вызванные научным результатом значительные и устойчивые позитивные изменения в жизни людей, в сообществе, в мире, в окружающей среде и пр. Научное сообщество на протяжении столетий использовало ту же логику (в иных терминах) для оценки качества исследований, поскольку, к примеру, задача научной экспертизы результатов исследований как раз и заключается в оценивании теоретического и практического значения полученного научного результата (outcomes) и возможных позитивных изменений в жизни общества (impact). Идея выявления и оценки «цепочки результатов», возникающих в итоге реализации самых различных проектов, в силу своей простоты и логичности стала широко востребованной у лиц, принимающих решения. Как следствие, к настоящему времени возникла целая сфера профессиональной деятельности, связанная с «производством» и исследованием импактов (импактология), которая включает, помимо прочего, импакт-менеджеров и консультантов, технических писателей, специализирующихся на подготовке импакт-кейсов, компании, разрабатывающие специализированное программное обеспечение для измерения импакта и разного рода обучающие курсы [11]. Помимо этого, за рубежом достаточно давно сформировался спрос на импакт как естественную меру эффективности проводимой научной политики с точки зрения повышения научной конкурентоспособности, приращения богатства, роста производительности и социального благополучия. Одним из пионеров на практике стало Соединенное Королевство, где с 2014 г. критерий позитивных изменений в жизни общества (социально-экономических последствий) стал определяющим при оценке окупаемости бюджетных ассигнований на науку, которые государство рассматривает как инвестиции [12]. В рамках «культуры импакта» современная наука обязана постоянно демонстрировать государству и обществу запланированное «приращение благ», однако при этом ничего не говорится о выборе адекватных инструментов измерения импакта, учета неизбежного временного лага между произведенным эффектом и проведенным исследованием, которое, возможно, его вызвало, а также выяснением всех обстоятельств того, в какой степени исследование реально стало значимой причиной произведенных изменений [13-14]. Характерный пример – история возникновения «осязаемой пользы» для экономики и общества от теории относительности. Как известно, в настоящее время точность геопозиционирования обеспечивается, помимо прочего, тем, что на аппаратном уровне учитывается эффект релятивистского замедления времени при прохождении сигналов от навигационных спутников. Математически эта задача была решена А. Эйнштейном еще в 1905 году при создании специальной теории относительности. Однако понадобилось более 100 лет, чтобы этот результат превратился в технологическую инновацию (внедренное новшество), используемую в каждом смартфоне и GPS-навигаторе.
Оценочные системы
Описание ряда зарубежных систем внешней систематической оценки качества научных исследований, успешно действующих в настоящее время, приведены в Таб. 1.
Таблица 1. Примеры зарубежных систем внешней оценки качества научных исследований
Перечисленные оценочные системы представляют интерес в силу своей жизнеспособности (имеют развитые институционально-правовые основы, существуют достаточно долго, постоянно совершенствуются, на их основе возникают различные дериваты, используемые в других странах), а также попытками фиксировать и оценивать (пусть не всегда последовательно и успешно) влияние результатов деятельности ученых на людей, экономику и общество. Фактически, эти оценочные системы представляют собой современные политико-правовые и социальные технологии, которые в процессе их применения с разной степенью эффективности решают задачу «повернуть науку и общество лицом друг к другу». Еще одна общая черта показанных выше оценочных систем – попытки учитывать сложность и многоаспектность научного поиска, а также возможность отдаленного во времени возникновения эффектов от исследовательских результатов. Важным является также то обстоятельство, что раунды и параметры используемых за рубежом оценочных процедур обычно нормативно зафиксированы на длительный промежуток времени (4-5 лет), который выходит за пределы легислатуры органов публичной власти, что теоретически должно ограждать ученых от давления политической конъюнктуры и слишком частой смены «правил игры». Используемые в оценочных системах подходы и методы хорошо настроены на особенности функционирования национальных систем науки, образования и инноваций и, в стратегическом плане, ориентируются на национальные цели развития. Собственно, это обстоятельство и определяет нужность, эффективность и жизнеспособность подобных систем и методов. Например, одной из базовых ценностей Нидерландов выступает открытость экономики и общества, поэтому, используемый в рамках системы SEP для оценки вклада наук в социально-экономическое развитие (причем, по всему перечню дисциплин) показатель «социетальной значимости» (societal relevance) настроен особым образом. Согласно SEP, в отчет должен быть включен специальный шаблон, объясняющий экспертам актуальность работы исследовательского подразделения для общества. Предполагается, что исследователи сами заранее позаботятся о том, в каких целевых группах или областях могут быть востребованы результаты их исследований и совершат дополнительные действия в этом направлении. В итоге, оценивается качество, масштаб и актуальность таких экспертных материалов, предназначенных для конкретных экономических, социальных или культурных целевых групп, консультативных докладов по вопросам соответствующей политики или материалов для участия в публичных дебатах, или в образовательных программах. Интерес представляет британский опыт использования в оценочных процедурах концепта так называемого «более широкого воздействия» (broader impact).Речь идет о попытках выявить и оценить максимальный «охват» (широту) и «значимость» (глубину) воздействия научных исследований на экономику и общество. Сам термин broader impact изначально возник в деятельности Национального научного фонда (NSF) США. Под ним понимается воздействие, изменение или польза от проведенных исследований для экономики и общества, прежде всего, за периметром науки [21]. Однако практическое оценивание broader impact на национальном уровне впервые было проведено в Соединенном Королевстве. Для выявления и измерения «более широкого воздействия» в рамках британских оценочных процедур REF2014 внимание было смещено с формальных показателей производительности труда ученого на оценку его результативности (output) по критериям оригинальности и новизны. Для измерения вклада (impact) готовились (с привлечением профессиональных импактологов) тематические кейсы на небольшие группы исследователей (порядка 10 человек) по близким темам, а в качестве характеристик «научной среды» использовались данные о количестве присужденных ученых степеней, объемов и источников внешних поступлений и размерах натуральных доходов от проведенных исследований. Всего было проанализировано и подвергнуто экспертной оценке два типа документов: около 2 тыс. сформированных шаблонов оценки (REF3a) – на основе более 190 тыс. результатов НИР, и около 7 тыс. тематических кейсов импактов (REF3b), связанных с работой более 52 тыс. исследователей из 154 учреждений высшего образования. В процессе оценки проводились калибровочные сессии по уточнению критериев, каждый шаблон и кейс рассматривался, по крайней мере, двумя экспертами, все коллизии устранялись, а практика подсчета баллов различалась между группами дисциплин и в рамках отдельных панелей [22]. Результаты проведенных оценочных мероприятий вызвали противоречивую реакцию. С одной стороны, удалось получить масштабную информацию о результатах британской науки и их влиянии на экономику и общество. С другой стороны, этот опыт показал, что распространение «культуры импакта» сопровождается негласной подменой содержательных оценок наборами формализованных требований их проведения (метрик, удобных для менеджеров науки). Как следствие, на практике происходит такое усложнение стандартов экспертизы качества исследований, что затраты на саму оценку начинают превышать возможные выгоды от ее проведения. Например, первый тур REF, проведенный в 2014 г., оказался настолько дорогим (только независимая экспертиза потребовала более 246 млн. фунтов стерлингов) и забюрократизированным, что спровоцировал политический скандал, поскольку итоги оценки можно было предсказать заранее, без всяких сложностей и расходов: из 164 университетов страны подавляющую часть финансирования (более 70% от общего объема) получили 24 наиболее престижных и элитарных университета (члены Russell Group - британский аналог американской Лиги плюща) [23]. После выхода Соединенного Королевства из Европейского союза и в преддверии нового тура REF, первоначально запланированного на 2021 год, британское правительство заявило о стремлении максимально снизить «контрольную нагрузку» на учреждения высшего образования и ученых. В частности, предполагается возможное сокращение использования формализованных метрик в пользу возвращения к описательным элементам в оценке социально-экономических импактов, а также повышение качества оценочных процедур за счет внимания к особой роли междисциплинарных исследований [23-24]. Критика доминирования формальных показателей в оценке влияния научных результатов привела (помимо расширения использования качественных методов в оценочных процедурах) к возникновению новой дисциплины – альтметрии. Под этим термином понимается совокупность методов и данных, которые продвигаются в качестве альтернативы (отсюда и название) традиционной библиометрии [25-26]. Идея альтметрии тесно связана с происходящей цифровой трансформацией всех сфер жизни, включая науку, и опирается, в основном, на данные, которые собираются при помощи API-интерфейсов платформ социальных сетей и сервисов блогов. Считается, что такая информация способна улучшить представление об итоговых результатах (outcomes) научных исследований [27].
Методы экспертизы
Несмотря на масштабное применение библиометрических и других формальных показателей в системах внешней оценки эффективности «научного производства», такой метод, как научная экспертиза со стороны ученых, работающих в той же предметной области, что и авторы оцениваемых проектов, по-прежнему остается «золотым стандартом» для качественной оценки результатов исследований. Более того, роль экспертизы и иных качественных методов только растет. Очевидно, что правильно организованная экспертиза не только обеспечивает легитимацию знаний и поддержание должного порядка внутри сообщества ученых, но и выполняет функции обратной связи в контуре внешнего управления наукой. Мониторинг показывает, что с каждым годом форматы проведения экспертной оценки становятся всё разнообразнее и сложнее. На основе анализа зарубежной литературы, можно выделить четыре группы содержательных подходов к оценке качества и воздействия (импакта) научных исследований: - Методология ранжирования результатов экспертизы научных исследований в рамках выбранной модели определения предпочтений с точки зрения их полезности для науки и общества (платформа Research Excellence Framework, или REF, Соединенное Королевство); - Методология аудита (комплексной внешней оценки) качества и достоверности научных исследований, их применимости для ответа на большие вызовы, стоящие перед обществом и соответствия национальным целям развития (комплекс процедур Standard Evaluation Protocol, Нидерланды); - Приложения методологии индикативного анализа трансформации (логической модели причинно-следственных связей) вклада (издержек) в непосредственные результаты и конечные эффекты исследований (комплекс подходов Theory of Change, США). Существуют важные, с точки зрения оценки, формы развития этой методологии: - Методики итерационного (многоуровневого) оценивания логической модели импакта научных исследований (Contribution Analysis, Канада; Contribution Mapping, Нидерланды; Research Contribution Framework, Соединенное Королевство); - Методология оценки «окупаемости» исследований на основе многомерной классификации его импактов (HERG Payback Framework, Соединенное Королевство); - Стратегия интегрированной трансляции знаний и модели их совместного производства с учетом особенностей и барьеров циркуляции знания в межличностных сетях (Linkage and Exchange framework, Канада).
В целом, стоит отметить, что после периода увлеченности формальными показателями продуктивности научного труда, начался возврат к практике использования тщательно сформулированных правил (в форме концептуальных или логических моделей), которые некогда были разработаны и использованы самим научным сообществом для решения конкретных задач (framework approaches). К таким подходам относится уже упомянутая теория изменений, которая была разработана в 1997 г. в качестве инструмента повышения результативности различных программ и политик путем выявления реальной взаимосвязи между совершаемыми действиями (шагами) и наблюдаемыми изменениями. Как известно, после завершения программы, при формальном достижении всех запланированных показателей желаемые социально-экономические изменения не всегда наступают, то есть происходит так называемый управленческий разрыв, который должна заполнить методология. Идеи теории изменений (иногда о них говорят, как о философии изменений) привели к бурному развитию подходов, нацеленных на совершенствование научного обеспечения различных политик с целью расширения их потенциала (capacity) и формированию элементов социально-политической теории, анализирующей механизм диалога между различными группами заинтересованных сторон [28]. Инструментарий теории изменений активно применяется международными организациями и институтами развития (ООН, ОЭСР, Всемирный банк). В Российской Федерации подходы Theory of Change используются, в частности, для анализа ресурсной обеспеченности и реализуемости стратегических проектов [29], а также для оптимизации проектной деятельности некоммерческих организаций [30]. За рубежом подходы теории изменений вместе с разработанными на их основе методологиями анализа вклада (Contribution Analysis, CA) и картирования вклада (Contribution Mapping, CM) применялись для оценки программ ЮНЕСКО, моделирования направлений углубления сотрудничества между партнерскими организациями разных стран, прогнозирования последствий действий путем проверки теорий изменений аналогичных вмешательств и изучения опыта неудач внедрения, или, например, социально-экономических эффектов внедрения систем искусственного питания новорожденных [31-32]. Анализ также показал, что на сегодняшний день наилучшие практики оценивания результатов исследований сложились в области наук о жизни, здравоохранении и медицинском обеспечении (life science, public health and medical care). Именно в этих областях традиционно принято готовить детальные отчеты о проведении исследований, продвижении лекарств и продуктов, клинической практике и, как следствие, о позитивных сдвигах в общественном «самочувствии». Однако потенциал этой практики, применительно к формированию общих методов оценки вклада наук в социально-экономическое развитие, осознается пока в недостаточной мере [33]. Наиболее известными и заметными подходами являются британская методология оценки «окупаемости» исследований (HERG Payback Framework) [34-35] и канадская концепция «установления связей и обмена знаниями» (Linkage and Exchange, LE framework) при их совместном производстве [36]. Методология HERG Payback Framework была разработана исследовательской группой в области экономики здравоохранения (Health Economics Research Group, HERG - государственный исследовательский университет Брунеля, Лондон). Методология опирается на два ключевых элемента: логическая модель исследовательского процесса в целом и набор категорий для классификации вкладов (individual paybacks) исследования. Логическая модель включает в себя: семь этапов (от 0 до 6) и два интерфейса (А и В) между исследовательским процессом и его политическим, профессиональным и экономическим окружением. Модель представляет собой развитие «истории» (story) исследования: от первоначальной идеи (этап 0), через процесс анализа (этап 2) к его распространению (интерфейс B) и, далее, к его эффектам для общества, включая его конечные результаты в форме улучшения здоровья и экономических выгод (этап 6). В зависимости от типа финансирования проекта, стадия 0 может иметь двеформы: традиционную, связанную с решением конкретных задач и реализуемую внутри научного сообщества, или тема может быть поставлена более широко и сразу включать более широкую аудиторию с участием лиц, принимающих решения, медицинских работников, представителей пациентов и т.п. Используется пять переменных категоризации видов «окупаемости»: (1) «знания» (библиометрия), (2) «преимущества для будущих исследований» (лучшее целеполагание, лучшие навыки и объем исследовательского потенциала), (3) «преимущества от более обоснованной политики» (совершенствование информационной базы для политических и управленческих решений, разработка лекарств и терапевтических техник), (4) «польза для здравоохранения» (улучшение состояния здоровья, снижение цен, повышение справедливости и качества предоставления услуг) и (5) «экономические выгоды» (коммерческое использование инноваций, сокращение числа потерянных по болезни рабочих дней) [34-35]. Методология HERG Payback Framework использовалась не только для оценки социально-экономических эффектов от внедрения новых лекарств и терапевтических техник, но также национальных программ медицинских исследований, в частности, финансируемых благотворительными организациями Австралии и Соединенного Королевства, или Национальными институтами здоровья (NIH) в США. Методология также имплементирована в рамках системы REF2014 для оценки вклада научных исследований на медицинских факультетах университетов. Указанный подход нашел успешное применение не только для оценки социально-экономических эффектов исследований в области здравоохранения, но и в других областях. Например, RAND Europe и HERG совместно адаптировали методологию и применили ее для оценки вклада исследований в области социальных и гуманитарных наук, а также в области современного и классического искусства (в частности, перформанса и изобразительного искусства) [37-38]. Что касается подхода LE framework, то эта канадская разработка, подобно концепции доказательной медицины, является одновременно как философией, так и стратегией преодоления разрыва между исследованиями (новыми знаниями) и практикой (решениями и действиями). Однако механизм преодоления разрыва в этих подходах принципиально разный. В случае принятия решений на основе фактических данных происходит трансфер результатов исследований в политику и практику, что можно считать классической технологической инновацией. Напротив, стратегия LE акцентирует внимание на межличностных связях (взаимодействиях) исследователей, направлена на вовлечение стейкхолдеров в процесс создания и изучения фактических данных, их совместное производство (knowledge co-production), и в этом смысле, является, скорее, социальной инновацией [39-40]. Подобный подход, предполагающий, что ученые и все заинтересованные в их результатах активные пользователи нового знания постоянно сотрудничают на всем протяжении исследований, очень распространен в канадской системе здравоохранения и даже получил специальное название «интегрированной трансляции знаний» (integrated knowledge translation) [41]. В практическом плане концепция LE framework на протяжении 20 лет является основой деятельности, в частности, Канадского исследовательского фонда здравоохранения (Canadian Health Services Research Foundation) - эндаумент-фонда, созданного федеральным правительством Канады для финансирования проектов научных исследований и подготовки персонала в сфере предоставления медицинских услуг совместно с органами публичной власти канадских провинций [42]. Что касается модели сопроизводства (co-production) общественных благ, используемой для фиксации и оценки полезных результатов научных исследований, то она была первоначально разработана для концептуализации особого типа отношений между поставщиками государственных услуг и их пользователями (гражданами). Считается, что эта модель представляет собой практический механизм приращения социального капитала – партнерских отношений государства и общества, которые основаны на доверии, поддержке и социальной активности внутри сообществ [43-45]. В модели сопроизводства принято выделять пять основных элементов: 1. Пользователи рассматриваются как активные агенты, а не пассивные субъекты или получатели услуг. 2. Существует неформальное равенство в отношениях между пользователями знания и профессиональными учеными (услуги более ориентированы на пользователя, а знания и опыт пользователей оцениваются наравне с опытом профессионалов). 3. Пользователи услуг и профессионалы осознают и признают свои отношения равными, взаимными и взаимовыгодными. 4. Расширение участия пользователей изменяет (трансформирует) способы разработки и предоставления государственных услуг. 5. Участие пользователей в совместном производстве услуг поощряется и облегчается на институциональном уровне (хотя признается, что именно люди, а не системы, создают изменения). В последние годы модель сопроизводства стала использоваться также для описания участия лиц, принимающих решения и пользователей в прикладных научных исследованиях [46]. Однако здесь есть свои сложности, которые важно понимать, разделять и учитывать. Совместное производство знаний требует времени, ресурсов и размывания существующих границ между наукой и обществом и, одновременно, выработки соответствующих методологических подходов. Проблемы совместного производства включают в себя: (1) наличие конфликтующих ценностей, (2) ригидность институциональных структур, (3) избегание партнерами риска, (4) проблему подотчетности и (5) общую нехватку потенциала и стимулов. Наконец, различные заинтересованные стороны и группы имеют свои собственные культурные ценности и профессиональный язык, которые также могут ограничивать стремление к идеалу равных и доверительных отношений [47-48]. Таким образом, все участники сопроизводства знаний нуждаются в постоянных контактах, переговорах и помощи в «навигации» [49]. С этой точки зрения, ключевыми участниками сопроизводства знаний могут выступать брокеры знаний и политические предприниматели (policy entrepreneurs) - лица, имеющие достаточный исследовательский опыт и полномочия для понимания культуры, и методов науки, но также одновременно понимающие политический процесс и способные эффективно общаться с лицами, принимающими решения [50-51], а также управленческий персонал учреждений науки и высшего образования [52]. Деятельность таких людей обычно выходит за рамки традиционных ролей в науке, является принципиально инновативной, как правило, несет элемент риска, но приводит к финансовому вознаграждению [53-54]. В Российской Федерации методологические подходы партнерства и совместной деятельности используются, например, для оценки проектов сопроизводства социальной городской инфраструктуры сообществами территориального общественного самоуправления (приращение социального капитала) [55], или (в области приращения инноваций) для мониторинга состояния и динамики сектора интеллектуальных услуг [56].
Выводы
Вызовы современности изменяют место науки как социального института и роль ученых в обществе. На смену многовековым традициям самоуправления науки, воплощенным в так называемом «принципе Холдейна» (идея, согласно которой решения о том, какие исследования стоит финансировать, должны принимать сами ученые, а не политики [57]), пришли подходы «нового государственного управления», связанные с коммерциализацией производства знания и представлениями о бюджетном финансировании как инвестициях, требующих ускоренной отдачи. Анализ зарубежных оценочных систем и подходов показывает, что создание контура внешнего аудита эффективности функционирования современной науки как сектора общественного производства является на сегодняшний день особенно сложной задачей, которая, несмотря на обширный опыт последних десятилетий, не имеет безупречных теоретических и практических решений [58]. В логике, вытекающей из теории государственного аудита [59], оценке подлежит эффективность деятельности органов исполнительной власти по управлению бюджетными и иными ресурсами государства. Однако применительно к сфере науки из-за сложностей анализа акцент переносится на экспертизу эффективности деятельности научных организаций и каждого ученого. Возникает ситуация «смещения целей» (displacement goals) [60], типичная для практики микроменеджмента науки, когда средства, выбранные для достижения цели, сами превращаются в цель. Возможно, именно этим объясняется рост во всем мире контрольной нагрузки на каждого исследователя и преподавателя, а также «сдвиг влево» по шкале времени сроков предоставления отчетности, поскольку профильным ведомствам необходимо собрать «снизу» и обработать всю информацию до наступления дедлайна по собственным отчетам перед внешним государственным финансовым контролем. Таким образом, повсеместная экспансия идей «неоменеджериализма» (включая управление наукой как бизнес-проектом с микроменеджментом деятельности ученого) содержит риск замещения долгосрочных стратегических целей развития сектора науки достижением краткосрочных и локальных успехов. Представляется, что особенности функционирования объекта (наука) контроля и производимого им результата (научное знание) не позволяют без ущерба для качества получаемых выводов абсолютно разделить контуры внутреннего и внешнего аудита сектора науки, поскольку содержательное значение результатов могут оценить только эксперты – представители научного сообщества. Соответственно, содержательная оценка социально-экономической ценности научных результатов требует привлечения к экспертным процедурам реальных и потенциальных пользователей нового научного знания – представителей бизнеса и государства, различных общественных групп и других стейкхолдеров. Это обстоятельство создает основные трудности при формировании оценочных систем, так как необходимость сочетания количественных и качественных методов оценки ведет к постоянному увеличению ресурсоемкости процедур: для получения достоверного результата расходуется все больше времени, финансов, материалов, человеческих ресурсов, включая привлечение различных стейкхолдеров. Как следствие, баланс «цена / качество» объективно смещается в пользу сокращения расходов времени и финансов. Представляется, что разработка доказательных систем оценивания воздействия результатов исследований на общество и экономику сопряжено с необходимостью решения, как минимум, трех типичных задач. Первая из них обусловлена выбором наиболее правильных сроков оценки импакта по принципу «вчера было рано, а завтра станет поздно». Вторая – с правильным установлением связи «исследование-эффект» при наличии множества влияющих факторов и акторов [61]. Наконец, решение третьей задачи предполагает попытку сформулировать своеобразный «принцип дополнительности» импакта: результаты исследования теоретически способны изменять наблюдаемые процессы и эффекты, а значит, необходимы взаимоисключающие классы понятий (условно, сравнение характеристик «мира без результатов исследования» и «мира, на который повлияли результаты исследования»). Совершенствование и правовое регулировнаие систем и подходов, предназначенных для оценки результатов исследований и эффективности функционирования сектора науки в целом, - это постоянный, творческий процесс, который стал сегодня составной частью более общего явления – коэволюции науки и методов государственного управления научным развитием.
References
1. Chernikova I.V. (2011) Tipologiya nauki v kontekste sovremennoi filosofii nauki // Voprosy filosofii. № 11. S. 71-78.
2. Kravets A.S. (1992) Ideologiya nauki // Obshchestvennye nauki i sovremennost'. № 6. S. 26-28. 3. Higher Education and Research Act 2017 // UK Parliament: Parliamentary Bills. URL: https://bills.parliament.uk/bills/1773 (data obrashcheniya:. 01.11.2021). 4. Stepashin S.V. Konstitutsionnyi audit. M.: Nauka, 2006. - 814 s. 5. Ben-Devid Dzh. Rol' uchenogo v obshchestve / per. s angl. A. Smirnov. M.: Novoe literaturnoe obozrenie, 2014. – 344 s. 6. Main Science and Technology Indicators: Volume 2021. Issue. 1. Paris: OECD Publishing, 2021. – 88 p. DOI: https://doi.org/10.1787/eea67efc-en 7. Europe 2020. European Council. 17 June 2010. Conclusions / EUCO 13/10. -Brussels: European Council, 17 June 2010. – 14 p. 8. Horizon 2020 (2011). Communication from the Commission to the European Parliament, The Council, The European Economic and Social Committee and The Committee or the region Horizon 2020 - The Framework Programme for Research and Innovation. COM/2011/0808 final. 9. Ebrahim A., Rangan V.R. What Impact? A Framework for Measuring the Scale & Scope of Social Performance // California Management Review. 2014. Vol. 56. No 3. P. 118–141. 10. Hearn S, Buffardi A.L. What is Impact? / Hearn S., Buffardi A.L. The Methods Lab. London, UK: Overseas Development Institute, 2016. – 15 p. DOI: DOI: 10.13140/RG.2.1.4799.9766 11. Donovan C. For ethical «impactology» // Journal of Responsible Innovation. 2019. Vol. 6. Issue 1. P. 78-83. 12. Yanik A.A., Popova S.M. Usilenie dirizhizma v upravlenii naukoi, innovatsiyami i vysshim obrazovaniem v Soedinennom Korolevstve posle «breksita» // Sovremennoe obrazovanie. 2017 № 4. S. 118-130. 13. Wilsdon J. et al. The Metric Tide: Report of the Independent Review of the Role of Metrics in Research Assessment and Management / Wilsdon J., Allen L., Belfiore E., Campbell P., Curry S., Hill S., Jones R., Kain R., Kerridge S., Thelwall M., Tinkler J., Viney I., Wouters P., Hill J., Johnson B. Bristol: HEFCE, 2015. – 163 p. 14. Martin B.R. The Research Excellence Framework and the "Impact Agenda": Are We Creating a Frankenstein Monster? // Research Evaluation. 2011. Vol. 20. No 3. P. 247–254. 15. REF 2021. UK: Research Excellence Framework 2021. URL: https://www.ref.ac.uk/ (data obrashcheniya: 01.11.2021). 16. Kirichenko I. V., Shelyubskaya N. V. (2019) Sistema otsenki kachestva nauchnykh issledovanii v stranakh Evropy // Universitetskoe upravlenie: praktika i analiz. 2019. T. 23. № 4. S. 9-20. 17. SEP (2014) Standard Evaluation Protocol 2015-2021. Protocol for Research Assessments in the Netherlands. KNAW, VSNU, NWO. Amended version, 2016. URL: https://www.knaw.nl/nl/actueel/publicaties/standard-evaluation-protocol-2015-2021 (data obrashcheniya: 01.11.2021). 18. Yanik A.A., Popova S.M. Novaya paradigma upravleniya naukoi: opyt Niderlandov // Uchenyi Sovet. 2017. № 8. S. 19-29. 19. Research quality evaluation in Sweden – FOKUS. Stockholm: Swedish Research Council, 2015. – 118 p. 20. Tieteen Tila 2018. Helsinki: Suomen Akatemia, 2018. - 84 p. 21. MacFadden B.J. Broader Impacts of Science on Society. Cambridge: Cambridge University Press? 2019. – 320 p. 22. Manville C. et al. Assessing impact submissions for REF2014. An evaluation / Manville C., Guthrie S., Henham M.-L., Garrod B., Sousa S., Kirtley A., Castle-Clarke S., Ling T. HEFCE No. RR-1032-HEFCE. Cambridge, UK: RAND Europe, 2015. – 109 p. 23. Stern Report (2016) Building on success and learning from experience. An Independent review of the Research Excellence Framework. London: Department for Business, Energy & Industrial Strategy. Amended version, 2018. – 54 p. 24. Martin B.R. What’s Happening to Our Universities? Science Policy Research Unit Working Paper Series No. SWPS 2016-03. Brighton: University of Sussex, 2016. – 25 p. 25. Busygina T.V. Al'tmetriya kak kompleks novykh instrumentov dlya otsenki produktov nauchnoi deyatel'nosti // Idei i idealy. 2016. T. 2. № 2. S. 79-86. 26. Mazov N.A., Gureev V.N. Al'ternativnye podkhody k otsenke nauchnykh rezul'tatov // Vestnik Rossiiskoi akademii nauk. 2015. T. 85. № 2. C. 115–122. 27. Robinson-Garcia N., van Leeuwen T.N., Ràfols I. Using altmetrics for contextualised mapping of societal impact: From hits to networks // Science and Public Policy. 2018. Vol. 45. No 6. P. 815-826. 28. Barnet C., Gregorowski R. Learning about theories of change for the monitoring and evaluation of research uptake / IDS Practice Paper in Brief. ILT Brief. 2013. No 14. – 10 p. 29. Primenenie teorii izmenenii dlya strategicheskogo audita i strategicheskogo planirovaniya v Rossii / Kim A.I., Kopytok V.K., Filippova Yu.A., Tsygankov M.V. M: Schetnaya palata Rossiiskoi Federatsii, Tsentr perspektivnykh upravlencheskikh reshenii, 2020. – 28 s. 30. Teoriya izmenenii: obshchie rekomendatsii k primeneniyu (iz opyta BDF «Viktoriya») / Kuz'min A.I., Kosheleva N.A. M.: Izdatel'stvo «Prospekt», 2014. – 59 c. 31. Riley B.L., Kernoghan A., Stockton L., Montague S., Yessis J., Willis C.D. Using contribution analysis to evaluate the impacts of research on policy: Getting to ‘good enough’ // Research Evaluation. 2018. Vol. 27. No 1. P. 16–27. 32. Mayne J. Useful Theory of Change Models // Canadian Journal of Program Evaluation / La Revue canadienne d'évaluation de programme. 2015. Vol. 30. No. 2. P. 119–142. 33. Raftery J., Hanney S., Greenhalgh T., Glover M., Blatch-Jones A. Models and applications for measuring the impact of health research: update of a systematic review for the Health Technology Assessment programme // Health Technology Assessment. 2016. Vol. 20. No 76. P. 1–254. 34. Buxton M., Hanney S. How can payback from health services research be assessed? // Journal of Health Service Research and Policy. 1996. Vol. 1. No. 1. P. 35-43. 35. Buxton M., Hanney S. Evaluating the NHS R&D programme: will the programme give value for money? // Journal of the Royal Society of Medicine. 1998. Vol. 91. No 35. P. 2–6. 36. Pedersen D.B., Grønvad J.F., Hvidtfeldt R. Methods for mapping the impact of social sciences and humanities - A literature review // Research Evaluation. 2020. Vol. 29. No 1. P. 4–21. 37. Donovan C., Hanney S. The ‘Payback Framework’ explained // Research Evaluation. 2011. Vol. 20. No. 9. P. 181-183. 38. Levitt R., Celia C., Diepeveen S., Ni Chonaill S., Rabinovich L., Tiessen J. Assessing the Impact of Arts and Humanities Research at the University of Cambridge. Cambridge: RAND Europe, 2010. URL: https://www.rand.org/content/dam/rand/pubs/technical_reports/2010/RAND_TR816.pdf (data obrashcheniya: 01.11.2021). 39. Cherney A. Academic-Industry collaboration and Knowledge co-Production in the Social Science // Journal of Sociology. 2015. Vol. 51. No. 4. P. 1003-1016. 40. Briefing on Linkage and Exchange Facilitating Diffusion of Innovation in Health Services / Conklin A., Hallsworth M., Hatziandreu E., Grant J. Cambridge, UK: RAND Europe, 2008. – 22 p. 41. Boland L., Kothari A., McCutcheon C., Graham I. D. Building an integrated knowledge translation (IKT) evidence base: colloquium proceedings and research direction // Health Research Policy and Systems. 2020. Vol 18. No. 1. P. 1-7. 42. Lomas J. Using 'linkage and exchange' to move research into policy at a Canadian foundation // Health Affairs. 2000. Vol. 19. No 3. P. 236-240. 43. Right here, right now: taking co-production into the mainstream / Boyle D., Coote A., Sherwood C., Slay J. Discussion paper. London: NESTA, 2010. – 22 p. 44. Co-production: an emerging evidence base for adult social care transformation / Needham C., Carr S. Research briefing 31. London: Social Care Institute for Excellence (SCIE), 2009. – 22 p. 45. Ostrom E. Crossing the great divide: coproduction, synergy, and development // World Development. 1996. Vol. 24. No.6. P. 1073–1087. 46. Nutley S. Debate: are we all co-producers of research now? // Public Money Management. 2010. Vol. 30. No 5. P. 263–265. 47. Heaton J., Day J., Britten N. Collaborative research and the co-production of knowledge for practice: an illustrative case study // Implementation Science. 2016. Vol. 11. No 1. P. 1-10. 48. Osborne S.P., Radnor Z., Strokosch K. Co-production and the co-creation of value in public services: a suitable case for treatment? // Public Management Review. 2016. Vol. 18. No 5. P. 639–653. 49. Beckett K., Farr M., Kothari A., Wye L., le May A. Embracing complexity and uncertainty to create impact: exploring the processes and transformative potential of co-produced research through development of a social impact model // Health Research Policy and Systems. 2018. Vol. 16. No 1. P. 1-18. 50. Mintrom M., Norman P. Policy Entrepreneurship and Policy Change // Policies Studies Journal. 2009. Vol. 37. No 4. P. 649-667. 51. Coburn A. The Role of Health Services Research in Developing State Health Policy // Health Affairs. 1998. Vol. 17. No 1. P. 139-151. 52. Lind J. The Missing Link: How University Managers Mediate the Impact of a Performance-Based Research Funding System // Research Evaluation. 2019. Vol. 28. No 1. P. 84–93. 53. Abreu M., Grinevich V. The Nature of Academic Entrepreneurship in the UK: Widening the focus on entrepreneurial activities // Research Policy. 2013. Vol. 42. No 2. P. 408-422. 54. Lebedeva N.M. Implitsitnye teorii innovativnosti: mezhkul'turnye razlichiya // Psikhologiya. Zhurnal Vysshei shkoly ekonomiki. 2012. T. 9. № 1. S. 89–106. 55. Shagalov I.L. Effekty soproizvodstva sotsial'noi infrastruktury mestnymi soobshchestvami v Rossii // EKO. 2019. T. 49. № 4. S. 153-172. 56. Soproizvodstvo i ispol'zovanie intellektual'nykh uslug: vzglyad zakazchikov / Chichkanov N.Yu., Belousova V.Yu. Nauka. Tekhnologii. Innovatsii. Ekspress-informatsiya. VShE, 2017. 20 aprelya. 57. Edgerton D. The ‘Haldane Principle’ and other invented traditions in science policy // UK Universities Partnership «History & Policy» Policy Paper. 2009. July 2. 58. Yanik A.A. Izmerenie vklada nauk v sotsial'no-ekonomicheskoe razvitie: rossiiskie podkhody v mirovom prostranstve idei // MIR (Modernizatsiya. Innovatsii. Razvitie). 2021. T. 12. № 3. S. 222-253. DOI: https://doi.org/10.18184/2079-4665.2021.12.3.222-253 59. Stepashin S.V. Gosudarstvennyi audit i ekonomika budushchego. M.: Nauka, 2008. – 608 s. 60. Merton R.K. Sociology of science and sociology as science. New York, NY: Columbia University Press, 2010. - 320 p. 61. Gunn A., Mintrom M. Evaluating the non-academic impact of academic research: design considerations // Journal of Higher Education Policy and Management. 2017. Vol. 39. No 1. P. 20–30. |