Libmonster ID: RU-9503
Автор(ы) публикации: А. ЛИБМАН

А. ЛИБМАН, кандидат экономических наук, старший научный сотрудник ИЭ РАН, докторант Маннгеймского университета, сотрудник Центра российских исследований Восточно-Китайского университета

Теория и эмпирика в экономической науке

Если еще несколько десятилетий назад облик мейнстрима экономической теории определяли теоретические исследования, в основном опиравшиеся на дедуктивные математические модели, то сегодня все более заметным становится усиливающийся "эмпирический поворот" в экономической науке. Его основу составляет распространение и развитие количественного анализа данных с помощью эконометрических методов. При этом, по сути дела, структура современного научного сообщества развивается в соответствии с концепцией, выдвинутой еще в 1950-е годы Т. Купмансом1: сложность как теоретических моделей, необходимых для разработки конкурентоспособных идей, так и эконометрических методов и приемов ведет к становлению двух научных сообществ - "теоретиков" и "эмпириков" (хотя, конечно, есть примеры исследователей, равно успешных в обеих областях), что в чем-то напоминает разделение между теоретиками и экспериментаторами в естественно-научных дисциплинах2.

Конечно, в идеале теоретические и эмпирические исследования в экономике должны дополнять друг друга: теория генерирует гипотезы, подвергающиеся эмпирической проверке, а эмпирический анализ поз-


Автор выражает благодарность участникам семинара кафедры экономической методологии и истории ГУ - ВШЭ (декабрь 2007 г.) за ценные замечания, позволившие значительно улучшить работу.

1 Koopmans T. C. Three Essays on the State of Economic Science. N. Y.: McGraw Hill, 1957.

2 При этом в экономической теории существует и третья ветвь исследований - экспериментальная экономика, формирующая собственное научное сообщество (хотя, насколько можно судить, пока экспериментаторы в экономике ближе к теоретикам, чем эконометристы).

стр. 4

воляет как минимум выявлять теории с "большей" или "меньшей" объясняющей силой (а как максимум - фальсифицировать теории, опровергнутые данными фактами). Во многих случаях взаимодействие теории и эмпирики действительно следует данной логике. В настоящей работе мы попытаемся, однако, рассмотреть основные сложности на пути коммуникации теоретических и эмпирических исследований. Нас интересует вопрос, в какой степени результаты теоретических исследований "усваиваются" экономистами-эмпириками и насколько выводы эконометрических изысканий влияют на развитие теории.

Проблемы в сфере коммуникации могут быть связаны с двумя обстоятельствами. Во-первых, они возникают из-за специфики аппарата моделирования в теоретических исследованиях и в эконометрике, делающей невозможным "переток" информации и выводов между этими двумя областями. Во-вторых, коммуникация может быть нарушена в результате обособленности двух научных сообществ - теоретиков и эконометристов. Упрощенно можно говорить о двух точках возможных "проблем связи": во-первых, при переходе от теоретических к эмпирическим исследованиям (то есть при формулировке эконометрической модели на основе корпуса выводов в экономической теории) и, во-вторых, от теории к эмпирике (то есть при коррекции теоретических моделей на основе выводов эконометрики). Нельзя забывать, что в случае построения эконометрической модели исследователь совершает даже своеобразный "двойной переход". На "входе" находятся не только теоретическая модель (то, что мы именуем "теорией" в настоящей работе), но также набор статистических методов, разработанный теоретической эконометрикой как разделом математики и статистики. Далее мы рассмотрим возможные "проблемные точки" взаимодействия теории и эмпирики.

Следует подчеркнуть, что во многих случаях речь идет о неизбежных проблемах, всегда возникающих в научном сообществе, включающем в себя как эмпириков, так и теоретиков, и в науке, состоящей из двух ветвей анализа (в отличие, скажем, от мира доминирующей эмпирики немецкой исторической школы или господства логического подхода в австрийской школе). Сами по себе они не всегда могут рассматриваться как основания для принципиальной критики математического моделирования в теории или статистического анализа данных (хотя в некоторых случаях, наверное, такая трактовка возможна). Тем не менее осознание существования этих проблем, на наш взгляд, крайне важно для развития дисциплины.

Наша работа имеет три ограничения. Во-первых, предметом анализа является структура научного сообщества экономистов мейнстрима. На сегодняшний день мейнстрим во многом отличается от той упрощенной "неоклассической карикатуры", которую часто рисуют его неортодоксальные критики; тем не менее ориентация на экономику мейнстрима как минимум означает признание количественных методов анализа и математики в принципе адекватными для исследования экономических проблем. В сообществе экономистов неортодоксальных школ этот вывод не является бесспорным; скажем, в австрийской экономической теории "математическая экономика" достаточно четко противопоставляется "логической экономике" - праксеологии3,


3 См., например: Уэрта де Сото Х. Австрийская экономическая школа: рынок и предпринимательское творчество. М.: Социум, 2007.

стр. 5

а дискуссия о применимости методов статистики к эмпирическому анализу восходит еще к противоречиям И. Шумпетера, как сторонника количественных методов, и Л. фон Мизеса. В настоящей работе данная дискуссия не рассматривается. "Теория" для нас тождественна именно корпусу математических моделей. Во-вторых, мы практически не касаемся собственно дискуссии о методологии эконометрического исследования, не угасающей на протяжении последних семидесяти лет (хотя отдельные ее фрагменты представляют интерес для нашей темы). Наша цель - выявить именно "проблемы коммуникации" и способы их решения научным сообществом. Наконец, в-третьих, мы не пытаемся предложить какое бы то ни было однозначное решение проблем научного сообщества. Наша цель состоит скорее в формулировке самих вопросов, нежели в попытке дать на них ответы.

Проблемы коммуникации

От теории к эмпирике

Формат теории. Прежде всего, "идеальный случай", когда теоретическая модель может быть напрямую трансформирована в эконометрическую, является сегодня скорее исключением, чем правилом. Иначе говоря, напрямую оценивать построенную теоретиком модель эконометрист в большинстве случаев не может. Необходимо как минимум трансформировать ее, а в подавляющем большинстве случаев - построить новую эконометрическую модель, качественно отличающуюся от модели теоретико-экономической. Это приводит к появлению двух основных сложностей.

Во-первых, в экономической теории господствуют оптимизационные и теоретико-игровые модели, основанные на взаимодействии множества игроков. Сам характер теории игр и метода определения равновесий (как "лучших способов реагирования" на действия оппонентов) влечет за собой предположение о существовании двусторонней причинно-следственной связи между переменными. Вместе с тем в эконометрике именно наличие такой "обратной причинности" (reverse causality) вызывает, наверное, ключевую проблему для большинства исследователей -эндогенность. Во многих случаях предметом оценки становятся теоретически выведенные "кривые реагирования", но они далеко не всегда имеют функциональную форму, пригодную для эконометрической оценки; так или иначе сохраняется задача решения проблемы эндогенности. Несколько утрируя, можно сказать, что "вера" в теоретико-игровые модели обусловливает необходимость признания смещения оценок из-за эндогенности, а "вера" в допущения эконометрической модели часто вызывает сомнения в адекватности теоретико-игровой модели.

Во-вторых, неверно было бы рассматривать эконометрическую модель как "упрощение" теоретической. На практике эконометрическая модель является и упрощением, и усложнением по сравнению с теоретической. В ней игнорируется ряд взаимосвязей теоретической модели, но в то же время происходит отказ от ряда упрощающих предпосылок (например, эмпирик едва ли может принять "удобные" для теоретика в силу возможности получить аналитическое решение, но сомнительные с эмпирической точки зрения предположения о струк-

стр. 6

туре функций полезности и т.д.). Но в этом случае всегда остается вопрос: насколько корректно эконометрическая модель отражает "тестируемую" ею теоретическую модель?

Ситуация оказывается еще более сложной, если вспомнить, что эконометрические исследования нередко строятся на основе вербальных моделей, "тестирования частичных гипотез" в одной регрессии или простого "сбора данных". Иначе говоря, вопрос заключается не только в том, каким образом целесообразно осуществлять "переход" от формальной теории к формальной модели, но также и в том, а требуется ли такой переход вообще. Или же эконометристу достаточно работать с вербальными моделями (построение которых, как правило, требует меньших усилий, чем формальных) либо формулировать, выражаясь языком И. Кондратьева, "эмпирические правильности" на основе исследования данных, которые впоследствии уже станут "топливом" для работ теоретиков?4 Последний вопрос, по мнению А. Рубинштейна, относится к числу четырех важнейших "дилемм экономистов-теоретиков" в целом5. Наверное, одним из наиболее ярких примеров дискуссии по поводу соотношения "измерения" и "теории" можно считать макроэкономику6. Между тем в зависимости от того, какой ответ на этот вопрос дает то или иное научное сообщество, может меняться и структура стимулов для исследователей, ведущая к изменению структуры распределения затрат их труда между исследовательскими задачами.

Техническая реализуемость достижений теоретической эконометрики. Расцвет эконометрических исследований во многом является следствием достижений в области вычислительной техники. Помимо роста вычислительных мощностей (некоторые области эконометрики, как, например, Байесов анализ, смогли быть реализованы на практике лишь при наличии соответствующих возможностей компьютеров) резко повысилась доступность пакетов для каждого конкретного исследователя. Тем не менее распространенность программного обеспечения имеет и обратную сторону: формируется постоянный и довольно устойчивый "лаг" между достижениями теоретической эконометрики и возможностью их практического применения.

Прежде всего, современная теоретическая эконометрика представляет собой с математической точки зрения крайне сложную дисциплину. В подавляющем большинстве случаев применение тех или иных методов оценки, предложенных эконометристами-теоретиками, к прикладным задачам потребовало бы колоссальных затрат времени и усилий (причем восприятие этих затрат исследователями, по всей видимости, было бы еще более болезненным, чем ранее - именно за счет появления "быстрой" компьютерной альтернативы). Однако в результате оказывается, что методология эмпирических исследований значительно отстает по уровню от теоретической эконометрики. Например, если в теории


4 Кстати сказать, сами "большие циклы экономической конъюнктуры" Кондратьева, оказавшие серьезное влияние на развитие дисциплины в целом, могут рассматриваться как пример такого подхода к работе.

5 Rubinstein A. Dilemmas of an Economic Theorist // Econometrica. 2006. Vol. 74, No 4. P. 873 - 877.

6 Simkins S. Measurement and Theory in Macroeconomics. Mimeo, 1999.

стр. 7

непараметрические и полупараметрические методы играют ведущую роль, в эмпирических исследованиях они пока находятся на втором плане. Конечно, постепенно сложные методы "внедряются" в программное обеспечение, но, поскольку теоретическая эконометрика также не стоит на месте, лаг сохраняется. А это значит, что выводы прикладных эконометристов априори могут восприниматься как сомнительные.

Конфликт эконометрических методологий. Представление об эконометрике как о целостной и лишенной противоречий дисциплине является как минимум упрощением. В реальности можно говорить о существовании нескольких конфликтующих методологий, разногласия между которыми носят характер фундаментально не проверяемых предпосылок (в какой-то степени восходящих к философской, а не экономической дискуссии).

Уже выводы Т. Хаавельмо 1940-х годов, лежащие в основе современной эконометрической методологии, по-разному интерпретируются в рамках подходов "устойчивой регрессии" и "вероятностного упрощения", предъявляющих различные требования к данным и к способу их эконометрической обработки. Сохраняется дифференциация между "традиционным" и "Байесовым" подходами к эконометрике. Альтернативу традиционному пониманию эконометрической методологии составляют также, например, методология Д. Хендри (LSE), основанная на моделировании процесса генерации данных "от общего к частному", анализ чувствительности Лемера, метод векторных авторегрессий и структурных векторных авторегрессий, играющий важную роль в анализе денежно-кредитной политики, наконец, активно использующийся в макроэкономике метод калибровки. Разные подходы дают возможность достичь разных успехов в отдельных предметных областях; нередко их продвижение связано с совершенствованием вычислительных мощностей7. Сохраняется целый ряд спорных вопросов для методологии эконометрики. Например, следует учесть необходимость в общем случае дифференцировать подлинную переменную (корректно отображающую реальность), теоретическую переменную(соответствующую теоретической модели) и наблюдаемую переменную (полученную из эмпирических данных). При этом и теоретические, и наблюдаемые данные должны быть соотнесены с подлинными переменными и друг с другом с помощью так называемых "принципов-мостов" (bridge principles), также являющихся предметом дискуссии в эконометрической методологии8. Классической темой для дискуссии является анализ причинности: в какой степени исследование выявляет именно причинно-следственную связь между объектами, а в какой - лишь отражает корреляцию явлений9. Этот перечень можно было бы продолжить.

При этом нельзя забывать, что современная эконометрика "усвоила" лишь часть инструментов индуктивной статистики; целый ряд иных методов, использующихся в других социальных науках, - скажем, кластерный анализ или анализ сетей (также сталкивающиеся со своими проблемами, например, отсутствием критериев оценки "случайности" полученного результата, аналогичных статистической значимости),


7 Обзор данной тематики см. в: Hayo B. Alternative methodologische Ansatze in der Okonometrie: Eine Einfuruhrung // Allgemeines Statistisches Archiv. 1997. Bd. 81. S. 266 - 289; Hoover K. D. The Methodology of Econometrics // Palgrave Handbook of Econometrics / K. Patterson, T. C. Mills (eds.). N. Y.: Palgrave Macmillan, 2006.

8 Stigum B. Econometrics and the Philosophy of Economics. Princeton and Oxford: Princeton University Press, 2003; Goldstein H. E., Stigum B. P. Bridge Principles in Empirical Analysis. Mimeo, 2006

9 См.: Hoover K. D. Causality in Economics and Econometrics. Mimeo, 2006; Moneta A. Causality in Macroeconometrics: Some Considerations about Reductionism and Realism // Journal of Economic Methodology. 2005. Vol. 12, No 3. P. 433 - 453.

стр. 8

практически отсутствуют в экономике. Сложно судить, в какой степени их внедрение в инструментарий эконометрики могло бы оказаться успешным, но само их существование свидетельствует о возможности поиска новых способов исследования количественных данных.

От эмпирики к теории

Интерпретация результатов. Первая же проблема, с которой сталкивается исследователь при попытке "передать" вывод эконометрического исследования экономисту-теоретику, - это проблема инференции, или интерпретации эконометрических результатов. Конечно, выводы о том, каким образом "должно" осуществлять инференцию, являются важнейшей частью работ в области теоретической эконометрики. Однако несмотря на это, многие ее аспекты по-прежнему вызывают споры. В значительной степени они являются "производными" от конкуренции методологий, но не сводятся к ним.

Прежде всего, необходимо упомянуть проблему "терпимости" к "слабым" результатам. "Слабыми" в данном случае мы считаем результаты, небезупречные с точки зрения допущений модели, на которых основаны утверждения об инференции. Классическим примером такой "слабости" можно считать дискуссию об инструментальных переменных, использующихся для решения проблемы эндогенности. Поскольку "хорошие" инструменты, помимо статистических свойств, должны также "вытекать из теории", подавляющее большинство инструментальных переменных становится объектом острой критики. Таким образом, возникает вопрос: сколь серьезно должен теоретик воспринимать такие "сомнительные" для самих эконометристов выводы?

Можно привести и другие примеры. Простейший из них - коэффициент детерминации. Если для некоторых авторов рост коэффициента детерминации является чуть ли не одним из важнейших достижений эконометрического моделирования10, то большинство исследователей сегодня вообще игнорируют данную величину. Соответственно меняется и восприятие тех или иных результатов. Аналогичные вопросы есть и в отношении статистической значимости. Критерии значимости оценок, как правило, варьируются в зависимости от размера выборки: если для небольшой выборки и значимость (при оценке по методу наименьших квадратов) на 10%-м уровне является приемлемой, то в большой выборке требуется установить более высокий барьер значимости, чтобы отклонить нулевую гипотезу. Конечно, в каждой конкретной работе ситуация может различаться, а четких границ для применения тех или иных барьеров значимости (кстати говоря, сама их величина, конечно же, является продуктом консенсуса в научном сообществе) не существует. И стоит ли в принципе делать акцент на анализе значимости? Например, ряд критиков предлагает большее внимание уделять не значимости, а доверительным интервалам коэффициентов11.


10 Балацкий Е. В. Антропогенный фактор "регресса" экономической науки // Науковедение. 2003. N 4. С. 141 - 163.

11 DeLong J. B., Lang K. Are All Economic Hypotheses False? // Journal of Political Economy. 1992. Vol. 100, No 6. P. 1257 - 1272.

стр. 9

Именно концепция значимости связана с одним из наиболее масштабных подходов к критике современного моделирования в экономической теории и эмпирике, предложенным Д. Макклоски. Прежде всего, в отличие от многих неортодоксальных критиков, Макклоски рассматривает как недостаток современной экономической теории не столько чрезмерную математизацию, сколько неверную математизацию. В случае с теорией речь идет об увлечении качественными теоремами в ущерб количественным утверждениям. По сути дела, современная теория сосредоточена на существовании и единственности равновесия (в отличие от естественных наук, где такая проблема не рассматривается) и, как правило, указывает лишь нанаправление изменения, но не предлагает никаких количественных характеристик для оценки масштабов изменения (опять же, в отличие, скажем, от физики)12. "Отражением" этой ситуации в эконометрике является акцент на статистической значимости (которая, в сочетании со знаком коэффициента, "подтверждает" или "опровергает" существование теоретически "предсказанного" качественного эффекта). Между тем Макклоски утверждает, что экономисты систематически злоупотребляют концепцией статистической значимости, подменяя ею значимость экономическую13. А это, в свою очередь, создает проблемы уже для "трансляции" выводов эмпирики в теоретические работы.

Точка зрения Макклоски, конечно же, вызвала достаточно острую критику14. К тому же нельзя забывать, что ситуация сильно различается в зависимости от отрасли экономической науки: скажем, в динамической макроэкономике, где господствует вычислительная экономика (что вызвано именно неопределенностью результатов "теорем о существовании" для "рабочей лошадки" современной макроэкономики - модели перекрывающихся поколений OLG), теория значительно ближе к идеалу формулировки количественных утверждений, а калибровка дает возможность их оценить. Однако в любом случае данная дискуссия - свидетельство возможных разногласий в сфере интерпретации результатов.

Неопределенность результатов. Дискуссии об интерпретации результатов и о применении той или иной эконометрической методологии во многом обусловливают и остальные проблемы перехода от эмпирики к теории. Однако в не меньшей степени они вызваны самим эмпирическим бумом. Привлекательность эмпирических исследований, растущие шансы на публикации в престижных журналах у исследователей, работающих в этой области, конечно, притягивают ученых. А это, кроме объективных преимуществ, создает и целый ряд проблем. Одной из них и является неопределенность результатов эмпирических исследований.

В настоящее время по ключевым вопросам теории накопилось огромное количество эконометрических изысканий, как правило содержащих противоречащие друг другу выводы. Например, только за 1970 - 1980-е годы (до начала эконеметрического бума) было опубликовано 156 работ, содержавших 733 спецификации рег-


12 McCloskey D. Why Economics Is on the Wrong Track? Mimeo, 2007; McCloskey D. Two Vices: Proof and Significance. Mimeo, 1998.

13 См.: Ziliak T., McCloskey D. The Cult of Statistical Significance: How the Standard Error Costs Us Jobs, Justice and Lives. Ann Arbor: University of Michigan Press, 2007; McCloskey D. The Loss Function Has Been Mislaid: The Rhetorics of Significance Test // American Economic Review. 1985. Vol. 75, No 2. P. 201 - 205; McCloskey D. Why Economic Historian Should Stop Relying on Statistical Tests on Significance and Lead Economists and Historians into the Promised Land // Newsletter of the Cliometric Society. 1986. Vol. 2, No 2. P. 5 - 7; McCloskey D. The Art of Forecasting, Ancient to Modern Times // Cato Journal. 1992. Vol. 12, No 1. P. 23 - 43; McCloskey D. The Insignificance of Statistical Significance // Scientific American. 1995. April. P. 32 - 33; McCloskey D., Ziliak S. T. The Standard Error of Regression // Journal of Economic Literature. 1996. Vol. 34, No 1. P. 97 - 114, а также дискуссию по этому вопросу в: Journal of Socio-Economics. 2004. Vol. 33, No 5.

14 Хорошим примером может служить работа: Hoover K. D., Siegler M. V. Sound and Fury: McCloskey and Significance Testing in Economics. Mimeo, 2005.

стр. 10

рессии, объясняющей уровень заработной платы (wage equation)15. По большинству значимых тем в различных разделах экономической науки сегодня можно найти порядка нескольких сотен эконометрических работ. В большинстве эмпирических работ приводится множество спецификаций с часто противоречащими друг другу результатами. Можно сказать, что в какой-то степени современная эмпирика следует девизу, сформулированному в заголовке статьи К. Сала-и-Мартина "Я просто посчитал два миллиона регрессий"16.

Проблема в том, что противоречия между выводами различных работ могут быть вызваны множеством причин: выборкой, методом оценки моделей, контрольными переменными и др. Соответственно для адекватного пересмотра теории требовалось бы четко определить характер воздействия этих параметров на результаты, что, конечно же, достаточно сложная задача.

Универсальность выводов. Эконометрические методы в эмпирических исследованиях, в отличие от популярных в других общественных науках методов "case studies", в принципе ориентированы на выявление универсальных закономерностей на основе подхода "при прочих равных" (ceteris paribus), а не на детальное изучение конкретных ситуаций. Однако любой эконометрист работает с конкретными данными. В некоторых случаях (скажем, в сфере экономики общественного сектора) это могут быть данные по регионам конкретной страны или федерации. Следовательно, полученные на их основе выводы могут зафиксировать локальную аномалию, а не систематические различия, к которым стремится теория. Аналогичная классическая проблема существует с точки зрения "устойчивости" эконометрических результатов во времени.

Нельзя также забывать, что переход от агрегатов к индивидуальному уровню является нетривиальным. Теорема Гильденбранда показывает, что при определенных допущениях, даже в случае, если спрос отдельных агентов не удовлетворяет "закону спроса", он может быть справедлив для всей их совокупности17. Наоборот, если поведение всех без исключения агентов удовлетворяет аксиоме выявленных предпочтений, она в общем случае не соблюдается на уровне агрегатов. В экспериментальной экономике исследователи уже столкнулись с проблемой, когда анализ поведения конкретных игроков может дать принципиально иной вывод, чем анализ агрегированных показателей18.

Решением, казалось бы, является расширение масштабов эконометрических исследований, включая перепроверку уже проведенных результатов. Однако последняя сталкивается с многочисленными проблемами. Во-первых, эконометрический результат во многом "принципиально непроверяем" в том смысле, что он зависит от лежащих в основе исследования данных. Исходя из иных данных может быть


15 Koenker R. Asymptotic Theory and Econometric Practice // Journal of Applied Econometrics. 1988. Vol. 3, No 2. P. 140.

16 См.: Sala-i-Martin X. I Just Ran Two Million Regressions // American Economic Review. 1997. Vol. 87, No 2. P. 178 - 183. Подчеркнем, что в самой работе Сала-и-Мартина такой подход был вызван использующимся им методом анализа "предельных границ" (extreme bounds test). Мы цитируем работу скорее из-за образного и броского заголовка.

17 Hildenbrand W. On the "law of demand" // Econometrica. 1983. Vol. 51, No 4. P. 997 - 1020.

18 Blanco M., Engelmann D., Nermann H. -T. A Within-Subject Analysis of Other-Regarding Preferences. Mimeo, 2007.

стр. 11

получен другой результат, что не решает проблемы универсальности. Даже не учитывая данный вопрос, надо иметь в виду, что далеко не любая работа в современных условиях удовлетворяет так называемому принципу Клэрбо (Claerbout's Principle) - полной открытости данных и инструкций по генерации результатов для научного сообщества. Даже публикация данных (скажем, на интернет-странице автора) не означает, что все вычислительные детали станут доступны научному сообществу19. А в такой ситуации "перепроверять" значительно сложнее.

Дискуссия о воспроизводимости эконометрических исследований началась еще в 1980-е годы после появления исследования публикаций "Journal of Money, Credit and Banking", показавшего, что в опубликованных эконометрических работах присутствует множество ошибок (правда, большинство из них незначительны). Другая проблема, появившаяся в это же время, - отсутствие доступа к базам данных и программам, на которых основана статья. В какой-то степени эконометрическая работа является лишь "рекламой" для этих программ и данных, которая вполне может оказаться неточной. В результате некоторые журналы (например, "American Economic Review", "Journal of Political Economy", "Review of Economic Studies", "Canadian Journal of Economics") начали требовать от авторов обязательной публикации данных и программ для их обработки на сайте журнала (при этом иногда данные доступны всем пользователям Интернета, а статьи - только подписчикам). Однако, несмотря на доступность данных, исследователи предпочитают не тратить время на репродукцию существующих результатов20.

Скандалы с воспроизведением данных продолжаются. Яркий пример - недавняя статья Ф. Оберхольцер-Ги и К. Штрумпфа в престижнейшем "Journal of Political Economy", посвященная влиянию пиратства на результаты работы музыкальной индустрии, вызвавшая уничтожающую критику одного из лидеров этого исследовательского направления - С. Либовитца21. Авторы статьи многократно отказывались предоставить данные, на которых она основана, ссылаясь на их конфиденциальный характер. Критический комментарий стал одним из наиболее читаемых текстов по экономике в последний год.

Противники репликации исследований обычно ссылаются на два обстоятельства: во-первых, большинство экономических работ является малозначительными для прогресса науки в целом, и ошибки в них можно игнорировать, а во-вторых, если работа действительно оказалась влиятельной и важной, обилие следующих за ней статей рано или поздно позволит выявить ошибки и проблемы методологии.


19 См.: Koenker R., Zeieis A. Reproducible Econometric Research (A Critical Review of the State of the Art) // Department of Statistics and Mathematics of the University of Economics of Vienna Research Report No 60. November 2007.

20 Anderson R. G., Greene W. H., McCullough B. D., Vinod H. D. The Role of Data and Program Code Archives in the Future of Economic Research. Mimeo, 2005; Freeze J. Replication Standards in Quantitative Social Science: Why Not Sociology. Mimeo, 2005; McCullough B. D., McGeary K. A., Harrison T. D. Do Economic Journal Archives Promote Replicable Research. Mimeo, 2006; Hamermesh D. Replication in Economics // Canadian Journal of Economics. 2007. Vol. 40, No 3. P. 715 - 733.

21 Oberholzer-Gee F., Strumpf K. The Effect of File Sharing on Record Sales: An Empirical Analysis // Journal of Political Economy. 2007. Vol. 115, No 1. P. 1 - 42; Liebowitz S. How Reliable Is the Oberholzer-Gee and Strumpf Paper on File Sharing. Mimeo, 2007.

стр. 12

Вопрос в любом случае остается значимым для будущего эмпирической экономики. Например, Б. Маккуллог вообще полагает, что воспроизведение результатов в экономических исследованиях оказывается удачным лишь в исключительных ситуациях, а значит, нет оснований доверять публикациям в престижных журналах22.

Интересно в этой связи обратиться к классической "дискуссии об эконометрике", инициированной Дж. М. Кейнсом в 1930-х годах в "Economic Journal"23. Кейнс выступил с резкой критикой одной из первых попыток систематического применения "множественного корреляционного анализа" Я. Тинбергеном, прежде всего, с точки зрения базовых предположений эконометрического метода. На практике критика Кейнса распадается на четыре основных тематических блока.

Первый из них касается именно проблем "универсальности выводов" и "неопределенности результатов". Прежде всего Кейнс выражает сомнение в том, что экономическая среда с течением времени сохраняет однородность, благодаря которой можно использовать выводы количественного анализа. Далее он, по сути дела, предсказывает (на тот момент еще отсутствовавшую) проблему множественности выводов эконометрики: судя по его скептическому замечанию, он сомневается, что семьдесят эконометристов смогли бы повторить подвиг переводчиков Библии - Септуагинты, получив одинаковые результаты, если бы каждый из них "основывался" на работах "своего" экономиста.

Второй блок проблем - сомнения в функциональной форме линейной регрессии - на сегодняшний день можно считать разрешенным. Помимо того, что существует множество приемов сведения нелинейных процессов к линейной регрессии, развитие непараметрических методов, являющееся в настоящее время магистральным направлением теоретической эконометрики, рано или поздно (после того как эмпирики "нагонят" теоретиков, как описывалось выше) позволит отказаться от жесткой привязки к функциональной форме.

Третий проблемный элемент дискуссии связан с классическими замечаниями относительно эконометрического метода, которые сегодня можно найти в любом учебнике эконометрики: о независимости переменных (и эндогенности), отсутствии "пропущенных переменных", корректности измерения переменных (и обязательности принципиальной возможности количественно измерить все значимые величины). Фактически все развитие эконометрики на протяжении последних шестидесяти лет так или иначе было направлено на решение указанных проблем. Другое дело, что окончательно решить многие из них, наверное, невозможно, что создает трудности в интерпретации "слабых результатов", о которых мы говорили ранее.

Наконец, четвертый блок проблем связан с сомнениями относительно правильности метода "проб и ошибок", использовавшегося Тинбергеном для подборки лаговых переменных в анализе, и в какой-то мере сопоставим с современной дискуссией о "data mining", описанной ниже.

В конечном счете вывод Кейнса гласил, что эконометрика в принципе не способна (из-за описанных выше проблем) идентифицировать "подлинную причинно-следственную связь" (verae causae) между экономическими факторами. Он сравнивал ее с "алхимией" или "черной магией". Позиция Кейнса вызвала многочисленные отклики в последующей литературе, варьировавшиеся от полного признания его подхода до обвинений в недостаточной осведомленности о сути эконометрического метода и предвзятости24.


22 Handelsblatt. 2008. 6. Marz; 2007. 12. Marz.

23 На русском языке три основные статьи дискуссии опубликованы в: Вопросы экономики. 2007. N 4.

24 См. обзор в: Garrone G., Marchionatti R. Keynes on Econometric Method: A Reassessment of His Debate with Tinbergen and Other Econometricians, 1938 - 1943 // Universita di Torino Working Paper No 01. 2004; Jolink A. In Search of Verae Causae: The Keynes-Tinbergen Debate Revisited // De Economist. 2000. Vol. 148, No 1. P. 1 - 17.

стр. 13

Смещение в область "слабых" данных, гипотез и показателей. Эконометрический бум ведет также к постепенному "смещению" исследователей в область "слабых" данных, индикаторов, в меньшей степени соответствующих теоретической модели. "Слабость" данных в данном случае означает сомнительность происхождения и высокую вероятность неточных измерений с вытекающими из этого последствиями для оценок (например, в экономике общественного сектора такими "слабыми" данными можно считать данные многих развивающихся стран со слабыми статистическими службами). Нельзя забывать, что чем выше интерес эконометриста (и, следовательно, научного сообщества, а на каком-то этапе - общественности) к данным определенного типа, тем выше у "поставщиков" этих данных (скажем, госструктур) соблазн их "модификации" или откровенной фальсификации. Так что и в этом отношении эмпирическая экономика может оказаться в состоянии бесконечной гонки за корректными "косвенными" показателями. "Слабость" показателя обусловлена его ограниченной способностью адекватно отражать параметр теоретической модели: многочисленные "приближения" (proxy) нельзя считать бесспорными. "Слабость" гипотез, наконец, предполагает их справедливость лишь в крайне ограниченном числе случаев, порой практически не наблюдаемых в реальности.

В какой-то степени теоретические исследования сами "выталкивают" эмпирику в данную область по мере возрастающего значения экономического империализма, осваивающего все новые и новые области социальных наук. Проблема состоит в том, как интерпретировать ситуацию "слабости" и "ограниченности" данных. Является ли она достаточным основанием для того, чтобы в принципе отказаться от эмпирической проверки? Или исследователи должны скорее "делать то, что возможно", учитывая ограниченность эмпирической базы? Этот вопрос также остается открытым.

Технические особенности теоретических моделей. Даже если допустить, что эконометрический результат является устойчивым и получен на основе не вызывающих сомнений данных, это не означает, что теоретики в принципе могут реализовать модель, адекватную эмпирике. Отказ от теоретических упрощений часто приводит к невозможности получить аналитический результат. Теоретик должен или отказаться от используемого им подхода к моделированию, или проигнорировать эмпирику. Альтернативой могла бы стать вычислительная экономика, менее чувствительная к подобной проблеме, но пока ее применение ограничено лишь некоторыми областями экономической науки.

В конечном счете приходится констатировать, что теория во многих случаях достаточно успешно игнорирует разработки эмпириков. Конечно, это справедливо далеко не для всех дисциплин экономической науки, но все же подобное пренебрежение встречается достаточно часто. Не случайно, перечисляя "источники вдохновения" для экономиста-теоретика, Х. Вэриан описывает традиционный подход выявления предпосылок для моделей и их предмета из "наблюдений за обычной жизнью", но не говорит об эмпирических работах25.


25 Varian H. R. How to Build an Economic Model in your Spare Time // Passion and Craft: Economists at Work / M. Szenberg (ed.). Ann Arbor: University of Michigan Press, 1997.

стр. 14

Формирование консенсуса

Итак, переход от теории к эмпирике и от эмпирики к теории не лишен проблем. Конечно, возможной реакцией на подобную ситуацию является или отказ от одной из ветвей анализа (скажем, сведение экономики к проверке логических умозаключений или к сбору и обработке статистических данных), или замена способов проведения исследований (например, переход к вербальному моделированию в теории или методу case studies в эмпирике). Проблема в том, что альтернативы также имеют серьезнейшие недостатки, которые вызывают заслуженную критику26. На практике же реальным способом решения проблем (а в какой-то степени - создания возможностей для их игнорирования) является (явный или скрытый) договор, основанный наконсенсусе исследователей, определяющий отраслевые стандарты в дисциплине. С точки зрения "экономики экономики" (economics of economics) именно он превращается тогда в предмет нашего исследования.

Формирование консенсуса обусловлено различными факторами. В простейшем случае само научное сообщество формально организует дискуссию, ведущую к консенсусу (для эконометрики, например, такая дискуссия велась в известной "Cowles Commission for Research in Econometrics", основанной в 1932 г.). Иногда стандарт распространяется наряду с популярным учебником (а во многих случаях такие учебники в принципе конституируют определенные направления исследований). Эти два метода формирования консенсуса эффективны в основном на ранней стадии развития отрасли знаний. Конечно, консенсус неизбежен при работе достаточно больших групп исследователей в рамках общих проектов, где все участники вынуждены договариваться между собой об общих принципах (правда, в современной мировой академической экономике, в отличие от прикладных исследований, такие большие коллективы все же пока остаются исключением, хотя именно с ним иногда связывают наиболее перспективные направления развития научного сообщества27).

Важнейшим фактором формирования и поддержания консенсуса является, однако же, структура рынка труда. Как в "глобальном" научном сообществе в области экономической науки, так и в пока еще сохраняющихся полуавтономных научных сообществах отдельных стран Европы, найм экономистов происходит в условиях достаточно жесткой конкуренции на открытом рынке труда. Лишь в очень редких случаях карьера конкретного исследователя проходит в стенах одного-единственного университета. Эта норма поддерживается по-разному; в Германии она закреплена законом, запрещающим брать на работу собственных аспирантов; в США основана скорее на общей высокой мобильности населения и на острой конкуренции частных университетов. Но в любом случае судьба конкретного экономиста зависит не столько от мнения руководства кафедры или коллег по факультету, сколько от его способности добиться успеха на национальном (или даже мировом) рынке. Стандартным случаем является конкурс на позицию, в котором принимают участие сотни или даже тысячи соискателей28.


26 См.: Либман А. М. Экономическая теория и социальные науки об экономике: некоторые направления развития. М.: Институт экономики, 2007.

27 Эта точка зрения приводится, например, в: Полтерович В. М. Кризис экономической теории // Экономическая наука современной России. 1998. N 1. С. 63.

28 См., например: Holmes J., Colander D. The Hiring of an Economist: A Case Study // American Economist. 2007. Vol. 51, No 1. P. 54 - 62.

стр. 15

Соответственно возникает необходимость в четко отлаженной системе сигналов, свидетельствующих об исследовательских качествах экономиста (этим объясняется, например, значимость публикаций в рецензируемых журналах как легко наблюдаемого и общепризнанного критерия успеха в мировом научном сообществе). А эта система сигналов не может функционировать без консенсуса в сфере "основ" дисциплины, в том числе взаимодействия теории и эмпирики.

Конечно, такой консенсус относительно "допустимых" переходов между эконометрическими и теоретическими исследованиями формируется и в современной экономической науке. Во-первых, консенсус возникает как "равновесие" между четырьмя факторами: сложностью реального мира и связанной с ней необходимостью осуществлять значительные инвестиции в данные; сложностью экономических моделей, сложностью моделей теоретической эконометрики29 и ограниченными ресурсами конкретного исследователя, а также необходимостью поддерживать исследования "на ходу". Например, во многих случаях возникает конфликт между инвестициями "в данные" и "в методологию", который может быть решен в пользу первых или вторых - в зависимости от формата консенсуса.

Во-вторых, консенсус может различаться в зависимости от предметных отраслей экономических исследований (скажем, "договоренность" исследователей в сфере общественных финансов может отличаться от "договоренности" в области отраслевых рынков). К тому же представления об этом консенсусе у эконометристов-теоретиков и у прикладных эконометристов, как мы уже говорили ранее, а также у академических и внеакадемических исследователей30 сильно различаются. Наконец, похоже, все еще сохраняется специфика консенсуса в отдельных университетах или регионах, хотя глобальная миграция кадров и все большая динамичность рынка труда быстро "вымывает" эти "островки" автономных конвенций.

В-третьих, консенсус часто носит имплицитный характер, формируясь за счет организации системы подготовки экономистов-исследователей. Иногда сами исследователи не удовлетворены особенностями возникшего консенсуса. Характеристики консенсуса могут зависеть от моды (не секрет, что в отдельные периоды те или иные методы оценки, скажем, "difference-in-difference" или "matching", приобретают огромную популярность, чтобы затем уступить место другим подходам) или пути развития (path dependence) субдисциплины или научного сообщества.

При этом самое важное, наверное, состоит в том, что структура консенсуса способна оказать влияние на поведение исследователей и выбираемые ими стратегии научной работы. Простейший пример - противоречие между чрезмерной "мягкостью" и "жесткостью" консенсуса. Чрезмерная мягкость (или множественность) консенсусов


29 Кстати, само понятие "сложности" в эконометрике и экономической теории не является тривиальным и может оказаться объектом консенсуса (например, идет ли речь о математической сложности; ограничении числа рассматриваемых эффектов или о других аспектах). См.: Hayo B. Simplicity in Econometric Modeling: Some Methodological Considerations // Journal of Economic Methodology. 1998. Vol. 5, No 2. P. 247 - 261.

30 Sowey E. R. The Value of Econometrics to Economists in Business and Government: A Study of the State of the Discipline // Journal of Applied Mathematics and Decision Science. 2002. Vol. 6, No 2. P. 101 - 127.

стр. 16

ведет к постоянным дискуссиям о методологии и предпосылках, отвлекающих внимание от содержательной стороны исследований. К тому же в такой ситуации ослабевает "формальная" сторона оценки эконометрических результатов и усиливается роль "риторической" компоненты работ, которые должны быть убедительными для слушателей и читателей (нередко сталкивающихся с "винегретом" оценок и подходов, среди которых автор выбирает предпочтительный). Множественность консенсуса создает обширные возможности для "игры" с данными, методами оценки, спецификациями и другими параметрами с целью получения результатов, желательных с точки зрения теории (проблема "data mining", или поиска способов статистической или эконометрической обработки пакета данных для достижения результатов, соответствующих определенным критериям, входит в число наиболее дискуссионных в современной эконометрической методологии)31. Инвестиции в данные доминируют над инвестициями в методологию, приводя в предельном случае к злоупотреблению возможностями программного обеспечения без четкого понимания заложенных в нем принципов.

Чрезмерная жесткость и догматичность консенсуса также не лишены недостатков. Прежде всего автоматически исключаются из рассмотрения многие темы, содержание которых представляет интерес, но исследование с помощью существующей методологии невозможно или затруднительно. С этой точки зрения особенный интерес представляет подмеченный Т. Эггертссоном процесс вытеснения "хороших плохих факультетов" "плохими хорошими факультетами" в США и в Европе32. Если "хорошие плохие факультеты" специализируются на менее "привлекательных" отраслях экономической науки, но добиваются при этом важных результатов в этих сферах, то "плохие хорошие факультеты" ориентированы на исследования в привлекательных "престижных" областях, но при этом значительно слабее факультетов-лидеров в этой области. Сам по себе факт вытеснения "хороших плохих факультетов" может являться следствием жесткости консенсуса; но и формирование все более однородного научного сообщества ведет к "вытеснению" многих тем. В условиях жесткого консенсуса инвестиции в методологию доминируют над инвестициями в данные, что также выносит многие интересные темы за рамки исследований и сводит эмпирику к экспериментированию с помощью новых методов оценки с одними и теми же данными. Наконец, вполне возможно возникновение своеобразного антипода "data mining": получив определенные эмпирические результаты, эконометрист задним числом "приписывает" к ним теорию и гипотезы; но тогда непонятно, что именно, собственно говоря, предполагается тестировать в эмпирическом исследовании.

При этом, конечно, грань "жесткости" также является условной. Даже в том случае, когда существует консенсус относительно фундаментальных вопросов, часто остается достаточное пространство для интерпретации необходимости тех или иных тестов, более "мягкого"


31 Подборка статей по данной тематике приводится в: Journal of Economic Methodology. 2000. Vol. 7, No 2.

32 См.: Eggertsson T. On the Economics of Economics // Kyklos. 1995. Vol. 48, No 2. P. 201 - 210.

стр. 17

или "жесткого" подхода к результатам анализа (скажем, интерпретация незначимых коэффициентов с соответствующим теории знаком, отношение к фиксированным эффектам, проверка нормальности распределения ошибок и др.). Можно говорить скорее лишь о более или менее жестком консенсусе.

В некоторых случаях выявление условий консенсуса само требует эмпирических исследований. Классическим примером методологии, применимой в данной области, можно считать технику метарегрессионного анализа (MRA), пришедшую в экономическую науку из медицины и биологии. Суть MRA состоит в применении эконометрических методов к выборке, составленной из результатов (например, оценок коэффициентов или t-статистик) эконометрических работ (как правило, каждая регрессия рассматривается как одно наблюдение)33. Исходно MRA в экономике формировался как своеобразный "научный литобзор", придающий большую четкость этому звену научной работы (хотя с тем, в какой степени MRA справляется с основной задачей литобзора - выявлением слабых мест и направлений исследований, - можно спорить). MRA может служить источником инноваций в эконометрике: скажем, наблюдение о наличии связи между числом регрессоров и величиной выборки в регрессиях заработной платы стало одним из источников мотивации развития методологии, призванной решать данную проблему34.

Однако для нас самым важным является применимость MRA как метода выявления особенностей консенсуса в конкретных отраслях научного сообщества, более эффективного, чем, например, опросы исследователей. Именно в этой области достигнут наиболее устойчивый результат анализа - так называемое "смещение публикаций" (publication bias). Как правило, в "сильных" журналах публикуются работы, в которых устанавливается та или иная значимая зависимость, а не работы, в которых значимая зависимость не была найдена. "Смещение" не препятствует сравнительной оценке качества отдельных теорий, но в какой-то степени затрудняет серьезный пересмотр всего комплекса теоретических моделей, существующих в той или иной дисциплине. Можно сказать, что теория получает от эконометрики слишком оптимистичную картину самой себя. Помимо этого, смещение


33 Обзор методологии MRA приводится в подборке статей, опубликованных в: Journal of Economic Surveys. 2005. Vol. 19, No 3 и в монографии: Roberts C., Stanley T. D. Meta-Regression Analysis: Issues of Publication Bias in Economics. Oxford: Blackwell, 2005. Примерами использования этой методологии можно считать: Rose A. K., Stanley T. D. A Meta-Analysis of the Effect of Common Currencies on International Trade. Mimeo, 2004; Clar M., Dreger Ch., Ramos R. Wage Flexibility and Labor Market Institutions: A Meta-Analysis // IZA Discussion Paper No 2581, January 2007; Gorg H., Strobl E. Multinational Companies and Productivity Spillovers: A Meta-Analysis with a Test for Publication Bias // GLM Research Paper No 17, 2000; Weichselbaumer D., Winter-Ebmer R. A Meta-Analysis of the International Gender Wage Gap // IZA Discussion Paper No 906, October 2003; Feld L. P., Baskaran T., Schnellenbach J. The Growth Effects of Fiscal Decentralization: A Meta-Analysis. Mimeo, 2007; Doucouliagos C., Ulubasoglu M. A. Economic Freedom and Economic Growth: Does Specification Make a Difference? // European Journal of Political Economy. 2006. Vol. 22, No 1. P. 60 - 81; Stanley T. D., Doucouliagos C. Publication Bias in Minimum-Wage Research? Kard and Crueger Redux. Mimeo, 2006.

34 См., например: Huang J., Horowitz J. L., Ma S. Asymptotic Properties of Bridge Estimators in Sparse High-Dimensional Regression Models. Mimeo, 2007.

стр. 18

оказывает различное воздействие на различные работы: скажем, оно требует, чтобы эффекты в работах с небольшой выборкой были большими по модулю. Еще более серьезные выводы могут быть получены при Байесовой интерпретации35.

"Смещение" было выявлено в большинстве исследовательских областей в экономической науке. Насколько можно судить, аналогичные явления наблюдаются и в других науках, скажем, в политологии36, социологии и деловом администрировании37. При этом иногда за пределами смещения все же сохраняется значимый эффект, но часто этот эффект в опубликованных результатах целиком объясняется смещением. Едва ли можно было бы найти исследователя, поддерживающего подобные тенденции в экономической науке; однако консенсус, основанный на имплицитном соглашении, продолжает функционировать.

Конечно, развитие и использование MRA представляет собой существенную инновацию в эконометрике. Проблема в том, что адаптация техники MRA к экономическим проблемам сама требует формирования нового консенсуса (своеобразного консенсуса для методов изучения консенсуса), а он пока находится лишь в стадии обсуждения. Классическим примером споров является требование "независимости выборки" во включенных в MRA работах, крайне жесткое в биологии, но едва ли соблюдающееся в экономике. Наконец, развитие MRA также определяет стимулы для экономистов. Если традиционный литобзор, очевидно, не может стать постоянной специализацией для исследователя, то MRA уже может занять эту нишу, тем самым несколько ослабляя внимание к работе с "первичным" материалом.

* * *

Подводя итог, можно сказать, что коммуникация эконометрических эмпирических исследований и теоретического моделирования все еще сталкивается с серьезными проблемами. Эти проблемы, на наш взгляд, не являются признаком кризиса дисциплины; речь идет скорее о болезнях роста, вызванных невероятным расцветом эконометрических исследований в последние годы. Тем не менее способность научного сообщества к решению проблем коммуникации является ключевым фактором развития экономической теории. Прежде всего это касается свойств консенсуса в отношении формата коммуникации, формирующегося в рамках рассматриваемой дисциплины. Во многом успех эмпирического поворота в современной экономической науке и успех экономической профессии в целом зависят от того, какой именно консенсус (в том числе в отношении конкуренции методологий) удастся сформировать экономистам.


35 См.: DeLong J. B., Lang K. Op. cit.

36 Gerber A. S., Green D. P., Nickerson D. Testing for Publication Bias in Political Science // Political Analysis. 2001. Vol. 9, No 4.

37 Hubbart R., Armstong J. S. Publication Bias Against Null Results // Psychological Research. 1997. Vol. 80. P. 337 - 338.


© libmonster.ru

Постоянный адрес данной публикации:

https://libmonster.ru/m/articles/view/ТЕОРЕТИЧЕСКИЕ-И-ЭМПИРИЧЕСКИЕ-ИССЛЕДОВАНИЯ-В-СОВРЕМЕННОЙ-ЭКОНОМИКЕ-ПРОБЛЕМЫ-КОММУНИКАЦИИ

Похожие публикации: LРоссия LWorld Y G


Публикатор:

Marta KazakovaКонтакты и другие материалы (статьи, фото, файлы и пр.)

Официальная страница автора на Либмонстре: https://libmonster.ru/Kazakova

Искать материалы публикатора в системах: Либмонстр (весь мир)GoogleYandex

Постоянная ссылка для научных работ (для цитирования):

А. ЛИБМАН, ТЕОРЕТИЧЕСКИЕ И ЭМПИРИЧЕСКИЕ ИССЛЕДОВАНИЯ В СОВРЕМЕННОЙ ЭКОНОМИКЕ: ПРОБЛЕМЫ КОММУНИКАЦИИ // Москва: Либмонстр Россия (LIBMONSTER.RU). Дата обновления: 17.09.2015. URL: https://libmonster.ru/m/articles/view/ТЕОРЕТИЧЕСКИЕ-И-ЭМПИРИЧЕСКИЕ-ИССЛЕДОВАНИЯ-В-СОВРЕМЕННОЙ-ЭКОНОМИКЕ-ПРОБЛЕМЫ-КОММУНИКАЦИИ (дата обращения: 25.04.2024).

Найденный поисковым роботом источник:


Автор(ы) публикации - А. ЛИБМАН:

А. ЛИБМАН → другие работы, поиск: Либмонстр - РоссияЛибмонстр - мирGoogleYandex

Комментарии:



Рецензии авторов-профессионалов
Сортировка: 
Показывать по: 
 
  • Комментариев пока нет
Похожие темы
Публикатор
Marta Kazakova
Улан-Удэ, Россия
1594 просмотров рейтинг
17.09.2015 (3143 дней(я) назад)
0 подписчиков
Рейтинг
0 голос(а,ов)
Похожие статьи
Стихи, пейзажная лирика, дискотека 90х
Каталог: Разное 
55 минут назад · от Денис Николайчиков
ОНИ ЗАЩИЩАЛИ НЕБО ВЬЕТНАМА
Каталог: Военное дело 
2 дней(я) назад · от Россия Онлайн
КНР: ВОЗРОЖДЕНИЕ И ПОДЪЕМ ЧАСТНОГО ПРЕДПРИНИМАТЕЛЬСТВА
Каталог: Экономика 
2 дней(я) назад · от Россия Онлайн
КИТАЙСКО-САУДОВСКИЕ ОТНОШЕНИЯ (КОНЕЦ XX - НАЧАЛО XXI вв.)
Каталог: Право 
3 дней(я) назад · от Вадим Казаков
КИТАЙСКО-АФРИКАНСКИЕ ОТНОШЕНИЯ: УСКОРЕНИЕ РАЗВИТИЯ
Каталог: Экономика 
5 дней(я) назад · от Вадим Казаков
КИТАЙСКИЙ КАПИТАЛ НА РЫНКАХ АФРИКИ
Каталог: Экономика 
7 дней(я) назад · от Вадим Казаков
КИТАЙ. РЕШЕНИЕ СОЦИАЛЬНЫХ ПРОБЛЕМ В УСЛОВИЯХ РЕФОРМ И КРИЗИСА
Каталог: Социология 
7 дней(я) назад · от Вадим Казаков
КИТАЙ: РЕГУЛИРОВАНИЕ ЭМИГРАЦИОННОГО ПРОЦЕССА
Каталог: Экономика 
9 дней(я) назад · от Вадим Казаков
China. WOMEN'S EQUALITY AND THE ONE-CHILD POLICY
Каталог: Лайфстайл 
9 дней(я) назад · от Вадим Казаков
КИТАЙ. ПРОБЛЕМЫ УРЕГУЛИРОВАНИЯ ЭКОНОМИЧЕСКОЙ СТРУКТУРЫ
Каталог: Экономика 
9 дней(я) назад · от Вадим Казаков

Новые публикации:

Популярные у читателей:

Новинки из других стран:

LIBMONSTER.RU - Цифровая библиотека России

Создайте свою авторскую коллекцию статей, книг, авторских работ, биографий, фотодокументов, файлов. Сохраните навсегда своё авторское Наследие в цифровом виде. Нажмите сюда, чтобы зарегистрироваться в качестве автора.
Партнёры библиотеки
ТЕОРЕТИЧЕСКИЕ И ЭМПИРИЧЕСКИЕ ИССЛЕДОВАНИЯ В СОВРЕМЕННОЙ ЭКОНОМИКЕ: ПРОБЛЕМЫ КОММУНИКАЦИИ
 

Контакты редакции
Чат авторов: RU LIVE: Мы в соцсетях:

О проекте · Новости · Реклама

Либмонстр Россия ® Все права защищены.
2014-2024, LIBMONSTER.RU - составная часть международной библиотечной сети Либмонстр (открыть карту)
Сохраняя наследие России


LIBMONSTER NETWORK ОДИН МИР - ОДНА БИБЛИОТЕКА

Россия Беларусь Украина Казахстан Молдова Таджикистан Эстония Россия-2 Беларусь-2
США-Великобритания Швеция Сербия

Создавайте и храните на Либмонстре свою авторскую коллекцию: статьи, книги, исследования. Либмонстр распространит Ваши труды по всему миру (через сеть филиалов, библиотеки-партнеры, поисковики, соцсети). Вы сможете делиться ссылкой на свой профиль с коллегами, учениками, читателями и другими заинтересованными лицами, чтобы ознакомить их со своим авторским наследием. После регистрации в Вашем распоряжении - более 100 инструментов для создания собственной авторской коллекции. Это бесплатно: так было, так есть и так будет всегда.

Скачать приложение для Android