Толстая по объему книга, напечатанная серым шрифтом на желтоватой бумаге в 2024 году, оригинал которой вышел в 2020 г. Ее написал профессиональный психолог, отличающийся невероятной скрупулезностью – в книге практически нет ни одного абзаца, в котором не было бы одной или более ссылок на источник информации. В итоге примечания к тексту занимают 99 страниц очень мелкого шрифта, весьма утомительного для моих глаз. Тем не менее овчинка стоит выделки – книга важная и, безусловно, интересная для всех, кого волнует проблема фейка в науке и научных публикациях.


Главная тема книги четко обозначена в названии: разоблачение мошенничества, предвзятости, недобросовестности и хайпа в научных публикациях; а ее главная цель – борьба против проникновения в науку ложных идей и недостоверной информации. Книга состоит из трех частей:
-
в первой Стюарт Ричи (СР) описывает, как должны работать наука и система научных публикаций и как они на самом деле работают;
-
во второй он приводит примеры мошенничества, предвзятости, недобросовестности и хайпа;
-
в третьей СР анализирует причины сложившейся ситуации и предлагает варианты выхода из нее.
Самое важное, на мой взгляд, в первой части – это так называемые «мертоновские нормы» – свод правил, сформулированный социологом Робертом Мертоном в 1942 году, которого добровольно придерживаются в своей работе ученые:
-
универсализм – научное знание не зависит от того, кто его формулирует;
-
бескорыстность – ученые занимаются наукой не ради денег, или славы, или своих амбиций;
-
коллективизм – ученые делятся знаниями друг с другом;
-
организованный скептицизм – ничто не свято, никакое и ничье научное утверждение никогда не должно приниматься на веру.
Однако бурное развитие науки в 20-м, а затем и в 21-м веке показало, что далеко не все ученые соблюдают мертоновские нормы. Это выявилось в первую очередь в виде кризиса, который в книге «Наукообразная чушь» назван кризисом воспроизводимости . Суть кризиса (глава 2, ч. 1) – результаты слишком многих исследований, описанных в публикациях, не удается воспроизвести, то есть повторить.
Вот несколько цифр из второго параграфа первой главы:
-
психология – около 50% результатов не удалось воспроизвести;
-
экономика – только 61% оказался воспроизводимым;
-
нейронаука – 10% результатов невоспроизводимы;
-
органическая химия – 7,5% невоспроизводимы.
То же происходит в медицине, физике, химии, биологии и т.д. Даже такой выдающийся ученый, как Даниэль Канеман, в своей книге «Думай медленно… решай быстро» сослался на результаты, которые позже оказались невоспроизводимыми (проблема прайминга ).
Во второй части в главе 3 СР сначала последовательно описывает примеры выдающихся случаев мошенничества, например, публикацию в 2008 году Паоло Маккиарини в самом престижном медицинском журнале The Lancet об успешной трансплантации трахеи, причем разоблачение мошенника произошло только в 2015 году, поскольку и The Lancet, и другие высокорейтинговые журналы никак не хотели признавать собственные ошибки.
Обсуждая далее вопрос о том, насколько мошенничество распространено в науке, автор обращает наше внимание на количественный показатель этой проблемы – число отозванных статей. «Отзыв для статьи – это бесповоротный бесславный конец, его даже называют «высшей мерой наказания в науке» (с. 90). СР рекомендует искать информацию об отозванных статьях на сайте Retraction Watch. Среди всех отозванных статей доля содержащих просто ошибки равна 40%. Остальные – это мошенничество (около 20%), повторное опубликование и плагиат. При этом 2% ученых ответственны за 25% всех отозванных работ. База данных Retraction Watch имеет список «лидеров», в котором на первом месте (на момент написания книги) находится анестезиолог Еситака Фудзии со 183 (!) отозванными статьями. Справедливости ради отметим, что в целом доля отозванных работ от общего числа публикаций равна 0,04%, что все-таки внушает определенные надежды.
В четвертой главе этой же части автор обсуждает проблему предвзятости ученых. Основное внимание здесь СР уделил публикационному смещению и p-хакингу.
-
Публикационное смещение возникает из-за того, что практически все журналы охотно публикуют статьи, где что-то обнаружено, и отказываются публиковать работы с отрицательными результатами. В одном из специальных исследований этой проблемы было показано, что «вероятность оказаться опубликованными для положительных результатов на 44% превышала таковую для отрицательных» (с. 127). Вследствие этого научный мир видит неполную информацию о том, как устроен мир.
-
Проблема p-хакинга, по сути, сводится к неправильному истолкованию смысла так называемых р-значений и/или к их подтасовке. Ученые идут на это, поскольку критерий p < 0,05 стал фактически главным условием для того, чтобы статья была опубликована. Отсюда многочисленные способы поиграть данными с целью добиться выполнения этого неравенства.
Примеры недобросовестности (глава 5) и хайпа (глава 6) также описаны подробно с именами и фамилиями соответствующих персонажей.
Но самая важная часть книги (на мой взгляд) – анализ причин кризиса воспроизводимости (глава 7) и предложения по борьбе с этим злом (глава 8).
Итак, первопричина – система оценивания, поощрения и финансирования труда ученых и научных организаций.
При этом СР подробно обсуждает тот факт, что попытки противостоять вредным аспектам системы, например, введение индекса Хирша для оценивания работы ученых и импакт-фактора для оценивания журналов, помогают лишь частично. И тот, и другой показатель поддаются искусственному раздуванию нечестными приемами.
Что же предлагается в виде лекарства? В силу ограниченности объема данной заметки я лишь перечислю описанные в восьмой главе меры, отсылая читателя за разъяснениями к источнику:
-
публичное осуждение и публикация имен тех, кого уличили в недобросовестности;
-
расследование случаев нарушения мертоновских норм независимыми структурами;
-
разработка эффективных алгоритмов выявления поддельных и фальсифицированных данных в научных статьях;
-
написание рутинных научных статей искусственным интеллектом;
-
создание журналов, специализирующихся на публикации отрицательных результатов;
-
отказ от использования идеи статистической значимости;
-
проведение анализа данных не теми, кто разработал и провел эксперимент, а независимыми специалистами;
-
процедура предварительной регистрации предстоящего исследования;
-
открытый доступ к каждому этапу любого исследования;
-
широкое распространение практики выпуска препринтов;
-
финансирование собственно ученых, а не их проектов;
-
распределение финансирования заявок на гранты с помощью жеребьевки;
-
введение в статьи в научных журналах обязательного раздела «ограничения исследования».
Книга заканчивается оптимистично: «Наука содержит в себе инструменты для самоизлечения… Речь идет о коренном изменении нашего способа проводить исследования и всей научной культуры».