прочитано
#блоги #ликбез

Толстая по объему книга, напечатанная серым шрифтом на желтоватой бумаге в 2024 году, оригинал которой вышел в 2020 г. Ее написал профессиональный психолог, отличающийся невероятной скрупулезностью – в книге практически нет ни одного абзаца, в котором не было бы одной или более ссылок на источник информации. В итоге примечания к тексту занимают 99 страниц очень мелкого шрифта, весьма утомительного для моих глаз. Тем не менее овчинка стоит выделки – книга важная и, безусловно, интересная для всех, кого волнует проблема фейка в науке и научных публикациях.

0 1

Главная тема книги четко обозначена в названии: разоблачение мошенничества, предвзятости, недобросовестности и хайпа в научных публикациях; а ее главная цель – борьба против проникновения в науку ложных идей и недостоверной информации. Книга состоит из трех частей: 

  • в первой Стюарт Ричи (СР) описывает, как должны работать наука и система научных публикаций и как они на самом деле работают; 

  • во второй он приводит примеры мошенничества, предвзятости, недобросовестности и хайпа; 

  • в третьей СР анализирует причины сложившейся ситуации и предлагает варианты выхода из нее.

Самое важное, на мой взгляд, в первой части – это так называемые «мертоновские нормы» – свод правил, сформулированный социологом Робертом Мертоном в 1942 году, которого добровольно придерживаются в своей работе ученые: 

  • универсализм – научное знание не зависит от того, кто его формулирует;

  • бескорыстность – ученые занимаются наукой не ради денег, или славы, или своих амбиций;

  • коллективизм – ученые делятся знаниями друг с другом;

  • организованный скептицизм – ничто не свято, никакое и ничье научное утверждение никогда не должно приниматься на веру.

Однако бурное развитие науки в 20-м, а затем и в 21-м веке показало, что далеко не все ученые соблюдают мертоновские нормы. Это выявилось в первую очередь в виде кризиса, который в книге «Наукообразная чушь» назван кризисом  воспроизводимости . Суть кризиса (глава 2, ч. 1) – результаты слишком многих исследований, описанных в публикациях, не удается воспроизвести, то есть повторить. 

Вот несколько цифр из второго параграфа первой главы:       

  • психология – около 50% результатов не удалось воспроизвести;

  • экономика – только 61% оказался воспроизводимым;

  • нейронаука – 10% результатов невоспроизводимы;

  • органическая химия – 7,5% невоспроизводимы. 

То же происходит в медицине, физике, химии, биологии и т.д. Даже такой выдающийся ученый, как Даниэль Канеман, в своей книге «Думай медленно… решай быстро» сослался на результаты, которые  позже оказались невоспроизводимыми  (проблема  прайминга ).

Во второй части в главе 3 СР сначала последовательно описывает примеры выдающихся случаев мошенничества, например, публикацию в 2008 году Паоло Маккиарини в самом престижном медицинском журнале The Lancet об успешной трансплантации трахеи, причем разоблачение мошенника произошло только в 2015 году, поскольку и The Lancet, и другие высокорейтинговые журналы никак не хотели признавать собственные ошибки. 

Обсуждая далее вопрос о том, насколько мошенничество распространено в науке, автор обращает наше внимание на количественный показатель этой проблемы – число отозванных статей. «Отзыв для статьи – это бесповоротный бесславный конец, его даже называют «высшей мерой наказания в науке» (с. 90). СР рекомендует искать информацию об отозванных статьях на сайте Retraction Watch. Среди всех отозванных статей доля содержащих просто ошибки равна 40%. Остальные – это мошенничество (около 20%), повторное опубликование и плагиат. При этом 2% ученых ответственны за 25% всех отозванных работ. База данных Retraction Watch имеет список «лидеров», в котором на первом месте (на момент написания книги) находится анестезиолог Еситака Фудзии со 183 (!) отозванными статьями. Справедливости ради отметим, что в целом доля отозванных работ от общего числа публикаций равна 0,04%, что все-таки внушает определенные надежды. 

В четвертой главе этой же части автор обсуждает проблему предвзятости ученых. Основное внимание здесь СР уделил публикационному смещению и p-хакингу. 

  • Публикационное смещение возникает из-за того, что практически все журналы охотно публикуют статьи, где что-то обнаружено, и отказываются публиковать работы с отрицательными результатами. В одном из специальных исследований этой проблемы было показано, что «вероятность оказаться опубликованными для положительных результатов на 44% превышала таковую для отрицательных» (с. 127). Вследствие этого научный мир видит неполную информацию о том, как устроен мир. 

  • Проблема p-хакинга, по сути, сводится к неправильному истолкованию смысла так называемых р-значений и/или к их подтасовке. Ученые идут на это, поскольку критерий p < 0,05 стал фактически главным условием для того, чтобы статья была опубликована. Отсюда многочисленные способы поиграть данными с целью добиться выполнения этого неравенства. 

Примеры недобросовестности (глава 5) и хайпа (глава 6) также описаны подробно с именами и фамилиями соответствующих персонажей.

Но самая важная часть книги (на мой взгляд) – анализ причин кризиса воспроизводимости (глава 7) и предложения по борьбе с этим злом (глава 8).  

Итак, первопричина – система оценивания, поощрения и финансирования труда ученых и научных организаций. 

Как следует из закона Гудхарта – «Когда мера становится целью, она перестает быть хорошей мерой», – система создает порочные стимулы, которые поощряют дутые, а иногда и бессмысленные рейтинги и погоню за количеством в ущерб качеству

При этом СР подробно обсуждает тот факт, что попытки противостоять вредным аспектам системы, например, введение  индекса Хирша  для оценивания работы ученых и  импакт-фактора  для оценивания журналов, помогают лишь частично. И тот, и другой показатель поддаются искусственному раздуванию нечестными приемами.  

Что же предлагается в виде лекарства? В силу ограниченности объема данной заметки я лишь перечислю описанные в восьмой главе меры, отсылая читателя за разъяснениями к источнику:

  • публичное осуждение и публикация имен тех, кого уличили в недобросовестности;

  • расследование случаев нарушения мертоновских норм независимыми структурами; 

  • разработка эффективных алгоритмов выявления поддельных и фальсифицированных данных в научных статьях;

  • написание рутинных научных статей искусственным интеллектом;

  • создание журналов, специализирующихся на публикации отрицательных результатов;

  • отказ от использования идеи статистической значимости;

  • проведение анализа данных не теми, кто разработал и провел эксперимент, а независимыми специалистами;

  • процедура предварительной регистрации предстоящего исследования;

  • открытый доступ к каждому этапу любого исследования;

  • широкое распространение практики выпуска препринтов;

  • финансирование собственно ученых, а не их проектов;

  • распределение финансирования заявок на гранты с помощью жеребьевки;

  • введение в статьи в научных журналах обязательного раздела «ограничения исследования».

Книга заканчивается оптимистично: «Наука содержит в себе инструменты для самоизлечения… Речь идет о коренном изменении нашего способа проводить исследования и всей научной культуры».