Давным-давно, в далекой-далекой Индии…
Когда-то давно в колониальной Индии резко расплодились кобры. И британские чиновники решили это исправить. Искренне желая улучшить ситуацию, они стали выдавать награду за змеиные шкурки.
Добропорядочные граждане охотно включились в эксперимент. Они даже начали разводить кобр ради шкурок. А шкурки потом меняли на деньги. Работа закипела!
Прошло время, и обман раскрыли. Деньги давать перестали. Кобр посчитали. Оказалось, что популяция кобр не только не уменьшилась, а наоборот, увеличилась!
И змеи расплодились, и стало их еще больше, чем прежде…
Да что ж такое? Как так-то?
Хотели как лучше – получилось как обычно…
А это, друзья мои, явил миру свою уродливую голову закон Гудхарта:
Когда мера становится целью, она перестает хорошо измерять”.
Правда, названия этого закона тогда никто не знал. Потому что Гудхарт сформулировал его гораздо позже, в 1975 г.
Сам Чарльз Гудхарт был экономистом, профессором Лондонской школы экономики, и главным советником по денежно-кредитной политике Банка Англии. Он изучал денежную политику и экономику Великобритании, и давал советы, как снизить инфляцию и вырастить ВВП.
И однажды он заметил странное — когда Центральные банки пытаются контролировать инфляцию, ориентируясь на конкретные экономические показатели, эти показатели теряют свою эффективность в качестве истинного отражения состояния экономики.
В 1975 г. в статье “Проблемы монетарного управления: Опыт Великобритании” (“Problems of Monetary Management: The U.K. Experience”) он сформулировал, полу-шутя:
“любая наблюдаемая статистическая закономерность склонна к разрушению, как только на неё оказывается давление с целью управления”.
“Any observed statistical regularity will tend to collapse once pressure is placed upon it for control purposes.”
Написал и написал. Все посмеялись. Шутка удалась…
И про нее все забыли, да? Конечно же, нет! Фраза запомнилась, поразила своей мудростью, и ушла в народ.
Так Чарльз Гудхарт, экономист и джентльмен, вошел в историю не своими трудами на ниве экономики — а как открыватель нового закона.
Небольшое лирическое отступление
Так бывает — человек всю жизнь трудится над чем-то серьезным и важным — и между делом создаст что-то легкое и смешное, для отдыха мозгам. И потом история помнит его только за это.
- Так Льюис Кэрролл — знаменит не трудами по математической логике, а “Алисой в Стране Чудес”.
- Создатель Винни-Пуха Алан Милн — не пьесами и романами, а “детскими книгами” про Винни-Пуха. Обижался очень, да.
- Или сэр Артур Конан-Дойль — этот Шерлок Холмс буквально достал его, достал! Он даже убить его пытался. Рейхенбахский водопад, вот это вот все… Но пришлось воскресить. Фанаты — страшная сила, особенно британские. Никто и не вспоминает сейчас про серьезные романы сэр Артура — все любят его “несерьезные рассказы”.
Добрые намерения, неожиданные последствия: Примеры из жизни
Да их тут сотни!
Люди увидели Истину, и не смогли ее развидеть. Они начали находить примеры везде, в любой области — в экономике и политике, военном деле и здравоохранении, работе чатов поддержки и достижении личных целей.
1. А давайте увеличим процент успешных операций?
Несколько десятилетий назад больницы начали измерять процент успешных операций. Полезная информация, и хороший показатель. Правильно? Конечно. НО… хирурги начали отказываться от сложных и рискованных операций, чтобы повысить свой рейтинг.
2. А давайте снизим процент тяжких преступлений?
Можно оценивать работу полиции по количеству уголовных дел, произошедших в районе. Разумно — это ж очень важный показатель!
Полицейские берут под козырек… и некоторые тяжкие преступления начинают записывать как мелкие правонарушения.
Количество уголовных дел снижается — рейтинг участка идет вверх! Профит! Премия за месяц в кармане) А там, глядишь, и за квартал.
Мнение жителей — ну… тоже важно, но премия почему-то важнее.
3. А давайте измерять продуктивность сотрудника на удаленке?
Мой любимый :)
Давайте будем считать количество движений мышки? Гениальный ход! И скоро появятся спец.устройства, которые будут автоматически двигать мышку!
Закон жизни – тайна веков
Это не значит, что это плохо. Люди видят цель — и идут к ней максимально коротким путем. Если есть система вознаграждений и наказаний — они оптимизируют свои действия, чтобы получить максимум.
Если вознаграждение зависит от количества проданных автомобилей, то выгодно продать больше автомобилей. Даже с убытком. Если главная оценка — средний балл на тестах, выгодно фокусироваться на подготовке к тестам, а не глубоком понимании предмета. Если выдавать ипотеку, полагаясь только на сложные математические модели риска, можно создать иллюзию стабильности, и вызвать глобальный финансовый кризис. Как в 2008 году.
Как выжить в мире манипуляций: Практическое руководство
Бластер — это оружие, которое может стрелять в обе стороны.
1. Предупрежден — значит вооружен
Во-первых — не стесняйтесь видеть закон Гудхарта там, где он есть. Бывает так — непонятно, что происходит? Почему все кругом такие — альтернативно одаренные? А потому что каждый на своем месте пытается достичь нужных показателей.
Чтобы попасть на Северный Полюс – измеряют прогресс рулеткой. И иногда промахиваются с направлением.
Теперь вы это знаете, и вам станет легче понять этот странный мир.
2. Профилактика в разы дешевле лечения
Планируете что-то ценное? Поставили четкие цели, записали критерии? Помните — закон Гудхарта появится из-за угла — гнусно ухмыльнется — и подправит ваши результаты.
Ваши сотрудники, клиенты и конкуренты – тоже будут им пользоваться – для их целей, не для ваших. Так что будьте готовы, и сделайте все, чтобы избежать осложнений.
3. Делай что должен, а что не должен — не делай
Используйте закон Гудхарта, чтобы достичь своих истинных целей, а не манипулируемых критериев.
- Четкие цели: Проясните основную цель, стоящую за метриками
- Устойчивые метрики: Создайте показатели, которыми сложнее манипулировать и которые тесно связаны с истинными целями.
- Обратная связь: Постоянно пересматривайте и корректируйте показатели, чтобы они вели к цели, а не виляли в сторону.
Как в шахматах: взять побольше фигур противника важно, но выиграть партию – гораздо важнее.
Итоги: Как закон Гудхарта меняет нашу игру
Наш мир полон манипуляций, и Закон Гудхарта напоминает, что за каждым числом скрывается реальность, которую не сразу видно. Слепая вера в метрики может привести к непредсказуемым последствиям. Оставайтесь бдительными, помните о главном, и не позволяйте цифрам отвлекать вас от сути!
На посошок…
И что ж получается? Лучше не ставить простые количественные критерии, ведь переврут все? Не слишком ли широко Гудхарт замахнулся?
К счастью, не все так скучно! Не все метрики приводят не туда, куда нужно. Есть интересный эксперимент — о котором мы поговорим в следующем посте…
Скоро все будет)