Баги мозга: закон Гудхарта — почему пятёрки убивают знания, а фитнес-браслет мешает похудеть

Суть бага

В 1975 году экономист Чарльз Гудхарт сформулировал принцип, который с тех пор воспроизводится везде — от корпораций до детских комнат:

«Когда мера становится целью, она перестаёт быть хорошей мерой»

Социолог Дональд Кэмпбелл пошёл дальше и описал, что происходит, когда показатели используются в системах с людьми:

«Чем чаще количественный показатель используется при принятии решений, тем сильнее он подвергается давлению и тем больше риск, что он будет искажать те процессы, за которыми призван следить»

Кэмпбелл заметил важную вещь: в системах с людьми показатель не просто перестаёт работать — он начинает провоцировать имитацию. Люди не игнорируют метрику. Они её взламывают. Именно это сделали программисты Amazon с токенами. Именно это делает ребёнок, который тараторит текст ради скорости чтения. Именно это делаем мы, когда трясём браслет на диване в 23:45.

Мозг — великолепная оптимизирующая машина. Дайте ему чёткую цифру — и он найдёт кратчайший путь к её достижению. Проблема в том, что кратчайший путь к показателю почти никогда не совпадает с путём к реальному результату. Мы хотим одного — получаем совершенно другое — и искренне удивляемся.

Ловушка фитнес-браслета: цифры против здоровья

Изначальная цель: стать здоровее, чувствовать себя бодрее.
Показатель: 10 000 шагов на часах, закрытые кольца активности, цифра на весах.

Знакомая картина: на часах 23:45, вы валитесь с ног от усталости — но наворачиваете круги по спальне (или просто трясёте рукой, лёжа на диване), чтобы часы провибрировали и выдали салют за закрытое кольцо. Стали ли вы здоровее от этих кругов вместо сна? Нет. Но мозг получил дозу дофамина от красивой цифры.

То же самое с весами. Не пить воду весь вечер и сходить в баню, чтобы утром увидеть заветный минус 1 кг — стали ли вы от этого здоровее? Весы показывают нужное. Смысл убит.

Попробуйте добавить рядом с измеримым критерием неизмеримый: не только «10 000 шагов», но и «чувствую лёгкость в теле». Неизмеримый критерий не даёт мозгу уйти в чистую охоту за цифрой.

Школьный баг: пятёрки против знаний

Изначальная цель: ребёнок получает знания и учится думать.
Показатель: пятёрка в дневнике, скорость чтения, количество прочитанных книг.

Дети усваивают закон Гудхарта быстрее взрослых. Вспомните технику чтения в начальной школе: ребёнок тараторит текст с секундомером, глотает окончания, получает «пятёрку» за 80 слов в минуту — и не может пересказать ни абзаца. Метрика выполнена. Смысл чтения уничтожен. А если хвалить за количество прочитанных книг на каникулах — ребёнок просто начинает выбирать самые тонкие книжки с огромным шрифтом.

Или домашнее задание: зубрит стихотворение за десять минут до урока, получает пятёрку, через час — абсолютная пустота в голове. (Кстати, о том, почему память вообще так легко нас обманывает — читайте в «Багах 2.0»). Это не лень и не обман. Это совершенно рациональная оптимизация под показатель.

Перестаньте спрашивать «Что ты сегодня получил?». Попробуйте: «Что самое интересное узнала?» или «Какая задача была сложнее всего?». Маленькая замена вопроса — большой сдвиг в том, что ребёнок считает важным.

Синдром чистой тарелки: съеденное против сытости

Изначальная цель: ребёнок получает питательные вещества и растёт здоровым.
Показатель: пустая тарелка.

«Умница, съел всё до последней ложечки!» — так мы часто хвалим малышей. Что в этот момент фиксирует детский мозг? Он учится есть до тех пор, пока не покажется дно тарелки, — а не до тех пор, пока не наступит сытость. Мы сами сбиваем детям природные настройки, подменяя реальную цель (насыщение) удобной и видимой метрикой (чистая посуда).

Уборка по-гудхартовски: чистый пол против порядка

Изначальная цель: жить в уютной комнате, где легко найти нужную вещь.
Показатель: визуально чистый пол к маминому приходу.

Каждая из нас знает, как выглядит детская уборка с жёстким KPI «чтобы через пять минут ничего не валялось». Носки, детали лего и огрызок яблока сгребаются в кучу и запихиваются под кровать. Пол чист. В шкафу открылся портал в ад, а нужную вещь найти стало ещё сложнее.

Но и мы сами так делаем: быстро раскладываем всё по ящикам перед приходом гостей — и потом неделю не можем найти нужный документ.

Вместо оценки «визуальной пустоты» попробуйте другой вопрос: «Ты сама знаешь, где всё лежит?» Это и есть настоящий порядок.

Почему мозг так делает

Выдыхаем — это не про лень и не про обман. Абстрактные цели («стать умнее», «стать здоровее») требуют огромных затрат энергии на обдумывание. А конкретная цифра — это чёткая задача с понятной наградой. Мозг всегда выберет кратчайший путь к цифре, чтобы получить одобрение — начальства, мамы или салют на экране часов — с минимальными усилиями.

Метрики — отличные инструменты, пока они остаются градусниками, а не самоцелью. Если градусник показывает температуру — мы лечим болезнь. Но если целью становится «нормальная температура на градуснике», мы просто прикладываем его к кубику льда и радуемся, игнорируя воспаление.

А что с детьми?

Этот баг передаётся. Ребёнок, которого хвалят за количество прочитанных книг, выбирает тонкие книги. Ребёнок, которому говорят «молодец, съел всю тарелку», учится есть до дна, а не до сытости. Ребёнок, которого спрашивают только про оценки, учится ради оценок. (О том, как еще мозг дурит нас в общении и восприятии, можно почитать в материале «Баги 3.0»).

Хорошая новость: этот баг можно обсуждать вместе — и это работает лучше любых нотаций. Расскажите ребёнку про программистов из Amazon. Это смешная и понятная история. И спросите: «А ты когда-нибудь делал что-то только ради галочки?» Дети отвечают честно — и сами начинают замечать подмену.

Выдыхаем

В следующий раз, когда поймаете себя за бессмысленным действием «ради галочки» или расстроитесь из-за цифры на весах — вспомните хитрых программистов из Amazon. Остановитесь, улыбнитесь и спросите себя: «А не приложила ли я сейчас градусник ко льду?»

И если сил на вечернюю тренировку нет — просто снимите браслет и ложитесь спать. Ваш организм скажет спасибо, даже без виртуального салюта на экране.