Методология · Диагностика

Бритва Оккама в диагностике: простое объяснение раньше зловещего

Продолжение темы из кейса про самозалечивающуюся сеть: устойчивая ошибка при разборе нештатной ситуации — выбирать драматичное объяснение вместо банального, даже когда факты ещё не собраны.

Три случая одной сессии

Ложная тревога три раза подряд — и три раза простое объяснение оказалось верным

В рамках одного инцидента подряд несколько раз поднималась тревога максимального уровня, и каждый раз побеждало не зловещее, а скучное объяснение.

«Данные повреждены»

Тревога: важная информация потеряна безвозвратно. На деле проверялась не та директория — реальные данные были целы.

«Похоже на атаку»

Тревога: файлы пропадают в реальном времени. На деле провайдер выполнял плановую очистку сервера по истёкшей вчера аренде — не атака.

«Резервной копии нет»

Тревога: единственный экземпляр данных под угрозой. Копии были — просто не самые свежие, на пару дней устаревшие.

Корень проблемы

Зловещее объяснение выбиралось там, где скучное было вероятнее

Общая тенденция — навешивать максимальный уровень тревожности на рутинные ситуации. Систематически выбиралось зловещее объяснение вместо банального именно там, где банальное было статистически куда вероятнее: истёкшая аренда сервера вероятнее атаки, ошибка в выбранной директории вероятнее потери данных, неактуальная резервная копия — это не то же самое, что полное отсутствие резервных копий.

Протокол

Четыре правила, которые держат порядок фактов

  1. Спросить о скучном первым Перед тем как объявлять «всё сломано» или «нас атаковали» — задать вопрос: какое самое скучное и приземлённое объяснение возможно в этой ситуации. Проверить его первым, до того как эскалировать тревогу.
  2. Критичность = доказанный факт Индикация уровня критичности — цветовая маркировка, формулировки «критично», «срочно» — должна отражать доказанный факт, а не эмоциональный фон момента. Нет подтверждённой угрозы — нет повышенного уровня тревоги.
  3. Сначала факт, потом интерпретация Порядок действий: сначала прямая проверка состояния системы, потом интерпретация. Не наоборот — нельзя сначала придумать диагноз, а потом подгонять факты под него.
  4. Тормозить скорость выводов, а не методологию Сама методология диагностики — проверка боем, снапшоты состояния, аккуратные пошаговые изменения с возможностью отката — может быть совершенно правильной. Подводит именно скорость выводов и эмоциональная окраска первой гипотезы.
Где это применимо

Не только про ИИ-агентов

Это применимо не только к ИИ-агентам, управляющим инфраструктурой, но и к любой диагностике инцидентов в продакшене: операторская паника обычно дороже самого инцидента.

Тот же принцип лежит в основе методологии диагностики VPN-инфраструктуры на этом сайте: «внешние блокировки» — удобная и почти всегда ложная гипотеза, потому что её нельзя проверить и на неё нельзя повлиять. Реальная причина обычно лежит в конкретном слое — сервер, конфиг, сеть, узел — который можно проверить напрямую. Тот же порядок работает и в узкой технической проверке: прежде чем объявлять адрес заблокированным, есть пятиминутный тест, который отличает зафлагованный IP от обычной ошибки конфигурации.

Частые вопросы

Частые вопросы про диагностику без паники

Значит ли это, что тревога при инцидентах всегда преувеличена?
Нет. Речь не про отрицание угроз, а про порядок действий: сначала прямая проверка состояния системы, потом интерпретация и уровень тревоги. Если факты после проверки подтвердят серьёзную причину — эскалация будет обоснованной, а не эмоциональной.
Почему скучное объяснение вообще вероятнее зловещего?
Потому что базовая вероятность на его стороне: истёкшая аренда сервера статистически вероятнее целенаправленной атаки, ошибка в выбранной директории — вероятнее потери данных, а неактуальная резервная копия — это не то же самое, что полное отсутствие резервных копий.
Как это применяется к ИИ-агенту, который сам управляет сетью?
Тем же образом: агент из кейса про самозалечивающуюся сеть сначала считывает логи и локализует причину по снапшоту состояния, и только потом действует — а не выбирает драматичный сценарий до того, как факты собраны.
Это относится только к работе с ИИ-агентами?
Нет, это применимо к любой диагностике инцидентов в продакшене, не только там, где инфраструктурой управляет ИИ. Операторская паника обычно дороже самого инцидента — независимо от того, кто ставит диагноз, человек или агент.

Стабильность строится на проверенных фактах, а не на панике

Тот же принцип — сначала факт, потом реакция — лежит и в основе сети VPN PRO. Получите ключ в Telegram и проверьте сами: 3 дня бесплатно, без карты.

Промокод VPN10 — 10 дней бесплатно · до 31 августа · передавайте друзьям