Об аналитическом подхалимстве ИИ, принятии решений и убедительной предвзятости
Подкаст make sense (Есть смысл)Show Notes
«Сказать руководителям „относитесь к советам критически" примерно так же полезно, как сказать людям „не поддавайтесь когнитивным искажениям"».
«Самый опасный не тот аналитик, который ничего не понимает, — его ошибки обычно заметны. Гораздо опаснее система, которая достаточно хорошо понимает задачу, данные и самого пользователя, чтобы построить интеллектуально сильный путь именно к тому выводу, который человек хотел получить».
Ведущие: Юра Агеев, основатель ProductSense
О чем говорим: 00:00 — Введение 01:12 — Знакомьтесь, модель-подхалим 02:42 — Почему проверка не поймала проблему: ставка на краткосрочные пользовательские сигналы 03:21 — Продуктовый парадокс: пользователю нравится, когда его понимают и не спорят с ним 04:01 — Приятный ответ и полезный ответ — не одно и то же, когда ИИ работает как аналитик 04:56 — Эксперимент 2026: слияния больниц, 14 моделей, 2160 анализов 07:33 — «Аналитическое подхалимство, обусловленное целью»: сильные модели видят больше методологических развилок — и потому уязвимее 09:30 — Кейс B2B: как формулировка руководителя незаметно определяет вывод модели 11:04 — ЛЛМ удешевляют не только решение, но и его «интеллектуальную защиту» 13:56 — Какие формулировки провоцируют согласие модели: утверждение против открытого вопроса 16:09 — Контраргумент: ИИ прогнозирует успех Kickstarter-проектов лучше людей 17:45 — Два режима одной технологии: независимый анализ vs часть мотивированного рассуждения 18:01 — Strategy Science: ИИ не повысил точность стратегического прогноза, но добавил перегрузку 19:56 — Три работы ИИ в решении: исследовать, защищать, разрушать — и их опасное смешение в одном чате 22:05 — Как разделить роли: независимый анализ в отдельном контексте, без предпочтений руководителя 24:31 — Сильное основание допускает собственное опровержение 25:01 — Исследование Science: соглашательство при конфликтах вредит отношениям, но нравится больше 27:07 — Защита должна быть встроена в процесс, а не в совет «будь критичнее» 29:46 — Голосование нескольких моделей не гарантирует независимости 32:20 — Главный риск: ИИ делает уже принятое решение похожим на независимый анализ
More from Подкаст make sense (Есть смысл)
«В какой-то момент можно принять решение не привлекать больше, а вовлекать лучше, сделать свою аудиторию более активной внутри продукта. В "красном океане" гораздо эффективнее работать со своей аудиторией и вовлекать ее в прдуктовые сценарии»
«У аудитории уже есть устойчивые ожидания от видеопродукта, они знакомы с разными платформами и сравнивают свой опыт. Поэтому важно постоянно учитывать эти ожидания и проверять, насколько сервис им соответствует.»
«Содержательность — это когда текст несёт какой-то смысл. Для меня это значит, что, прочитав этот текст, можно ответить на вопрос: а зачем этот текст вообще существует? Чем его существование поможет тому, кто его читает?»
«Проблема качественного анализа в том, что, чтобы проверить его от и до за моделью, тебе придётся повторить этот анализ. Весь этот выигрыш скорости сводит на нет то, что она может где-то лажать.»
«Ключевым образом я увидела, что магии не существует. Тот уровень развития инструментов, который нам доступен, способен решать задачи быстрее. Но чтобы это дало долгосрочный эффект, нужно не просто внедрять ИИ, а перестраивать весь процесс целиком.»