О нейрослопе в текстах, проверках на содержательность и инженерном подходе к неинженерным задачам
Подкаст make sense (Есть смысл)Show Notes
«Содержательность — это когда текст несёт какой-то смысл. Для меня это значит, что, прочитав этот текст, можно ответить на вопрос: а зачем этот текст вообще существует? Чем его существование поможет тому, кто его читает?»
«Это проблема LLM: имея возможность искать в интернете, вытаскивать из весов нужные токены, они могут цитировать заблуждение. Когда ты занимаешься чем-то 8, 9, 10 лет, ты знаешь, что это заблуждение. Но оно настолько широко распространённое, что выглядит как правда.»
Ведущий: Степан Поздняков, продюсер ProductSense
Гость: Юра Агеев, основатель ProductSense
Записи докладов ProductSense'26, кейсы и практики — в Академии ProductSense: https://academy.productsense.io/
Подписывайтесь на канал анонсов подкаста: https://t.me/mspodcast
О чем говорим: 00:00 — Введение 01:25 — Даже подводку в два предложения LLM не может написать человеческим языком 04:46 — Как распознать слоп: стилистический и смысловой 06:19 — Почему нейрослоп неизбежен? 10:14 — Через призму каких характеристик мы смотрим на текст? 12:31 — Чем экспертность отличается от содержательности 14:02 — Почему модели тиражируют распространённые заблуждения 15:45 — Рубленые фразы и почерк двух моделей в одном тексте 18:05 — Команда «Пиши как Пушкин» решает 80% задачи стиля 19:57 — Стилизация ответов модели под себя 22:28 — В какой момент нужны редполитика и скиллы? 24:19 — Пайплайны проверок разными моделями 26:42 — Экспертность через гипотезы и попытки их опровергнуть 28:52 — Почему смысл важнее экспертности 31:46 — Инженерный подход: декомпозиция текста на шаги для Claude 33:35 — Почему LLM хорошо пишут код и причем тут код-ревью 36:04 — Как применить инженерный подход к смыслу текста 38:21 — Проверка смысла второй моделью в режиме «душнилы» 41:04 — Процесс целиком: экспертность, смысл, стиль
Словарик: — LLM (Large Language Model) — большая языковая модель: ChatGPT, Claude и другие — Нейрослоп — шаблонный текст нейросети, который выглядит убедительно, но почти не несёт смысла — Пайплайн — последовательность заданных этапов обработки и проверки, через которую проходит текст или задача
More from Подкаст make sense (Есть смысл)
«В какой-то момент можно принять решение не привлекать больше, а вовлекать лучше, сделать свою аудиторию более активной внутри продукта. В "красном океане" гораздо эффективнее работать со своей аудиторией и вовлекать ее в прдуктовые сценарии»
«У аудитории уже есть устойчивые ожидания от видеопродукта, они знакомы с разными платформами и сравнивают свой опыт. Поэтому важно постоянно учитывать эти ожидания и проверять, насколько сервис им соответствует.»
«Проблема качественного анализа в том, что, чтобы проверить его от и до за моделью, тебе придётся повторить этот анализ. Весь этот выигрыш скорости сводит на нет то, что она может где-то лажать.»
«Ключевым образом я увидела, что магии не существует. Тот уровень развития инструментов, который нам доступен, способен решать задачи быстрее. Но чтобы это дало долгосрочный эффект, нужно не просто внедрять ИИ, а перестраивать весь процесс целиком.»
«Хорошо выполнять задачу самому, хорошо получать результат через другого человека и хотеть управлять — это три разные вещи, которые могут совпасть в одном человеке, а могут и не совпасть.»