Суперинтеллект, эволюция и безопасность — Ивар ft. Роман Ямпольский | Мыслить как ученый #42
Мыслить как ученыйShow Notes
Искусственный интеллект развивается быстрее, чем общество успевает осмыслить последствия. То, что еще недавно казалось академической спекуляцией, сегодня обсуждается как реальный экзистенциальный риск. Гость выпуска — Роман Ямпольский, исследователь, который одним из первых ввел понятие AI safety и начал говорить о проблеме неконтролируемого суперинтеллекта задолго до массового интереса к ИИ.
В новом эпизоде подкаста "Мыслить как ученый" основатель ПостНауки Ивар Максутов с гостем обсуждают, почему научное сообщество долго относилось к ИИ скептически, как изменились прогнозы по достижению AGI, и почему сегодня эксперты все чаще говорят не о пользе, а о выживании. Возможен ли контроль над системой, превосходящей человека? Почему оптимизм и пессимизм в AI-сообществе радикально расходятся? И что означает рост разрыва между человеческим и машинным интеллектом? Этот эпизод — попытка трезво поговорить о будущем, в котором интеллект перестает быть исключительно человеческим свойством, а технологический прогресс становится источником не только возможностей, но и угроз.
Роман Ямпольский — доцент кафедры компьютерной инженерии и информатики в Университете Луисвилля (University of Louisville), США. Кандидат наук в области компьютерной инженерии, один из первых и наиболее авторитетных исследователей проблемы безопасности искусственного интеллекта. Ямпольский входит в 2% наиболее цитируемых исследователей мира по данным Scopus
More from Мыслить как ученый
Что происходит с человеческим общением, когда нашим постоянным собеседником становится чат-бот? Обсуждаем с культурологом Оксаной Мороз, как интернет, социальные сети и генеративный ИИ меняют коммуникацию и наши ожидания от других людей.
Что ученые могут узнать о Вселенной с помощью нейтрино и почему за создание нейтринного детектора IceCube присудили Нобелевскую премию по физике в 2026 году? Обсуждаем с Сергеем Поповым — астрофизиком, доктором физико-математических наук и постоянным автором ПостНауки.
Стандартная модель описывает почти всё, что мы наблюдаем в мире элементарных частиц. Чего в этой картине не хватает? Обсуждаем с доктором физико-математических наук, профессором Дмитрием Казаковым.
Как в холодном межзвёздном пространстве возникают сложные органические молекулы и почему их обнаружение ещё не доказывает существование внеземной жизни? Обсуждаем с астрономом и постоянным автором ПостНауки Дмитрием Вибе.
Что такое старение и почему, несмотря на десятилетия исследований, мы до сих пор не научились существенно на него влиять? Обсуждаем с Петром Федичевым — исследователем старения и предпринимателем — и разбираемся, почему у науки есть сотни признаков и теорий старения, но до сих пор нет единого понимания самого процесса.