Interpretabilidade e alinhamento: Entendendo o comportamento das IAs – Hipsters Ponto Tech #525

Hoje o papo é sobre interpretabilidade em modelos de inteligência artificial!

Neste episódio, conversamos sobre como pesquisas recentes, em especial da Anthropic, vêm buscando entender o que acontece por baixo do capô dos grandes modelos de linguagem, além de como eles chegam a determinadas respostas. De alinhamento a alucinações, passando por reasoning, emoções, J-Space, comportamentos emergentes e os desafios de abrir a caixa-preta das grandes IAs, a conversa é bastante abrangente e repleta de boas referências. Vem ver quem participou desse papo:

Paulo Silveira, o host que usa a palavra governança

Fernanda Kipper, Software Engineer & Founder na kipper.dev

Vinny Neves, cohost, dev e professor na Alura

Fabrício Carraro, co-host do IA Sob Controle, Program Manager da Alura, autor de IA e host do podcast Carreira Sem Fronteiras

Links:

Gemini Notebook (ex-NotebookLM)

Podcast Naruhodo!

O Império da IA

IA Sob Controle 213: O Império da IA – Sonhos e Pesadelos na OpenAI de Sam Altman

Logits: o que acontece antes da IA escolher a próxima palavra

Estudo: A global workspace in language models

Estudo: Emotion concepts and their function in a large language model

Estudo: Reasoning models don't always say what they think

Projeto Subliminal Learning: Language Models Transmit Behavioral Traits via Hidden Signals in Data

Estudo: Persona vectors: Monitoring and controlling character traits in language models

Estudo: Teaching Claude why

Estudo: Mapping the mind of a large language model

Estudo: Tracing the thoughts of a large language model

Estudo: Agentic misalignment: How LLMs could be insider threats

Estudo: Alignment faking in large language models

Estudo: Measuring Faithfulness in Chain-of-Thought Reasoning

Estudo: LLM Lies: Hallucinations are not Bugs, but Features as Adversarial Examples

Toda revolução tecnológica começa com quem antecipa o futuro e transforma ideias em soluções de alto impacto. Conheça os cursos da Alura + FIAP Skills & Go: Agentic Engineering, Building AI Products, e AI Data Strategy. Saiba mais sobre o Skills & Go.

Vá para o Vale do Silício com Paulo Silveira, Marcell Almeida, Fabrício Carraro e Marcus Mendes na “Imersão IA Sob Controle e Alura no Vale do Silício“! Vagas limitadas, corra para reservar a sua.

TechGuide.sh, um mapeamento das principais tecnologias demandadas pelo mercado para diferentes carreiras, com nossas sugestões e opiniões.

#7DaysOfCode: Coloque em prática os seus conhecimentos de programação em desafios diários e gratuitos. Acesse https://7daysofcode.io/

Produção e conteúdo:

Alura Cursos de Tecnologia – https://www.alura.com.br

Edição e sonorização: Rede Gigahertz de Podcasts