Verlieren wir die Kontrolle über KI?

In dieser Folge des „Effektiv Spenden Podcasts“ spricht Sebastian Becker (Manager Spendenfonds “KI sicher gestalten”) mit Martin Milbradt von der Forschungsorganisation METR (Model Evaluation and Threat Research) über die exponentielle Zunahme von KI-Fähigkeiten.

Martin gibt exklusive Einblicke in die Arbeit von METR und erklärt den sogenannten „Time Horizons Graph“. Dieser zeigt eindrucksvoll, dass moderne Modelle wie Claude Opus heute komplexe Programmieraufgaben in wenigen Stunden bewältigen, für die Experten vor Kurzem noch Tage benötigten.

Die Kernthemen des Interviews: - Der exponentielle Sprung: Warum sich die Fähigkeiten von KI-Modellen alle paar Monate verdoppeln und was das für den Arbeitsmarkt bedeutet. - KI baut KI: Die Vision und das Risiko der automatisierten Selbstverbesserung von Modellen ohne menschliche Kontrolle. - Sicherheit & Governance: Warum unabhängige Evaluationen (Benchmarking) über Leben und Tod entscheiden können, besonders beim Einsatz in autonomen Systemen. - Existenzielle Risiken: Was passiert, wenn Modelle einen „Selbsterhaltungstrieb“ entwickeln oder militärische Entscheidungen autonom treffen? - Lösungsansätze: Wie wir durch KI-Governance und spezialisierte Systeme die Kontrolle behalten können.

Mehr erfahren & Unterstützen: Besucht https://metr.org/ oder spendet steuerbegünstigt aus Deutschland und der Schweiz an den Zukunft bewahren oder KI sicher gestalten Spendenfonds auf Effektiv Spenden: https://effektiv-spenden.org/zukunft-bewahren/.

Wenn ihr Fragen habt, oder Interesse an einer kostenlosen und unabhängigen Spendenberatung, könnt ihr hier https://effektiv-spenden.org/spendenberatung/ ganz einfach einen Termin buchen.