Programme
- Format
- Teilzeit, remote5–20 Stunden pro Woche
- Dauer
- 3 Monateplus optionale Verlängerung
- Teams
- Kleine Teamsmit Mentoring durch Expert:innen
- Tracks
- Technical AI SafetyTechnical AI GovernanceAI Governance & PolicyCommunication & Fieldbuilding
Runde Frühjahr 2026
27. Apr. – 31. Juli 2026
226Bewerbungen
73mentees
22Projekte
74 %
der Mentees hätten ohne SAIGE nicht an AI Safety gearbeitet.
Umfrage unter 50 von 73 Mentees, Incubator-Runde Frühjahr 2026.
Forschungshighlights
- NeurIPS 2026Workshop-PaperVortragBenchmarking Exploration Hacking Propensity in Frontier LLMsEduard Hübner · Team betreut von Joschka Braun
- NeurIPS 2026Workshop-PaperPosterStress-Testing RL-based Capability Elicitation with Randomized UnderperformanceNina Zukowska · Team betreut von Joschka Braun
- NeurIPS 2026AI4GOOD WorkshopVortragLearning Steganography Is Easy, Learning Steganographic Reasoning Is HardLukas Fülle, Rieke Fruengel · Team betreut von Julian Schulz
Projektpräsentationen beim EFAIS 2026
Projekte
Communication & Fieldbuilding5 Projekte
- Digital Minds PrimerJulia Bossmann, Director of Research & Strategy, Sentient Futures
- Fellowship Navigator: A Decision Tool for Career TransitionMarta Krzeminska, Program Operations Lead, Future Impact Group
- Visualizing AI Safety Risks for German Decision MakersInken Paland, Founder & Content Strategist, Independent
- New Fieldbuilding Organisations in GermanyTilman Räuker, Co-director, Pivotal Research
- Raising Awareness for AI Existential Risks in GermanyKarl von Wendt, Writer and YouTuber, Independent
AI Governance & Policy5 Projekte
- Convergence or Divergence? The Future of Frontier AI Capabilities and Implications for Catastrophic RiskPavel Kocourek, Postdoctoral Fellow, University of Duisburg-Essen
- Economic Decision-Making Under Deep Uncertainty About AI’s TrajectoryPavel Kocourek, Postdoctoral Fellow, University of Duisburg-Essen
- Estimating AI Harm Rates for Germany: Applying Epidemiological Methods to Incident MonitoringBranwen Nia Owen, Research Fellow, Arcadia Impact
- Improving the Deutschland-Stack’s Approach to AI Procurement and AccessChris Schmitz, Research Associate, Hertie School
- How Will AI Affect the Democracy Equilibrium?Simon Skade, Co-lead, PauseAI; independent AI alignment researcher
Technical AI Governance3 Projekte
- Verification of a Global AI TreatyNaci Cankaya, Technical AI Governance Researcher, Machine Intelligence Research Institute
- Risk-Weighted Compute Permits Under Imperfect Monitoring: Enforcement Design and an EU-Implementable BlueprintJoel Christoph, Harvard Kennedy School
- Stanford SAFE: Designing Interactive Modules to Introduce High-Ranking Decision Makers to Technical AI FundamentalsFelix Krückel and Duncan Eddy, Stanford Center for AI Safety, RWTH Aachen; Stanford University
Technical AI Safety9 Projekte
- Empirical Technical AI Safety ResearchJoschka Braun, Research Fellow, MATS
- Inoculation Against Model PoisoningFlorian Dietz, Independent researcher
- Advancing the Human Empowerment Approach to Safe AI AgentsJobst Heitzig, Zuse Institute Berlin and Potsdam Institute for Climate Impact Research
- A Meta-Analysis of the AI Safety Research LandscapeIhor Kendiukhov, CEO, Theomachia Labs
- A Benchmark for Preventing Emergent MisalignmentFlorian Mai, Junior Research Group Leader, University of Bonn
- Outcome-Based Distillation for Jailbreaking Safety GuardrailsAlexander Panfilov, MATS and ELLIS Institute Tübingen
- Fungal InterpretabilityLukas Galke Poech, Assistant Professor, University of Southern Denmark
- Detecting and Mitigating Language-Triggered Value Instability in Multilingual LLMsAjay Mandyam Rangarajan, Jeyashree Krishnan and Jason Hoelscher-Obermaier, Apart Research
- Eliciting Encoded Reasoning in Language Models Trained Against Chain-of-Thought MonitorsJulian Schulz, Meridian Research
Stimmen von Teilnehmenden
„Der SAIGE Incubator hat mir die Erfahrung und die Fähigkeiten gegeben, die ich für den Wechsel in Vollzeit in das Feld brauchte. Mein:e Mentor:in hat während des ganzen Projekts wertvolle Ideen und Herausforderungen eingebracht und mir geholfen, mein Netzwerk auszubauen.“
Sophia GoreAnalyst, Department for Business, Innovation, Science and Trade (britischer Staatsdienst)
„Mein Team und mein:e Mentor:in teilten meine Motivation, KI-Risiken für ein breites Publikum greifbar zu machen. Es fühlt sich ermutigend an, von ‚besorgt‘ zu ‚ich arbeite daran‘ zu kommen.“
Dr. Michael BonfertSAIGE-Mentee
„Die Mentees, die ich über SAIGE betreut habe, haben mich sehr beeindruckt. Beide Einreichungen wurden bei NeurIPS-Workshops angenommen, eine davon für einen Vortrag ausgewählt.“
Joschka BraunResearch Scientist, Apollo Research; SAIGE-Mentor
„SAIGE war der Hauptgrund, warum ich zwei Jahre früher als geplant zu AI Safety gewechselt bin: Es war das perfekte Teilzeit-Experiment, um zu testen, ob mir die Arbeit in AI Safety liegt.“
Aleksandra ShcherbakovaResearch Assistant, LawAI
„SAIGE leistet die längst überfällige Arbeit, talentierte Menschen aus AI Safety und Governance in Deutschland zu vernetzen.“
Chris SchmitzResearch Associate, Hertie School (ehemals GovAI Fellow)