Maths for AI Safety Workshop

Bestätigte Sprecher:innen

• Lionel LevineCornell University

  Lionel ist Mathematikprofessor an der Cornell University. Seine Forschung soll die Wahrscheinlichkeit erhöhen, dass künftige KI-Systeme der gesamten Menschheit und dem Planeten zugutekommen. Er hat unter anderem daran gearbeitet, wie sich Value Alignment und Charaktereigenschaften von Sprachmodellen messen lassen, an einer Definition von AGI, an einem Benchmark für mathematisches Schlussfolgern, an einer Metrik für die Kohärenz von Überzeugungen und an versteckten Anreizen beim Planen.

  Website
• Martin RuschSaferAI

  Martin ist Chief Operating Officer bei SaferAI. Er forscht zu systemischen Risiken, die KI für das Finanzsystem mit sich bringt, und zum Risikomanagement für Frontier-Modelle. Zuvor leitete er große Produkt-, Engineering- und Datenteams in Tech-Unternehmen. Er hat in Oxford in theoretischer Physik promoviert (DPhil).

  Website
• Kyler SiegelImperial College London

  Kyler ist Assistant Professor für Mathematik am Imperial College London und Associate Professor mit Tenure (beurlaubt) an der University of Southern California. Er kommt aus der symplektischen Geometrie, arbeitet aber auch an Projekten zu AI Safety und Interpretability.

  Website
• Sergei SmirnovUniversity of Helsinki

  Sergei promoviert in Informatik an der University of Helsinki und beschäftigt sich mit empirischer AI Safety und der Evaluation von LLMs. Er hat mehr als 5 Jahre Erfahrung im ML Engineering, hat die öffentliche AI-Values-Demo von CivAI gebaut und Forschungs-Fellowships bei MARS und SPAR absolviert.

  LinkedIn
• Luiza Cristina CorpaciTU Wien

  Luiza studiert im Master an der TU Wien. Ihr Hintergrund umfasst Chipdesign (Marvell), kombinatorisches Testen (SBA Research, Wien) sowie Interpretierbarkeit und Erklärbarkeit (Universität Wien). Bei AMD arbeitete sie an KI-gestützter Hardwareverifikation und half, Pipelines zu entwickeln, die Spezifikationen in natürlicher Sprache in Code-Artefakte übersetzen, mit formaler Verifikation im Prozess. In ihrer aktuellen Forschung untersucht sie, wie verlässlich KI-generierte formale Spezifikationen sind, insbesondere wie sich Abweichungen zwischen beabsichtigter und formalisierter Bedeutung erkennen und beschreiben lassen.

  Google Scholar
• Leonardo Costa LesageIliad

  Leonardo ist derzeit Fellow bei Iliad und arbeitet an synthetischen Graphmodellen von Debatten. Er hat an der Juni-Runde des Iliad Intensive teilgenommen. Zuvor verbrachte er ein Jahr in Oxford, wo er die chaotische Dynamik des Dreikörperproblems untersuchte und mit symplektischer Geometrie verknüpfte. Das war Teil des letzten Jahres seines Doppel-Bachelors in Mathematik und Engineering Physics am CFIS (UPC) in Barcelona. Mathematik begeistert ihn seit jeher; in der Schule nahm er an Mathematik-Olympiaden teil.

  LinkedIn
• Léo DanaInria Paris

  Léo ist ein französischer Mathematik-Doktorand bei Loucas Pillaud-Vivien und Francis Bach im Team Sierra an der Inria Paris. Er möchte Deep-Learning-Systeme mit mathematischen und theoretischen Werkzeugen verstehen, insbesondere während Training und Deployment. Er war Fellow bei MATS 4.0 und Mentor bei ML4Good und unterrichtet das Turing-Seminar im Master MVA.

  Website
• David PrinzLondon Initiative for Safe AI

  David ist mathematischer Physiker und Iliad Fellow an der London Initiative for Safe AI. Er ist in Quantenfeldtheorie ausgebildet, mit Schwerpunkt auf Hopf-algebraischer Renormierung und der BV-BRST-Quantisierung von Eichtheorien. Heute arbeitet er an den mathematischen Grundlagen des maschinellen Lernens, insbesondere an Singular Learning Theory, mit Blick auf theoretische Aspekte von Alignment.

  Website
• Renata PicciottoUniversity College London

  Renata ist Postdoc am University College London und forscht in enumerativer Geometrie. Außerdem ist sie Iliad Fellow und arbeitet an der Geometrie von ReLU-Netzwerken.

  Website

Ablauf

Organisationsteam

• 
  Jessica P. WangGründerin und GeschäftsführerinSafe AI Germany
• 
  André VidelaDirektorGlasgow Lab for AI Verification
• 
  Claudius ZibrowiusProfessor für niedrigdimensionale TopologieBochum University

FAQ