Maschinelles Lernen (ML) und Künstliche Intelligenz (KI) sind in der öffentlichen Diskussion präsenter als jemals zuvor. Geschäftsführer*innen, Politiker*innen und Bürger*innen setzen große Hoffnungen in die Möglichkeiten von Künstlicher Intelligenz und daran knüpfen sich große Erwartungen. In vielen Anwendungen, vom medizinischen Bereich bis hin zu autonomen Robotern, wie selbstfahrenden Autos, wird menschliches Leben zunehmend den Entscheidungen von Algorithmen und Maschinen anvertraut. Auch Algorithmen zur Kreditwürdigkeitsprüfung oder in Einstellungstests können einen großen Einfluss auf das Leben von Personen haben. Die Erwartungen bezüglich Fairness, Genauigkeit und Verlässlichkeit, die wir an diese Algorithmen haben, übersteigen sogar jene, die wir an unsere Mitmenschen haben. Diese Erwartungen entstehen aus dem Wunsch, die Lebensqualität für alle zu verbessern.

Viele aktuelle Modelle des Maschinellen Lernens konzentrieren sich darauf, die größtmögliche Genauigkeit zu bieten. Allerdings sind diese Modelle meist Blackboxen, die schwer zu untersuchen sind. Sie sind meist diskriminative Modelle, die Ergebnisse anhand von Trainingsdaten erzielen, aber kein eigenes Modell für diese Daten entwickeln. Das ist wichtig, da wir daran interessiert sind, die Traininingsdaten selbst zu hinterfragen, um mögliche systematische Bias zu entdecken. Des Weiteren sind wir sehr daran interessiert, das Modell zu fragen, ob sich die aktuellen Daten, die es verarbeitet, mit den Trainingsdaten decken. Mit anderen Worten: Ist es qualifiziert genug Entscheidungen zu treffen und "weiß es, wovon es redet" oder ob es dies einfach "nicht weiß". Aus diesem Grund brauchen wir ein generatives Modell, das diese und weitere Fragen beantworten kann. Diese Dissertation konzentriert sich auf tiefe generative Modelle, die auf probabilistischen Schaltkreisen basieren; einer Gruppe von statistischen Modellen, die es uns erlauben, eine breite Spanne von normalisierten Wahrscheinlichkeitsanfragen in einer garantierten Rechenzeit zu beantworten. Diese generativen Modelle können dann auf Bias überprüft werden, einschließlich der Frage, wie sicher sie sich einer bestimmten Antwort sind, weil sie "wissen, wenn sie es nicht wissen'".

Wir entwickeln probabilistische Modelle für Zähldaten, die weiterentwickelt werden zu nicht-parametrischen Modellen und schließlich zu Modellen, die auf Gruppen von Verteilungen basieren. Sie decken eine große Menge an Anwendungsmöglichkeiten ab. Dann stellen wir Verbindungen zu tiefen neuronalen Netzen her und zeigen, wie daraus generative Modelle mit Inferenzgarantien erzeugt werden können. Alle diese vorgestellten Modelle decken eine breite Spanne von Anwendungsmöglichkeiten ab, einschließlich hybrider Domänen. Darüber hinaus stellen wir ein Modell vor, das aus den Daten lernt und die meisten Entscheidungen automatisch trifft, sodass auch Laien von diesen leistungsstarken Werkzeugen profitieren können. Dies wird zur Demokratisierung des maschinellen Lernens beitragen.