Angreifer nutzen Programmierfehler in Software aus, um verwundbare Computersysteme zu kompromittieren. Während sowohl die Anzahl, als auch die Komplexität dieser Angriffe weiterhin zunimmt, hat sich an der zugrundeliegenden Ursache nichts geändert: Seit mehr als vier Jahrzehnten nutzen Angreifer Speicherfehler aus, um den Kontroll- oder Datenfluss des Programms zur Laufzeit zu manipulieren. Aus diesem Grund haben es sich Forscher in Universitäten und Unternehmen zum Ziel gesetzt, effektive und effiziente Verteidigungstechniken gegen speicherfehlerbasierte Angriffe zu entwickeln. Mit dieser Dissertation tragen wir maßgeblich zu diesem Ziel bei, indem wir neue Angriffstechniken entwickeln und, basierend darauf, neue Verteidigungstechniken entwerfen.

Im Besonderen zeigen wir Schwächen bei der Umsetzung feingranularer Kontrollflussintegrität in zwei weitverbreiteten Compilern sowie konzeptionelle Schwächen von grob- und feingranularer Kontrollflussintegrität im Allgemeinen auf. Unsere erste Angriffstechnik nutzt eine Wettlaufsituation aus, die ungewollt vom Compiler durch die Optimierung des generierten Programmcodes und der darin enthaltenden Kontrollflussintegritätsverifikationen eingefügt wird. Dabei werden Werte, die zur Überprüfung der Kontrollflussintegrität aus nicht-schreibbaren Speicher in Register geladen wurden, während eines Funktionsaufrufes temporär in schreibbaren Speicher zwischengespeichert. Dort können diese Werte manipuliert und die schützende Kontrollflussintegrität umgangen werden. Unsere zweite Angriffstechnik modifiziert die verwendete Zwischendarstellung des Laufzeitcompilers eines Webbrowsers, wodurch dieser Schadcode generiert. Neben den integritätsbasierten Verteidigungstechniken überprüfen wir auch randomisierungsbasierte Verteidigungstechniken auf deren Sicherheit. In diesem Zusammenhang entwickeln wir zwei fortgeschrittene, auf Speicherlecks basierende Angriffstechniken, die die konzeptionellen Schwächen von randomisierungsbasierten Verteidigungstechniken verdeutlichen.

Basierend auf den Erkenntnissen, die wir durch das Entwickeln genannter Angriffstechniken gewonnen haben, entwerfen und implementieren wir eine Technik, um randomisierungsbasierte Verteidigungstechniken vor Speicherlecks zu schützen. Diese basiert auf nur-ausführbaren Speicher, welchen wir auf der x86 Architektur mittels Speichervirtualisierung ermöglichen. Weiter zeigen wir, dass nur-ausführbarer Speicher für eingebettete Systeme, welche oft keine Speichervirtualisierung unterstützen, mit Hilfe einer Compilererweiterung auch ohne jegliche Hardwareunterstützung umgesetzt werden kann. Zuletzt entwerfen wir eine gegen Speicherlecks resistente, randomisierungsbasierte Verteidigung, die die Datenstruktur zur Verwaltung des virtuellen Speichers vor datenbasierten Angriffen beschützt.