Algorithmic Control: Workers’ Perceptions, Judgments, and Reactions in the Era of Artificial Intelligence

Organizational control—the mechanisms through which organizations align individual behaviors towards organizational goals—has evolved continuously with the emergence of new technologies. Recently, with the surge of ubiquitous computing, expanding data collection, and increasingly powerful algorithms, organizational control is once again undergoing a fundamental transformation. Workers are now assigned tasks, evaluated, and even compensated by algorithmic systems rather than human supervisors—a phenomenon referred to as algorithmic control (AC). AC first emerged in online labor platforms, where millions of distributed workers are controlled through smartphone apps without any human oversight. Now it is spilling over into traditional organizations as well. This rapid and continuous adoption of AC across organizations has outpaced our theoretical and empirical understanding of organizational control, leaving many of its consequences for workers uncertain. Specifically, the information systems (IS) and related literature lacks a sound conceptual framework and measurement instrument for worker-level perceptions of AC; one that integrates the distinct characteristics of AC and applies across diverse organizational settings. Furthermore, while prior studies demonstrate that workers’ judgments and reactions to AC can be positive, negative and even contradictory, little is known about which specific system design choices trigger such judgments and reactions.

Against this background, this dissertation examines the worker-level implications of AC through two overarching research questions. First, it asks what the key conceptual dimensions of AC systems are from the worker’s perspective and how these dimensions can be measured. Second, it investigates how specific design choices in AC systems give rise to positive or negative worker judgments and reactions. These questions are addressed through four interrelated articles.

The first article contributes to the first research question by developing a framework and measurement instrument for worker-level perceived AC (PAC). Drawing on recent conceptual frameworks and interviews with workers, it identifies seven forms of AC: algorithmic recommending, restricting, requiring, monitoring, rating, rewarding, and sanctioning. Following established scale development methodology, the study examines the PAC scale’s psychometric properties in both platform-based and traditional work contexts, demonstrating its reliability and validity. This provides a solid foundation for cumulative and comparable research on worker-level implications of AC.

Continuing on the first research question, the second article examines the broader, system-level characteristics of AC. It applies established taxonomy development methodology and draws prior literature and on both real-world examples of AC systems to identify their key dimensions and characteristics. Specifically, it highlights four organizational dimensions (organizational scope, control authority, human supervisor involvement, coerciveness) and three technological dimensions (digital interface, data sources, control tasks) that together characterize AC systems. To illustrate the taxonomy’s applicability and usefulness, the article applies it to three real-world cases at Uber, Amazon Warehouses, and Microsoft Viva Insights. The resulting taxonomy enables researchers to systematically classify and compare AC systems, highlight similarities and differences, and situate them within their broader socio-technical context. Taken together with the worker-level PAC dimensions identified in the first article, it provides a more holistic understanding of how AC is embedded and perceived in the workplace.

The third article focuses on the first part of the second research question by examining how design choices in AC systems shape workers’ legitimacy judgments. Building on a three-layered conceptual framework consisting of a control, data, and organizational embedding layer, it identifies important AC system design choices within each layer. An experimental vignette study with 329 workers systematically varies these design choices and measures their effects on workers’ perceptions of autonomy, exploitation, and ultimately their legitimacy judgments of AC systems. The findings show that design choices in the data and organizational embedding layers are at least as, if not more, critical than AC mechanisms themselves in shaping workers’ judgments of AC systems.

The fourth article turns to the second part of the second research question by investigating how workers react to configurations of AC system design choices. It focuses on configurations that foster algorithmic self-control, defined as an individual’s use of AC systems and related digital devices to align their behavior with self-set, work-related goals. To study this, it conducts an online experiment in which design choices such as data visibility, data granularity, and goal-setting authority are varied, and applies fuzzy-set qualitative comparative analysis to examine how these choices combine to shape workers’ engagement with AC. The findings show that engagement is highly contingent on these combinations and that multiple pathways exist for fostering algorithmic self-control. The article provides both theoretical and practical insights into resolving the tension of control and resistance thereby leveraging the benefits of AC for organizations and workers alike.

Taken together, these four articles contribute to a more comprehensive understanding of the worker-level implications of AC. By conceptualizing how workers perceive AC forms and broader systems configurations, and by developing and validating the PAC measurement instruments, they provide researchers with robust frameworks for systematic and cumulative investigation of AC. At the same time, the findings offer managers valuable insights into which design choices trigger positive or negative perceptions and how organizations can move beyond a potential tug-of-war between control and resistance by fostering algorithmic self-control. As AC continues to profoundly reshape our organizations, this dissertation aspires to contribute to a future in which these technologies create value for both organizations as well as the people that make up this organization.

Die organisationale Steuerung hat sich im Zuge technologischer Entwicklungen kontinuierlich weiterentwickelt. Mit dem Aufstieg allgegenwärtiger Informationsverarbeitung, der zunehmenden Datenerfassung und immer leistungsfähigeren Algorithmen erfährt sie nun erneut eine grundlegende Transformation. Aufgaben werden heute nicht mehr allein von menschlichen Vorgesetzten, sondern zunehmend von algorithmischen Systemen zugewiesen, bewertet und sogar vergütet – ein Phänomen, das als algorithmische Steuerung (Algorithmic Control, AC) bezeichnet wird. AC entstand zunächst auf Online-Arbeitsplattformen, auf denen Millionen verteilter Arbeitskräfte über Smartphone-Apps ohne menschliche Aufsicht gesteuert werden, und breitet sich inzwischen auch auf traditionellere Organisationen aus. Die schnelle und kontinuierliche Verbreitung von AC hat das theoretische und empirische Verständnis organisationaler Steuerungsprozesse überholt und lässt viele Konsequenzen für Beschäftigte offen. Besonders in der Wirtschaftsinformatik und der angrenzenden Literatur fehlt bislang ein tragfähiger konzeptioneller Rahmen sowie ein Messinstrument für die Wahrnehmung von AC auf Ebene der Beschäftigten – eines, das die spezifischen Merkmale von AC integriert und in unterschiedlichen organisatorischen Kontexten anwendbar ist. Zudem zeigen frühere Studien, dass Urteile und Reaktionen von Beschäftigten auf AC vielfältig und teilweise widersprüchlich ausfallen können, während bislang wenig darüber bekannt ist, welche konkreten Gestaltungsentscheidungen positive oder negative Bewertungen und Reaktionen hervorrufen.

Vor diesem Hintergrund untersucht diese Dissertation die Implikationen von AC auf Ebene der Beschäftigten anhand von zwei übergeordneten Forschungsfragen. Erstens wird gefragt, welche zentralen konzeptionellen Dimensionen AC-Systeme aus Sicht der Beschäftigten aufweisen und wie sich diese Dimensionen messen lassen. Zweitens wird untersucht, wie konkrete Gestaltungsentscheidungen in AC-Systemen positive oder negative Wahrnehmungen sowie Reaktionen von Beschäftigten hervorrufen. Diese Fragen werden in vier Artikeln adressiert.

Der erste Artikel trägt zur Beantwortung der ersten Forschungsfrage bei, indem er ein Rahmenwerk sowie ein Messinstrument für die wahrgenommene algorithmische Steuerung (Perceived Algorithmic Control, PAC) entwickelt. Aufbauend auf aktuellen konzeptionellen Ansätzen und Interviews mit Beschäftigten werden sieben Wahrnehmungsdimensionen von AC identifiziert: algorithmisches Empfehlen, Einschränken, Erfordern, Überwachen, Bewerten, Belohnen und Sanktionieren. Unter Anwendung etablierter Methoden der Skalenentwicklung werden die psychometrischen Eigenschaften der PAC-Skala sowohl in plattformbasierten als auch in traditionellen Arbeitskontexten geprüft und deren Reliabilität sowie Validität nachgewiesen. Damit schafft die Studie eine solide Grundlage für kumulative und vergleichbare Forschung zu den Implikationen von AC auf Ebene der Beschäftigten.

Ebenfalls in Beantwortung der ersten Forschungsfrage untersucht der zweite Artikel die umfassenderen, systembezogenen Merkmale von AC. Unter Anwendung etablierter Methoden der Taxonomieentwicklung und unter Rückgriff auf reale Beispiele von AC-Systemen sowie bestehende Literatur werden zentrale Charakteristika herausgearbeitet. Im Ergebnis werden vier organisationale Dimensionen (organisationaler Umfang, Steuerungsautorität, Einbindung menschlicher Vorgesetzter, Zwang) und drei technologische Dimensionen (digitale Schnittstelle, Datenquellen, Steuerungsaufgaben) identifiziert, die gemeinsam AC-Systeme beschreiben. Um die Anwendbarkeit und den Nutzen der Taxonomie zu verdeutlichen, wird sie auf drei Fallbeispiele angewendet: Uber, Amazon-Lagerhäuser und Microsoft Viva Insights. Die resultierende Taxonomie ermöglicht es Forschenden, AC-Systeme systematisch zu vergleichen, Gemeinsamkeiten und Unterschiede aufzuzeigen und sie in ihrem weiteren sozio-technischen Kontext einzuordnen. Zusammen mit den im ersten Artikel identifizierten PAC-Dimensionen liefert sie ein umfassenderes Verständnis darüber, wie AC im Arbeitskontext konfiguriert und wahrgenommen wird.

Der dritte Artikel wendet sich der zweiten Forschungsfrage zu und untersucht, wie Gestaltungsentscheidungen in AC-Systemen die Legitimitätsurteile von Beschäftigten prägen. Aufbauend auf einem dreischichtigen konzeptionellen Rahmenwerk, das aus Steuerungsmechanismen, Daten und organisationaler Einbettung besteht, werden spezifische Managemententscheidungen innerhalb jeder dieser Schichten identifiziert. In einer experimentellen Vignettenstudie mit 329 Beschäftigten werden diese Entscheidungen systematisch variiert, um ihre Effekte auf die Wahrnehmung von Autonomie, Ausbeutung und letztlich auf die Legitimitätsurteile von AC-Systemen zu messen. Die Ergebnisse zeigen, dass Gestaltungsentscheidungen in den Schichten Daten und organisationale Einbettung mindestens ebenso entscheidend, wenn nicht sogar bedeutsamer sind als die Steuerungsmechanismen selbst, wenn es darum geht, Urteile von Beschäftigten über AC-Systeme zu verstehen.

Der vierte Artikel widmet sich dem zweiten Teil der zweiten Forschungsfrage und untersucht, wie Beschäftigte auf unterschiedliche Konfigurationen von Gestaltungsentscheidungen in AC-Systemen reagieren. Im Mittelpunkt stehen dabei Konfigurationen, die algorithmische Selbststeuerung fördern, verstanden als die Nutzung von AC-Systemen und damit verbundenen digitalen Werkzeugen durch Individuen, um ihr Verhalten mit selbstgesetzten arbeitsbezogenen Zielen in Einklang zu bringen. Zu diesem Zweck wird ein Online-Experiment durchgeführt, in dem Gestaltungsentscheidungen wie Datensichtbarkeit, Datengranularität und Zielsetzungskompetenz variiert werden. Mithilfe einer fuzzy-set qualitativen vergleichenden Analyse wird untersucht, wie diese Entscheidungen in Kombination wirken und das Engagement von Beschäftigten mit AC beeinflussen. Die Ergebnisse zeigen, dass das Engagement stark von den verschiedenen Kombinationen der Gestaltungsentscheidungen abhängt und dass mehrere Wege existieren, algorithmische Selbststeuerung zu fördern. Der Artikel liefert sowohl theoretische als auch praktische Erkenntnisse dazu, wie Spannungen zwischen Steuerung und Widerstand abgebaut und gleichzeitig die Potenziale von AC für Organisationen ausgeschöpft werden können.

Zusammengenommen tragen diese vier Studien zu einem umfassenden Verständnis der Implikationen von Algorithmischer Steuerung auf Ebene der Beschäftigten bei. Indem sie konzeptualisieren, wie Beschäftigte AC-Mechanismen und -Systeme wahrnehmen, und entsprechende Messinstrumente entwickeln und validieren, stellen sie der Forschung belastbare Rahmenwerke für systematische und kumulative Untersuchungen von AC zur Verfügung. Gleichzeitig liefern die Ergebnisse wertvolle Einsichten für das Management darüber, welche Gestaltungsentscheidungen positive oder negative Wahrnehmungen hervorrufen und wie Organisationen über ein mögliches Spannungsverhältnis zwischen Steuerung und Widerstand hinausgehen können, indem sie algorithmische Selbststeuerung fördern. Da AC unsere Organisationen weiterhin tiefgreifend verändert, möchte diese Dissertation zu einer Zukunft beitragen, in der diese Technologien sowohl für Organisationen, als auch für die Arbeitnehmer, die diese Organisationen ausmachen, gewinnbringend eingesetzt werden.