Moral Machines – Investigating Ethical Aspects in Human-Robot Interactions

The deployment of service robots in service firms and organizations has become increasingly prevalent. Service robots, capable of sophisticated human-like interactions, are coming to be integral in serving, assisting, and collaborating with both internal and external customers. Significant advances in artificial intelligence and robotics have accelerated this trend. While the integration of service robots can offer great benefits, such as increased efficiency and improved service delivery, it also introduces complex ethical challenges. This dissertation addresses the ethical considerations in human–robot interactions (HRI) within customer service environments. This thesis aims to advance knowledge on ethical issues in customer–robot interactions and to provide insights into how ethically responsible service robots impact customer perceptions and responses in both internal and external service encounters. To this end, the thesis includes four research studies that explore the understudied field of service robot ethics and moral HRI. The first chapter provides a comprehensive introduction to the topic, outlining its relevance to managerial practice and scientific research. The chapter also delineates the overarching research questions and the structure of the thesis. Chapter 2, a conceptual study, aims to synthesize the extant knowledge on ethical considerations in customer–robot interactions. By conducting a scoping review, the key concepts, commonly used theories, and significant developments over time are identified. Moreover, the study introduces the SECUROBI framework, which structures existing knowledge along five pillars, and delineates future research avenues. Chapter 3, the first empirical study, examines the conceptualization and operationalization of (im)moral service robots in a retail context. In addition, it investigates customer responses to (im)moral service robots during customer encounters, relying on moral foundations theory and the ‘computers are social actors’ paradigm. The findings from four online experiments provide valuable empirical evidence regarding the influence of moral service robot behavior on customers’ trust and their ethical concerns. Chapter 4, the second empirical study, presents the findings of a mixed-methods study on customer responses to service robot morality. This study includes field experiments and subsequent customer interviews in a retail and personal services setting to examine the efficiency–morality tradeoff in service robot deployment, elucidating the impact of product involvement on customer preference for moral versus efficient service robots. Additionally, it investigates the underlying mechanisms of customer responses to service robot morality through a vignette-based laboratory study, drawing on the expectancy–disconfirmation paradigm and using polynomial regression and response surface analyses. By taking a customer-centric approach, this study provides valuable insights into the strategic adoption of moral service robots at the customer interface. Chapter 5, the third empirical study, shifts the focus to an office environment context and examines how internal customers judge the intentionality of robot actions, drawing on the Knobe effect. This study highlights differences in attributed intentionality based on the moral valence of the side effects of robots’ decisions and investigates the mechanisms underlying these effects. It discusses the implications of perceiving robots as intentional agents and explores the consequences of human-like robot design for intentionality attributions. Chapter 6 summarizes the dissertation’s contributions to research and managerial implications. It also highlights the limitations of this thesis and proposes avenues for future research. In sum, this thesis attempts to make a significant contribution to the field of service robot ethics by advancing understanding of ethical considerations in customer–robot interactions and providing new insights into how the moral behaviors of service robots influence customer responses. Specifically, this work consolidates knowledge of service robot ethics, empirically examines moral HRI phenomena, and systematically investigates the underlying mechanisms of customer responses. In addition to its research contributions, this comprehensive investigation into the ethical dimensions of HRI offers valuable insights for managerial practice and robot designers regarding responsible design and deployment of morally programmed service robots. Ultimately, the insights from this thesis can help enhance responsible, customer-centric, and trustworthy HRI and service practices.

Der Einsatz von Dienstleistungsrobotern in Dienstleistungsunternehmen und Organisationen nimmt derzeit signifikant zu. Dienstleistungsroboter, die zu hochentwickelten, menschenähnlichen Interaktionen fähig sind, werden zunehmend zu einem integralen Bestandteil der Bedienung, Unterstützung und Zusammenarbeit mit internen und externen Kunden. Bedeutende Fortschritte in der künstlichen Intelligenz und Robotik haben diesen Trend beschleunigt. Die Integration von Dienstleistungsrobotern bietet zahlreiche Vorteile, darunter gesteigerte Effizienz und verbesserte Leistungserbringung. Gleichzeitig wirft sie jedoch komplexe ethische Fragestellungen auf. Die vorliegende Dissertation widmet sich den ethischen Implikationen von Mensch-Roboter-Interaktionen (MRI) im Kontext des Kundenservice. Ziel dieser Arbeit ist es, das Wissen über ethische Fragestellungen in der Interaktion zwischen Kunden und Robotern zu erweitern und Erkenntnisse darüber zu gewinnen, wie ethisch verantwortungsbewusste Dienstleistungsroboter die Wahrnehmung und Reaktionen von Kunden bei internen und externen Dienstleistungsbegegnungen beeinflussen. Zu diesem Zweck umfasst die Arbeit vier Forschungsstudien, die die bisher wenig erforschten Gebiete der Dienstleistungsroboterethik und moralischen MRI untersuchen. Das erste Kapitel gibt eine umfassende Einführung in das Thema und zeigt dessen Relevanz für die Unternehmenspraxis und die wissenschaftliche Forschung auf. Darüber hinaus werden in diesem Kapitel die übergreifenden Forschungsfragen sowie der Aufbau der Arbeit beschrieben. Kapitel 2 stellt eine konzeptionelle Studie dar, welche das Ziel verfolgt, das vorhandene Wissen zu ethischen Fragestellungen in Kunden-Roboter-Interaktionen zusammenzufassen. Zu diesem Zweck werden die Ergebnisse eines Scoping-Reviews präsentiert, in welchem die zentralen Konzepte, dominierenden Theorien sowie bedeutende Entwicklungen im Zeitverlauf ermittelt werden. Darüber hinaus führt die Studie den SECUROBI Bezugsrahmen ein, welcher das vorhandene Wissen anhand von fünf Säulen strukturiert. Abschließend werden mögliche zukünftige Forschungsfelder aufgezeigt. Kapitel 3, die erste empirische Studie, untersucht die Konzeptualisierung und Operationalisierung von (un)moralischen Dienstleistungsroboten in einem Einzelhandelskontext. Darüber hinaus werden die Kundenreaktionen auf (un)moralische Dienstleistungsroboter während Dienstleistungsinteraktionen untersucht. Dabei werden die Moral Foundations Theory und das „Computer sind soziale Akteure“ Paradigma herangezogen. Die Ergebnisse der vier Online-Experimente liefern wertvolle empirische Belege für den Einfluss des Verhaltens moralischer Dienstleistungsroboter auf das Vertrauen der Kunden und deren ethischen Bedenken. In Kapitel 4, der zweiten empirischen Studie, werden die Ergebnisse einer Mixed-Methods-Studie präsentiert, welche die Reaktionen von Kunden auf die Moral von Dienstleistungsrobotern untersucht. Diese Studie umfasst Feldexperimente und anschließende Kundeninterviews in einem Einzelhandels- und persönlichen Dienstleistungskontext, um den Zielkonflikt zwischen Effizienz und Moral beim Einsatz von Dienstleistungsrobotern zu untersuchen und die Auswirkungen des Produktinvolvements auf die Präferenz der Kunden für moralische gegenüber effizienten Dienstleistungsrobotern zu beleuchten. Des Weiteren werden die zugrundeliegenden Mechanismen der Kundenreaktionen auf die Robotermoral durch eine vignettebasierte Laborstudie untersucht. Die Studie stützt sich hierfür auf das Erwartungs-Diskonfirmations-Paradigma und nutzt polynomielle Regression und Response-Surface-Analysen. Durch den kundenzentrierten Ansatz liefert diese Studie wertvolle Erkenntnisse für den strategischen Einsatz von moralischen Dienstleistungsrobotern an der Kundenschnittstelle. Kapitel 5, die dritte empirische Studie, verlagert den Kontextschwerpunkt auf eine Büroumgebung und untersucht, wie interne Kunden die Intentionalität in Roboterhandlungen beurteilen. Hierbei stützt sich die Studie auf den Knobe-Effekt. Die Studie zeigt Unterschiede in der zugeschriebenen Intentionalität auf, welche auf der moralischen Wertigkeit der Nebeneffekte von Roboterentscheidungen basieren und beleuchtet die diesen Effekten zugrundeliegenden Mechanismen. Zudem werden die Implikationen einer Betrachtung von Robotern als vorsätzlich handelnde Agenten erörtert und die Konsequenzen eines menschenähnlichen Roboterdesigns für Intentionalitätszuschreibungen diskutiert. Kapitel 6 präsentiert die Implikationen dieser Thesis für die Forschung und Unternehmenspraxis, zeigt die Limitationen der Arbeit auf und schlägt Wege für zukünftige Forschung vor. Insgesamt beabsichtigt diese Dissertation einen wesentlichen Beitrag zum Forschungsgebiet der Dienstleistungsroboterethik zu leisten. Sie fördert das Verständnis ethischer Überlegungen in Kunden-Roboter-Interaktionen und liefert neue Erkenntnisse über den Einfluss des moralischen Verhaltens von Dienstleistungsrobotern auf Kundenreaktionen. Konkret konsolidiert diese Arbeit den bisherigen Forschungsstand zur Dienstleistungsroboterethik, untersucht empirisch moralische Phänomene der MRI und erforscht systematisch die zugrundeliegenden Mechanismen der Kundenreaktionen. Neben den Forschungsbeiträgen bietet diese umfassende Untersuchung wertvolle Erkenntnisse für die Unternehmenspraxis und für Roboterentwickler, insbesondere hinsichtlich der verantwortungsvollen Gestaltung und des Einsatzes von moralisch programmierten Dienstleistungsrobotern. Zusammenfassend tragen die gewonnenen Erkenntnisse dazu bei, verantwortungsbewusste, kundenorientierte und vertrauenswürdige MRI und Dienstleistungspraktiken zu fördern.