TU Darmstadt / ULB / TUprints

Following the Robot – Investigating the Utilization and the Acceptance of AI-based Services

Mesbah, Neda (2023)
Following the Robot – Investigating the Utilization and the Acceptance of AI-based Services.
Technische Universität Darmstadt
doi: 10.26083/tuprints-00026377
Ph.D. Thesis, Primary publication, Publisher's Version

[img] Text
Disstertation_Neda_Mesbah.pdf
Copyright Information: CC BY-SA 4.0 International - Creative Commons, Attribution ShareAlike.

Download (1MB)
Item Type: Ph.D. Thesis
Type of entry: Primary publication
Title: Following the Robot – Investigating the Utilization and the Acceptance of AI-based Services
Language: English
Referees: Buxmann, Prof. Dr. Peter ; Benlian, Prof. Dr. Alexander
Date: 21 December 2023
Place of Publication: Darmstadt
Collation: XIV, 105 Seiten
Date of oral examination: 14 July 2023
DOI: 10.26083/tuprints-00026377
Abstract:

In the past few years, there has been significant progress in the field of artificial intelligence (AI), with advancements in areas such as natural language processing and machine learning. AI systems are now being used in various industries and applications, from healthcare to finance, and are becoming more sophisticated and capable of handling complex tasks. The technology has the potential to assist in both private and professional decision-making. However, there are still challenges to be addressed, such as ensuring transparency and accountability in AI decision-making processes and addressing issues related to bias and ethics, and it is not yet certain whether all of these newly developed AI-based services will be accepted and used. This thesis addresses a research gap in the field of AI-based services by exploring the acceptance and utilization of such services from both individual and organizational perspectives. The research examines various factors that influence the acceptance of AI-based services and investigates users' perceptions of these services. The thesis poses four research questions, including identifying the differences in utilizing AI-based services compared to human-based services for decision-making, identifying characteristics of acceptance and utilization across different user groups, prioritizing methods for promoting trust in AI-based services, and exploring the impact of AI-based services on an organization's knowledge. To achieve this, the study employs various research methods such as surveys, experiments, interviews, and simulations within five research papers. Research focused on an organization that offers robo-advisors as an AI-based service, specifically a financial robo-advisor. This research paper measures advice-taking behavior in the interaction with robo-advisors based on the judge-advisor system and task-technology fit frameworks. The results show the advice of robo-advisors is followed more than that of human advisors and this behavior is reflected in the task-advisor fit. Interestingly, the advisor's perceived expertise is the most influential factor in the task-advisor fit for both robo-advisors and human advisors. However, integrity is only significant for human advisors, while the user's perception of the ability to make decisions efficiently is only significant for robo-advisors. Research paper B examined the differences in advice utilization between AI-based and human advisors and explored the relationship between task, advisor, and advice utilization using the task-advisor fit just like research paper A but in context the of a guessing game. The research paper analyzed the impact of advice similarity on utilization. The results indicated that judges tend to use advice from AI-based advisors more than human advisors when the advice is similar to their own estimation. When the advice is vastly different from their estimation, the utilization rate is equal for both AI-based and human advisors. Research paper C investigated the different needs of user groups in the context of health chatbots. The increasing number of aging individuals who require considerable medical attention could be addressed by health chatbots capable of identifying diseases based on symptoms. Existing chatbot applications are primarily used by younger generations. This research paper investigated the factors affecting the adoption of health chatbots by older people and the extended Unified Theory of Acceptance and Use of Technology. To investigate how to promote AI-based services such as robo-advisors, research paper D evaluated the effectiveness of eleven measures to increase trust in AI-based advisory systems and found that noncommittal testing was the most effective while implementing human traits had negligible effects. Additionally, the relative advantage of AI-based advising over that of human experts was measured in the context of financial planning. The results suggest that convenience is the most important advantage perceived by users. To analyze the impact of AI-based services on an organization's knowledge state, research paper E explored how organizations can effectively coordinate human and machine learning (ML). The results showed that ML can decrease an organization's need for humans’ explorative learning. The findings demonstrated that adjustments made by humans to ML systems are often beneficial but can become harmful under certain conditions. Additionally, relying on knowledge created by ML systems can facilitate organizational learning in turbulent environments, but it requires significant initial setup and coordination with humans. These findings offer new perspectives on organizational learning with ML and can guide organizations in optimizing resources for effective learning. In summary, the findings suggest that the acceptance and utilization of AI-based services can be influenced by the fit between the task and the service. However, organizations must carefully consider the user market and prioritize mechanisms to increase acceptance. Additionally, the implementation of AI-based services can positively affect an organization's ability to choose learning strategies or navigate turbulent environments, but it is crucial for humans to maintain domain knowledge of the task to reconfigure such services. This thesis enhances our understanding of the acceptance and utilization of AI-based services and provides valuable insights on how organizations can increase customers’ acceptance and usage of their AI-based services as well as implement and use AI-based services effectively.

Alternative Abstract:
Alternative AbstractLanguage

In den letzten Jahren hat es auf dem Gebiet der künstlichen Intelligenz (KI) erhebliche Fortschritte gegeben, wie z.B. im Bereich der Verarbeitung natürlicher Sprache oder beim maschinellen Lernen. KI-Systeme werden inzwischen in verschiedenen Branchen und Anwendungen eingesetzt, vom Gesundheitswesen bis zum Finanzwesen. Zusätzlich werden diese immer ausgefeilter und können immer komplexere Aufgaben bewältigen. Die Technologie hat das Potenzial, sowohl im privaten als auch im beruflichen Bereich bei der Entscheidungsfindung zu unterstützen. Allerdings gibt es auch noch einige Herausforderungen zu bewältigen. Dies betrifft etwa die Gewährleistung von Transparenz und die Frage nach Haftung bei KI-Entscheidungsprozessen. Darüber hinaus gibt es einige Unsicherheiten im Zusammenhang mit Themen wie Verzerrung und Ethik, daher ist es noch nicht sicher, ob solche Dienste eine Breite Akzeptanz finden und genutzt werden. Die vorliegende Arbeit befasst sich mit dieser Forschungslücke im Bereich der KI-basierten Dienste, indem sie die Akzeptanz und Nutzung solcher Dienste sowohl aus individueller als auch aus organisatorischer Sicht untersucht. Die Arbeit untersucht dabei verschiedene Faktoren, die die Akzeptanz von KI-basierten Diensten beeinflussen, und untersucht die Wahrnehmung dieser Dienste durch die Nutzer (Im Folgenden wird aus Gründen der besseren Lesbarkeit ausschließlich die männliche Form verwendet. Sie bezieht sich auf Personen beiderlei Geschlechts.). Die Dissertation stellt hierzu vier Forschungsfragen auf, darunter die Identifizierung der Unterschiede bei der Nutzung von KI-basierten Diensten im Vergleich zu menschenbasierten Diensten, die Identifizierung von Akzeptanz- und Nutzungskritierien in verschiedenen Nutzergruppen, die Priorisierung von Methoden zur Förderung des Vertrauens in KI-basierte Dienste und die Untersuchung der Auswirkungen von KI-basierten Diensten auf den Wissensstand einer Organisation. Um dies zu erreichen, werden verschiedene Forschungsmethoden wie Umfragen, Experimente, Interviews und Simulation in fünf Forschungspapieren eingesetzt. Forschungspapier A konzentriert sich auf Organisationen, die Robo-Advisors, insbesondere Finanz-Robo-Advisors, als KI-basierte Dienstleistung anbieten. Im Rahmen dieses Forschungspapiers wird das tatsächliche Beratungsverhalten in der Interaktion mit Robo-Advisors auf der Grundlage von Judge-Advisor-Systemen und Task-Technology-Fit-Frameworks gemessen. Die Ergebnisse zeigen, dass die Ratschläge von Robo-Beratern eher befolgt werden als die von menschlichen Beratern. Dieses Verhalten spiegelt sich im Task-Advisor-Fit wider. Interessanterweise ist die wahrgenommene Expertise des Beraters der einflussreichste Faktor auf den Task-Advisor-Fit sowohl für Robo-Advisors als auch für Human-Advisors. Die Integrität ist jedoch nur bei menschlichen Beratern signifikant, während die vom Nutzer wahrgenommene Fähigkeit, Entscheidungen effizient zu treffen, nur bei Robo-Advisors signifikant ist. Forschungsarbeit B untersucht die Unterschiede in der Beratungsnutzung zwischen KI-basierten und menschlichen Beratern und untersucht die Beziehung zwischen Aufgabe, Berater und Beratungsnutzung unter Verwendung des Task-Technology-Fit. Dieses Vorgehen ist ähnlich zu Forschungsarbeit A, den Kontext bilden hier jedoch Ratespiele. Darüber hinaus wurde der Einfluss der Ähnlichkeit der Ratschläge auf die Nutzung analysiert. Die Ergebnisse zeigen, dass Richter dazu neigen, Ratschläge von KI-basierten Beratern mehr zu nutzen als menschliche Berater, wenn die Ratschläge ihrer eigenen Einschätzung ähneln. Weicht der Ratschlag stark von ihrer Einschätzung ab, ist die Nutzungsrate bei KI-gestützten und menschlichen Beratern gleich hoch. Forschungspapier C untersucht die unterschiedlichen Bedürfnisse von Nutzergruppen im Kontext von Gesundheits-Chatbots. Die zunehmende Anzahl älterer Menschen, die eine hohe medizinische Fürsorge benötigen, könnte durch Gesundheits-Chatbots, die in der Lage sind, Krankheiten anhand von Symptomen zu erkennen, adressiert werden. Bestehende Chatbot-Anwendungen werden hauptsächlich von jüngeren Generationen genutzt. Dieses Forschungspapier untersucht die Faktoren, die sich auf die Annahme von Gesundheits-Chatbots durch Senioren auswirken, und die erweiterte einheitliche Theorie der Akzeptanz und Nutzung von Technologien. Um herauszufinden, wie KI-basierte Dienste wie Robo-Advisors gefördert werden können, bewertet das Forschungspapier D die Wirksamkeit von elf Maßnahmen zur Steigerung des Vertrauens in KI-basierte Beratungssysteme. Das Resultat hierbei lautet, dass unverbindliche Tests am effektivsten sind, während die Implementierung menschlicher Eigenschaften vernachlässigbare Auswirkungen haben. Außerdem wurde der relative Vorteil von KI-gestützter Beratung gegenüber menschlichen Experten im Kontext der Finanzplanung gemessen. Die Ergebnisse deuten darauf hin, dass die Bequemlichkeit der wichtigste Vorteil ist, den die Nutzer wahrnehmen. Um die Auswirkungen von KI-basierten Diensten auf den Wissensstand eines Unternehmens zu analysieren, untersucht Forschungspapier E, wie Unternehmen menschliches und ML-Lernen effektiv koordinieren können. Die Ergebnisse zeigen, dass ML den Bedarf einer Organisation an menschlichem explorativem Lernen verringern kann. Die Ergebnisse zeigen, dass die von Menschen vorgenommenen Anpassungen an ML-Systeme oft nützlich sind, unter bestimmten Bedingungen aber auch schädlich sein können. Darüber hinaus kann der Rückgriff auf das von ML-Systemen erzeugte Wissen das organisatorische Lernen in turbulenten Umgebungen erleichtern. Dies erfordert jedoch eine umfangreiche anfängliche Einrichtung der Systeme und Koordination mit Menschen. Diese Erkenntnisse bieten neue Perspektiven für das organisatorische Lernen mit ML und können Organisationen bei der Optimierung von Ressourcen für effektives Lernen unterstützen. Zusammenfassend legen die Ergebnisse nahe, dass die Akzeptanz und Nutzung von KI-basierten Diensten durch das Zusammenpassen zwischen Aufgabe und Dienst beeinflusst werden kann. Unternehmen müssen jedoch den Nutzermarkt sorgfältig berücksichtigen und Mechanismen zur Steigerung der Akzeptanz priorisieren. Darüber hinaus kann sich die Implementierung von KI-basierten Diensten positiv auf die Fähigkeit einer Organisation auswirken, Lernstrategien zu wählen oder sich in turbulenten Umgebungen zurechtzufinden. Es ist aber von entscheidender Bedeutung, dass Menschen das Domänenwissen über die Aufgabe beibehalten, um solche Dienste neu zu konfigurieren. Insgesamt erweitert diese Arbeit das Verständnis für die Akzeptanz und Nutzung von KI-basierten Diensten und liefert wertvolle Erkenntnisse für Unternehmen, um die Akzeptanz und Nutzung ihrer KI-basierten Dienste durch die Kunden zu erhöhen. Zudem liefert sie einen Beitrag darüber, wie man KI-basierte Dienste in Unternehmen implementiert und effektiv nutzt.

German
Status: Publisher's Version
URN: urn:nbn:de:tuda-tuprints-263778
Classification DDC: 000 Generalities, computers, information > 004 Computer science
300 Social sciences > 330 Economics
Divisions: 01 Department of Law and Economics > Betriebswirtschaftliche Fachgebiete
01 Department of Law and Economics > Betriebswirtschaftliche Fachgebiete > Fachgebiet Software Business & Information Management
Date Deposited: 21 Dec 2023 13:14
Last Modified: 22 Dec 2023 07:36
URI: https://tuprints.ulb.tu-darmstadt.de/id/eprint/26377
PPN: 514247657
Export:
Actions (login required)
View Item View Item