Harmony in autonomy : Navigating the collaboration between humans and autonomous AI agents

Titelangaben

Lämmermann, Luis:
Harmony in autonomy : Navigating the collaboration between humans and autonomous AI agents.
Bayreuth , 2025 . - VI, 63 S.
( Dissertation, 2025 , Universität Bayreuth, Rechts- und Wirtschaftswissenschaftliche Fakultät)

Volltext

	Format: PDF Name: Dissertation_LL_Publication-Version.pdf Version: Veröffentlichte Version Verfügbar mit der Lizenz Creative Commons BY 4.0: Namensnennung
	Download (594kB)

Abstract

Artificial intelligence (AI) is a moving target constantly expanding its frontiers of scope and performance through its increasing intelligence, autonomy, and opaqueness. The growing autonomy drives the paradigm shift in the relationship between humans and information systems. AI artifacts are becoming agentic and are no longer acting on behalf of humans. Instead, AI artifacts are ascending on equal footing with humans and are able to complete tasks without human intervention. From an information systems perspective, the phenomenon of increasing AI autonomy poses significant implications for the collaboration between humans and AI-enabled information systems. This dissertation aims to theorize the management and design of collaboration between humans and autonomous AI agents and guide organizations in successfully implementing AI endeavors along their digital transformation. I structure my dissertation along three research goals: First, I aim to provide an understanding of managing and designing AI artifacts from an organizational perspective. Second, I aim to foster an understanding of the effective design of human-AI collaboration from an interaction perspective. Third, I aim to theorize the consequences of AI-led interactions between humans and autonomous AI agents from a delegation perspective. To approach the research goals, my dissertation consists of six research essays. Essays 1 to 3 approach my first research goal. Essay 1 theorizes AI application management from an organizational perspective and proposes an AI management model that illustrates AI management's information flows and managerial factors. Essay 2 proposes practices and measures for successfully monitoring machine learning applications. Essay 3 provides a structured systematization of AI platforms guiding organizations in the design of their AI services. Approaching my second research goal, Essay 4 enhances the theoretical understanding of human-AI interaction and proposes design principles for optimal AI advice that fosters human-AI complementarity. To achieve my third research goal, Essay 5 and Essay 6 present phenomena, changing roles, and conflicts arising in this AI-led delegation, contributing to understanding autonomous AI and its implications for human-AI collaboration. My dissertation contributes to a better understanding of the consequences of the expanding AI frontiers through a pluralistic research approach providing novel theoretical and practical insights into the collaboration between humans and autonomous AI agents.

Abstract in weiterer Sprache

Künstliche Intelligenz (KI) ist ein sich ständig weiterentwickelndes Konzept, das durch die zunehmende Intelligenz, Autonomie und Undurchsichtigkeit seine Grenzen in Bezug auf Umfang und Leistung erweitert. Die zunehmende Autonomie treibt den Paradigmenwechsel in der Beziehung zwischen Menschen und Informationssystemen voran. KI-Artefakte werden zunehmend handlungsfähig und agieren nicht mehr ausschließlich im Auftrag des Menschen. Stattdessen treten KI-Artefakte auf Augenhöhe mit dem Menschen auf und sind in der Lage, Aufgaben ohne menschliches Zutun zu erledigen. Dieses Phänomen der zunehmenden KI-Autonomie hat erhebliche Auswirkungen auf die Zusammenarbeit zwischen Menschen und KI-gestützten Informationssystemen. Diese Dissertation zielt darauf ab, das Management und die Gestaltung der Zusammenarbeit zwischen Menschen und autonomen KI-Agenten zu untersuchen und Organisationen bei der erfolgreichen Umsetzung von KI-Bestrebungen im Rahmen ihrer digitalen Transformation zu unterstützen. Ich strukturiere meine Dissertation entlang dreier Forschungsziele: Erstens möchte ich ein Verständnis für das Management und die Gestaltung von KI-Artefakten aus einer organisationalen Perspektive schaffen. Zweitens möchte ich das Verständnis für eine effektive Gestaltung der Zusammenarbeit zwischen Mensch und KI aus einer Interaktionsperspektive fördern. Drittens möchte ich die Konsequenzen von KI-gesteuerten Interaktionen zwischen Menschen und autonomen KI-Agenten aus der Perspektive der Delegation theoretisieren. Um die Forschungsziele zu erreichen, besteht meine Dissertation aus sechs Forschungsaufsätzen. Die Aufsätze 1 bis 3 befassen sich mit meinem ersten Forschungsziel. In Aufsatz 1 wird das Management von KI-Anwendungen aus einer organisatorischen Perspektive theoretisiert und ein KI-Managementmodell vorgeschlagen, das die Informationsflüsse und Steuerungsfaktoren des KI-Managements veranschaulicht. In Aufsatz 2 werden Praktiken und Maßnahmen zur erfolgreichen Überwachung von Anwendungen des maschinellen Lernens vorgeschlagen. Aufsatz 3 bietet eine strukturierte Systematisierung von KI-Plattformen, die Unternehmen bei der Gestaltung ihrer KI-Services unterstützt. Um mein zweites Forschungsziel zu erreichen, erweitert Aufsatz 4 das theoretische Verständnis der Mensch-KI-Interaktion und schlägt Prinzipien für optimale Gestaltung KI-gestützter Empfehlungen vor, die die Komplementarität zwischen Mensch und KI fördern. Um mein drittes Forschungsziel zu erreichen, werden in Aufsatz 5 und Aufsatz 6 neuartige Phänomene, wie etwa veränderte Rollen, Interaktionsmuster und Konflikte, die in KI-geführter Delegation auftreten, untersucht und theoretisiert. Meine Dissertation trägt durch einen pluralistischen Forschungsansatz, der neue theoretische und praktische Einblicke in die Zusammenarbeit zwischen Menschen und autonomen KI-Agenten liefert, zu einem besseren Verständnis der Folgen der sich erweiternden KI-Fähigkeiten bei.