Déploiement de l'IA en situation de travail : une trop faible considération des employés ? - l'unam - université nantes angers le mans Access content directly
Conference Papers Year : 2022

AI GADGETS IN PROFESSIONAL SETTINGS: UNREALISTIC EXPECTATIONS AND MISALIGNED UX METHODS ?

Déploiement de l'IA en situation de travail : une trop faible considération des employés ?

Abstract

Recent work on acceptability of AI-enabled professional tools has focused on the consideration of Human Factors such as user confidence as well as technical factors like model explainability as determinants of user-adoption and usage. These links are mainly established in simulated contexts or environments with low deployment constraints. However, the acceptability of AI tools in professional settings seems to be often restricted to the acceptance of performance and short-term return on investment (ROI) without questioning the technical appropriateness of AI capabilities to user's needs (and fears) or tasks at hand. Three deployment sites of AI-assisted decision-making tools were observed where AI acceptability was limited to the artefact's measurable time-based efficiency. In this article, we question the other UX design considerations in these ML-enhanced dashboards with rushed production cycles that produced AI gadgets rather than user-friendly tools. These AI gadgets ultimately resulted in negative user experiences, inconclusive ROI and/or sidelining of projects. We then suggest ways of limiting risks of end-user-rejection through a more holistic approach of UX design considerations. These include ascertaining needs of the stakeholder network, avoiding technical solutionism, optimizing user interfaces to reduce unnecessary complexity, and dimensioning technical solutions appropriately to the task.
Les récents travaux sur l’acceptabilité des solutions IA en situation de travail se focalisent sur la prise en compte des facteurs humains et des facteurs intrinsèques à l’outil comme déterminants de l’adoption par les employés. Dans cet article, nous retraçons le déploiement d’outils professionnels basés sur de l’IA dans trois cas d’usage. Nous avons exploré les motivations de ces acteurs novices dans ce type de technologie, les moyens déployés pour mener à bien leur projet ainsi que la place accordée aux employés dans le processus de conception. Nous constatons que l’acceptabilité des solutions IA dans ces cas d’usage semble se limiter à l’acceptation de la performance et à un retour sur investissement (ROI) à court terme au détriment de la prise en compte des besoins et craintes des employés. Les conséquences directement observables sont des expériences négatives pour les employés, un retour sur investissement peu concluant et/ou la mise à l’écart de projets. Pour limiter les risques de rejet, nous suggérons de renforcer une approche plus holistique avec des considérations mise en avant par l’UX Design. Cela se traduit notamment par le fait de déterminer les besoins du réseau de parties prenantes, d’éviter le solutionnisme technique, d’optimiser les interfaces utilisateur pour réduire la complexité inutile et de dimensionner les solutions techniques de manière appropriée à la tâche
Fichier principal
Vignette du fichier
D_ploiement_de_l_IA_en_situation_de_travail___une_trop_faible_consid_ration_des_employ_s__ (1).pdf (373.94 Ko) Télécharger le fichier
Origin : Files produced by the author(s)

Dates and versions

hal-03789529 , version 1 (27-09-2022)

Identifiers

  • HAL Id : hal-03789529 , version 1

Cite

Alexandre Agossah, Frédérique Krupa, Guillaume Deconde, Matthieu Perreira da Silva, Patrick Le Callet. Déploiement de l'IA en situation de travail : une trop faible considération des employés ?. 33ème Conférence Internationale Francophone sur l'Interaction Humain-Machine (IHM 2022), Apr 2022, Namur, Belgique. ⟨hal-03789529⟩
142 View
87 Download

Share

Gmail Facebook X LinkedIn More