1. Les médecins ne refusent pas l’IA : ils refusent le vide autour
L’enquête menée au Havre est éclairante : les médecins interrogés utilisent peu d’outils d’IA ou d’objets connectés de santé. Non pas parce qu’ils seraient technophobes, mais parce que les conditions de confiance ne sont pas réunies.
Les principales raisons de non-utilisation sont très concrètes :
- absence de certification claire ;
- manque d’essais cliniques et de validation scientifique ;
- non-respect des processus métiers ;
- outils perçus comme peu utiles pour la pratique réelle ;
- absence de politique de gestion des données (confidentialité, traçabilité, disponibilité, intégrité).
Autrement dit : ce que les médecins rejettent, ce n’est pas la technologie, c’est le flou autour de la technologie.
Pour un designer, c’est un message direct :
On ne construit pas la confiance avec une UI rassurante, mais avec un écosystème cohérent autour de l’outil.
2. De l’« utilisateur » à l’écosystème : changer l’unité de design
L’un des apports majeurs de l’article pour la vision design, c’est le déplacement de l’unité d’analyse : on ne parle plus seulement de “l’utilisateur” mais d’un écosystème de santé.
Quatre groupes d’acteurs sont identifiés :
- Les équipes de soins : médecins, infirmier·es, autres soignants, encadrés par des ordres professionnels et des sociétés savantes.
- Le patient, avec sa famille, ses contraintes, ses désirs, et parfois son rôle d’“expert du vécu” via les associations de patients.
- Les concepteurs / promoteurs : informaticiens, data scientists, ingénieurs biomédicaux, financeurs…
- L’État et les organismes de régulation : protection des données, certification des logiciels, sécurité des médicaments, évaluation économique.
En design, on parle souvent de “multistakeholder”, de “design systémique”, d’“ecosystem mapping”. Cet article montre à quel point c’est non négociable dans des projets d’IA en santé :
si votre “persona” se limite au médecin ou au patient, vous êtes déjà passé à côté de la moitié du problème.
Vision design à en tirer :
- La bonne échelle de conception n’est pas l’écran, ni même le “parcours utilisateur”, mais l’architecture de relations entre acteurs.
- Concevoir une interface sans se demander ce que fait le régulateur, l’assureur, le fabricant de dispositif ou le DPO, c’est construire un étage de maison sans avoir regardé les fondations.
3. Étendre le design thinking : ajouter la brique “évaluation”
Les auteur·rices partent du design thinking classique (inspiration, idéation, implémentation) mais ajoutent une quatrième étape : l’évaluation.
- Inspiration : problème et besoins définis depuis le terrain, avec les acteurs concernés.
- Idéation : co-construction de solutions, choix des données utilisées, prototypage, tests avec les acteurs.
- Implémentation : passage à l’exploitation, en arbitrant entre désirabilité, faisabilité et viabilité économique.
- Évaluation (la vraie nouveauté) :
- essai clinique (bénéfices, innocuité) ;
- évaluation technique (qualité, sécurité, performances) ;
- évaluation médico-économique (service rendu, impact sur la santé publique, sur le système de soins) ;
- certification et vigilance post-mise sur le marché.
Pour le monde du design, c’est un rappel assez brutal :
Tant que nous réduisons le “projet” à la livraison d’un prototype ou d’un produit en prod, nous restons du côté de l’intention.
La confiance, elle, se joue du côté de l’épreuve : ce qui survit à l’essai clinique, à l’audit technique, à l’évaluation économique, au temps.
Ce que ça implique pour la vision design :
- Un projet “bien designé” n’est pas seulement un projet “bien conçu”, c’est un projet qui a été pensé pour être évalué.
- Le designer ne s’arrête pas à “est-ce que c’est utile et utilisable ?” mais pousse jusqu’à “comment prouver que ça l’est, de manière robuste ?”.
On pourrait presque dire :
La quatrième étape du design thinking, c’est “rendre le design réfutable”.
4. Concevoir la confiance comme un matériau de design
Autre apport clé de l’article : la typologie de la confiance (Zucker et al.) appliquée à l’IA en santé :
- Confiance interpersonnelle : entre médecin et patient, portée par la bienfaisance, le respect de l’autonomie, la compétence.
- Confiance institutionnelle : vis-à-vis des lois, règlements, normes, contrats.
- Confiance interorganisationnelle : entre hôpitaux, éditeurs, industriels, assureurs, autorités, etc.
Dans la plupart des projets numériques, on ne traite que la première : on parle de techno “explicable”, de transparence de l’algorithme, de discours pédagogiques. C’est nécessaire, mais très loin d’être suffisant.
L’article nous oblige, en tant que designers, à changer d’échelle :
- La confiance interpersonnelle se joue dans la qualité de l’interface et de l’explication : ce que voit le médecin, ce que comprend le patient.
- La confiance institutionnelle se joue dans la visibilité des règles : affichage des certifications, gestion des consentements, traçabilité des décisions, droits des patients.
- La confiance interorganisationnelle se joue dans la conception même des flux, des contrats, des API, des dépendances.
En clair :
La confiance ne se résume pas à “rassurer l’utilisateur final”.
C’est un phénomène multi-couche, et chaque couche peut (et doit) être designée.
Concrètement, pour notre pratique :
- Un parcours utilisateur dans un projet d’IA sensible doit inclure : comment les données circulent, qui les voit, qui les contrôle, qui audite.
- Un design system dans ce contexte n’est pas seulement un catalogue de composants visuels, c’est aussi un ensemble de patterns de confiance : modales d’explication, écrans d’anonymisation, logs consultables, interfaces de supervision humaine.
- Les règles métier et les cadres réglementaires ne sont plus “contexte” : ce sont des contraintes de design à part entière.
5. Co-conception réelle : quand “multidisciplinaire” ne veut plus dire “atelier de 2h”
Le texte insiste sur un point qui résonne fort avec nos pratiques : le design thinking n’est pertinent que si la co-conception est réelle.
Dans leur modèle :
- tous les acteurs (soignants, patients, concepteurs, État) peuvent porter le problème à traiter ;
- la définition des données utilisées par l’IA est discutée collectivement ;
- les prototypes sont testés en conditions réelles, avec des critiques explicites ;
- la décision finale intègre explicitement les compromis acceptables pour chaque acteur.
C’est très loin de la version “figée” du design thinking telle qu’on la voit parfois : un atelier post-it, un sprint de 5 jours, quelques tests, et on retourne dans notre silo.
Ce que ça nous dit, côté vision design :
- Le “multidisciplinaire” n’est pas une photo de groupe, c’est un mode de gouvernance.
- Co-concevoir une IA de santé, ce n’est pas “inviter un médecin à la démo” : c’est lui donner un vrai pouvoir de dire non, de contester les choix de données, de remettre en cause les hypothèses d’usage.
- La place du patient n’est pas décorative non plus : son rôle d’expert de son vécu est une source de critères de succès que le modèle prend au sérieux.
Et, point important : les auteur·rices rappellent que tout cela nécessite leadership et management.
Autrement dit : on ne fera pas ce genre de design si on continue à considérer que le designer arrive “après” la stratégie et “avant” la mise en production.
6. Au-delà de la santé : vers une vision plus adulte du design de l’IA
Même si le terrain de l’article est la santé, le message dépasse largement ce secteur.
Dans toute IA qui touche à des vies, des droits, des trajectoires (soin, emploi, crédit, éducation, justice…), cette approche nous invite à :
- Cartographier l’écosystème d’acteurs avant de dessiner la moindre interface.
- Étendre le design thinking en y intégrant explicitement l’évaluation (scientifique, technique, économique, sociale).
- Traiter la régulation, la gouvernance des données et les normes métiers comme des matières premières de design, pas comme des contraintes subies en bout de course.
- Construire la confiance à plusieurs niveaux : dans la relation, dans les institutions, entre les organisations.
- Assumer un rôle politique du design : le designer n’est pas neutre, il participe à définir qui a du pouvoir sur quoi, qui peut dire non, qui peut comprendre et contester.
7. Conclusion : la confiance, c’est ce que le design laisse debout après l’épreuve
La conclusion de l’article est sobre : le modèle proposé permet de respecter l’éthique médicale, les normes techniques, le cycle de vie des systèmes d’aide à la décision, la protection des données et la singularité des utilisateurs.
Et surtout : le design thinking est proposé comme une alternative pour satisfaire toutes les parties prenantes à condition d’être soutenu par un haut niveau de confiance.
Pour notre “vision design”, on peut en tirer une formule simple :
Une IA “de confiance” n’est pas une IA qui “inspire confiance”.
C’est une IA dont les conditions de conception, de contrôle et de responsabilité ont été, elles-mêmes, designées.
Si on prend cette leçon au sérieux, le rôle du design change :
il ne s’agit plus seulement de rendre l’IA “utilisable” ou “désirable”, mais de rendre visibles et négociables les règles du jeu qui l’entourent.
Et ça, c’est peut-être la meilleure nouvelle pour notre discipline :
on ne nous demande plus seulement de faire “l’interface de l’IA”, mais de contribuer à l’architecture de la confiance autour d’elle.
Référence :Yaméogo, R. A., Somda, A. F., Zabsonré, P., & Colloc, J. (2025). Construire une intelligence artificielle de confiance en santé. Cahiers du digital, OpenEdition Journals. https://doi.org/10.4000/1414h
