Avez-vous déjà changé de contexte
professionnel ou connaissez-vous des contextes professionnels multiples ?
J'ai envie de dire oui et non. En fait, je n'ai pas
changé de contexte professionnel, j'ai toujours évolué
dans un environnement qui touche au secteur sanitaire et médico-social
avec une notion de numérique. Ça a toujours été la
toile de fond, une toile de fond stable en termes de champs d'intervention
professionnelle mais avec des postes et des organisations d'accueil
différents : que ce soit la direction d'établissement de
santé au CHU de la Réunion, la contribution à des
fonctions nationales pendant ma phase de Matignon ou durant mes phases de
présence à la cour des comptes et les fonctions
opérationnelles maintenant dans le champ du numérique dans le
secteur privé mais c'est bien la même trame de fond
professionnelle.
Si non, êtes-vous prêt à changer
d'établissement ou à passer par un détachement hors de
votre établissement pour explorer de nouveaux contextes professionnels
et ainsi pérenniser votre employabilité dans différents
types d'établissements ?
Pas tout de suite. Je suis sur un projet qui doit être
mené sur la durée pour réussir mais évidemment
l'environnement de numérique en santé requiert de la
mobilité.
Quels sont selon vous les bénéfices des
changements de contexte professionnel ?
Il n'y a pas que des bénéfices. II ne faut pas
perdre de vue qu'il peut y avoir des changements professionnels contraints.
J'ai la chance de n'en avoir connus que peu. Je considère que c'est
plutôt bien d'avoir une phase d'évolution et de mobilité.
Il ne faut pas non plus tomber dans l'écueil de la surmobilité
qui est un peu une caractéristique de l'époque actuelle. A moins
que je n'aie pas les bons référents, ce qui est possible,
adaptés à l'époque mais j'ai toujours plutôt
considéré qu'il fallait rester au moins deux ans dans un job pour
apporter quelque chose. Après cela dépend comment on compte.
Quelle est l'unité de temps ? Je vois dans le contexte privé
119
du développement de l'activité économique
que l'unité de temps n'est pas tout à fait la même, de la
même manière que l'unité de temps à Matignon,
où on était plutôt sur de la durée, n'était
pas tout à fait la même. Arrive le seuil au-delà duquel il
faut bouger pour pouvoir apporter dans un environnement nouveau. Il faut savoir
le déterminer er en fonction de l'organisation. Quand j'étais au
CHU de la réunion, je considérais que 4 ans c'était une
bonne durée. Je n'ai jamais fait plus de 4 ans dans un job. Je ne sais
si on considère que c'est court.
Selon-vous, votre métier est-il amené
à changer dans les prochaines années ? Quels sont les changements
à envisager spécifiquement liés aux nouvelles technologies
?
Cela dépend du métier. Je serais assez en peine
de dire le métier que je fais. En tout cas le champ numérique et
santé bouge beaucoup. Par construction il est intrinsèquement
lié aux mutations des nouvelles technologies puisqu'une partie
essentielle de mon job est d'en produire. L'avenir des fonctions que j'exerce
aujourd'hui est lié aux changements que ces nouvelles technologies
apporteront ou n'apporteront pas sur la société dans son
ensemble.
En quelque mots, que savez-vous des implications de
l'intelligence artificielle dans le domaine de la santé ? Est-ce un
sujet auquel vous vous intéressez ?
Je m'y intéresse avec un angle particulier. Même
si j'ai eu quelques rudiments de formation à l'ia d'un point de vue
technique, je ne suis pas un informaticien. Je regarde le sujet du point de vue
de ses applications pratiques et de son impact sur les métiers. Avec les
fonctions que j'occupe aujourd'hui, je travaille avec des développeurs
pour entrer plus concrètement dans la turbine concrète de
production de ces algorithmes.
Selon vous, quel(s) type(s) d'impact(s)
(positifs/négatifs) les nouvelles technologies et l'intelligence
artificielle ont-elles / auront-elles sur votre métier ?
S'il n'y a pas d'lA, je n'ai plus de métier. Mon
métier c'est de faire de l'IA donc l'impact est assez puissant.
120
D'après vous, quelles sont les actions à
mettre en place pour anticiper l'évolution des changements dans votre
quotidien professionnel liés aux nouvelles technologies et plus
spécifiquement à l'intelligence artificielle à court,
moyen et long terme ?
C'est aussi une méta question mais c'est
intéressant pour moi ! Comme une partie de mon travail consiste à
aider les gens à accompagner ces évolutions, l'accompagnateur des
évolutions d'une certaine manière doit s'imbiber des
évolutions des métiers des autres elles-mêmes. Là
où il y a une répercussion sur ce que l'on fait c'est qu'il faut
qu'on prenne en compte, dans les technologies qu'on développe et les
protocoles de déploiement qu'on met en place, leur
appropriabilité par les professionnels sur le terrain. C'est là
où il faut avoir ce méta raisonnement : on peut avoir des supers
technologies hyper efficaces, si elles ne sont pas appropriables ou si elles ne
correspondent pas au temps d'évolutions des métiers, on sera
à côté de la plaque. Je prends un exemple précis de
ce que l'on fait avec Jouve sur l'IA d'automatisation de l'admission. On
travaillait depuis juillet 2019 sur une version très dense
technologiquement de solution d'IA allant très vite avec un process
d'automatisation assez complet de l'admission et en fait le Covid 19 a
amené une demande forte plus urgente un peu moins aboutie
technologiquement et on s'aperçoit que c'était la bonne
manière de faire pour qu'elle soit appropriée par les personnels
des admissions qui là maintenant sont prêts à admettre la
2ème étape technologique. Il y a à graduer la
densité technologique avec son appropriation sur le terrain.
On parle d'intelligence artificielle en comparaison
de la vision/perception que nous avons de l'« intelligence » humaine.
Si toutes les qualités humaines pouvaient être inculquées
aux machines, quelles seraient selon vous les principales à transmettre
? Pourquoi et dans quelle mesurent cela vous parait-il possible ?
Jusqu'où doit aller la machine ? Doit-elle rester un outil d'aide
à la décision ?
Il y a dans la question un présupposé qui
mériterait d'être remis en perspective qui est l'idée que
nous serions forcément meilleurs que les machines. En fait, sur toute
une série de processus, elles sont bien meilleures que nous. La
principale qualité humaine à transmettre aux machines et sur
l'essentiel des processus est la qualité à déléguer
ces processus aux machines. Ça ne vaut pas dire, et c'est cela le sens
du principe de garantie humaine qu'on a porté avec Ethik-IA qu'il faut
les laisser agir sans supervision et c'est là que se pose la question de
jusqu'où doit aller la machine. Elle doit aller jusqu'où on lui
dit d'aller et il faut qu'elle reste
121
sous supervision et que son intensité et son
degré d'exposition qu'elle emporte notamment dans le champ santé
pour la sécurité des patients apaisés, il faut avoir des
processus de garantie humaine un peu cadrés. C'est ce qu'on fait en
déployant des collèges de garantie humaine avec les premiers cas
pilotes qui se mettent en place dans le domaine dentaire sous l'égide de
l'union française pour la santé bucco-dentaire. Il y a tout un
champ de réflexion aujourd'hui sur la cognition en IA pour
l'appropriation des émotions par l'IA. La question est de savoir si l'IA
deviendra un jour ou pas consciente. Je pense que ce sont de beaux
débats mais qui n'ont pas de portée opérationnelle. Tout
dépend de la définition que l'on met derrière les termes.
Pour moi la question de la conscience est réglée au sens
où une machine qui est capable de prendre des décisions à
partir d'informations qu'on lui donne et de faire en partie de manière
autonome agit selon un processus conscient. Mais ce n'est pas la conscience
comme on l'entend nous et d'ailleurs comme on l'entend à tort, comme
quelque chose de spécifiquement humain. Il y a toute une série
d'êtres vivants qui sont conscients et qui pourtant ne sont pas humains.
La conscience n'est pas spécifiquement humaine. Si on doit le
définir un peu plus platement, c'est un processus par lequel une
entité réalise ce qu'elle est en train d'effectuer. Et là,
l'IA, quand elle exécute un process algorithmique, quand elle descend
une chaine décisionnelle, elle réalise parfaitement qu'elle est
en train d'exécuter le processus algorithmique. Simplement, à la
différence de nous, elle n'y met pas ce que l'on appelle des
émotions. Là aussi il faudrait aller un peu plus finement dans la
définition et c'est là où s'arrête ma
compétence. Comme régulateur de l'IA, je vois plutôt du
danger à ce que l'on cherche à inculquer de l'émotion
humaine à l'intelligence artificielle. Cela risque de la dérouter
de son rationalisme et cela risque de nous donner « bonne conscience
» en se disant que comme elle se rapproche de nous, on va la laisser
décider. Je pense que c'est une erreur d'analyse. Il faut la garder sous
revue humaine qui elle implique du non rationnel et de l'émotion. Pour
une bonne régulation éthique, c'est plutôt notre
matière à nous. Cela m'inquiéterait beaucoup de savoir que
l'IA ait des émotions. Les deux extrêmes du sujet sont
inquiétants : un extrémisme rationaliste serait une IA dangereuse
et une IA émotionnelle et fleur bleue qui verserait des larmes à
chaque fois qu'elle aurait des décisions compliquées serait tout
aussi dangereuse. Restons sur une ligne de partage qui est à peu
près claire à ce stade-ci de l'évolution de la
technologie. Évidemment elle va se brouiller au fil du
développement des machines. On a des machines qui exécutent des
process algorithmiques à partir de traitement de données dans une
dynamique rationnelle par essence et nous, humains régulateurs, essayons
de positionner le principe de garantie humaine qui peuvent intégrer des
éléments irrationnels.
