Les algorithmes provoquent un malaise dans les services sociaux

Un texte d'Alexandre Touchette

Depuis novembre 2017, le ministère de la Santé et des Services sociaux a commencé à déployer l’Outil de cheminement clinique informatisé (OCCI) dans les différentes régions de la province. Il s’agit d’un long questionnaire qui est utilisé par des intervenants comme des travailleurs sociaux et des ergothérapeutes pour évaluer les besoins des patients qui sont suivis à domicile. L’OCCI compte plus de 50 pages de questions qui prennent de deux à six heures à remplir en fonction de la lourdeur des cas, selon les témoignages que nous avons obtenus.

Un outil trop rigide

L’application de ce logiciel dans un contexte de relation d’aide soulève plusieurs inquiétudes chez les travailleurs sociaux qui ont accepté de nous parler. Leurs craintes sont liées au fait qu'un même questionnaire sert à l’évaluation d’une clientèle très diversifiée, qui va des aînés aux patients en soins palliatifs, en passant par les personnes qui ont des problèmes de santé mentale, un handicap physique ou encore une déficience intellectuelle.

Le logiciel impose de poser des questions dans l’ordre établi par l'algorithme. Par exemple, si l’intervenant demande à une personne âgée ce qu'elle a mangé pour déjeuner, mais qu'elle commence à expliquer que sa fille l'aide à préparer des repas, l'intervenant doit l'arrêter parce qu’il n’est pas rendu à la section sur les proches aidants.

Il n’est pas possible de passer d'une section à l'autre du questionnaire pour suivre le flux de la conversation, donc si la personne a un discours décousu parce qu'elle a un début de démence ou qu'elle est psychotique, le processus devient rapidement très lourd pour le patient et l'intervenant.

Un frein à la relation d’aide

Le fait que ce long questionnaire informatisé est utilisé lors des premières rencontres avec les usagers suscite un malaise chez de nombreux travailleurs sociaux, parce qu’il ne permet pas, selon eux, de faire une évaluation clinique dans une attitude de véritable écoute.

D’avoir à poser pendant des heures une longue série de questions rend difficile l’établissement d’une relation de confiance avec l’usager, selon Marjolaine Goudreau, qui est travailleuse sociale au RECIFS, un regroupement d'intervenants sociaux. « C’est complètement absurde. Premièrement, on est branché sur notre ordinateur, on écrit nos choses, on n’a pas de contact visuel avec la personne. On n'est pas en relation d’aide, vraiment pas », dit-elle.

Un sondage sur l’impact de l’OCCI mené auprès de 1000 intervenants sociaux par l’Alliance du personnel professionnel et technique de la santé et des services sociaux (APTS) a mesuré l’ampleur du malaise causé par cet outil : 56 % des répondants estiment que le fait d'avoir à utiliser ce logiciel altère leur jugement clinique. Une situation qui place des professionnels comme les travailleurs sociaux dans un dilemme éthique, selon Marjolaine Goudreau.

«  »

De faux résultats à la clé

Une autre source de malaise est liée au fait que l'algorithme d’intelligence artificielle de l’OCCI génère de lui-même des recommandations de services en fonction des réponses au questionnaire. L’objectif étant d’aider les intervenants à cerner des besoins qui auraient pu leur échapper.

Or, la moitié des répondants au sondage de l’APTS estiment que la synthèse produite par le logiciel ne répond pas adéquatement aux besoins des usagers, une situation qui porte atteinte au jugement professionnel des travailleurs sociaux, selon le vice-président de l’APTS, Stéphane Léger. « Ce genre de standardisation, pour certains cas, c’est correct et c’est adéquat, dit-il, mais pour d’autres cas, les gens disent : "Non, je ne suis pas confortable avec ce que me recommande cette synthèse." »

Des travailleurs sociaux nous ont confié, sous le couvert de l’anonymat, que l’algorithme faisait régulièrement des erreurs en signalant qu’un usager avait des idées suicidaires ou qu’il souffrait de problèmes de nutrition, alors que ce n’était pas le cas, selon leur jugement clinique. Des situations qui obligent l’intervenant à passer encore plus de temps sur ces dossiers pour expliquer pourquoi il est en désaccord avec les résultats de l’algorithme.

«  »

Trop de temps perdu

Au bout du compte, l’évaluation des besoins qui se faisait auparavant en une seule rencontre avec les anciens outils du Ministère prendrait maintenant deux ou trois visites à domicile. Une proportion de 58 % des répondants du sondage de l’APTS avaient besoin de deux à quatre heures pour remplir l’OCCI au domicile de l’usager; 37 % avaient ensuite besoin de deux à trois heures supplémentaires au bureau et 33 %, de plus de trois heures. Le RECIFS estime donc que les travailleurs sociaux passent maintenant la moitié de leur temps à des tâches administratives au détriment des services directs à la population.

Un travail déshumanisé

De croire qu’un algorithme puisse faire un meilleur travail d’évaluation que des professionnels de la santé constitue une dérive, selon le professeur Angelo Soares, du Département d'organisation et de ressources humaines à l’École des sciences de la gestion de l’UQAM. Il juge que l’utilisation de ce logiciel, présenté comme un outil d’aide à la décision, risque de mener à une simplification et à un appauvrissement des évaluations qui reposent sur des compétences émotionnelles et sociales qui échappent à l’algorithme.

« Ce que j’ai devant moi, c’est un être humain dans toute sa complexité, sa diversité et ses caractéristiques qui le rendent unique. Ce n’est pas un boulon. Les approches de gestion Lean traitent d’une certaine manière les patients comme des objets et amènent donc une déshumanisation du travail en santé », affirme Angelo Soares.

Le Ministère justifie son approche

Dans un courriel, une porte-parole du ministère de la Santé et des Services sociaux affirme être au courant des problèmes liés au déploiement de l'OCCI et précise que les intervenants sont accompagnés dans les changements de pratiques. Parmi les avantages du logiciel, on affirme qu'il augmente le temps passé auprès des usagers et qu'il leur permet de participer plus directement à l’évaluation de leurs besoins. On considère que le questionnaire permet d'harmoniser le vocabulaire utilisé lorsque plusieurs personnes interviennent auprès d’un usager et de ses proches.

Le Ministère soutient aussi que le logiciel augmente l'efficacité du travail des intervenants tout en permettant de générer en temps réel des statistiques qui peuvent ensuite être utilisées pour améliorer les services. On a également constaté lors de projets pilotes que le temps nécessaire pour remplir le questionnaire diminue avec l’expérience de l’utilisateur. Toutefois, le Ministère dit ne pas avoir de données sur le temps moyen requis pour procéder à une évaluation complète.

On insiste aussi sur le fait que la synthèse des facteurs de risque effectuée par le logiciel est un outil d’aide à la décision qui vient appuyer le jugement clinique de l’intervenant. Ce dernier peut décider d’ajouter ou de retirer des éléments de la synthèse en fonction des problèmes et des besoins qu’il a reconnus chez l'usager.

Les délégués de l’APTS ont de leur côté demandé une rencontre avec des hauts fonctionnaires pour leur faire part de leurs inquiétudes.