/misc
Navigation

Un algorithme est soumis à la Loi

Un algorithme est soumis à la Loi

Coup d'oeil sur cet article

On exprime souvent des craintes que les processus automatisés en viennent à marginaliser le raisonnement humain et à déterminer nos droits.

Pour prévenir une telle dérive, plusieurs insistent sur la nécessité de préserver le droit de s’adresser à un décideur indépendant qui sera en mesure d’examiner la situation en tenant compte de l’ensemble des circonstances.

Ainsi, il importe que les lois nous protègent contre les décisions « irrévocables » qui émaneraient de processus automatisés. 

Dans cet esprit, une décision rendue en avril dernier par le Tribunal administratif du travail affirme qu’un droit de peut être perdu simplement en raison du fonctionnement d’un algorithme.

Un plaignant contestait son congédiement.  Il avait complété un formulaire sur le site web de la Commission des normes du travail.

Il a rempli deux sections du formulaire : l’une relative à des représailles ou une suspension liée à la maladie d’un membre de sa famille et l’autre concernant un congédiement fait sans cause juste et suffisante. Par erreur, il inscrit la date du 7 octobre 2013 comme date de début d’emploi.

À la fin du formulaire, il clique sur la mention: « je désire porter plainte. Une fois cette option choisie, il reçoit un message confirmant la transmission de sa plainte accompagnée d’un numéro de confirmation. Mais le message indique aussi que selon les renseignements fournis, il ne peut utiliser le service en ligne pour déposer sa plainte pour congédiement fait sans cause juste et suffisante car il ne cumule pas deux ans de service continu dans son emploi.

Une responsable des systèmes informatiques de la Commission est venue expliquer à la juge que le formulaire électronique est conçu de manière à faire en sorte que si la date de début d’emploi inscrite par le plaignant correspond à moins de deux ans de service continu au moment du dépôt de la plainte, un message de rejet est généré automatiquement. Par contre, la copie papier du formulaire électronique indique que le plaignant a bel et bien coché qu’il porte plainte pour congédiement fait sans cause juste et suffisante le 14 avril 2015.

Le Tribunal, constate que le plaignant a bel et bien déposé une plainte écrite pour contester son congédiement.

La juge explique qu’il est impossible qu’un algorithme fasse perdre au plaignant le droit de s’adresser au Tribunal. Une erreur d’inscription quant à la date d’embauche provoquant un « rejet automatique » du formulaire n’équivaut pas à une absence de plainte, pas plus que cela équivaut au rejet de la plainte.

La juge continue en rappelant que la loi est d’ordre public. Elle doit recevoir une interprétation libérale et large de sorte que ses dispositions fassent apparaître le droit plutôt que de faire mourir prématurément une demande en justice. La Loi prévoit qu’il faut le faire dans un délai de 45 jours. C’est ce qu’a fait le plaignant. 

Cette décision affirme, à partir d’un principe bien établi dans notre droit qu’une loi doit recevoir une interprétation large.  Ce principe permet dans ce cas précis d’écarter une application de la loi qui ferait prévaloir un processus automatique fondé sur un algorithme.

L’erreur d’inscription de la date commise par le requérant et qui a engendré un « rejet automatique » ne doit pas avoir pour conséquence de faire perdre le droit de contester une décision devant le tribunal.

Voilà une décision qui vient affirmer la supériorité de la loi sur un processus automatisé.  Il faut sans doute y lire un indice clair de la volonté des tribunaux de ne pas laisser prévaloir des décisions issues de processus automatisés qui auraient pour conséquence de faire disparaître les droits des individus.

C’est la loi qui exprime nos droits et obligations.  Les algorithmes doivent être conformes aux lois, non l’inverse!

VOIR: Bulletin de l'Association canadienne du droit des technologies de l'information, Un algorithme ne peut faire perdre un droit de s’adresser au Tribunal