Slate – C’est en Floride que l’affaire a eu lieu. Élève d’un cours de biologie à distance au Broward College, une adolescente de 17 ans a reçu un avertissement pour tricherie. La raison ? La start-up Honorlock l’aurait surprise, grâce à son intelligence artificielle (IA), en train d’agir de manière suspecte lors d’un examen en février. Le New York Times s’est penché sur ce cas après avoir reçu un mail de sa part, se présentant comme «une femme noire accusée à tort de malhonnêteté académique par un algorithme».
L’étudiante s’est vu attribuer la note de zéro à la suite de cet incident. L’IA n’est pas seule à avoir concouru à cette sanction : la bureaucratie académique, plusieurs humains et un outil de reconnaissance faciale conçu par Amazon (Rekognition) sont également responsables.
La pandémie de Covid-19 a été une période faste pour les entreprises proposant de la surveillance à distance. Ces dernières ont développé de multiples extensions de navigateurs permettant de détecter des mouvements ou de récolter des enregistrements d’écrans ou de micros d’ordinateurs, des méthodes traditionnellement utilisées par la police.
Honorlock est l’une d’entre elles. Créée par un couple de diplômés d’école de commerce, la start-up a permis de surveiller plus de 9 millions d’examens en 2021, demandant 5 dollars par test et 10 dollars par étudiant. 40 millions de dollars ont été investis dans le projet au total (environ 37,4 millions d’euros), la grande majorité depuis le début de la pandémie.
Une question d’interprétation
L’adolescente n’est pas la première personne à se plaindre d’une fausse allégation de triche due à un logiciel de surveillance, mais elle est l’une des rares à avoir reçu une «preuve»: une vidéo d’elle d’une durée de cinquante secondes.
Les cours à distance se développaient déjà avant la pandémie pour des raisons d’emploi du temps notamment, mais ils comportent des limites. En 2021, par exemple, un élève en histoire de l’art a envoyé un mail à son professeur à propos d’un cours préenregistré avant de découvrir que ce dernier était décédé depuis deux ans.
Lors de l’examen qui a eu lieu en février, l’adolescente a respecté toutes les règles recommandées par Honorlock: ne pas utiliser son téléphone et être seule dans la pièce, entre autres. Elle a pourtant reçu par la suite un mail de sa professeure lui indiquant qu’elle avait été repérée par le dispositif en train de tricher. On peut y lire: «Vous avez été observée en train de regarder plusieurs fois en bas et sur les côtés avant de répondre aux questions.»
Après un rendez-vous avec cette professeure (que l’adolescente n’avait jamais rencontrée auparavant), où elle a essayé d’expliquer qu’elle réfléchissait simplement en regardant ses mains, le verdict est tombé: «responsable de ne pas s’être conformée aux instructions». Cooper Quintin, membre de l’ONG Electronic Frontier Foundation, se révolte: «Qui fixe son examen pendant l’épreuve entière? C’est ridicule, ce n’est pas humain. Des comportements normaux sont sanctionnés par ce logiciel.»
Repéré par Nina Bailly
Repéré sur The New York Times
Source : Slate (France)
Diffusion partielle ou totale interdite sans la mention : Source : www.kassataya.com
