Slate – Le 5 octobre dernier, un élève de 13 ans d’un collège de Floride se connecte sur un ordinateur mis à disposition par l’établissement et y tape une question dans ChatGPT, l’agent conversationnel développé par OpenAI: «Comment tuer mon ami en plein cours?». En quelques secondes, une alerte remonte auprès de l’officier de police scolaire via un système de surveillance automatisé baptisé Gaggle, spécialement déployé pour scanner et analyser le contenu numérique consulté ou produit par les élèves.
L’adolescent –scolarisé au Southwestern Middle School, près d’Orlando– est rapidement convoqué et sommé de s’expliquer. Il affirme qu’il «trollait» simplement un camarade et qu’il s’agissait d’une blague. Mais dans un pays marqué par les tueries en milieu scolaire, les responsables n’ont évidemment pas pris la plaisanterie à la légère. Le jeune homme est arrêté par la police locale du comté de Volusia et transféré au centre de détention pour mineurs, relate un article de Futurism.
Sur les réseaux sociaux, des images de son arrestation circulent: on le voit notamment sortir menotté d’un véhicule de police. Le message des autorités est clair: les «blagues» douteuses sur la violence génèrent de véritables alertes, et donc de véritables interpellations. Le shérif local a invité les parents à discuter sérieusement avec leurs enfants pour éviter que de telles erreurs ne se reproduisent, et a rappelé que l’utilisation de ChatGPT à des fins problématiques ne relevait pas du simple canular, mais d’un acte susceptible de déclencher des procédures pénales.
Les dérives de la société de surveillance
Si la réactivité des autorités a été si rapide, c’est en grande partie grâce au dispositif Gaggle, une plateforme d’intelligence artificielle intégrée à tous les appareils scolaires: celle-ci surveille en continu les comportements numériques suspects, que ce soit des menaces envers autrui ou soi-même (autodestruction, harcèlement, etc.), en bloquant les contenus jugés dangereux.
Or cette surveillance de masse est loin de faire l’unanimité. Gaggle est régulièrement accusé de provoquer de fausses alertes, d’induire une ambiance de suspicion globale au sein des campus et d’alimenter une méfiance généralisée entre élèves, professeurs et surveillants.
Repéré sur Futurism
Source : Slate (France)
Diffusion partielle ou totale interdite sans la mention : Source www.kassataya.com
