Ana Maria Corrêa, attachée au Centre des droits et technologies de la KULeuven et qui a mené sa thèse à l'ULB, évoque avec nous la discrimination de genre qui se produit dans le monde digital.
Qui n’a jamais cliqué sur « Tout accepter », sans lire la politique de confidentialité, lorsqu’un site nous demande d’autoriser les cookies ? Et qu’en est-il des algorithmes ou des caractères protégés ? Ce sont tant de termes qui animent notre « quotidien digital » et dont on ne sait finalement que peu de choses. Et ce sont ces derniers qui influent la discrimination sur le web.
Ana Maria Corrêa, attachée au Centre des droits et technologies (CiTiP) de la KULeuven et dont la thèse doctorale, menée à l’ULB, a porté sur la gouvernance éthique et la responsabilité des plateformes en ligne sur la discrimination, nous éclaire sur les cyber-discriminations de genre.
Ces discriminations peuvent prendre plusieurs formes. La post-doctorante en aborde ici trois qui affectent principalement les femmes.
La première est l’inégalité quant à l’accès aux technologies numériques. À l’échelle mondiale, seuls 60% des hommes ont accès à internet. Chez les femmes, le taux est encore plus bas, 40% d’entre elles ayant accès à internet.
La seconde forme de discrimination est le harcèlement amplifié, voire réinventé. Ainsi, le corps féminin n’est pas à l’abri de Deep Fake, qui est la cause d’une forme émergeante de harcèlement. Le Deep Fake est l’ensemble des techniques qui permettent d’altérer des images existantes. Par exemple, la création d’images à caractère pornographiques, notamment en remplaçant un visage par un autre, pour humilier.
Enfin, la chercheuse aborde l’exclusion de certains services par la décision d’algorithmes. Pour bien comprendre comment cela fonctionne, Mme Corrêa nous donne un exemple frappant. En effet, dans certaines banques, pour éviter de faire un prêt qui ne pourrait être remboursé, des algorithmes éliminent les demandeurs d’emploi ayant eu une interruption de salaire de plus de deux mois. Mais lorsque l’on se penche davantage sur ces deux mois, les femmes sont des proies particulièrement faciles puisqu’un congé maternité « représente en moyenne plus de deux mois et est payé par la sécurité sociale », souligne-t-elle.
La chercheuse pointe également les caractères dits « protégés ». Ce sont des données personnelles telles que le genre, l’âge ou encore l’orientation sexuelle qui ne peuvent être utilisées sans votre consentement et sont protégées quelles que soient les circonstances dans lesquelles elles sont recueillies (lors d’un prêt bancaire ou d’un achat effectué en ligne par exemple).
Ceci n’exclut pas l’utilisation de Proxy. Il s’agit d’un caractère pouvant être discriminatoire même s’il n’est pas protégé. Par exemple, la couleur de peau est un caractère protégé alors que la localisation n’en est pas un. Or, certains quartiers regroupent des personnes d’une même origine ethnique. La localisation peut donc être discriminatoire.
Les données protégées ont pour but d’éviter toute discrimination dans la publicité ciblée. Mme Corrêa donne comme exemple le cas d’une poursuite à l’égard de Facebook après qu’un mouvement de femmes les a attaqués en justice. Ces dernières ont prouvé qu’elles ne recevaient pas de publicité pour des offres d’emploi chez T-Mobile, et ce en raison de leur genre. À la suite de cette affaire, Facebook a promis des dédommagements mais aussi, et surtout, la création d’une plateforme permettant la publication d’offres d’emploi sans utilisation d’algorithmes discriminant le genre et l’origine ethnique.
L’Union européenne, bien consciente de l’existence de cette discrimination, entend y remédier. Outre les procès en Cours de justice contre la violence et le harcèlement, un débat au sujet des algorithmes est à l’ordre du jour. Né dans le milieu académique, il s’immisce de plus en plus dans les institutions formelles. Ainsi, l’UE a débloqué des fonds et a créé des actions contre le harcèlement, y compris celui en ligne. Elle accorde aussi une grande importance à la régulation des données personnelles par le RGPD. La protection des données (voir plus haut) et l’utilisation transparente de celles-ci sont les maîtres mots.
En parallèle, la Commission européenne propose un autre projet concernant la régulation de l’intelligence artificielle. Pour la chercheuse « ce serait important qu’il passe et il a toutes les chances ». La Commission exige que la décision automatique soit compréhensible par un humain. De plus, elle fait appel à la diversité dans les équipes créant ces algorithmes. Par exemple la mixité homme/femme, « les femmes étant généralement plus sensibles à tout ce qui peut être discriminatoire. »
Rappelons qu’internet peut être un outil formidable, et une aide dans la lutte contre la discrimination. Ana Maria Corrêa cite ainsi le mouvement #MeToo et note que le hashtag MeToo a donné une énorme visibilité aux femmes victimes d’agressions sexuelles.