{"id":2845,"date":"2020-08-09T21:46:11","date_gmt":"2020-08-09T19:46:11","guid":{"rendered":"https:\/\/faugeron.net\/?p=2845"},"modified":"2020-08-09T21:48:51","modified_gmt":"2020-08-09T19:48:51","slug":"algorithmes-la-bombe-a-retardement","status":"publish","type":"post","link":"https:\/\/faugeron.net\/?p=2845","title":{"rendered":"Algorithmes : la bombe \u00e0 retardement"},"content":{"rendered":"\n
\"\"<\/figure>
\n

Auteur: Cathy O’Neil<\/p>\n\n\n\n

Qu’on le veuille ou non, les algorithmes envahissent notre quotidien: cr\u00e9dit, recherche d’emploi, achats et l\u00e0 o\u00f9 cela devient particuli\u00e8rement risqu\u00e9, recherche d’information.<\/p>\n\n\n\n

Au travers d’exemples vari\u00e9s mais toujours tr\u00e8s, trop, am\u00e9ricains, on passe en revue les biais important de ces m\u00e9thodes de filtrages et de plus en plus d’automatisation de d\u00e9cision.<\/p>\n\n\n<\/div><\/div>\n\n\n\n\n\n\n\n

Pourquoi ces algorithmes sont dangereux ?
Pour 3 raisons majeures :
1. Ils sont masqu\u00e9s, personne ne sait qu’ils tournent et les crit\u00e8res qui sont pris en compte pour obtenir leur score ne sont pas connus de leur victime.
2. Il n’y a en g\u00e9n\u00e9ral pas de boucle de r\u00e9troaction : une fois le score d\u00e9livr\u00e9, il n’y a pas de correctif possible li\u00e9 \u00e0 des erreurs potentielles. Plus grave, personne ne semble \u00eatre responsable des erreurs produites (et comme on le voit ici, les erreurs sont nombreuses et parfois graves). Une des raisons est que l’on ne sait pas coder l’\u00e9quit\u00e9, les ADM (Armes de Destruction Math\u00e9matique) sont donc par essence in\u00e9quitable.
3. Le mod\u00e8le lui m\u00eame alimente un cycle malsain et contribue \u00e0 entretenir une r\u00e9alit\u00e9, il nous classe sans qu’on le sache dans des groupes dont les comportements ressemblent au notre… \u00e0 premi\u00e8re vue.<\/p>\n\n\n\n

La discr\u00e9tion et la personnalisation du ciblage emp\u00eachent les privil\u00e9gi\u00e9s de s’apercevoir que les m\u00eame mod\u00e8les d\u00e9truisent aussi d’autres vies.<\/p>P.298<\/cite><\/blockquote>\n\n\n\n

Les processus reposant sur le Big Data n’inventent pas le futur, il codifient le pass\u00e9.<\/p>P. 304<\/cite><\/blockquote>\n\n\n\n

Ces algorithmes repr\u00e9sentent un risque majeur pour nos soci\u00e9t\u00e9s, entre autre du fait de la concentration incroyables des GAFAM. Ceux-ci utilisent, sans aucun contr\u00f4le, leurs propres algorithmes pour nous dire quoi acheter, quoi \u00e9couter, quelles informations regarder et m\u00eame pour qui voter.<\/p>\n\n\n\n

Une autre probl\u00e9matique est celle de la charge de la preuve : c’est syst\u00e9matiquement aux victimes d’apporter la preuve d’une d\u00e9faillance ou d’un biais de l’algorithme. Jamais \u00e0 l’entreprise de prouver le bien fond\u00e9 et l’innocuit\u00e9 de son programme.<\/p>\n\n\n\n

Cela fait froid dans le dos, d’autant que lors de la pol\u00e9mique sur l’application StopCovid, de nombreuses voix se sont \u00e9lev\u00e9es pour \u00ab\u00a0s’insurger\u00a0\u00bb contre l’ing\u00e9rence que cela repr\u00e9sentait, mais j’en ai entendu tr\u00e8s peu (aucune ?) pour dire que notre vie priv\u00e9e \u00e9tait d\u00e9j\u00e0 largement vendue \u00e0 Facebook et Google, sans contr\u00f4le d’aucune sorte, voire m\u00eame avec notre assentiment pour alimenter leur profit.<\/p>\n\n\n\n

L’objectif de cet ouvrage est d’appeler, a minima \u00e0 la vigilance, au mieux \u00e0 la r\u00e9volte.<\/p>\n\n\n

\u2b50<\/span>\u2b50<\/span>\u2b50<\/span>\u2b50<\/span><\/p>\n\n\t\n<\/svg>\n<\/span>\n\n\n\t\n<\/svg>\n<\/span><\/span>\n\n\t\n<\/svg>\n<\/span>\n\n\n\t\n<\/svg>\n<\/span><\/span>\n\n\t\n<\/svg>\n<\/span>\n\n\n\t\n<\/svg>\n<\/span><\/span>\n\n\t\n<\/svg>\n<\/span>\n\n\n\t\n<\/svg>\n<\/span><\/span>\n\n\t\n<\/svg>\n<\/span>\n\n\n\t\n<\/svg>\n<\/span><\/span>Note\u00a0: 3.5\u00a0sur 5.<\/span><\/div>\n\n\n

Tweet<\/a><\/div>\n","protected":false},"excerpt":{"rendered":"","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_jetpack_newsletter_access":"","_jetpack_dont_email_post_to_subs":false,"_jetpack_newsletter_tier_id":0,"_jetpack_memberships_contains_paywalled_content":false,"_jetpack_memberships_contains_paid_content":false,"footnotes":"","jetpack_post_was_ever_published":false},"categories":[82,4],"tags":[180],"class_list":["post-2845","post","type-post","status-publish","format-standard","hentry","category-essai","category-lectures","tag-gafam"],"jetpack_featured_media_url":"","jetpack_shortlink":"https:\/\/wp.me\/p74TSi-JT","jetpack_sharing_enabled":true,"_links":{"self":[{"href":"https:\/\/faugeron.net\/index.php?rest_route=\/wp\/v2\/posts\/2845","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/faugeron.net\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/faugeron.net\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/faugeron.net\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/faugeron.net\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=2845"}],"version-history":[{"count":3,"href":"https:\/\/faugeron.net\/index.php?rest_route=\/wp\/v2\/posts\/2845\/revisions"}],"predecessor-version":[{"id":2849,"href":"https:\/\/faugeron.net\/index.php?rest_route=\/wp\/v2\/posts\/2845\/revisions\/2849"}],"wp:attachment":[{"href":"https:\/\/faugeron.net\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=2845"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/faugeron.net\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=2845"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/faugeron.net\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=2845"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}