AlgorithmWatch est une ONG (organisation non gouvernementale) à but non lucratif fondée à Berlin en 2016-2017. pour améliorer la transparence de la gouvernance. des processus de prise de décision algorithmiques utilisés pour dire, prédire ou prédéterminer les décisions humaines ou prendre des décisions automatiquement.. Historique Divers chercheurs lanceurs d'alerte (ex : Dirk HelbingETH de Zurich/TU Delft/Complexity Science Hub de Vienne et Peter SeelesUSI, à Lugano s'inquiètent de l'opacité liée à l'usage de certains algorithmes, estimant que quand le code informatique « fait loi », les algorithmes devraient être rendus transparents (When code is law, algorithms must be made transparent)..
AlgorithmWatch a été fondée à Berlin en 2017 par Matthias Spielkamp, Katharina Anna Zweig, Lorena Jaume-Palasí et Lorenz Matzat, travaillant d'abord à inventorier ces algorithmes et leur utilisation à l'échelle du territoire allemand., tout en cherchant à traiter du sujet dans le monde.
En novembre 2020, l'association suisse AlgorithmWatch Switzerland a mis en ligne sa propre organisation, et son propre site Web.
Objectifs & prises de position
Lutte contre les inégalités et discriminations induites par les algorithmes Pour AlgorithmWatch, les processus de prise de décision automatisée (dits ADM pour Automated decision-making) .
Ces systèmes ADM peuvent perpétuer voire renforcer les inégalités et les discriminations. Les études d'AlgorithmWatch ont ainsi montré que même dans des pays supposés avancés dans ces domaines, comme l'Allemagne et l'Autriche, les offres d'emploi (publiées sur Facebook notamment) étaient présentées à différents publics sur la base de , interdisant l'égalité homme-femme face à l'emploi (ex : une offre de poste d'éducateur/éducatrice était plus susceptible d'être montré aux femmes qu'aux hommes) K. Floder, The algorithm of the Public Employment Service Austria (AMS): Technology as a retrograde step for gender equality in Austria |URL=https://www.floder.at/wp-content/uploads/2020/08/Essay_ILL-2.pdf.. L'objectif d'AlgorithmWatch est ainsi de veiller à la transparence de cette algorithme.
L'ONG, dans un projet AutoCheck (formations et guide sur les systèmes de prise de décision automatisés), veut aider les organismes de promotion de l'égalité, et notamment les centres de conseil anti-discrimination, dans leurs actions d'éducation, de conseil et de soutien envers les personnes discriminées, en leur permettant de mieux discerner la discrimination qui s'effectue à leur égard via les systèmes ADM, sans que l'on sache à ce jour comment ces personnes ou les centres de conseil peuvent traiter le problème.
Prises de position
Responsabilité juridique des créateurs d'ADM AlgorithmWatch estime dans son manifeste que tant que les procédures de prise de décision algorithmique sont des le .
Effets des processus décisionnels algorithmiques sur les comportements humains AlgorithmWatch a également pour objectif d'analyser - en prônant les analyses transparentes et collaboratives. - les effets des processus décisionnels algorithmiques sur le comportement humain, mettant en évidence des conflits éthiques., notamment dans le monde de l'industrie numérique et de l'industrie en général qui selon AlgorithmWatch refuse de se fixer des lignes rouges, désamorçant les directives éthiques pour l'intelligence artificielle..
Opposition aux algorithmes de reconnaissance faciale L'ONG s'inquiète, avec d'autres du développement des algorithmes de reconnaissance faciale automatisée dans les lieux publics ; AlgorithmWatch et AlgorithmWatch Switzerland s'inscrivent conjointement dans l'initiative citoyenne européenne (coalition d'organisations de la société civile) Reclaim Your Face demandant l'interdiction de la surveillance biométrique de masse.
Opposition aux algorithmes de prédiction pénitentiaire En Espagne, la justice catalane utilise dans toutes ses prisons un algorithme RisCanvi pour l'aider à décider si un détenu emprisonné peut être libérés sur parole, mais l'outil n'est guère transparent constate AlgorithmWatch
Utilisation de l'intelligence artificielle dans le secteur public Michele Loi et Matthias Spielkamp ont étudié et comparé les contenus réglementaires de 16 ensembles de lignes directrices relatives à l'utilisation de l'intelligence artificielle dans le secteur public. Au regard des exigences de l'ONG en matière de philosophie et responsabilité de la gouvernance, les auteurs estiment que .
Avis sur les applications de contact-tracing utilisés durant la pandémie de Covid-19 Après que la lutte contre la pandémie de Covid-19 ait justifié la création pour les smartphones de diverses applications de recherche de contacts numériques de type Covid-tracker (environ 50 applications dont 22 dans l'UE), l'ONG a produit une étude sur leur efficacité réelle un an après sur la base de preuves issues de la littérature scientifique et de l'utilisation réelle, concluant à des résultats, jusqu'alors encore contradictoires et à des difficultés de comparabilité.
Financements AlgorithmWatch est financé par plusieurs fondations allemandes dont la Fondation Bertelsmann qui vise plus de transparence et de contrôle de la société civile sur les algorithmes et leurs utilisations, la Fondation Schöpflin, et la Fondation Hans Böckler.
AlgorithmWatch Switzerland est financé par Engagement Migros, le fonds de développement du groupe Migros, un conglomérat d'entreprises coopératives suisses de la grande distribution.
Annexes Articles connexes Système de crédit social Analyse de la complexité des algorithmes Algorithmique Correction d'un algorithme Biais algorithmique Lanceur d'alerte
Liens externes
AlgorithmWatch.ch
Bibliographie de Barros Fritz, R., & Biermeier, K. (2019) Bestehende und künftige Regelungen des Einsatzes von Algorithmen im HR-Bereich, Gutachten AlgorithmWatch. Loi, M. (2020). People Analytics must benefit the people. An ethical analysis of data-driven algorithmic systems in human resources management. Algorithmwatch. Thouvenin, F., & Früh, A. (2020). Automatisierte Entscheidungen: Grundfragen aus der Perspektive des Privatrechts. Schweizerische Zeitschrift für Wirtschafts-und Finanzmarktrecht, SZW, (1), 3-17.
Notes et références
Catégorie:Algorithmique Catégorie:Éthique appliquée