Qu'est ce que la transparence algorithmique ?

La transparence algorithmique est une ouverture sur l'objectif, la structure et les actions sous-jacentes des algorithmes utilisés pour rechercher, traiter et fournir des informations. Un algorithme est un ensemble d'étapes qu'un programme informatique suit pour prendre une décision sur un plan d'action particulier.

La question de savoir si les algorithmes qui affectent le grand public doivent être rendus transparents est controversée. Prenons l'exemple d'un programme utilisé pour déterminer les notes de crédit. Si une personne se voit attribuer une cote de crédit inférieure à ce qu'elle pense mériter, elle a le droit de faire appel de cette cote, mais pas le droit d'exiger que les algorithmes utilisés pour déterminer cette mauvaise cote soient rendus publics. En effet, l'entreprise qui a déterminé la cote de crédit de la personne a également des droits - dans ce cas, le droit de protéger sa propriété intellectuelle (PI).

Une méthode couramment utilisée pour assurer la transparence et garantir la responsabilité des algorithmes est le recours à des audits par des tiers. Cette approche est connue sous le nom de "transparence qualifiée". À la suite de plaintes déposées auprès de la Commission fédérale du commerce (FTC) concernant le géant de la recherche Google, par exemple, des algorithmes de surveillance créés par le personnel de la FTC ont révélé que les algorithmes de recherche de Google faisaient généralement apparaître ses propres services avant d'autres dans les résultats de recherche. Dans un souci de transparence, les critères utilisés pour l'évaluation, ainsi que les résultats, ont été rendus publics et expliqués. Bien que la FTC ait décidé que les actions de Google n'étaient pas anticoncurrentielles par nature, la publicité négative créée par l'enquête a incité Google à apporter des changements.

Les décisions prises par les algorithmes peuvent être opaques pour des raisons techniques et sociales, en plus d'être rendues volontairement opaques pour protéger la propriété intellectuelle. Par exemple, les algorithmes peuvent être trop complexes pour être expliqués ou les efforts pour expliquer les algorithmes peuvent nécessiter l'utilisation de données qui violent les réglementations d'un pays en matière de protection de la vie privée. Quelles que soient les raisons, les gouvernements, les entreprises et les organisations privées du monde entier étudient les moyens d'aborder la question des meilleures pratiques algorithmiques et de la responsabilité, et d'offrir au grand public autant de transparence que possible afin d'instaurer la confiance.