Action en cours

Nos Systèmes

Pour des systèmes techniques intelligibles

#   #   #

Contexte et enjeux

L’expédition Nos Systèmes initiée en 2016 avait pour objectif de concevoir ou recenser les moyens de rendre les systèmes techniques plus intelligibles, au profit du dialogue, de la confiance et de l’innovation. Et pour ambition d’aider les utilisateurs, les citoyens comme les entreprises, à répondre concrètement aux questions qu’ils se posent.

Comment faire que les systèmes techniques soient attentifs aux publics qu’ils calculent ? Comment rendre les systèmes techniques plus intelligibles ? Quel équilibre entre liberté d’entreprendre, sécurité et transparence ? Quels changements, quelles opportunités quand un système technique est plus intelligible ?

Une deuxième saison NosSystèmes entend améliorer la responsabilité sociale des algorithmes.

5 pistes d'innovation

• La responsabilité par la médiation : organiser le dialogue et la médiation entre les systèmes et la société ;
• L’explicabilité : expliquer, se signaler, se faire comprendre, rendre lisible ;
• La jouabilité : l’interaction pour comprendre, améliorer et rendre réactif ;
• La symétrie : vers une parité des traitements ;
• La justicialibilité (open science) : encourager les « bonnes pratiques » d’ouverture et de partage.

Enseignements

  • Un système technique plus intelligible
    ouvre de nouvelles opportunités.
  • Si les systèmes ne sont jamais responsables,
    c’est d’abord parce qu’ils ne
    sont jamais joignables : il est nécessaire
    d’organiser la responsabilité par
    le développement des modalités de
    dialogue.
  •  La motivation des décisions n’est pas
    négociable : les systèmes doivent s’expliquer
    pour faire société.
  • Jouer pour comprendre, interagir pour
    améliorer et donner accès aux paramètres
    pour rendre le contrôle aux utilisateurs.
  • La symétrie des traitements, l’égalité
    et la réciprocité d’information sont le
    meilleur levier pour rendre accessible
    aux uns les stratégies des autres.
  • Encourager les pratiques vertueuses
    d’open science, de publication de données,
    de dialogue et de décloisonnement.

4 idées à retenir

  • Rendez l’information que vous calculez sur lui à l’utilisateur !
  • Ouvrez les paramètres : laissez l’utilisateur accéder et modifier les paramètres.
  • Assumez et organisez la responsabilité de votre système.
  • Encouragez les pratiques d’ouverture, de décloisonnement et de réciprocité.

L'équipe

Hubert Guillaud
Hubert Guillaud
Rédacteur en chef d'InternetActu
Thierry Marcou
Thierry Marcou

Partenaires