Jugement humain et responsabilité dans les systèmes multiagents

Jugement humain et responsabilité dans les systèmes multiagents

Xufen Tu · Chercheuse interdisciplinaire indépendante · Version publique de citation : v1.0

Lorsque plusieurs systèmes automatisés contribuent à un résultat, leur participation combinée peut rendre la responsabilité plus difficile à situer. Les personnes touchées peuvent savoir que de nombreux participants sont intervenus sans savoir qui reste tenu de leur répondre.

J’observe dans mes recherches qu’un plus grand nombre de participants n’apporte pas nécessairement une responsabilité plus claire. Même lorsque chaque contribution semble utile, les conséquences du résultat global peuvent être difficiles à expliquer ou à traiter. Cette difficulté compte surtout pour les personnes qui doivent vivre avec ces conséquences.

Ma position actuelle est que la participation distribuée ne supprime pas, à elle seule, la responsabilité humaine ou institutionnelle. Un résultat qui affecte des personnes soulève toujours la question publique de savoir qui peut en répondre. Le nombre ou les capacités des systèmes concernés ne peuvent régler cette question.

Cette position n’attribue la responsabilité dans aucun cas particulier. Elle ne prescrit ni l’organisation des systèmes automatisés ni la résolution de leurs désaccords. Des circonstances différentes appellent un jugement humain attentif, et ce jugement peut lui-même être erroné.

La question publique est de savoir si les personnes touchées peuvent identifier quelqu’un qui répond d’un résultat lourd de conséquences, même lorsque de nombreuses contributions automatisées sont en jeu.