Juicio humano y responsabilidad en sistemas multiagente

Juicio humano y responsabilidad en sistemas multiagente

Xufen Tu · Investigadora interdisciplinaria independiente Versión pública para citar: v1.0

Cuando varios sistemas automatizados contribuyen a un resultado, su participación conjunta puede dificultar localizar la responsabilidad. Las personas afectadas por el resultado pueden saber que hubo muchos participantes sin saber quién sigue debiendo responder ante ellas.

Mi observación de investigación es que una mayor cantidad de participantes no necesariamente aporta una rendición de cuentas más clara. Incluso cuando cada contribución parece útil, puede resultar difícil explicar o abordar las consecuencias del resultado global. Esa dificultad importa sobre todo a quienes deben vivir con esas consecuencias.

Mi postura actual es que la participación distribuida no elimina, por sí sola, la responsabilidad humana o institucional. Un resultado que afecta a las personas sigue planteando una pregunta pública sobre quién puede responder por él. La cantidad o la capacidad de los sistemas involucrados no pueden resolver esa pregunta.

Esta postura no atribuye responsabilidad en ningún caso particular. No prescribe cómo deben organizarse los sistemas automatizados ni cómo deben resolverse los desacuerdos entre ellos. Las distintas circunstancias requieren un juicio humano cuidadoso, y el propio juicio humano puede ser erróneo.

La preocupación pública es si las personas afectadas pueden identificar a alguien que responda por un resultado de consecuencias importantes, incluso cuando intervienen muchas contribuciones automatizadas.