Julgamento humano e responsabilidade em sistemas multiagente

Julgamento humano e responsabilidade em sistemas multiagente

Xufen Tu · Pesquisadora interdisciplinar independente Versão pública para citação: v1.0

Quando vários sistemas automatizados contribuem para um resultado, sua participação conjunta pode dificultar a localização da responsabilidade. As pessoas afetadas pelo resultado podem saber que houve muitos participantes sem saber quem continua devendo responder a elas.

Minha observação de pesquisa é que mais participantes não necessariamente trazem uma prestação de contas mais clara. Mesmo quando cada contribuição parece útil, as consequências do resultado geral podem ser difíceis de explicar ou tratar. Essa dificuldade importa sobretudo às pessoas que precisam conviver com essas consequências.

Minha posição atual é que a participação distribuída não elimina, por si só, a responsabilidade humana ou institucional. Um resultado que afeta pessoas ainda levanta uma questão pública sobre quem pode responder por ele. O número ou a capacidade dos sistemas envolvidos não podem resolver essa questão.

Essa posição não atribui responsabilidade em nenhum caso específico. Não prescreve como os sistemas automatizados devem ser organizados nem como divergências entre eles devem ser resolvidas. Circunstâncias diferentes exigem julgamento humano cuidadoso, e o próprio julgamento humano pode estar equivocado.

A preocupação pública é se as pessoas afetadas conseguem identificar alguém que responda por um resultado com consequências importantes, mesmo quando há muitas contribuições automatizadas envolvidas.