マルチエージェントシステムにおける人間の判断と責任

マルチエージェントシステムにおける人間の判断と責任

Xufen Tu · 独立学際研究者 公開引用版：v1.0

複数の自動化システムが一つの結果に寄与すると、それらの複合的な関与によって責任の所在が分かりにくくなることがあります。影響を受ける人は、多くの参加者が関わったことを知っていても、自分に対して誰が引き続き説明責任を負うのか分からないことがあります。

私の研究上の所見は、参加者が増えても説明責任が必ずしも明確にはならないということです。個々の寄与が有用に見えても、全体の結果がもたらす影響は説明や対処が難しい場合があります。その困難が最も重要になるのは、その影響を受けながら生きなければならない人々にとってです。

私の現在の立場は、参加が分散していることだけで人間や機関の責任がなくなるわけではないというものです。人に影響する結果については、誰がその説明責任を負えるかという公的な問いが残ります。関与するシステムの数や能力では、その問いに決着をつけられません。

この立場は、個別の事例の責任を帰属させるものではありません。自動化システムをどう構成すべきか、それらの意見の相違をどう解消すべきかを定めるものでもありません。状況ごとに慎重な人間の判断が求められ、人間の判断自体も誤ることがあります。

公的な関心は、多くの自動化された寄与が関わる場合でも、影響を受ける人が、重大な影響を伴う結果に対して説明責任を負う人を特定できるかどうかです。