人間の判断の境界

人間の判断の境界

Xufen Tu · 独立学際研究者 公開引用版：v1.0

AIシステムは、人が有用と感じる情報や可能性を提示できます。しかし、それだけで、人が重大な影響を伴う選択を理解したことや、誰かがその影響に責任を負ったことが確立されるわけではありません。

公開研究上の問題は、名目上の人間の関与と、実質的な人間の判断との違いです。名前や存在は説明責任を示唆していても、その人が何を理解したか、結果に疑問を呈することができたか、影響を受ける人が回答を得られるかは未解決のままになり得ます。

私の所見では、形式的な参加が実質的な責任と取り違えられることがあります。結果が人の機会、安全、権利、資源に影響するとき、これは重要です。人間の関与がどのように説明されていても、当事者はその影響を経験します。

私の現在の立場は、自動化された支援によって人や機関の責任が自動的に移転するわけではないというものです。実質的な人間の判断には、理解、説明責任、重大な影響を伴う選択に関する問いに応答する能力が関わります。関与した人を特定するだけでは、これらの性質が備わっていたとはいえません。

これは研究上の境界であり、個別事例に適用する普遍的な判定基準ではありません。AI利用に必須の構成を指定せず、人間の選択が正しいと保証せず、個別の紛争で誰が責任を負うかを決めるものでもありません。これらの問いは文脈と証拠に依存します。