Menschliches Urteilsvermögen und Verantwortung in Multiagentensystemen

Menschliches Urteilsvermögen und Verantwortung in Multiagentensystemen

Xufen Tu · Unabhängige interdisziplinäre Forscherin · Öffentliche Zitierversion: v1.0

Wenn mehrere automatisierte Systeme zu einem Ergebnis beitragen, kann ihre gemeinsame Beteiligung die Zuordnung von Verantwortung erschweren. Betroffene wissen möglicherweise, dass viele Beteiligte mitgewirkt haben, ohne zu wissen, wer ihnen weiterhin Rechenschaft schuldet.

Meine Forschungsbeobachtung ist, dass mehr Beteiligte nicht unbedingt klarere Rechenschaftspflicht mit sich bringen. Selbst wenn jeder Beitrag nützlich erscheint, können die Folgen des Gesamtergebnisses schwer zu erklären oder zu behandeln sein. Diese Schwierigkeit betrifft vor allem Menschen, die mit diesen Folgen leben müssen.

Meine aktuelle Position ist, dass verteilte Beteiligung für sich genommen menschliche oder institutionelle Verantwortung nicht aufhebt. Ein Ergebnis, das Menschen betrifft, wirft weiterhin die öffentliche Frage auf, wer dafür einstehen kann. Anzahl oder Leistungsfähigkeit der beteiligten Systeme können diese Frage nicht klären.

Diese Position weist in keinem konkreten Fall Verantwortung zu. Sie schreibt nicht vor, wie automatisierte Systeme organisiert oder wie Meinungsverschiedenheiten zwischen ihnen gelöst werden sollten. Unterschiedliche Umstände verlangen sorgfältiges menschliches Urteilsvermögen, und auch dieses kann sich irren.

Die öffentliche Frage ist, ob Betroffene jemanden identifizieren können, der für ein folgenreiches Ergebnis einsteht, selbst wenn zahlreiche automatisierte Beiträge daran beteiligt sind.