Im Journal Science and Engineering Ethics ist kürzlich der Artikel „Toward a Clearer Process for Value Sensitive Artificial Intelligence“ von Christina Cociancig (Universität Bremen) und Prof. Hendrik Heuer, Leiter des CAIS-Forschungsprogramms „Design vertrauenswürdiger Künstlicher Intelligenz„, erschienen. Die Veröffentlichung ist aus der Zusammenarbeit im Rahmen von Cociancigs Dissertation hervorgegangen.
Der Beitrag beschäftigt sich mit der Frage, wie ethische und gesellschaftliche Werte systematisch in die Entwicklung von KI-Systemen eingebunden werden können. Value Sensitive Design (VSD) bietet hierfür einen etablierten, proaktiven und iterativen Rahmen. Er umfasst drei Untersuchungsarten:
- Konzeptionelle Untersuchungen: Wer sind die relevanten Stakeholder, und welche Werte sind für sie wichtig?
- Empirische Untersuchungen: Welche Erfahrungen, Bedürfnisse und Prioritäten haben die Stakeholder?
- Technische Untersuchungen: Wie lassen sich diese Werte konkret in die Funktionen von KI-Systemen umsetzen?
Im Artikel analysieren Cociancig und Heuer, wie diese Methodik im aufkommenden Feld der Value Sensitive Artificial Intelligence (VSAI) angewendet wird. Dazu führten sie eine systematische Literaturübersicht durch, um zu untersuchen, wie Forschende VSD in KI-Projekten beschreiben und umsetzen. Dabei verbinden die Autor:innen die theoretischen Grundlagen von VSD mit den praktischen Herausforderungen von KI-Systemen, die oft nur schwer klar abzugrenzen sind.
Ihre Analyse identifiziert sowohl theoretische als auch praktische Lücken:
- Theoretisch: KI-Systeme sind sehr unterschiedlich – von einzelnen maschinellen Lernmodellen bis zu komplexen soziotechnischen Systemen. Das erschwert die Identifikation relevanter Stakeholder und Werte.
- Praktisch: Viele Arbeiten beziehen sich zwar auf VSD, setzen aber nicht alle drei Untersuchungstypen konsequent und integriert um.
Auf Grundlage dieser Ergebnisse entwickeln die Autor:innen einen Rahmen, der diese Lücken sichtbar macht, und bieten eine Synthese aus Literaturbefunden und eigenen Empfehlungen. So entstehen konkrete, umsetzbare Strategien für die Entwicklung werteorientierter KI-Systeme. Ziel ist es, Forschenden und Praktiker:innen klare Orientierung zu geben und die Entwicklung von KI-Systemen stärker an ethischen Werten auszurichten.
—
Zum Paper:
Heuer, H. & Cociancig, C. (2026). Toward a Clearer Process for Value Sensitive Artificial Intelligence. Science and Engineering Ethics. https://link.springer.com/article/10.1007/s11948-026-00583-2
Der Artikel baut auf der früheren Arbeit „AI ethics unwrapped: an empirical investigation of ethical principles in collaborative ideation processes“ auf: https://link.springer.com/article/10.1007/s43681-024-00638-9
Er ist Teil von Christina Cociancigs Dissertation „AI ethics unwrapped: understanding and shaping ethical AI through value sensitive design“ auf: https://media.suub.uni-bremen.de/entities/publication/d390d5fc-e523-44e8-93b7-5f70325d8ad1