Wenn Sie an einem der Themen interessiert sind, bewerben Sie sich bitte über das Bewerbungsportal.
Ziel der Professur ist es, Prinzipien einer vertrauenswürdigen Künstlichen Intelligenz zu entwickeln, technisch umzusetzen und gemeinsam mit Anwendern in der Praxis zu erproben.
RS1 – Vertrauen in KI durch Verstehen:
Dieser Forschungsschwerpunkt zielt darauf ab, das Verständnis der Nutzer von KI-Systemen zu messen und zu analysieren (User Beliefs, Folk Theories). Diese Spezialisierung ist motiviert durch unsere frühere Arbeit über Nutzerüberzeugungen im Zusammenhang mit auf maschinellem Lernen basierenden Videoempfehlungssystemen. Diese Vorarbeiten werden erweitert und vertieft (Alvarado et al., 2020), insbesondere im Hinblick auf die Transparenz und Erklärbarkeit von KI-Systemen (Heuer, 2021). Bislang haben wir uns auf YouTube konzentriert. In Zukunft wollen wir auch andere Plattformen wie TikTok und ChatGPT sowie neue Social-Media-Plattformen untersuchen.
RS2 – Vertrauen in KI durch Kontrolle:
In diesem Forschungsschwerpunkt werden Methoden zur Kontrolle des Outputs von ML-basierten Systemen durch systematische Audits entwickelt. Eine wichtige Motivation dieses Forschungsschwerpunkts ist die Sicherstellung der Nicht-Diskriminierung. Diese Spezialisierung ist durch frühere Arbeiten zur Online-Radikalisierung auf YouTube motiviert (Heuer et al., 2021a). Wichtige Überlegungen sind, wie solche Audits eine Art TÜV oder Stiftung Warentest für maschinelle Lernsysteme ermöglichen könnten (Heuer, 2020).
RS3 – Vertrauen in KI durch Ko-Kreation:
Der dritte Forschungsschwerpunkt zielt darauf ab, Methoden für eine tiefgreifende Einbeziehung der Nutzer in die Gestaltung von KI-Systemen zu entwickeln. Unser Fokus auf eine solche tiefe Einbindung der Nutzer beruht auf unseren Erfahrungen bei der Entwicklung des WeSIS-Informationssystems (Molina León et al., 2022), bei dem wir Sozialwissenschaftler in interdisziplinäre Kooperationen eingebunden haben. Außerdem haben wir bereits eine umfangreiche Literaturübersicht über die verschiedenen Ansätze zur Nutzereinbindung im Allgemeinen (Jarke et al., 2021) und im Kontext der Verarbeitung natürlicher Sprache (Heuer und Buschek, 2021) erstellt. Unsere Hauptmotivation ist die Demokratisierung maschineller Lerntechniken (Heuer et al., 2021b).
Die Professur steht in der Tradition der partizipativen und nutzerzentrierten Softwareentwicklung (MacKenzie, 2013) und erweitert diese Tradition mit einem Fokus auf maschinelles Lernen (Buschek et al., 2021). Partizipative Softwareentwicklung hat eine lange Tradition (Floyd et al., 1989) und bietet zahlreiche Methoden, um Nutzer aktiv in die Softwareentwicklung einzubeziehen (Bødker et al., 2022). Unser Ziel ist es, diese Methoden im Hinblick auf künstliche Intelligenz und maschinelles Lernen als eine neue Art der Ko-Kreation weiterzuentwickeln (Bovaird, 2007; Clement et al., 2012; Gomillion, 2013; Jarke, 2021).
Ein Anwendungskontext, in dem das Forschungsprogramm Methoden der Mensch-KI-Interaktion erforschen wird, sind soziale Medien. Dieser Kontext ist besonders gut geeignet, da KI-Systeme auf Plattformen wie Facebook, YouTube, TikTok, Instagram und Twitter eine zentrale Rolle spielen. Auf YouTube werden jede Minute 500 Stunden an Inhalten hochgeladen (Hale, 2019). Künstliche Intelligenz ist erforderlich, um diese große Anzahl von Inhalten zu kuratieren und die richtigen Videos für einzelne Nutzer auszuwählen. Bis zu 70 % der auf YouTube angesehenen Videos wurden von einem KI-System ausgewählt (Solsman, 2018). Die Forschung zur Mensch-KI-Interaktion in diesem Anwendungsbereich ist gesellschaftlich relevant, weil Nutzerinnen und Nutzer in der Regel keine Kontrolle über KI-Systeme haben (Heuer, 2020) und oft nichts von der Existenz der Systeme wissen (DeVito, 2017; Eslami et al., 2015).
Soziale Medien sind gesellschaftlich relevant, weil viele Menschen sie regelmäßig nutzen. Laut dem Reuters Institute Digital News Report ist WhatsApp die beliebteste Social-Media-Plattform in Deutschland. An zweiter Stelle steht YouTube (52 %), gefolgt von Facebook (41 %) und Instagram (28 %) (Newman et al., 2022). Die meisten Social-Media-Plattformen werden von Unternehmen aus den USA oder China betrieben. Die Plattformen werden durch Werbeeinnahmen und Überwachung finanziert (Zuboff, 2019). Im Moment sind die Möglichkeiten zur Mitgestaltung begrenzt.
Referenzen
- Alvarado, O., Heuer, H., Vanden Abeele, V., Breiter, A., Verbert, K., 2020. Middle-Aged Video Consumers‘ Beliefs About Algorithmic Recommendations on YouTube. Proc. ACM Hum.-Comput. Interact. 4. https://doi.org/10.1145/3415192
- Bødker, S., Dindler, C., Iversen, O.S., Smith, R.C., 2022. Partizipatives Design, Synthesis Lectures on Human-Centered Informatics (SLHCI). Springer.
Bovaird, T., 2007. Jenseits von Engagement und Beteiligung: Koproduktion von öffentlichen Dienstleistungen durch Nutzer und Gemeinschaft. Zeitschrift für öffentliche Verwaltung 67, 846-860. - Buschek, D., Loepp, B., Hauptmann, H., Wörndl, W., 2021. Ucai 2021: Workshop zur nutzerzentrierten künstlichen Intelligenz. Mensch und Computer 2021-Workshopband.
- Clement, A., McPhail, B., Smith, K.L., Ferenbok, J., 2012. Probing, mocking and prototyping: participatory approaches to identity infrastructuring, in: Proceedings of the 12th Participatory Design Conference: Research Papers-Volume 1. ACM, pp. 21–30.
- DeVito, M.A., 2017. From editors to algorithms: A values-based approach to understanding story selection in the Facebook news feed. Digital Journalism 5, 753–773.
- Eslami, M., Rickman, A., Vaccaro, K., Aleyasen, A., Vuong, A., Karahalios, K., Hamilton, K., Sandvig, C., 2015. „I Always Assumed That I Wasn’T Really That Close to [Her]“: Reasoning About Invisible Algorithms in News Feeds, in: Proceedings of the 33rd Annual ACM Conference on Human Factors in Computing Systems, CHI ’15. ACM, New York, NY, USA, pp. 153–162. https://doi.org/10.1145/2702123.2702556
- Floyd, C., Reisin, F.-M., Schmidt, G., 1989. STEPS to software development with users, in: European Software Engineering Conference. Springer, pp. 48–64.
- Gomillion, D., 2013. The Co-Creation of Information Systems. ProQuest LLC.
- Heuer, H., 2021. The Explanatory Gap in Algorithmic News Curation, in: Multidisciplinary International Symposium on Disinformation in Open Online Media. Springer, pp. 1–15.
- Heuer, H., 2020. Users & Machine Learning-Based Curation Systems (PhD Thesis). University of Bremen, Germany.
- Heuer, H., Buschek, D., 2021. Methods for the Design and Evaluation of HCI+ NLP Systems, in: EACL 2021 Workshop on Bridging Human-Computer Interaction and Natural Language Processing (HCI+NLP Workshop).
- Heuer, H., Hoch, H., Breiter, A., Theocharis, Y., 2021a. Auditing the Biases Enacted by YouTube for Political Topics in Germany, in: Mensch Und Computer ’21.
- Heuer, H., Jarke, J., Breiter, A., 2021b. Machine learning in tutorials – Universal applicability, underinformed application, and other misconceptions. Big Data & Society 8, 20539517211017590. https://doi.org/10.1177/20539517211017593
- James Hale, 2019. More Than 500 Hours Of Content Are Now Being Uploaded To YouTube Every Minute. Tubefilter. URL https://www.tubefilter.com/2019/05/07/number-hours-video-uploaded-to-youtube-per-minute/ (accessed 1.30.20).
- Jarke, J., 2021. Co-creating Digital Public Services for an Ageing Society : Evidence for User-centric Design. Springer Nature. https://doi.org/10.1007/978-3-030-52873-7
- Jarke, J., León, G.M., Zakharova, I., Heuer, H., Gerhard, U., 2021. Beyond Participation: A Review of Co-Creation in Computing. arXiv preprint arXiv:2111.04524.
- MacKenzie, I.S., 2013. Human-Computer Interaction: An Empirical Research Perspective, 1st ed. Morgan Kaufmann Publishers Inc., San Francisco, CA, USA.
- Molina León, G., Skitalinskaya, G., Düpont, N., Klaff, J., Schlegel, A., Heuer, H., Breiter, A., 2022. Co-Creating a Research Data Infrastructure with Social Policy Researchers, in: Proceedings of 20th European Conference on Computer-Supported Cooperative Work. European Society for Socially Embedded Technologies (EUSSET).
- Newman, N., Fletcher, R., Robertson, C.T., Eddy, K., Nielsen, R.K., 2022. Reuters Institute Digital News Report 2022.
- Solsman, J.E., 2018. YouTube’s AI is the puppet master over most of what you watch.
- Zuboff, S., 2019. The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power: Barack Obama’s Books of 2019. Profile.