Responsible AI als Herausforderung für akademischen Kompetenzerwerb
Journal
#responsibleAI. Beiträge zum uDay XXIV. 21. Mai 2026
Type
conference paper
Date Issued
2026
Author(s)
Abstract (De)
Ziel des Beitrags ist es, anhand konkreter Beispiele aus der Universität St. Gallen, die Herausforderungen eines Erwerbs von kritischer KI-Kompetenz aufzuzeigen und hochschuldidaktische Lösungsvorschläge zu präsentieren.
Die Herausforderungen und Chancen künstlicher Intelligenz sind seit der weltweiten Durchsetzung von ChatGPT national und international intensiv diskutiert worden. Flankierend hierzu wurde sehr schnell im Rahmen allgemein und hochschuldidaktischer Diskurse auf die Stärkung des kritischen und ethischen Umgangs mit KI gedrängt. Diese so-genannte „Critical AI Literacy“ entpuppt sich aber bei näherem Hinsehen als hohe Hürde, gleichwohl sie fest in verschiedene gegenwärtige und häufig zitierte Kompetenzmodelle eingeschrieben ist (Ehlers et al., 2023; Ehlers, 2020; Leopold et al., 2025). Der Grund hierfür ist die Komplexität solcher Kompetenzen einerseits, die sich als schwer greifbare Kompetenzbündel definieren. Andererseits die Frage der Problemstellung, an der sich eine solche Kompetenz messen müsste (Weinert, 2001).
Oft wird kritische oder ethische KI-Kompetenz als Output- und qualitätssichernde Fähigkeit verstanden, die auf die Richtigkeit eines ausgegebenen Artefakts abzielt. Der Beitrag vertritt demgegenüber die These, dass Responsible AI als akademische Kompetenz nur dann hinreichend entwickelt werden kann, wenn Studierende sowohl Input- wie auch Output-Praktiken systematisch an ethische und verantwortungsbezogene Kriterien binden und diese in einem selbstreflexiven Umgang mit dialogischen Sprachmodellen, d.h. LLM-basierten KI-Tools, begründen. „Critical AI Literacy“ wird dabei als Responsible-AI-Kompetenz verstanden, die die ethische Reflexion von Kontextsetzung, Bedeutungszuschreibung und Nutzungshandlungen von KI umfasst.
Die Herausforderungen und Chancen künstlicher Intelligenz sind seit der weltweiten Durchsetzung von ChatGPT national und international intensiv diskutiert worden. Flankierend hierzu wurde sehr schnell im Rahmen allgemein und hochschuldidaktischer Diskurse auf die Stärkung des kritischen und ethischen Umgangs mit KI gedrängt. Diese so-genannte „Critical AI Literacy“ entpuppt sich aber bei näherem Hinsehen als hohe Hürde, gleichwohl sie fest in verschiedene gegenwärtige und häufig zitierte Kompetenzmodelle eingeschrieben ist (Ehlers et al., 2023; Ehlers, 2020; Leopold et al., 2025). Der Grund hierfür ist die Komplexität solcher Kompetenzen einerseits, die sich als schwer greifbare Kompetenzbündel definieren. Andererseits die Frage der Problemstellung, an der sich eine solche Kompetenz messen müsste (Weinert, 2001).
Oft wird kritische oder ethische KI-Kompetenz als Output- und qualitätssichernde Fähigkeit verstanden, die auf die Richtigkeit eines ausgegebenen Artefakts abzielt. Der Beitrag vertritt demgegenüber die These, dass Responsible AI als akademische Kompetenz nur dann hinreichend entwickelt werden kann, wenn Studierende sowohl Input- wie auch Output-Praktiken systematisch an ethische und verantwortungsbezogene Kriterien binden und diese in einem selbstreflexiven Umgang mit dialogischen Sprachmodellen, d.h. LLM-basierten KI-Tools, begründen. „Critical AI Literacy“ wird dabei als Responsible-AI-Kompetenz verstanden, die die ethische Reflexion von Kontextsetzung, Bedeutungszuschreibung und Nutzungshandlungen von KI umfasst.
Language
German
Keywords
Kritische KI-Kompetenz
AI Literacy
Kompetenzerwerb
Kontextkompetenz
HSG Classification
contribution to education
Refereed
Yes
Division(s)