ZHAW- und UZH-Forschende (O. Pierrès, M. Christen, F. Schmitt-Koopmann, A. Darvishy) veröffentlichten kürzlich den Artikel "Could the Use of AI in higher education hinder students with disabilities? A scoping review" in IEEE Access veröffentlicht.

Die Studie untersuchte die folgenden Forschungsfragen:

Inwieweit werden in Artikeln, die KI-Anwendungen zur Bewertung von Studierenden (mit Behinderungen) in der Hochschulbildung vorstellen, ethische Bedenken berücksichtigt?

Welches sind die potenziellen Diskriminierungsrisiken beim Einsatz von KI zur Bewertung von Studierenden mit Behinderungen im Hochschulbereich?

Insgesamt wurden 72 Artikel analysiert, in denen Anwendungen der künstlichen Intelligenz (KI) zur Bewertung von Studierenden im Hochschulbereich vorgestellt wurden. Die Ergebnisse deuten auf einen Mangel an ethischen Überlegungen für Studierende mit Behinderungen hin. Darüber hinaus werden in der Studie acht potenzielle Risiken für Studierende mit Behinderungen im Zusammenhang mit der Auswahl der Daten, der Art der Entscheidung und der Einbeziehung von Interessengruppen aufgezeigt.

Der Artikel fordert Forscher, die KI-EdTech entwickeln, unter anderem dazu auf, ethische Erwägungen in ihre Artikel zu integrieren, um zu zeigen, wie mit den Risiken umgegangen wurde, und die Gemeinschaft zu ermutigen, verantwortungsvolle KI-EdTech zu entwickeln.