In zunehmendem Maße sollen Biometrik und Künstliche Intelligenz im “Bildungsbereich”, im weitesten Sinne des Begriffs, gebündelt werden: Eine neue Allianz will nun für mehr Akzeptanz dieser fatalen technischen Entwicklung werben. Doch geht es wirklich darum – oder um die Ermöglichung von Totalüberwachung und -kontrolle?

Tatsächlich drohen aus dieser Wissenschaft, die Grenzen sprengt und die politischen Folgen ihrer Erkenntnisse selten in letzter Konsequenz abschätzt: Das Thema ist nicht erst seit dem Manhattan-Projekt und Dürrenmatts “Die Physiker” ein Dauerbrenner. Allen heutigen ethischen Standards und Compliance-Selbstverpflichtungen zum Trotz haben die meisten Forschungseinrichtungen und akademischen Thinktanks dennoch wenig Skrupel, Grenzen zu verschieben, Tabus zu brechen und vor allem neue Technologien zu entwickeln, die ein erhebliches Missbrauchspotenzial entfalten können.

Manchmal kann man sogar schon vorher recht genau wissen, wofür ihre Neuerungen dereinst zweckentfremdet werden – so wie im Fall einer neuen internationalen “Bildungsoffensive” namens EdSAFE AI Alliance, die nun vom auf den Bildungsbereich spezialisierten Unternehmen Riid und dem gemeinnützigen Konsortium DXtera gemeinsam ins Leben gerufen wurde, um, so beschreibt es das Schweizer Portal “uncutnews.ch“, das öffentliche Vertrauen in den Einsatz künstlicher Intelligenz im Bildungssektor zu stärken. Denn dieses sei, so die Überzeugung der Allianz, vor allem “durch Probleme mit auf Gesichtserkennung basierenden Prüfungssystemen erschüttert worden“.

Bereits eingetretene Risiken

Tatsächlich handelt sich hier erkennbar um eine Art PR-Zweckbündnis, mit dem wohlbegründete und mehr als berechtigte Sorgen großer Bevölkerungsgruppen in eine Technologie zerstreut werden sollen – und das, obwohl sich die Risiken einer durch Künstliche Intelligenz amplifizierten Biometrik bereits realisiert haben. Der Blick auf die Social-Scoring-Abgründe in China samt Echtzeit-Personentracking und algorithmengestützter Verhaltensvorhersagen zeigt, dass Orwells 1984 nicht erreicht, sondern bei weitem übertroffen wurde.

Zwar will die neue Allianz “freiwillige Benchmarks” und “Standards zur Messung der Qualität und Zuverlässigkeit von KI-Technologien” im Bildungsbereich festlegen – doch dabei handelt es sich letztlich nur um Selbstverpflichtungen, die von den Marktteilnehmern und vor allem interessierten Regierungen und ihren Geheimdiensten absehbar ebenso ernst genommen werden wie etwa die Bestimmungen des Atomabkommens durch den Iran. Erst vor wenigen Wochen hatte die Association for Computing Machinery (ACM) Richtlinien für Ferntests und Prüfungsaufsicht veröffentlicht, nachdem Bedenken hinsichtlich der “Effektivität und Fairness” von Prüfungssystemen, die biometrische Gesichtsdaten verwenden, laut wurden. Man fühlt sich hier an die Totgeburt “Google Glasses” vor acht Jahren erinnert, die digitale Wunderbrille, die keine öffentliche Akzeptanz erlangen konnte, da die meisten Menschen sie als Stalker- und Spionageinstrument wahrnahmen – obwohl sie im reinen Privatgebrauch für ganz andere Zwecke gedacht war.

So könnte es auch bei der Biometrik-KI-Anwendung für Schulen und Unis sein. Was fürs Klassenzimmer oder den Hörsaal gedacht ist, landet am Ende als nützliche Anwendungsmöglichkeit beim Militär oder beim Staatsschutz – und wird gegen “Feinde” in Inneren und Äußeren eingesetzt.

Dieser Artikel erschien auch auf Report24.