Aufbau ethischer Prinzipien in der KI

KI verändert die Art und Weise, wie Universitäten lehren und Lehrkräfte forschen. Allerdings bringt der Einsatz von KI in der Bildung auch einige kritische Herausforderungen mit sich.

Dazu gehören Datenschutzprobleme bei der Erfassung großer Datenmengen zu den Kompetenzen der Schüler. Es besteht auch die Möglichkeit bewusster und unbewusster Voreingenommenheit, die sich nachteilig auf die Ergebnisse auswirken kann usw. Es gibt auch Bedenken hinsichtlich der Qualität der verwendeten Daten; ungenau gemessene oder gefälschte Daten können zu falschen Ergebnissen führen und eine riskante Entscheidungsgrundlage schaffen.

Siehe auch: VMware Cloud auf AWS für unternehmenskritische Anwendungen

Sowohl überwachtes als auch unüberwachtes Lernen haben Nachteile. Der Trainingsdatensatz für überwachtes Lernen muss authentisch repräsentativ für die jeweilige Aufgabe sein, sonst würde die KI voreingenommen sein, wie aus einer Untersuchung des Europäischen Parlaments hervorgeht. Unüberwachte Lernmodelle sind vielversprechend, aber rechnerisch schwierig und erfordern qualifiziertes menschliches Eingreifen, um die Ergebnisse zu ändern und zu bewerten.

Viele Modelle des maschinellen Lernens im Bildungsbereich werden mithilfe von Daten erstellt, die von Menschen erzeugt wurden. Diese Modelle können jedoch nur das vorhersagen, was sie vorherzusagen gelernt haben.

Menschliche Voreingenommenheiten in Trainingsdaten können leicht zu Rechenfehlern führen, wenn Entwickler sie nicht bemerken und korrigieren. Die KI-Ethik legt moralische Standards und Governance-Rahmenwerke fest, um die Entwicklung und angemessene Anwendung von KI zu leiten.

Hier sind fünf Dinge, die Sie bei der Implementierung von KI in akademischen Programmen bedenken sollten:

• Da die oben beschriebenen Rahmenbedingungen noch in Arbeit sind, müssen akademische Institutionen einen KI-Ethikrat bilden, um die Kontrolle über KI-Programme zu behalten und bei internen und externen Stakeholdern Vertrauen in KI-Tools aufzubauen. Das Komitee kann einen KI-Fahrplan entwickeln und wichtige Entscheidungen hervorheben, die getroffen werden müssen. Welche Art von Wissen ist beispielsweise erforderlich und welche Governance und Standards müssen festgelegt werden.
• Der Aufbau expliziter ethischer und Governance-Rahmen ist von entscheidender Bedeutung, um zu gewährleisten, dass KI-Lösungen regulatorischen Standards wie der DSGVO entsprechen.
• Laut McKinsey kann KI dabei helfen, Vorurteile abzubauen, aber sie kann auch zu Verzerrungen führen und diese verstärken. Laut der Unternehmensberatung liegt die Hauptursache des Problems eher in der zugrunde liegenden Datenqualität als in den Algorithmen. Die Vorverarbeitung von Daten ist ein wichtiger Schritt, nicht nur um so viel Genauigkeit wie möglich zu erreichen, sondern auch um Verzerrungen und nicht optimale Daten zu eliminieren.
• Die Wirksamkeit von KI hängt von der Qualität der verarbeiteten Daten ab. Sie müssen sicherstellen, dass bei Datenoperationen keine Datenlecks auftreten, die die Daten verunreinigen würden. Die Daten müssen außerdem vollständig und ohne Unstimmigkeiten sein, da die Ergebnisse sonst fehlerhaft oder unzureichend wären.
• Erstellen Sie von Anfang an Infrastruktur- und Analysefunktionen. Um KI zu füttern und Algorithmen für maschinelles Lernen zu erstellen, sind enorme Datenmengen erforderlich.