Bygga etiska principer i AI

AI förändrar hur universitet undervisar och fakulteter bedriver forskning. Det finns dock några kritiska utmaningar kring användningen av AI i utbildningen.

Dessa inkluderar frågor om integritet samtidigt som man samlar in betydande mängder data om studentkompetenser. Det finns också möjlighet till partiskhet, både medveten och omedveten, som kan ha en skadlig inverkan på utfall och så vidare. Det finns också farhågor angående kvaliteten på data som används; felaktigt uppmätta eller tillverkade data kan ge felaktiga resultat och skapa en riskabel beslutsplattform.

Se även: VMware Cloud på AWS för uppdragskritiska applikationer

Både övervakat och oövervakat lärande har nackdelar. Utbildningsdataset för övervakat lärande måste vara autentiskt representativt för det aktuella jobbet; annars skulle AI visa på partiskhet, enligt en undersökning av Europaparlamentet. Oövervakade inlärningsmodeller är lovande, men de är beräkningsmässigt svåra och kräver skickligt mänskligt engagemang för att modifiera och utvärdera resultatet.'

Många maskininlärningsmodeller inom utbildning är konstruerade med hjälp av data som produceras av människor. Dessa modeller kan dock bara förutse vad de har tränats att förutsäga.

Mänskliga fördomar i träningsdata kan lätt leda till beräkningsfel om utvecklare inte märker och korrigerar dem. AI-etik fastställer moraliska standarder och styrningsramar för att vägleda AI:s utveckling och lämplig tillämpning.

Här är fem saker att tänka på när du implementerar AI i akademiska program:

• Med de ramar som beskrivs ovan fortfarande på gång, måste akademiska institutioner bilda ett AI-etisk råd för att upprätthålla kontrollen över AI-program och bygga förtroende för AI-verktyg bland interna och externa intressenter. Kommittén kan ta fram en AI-färdplan och lyfta fram avgörande val som måste tas. Vilken typ av kunskap krävs till exempel och vilken styrning och standarder som måste fastställas.
• Det är avgörande att bygga tydliga etiska ramar och styrningsramar för att garantera att AI-lösningar följer regulatoriska standarder som GDPR.
• Enligt McKinsey kan AI hjälpa till att minska fördomar, men det kan också baka in och skala upp partiskhet. Enligt managementkonsultorganisationen är den största orsaken till problemet underliggande datakvalitet snarare än algoritmer. Förbearbetning av data är ett viktigt steg, inte bara för att hålla så mycket noggrannhet som möjligt, utan också för att eliminera bias och icke-optimala data.
• Effektiviteten av AI är beroende av kvaliteten på den data som behandlas. Du måste se till att det inte finns några dataläckor i dataoperationer som skulle förorena data. Uppgifterna måste också vara fullständiga, utan avvikelser, annars skulle resultaten vara felaktiga eller otillräckliga.
• Skapa infrastruktur och analysfunktioner från början. En stor mängd data krävs för att mata AI och konstruera maskininlärningsalgoritmer.