En ny rapport från Center for Democracy and Technology (CDT) varnar för att teknik används på skolor för att blockera explicit innehåll och flagga elever som riskerar att skada sig själva eller andra. Detta kan istället skada redan utsatta elever, särskilt de som tillhör hbtq+gruppen och andar minoritetsgrupper, berättar tidningen ThePinkNews.
Rapporten, som publicerades den 20 september, granskar lärare, elever och föräldrars upplevelser när det kommer till studenters datasekretess, innehållsfiltrering och övervakning av elevers aktiviteter online, samt artificiell intelligens som används inom utbildningssektorn. I studien, där över 3000 elever, föräldrar och lärare deltog, framkom det att hbtq+elever löper större risk att drabbas negativt av onlineövervakning jämfört med andra elever.
Nästan 30 procent av de hbtq+elever som deltog i studien rapporterade att de eller någon annan elev hade blivit outade mot sin vilja, något som kan skapa stora problem. Medan hälften av hbtq+eleverna fått tillsägelser eller på annat sätt straffats för något de gjort online, var det 39% av övriga elever som haft liknande erfarenheter.
Samtidigt sägs i rapporten att AI-filter ofta blockerar innehåll relaterat till hbtq+ämnen, vilket därmed beskrivs som att det finns ett digitalt förbud mot böcker.
Algoritmer som används av skolor för att scanna elevernas användning av datorer har visats sig automatiskt flagga och därmed rapportera ord som ”gay” och ”lesbian”. Att scanna elevers digitala användning motiveras med att det skall öka säkerheten, men, sägs i rapporten, i dessa fall blir det tvärt om.
Studien visar också på en allmän förvirring om artificiell intelligens roll i klassrummet. Majoriteten av de tillfrågade önskar mer information och utbildning om hur man använder dessa teknologier på ett korrekt sätt.
Trots varningar och tidigare forskning kring detta ämne, uppger 57 procent av lärarna i rapporten att de inte fått någon grundlig utbildning i AI.
CDT understryker att skolor måste bli mer medvetna om hur de använder dessa teknologier för att garantera att de inte diskriminerar eller skadar elever. rapporterar ThePinkNews.
