AI-genererad mobbning är ingen lek för barn
Det här är en opinionstext, åsikterna är skribentens egna.
Den snabba utvecklingen och tillgången till artificiell intelligens möjliggör allt råare, mer förnedrande och skadligare former av mobbning, trakasserier och våld än tidigare.
Det krävs inte längre avancerade digitala färdigheter för att kunna omvandla ursprungligt bild- eller videomaterial till något helt annat.
När vi vuxna samarbetar kan vi tillsammans värna om barnens välbefinnande och säkerhet – även digitalt.
Även om mobbning eller våld som sker på nätet inte är fysiskt, kan det vara extremt skadligt och medföra långvariga konsekvenser för den utsatta. Kränkande eller förnedrande material som sprids på nätet kan nå väldigt stora målgrupper eftersom det är svårt att få bort.
Lagstiftningen kommer ofta i efterhand, och försöker rätta till missförhållanden. De s.k. nudify-apparna, som kan ”klä av” människor på bild, har väckt stor uppmärksamhet när de har använts för att skapa falska nakenbilder av kvinnor i ledarpositioner. Samma appar används även av minderåriga som ett verktyg vid att rikta kränkningar, mobbning eller våld mot andra barn eller unga.
EU förbjöd nudify-appar i juli, men nya applikationer utvecklas hela tiden. Det är naturligtvis avgörande att lagstiftningen uppdateras och att teknologiföretagen bär sitt ansvar. Utöver detta behöver vi aktivt jobba för att förstärka barnens mediekompetens samt stödja barn och unga i att lära sig att använda AI på ett etiskt sätt.
Det är ytterst viktigt att även föräldrar och yrkesverksamma som arbetar med barn och unga uppdaterar sina egna kunskaper gällande AI. När vi vuxna samarbetar kan vi tillsammans värna om barnens välbefinnande och säkerhet – även digitalt.
Mer information, stöd och råd finns på Rädda Barnens Toppen-tjänst samt de utbildningar och föräldrakvällar som vi arrangerar.