Tot waar reikt de impact van wat mensen creëren met AI? Dit was een van de vragen die de 14-jarige studenten Alice Gomes, Beatriz Vasconcellos en Letícia de Oliveira, van het 9e jaar van het Desafio College en Cursus in Recife, aanzetten tot het ontwikkelen van detool Pense Bem.
Gerelateerde nieuwsberichten:
- Docenten gebruiken kunstmatige intelligentie om studenten te inspireren en te betrekken.
- RN zal Braziliaanse supercomputer voor Kunstmatige Intelligentie huisvesten.
- AI en valse video's overtreffen nepnieuws als grootste bedreiging voor de democratie.
"In Pense Bem kun je publicaties invoeren die je van plan bent te publiceren, zodat het de risico's kan berekenen, zoals dit kan escaleren en of dit een negatieve domino-effect kan hebben", legt Beatriz Vasconcellos, een van de studenten die Pense Bem heeft ontwikkeld, uit.
Deplatformis al, maar moet nog worden verbeterd om officieel te kunnen worden gelanceerd.
"Denk na over de impact voordat je publiceert", is de oproep aan gebruikers. Vervolgens worden verschillende vragen gesteld om te beoordelen of de inhoud een risico vormt bij publicatie.
De vragen zijn onder meer:
- Deze inhoud bevat naaktheid, intieme of seksuele materialen van iemand minder dan 18 jaar - of van een ander persoon zonder toestemming?
- Is dit gegenereerd of bewerkt door AI?
- Zijn er herkenbare echte personen?
- Hebben ze toestemming gegeven?
- Toont het de feiten zoals ze werkelijk zijn gebeurd?
De platforme classificeert vervolgens de inhoud op basis van risico en wijst op mogelijke aanpassingen aan de inhoud en de post, zodat deze geen desinformatie verspreidt en schade veroorzaakt.
"We hebben gezien in verschillende onderzoeken dat nepnieuws een grote impact kan hebben op het leven van mensen, zelfs op het persoonlijke vlak, op socialisatie. Een nepnieuwsbericht over een persoon, gemaakt door iemand, kan direct psychologisch schade veroorzaken", evalueert Beatriz.
De Organisatie van de Verenigde Naties voor Onderwijs, Wetenschap en Cultuur (UNESCO)heeft desinformatieals de belangrijkste wereldwijde bedreiging voor 2025 en de komende jaren, voor klimaatverandering, milieu-crisis, migraties, geweld en terrorisme.
Studenten hebben onderzoek gedaan en gesprekken gevoerd met docenten, studenten en experts om het onderzoek uit te werken - Foto:Renan Braz/Afbeelding
Democratie
De drie studenten hebben onderzoek gedaan en gesprekken gevoerd met docenten, studenten en experts om het onderzoek uit te werken.
"Er zijn veel negatieve gevolgen mogelijk door desinformatie.En ik denk dat wat het meest schokkend is, wat het meest verrassend is, tenminste voor mij, is dat ik ontdekt heb hoe veel desinformatie onze democratie kan beïnvloeden. Zowel tijdens verkiezingsjaren als in niet-verkiezingsjaren kan de democratie worden aangetast door desinformatie, wanneer nepnieuws wordt verspreid", zei Beatriz.
Voor Alice Gomes, ook lid van het team, helpt de AI, maar kan ook ervoor zorgen dat mensen niet nadenken over wat ze online of zelfs via WhatsApp-groepen van familie ontvangen.
"Dit zorgt ervoor dat een persoon, wanneer hij informatie ontvangt, niet eerst controleert of deze waar of onjuist is. Hij neemt de informatie gewoon en deelt deze, zonder te weten of deze waar is of niet, zonder de bron ervan te kennen", zei ze.
Alice onthult dat het project haar heeft geholpen om de manier waarop ze informatie, deelt en creëert op het internet te veranderen.
We zien een nieuwsbericht online of zelfs in onze dagelijkse apps en denken dan meteen 'Oh, ik ga dit verder onderzoeken'. Ik zou zeggen dat het onze manier van denken als persoon heeft verbeterd.
"Uw antwoord is om anderen ook te helpen hun dagelijks leven en kritisch denken te verbeteren", zegt ze.
Het derde lid van het team, Letícia de Oliveira, benadrukt datde studie haar hielp om de digitale wereld op een andere manier te zienen de belangrijkheid van mediawijsheid en onderwijs over digitale media.
"We merken dat desinformatie een groot probleem is, dat de bevolking en mensen om ons heen beïnvloedt. Ik heb gezien, zowel in de familiegroep als op Instagram, dat mensen worden beïnvloed door nepnieuws en digitale informatie", zei ze.
"Ik denk dat het onderwerp van digitale desinformatie een onderwerp was dat wel besproken werd, maar nooit echt diepgaand is onderzocht. En met dit project, heb ik meer kennis over desinformatie en hoe we anderen kunnen helpen om het te bestrijden", aldus de studente.
Vervolg
Pense Bem heeft ook vervolgprojecten gericht op het onderwijs, met spelletjes en zelfs een cursus digitale geletterdheid, die nog in ontwikkeling is.
Dit is niet het eerste project van het trio, die ook in de competitie deplatform Fato ou Boato, om valse waarheid te identificeren. Hier kan een link naar het artikel worden ingevoerd, zodat het kan worden gecontroleerd op juistheid.
De drie studenten zijn enthousiast over het bezoek aan de NASA.en, met het project, hebben ze meer interesse in technologie ontwikkeld. Letícia en Alice overwegen een carrière in de technologie. Beatriz wil echter arts worden.