Het Nederlandse bedrijf AIOW werkt aan een sociale mediaplatform dat de fundering van Google, Facebook en andere concurrerende platformen moet laten schudden. Naast oplossingen voor de privacyproblemen, nepaccounts en trollen en overvloedige advertenties zal het bedrijf zijn gebruik van algoritmen beperken.
Dat is een groot pluspunt, want algoritmen hebben een grotere invloed dan je misschien zou denken. Twee weken terug hadden we het over doomscrolling, en dit is precies wat algoritmen stimuleren. Ze meten bijvoorbeeld wat je leuk vindt, in welke categorieën je interesses allemaal vallen en welke onderwerpen het belangrijkst zijn om te laten zien.
Niet perfect
Ze maken alleen nogal eens fouten. De Nederlandse Belastingdienst kwam daar bijvoorbeeld achter bij het gebruiken van software voor het opsporen van fraudeurs. Sommige kandidaten waren helemaal geen fraudeurs, terwijl ze dat volgens het algoritme wel waren. De software wordt gemaakt door mensen. Die maken wel eens fouten.
Vorige week verklaarde voormalig Facebook-werkneemster en klokkenluider Frances Haugen dat Instagram bij meisjes anorexia uitlokt, suïcidale gedachten op kan wekken en zelfs democratieën ondermijnt. Algoritmen zijn hier een belangrijk onderdeel van. ‘Normale’ social mediabedrijven hebben namelijk een winstoogmerk, en advertenties zijn het belangrijkste onderdeel van het verdienmodel. Als een onderwerp iets extremer is dan gemiddeld levert dat extra aandacht op bij de gebruikers. Zoveel mogelijk aandacht is precies waar het om draait.
Dit soort algoritmen hebben een mechanisme dat zichzelf versterkt, omdat het je gedrag op den duur verandert. Mensen schrijven een enorme waarde toe aan wat ze te zien krijgen, terwijl ze niet begrijpen hoe het selectiemodel precies werkt. We hechten dus te veel waarde aan algoritmen.
AIOW doet het beter
Binnen AIOW zijn ook algoritmen aanwezig om te bepalen welke onderwerpen je precies leuk vindt, maar de veiligheid en mentale gezondheid van de gebruiker zijn op dit platform belangrijker. AIOW is erg transparant over de datamodellen die het gaat gebruiken en in welke mate deze bepalend zijn voor jouw tijdlijn. Er wordt gebruikgemaakt van filters die bepalen of onderwerpen wel goed voor je mentale gezondheid zijn. Gezond verstand speelt hierin een belangrijke rol. Algoritmen zijn niet heilig, want ze zijn door mensen bedacht. Samen veranderen we sociale media!
