Onlineplatforms vormen een cruciale infrastructuur in de hedendaagse samenleving. Miljarden internetgebruikers wereldwijd gebruiken het internet om hun mening te delen2Joshua Braun and Tarleton Gillespie, 'Hosting the Public Discourse, Hosting the Public' (2011) 5 Journalism Practice 383., om te verbinden met anderen,3Jose van Dijck, The Culture of Connectivity: A Critical History of Social Media (Oxford University Press 2013). of om geld te verdienen.4Catalina Goanta, 'The New Social Media: Contracts, Consumers, and Chaos' (2023) 108 Iowa Law Review 118; Christoph Busch and others, 'The Rise of the Platform Economy: A New Challenge for EU Consumer Law?' [2016] Journal of European Consumer and Market Law 3. Het modereren van inhoud is daarin cruciaal: inhoudsmoderatie mechanismen zijn systemen die een online gemeenschap structureren om deelname (engagement) te stimuleren en misbruik tegen te gaan.5James Grimmelmann, 'The Virtues of Moderation' (2017) 17 Yale Journal of Law & Technology 42. Inhoudsmoderatie mechanismen verschillen per platform: elk platform heeft zijn eigen inhoudstypen en schaal, en inhoudsmoderatiestrategieën zijn daar op afgestemd.6Robyn Caplan, 'Content or Context Moderation? Artisanal, Community-Reliant, and Industrial Approaches' (Data & Society Research Institute 2018). Inhoudsmoderatie vormt de kern van sociale media platforms, en omvat bijvoorbeeld gebruikersvoorwaarden, richtlijnen, aanbevelingssystemen en het design van de gebruikersinterface. Onderzoek doen naar inhoudsmoderatie is belangrijk, vanwege de betekenis die deze mechanismen hebben in het faciliteren en structureren van het publieke debat, maar wordt vaak bemoeilijkt door een gebrek aan transparantie.7Frank Pasquale, The Black Box Society: The Secret Algorithms That Control Money and Information (First Harvard University Press paperback edition, Harvard University Press 2016); Paddy Leerssen, 'The Soap Box as a Black Box: Regulating Transparency in Social Media Recommender Systems' (2020) 11 European Journal of Law and Technology 51. Ten dele is dit toe te schrijven aan het feit dat ook voor platforms inhoudsmoderatie ondoorzichtig kan zijn: automatische moderatie met gebruik van kunstmatige intelligentie laat zich vaak moeilijk uit leggen, nog los van de risico's die verder met deze toepassingen gepaard gaan. Ondoorzichtigheid wordt ook veroorzaakt door de schaal waarop inhoudsmoderatie plaatsvindt: in de transparantiedatabase onder artikel 24(5) Digitaledienstenverordening zijn het afgelopen half jaar bijvoorbeeld ruim 10 miljard inhoudsmoderatiebeslissingen geüpload. Het is moeilijk - en onwenselijk - om op deze schaal elke beslissing afzonderlijk onder de loep te nemen. Ten slotte kan ondoorzichtigheid ook voor een deel de intentie zijn van platforms.8Mike Ananny and Kate Crawford, 'Seeing without Knowing: Limitations of the Transparency Ideal and Its Application to Algorithmic Accountability' (2018) 20 New Media & Society 973, 979. Het modereren van inhoud is uiteindelijk een business model, en hoe ze inhoud aanbevelen kan een belangrijk aspect zijn van hun platform: Tiktok wordt bijvoorbeeld geroemd om de effectiviteit van haar persoonlijke aanbevelingsalgoritme.9Maximilian Boeker and Aleksandra Urman, 'An Empirical Investigation of Personalization Factors on TikTok', Proceedings of the ACM Web Conference 2022 (ACM 2022) <https://dl.acm.org/doi/10.1145/3485447.3512102>. Openheid daarin staat haaks op het zakelijk belang om dat geheim te houden.