Kooperationspartner des Projektes sind das Gemeinschaftswerk der Evangelischen Publizistik gGmbH (GEP) im Rahmen der Produktentwicklung von religionen-entdecken.de, das Institut für Medienforschung und Medienpädagogik der TH Köln und die CB Management GmbH. Gefördert wird "CoCoKI" durch die Bundeszentrale für Kinder- und Jugendmedienschutz (BzKJ).
Soziale Medien gehören längst zum Alltag von Kindern, weisen aber Gefährdungspotenziale und Interaktionsrisiken auf und sind aus Sicht des Jugendmedienschutzes für diese Zielgruppe ungeeignet. Kommunikationsräume, in denen sich Kinder unbeschwert und sicher mit ihren Freundinnen und Freunden austauschen können, fehlen. Das soll mithilfe von "CoCoKI" geändert werden.
Im Vorhaben "CoCoKI – Co-Constructing KI" arbeiten Kinder und Entwickler:innen in einem co-konstruktiven Prozess gemeinsam daran, ein soziales Netzwerk für Kinder im Alter von neun bis 13 Jahren zu konzipieren und einen Prototyp zu entwickeln. Die Bausteine für das neue soziale Medium – ausgerichtet an den UN-Kinderrechten "Schutz, Befähigung und Teilhabe" – legen den Fokus auf Achtsamkeit, soziales Lernen und ein gelingendes Miteinander. Für gängige Funktionen eines Netzwerks, darunter Empfehlungen, Feedback, Resonanz und Inhalte-Moderation, sollen die Möglichkeiten von Künstlicher Intelligenz und neuartigen Algorithmen für kindgerechte Gestaltung ausgetestet werden.
Eine Gruppe von Kindern und Jugendlichen aus einer evangelischen Kirchengemeinde wirkt an dem Projekt mit. Dazu kommen die jungen Menschen in Workshops zusammen, um die Interessen und Bedarfe ihrer Zielgruppe einfließen zu lassen. Aus den Ergebnissen entsteht im Anschluss ein in eingeschränktem Umfang programmierter Prototyp, der von den beteiligten Kindern getestet wird.
Im Projekt gewonnene Ergebnisse werden dokumentiert und mit der interessierten Fachwelt diskutiert. An die konzeptionellen Vorarbeiten mit Beteiligung der Kinder und an die erfolgte Prototyp-Anwendung kann zukünftig angeknüpft werden, um neue Onlineformate für sichere Kommunikationsräume für Kinder im digitalen Umfeld zu schaffen.
"CoCoKI – Co-Constructing KI" gehört zu den sechs innovativen Maßnahmen mit überregionaler Bedeutung, die die Bundeszentrale für Kinder- und Jugendmedienschutz (BzKJ) zur Weiterentwicklung des Kinder- und Jugendmedienschutzes für eine Umsetzung in 2023 fördert.
Kurzvorstellung der Projektpartner:
Der Seitenstark e.V. agiert seit 2003 im Bereich des positiven und erzieherischen Jugendmedienschutzes. Im Bereitstellen qualitativ hochwertiger Angebote und in sicherheitsrelevanten Fragen digitaler Kommunikationsräume für Kinder verfügt Seitenstark über fundierte Erfahrung. So wurde ein Chat mit kindgerechtem Moderationskonzept entwickelt, über viele Jahre betrieben sowie ein niedrigschwelliges Kinderforum realisiert. Mitgliedsseiten praktizieren aktiv Jugendmedienschutz, in Form von Aufklärung und Befähigung (Hanisauland.de Internet-ABC.de), Interaktion (Knipsclub.de, Kindersache.de) und aktiver Medienarbeit mit Kindern (Radiofuechse.de, haste-toene.hamburg).
Das Gemeinschaftswerk der Evangelischen Publizistik (GEP) ist das bundesweite Mediendienstleistungsunternehmen der Evangelischen Kirche in Deutschland (EKD), ihrer Gliedkirchen, Werke und Einrichtungen. Es trägt unter anderem das Monatsmagazin chrismon, die Zentralredaktion des epd, die Rundfunkarbeit der EKD, das Internetportal evangelisch.de, das evangelische Contentnetzwerk yeet und die reichweitenstarke Kinderseite religionen-entdecken.de. Das Angebot für den interreligiösen Dialog zeigt, wie digitale Medienangebote kindgerecht, datenschutzkonform und im zeitgemäßen Design funktionieren.
Das Institut für Medienforschung und Medienpädagogik (IMM) an der TH Köln untersucht den digitalen Wandel der Gesellschaft aus den Perspektiven von Medienpädagogik, Bildungswissenschaften und Sozialer Arbeit. Im Fokus steht die Bedeutung digitaler Medien für Bildungs- und Teilhabeprozesse junger Menschen sowie die Kommunikationskultur in der Gesellschaft. Am Institut wurden zahlreiche Forschungs- und Entwicklungsprojekte mit genuinem Bezug zu Fragen des Jugendmedienschutzes durchgeführt und dazu veröffentlicht.
Die CB Management GmbH (CMB) bringt die langjährige Erfahrung von Data Scientist und Neurowissenschaftler Dr. Klaus Holthausen und die wirtschaftliche Expertise von Christof Becker ein. CBM befasst sich mit dem Einsatz von Algorithmen und KI und erprobt neue Ansätze für gemeinsinnorientierte Social-Media-Konzepte. Für eine Schul-Administrationsumgebung (kne.de) wurde ein Jugendschutzfilter zur Text- und Bilderkennung jugendgefährdender Inhalte umgesetzt.