Donnerstag, 28. März 2024

USK setzt auf künstliche Intelligenz für Altersein­stufung von Games und Apps

Hände

Die Unterhaltungssoftware Selbstkontrolle (USK) wird künftig zusätzlich auf künstliche Intelligenz bei der „Qualitätssicherung der Alterseinstufung von Apps und Spielen“ setzen. Dabei soll das von der USK entwickelte Tool ATLAS (Artificial Intelligence Testing, Learning And Scraping (Dt.: Künstliche Intelligenz Testen, Lernen und Extrahieren)) zum Einsatz kommen. Dies teilte die USK am Dienstag in einer Presseerklärung mit.

ATLAS sei bereits im Jahre 2019 als Modellversuch gestartet und habe nun die Testphase erfolgreich abgeschlossen. Nun könne das Tool auch den internationalen Partnern der International Age Rating Coalition (IARC) zur Verfügung gestellt werden.

Die 2013 gegründete IARC ist ein Zusammenschluss von Jugendschutzorganisationen mehrerer Länder zur Bewertung von Online-Spielen und Apps.

USK-Geschäftsführerin Elisabeth Secker erklärte:

Für die USK hat das Vertrauen in Alterskennzeichen und damit auch das Qualitätsmanagement bei IARC einen enorm wichtigen Stellenwert. Wir sind stolz, dass ATLAS als neue Testingmethode die Qualitätssicherung bei IARC weiter verbessert und nun sogar international genutzt wird.

Der Einsatz von Methoden unter Zuhilfenahme künstlicher Intelligenz biete spannende Chancen zur Unterstützung der menschlichen Kontrolle im Bereich des technischen Jugendmedienschutzes, so Secker.

Wie funktioniert ATLAS?

PC- und Konsolenspiele werden von Mitarbeitern der USK getestet. Anhand von bestimmten Kriterien erfolgt die Alterseinstufung. Bei Apps und reinen Online-Spielen, die in Online-Stores wie Google Play und Microsoft Store angeboten werden, wird den Publishern diese Aufgabe überlassen.

Entwicklerstudios können vor dem Veröffentlichen eines Titels mithilfe eines Fragebogens eine Bewertung vornehmen. Seitens der USK erfolgen Prüfungen entweder stichprobenartig oder aufgrund von Hinweisen Dritter.

Es kommt jedoch vor, dass Spieleentwickler ihre Apps nicht korrekt einstufen. Problematisch bei der Kontrolle ist die große Anzahl an Spielen, die täglich auf den Markt kommen. Eine Prüfung aller Inhalte dürfte so kaum möglich sein.

ATLAS soll künftig die manuelle Qualitätssicherung unterstützen, indem das Tool Titel mit möglichen kritischen Inhalten ausfindig macht. Diese Spiele und Apps sollen dann anschließend manuell überprüft werden.

Bei der Vorauswahl mutmaßlich jugendgefährdender Titel kommen das sogenannte Image Recognition Tool und das Natural Language Processing Tool zum Einsatz. Anhand der Bilder und der Texte im Online-Store erfolgt eine Analyse der Inhalte. ATLAS lernt mit der Zeit selbständig dazu. Dadurch erhöhen sich die Trefferquoten.

Kritiker merken allerdings an, dass es, ähnlich wie beim YouTube-Upload-Filter, zu Fehleinschätzungen kommen könnte. So könne die Software nur schwer den Unterschied zwischen Blut, roter Farbe oder einer zerplatzten Tomate feststellen. Mitunter verfälschen Publisher die Inhalte durch Verpixeln der Screenshots und die Verwendung von Synonymen in den Texten.

Die USK scheint von ATLAS überzeugt. Der für das Tool zuständige Testing-Spezialist der USK Leonhardt Appel erklärte, die Software unterstütze dabei, nicht korrekt eingestufte Apps schneller identifizieren zu können. Damit würden Arbeitsprozesse entscheidend erleichtert.