Transparenzbericht zur Inhaltsmoderation

Untersagt sind insbesondere: Darstellungen sexuellen Missbrauchs von Minderjährigen, Pornografie und Werbung für sexuelle Dienstleistungen, Gewaltdarstellungen, Werbung für rechtswidrige Angebote einschließlich Betrug und Phishing sowie herabwürdigende oder hetzende Inhalte. Ebenso untersagt sind Einträge, die auf solche Inhalte verlinken – auch dann, wenn der Eintrag selbst unauffällig aussieht.

Die vollständigen Regeln stehen in den Nutzungsbedingungen.

Jeder Eintrag durchläuft vor der Veröffentlichung mehrere voneinander unabhängige Prüfungen:

• • einen Wortfilter, der deutschsprachige Begriffe erkennt, auch wenn sie durch Zeichenzusätze verschleiert wurden;
• • eine Text- und Bildprüfung durch ein Sprachmodell (Google Gemini), das Text und Fotos zusammen bewertet;
• • eine Prüfung der verlinkten Seite: Die angegebene Website wird tatsächlich abgerufen und danach beurteilt, was dort steht – nicht danach, wie die Adresse lautet;
• • eine Bildprüfung durch einen gesonderten Klassifikator (Google Cloud Vision SafeSearch);
• • einen Abgleich der Adresse mit Listen bekannter Schad- und Betrugsseiten (Google Web Risk).

Fällt eine dieser Prüfungen aus, wird der Eintrag nicht veröffentlicht, sondern einem Menschen vorgelegt. Es gibt keinen Weg, auf dem ein ungeprüfter Eintrag öffentlich wird.

Die Prüfungen sind automatisiert. Über die Veröffentlichung entscheidet derzeit in jedem Fall ein Mensch; die automatische Prüfung kann einen Eintrag zurückstellen oder ablehnen, aber sie gibt keinen frei, solange die selbsttätige Freigabe nicht ausdrücklich eingeschaltet ist.

Automatische Klassifikatoren irren in beide Richtungen. Deshalb sind die Schwellen unterschiedlich gesetzt: Bei allem, was Kinderschutzfragen betrifft, greift die Prüfung deutlich früher, weil die Folgen eines übersehenen Falles unabsehbar sind. Bei Gewalt und rechtswidrigen Angeboten liegt die Schwelle höher, weil Immobilienfotos regelmäßig Bauschäden, Werkzeug oder Abbruchzustände zeigen und eine Kanzlei legitim über Strafverfahren schreibt.

Eine automatische Prüfung führt niemals unmittelbar zu einer Anzeige oder Meldung an eine Behörde. Ein solcher Schritt wird ausschließlich von einem Menschen veranlasst.

Jeder Eintrag lässt sich melden, auch ohne Anmeldung. Eine Meldung blendet den Eintrag nicht automatisch aus – sonst genügten wenige Klicks eines Wettbewerbers, um einen ehrlichen Eintrag abzuschalten. Sie wird erfasst, dem Betreiber unverzüglich angezeigt und von einem Menschen entschieden. Wer meldet, erhält eine Vorgangsnummer, mit der er nachfragen kann.

Der Eintrag wird nicht gespeichert und die Einsenderin oder der Einsender erhält eine Begründung mit dem Hinweis, dass eine automatische Prüfung beteiligt war, und mit dem Weg zur Beschwerde. Aus Gründen der Wirksamkeit wird dabei nicht mitgeteilt, an welcher einzelnen Prüfung der Eintrag gescheitert ist: Diese Angabe wäre eine Anleitung zum Umgehen. Ein Mensch, der eine Beschwerde bearbeitet, darf und wird es erläutern.

Wiederholte Verstöße führen zur Sperre des Kontos: nach 3 Verstößen allgemein, nach 2 Verstößen im Bereich des Kinderschutzes dauerhaft. Vor der dauerhaften Sperre steht eine ausdrückliche letzte Warnung. Mit einer Sperre werden bereits veröffentlichte Einträge des Kontos verborgen; wird die Sperre auf Beschwerde aufgehoben, kehren genau diese Einträge zur Prüfung zurück.

Gegen jede Entscheidung – Ablehnung, Zurückstellung, Verbergen oder Kontosperre – können Sie kostenfrei Beschwerde einlegen. Sie wird von einem Menschen bearbeitet, nicht von einem Programm, und zwar unabhängig von der ursprünglichen Entscheidung. Nutzen Sie das Kontaktformular und geben Sie die Vorgangsnummer aus der Absage an, falls Sie eine erhalten haben.

Unabhängig davon bleibt Ihnen der Weg zu einer außergerichtlichen Streitbeilegungsstelle nach Art. 21 DSA und der Rechtsweg offen.

Die eingesetzten Verfahren erkennen offenkundig missbräuchliche Inhalte. Sie erkennen nicht, ob ein Bild aus einer bekannten Sammlung stammt – dafür wäre ein Abgleich über Prüfsummenverfahren wie PhotoDNA oder die Datenbestände von NCMEC erforderlich, zu denen der Zugang gesondert beantragt werden muss. Dieser Antrag ist ein offener Punkt und kein gelöster.

Verschlüsselte private Daten – die Finanzrubriken und die Notizen des Assistenten – können nicht geprüft werden, weil sie für den Betreiber nicht lesbar sind. Sie werden auch an niemanden verteilt und sind ausschließlich für das jeweilige Konto sichtbar. Das ist eine bewusste Entscheidung für Vertraulichkeit, und wir geben nicht vor, diese Daten zu moderieren.

Elektronische Kontaktstelle nach Art. 11 und 12 DSA sowie weitere Angaben zum Anbieter finden Sie im Impressum.