Categories
Trending

Fallstudie zur Moderation von Inhalten: Yelp versucht, Rassismus auf seiner Plattform zu bekämpfen (2020)

von dem eine Herausforderung Abt

Zusammenfassung: Wenn Sie eine Website betreiben, die auf Inhalten von Drittanbietern basiert, müssen Sie sich mit der Unterseite der menschlichen Existenz auseinandersetzen. Während sich die meisten Menschen in gutem Glauben engagieren, engagiert sich eine kleine Minderheit von Menschen nur mit dem Ziel, andere herabzusetzen.

Yelp ist keine Ausnahme. Die Popularität der Website wurde entwickelt, um potenziellen Kunden nützliche Informationen über Waren und Dienstleistungen zu liefern. Sie bot sich für Brigadierungen (negative Bewertungen, die als Reaktion auf aktuelle Verbrechen massenhaft abgegeben wurden) und die kleinsten gemeinsamen Nenner der Öffentlichkeit an: Bigots.

Das Potenzial, den Ruf eines Unternehmens aufgrund seiner Ansichten zur Einwanderungspolitik, der Beschäftigung von Minderheiten oder anderer wahrgenommener Probleme zu ruinieren, ermöglichte es, dass die angesehenste Überprüfungsseite von Rassisten bewaffnet wurde.

Jaulen erkannte diese Unvermeidlichkeit. Moderatoren patrouillieren auf der Website, um die Verbreitung von bigotten Inhalten zu begrenzen, die die Bewertungsergebnisse aufgrund der rassistischen Vorlieben der Prüfer verzerren.

Communitys haben sich immer an Yelp gewandt, um auf aktuelle Ereignisse auf lokaler Ebene zu reagieren. Da die Nation mit Fragen des systemischen Rassismus rechnet, haben wir in den letzten Monaten gesehen, dass es eindeutig notwendig ist, die Verbraucher vor Unternehmen zu warnen, die mit ungeheuren, rassistisch motivierten Maßnahmen verbunden sind, um Menschen dabei zu helfen, fundiertere Ausgabenentscheidungen zu treffen. Das User Operations-Team von Yelp platziert bereits Warnungen auf Unternehmensseiten, wenn wir einen ungewöhnlichen Anstieg der Bewertungen feststellen, die auf dem basieren, was jemand in den Nachrichten oder in sozialen Medien gesehen hat, und nicht auf Erfahrungen aus erster Hand mit dem Unternehmen. Wenn ein Unternehmen nun öffentliche Aufmerksamkeit für Berichte über rassistisches Verhalten erlangt, z. B. durch die Verwendung rassistischer Sprache oder Symbole, wird Yelp auf seiner Yelp-Seite einen neuen Warnhinweis für Unternehmen, der wegen rassistischen Verhaltens angeklagt ist, zusammen mit einem Link zu einem Nachrichtenartikel veröffentlichen Sie können mehr über den Vorfall erfahren.

Dieser Schritt mag lobenswert erschienen sein, bot sich jedoch für subjektive Interpretationen von Entscheidungen von Unternehmen sowie für individuelle Maßnahmen von Mitarbeitern an. Die Beschäftigung einer rassistischen Person ist nicht dasselbe wie die Führung eines rassistischen Geschäfts, aber die pauschale Politik von Yelp schien darauf hinzudeuten, dass beide gleichermaßen rassistisch waren.

Weitere Kommentare von Yelp stellten klar, dass einige seiner Mitarbeiter die endgültige Entscheidung über angeblichen Rassismus von Unternehmen oder Geschäftsinhabern treffen würden. Jedes Unternehmen, das für rassistisches Verhalten gekennzeichnet ist, wird vor weiteren Kommentaren geschützt, bis eine Entscheidung getroffen wird.

Von Yelp zu treffende Entscheidungen:

  • Verhindert die Erlaubnis von Benutzern, Unternehmen einseitig als “rassistisch” zu deklarieren, die Monetarisierungsbemühungen von Yelp?
  • Ist es ratsam, der “Weisheit der Menge” zu erliegen, insbesondere wenn Yelp der Ansicht ist, dass eine Zwischenwarnung ein akzeptabler Ersatz für die Sorgfaltspflicht ist?

Zu berücksichtigende Fragen und politische Implikationen:

  • Widerspricht die Abhängigkeit von Yelp von Einnahmen von Unternehmen, die ihre Reichweite erweitern möchten, den Vorwürfen des Rassismus von Geschäftsinhabern / Mitarbeitern?
  • Fördern Richtlinien wie diese tatsächlich böswilliges Verhalten, indem sie Bewertungen hinter einer bedrohlichen Warnung verbergen, die darauf hinweist, dass die Beschwerden legitim sind?

Auflösung: Diese Verwendung von Warnungen und das Ausblenden nicht verifizierter Bewertungen (zumindest vorübergehend) ist weiterhin Unternehmensrichtlinie. Während seine Moderationsbemühungen letztendlich zu einer zufriedenstellenden Lösung führen können, kann seine Entscheidung, Unternehmen aufgrund nicht überprüfter Ansprüche zu kennzeichnen, zu erheblichen Kollateralschäden führen.

Ursprünglich geschrieben auf der Trust & Safety Foundation Webseite.

Verstecke das

Vielen Dank, dass Sie diesen Techdirt-Beitrag gelesen haben. Wir schätzen es sehr, dass Sie uns Ihre Zeit geben, da heutzutage so viele Dinge um die Aufmerksamkeit aller konkurrieren. Wir arbeiten jeden Tag hart daran, qualitativ hochwertige Inhalte für unsere Community bereitzustellen.

Techdirt ist eines der wenigen wirklich unabhängigen Medienunternehmen. Wir haben kein riesiges Unternehmen hinter uns und verlassen uns stark auf unsere Community, um uns in einer Zeit zu unterstützen, in der Werbetreibende zunehmend nicht daran interessiert sind, kleine, unabhängige Websites zu sponsern – insbesondere eine Website wie unsere, die nicht bereit ist, ihre Berichterstattung zu verbessern und Analyse.

Während andere Websites auf Paywalls, Registrierungsanforderungen und zunehmend nervige / aufdringliche Werbung zurückgegriffen haben, haben wir Techdirt immer offen und für jedermann verfügbar gehalten. Aber um dies weiterhin zu tun, wir brauchen Deine Unterstützung. Wir bieten unseren Lesern eine Vielzahl von Möglichkeiten, uns zu unterstützen, von direkten Spenden über Sonderabonnements bis hin zu coolen Waren – und jedes kleine bisschen hilft. Vielen Dank.

–Das Techdirt-Team

Abgelegt unter: Inhaltsmoderation, Rassismus, Bewertungen
Firmen: jaulen

Leave a Reply

Your email address will not be published. Required fields are marked *