Mod Assist

Warum sollten Sie Rocket.Chat in die Mod Assist App integrieren?

Die Moderation von Inhalten ist ein wichtiger Schutz vor schädlichen und beleidigenden Nachrichten und gewährleistet das Wohlbefinden der Plattformnutzer. Unternehmen haben eine moralische Verantwortung, ihre Nutzer vor unangemessenen Inhalten zu schützen, den Ruf ihrer Marke als sichere Umgebung zu wahren und die einschlägigen Vorschriften einzuhalten, die die Entfernung von anstößigem und illegalem Material vorschreiben.

Die Moderation von Inhalten stellt jedoch eine Herausforderung dar, vor allem aufgrund der schieren Menge an Nachrichten, die ständig auf Kooperationsplattformen ausgetauscht werden. Darüber hinaus ist die manuelle Moderation aufgrund des potenziellen Risikos, dass menschliche Moderatoren schädlichen Inhalten ausgesetzt sind, immer weniger wünschenswert. Hier sind einige Einschränkungen, die mit der manuellen Moderation von Inhalten verbunden sind:

• Volumen: Die rasante Verbreitung von Kollaborationsplattformen und die ständig wachsende Zahl der ausgetauschten Nachrichten machen es für Unternehmen schwierig, mit der schieren Menge an Inhalten, die moderiert werden müssen, Schritt zu halten.
• Konsistenz: Die Sicherstellung einheitlicher Moderationspraktiken innerhalb einer Organisation kann eine gewaltige Aufgabe sein, insbesondere wenn mehrere Moderatoren oder Kulturen beteiligt sind.
• Korrektheit: Die Moderatoren müssen in der Lage sein, unangemessene oder schädliche Inhalte genau zu erkennen und fundierte Entscheidungen über deren Genehmigung oder Ablehnung zu treffen.
• Schnelligkeit: Die Moderation von Inhalten ist eine komplexe Aufgabe, vor allem wenn es um Grauzonen und zweideutige Situationen geht. Ein wichtiger Aspekt ist die Geschwindigkeit, mit der Inhalte moderiert werden müssen, denn schnelles Handeln kann dazu beitragen, die Auswirkungen von unangemessenen oder schädlichen Inhalten zu minimieren.

Die Moderation von Inhalten erfolgt in der Regel in zwei Schritten. Zunächst melden die Nutzer Inhalte, die sie als beleidigend empfinden oder die gegen die Arbeitsplatzrichtlinien verstoßen. Anschließend prüft und bewertet ein Moderationsteam diese gemeldeten Nachrichten. Der Nachteil des ausschließlichen Verlassens auf die Meldungen der Nutzer ist das Risiko, dass schädliche Inhalte unbemerkt bleiben, was dem Ruf Ihrer Plattform schaden und das Vertrauen der Nutzer untergraben kann.

Hier kommt die automatische Inhaltsmoderation ins Spiel. Die Mod Assist App erkennt und meldet automatisch unangemessene Inhalte auf der Grundlage vordefinierter Moderationsregeln innerhalb eines Arbeitsbereichs.

Hinweis: Aus Gründen des Datenschutzes ist die App so konzipiert, dass sie standardmäßig nicht in privaten Räumen funktioniert und folglich auch keine Nachrichten aus solchen Räumen meldet.

Wenn Sie jedoch die Moderation auch für diese privaten Räume aktivieren möchten, müssen Sie die App als Benutzer einzeln für diese Räume zulassen. Denken Sie daran, diese privaten Räume in den Einstellungen der App hinzuzufügen, und zwar in dem Abschnitt, in dem Sie die Räume angeben, die die App moderieren soll. Dies dient als Zwei-Faktor-Authentifizierung für den Zugriff auf private Räume.

Vorteile der Mod Assist-App

Diese App bietet zahlreiche Vorteile, darunter Geschwindigkeit, Schutz und Effizienz.

• Verbesserte Effizienz: Durch die automatische Kennzeichnung fragwürdiger Inhalte strafft die App den Moderationszyklus und ermöglicht eine schnellere und effizientere Überprüfung. Dies verringert die Arbeitsbelastung für menschliche Moderatoren. Infolgedessen können sie sich auf komplexere Aufgaben konzentrieren, z. B. die Überprüfung gekennzeichneter Inhalte oder die Untersuchung von Missbrauchsberichten.
• Höhere Geschwindigkeit: In Anbetracht der rasanten Zunahme der ausgetauschten Nachrichten wäre es unpraktisch, sich ausschließlich auf die manuelle Moderation zu verlassen, da dies ein großes Team menschlicher Moderatoren und einen dicht gedrängten Arbeitsplan erfordern würde. Der Hauptvorteil dieser App ist, dass sie Ihren Moderatoren wertvolle Zeit spart, da sie sich auf die Überprüfung der gemeldeten Nachrichten konzentrieren können, anstatt jede einzelne Nachricht zu überprüfen und die unangemessenen zu markieren.
• Besseres Wohlbefinden: Die App spielt eine entscheidende Rolle bei der Gewährleistung der Sicherheit und des psychischen Wohlbefindens von Nutzern und menschlichen Moderatoren, indem sie verschiedene Formen schädlicher und anstößiger Inhalte in Bezug auf Gewalt, sexuell eindeutiges Material und potenziell illegale Aktivitäten schnell erkennt.

Die spezifischen Arten von Inhalten, die automatisch moderiert werden können, hängen von den Bedürfnissen der einzelnen Plattformen und den verfügbaren Ressourcen ab. Die folgenden Kategorien von unangemessenen Inhalten können mit der App erkannt und gemeldet werden:

• Toxizität: Jede Nachricht, die harsch, respektlos, negativ, böswillig, schädlich oder hasserfüllt ist, ist toxischer Natur. Die App kann Inhalte identifizieren und kennzeichnen, die Fanatismus und Nachrichten enthalten, die Mobbing oder Belästigung darstellen.
• Obszönität: Als Obszönität gilt jede Nachricht, die eine schlimme, beleidigende, unflätige, vulgäre oder obszöne Sprache enthält. Die App ist darauf trainiert, Inhalte zu identifizieren und zu kennzeichnen, die Profanität oder explizite Sprache enthalten.
• Finanzielles Risiko: Die App kann betrügerische Nachrichten erkennen und kennzeichnen, die von Betrügern und Hochstaplern verschickt werden, um Sie zur Preisgabe sensibler persönlicher Daten oder finanzieller Details zu verleiten, die zu Identitätsdiebstahl, finanziellen Verlusten oder unbefugtem Zugriff führen können.
• Flirten: Nachrichten, die unanständig, intim, unerwünscht und unangemessen sind, können als flirtende Inhaltsarten angesehen werden. 

Die Mod Assist-App ist nur für Arbeitsbereiche mit Version 6.3.0 und höher verfügbar. Die Mod Assist-App ist für alle Premium-Tarife verfügbar. Bitte lesen Sie unsere technische Dokumentation, um mit der App zu beginnen.