Googles Jigsaw kündigt Toxizität-reduzierende API, Perspective, an und verarbeitet 500M Anfragen täglich
(ots) - Das Unternehmen veröffentlicht die dritte Ausgabe des Forschungsmagazins "The Current", das sich mit Online-Toxizität und der Rolle von KI bei der Förderung gesunder Konversationen beschäftigt
Heute gab https://c212.net/c/link/?t=0&l=de&o=3060507-1&h=2358205447&u=https%3A% 2F%2Fc212.net%2Fc%2Flink%2F%3Ft%3D0%26l%3Den%26o%3D3060507-1%26h%3D2173362482%26 u%3Dhttps%253A%252F%252Fjigsaw.google.com%252F%26a%3DJigsaw&a=Jigsaw , eine Einheit innerhalb von Google, die aufkommende digitale Bedrohungen vorhersagt und bekämpft, bekannt, dass https://c212.net/c/link/?t=0&l=de&o=3060507-1&h=2157 655082&u=https%3A%2F%2Fc212.net%2Fc%2Flink%2F%3Ft%3D0%26l%3Den%26o%3D3060507-1%2 6h%3D2110890452%26u%3Dhttps%253A%252F%252Fwww.perspectiveapi.com%252F%26a%3DPers pective&a=Perspective , eine kostenlose, quelloffene API, die maschinelles Lernen nutzt, um anstößige Kommentare zu erkennen, nun 500 Millionen Anfragen täglich verarbeitet und die Toxizität messbar reduziert, um Unterhaltungen im Internet in großem Umfang zu verbessern. Die dritte Ausgabe des Online-Forschungsmagazins https://c212.net/c/link/?t=0&l=de&o=3060507-1&h=300628 8180&u=https%3A%2F%2Fc212.net%2Fc%2Flink%2F%3Ft%3D0%26l%3Den%26o%3D3060507-1%26h %3D2631437971%26u%3Dhttp%253A%252F%252Fjigsaw.google.com%252Fthe-current%252Ftox icity%252F%26a%3DThe&a=The https://c212.net/c/link/?t=0&l=de&o=3060507-1&h=19208 19948&u=https%3A%2F%2Fc212.net%2Fc%2Flink%2F%3Ft%3D0%26l%3Den%26o%3D3060507-1%26 h%3D1410470710%26u%3Dhttp%253A%252F%252Fjigsaw.google.com%252Fthe-current%252Fto xicity%252F%26a%3D%25C2%25A0Current&a=%C2%A0Current , die heute veröffentlicht wurde, geht auf das anhaltende und schädliche Problem der Online-Toxizität ein und zeigt, welche Rolle Machine-Learning-Tools wie Perspective dabei spielen können.
Perspective wurde 2017 eingeführt, um Online-Toxizität und Belästigung zu bekämpfen. Perspective bewertet Kommentare basierend auf ihrer wahrgenommenen Auswirkung auf die Konversation und hilft Plattformen, Kommentarbereiche für engagierte und produktive Konversationen offen zu halten.
"Toxizität im Internet ist ein allgegenwärtiges Problem, das sich unverhältnismäßig stark auf Randgruppen auswirkt, unabhängigen Journalismus bedroht und die Meinungsfreiheit und einen gesunden Dialog verdrängt", sagte Jared Cohen, CEO von Jigsaw. "Unsere Partner haben gesehen, dass Perspective die Toxizität auf ihren Plattformen messbar reduziert hat und es ihnen ermöglicht hat, sicherere Räume für den Gedankenaustausch ihrer Nutzer zu schaffen. Wir verpflichten uns, mit unseren Partnern und akademischen Einrichtungen zusammenzuarbeiten, um unsere Modelle kontinuierlich zu schulen und weiterzubilden, damit sie noch besser darin werden, Toxizität zu identifizieren und gleichzeitig Voreingenommenheit zu minimieren, um gesündere Gespräche zu unterstützen."
Jigsaw baute Perspective anhand von Modellen auf, die in Zusammenarbeit mit dem Counter Abuse Technology Team von Google entwickelt wurden, und ermöglicht nun einer Vielzahl von Plattformen die Schaffung eines sicheren Raums für den Dialog durch Mehrfachnutzung:
Feedback für Kommentatoren: Perspektive kann https://c212.net/c/link/?t=0&l=de&o =3060507-1&h=805684263&u=https%3A%2F%2Fc212.net%2Fc%2Flink%2F%3Ft%3D0%26l%3Den%2 6o%3D3060507-1%26h%3D3074020541%26u%3Dhttps%253A%252F%252Fmedium.com%252Fjigsaw% 252Fhelping-authors-understand-toxicity-one-comment-at-a-time-f8b43824cf41%26a%3 Dprovide%2Bfeedback%2Bto%2Bcommenters&a=Kommentatoren in Echtzeit ein Feedback über die potenzielle wahrgenommene Toxizität ihrer Inhalte geben, was zu signifikanten Ergebnissen führt:
- Coral von Vox Media, eine prominente Kommentarplattform, die von Medienorganisationen auf der ganzen Welt genutzt wird, verwendet diese Funktion, um Kommentatoren die Möglichkeit zu geben, ihre Formulierungen zu ändern, bevor sie sie veröffentlichen. Eine kontrollierte https://c212.net/c/l ink/?t=0&l=de&o=3060507-1&h=1445341967&u=https%3A%2F%2Fc212.net%2Fc%2Flink%2F% 3Ft%3D0%26l%3Den%26o%3D3060507-1%26h%3D1403798565%26u%3Dhttps%253A%252F%252Fme dium.com%252Fjigsaw%252Fhelping-authors-understand-toxicity-one-comment-at-a-t ime-f8b43824cf41%26a%3Dstudy&a=Studie mit McClatchy ergab, dass 40 Prozent der Benutzer ihren Kommentar als Reaktion auf das Feedback änderten. - OpenWeb, eine führende Plattform zur Einbindung des Publikums, die 100 Millionen aktive Nutzer pro Monat beherbergt, hat diese Funktion eingeführt, nachdem eine https://c212.net/c/link/?t=0&l=de&o=3060507-1&h=1390446327&u=http s%3A%2F%2Fc212.net%2Fc%2Flink%2F%3Ft%3D0%26l%3Den%26o%3D3060507-1%26h%3D417432 3862%26u%3Dhttps%253A%252F%252Fwww.openweb.com%252Fblog%252Fopenweb-improves-c ommunity-health-with-real-time-feedback-powered-by-jigsaws-perspective-api%252 F%26a%3DOpenWeb%2Bstudy&a=OpenWeb-Studie , die als Teil einer breiteren https: //c212.net/c/link/?t=0&l=de&o=3060507-1&h=1682384204&u=https%3A%2F%2Fc212.net% 2Fc%2Flink%2F%3Ft%3D0%26l%3Den%26o%3D3060507-1%26h%3D1532324399%26u%3Dhttps%25 3A%252F%252Fmedium.com%252Fjigsaw%252Fhelping-authors-understand-toxicity-one- comment-at-a-time-f8b43824cf41%26a%3DJigsaw%2Bresearch&a=Jigsaw-Forschung durchgeführt wurde, herausgefunden hat, dass von allen Kommentatoren, die ihre Sprache bearbeitet haben, 44,7 Prozent der Kommentatoren ersetzten oder entfernten beleidigende Wörter und 7,6 Prozent entschieden sich dafür, ihren Kommentar komplett umzuschreiben.
Hilfe für menschliche Moderatoren: Perspective dient auch dazu, menschlichen Moderatoren zu helfen, effizienter zu arbeiten und die Toxizität auf ihren Plattformen zu reduzieren:
- The New York Times built Moderator: ein Tool, das Perspective nutzt, um Kommentare für die menschliche Moderation zu priorisieren und diejenigen freizugeben, die eine manuelle Überprüfung am ehesten bestehen würden. Die Times hat die Anzahl der Artikel, die sie mit Perspective für Kommentare öffnen konnte, erhöht, um den Lesern eine größere und vielfältigere Auswahl an Artikeln zu bieten, zu denen sie Kommentare abgeben können. - FACEIT, eine der größten europäischen Spieleplattformen, nutzt den Toxizitäts-Score von Perspective, um Verwarnungen oder Bans an Nutzer zu vergeben, die sich zur endgültigen Überprüfung an einen menschlichen Moderator wenden können. Als Ergebnis dieser Echtzeit-Moderation hat FACEIT eine 20-prozentige Reduktion von toxischen Nachrichten festgestellt. - Cofina, ein portugiesisches Medienunternehmen , war in der Lage, den Bedarf an menschlicher Moderation um 60 Prozent zu senken, wodurch ihr Team mindestens 2 Stunden pro Tag einsparen konnte, nachdem sie Perspective in ihr CMS integriert hatten, um die Kommentare in ihren Sport- und Finanzzeitungen zu moderieren.
"Perspective API hat unsere Fähigkeit, Toxizität in unseren Kommentaren zu erkennen, erheblich verbessert. Es hat die Arbeit unseres Moderationsteams effektiver und effizienter gemacht, und seit der Implementierung des Tools konnten wir die Anzahl der Artikel, die für Kommentare offen sind, um etwa ein Drittel erhöhen." Marcia Loughran, Community Editor, The New York Times
"Die Zusammenarbeit mit Perspective hat es uns ermöglicht, positive Interaktionen über Hunderte von dynamischen und engagierten Communities und Dutzende von Millionen von Nutzern zu fördern. Die Lösungen sind elegant und reibungslos und unterstützen unsere Vision eines qualitativ hochwertigen Engagements mit weniger Toxizität." Nadav Shoval, CEO & Co-Founder OpenWeb
"Bei Coral konzentrieren wir uns darauf, die wichtige Arbeit der Moderatoren einfacher und schneller zu machen. Perspective hilft uns bei der Identifizierung von Kommentaren in mehreren Sprachen, die sofortige Aufmerksamkeit erfordern. Das Perspective-Team ist ein hervorragender Partner für diese Mission." Andrew Losowsky, Head of Coral von VoxMedia
"Wir haben die Perspektive in unser CMS integriert, um die Kommentare in unseren Sport- und Wirtschaftszeitungen zu moderieren. Wir haben die menschliche Moderation um 60 Prozent reduziert. Wir sparen mindestens zwei Stunden pro Tag und sind sehr zufrieden mit den Ergebnissen. Es hat auch die Qualität der Kommentare auf unseren Websites und die Interaktion mit unseren Benutzern verbessert." Nuno Alves, Online Technical Director, Cofina Media
"Bei FACEIT haben wir uns auf die Fahnen geschrieben, Toxizität und Belästigung im Gaming direkt anzusprechen. Da unsere Spieler-Community wächst und sich weiterentwickelt, mussten wir effektive Lösungen entwickeln, die auch im großen Maßstab funktionieren. Perspective lieferte uns das perfekte Toxizitätsmodell, das wir als Basis für den Aufbau unserer Antitoxizitäts-Engine verwendet haben." Maria Laura Scuri, Direktorin Business Intelligence, FACEIT
Durch seine Partnerschaften hat Jigsaw Perspective auch in neuen Sprachen trainiert, so dass das maschinelle Lernmodell besser in der Lage ist, Online-Konversationen auf globaler Ebene zu verbessern - es ist derzeit in Englisch, Spanisch, Französisch, Deutsch, Italienisch und Portugiesisch verfügbar. Zu den Partnern von Perspective gehören: El Pais (https://c212.net/c/ link/?t=0&l=de&o=3060507-1&h=2867806156&u=https%3A%2F%2Fc212.net%2Fc%2Flink%2F%3 Ft%3D0%26l%3Den%26o%3D3060507-1%26h%3D4201005775%26u%3Dhttps%253A%252F%252Fmediu m.com%252F%2540JigsawTeam%252Fperspective-launches-in-spanish-with-el-pa%2525C3% 2525ADs-dc2385d734b2%26a%3DEl%2BPais&a=El+Pais) , Le Monde (https://c212.net/c/l ink/?t=0&l=de&o=3060507-1&h=129230614&u=https%3A%2F%2Fc212.net%2Fc%2Flink%2F%3Ft %3D0%26l%3Den%26o%3D3060507-1%26h%3D4151412347%26u%3Dhttps%253A%252F%252Fmedium. com%252Fjigsaw%252Fperspective-tune-are-now-available-in-french-c4cf1ca198f2%26a %3DLe%2BMonde&a=Le+Monde) , https://c212.net/c/link/?t=0&l=de&o=3060507-1&h=1731 945351&u=https%3A%2F%2Fc212.net%2Fc%2Flink%2F%3Ft%3D0%26l%3Den%26o%3D3060507-1%2 6h%3D157124136%26u%3Dhttps%253A%252F%252Fwww.record.pt%252F%26a%3DCofina&a=Cofin a und einige andere Verlage, die verstehen, wie wichtig es ist, qualitativ hochwertige Konversationen auf ihren Plattformen in verschiedenen Sprachen anzubieten.
Jigsaw arbeitet auch kontinuierlich mit Partnern zusammen, um Möglichkeiten zu erforschen, um Verzerrungen beim maschinellen Lernen abzuschwächen. Bitte lesen Sie einige von Jigsaw jüngsten Forschungen https://c212.net/c/link/?t=0&l=de&o=3 060507-1&h=3603579015&u=https%3A%2F%2Fc212.net%2Fc%2Flink%2F%3Ft%3D0%26l%3Den%26 o%3D3060507-1%26h%3D3367858531%26u%3Dhttps%253A%252F%252Fmedium.com%252Fjigsaw%2 52Fhelping-authors-understand-toxicity-one-comment-at-a-time-f8b43824cf41%26a%3D here&a=hier .
Erfahren Sie mehr über Perspective und probieren Sie es in der dritten Ausgabe von The Current (https://c212.net/c/link/?t=0&l=de&o=3060507-1&h=996921309&u=htt ps%3A%2F%2Fc212.net%2Fc%2Flink%2F%3Ft%3D0%26l%3Den%26o%3D3060507-1%26h%3D3584758 993%26u%3Dhttp%253A%252F%252Fjigsaw.google.com%252Fthe-current%252Ftoxicity%252F %26a%3DThe%2BCurrent&a=The+Current) aus.
Pressekontakt:
Jigsaw Media
jigsawpress(at)google.com
Informationen zu Jigsaw
Jigsaw ist eine Einheit innerhalb von Google, die aufkommende Bedrohungen
vorhersagt und ihnen entgegentritt und zukunftsweisende Forschung und
Technologie entwickelt, um unsere Welt sicherer zu machen.
Logo - https://mma.prnewswire.com/media/1434331/Jigsaw_Logo.jpg
Weiteres Material: http://presseportal.de/pm/152981/4833462
OTS: Jigsaw
Original-Content von: Jigsaw, übermittelt durch news aktuell
Themen in diesem Fachartikel:
Unternehmensinformation / Kurzprofil:
Datum: 09.02.2021 - 01:08 Uhr
Sprache: Deutsch
News-ID 1879354
Anzahl Zeichen: 0
Kontakt-Informationen:
Ansprechpartner:
Stadt:
New York
Telefon:
Kategorie:
IT, New Media & Software
Anmerkungen:
Dieser Fachartikel wurde bisher 101 mal aufgerufen.
Der Fachartikel mit dem Titel:
"Googles Jigsaw kündigt Toxizität-reduzierende API, Perspective, an und verarbeitet 500M Anfragen täglich
"
steht unter der journalistisch-redaktionellen Verantwortung von
Jigsaw (Nachricht senden)
Beachten Sie bitte die weiteren Informationen zum Haftungsauschluß (gemäß TMG - TeleMedianGesetz) und dem Datenschutz (gemäß der DSGVO).