KI gegen Hass? Unity enthüllt KI-gestütztes Tool ‚Safe Voice‘ gegen Toxizität in In-Game Voice Chats

In einem entscheidenden Schritt zur Bekämpfung der Online-Toxizität kündigt Unity Technologies die Einführung eines neuen Tools namens ‚Safe Voice‘ an. Dieses Tool nutzt künstliche Intelligenz, um toxisches Verhalten in Online-Spielen zu ermitteln und schnelle Gegenmaßnahmen zu ermöglichen.

Die wichtigsten Punkte:

• Unity Technologies führt ein neues KI-gestütztes Tool namens ‚Safe Voice‘ ein.
• ‚Safe Voice‘ ist Teil der Entwicklersuite und befindet sich derzeit in der geschlossenen Beta-Phase.
• Die ersten Tests des Tools wurden von Hi-Rez Studios und Rogue Company durchgeführt.
• Datenschutz bleibt gewährleistet; Spieler müssen separat der Sprachaufnahme zustimmen.

Unity’s ‚Safe Voice‘: Ein bahnbrechendes Werkzeug gegen Toxizität

Bei ‚Safe Voice‚ handelt es sich um ein KI-gestütztes Tool, das verschiedene Aspekte wie Ton, Lautstärke, Intonation, Emotion, Tonhöhe und Kontext im Spiel analysiert, um toxische Interaktionen zu identifizieren. Interessanterweise wird dieses Feature aktiviert, sobald ein Spieler ein Problem mit dem Verhalten eines anderen Spielers meldet. Das Tool überwacht daraufhin und liefert einen Bericht an menschliche Moderatoren.

Das Dashboard bietet Moderatoren einen Überblick, um einzelne Vorfälle zu überprüfen und Trends zu identifizieren.

Gemeinsames Vorgehen mit Hi-Rez Studios

Unity hat sich mit Hi-Rez Studios zusammengetan, einem der frühen Tester des Tools. Rogue Company fand das Tool hilfreich bei der Identifizierung und Milderung von Problemen. Nach dem Screening-Prozess entscheiden die Entwickler, welche Maßnahmen sie auf der Grundlage ihrer eigenen Moderationsrichtlinien ergreifen sollen.

Schutz von Benutzerdaten hat Priorität

Während der Entwicklung dieses Tools war der Datenschutz ein wichtiger Faktor. Die Spieler müssen separat für die Sprachaufnahme zustimmen. Die erfassten Daten sind anonym und werden lediglich zur Identifizierung von Spielern für Moderationsmaßnahmen verwendet. Sobald dieser Prozess abgeschlossen ist, werden die Daten gelöscht.

Kampf gegen Online-Toxizität: Effort von allen Seiten

Nicht nur Unity, sondern auch andere Spieleverlage wie Ubisoft und Microsoft haben Schritte unternommen, um Online-Toxizität zu bekämpfen. Zusammenarbeit mit lokaler Polizei und Riot für ein AI Anti-Toxizitätsprojekt und Einführung von Voice-Clips-Austausch mit Moderatoren auf Xbox Live sind nur einige Beispiele dafür.

Schlusswort und Ausblick

Es ist klar, dass Online-Toxizität ein ernstes Problem ist, das die Gaming-Community weltweit betrifft. Mit der Einführung von ‚Safe Voice‘ hat Unity einen signifikanten Schritt in die richtige Richtung getan. Es bleibt zu hoffen, dass andere Entwickler ähnliche Maßnahmen ergreifen werden.

Wie stehst du zu diesem Thema? Hast du jemals toxisches Verhalten in Online-Spielen erlebt? Teile gerne deine Gedanken und Erfahrungen mit uns.