ToxMod to narzędzie do wykrywania mowy nienawiści w czasie rozmów w grach

Informacje o ToxMod zamieszczam raczej w ramach ciekawostki niż zachęcania Was do korzystania z tego narzędzia. Wiem, że w grach sieciowych bywają problemy z graczami o nieco bardziej kąśliwych językach. Podczas rozmowy na czacie wystarczy jednak zablokować takiego jegomościa i zazwyczaj problem znika. W przypadku komunikatorów głosowych również jest sporo opcji, aby niekoniecznie musieć męczyć się z tego typu osobnikami – nie ważne czy używacie programu zewnętrznego, czy rozmawiacie przez wbudowany czat.

Czasami jednak brakuje narzędzi na takiego toksycznego gracza i tutaj teoretycznie ToxMod przychodzi z pomocą. Firma Modulate Inc. stworzyła własną technologię, która wykorzystując sztuczną inteligencję stanie na straży czatów głosowych. Ich ToxMod określany jest, jako usługa moderacyjna dla czatów głosowych, która pozwala w czasie rzeczywistym wykrywać toksyczne zachowania, mowę nienawiści i inne, problematyczne kwestie. Co więcej, narzędzie przy odpowiednim jego ustawieniu, ma również możliwość bezpośredniego karania graczy łamiących regulamin.

Po cóż powstał ToxMod? Aby odciążyć moderatorów i usprawnić komunikację głosową. Sam program podobno aktywnie uczy się, zbierając informacje o sposobie porozumiewania się danej społeczności, dzięki czemu nie będzie karał za słowa „normalnie zakazane w jego słowniku”, ale które w obrębie danej ekipy są dopuszczalne.

Ze swojej strony powiem tak – obawiam się, że ToxMod będzie Wielkim Bratem, który zbyt uważnie słucha, dlatego nie jestem w stanie zaufać temu narzędziu. Z drugiej strony nie ukrywam, że z ciekawością obserwować będę jego rozwój.  Intryguje mnie w którą stronę to pogalopuje i czy już niedługo nie staniemy się więźniami w grach – taka mowa nienawiści to bowiem całkiem szerokie pojęcie :).

Zainteresowanych ToxMod zapraszam tutaj.