Førstepersonsskydespil som Call of Duty er noget berygtet for toksiciteten af deres lobbyer og stemmechat. Afstemninger kalder franchisens fanskare den mest negative i spilindustrien; en fejde mellem to spillere førte engang til indkaldelsen af et specialstyrkehold. Activision har forsøgt at bekæmpe denne adfærd i årevis, og en del af løsningen kan have at gøre med kunstig intelligens.
Activision har indgået et samarbejde med Modulate for at bringe "in-game voice chat moderation" til sine spil. Et nyt moderationssystem ved hjælp af kunstig intelligens-teknologi kaldet ToxMod vil arbejde for at opdage adfærd som diskrimination og chikane i realtid.
ToxMods indledende beta-testning i Nordamerika begynder i dag. Den er aktiv i Call of Duty: Modern Warfare II og Call of Duty: Warzone. Den "fulde verdensomspændende udgivelse" (den inkluderer ikke Asien, som angivet i pressemeddelelsen) finder sted den 10. november med udgivelsen af Call of Duty: Modern Warfare III, den nye del af franchisen i år.
Modulates pressemeddelelse går ikke meget i detaljer om præcis, hvordan ToxMod fungerer. På websted virksomheden bemærker, at værktøjet "modererer stemmechat for at markere dårlig adfærd, analyserer nuancerne i hver samtale for at identificere toksicitet og giver moderatorer mulighed for at reagere hurtigt på hver hændelse ved at give relevant og præcis kontekst." I et nyligt interview sagde virksomhedens administrerende direktør, at værktøjet sigter mod at gå ud over simpel transskription. Det tager også hensyn til faktorer som spillerens følelser og volumen for at skelne mellem ondsindede og humoristiske bemærkninger.
Det er værd at bemærke, at værktøjet (i det mindste for nu) ikke vil handle mod spillere baseret på dets data, men kun vil sende rapporter til Activision-moderatorer. Menneskelig involvering vil sandsynligvis forblive en vigtig beskyttelse, da forskning har vist, at talegenkendelsessystemer kan udvise bias i, hvordan de reagerer på brugere med forskellige raceidentiteter og accenter.
Læs også: