Førstepersons skytespill som Call of Duty er noe beryktet for toksisiteten til lobbyene og stemmechattene deres. Meningsmålinger kaller franchisens fanskare den mest negative i spillindustrien; en feide mellom to spillere førte en gang til innkallingen av et spesialstyrkelag. Activision har forsøkt å bekjempe denne oppførselen i årevis, og en del av løsningen kan ha å gjøre med kunstig intelligens.
Activision har inngått samarbeid med Modulate for å bringe «talechatmoderasjon i spillet» til spillene sine. Et nytt modereringssystem som bruker kunstig intelligens-teknologi kalt ToxMod vil jobbe for å oppdage atferd som diskriminering og trakassering i sanntid.
ToxMods første beta-testing i Nord-Amerika begynner i dag. Den er aktiv i Call of Duty: Modern Warfare II og Call of Duty: Warzone. Den "fulle verdensomspennende utgivelsen" (den inkluderer ikke Asia, som det står i pressemeldingen) vil finne sted 10. november med utgivelsen av Call of Duty: Modern Warfare III, den nye delen av franchisen i år.
Modulates pressemelding går ikke så mye i detalj om nøyaktig hvordan ToxMod fungerer. På nettstedet selskapet bemerker at verktøyet "modererer stemmechat for å flagge dårlig oppførsel, analyserer nyansene i hver samtale for å identifisere toksisitet, og lar moderatorer svare raskt på hver hendelse ved å gi relevant og nøyaktig kontekst." I et nylig intervju sa selskapets administrerende direktør at verktøyet tar sikte på å gå utover enkel transkripsjon. Den tar også hensyn til faktorer som spillerens følelser og volum for å skille mellom ondsinnede og humoristiske kommentarer.
Det er verdt å merke seg at verktøyet (i hvert fall foreløpig) ikke vil iverksette tiltak mot spillere basert på dataene det, men vil bare sende rapporter til Activision-moderatorer. Menneskelig involvering vil sannsynligvis forbli en viktig sikring, ettersom forskning har vist at talegjenkjenningssystemer kan utvise skjevhet i hvordan de reagerer på brukere med forskjellige raseidentiteter og aksenter.
Les også: