Mänskligare AI gav vänligare ton i världens största hästspel

Hur gör vi online världen vänligare utan hårda tag, hot om avstängning och förbjudna ord?

Tillsammans med samarbetspartners har Star Stable Entertainment med hjälp av AI och positiv förstärkning försökt utveckla effektivare och mindre hårdhänta metoder för att skapa en vänligare värld online. En första pilotstudie visar lovande resultat.

 

Star Stable Entertainment står bakom Star Stable Online, världens största hästspel online med 21 miljoner registrerade användare i 180 länder och tillgängligt på 14 språk. Spelet är en arena för magiska äventyr där spelarna kan samarbeta och utveckla vänskap online. En nyckelfunktion i spelet har chattfunktionen som gör det möjligt för spelarna att dela både känslor och information.

”Våra spelare är del av en välkomnande, kreativ and passionerad gemenskap. Men vi kan inte kräva att alla alltid är snälla och vänliga i en ålder när känslovågorna går höga”, säger Cecilia Munthe, ansvariga för kundrelationer på Star Stable Entertainment, och fortsätter:

“Vi och andra i branschen har länge efterlyst ett mer intelligent verktyg för att moderera samtal online. Ett verktyg som klarar av att skilja den lilla gruppen som är ute efter att förstöra från de många som bara är mänskliga och kan tappa humöret.”

 

Dagens system för online moderering består idag förenklat oftast av en polisfunktion, som flaggar för oacceptabelt eller potentiellt farligt beteende, i kombination med olika typer av rapporteringssystem där spelarna själva kan slå larm om övertramp. Resultatet är en rimligt

hög nivå av säkerhet, men på bekostnad av att spelarna ofta upplever sig vara föremål för en hårdhänt och ibland obegriplig övervakningsapparat. Små känsloutbrott eller ett feltolkat ord kan leda till avstängning från en värld och gemenskap som är central i spelarnas liv.

 
“Att stänga av någon är som att släpa ut ett barn från en lekplats och sätta dem ensamma i ett rum. Dagens system för moderering fungerar ofta som en form av censur som sätter munkavle på unga spelare och skapar ilska och frustration. Snarare än empati och mer vänlighet, säger Alexander Gee, vd och grundare av Oterlu, ett företag med rötterna i universitetsbaserade inkubatorn Chalmers Ventures.

 

För att hitta nya och bättre verktyg för ett mer civiliserat umgänge online inledde Star Stable ett samarbete med forskningsbaserade AI-bolaget Oterlu och digitala byrån Peppy Agency. Oterlu bidrog med en AI som inte bara spårade förbjudna eller olämpliga ord, utan även över tid kunde utveckla och fördjupa en förståelse för kontext och sammanhang. Peppy Agency, som är specialiserad på social och emotionell intelligens, utvecklade ett budskap som skulle främja till spelarnas goda instinkter och uppmuntra dem till att hantera sina känslor och känna empati för varandra snarare än att banna och förmana.

    I ett första steg genomfördes en sex veckor lång pilotstudie i England. Efter att Oterlus AI hade fått bekanta sig med chattinnehåll offline sattes två grupper upp: En som blev föremål för Peppy Agencys positivt laddade budskap när någon gick över gränsen, samt en kontrollgrupp för att säkra resultatet. Budskapen var utformade för att uppmuntra till reflektion och själv modererande och bestod av tre led:

 

1. Hjälpa spelaren att bli medveten om ett mindre vänligt beteende
   (“Hej! Det verkar som om du har skickat ett meddelande som inte var så schysst.”)
   
   
2. Bidra till empati genom reflektion
   (“Tänk efter: Hur skulle du själv känna dig om någon sa så där till dig?”)
   
   

• Ge förslag på alternativa beteenden:
  (“Kom ihåg, om du är snäll mot andra så kan du också få många nya vänner.”)

 

“I grunden handlar det om vilken relation vi vill ha till våra spelare, som polis eller som kompis. Och hur vi kan bidra till en vänligare och mer inkluderande värld online”, säger Jane Skullman, exekutiv producent och teknisk produktionsledare vid Star Stable som är initiativtagare till samarbetet.

”Vi var intresserade av att se om artificiell intelligens kunde göra mer än att stoppa dåligt beteende, utan i stället bidra till en positiv kulturförändring online”, säger Alexander Gee.  

“I en digital värld som Star Stable Online möter du barn och unga på deras egna villkor. I spelvärlden finns det möjligheter att använda lek och storytelling för att utveckla sociala färdigheter. Samma engagerande möjlighet finns sällan i miljöer som är kontrollerade av vuxna, till exempel skolan”, säger Paulina Olsson, vd och medgrundare, Peppy Agency.

 

Resultatet av pilotstudien var en minskning med fem procent av antalet meddelanden som betecknades som ”toxiska” under de sex veckor som studien pågick.

”Det kan låta lite, men att bygga en vänligare kultur tar tid. Vi vet sedan tidigare att över tid är den här typen av beteenden självförstärkande. En ovänlig ton tenderar att snabbt bli värre och motsatt så föder vänlighet mer vänlighet exponentiellt. Går det att under sex korta veckor skapa signifikanta förändringar ser jag det som oerhört lovande, säger Jane Skullman som nu arbetar med en fortsättning på pilotstudien:

”Twitter har nyligen gjort liknande försök, men vad jag vet är vi först i spelbranschen med att utveckla den här formen av smartare moderering. Det finns självklart en rad frågor kring
datasäkerhet och maskininlärning att hantera om detta ska omsättas i större skala. Men vi alla som deltagit i det här första lovande försöket ser stora möjligheter att vara med och bidra till en vänligare och mer välkomnande värld online.”

---