Roblox Corporation heeft een nieuwe AI-functie geïntroduceerd die ongepaste taal in chats automatisch herschrijft naar vriendelijkere alternatieven. De functie moet gesprekken duidelijker houden en tegelijkertijd bijdragen aan een veiligere omgeving op het platform.
Tot nu toe verving Roblox berichten die tegen de regels ingingen met een reeks hekjes (####). Volgens het bedrijf kon dat echter storend zijn en gesprekken moeilijk leesbaar maken. Met de nieuwe AI-tool worden ongepaste woorden nu automatisch aangepast naar een geschiktere formulering.
AI herschrijft berichten in realtime
Volgens Rajiv Bhatia begint de nieuwe functie in eerste instantie met het filteren van vloekwoorden en grof taalgebruik.
Een voorbeeld dat Roblox zelf geeft:
- “Hurry TF up” wordt automatisch aangepast naar “Hurry up!”
Wanneer een bericht wordt aangepast:
- zien alle deelnemers dat het bericht is herschreven
- ziet de verzender welke woorden zijn aangepast
Gebruikers die herhaaldelijk de regels overtreden, kunnen nog steeds worden bestraft volgens de communityrichtlijnen, ook als de AI hun berichten herschrijft.
Volgens Bhatia moet het systeem spelers helpen hun gedrag aan te passen:
“Realtime feedback helpt gebruikers onze Community Standards te begrijpen en toe te passen.”
Alleen voor leeftijdsgecontroleerde gebruikers
De nieuwe functie is momenteel beschikbaar in chats tussen leeftijdsgecontroleerde spelers van vergelijkbare leeftijdsgroepen. Het systeem werkt in alle talen die ook worden ondersteund door Roblox’ automatische vertaaltool.
Roblox introduceerde in januari een verplicht leeftijdsverificatiesysteem na berichten over veiligheidsproblemen op het platform. Daarbij werd onder meer gemeld dat sommige volwassen spelers het platform gebruikten om minderjarigen te benaderen.
Sindsdien gelden strengere regels:
- kinderen onder de 13 jaar kunnen buiten bepaalde ervaringen geen vrije chat gebruiken
- oudere spelers kunnen alleen chatten met gebruikers van vergelijkbare leeftijd
Juridische druk blijft toenemen
Ondanks de nieuwe maatregelen blijft Roblox onder druk staan van autoriteiten in de Verenigde Staten.
Zo diende Los Angeles County in februari een rechtszaak in waarin wordt gesteld dat Roblox wist dat zijn platform kinderen kwetsbaar maakt voor online misbruik.
Ook de procureur-generaal van Louisiana heeft recent een rechtszaak aangespannen. Volgens de aanklacht zou Roblox een platform hebben gecreëerd waar “kinderen gemakkelijk doelwit kunnen worden van seksueel misbruik”.
Met de nieuwe AI-functie probeert Roblox in ieder geval een stap te zetten richting veiliger en duidelijker communicatie binnen zijn gigantische online platform.