Hoe kunstmatige intelligentie enkele van de moeilijkste problemen van internet oplost

Geschreven door Ram Ramanathan, directeur van het Artificial Intelligence Product Management Team bij Facebook

wist u meer dan 60% Wie in de wereld heeft nu toegang tot internet?

Naarmate het internet is geëvolueerd om meer netwerken en apparaten te integreren, hebben mensen over de hele wereld meer mogelijkheden gekregen om verbonden te blijven en meer plaatsen om informatie te vinden. Maar sommige van de problemen die de mensheid door de geschiedenis heen hebben geteisterd – zoals haatzaaiende uitlatingen en opzettelijke verkeerde informatie – zijn ook op internet opgedoken.

Gelukkig zijn er grote stappen gemaakt op het gebied van kunstmatige intelligentie die kunnen helpen bij het oplossen van deze uitdagingen. Als directeur van het AI Product Management Team van Facebook heb ik de evolutie van de nieuwste ontwikkelingen kunnen volgen die zijn gemaakt om de integriteit van online platforms te behouden, het publiek te beschermen tegen schadelijke en misleidende inhoud en de integriteit van de merken van adverteerders te behouden.

Het op grote schaal ontdekken van problematische inhoud is een zeer uitdagende taak, maar met AI als hulpmiddel wordt het gemakkelijker om dit snel en efficiënter te doen.

Detecteert en verwijdert aanzetten tot haat

Om de gebruikersveiligheid te verbeteren en schadelijke inhoud uit onze platforms te houden, hebben we richtlijnen ontwikkeld die acceptabel gedrag in beide regelen: Facebook sociale netwerksite En de Instagram. We zijn nu in staat om complex te trainen kunstmatige intelligentie netwerk Zodat ze binnen een fractie van een seconde nieuwe berichten kunnen scannen om te beoordelen of ze deze richtlijnen lijken te schenden.

Hoewel scheldwoorden en het gebruik van haatdragende symbolen veel voorkomen, zijn er veel complexere gevallen van haatzaaien. Dergelijke uitspraken zijn vaak vermomd als sarcasme en jargon, of vermomd in ogenschijnlijk onschuldige beelden die in verschillende culturen anders kunnen worden waargenomen. Wanneer degenen die zich subtieler en degelijker uitdrukken het in een grotere context uitvoeren, stelt het ook grotere technische uitdagingen om dit correct te detecteren als uitingen van haat. Daarom is het zo belangrijk dat er de afgelopen jaren aanzienlijke vooruitgang is geboekt in het vermogen van kunstmatige intelligentie om deze inhoud beter te begrijpen.

Zoals het laatste deel van de lente Implementatierapport voor communautaire normen Het blijkt dat AI 96,8% heeft gedetecteerd van de 25,2 miljoen haatspraak die we in het eerste kwartaal van 2021 hebben verwijderd. In dezelfde periode hebben we ook de incidentie van haatspraak teruggebracht tot slechts 6 van elke 10.000 inhoudsweergaven op Facebook. Dit doelnummer is met name interessant voor adverteerders die inzicht willen krijgen in de mogelijke risico’s van een advertentie die wordt weergegeven naast inhoud die in strijd is met onze normen.

Kunstmatige intelligentie helpt ons de reikwijdte van inhoudsbeoordeling uit te breiden door bepaalde beslissingen te automatiseren. Op deze manier helpt het systeem bij het prioriteren van zaken die te complex zijn om door mensen te worden beoordeeld en beoordeeld. Tegelijkertijd beschermt het proces onze medewerkers tegen het feit dat ze enkele van de meest problematische inhoud met hun eigen ogen moeten zien.

Identificeert onjuiste informatie

Wanneer onze modellen de kans voorspellen dat een publicatie misleidende of onnauwkeurige informatie bevat, wordt deze ter beoordeling doorgestuurd naar externe factcheckers. Als ze de inhoud als onjuist beschouwen, plaatsen we een waarschuwingsvlag op het bericht en plaatsen het in de juiste context. Deze tools zijn zeer effectief gebleken. Uit ons interne onderzoek bleek dat wanneer ze stickers krijgen die waarschuwen dat inhoud als onwaar of onjuist wordt beschouwd, ze de inhoud niet 95% van de tijd zien.

Elk bericht met verkeerde informatie kan duizenden keren worden gekopieerd en gedeeld door gebruikers. Kunstmatige intelligentie wordt nu gebruikt om deze bijna nauwkeurige duplicaten te detecteren en elke kopie te labelen met een tag, wat het verschil maakt in het bestrijden van verkeerde informatie.

Wanneer zich nieuwe uitdagingen voordoen, maken we voortdurend gebruik van AI om ons beleid te helpen handhaven. Zo hebben we sinds het begin van de pandemie wereldwijd meer dan 16 miljoen berichten op Facebook en Instagram verwijderd met informatie over COVID-19 of vaccins die gezondheidsexperts hebben afgewezen.

Klaar om de grootste uitdagingen van morgen aan te gaan

Hatelijke “memes” en “deep fake” – media waarin een video of afbeelding digitaal is gemanipuleerd om het er anders uit te laten zien – zijn twee van de grootste uitdagingen waar we momenteel AI-modellen voor trainen om te bestrijden.

Het maken van memes houdt in dat tekst en afbeeldingen op een vaak subtiele of ironische manier worden samengevoegd. De inhoud van een afbeelding of tekst in een memes is misschien niet aanstootgevend als ze afzonderlijk worden bekeken, maar in sommige gevallen is het resultaat schadelijk wanneer ze worden gecombineerd. Onze systemen worden steeds beter in het beoordelen van afbeeldingen en tekst in context, en in het begrijpen van contexten en het verwijderen van hatelijke memes.

Over het algemeen ondersteunt de hele competentieomgeving rond AI proactieve kennisdeling en werkt de omgeving samen om betere internetervaringen te creëren. Onze recente promoties Mimi haat uitdaging En de diepe nep Detectie-uitdaging Nieuwe en open openbaarmakingsmodellen bieden waar iedereen van kan profiteren. Door middelen toe te wijzen aan een open en herhaalbare wetenschap, houden AI-onderzoekers elkaar ter verantwoording terwijl ze nieuwe technologie gemakkelijker beschikbaar maken.

AI zorgt voor betere online ervaringen

Mijn team streeft ernaar toegankelijke oplossingen te bouwen die het mogelijk maken om op een evenwichtige manier om te gaan met kwaadaardige inhoud. Het is onze bedoeling dat onze platforms openstaan ​​voor mensen om te uiten wat ze denken, maar zonder anderen te schaden. En we willen dat het bedrijfsleven kan deelnemen aan het gesprek zonder geassocieerd te worden met schadelijke of misleidende inhoud.

Ons belangrijkste doel is om het meest veilige communicatieplatform te bieden. Kunstmatige intelligentie is niet de enige oplossing voor problematische inhoud, maar het is een van de vele tools die ons in staat stellen om sneller en efficiënter te schalen en aan te passen dan alleen mogelijk zou zijn met het menselijke personeelsbestand. We weten dat er nog veel werk aan de winkel is en we zijn vastbesloten om ernaar te streven dat te laten gebeuren.

Als u meer wilt weten over onze open source-tools en het onderzoek dat we doen, raden we u aan dat te doen Bekijk deze informatie online beter!