Hoe gebruiken bedrijven AI om AI te detecteren?

Met de komst van gemakkelijk toegankelijke grote taalmodellen zoals Chat GTP kunnen gewone mensen de kracht van AI gebruiken om vragen of vragen te stellen, of zelfs om de software te vragen om volledige taken uit te voeren.

Als het gaat om het creëren van inhoud, kan dit een probleem zijn voor bedrijven die op zoek zijn naar hoogwaardige woordkunst. AI-inhoud kan feitelijk onnauwkeurig, niet origineel of zelfs geplagieerd zijn. De zoekmachines van Google zouden AI-inhoud niet specifiek bestraffen, maar ze zullen wel fouten en slechte kwaliteit bestraffen die het gevolg zijn van oneigenlijk gebruik van AI. Het creëren van inhoud is niet het enige gebied waarop AI door de massa kan worden gebruikt om vooruit te komen. Op het gebied van werving en onderwijs hebben studenten en sollicitanten technologie gebruikt om cv's en zelfs academische essays te schrijven, wat een hele reeks problemen heeft opgeleverd bij de beoordeling en selectie. Online gamen, met name als het om echt geld gaat, is ook een punt van zorg. AI-programma's, bekend als bots, kunnen worden gemaakt door mensen met de technische kennis en vervolgens worden gebruikt om te proberen vals te spelen. In al deze gevallen hebben bedrijven de mogelijkheid om met AI samen te werken om deze negatieve effecten te bestrijden. Door programma's te gebruiken die AI-tekst of botgameplay herkennen, proberen bedrijven voorop te lopen.

AI-detectie bij online gaming

De eerste categorie die we gaan onderzoeken is online gaming, met name online casinogames en poker. Dit is een industrie die wereldwijd honderden miljarden dollars waard is. Omdat er zoveel geld mee gemoeid is, is het absoluut noodzakelijk dat bedrijven fraude en oplichting detecteren en AI-accounts snel afsluiten. Dit is niet zozeer een probleem voor casinospellen die puur op toeval zijn gebaseerd, aangezien een AI-bot het huisvoordeel dat in de spellen is ingebouwd niet kan overwinnen. Met andere woorden, het is vrijwel onmogelijk om te spieken bij online roulette of slots met behulp van een AI-bot. Het gebruik van AI-bots is veel zorgwekkender in spellen met deels toeval en deels behendigheid, zoals poker. In dit geval is het mogelijk om een AI-programma te maken dat kan spelen zonder menselijke tussenkomst en dat op zijn minst een kans heeft om winstgevend te concurreren in de pool. Gelukkig is het erg moeilijk om een AI-bot te maken met een grote voorsprong in poker. Meestal moeten oplichters genoegen nemen met zeer marginale winsten. Om dit probleem aan te pakken, hebben grote online pokersites beveiligingsteams die zich toeleggen op het vinden van deze bots en het verbannen van de accounts. Bijvoorbeeld Ignition Poker maakt gebruik van eersteklas coderingsmethoden, die spelersgegevens en transacties tot het hoogste niveau beschermen en ook algoritmen voor het schudden van kaarten bevatten die volledig onvoorspelbare kaartcombinaties maken. Over het algemeen biedt het platform een redelijk veilige omgeving voor spelers, aangezien pogingen om vals te spelen meestal snel aan het licht komen. Online gamingsites kunnen gebruik maken van AI-detectiesystemen als onderdeel van hun beveiliging. Deze systemen scannen de site veel efficiënter dan mensen om ongebruikelijke accountactiviteit, afwijkend gedrag en vreemde, te consistente inzetpatronen te vinden. Eenmaal gemarkeerd, kunnen deze vervolgens worden gemonitord door mensen, die de uiteindelijke beslissing nemen over het al dan niet ondernemen van verdere actie.

Op het gebied van rekrutering en onderwijs

Nu grote taalmodellen hebben net als Chat GTP het internet veranderd en een vrijwel onmiddellijke oplossing geboden voor het maken van alle op tekst gebaseerde documenten. Dit omvat cv's, sollicitaties en academische essays, die allemaal erg problematisch zijn voor het bedrijf of de onderwijsinstelling. Sollicitantenvolgsystemen (ATS) worden door wervingsbedrijven in de eerste fase van de screening gebruikt om honderden potentiële sollicitanten te scannen. De meeste van deze systemen zijn voorlopig gericht op het analyseren van de inhoud van de sollicitatie en het afstemmen ervan op de functiebeschrijving. Ze bevatten meestal geen AI-detectietools. Dit betekent dat, technisch gezien, een AI-toepassing deze eerste screening waarschijnlijk zal doorstaan, als deze met de hand op kwaliteit is gecontroleerd. Hierna wordt de aanvraag echter handmatig beoordeeld en moeten de sollicitanten zelf nog verdere gesprekken en persoonlijke taken ondergaan. Hoewel een door AI geschreven sollicitatie de screening kan doorstaan, moet de persoon nog steeds over de nodige vaardigheden en ervaring beschikken om de baan te krijgen. Dit kan in de toekomst veranderen als bedrijven besluiten om AI-detectie te integreren in hun ATS-screeningsfase. Of het kan de andere kant op gaan. Vooruitstrevende bedrijven, vooral bedrijven in de tech-industrie, zien het gebruik van taalmodellen misschien als een teken van innovatie en ervaring met AI. In het onderwijs is het probleem veel problematischer, omdat studenten de tool mogelijk kunnen gebruiken om hun cijfers te verbeteren. Universiteiten en hogescholen hebben dit bestreden met behulp van AI-detectoren. Deze software vergelijkt het essay met een database met tekst en analyseert de gebruikte taal en de manier waarop deze wordt gebruikt. In sommige gevallen hebben universiteiten een zeer lage fout-positieve score van minder dan één procent gerapporteerd en beweren ze dat hun AI-detectoren opmerkelijk nauwkeurig zijn. Open AI gaf echter zelf in 2023 toe dat detectietools niet nauwkeurig genoeg zijn en stopte zelfs met hun detector. Nogmaals, een mix van AI-tools en menselijk ingrijpen is nodig om het probleem aan te pakken.

Schrijven van inhoud

Veel bedrijven besteden het schrijven van hun content uit, zowel voor advertenties in de echte wereld als voor alles wat met hun website en online campagnes te maken heeft. Zogenaamde schrijvers kunnen Chat GTP in hun voordeel gebruiken, waardoor de tijd die nodig is om een artikel of blogpost te maken drastisch wordt verkort. Indien gebruikt met toestemming en voor een doel zoals het bewerken of verfijnen van tekst, AI kan de productiviteit verbeteren. Het probleem is dat schrijven met AI generiek, onnauwkeurig en mogelijk illegaal kan zijn in termen van auteursrecht. Het is niet zo origineel als door mensen geschreven inhoud en devalueert de service voor de bedrijven die ervoor hebben betaald. Enkele van de veelbetekenende tekenen van AI-schrijven zijn onder meer het gebruik van te geavanceerd jargon, het gebrek aan personalisatie en herhalingen van bepaalde woorden en zinsstructuren — hoewel dit ook tekenen kunnen zijn van een onervaren schrijver! In ieder geval kunnen AI-inhoudsdetectoren opnieuw worden gebruikt. Ze zullen zoeken naar kenmerken zoals verbijstering, wat betekent hoe voorspelbaar de tekst is vanuit een AI-perspectief, en op variatie in woordgebruik, zinslengte en structuur. Aangezien deze detectoren niet altijd nauwkeurig zijn, is menselijk ingrijpen opnieuw cruciaal. Zodra de software een potentieel AI-gebruik detecteert, kan de contentmanager het werk beoordelen en de inhoud in de loop van de tijd controleren om te beslissen of verdere actie nodig is. In feite zijn AI-detectietools voortdurend in een voortdurende wapenwedloop verwikkeld tegen grote AI-taalmodellen. Om ervoor te zorgen dat bedrijven het gebruik van AI kunnen bijhouden, moeten detectoren gelijke tred houden met de samengestelde kwaliteit van door AI gegenereerde tekst.