In che modo le aziende utilizzano l'IA per rilevare l'IA?

Con l'avvento di modelli linguistici di grandi dimensioni facilmente accessibili come Chat GTP, le persone comuni possono utilizzare la potenza dell'intelligenza artificiale per porre domande o richieste o persino per richiedere al software di eseguire intere attività.

Quando si tratta di creazione di contenuti, questo può essere un problema per le aziende che cercano testi di alta qualità. I contenuti basati sull'intelligenza artificiale potrebbero essere effettivamente imprecisi, non originali o addirittura plagiati. I motori di ricerca di Google presumibilmente non penalizzano specificamente i contenuti di intelligenza artificiale, ma penalizzeranno gli errori e la cattiva qualità derivanti dall'uso improprio dell'intelligenza artificiale. La creazione di contenuti non è l'unica area in cui l'intelligenza artificiale può essere utilizzata dalle masse per farsi strada. Nel campo del reclutamento e dell'istruzione, studenti e candidati hanno utilizzato la tecnologia per scrivere CV e persino saggi accademici, sollevando una serie di problemi in termini di valutazione e selezione. Anche il gioco online, in particolare quando si tratta di denaro reale, è fonte di preoccupazione. I programmi di intelligenza artificiale, noti come bot, possono essere creati da chi ha conoscenze tecniche e quindi utilizzati per tentare di imbrogliare. In tutti questi casi, le aziende hanno la possibilità di lavorare con l'intelligenza artificiale per combattere questi effetti negativi. Utilizzando programmi che rilevano il testo basato sull'intelligenza artificiale o il gameplay dei bot, le aziende stanno cercando di anticipare i tempi.

Rilevamento dell'IA nei giochi online

La prima categoria che esploreremo è il gioco online, in particolare i giochi da casinò online e il poker. Si tratta di un settore che vale centinaia di miliardi di dollari a livello globale. Con così tanti soldi in gioco, è fondamentale che le aziende individuino frodi e truffe e chiudano rapidamente gli account AI. Questo non è un grosso problema per i giochi da casinò basati esclusivamente sul caso, in quanto un bot di intelligenza artificiale non può superare il vantaggio del banco integrato nei giochi. In altre parole, è praticamente impossibile barare alla roulette o alle slot online utilizzando un bot AI. L'uso dei robot AI è molto più preoccupante nei giochi in parte casuali e in parte abili, come il poker. In questo caso, è possibile creare un programma di intelligenza artificiale in grado di giocare senza la partecipazione umana e che abbia almeno la possibilità di competere con profitto nel biliardo. Fortunatamente, è molto difficile creare un bot di intelligenza artificiale con un grande vantaggio nel poker. Il più delle volte, i truffatori devono accontentarsi di guadagni molto marginali. Per affrontare il problema, i principali siti di poker online dispongono di team di sicurezza dedicati a trovare questi bot e a vietare gli account. Ad esempio Poker ad accensione utilizza metodi di crittografia di prim'ordine, che proteggono i dati e le transazioni dei giocatori al massimo livello e incorporano anche algoritmi di mescolamento delle carte che creano combinazioni di carte completamente imprevedibili. Nel complesso, la piattaforma offre un ambiente ragionevolmente sicuro per i giocatori, poiché i tentativi di imbrogliare vengono generalmente smascherati rapidamente. I siti di gioco online possono utilizzare l'uso di sistemi di rilevamento AI come parte della loro sicurezza. Questi sistemi scansioneranno il sito in modo molto più efficiente rispetto agli umani per individuare attività insolite sull'account, comportamenti anomali e schemi di scommessa strani ed eccessivamente coerenti. Una volta contrassegnati, questi possono essere monitorati da esseri umani che prenderanno la decisione finale se intraprendere ulteriori azioni.

Nel reclutamento e nell'istruzione

Ora modelli linguistici di grandi dimensioni come Chat GTP, hanno cambiato Internet e fornito una soluzione quasi istantanea per la creazione di qualsiasi documento basato su testo. Ciò include CV, domande di lavoro e saggi accademici, tutti molto problematici per l'azienda o l'istituto di istruzione. I sistemi di tracciamento dei candidati (ATS) vengono utilizzati dalle società di reclutamento nella prima fase dello screening per scansionare centinaia di potenziali candidati. La maggior parte di questi sistemi, almeno per ora, si concentra sull'analisi del contenuto della candidatura e sulla sua corrispondenza con la descrizione del lavoro. Di solito non includono strumenti di rilevamento dell'IA. Ciò significa che, tecnicamente parlando, un'applicazione di intelligenza artificiale probabilmente supererà questo screening iniziale, se è stata controllata a mano per verificarne la qualità. Successivamente, tuttavia, la domanda verrà valutata manualmente e i candidati stessi dovranno comunque sottoporsi a ulteriori colloqui e attività di persona. Sebbene una candidatura scritta con intelligenza artificiale possa superare lo screening, la persona dovrà comunque avere le competenze e l'esperienza necessarie per ottenere il lavoro. La situazione potrebbe cambiare in futuro se le aziende decidessero di integrare il rilevamento dell'IA nella loro fase di screening ATS. Oppure potrebbe andare nella direzione opposta. Le aziende lungimiranti, in particolare quelle del settore tecnologico, possono vedere l'uso di modelli linguistici come un segno di innovazione ed esperienza con l'intelligenza artificiale. Il problema è molto più problematico nel settore dell'istruzione, in quanto gli studenti possono potenzialmente utilizzare lo strumento per imbrogliare i propri voti. Le università e i college hanno combattuto questo problema utilizzando Rilevatori AI. Questo software confronta il saggio con un database di testo e analizza la lingua utilizzata e il modo in cui viene utilizzata. In alcuni casi, le università hanno riportato un punteggio di falsi positivi molto basso, inferiore all'1% e affermano che i loro rilevatori di intelligenza artificiale sono straordinariamente accurati. Tuttavia, la stessa Open AI ha ammesso nel 2023 che gli strumenti di rilevamento non sono sufficientemente accurati e ne ha persino interrotto la produzione. Ancora una volta, è necessario un mix di strumenti di intelligenza artificiale e intervento umano per affrontare il problema.

Scrittura di contenuti

Molte aziende esternalizzano la scrittura di contenuti, sia per la pubblicità nel mondo reale che per tutto ciò che riguarda il loro sito Web e le campagne online. I cosiddetti scrittori possono utilizzare Chat GTP a proprio vantaggio, riducendo drasticamente il tempo necessario per creare un articolo o un post sul blog. Se utilizzato con autorizzazione e per uno scopo come la modifica o il perfezionamento del testo, L'intelligenza artificiale può migliorare la produttività. Il problema è che la scrittura basata sull'intelligenza artificiale può essere generica, imprecisa e potenzialmente illegale in termini di copyright. Non è così originale come i contenuti scritti dall'uomo e svaluta il servizio per le aziende che lo hanno pagato. Alcuni dei segni rivelatori della scrittura basata sull'intelligenza artificiale includono l'uso di un gergo troppo sofisticato, la mancanza di personalizzazione e la ripetizione di particolari strutture di parole e frasi, anche se questi possono essere i segni di uno scrittore inesperto! In ogni caso, i rilevatori di contenuti AI possono essere nuovamente utilizzati. Cercheranno elementi come la perplessità, ossia la prevedibilità del testo dal punto di vista dell'intelligenza artificiale, e le variazioni nell'uso delle parole, nella lunghezza e nella struttura delle frasi. Dato che questi rilevatori non sono sempre accurati, ancora una volta l'intervento umano è fondamentale. Una volta che il software rileva un potenziale utilizzo dell'IA, il content manager può rivedere il lavoro e monitorare il contenuto nel tempo per decidere se sono necessarie ulteriori azioni. In effetti, gli strumenti di rilevamento dell'IA sono in costante corsa agli armamenti contro i modelli di intelligenza artificiale in linguaggio ampio. Affinché le aziende possano rimanere al passo con l'uso dell'IA, i rilevatori devono tenere il passo con la qualità di composizione del testo generato dall'intelligenza artificiale.