Como as empresas usam a IA para detectar a IA?

Com o advento de modelos de grandes linguagens de fácil acesso, como o Chat GTP, as pessoas comuns podem utilizar o poder da IA para fazer perguntas ou consultas, ou até mesmo para solicitar que o software execute tarefas inteiras.

Quando se trata de criação de conteúdo, isso pode ser um problema para empresas que buscam palavras de alta qualidade. O conteúdo de IA pode ser factualmente impreciso, não original ou até mesmo plagiado. Os mecanismos de pesquisa do Google supostamente não penalizam especificamente o conteúdo de IA, mas penalizarão os erros e a má qualidade decorrentes do uso indevido da IA. A criação de conteúdo não é a única área na qual a IA pode ser usada pelas massas para progredir. No recrutamento e na educação, estudantes e candidatos a emprego têm usado a tecnologia para escrever currículos e até ensaios acadêmicos, gerando uma série de problemas quando se trata de notas e seleção. O jogo online, especialmente quando se trata de dinheiro real, também é uma área preocupante. Os programas de IA, conhecidos como bots, podem ser criados por pessoas com conhecimento técnico e depois usados para tentar trapacear. Em todos esses casos, as empresas têm a opção de trabalhar com a IA para combater esses efeitos negativos. Ao usar programas que detectam a jogabilidade de texto ou bot de IA, as empresas estão tentando se antecipar.

Detecção de IA em jogos online

A primeira categoria que vamos explorar são os jogos online, especialmente os jogos de cassino online e o pôquer. Esse é um setor que vale centenas de bilhões de dólares em todo o mundo. Com tanto dinheiro envolvido, é imperativo que as empresas detectem fraudes e golpes e fechem rapidamente as contas de IA. Isso não é um grande problema para jogos de cassino baseados exclusivamente no acaso, pois um bot de IA não consegue superar a vantagem doméstica que está embutida nos jogos. Em outras palavras, é virtualmente impossível trapacear na roleta ou nos caça-níqueis online usando um bot de IA. O uso de bots de IA é muito mais preocupante em jogos de azar e habilidade parcial, como o pôquer. Nesse caso, é possível criar um programa de IA que possa jogar sem a participação humana e tenha pelo menos uma chance de competir lucrativamente na piscina. Felizmente, é muito difícil criar um bot de IA com uma grande vantagem no pôquer. Na maioria das vezes, os golpistas precisam se contentar com ganhos muito marginais. Para resolver o problema, os principais sites de pôquer online têm equipes de segurança dedicadas a encontrar esses bots e banir as contas. Por exemplo, Poker de ignição usa métodos de criptografia de alto nível, que protegem os dados e as transações dos jogadores ao mais alto nível e também incorporam algoritmos de embaralhamento de cartas que criam combinações de cartas totalmente imprevisíveis. No geral, a plataforma oferece um ambiente razoavelmente seguro para os jogadores, já que as tentativas de trapacear geralmente são rapidamente expostas. Os sites de jogos online podem empregar o uso de sistemas de detecção de IA como parte de sua segurança. Esses sistemas examinarão o site com muito mais eficiência do que os humanos para encontrar atividades incomuns na conta, comportamentos anômalos e padrões de apostas estranhos e excessivamente consistentes. Uma vez sinalizados, eles podem ser monitorados por humanos, que tomarão a decisão final sobre a tomada de medidas adicionais.

No recrutamento e na educação

Agora grandes modelos de linguagem como o Chat GTP, mudaram a Internet e forneceram uma solução quase instantânea para a criação de qualquer documento baseado em texto. Isso inclui currículos, pedidos de emprego e ensaios acadêmicos, todos muito problemáticos para a empresa ou instituto educacional. Os sistemas de rastreamento de candidatos (ATS) são usados pelas empresas de recrutamento na primeira etapa da triagem para escanear centenas de candidatos em potencial. A maioria desses sistemas, pelo menos por enquanto, se concentra em analisar o conteúdo do aplicativo e combiná-lo com a descrição do cargo. Eles não tendem a incluir ferramentas de detecção de IA. Isso significa que, tecnicamente falando, um aplicativo de IA provavelmente passará por essa triagem inicial, se tiver sido verificado manualmente quanto à qualidade. Depois disso, no entanto, a inscrição será avaliada manualmente e os próprios candidatos ainda terão que passar por mais entrevistas e tarefas presenciais. Embora uma inscrição escrita por IA possa passar pela triagem, o indivíduo ainda precisará ter as habilidades e a experiência necessárias para conseguir o emprego. Isso pode mudar no futuro se as empresas decidirem integrar a detecção de IA em seu estágio de triagem de ATS. Ou poderia ir para o outro lado. Empresas com visão de futuro, especialmente aquelas do setor de tecnologia, podem ver o uso de modelos de linguagem como um sinal de inovação e experiência com IA. O problema é muito mais problemático na educação, pois os estudantes podem potencialmente usar a ferramenta para enganar suas notas. Universidades e faculdades têm combatido isso usando Detectores de IA. Este software compara o ensaio a um banco de dados de texto e analisa a linguagem usada e a forma como ela é usada. Em alguns casos, as universidades relataram uma pontuação muito baixa de falsos positivos de menos de um por cento e afirmam que seus detectores de IA são extremamente precisos. No entanto, a própria Open AI admitiu em 2023 que as ferramentas de detecção não são precisas o suficiente e até descontinuaram seu detector. Novamente, uma mistura de ferramentas de IA e intervenção humana é necessária para resolver o problema.

Redação de conteúdo

Muitas empresas terceirizam a redação de conteúdo, tanto para publicidade no mundo real quanto para tudo relacionado ao site e às campanhas on-line. Os chamados escritores podem usar o Chat GTP a seu favor, reduzindo drasticamente o tempo necessário para criar um artigo ou postagem no blog. Se usado com permissão e para uma finalidade, como editar ou refinar texto, A IA pode melhorar a produtividade. O problema é que a escrita com IA pode ser genérica, imprecisa e potencialmente ilegal em termos de direitos autorais. Não é tão original quanto o conteúdo escrito por humanos e desvaloriza o serviço para as empresas que pagaram por ele. Alguns dos sinais reveladores da escrita com IA incluem o uso de jargões excessivamente sofisticados, a falta de personalização e a repetição de palavras e estruturas de frases específicas, embora também possam ser sinais de um escritor inexperiente! De qualquer forma, os detectores de conteúdo de IA podem ser usados novamente. Eles examinarão características como perplexidade, ou seja, quão previsível é o texto do ponto de vista da IA, e variações no uso de palavras, no comprimento da frase e na estrutura. Como esses detectores nem sempre são precisos, novamente, a intervenção humana é fundamental. Depois que o software detecta um possível uso de IA, o gerente de conteúdo pode revisar o trabalho e monitorar o conteúdo ao longo do tempo para decidir se outras ações são necessárias. Na verdade, as ferramentas de detecção de IA estão em uma corrida armamentista constante contra os modelos de IA em grandes linguagens. Para que as empresas mantenham o controle do uso da IA, os detectores precisam acompanhar a qualidade de composição do texto gerado pela IA.