¿Cómo utilizan las empresas la IA para detectar la IA?

Con la llegada de modelos de grandes lenguajes de fácil acceso, como Chat GTP, la gente común puede utilizar el poder de la IA para hacer preguntas o consultas, o incluso para solicitar al software que realice tareas completas.

Cuando se trata de la creación de contenido, esto puede ser un problema para las empresas que buscan trabajos de ortografía de alta calidad. El contenido de IA puede ser inexacto desde el punto de vista fáctico, poco original o incluso estar plagiado. Al parecer, los motores de búsqueda de Google no penalizan específicamente el contenido de IA, pero sí penalizarán los errores y la mala calidad que se deriven del uso indebido de la IA. La creación de contenido no es el único ámbito en el que las masas pueden utilizar la IA para salir adelante. En el ámbito de la contratación y la educación, los estudiantes y los solicitantes de empleo han estado utilizando la tecnología para escribir currículums e incluso ensayos académicos, lo que ha planteado toda una serie de problemas a la hora de calificar y seleccionar. Los juegos en línea, especialmente cuando se trata de dinero real, también son motivo de preocupación. Los programas de IA, conocidos como bots, pueden ser creados por personas con los conocimientos técnicos y luego usarlos para intentar hacer trampa. En todos estos casos, las empresas tienen la opción de trabajar con la IA para combatir estos efectos negativos. Mediante el uso de programas que detectan textos de inteligencia artificial o jugadas con bots, las empresas intentan adelantarse a los acontecimientos.

Detección de IA en juegos online

La primera categoría que vamos a explorar son los juegos en línea, en particular los juegos de casino en línea y el póker. Se trata de una industria que vale cientos de miles de millones de dólares en todo el mundo. Con tanto dinero de por medio, es imperativo que las empresas detecten los fraudes y estafas y cierren rápidamente las cuentas de inteligencia artificial. Esto no es un gran problema para los juegos de casino que se basan exclusivamente en el azar, ya que un robot de inteligencia artificial no puede superar la ventaja interna que conlleva. En otras palabras, es prácticamente imposible hacer trampa en la ruleta o en las tragaperras online con un robot de inteligencia artificial. El uso de bots de inteligencia artificial es mucho más preocupante en juegos en los que hay parte de azar y parte de habilidad, como el póker. En este caso, es posible crear un programa de inteligencia artificial que pueda jugar sin participación humana y que tenga al menos posibilidades de competir de forma rentable en el grupo. Afortunadamente, es muy difícil crear un robot de IA con una gran ventaja en el póker. La mayoría de las veces, los estafadores tienen que conformarse con ganancias muy marginales. Para abordar el problema, los principales sitios de póquer en línea cuentan con equipos de seguridad dedicados a encontrar estos bots y prohibir las cuentas. Por ejemplo, Ignition Poker utiliza métodos de cifrado de primera categoría, que protegen los datos y las transacciones de los jugadores al más alto nivel y también incorporan algoritmos de barajado de cartas que crean combinaciones de cartas totalmente impredecibles. En general, la plataforma ofrece un entorno razonablemente seguro para los jugadores, ya que los intentos de hacer trampa suelen quedar rápidamente al descubierto. Los sitios de juegos en línea pueden emplear el uso de sistemas de detección de IA como parte de su seguridad. Estos sistemas escanearán el sitio de manera mucho más eficiente que los humanos para encontrar actividad inusual en las cuentas, comportamientos anómalos y patrones de apuestas extraños y demasiado consistentes. Una vez marcados, pueden ser monitoreados por humanos, quienes tomarán la decisión final sobre si tomar o no más medidas.

En el reclutamiento y la educación

Ahora modelos lingüísticos grandes como Chat GTP, han cambiado Internet y han proporcionado una solución casi instantánea para la creación de cualquier documento basado en texto. Esto incluye currículos, solicitudes de empleo y ensayos académicos, todos los cuales son muy problemáticos para la empresa o el instituto educativo. Las empresas de contratación utilizan sistemas de seguimiento de candidatos (ATS) en la primera etapa de selección para escanear a cientos de posibles candidatos. La mayoría de estos sistemas, al menos por ahora, se centran en analizar el contenido de la solicitud y compararlo con la descripción del puesto. No suelen incluir herramientas de detección de IA. Esto significa que, técnicamente hablando, es probable que una aplicación de IA supere este examen inicial si se ha comprobado manualmente su calidad. Sin embargo, después de esto, la solicitud se evaluará manualmente y los propios solicitantes deberán seguir sometiéndose a entrevistas y tareas presenciales. Si bien una solicitud escrita por IA puede pasar el proceso de selección, la persona tendrá que tener las habilidades y la experiencia necesarias para conseguir el trabajo. Esto puede cambiar en el futuro si las empresas deciden integrar la detección de la IA en la fase de selección de los estimulantes de tipo anfetamínico. O podría ir en sentido contrario. Las empresas con visión de futuro, especialmente las del sector tecnológico, pueden ver el uso de modelos lingüísticos como un signo de innovación y experiencia con la inteligencia artificial. El problema es mucho más problemático en la educación, ya que los estudiantes pueden utilizar la herramienta para sacar provecho de sus calificaciones. Las universidades y centros de enseñanza superior han estado combatiendo esta situación utilizando Detectores de IA. Este software compara el ensayo con una base de datos de texto y analiza el idioma utilizado y la forma en que se utiliza. En algunos casos, las universidades han obtenido una puntuación muy baja de falsos positivos, de menos del uno por ciento, y afirman que sus detectores de IA son extraordinariamente precisos. Sin embargo, los propios Open AI admitieron en 2023 que las herramientas de detección no son lo suficientemente precisas e incluso dejaron de utilizar su detector. Una vez más, es necesaria una combinación de herramientas de IA e intervención humana para abordar el problema.

Redacción de contenidos

Muchas empresas subcontratan la redacción de su contenido, tanto para publicidad real como para todo lo relacionado con su sitio web y campañas en línea. Los denominados escritores pueden utilizar Chat GTP a su favor, lo que reduce drásticamente el tiempo que lleva crear un artículo o una entrada de blog. Si se usa con permiso y con fines tales como editar o refinar el texto, La IA puede mejorar la productividad. El problema es que la escritura basada en la IA puede ser genérica, inexacta y potencialmente ilegal en términos de derechos de autor. No es tan original como el contenido escrito por humanos y devalúa el servicio para las empresas que lo han pagado. Algunas de las señales reveladoras de la escritura con IA incluyen el uso de jerga demasiado sofisticada, la falta de personalización y la repetición de determinadas palabras y estructuras de frases, ¡aunque también pueden ser señales de un escritor inexperto! En cualquier caso, se pueden volver a utilizar los detectores de contenido basados en la IA. Analizarán en busca de características como la perplejidad, es decir, qué tan predecible es el texto desde la perspectiva de la IA, y las variaciones en el uso de las palabras, la longitud de las frases y la estructura. Dado que estos detectores no siempre son precisos, la intervención humana es clave. Una vez que el software detecta un posible uso de la IA, el gestor de contenido puede revisar el trabajo y supervisar el contenido a lo largo del tiempo para decidir si es necesario tomar más medidas. De hecho, las herramientas de detección de la IA están en una carrera armamentista constante contra los modelos de gran lenguaje de la IA. Para que las empresas puedan mantenerse al día con el uso de la IA, los detectores tienen que mantener la calidad de composición del texto generado por la IA.