La última generación de chatbots ha generado preocupaciones en cuanto a la sofisticación y accesibilidad de la inteligencia artificial. Estos miedos afectan no solo el mercado laboral, sino también la educación, con profesores replanteándose el aprendizaje debido a ChatGPT.
Los efectos de modelos de lenguaje a gran escala como ChatGPT tocarán casi todos los aspectos de nuestras vidas . Esto genera preocupaciones en cuanto al papel de la inteligencia artificial en reforzar sesgos sociales, cometer fraudes y robo de identidad, generar noticias falsas y difundir desinformación.
Aprendiendo a identificar textos generados por máquinas
Un grupo de investigadores de la Facultad de Ingeniería y Ciencias Aplicadas de la Universidad de Pensilvania busca empoderar a los usuarios para mitigar estos riesgos. En un artículo revisado por pares presentado en la reunión de febrero de 2023 de la Asociación para el Avance de la Inteligencia Artificial, los autores demuestran que las personas pueden aprender a distinguir entre textos generados por máquinas y escritos por humanos.
El estudio, liderado por Chris Callison-Burch, profesor asociado del Departamento de Informática y Ciencias de la Información (CIS), junto con Liam Dugan y Daphne Ippolito, estudiantes de doctorado en CIS, proporciona evidencia de que el texto generado por IA es detectable.
Así lo explica Callison-Burch:
Hemos demostrado que las personas pueden entrenarse para reconocer textos generados por máquinas. La gente comienza con ciertas suposiciones sobre qué errores cometería una máquina, pero estas suposiciones no son necesariamente correctas. Con el tiempo, dados suficientes ejemplos e instrucciones explícitas, podemos aprender a identificar los tipos de errores que las máquinas están cometiendo actualmente.
Errores comunes en el texto generado por IA
Para estos expertos, la IA actual es sorprendentemente buena en la producción de textos muy fluidos y gramaticalmente correctos, pero comete errores.
El estudio demuestra que las máquinas cometen errores distintivos, como errores de sentido común, relevancia, razonamiento y lógica, que se pueden aprender a identificar. Para ello, se utilizaron datos recopilados mediante Real or Fake Text?, un juego de entrenamiento basado en la web.
Este juego transforma el método experimental estándar en una recreación más precisa de cómo las personas usan la IA para generar texto . En lugar de simplemente clasificar un texto como real o falso, los participantes deben marcar en qué punto creen que comienza la transición de un texto escrito por humanos a uno generado por máquinas.
Los resultados del estudio muestran que los participantes obtuvieron puntuaciones significativamente mejores que el azar, lo que demuestra que el texto creado por IA es detectable en cierta medida.
El futuro de nuestra relación con la tecnología
El estudio no solo se refiere a la inteligencia artificial actual, sino que también esboza un futuro alentador y emocionante para nuestra relación con esta tecnología.
Dugan afirma que:
Hace cinco años, los modelos no podían mantenerse en el tema o producir una oración fluida. Ahora, rara vez cometen errores gramaticales.
Nuestro estudio identifica el tipo de errores que caracterizan a los chatbots de IA, pero es importante tener en cuenta que estos errores han evolucionado y seguirán evolucionando.
La preocupación no es que el texto escrito por IA sea indetectable, sino que las personas deberán seguir capacitándose para reconocer la diferencia y trabajar con software de detección como complemento.
Callison-Burch, por su parte, añade:
Las personas están ansiosas por la IA por razones válidas. Nuestro estudio aporta elementos para calmar esas ansiedades. Una vez que podamos aprovechar nuestro optimismo sobre los generadores de texto de IA, podremos dedicar atención a la capacidad de estas herramientas para ayudarnos a escribir textos más imaginativos e interesantes.
Casos de uso efectivos y apoyo en el proceso creativo
Daphne Ippolito, co-autora del estudio y actual científica de investigación en Google, complementa el enfoque de Dugan en la detección con el énfasis de su trabajo en explorar los casos de uso más efectivos para estas herramientas. Por ejemplo, contribuyó a Wordcraft, una herramienta de escritura creativa con IA desarrollada en colaboración con escritores publicados.
Aunque ninguno de los escritores o investigadores consideró que la IA fuera un reemplazo convincente para un escritor de ficción, sí encontraron un valor significativo en su capacidad para apoyar el proceso creativo.
Como señaló Callison-Burch:
Mi opinión en este momento es que estas tecnologías están mejor adaptadas para la escritura creativa. Las noticias, trabajos académicos o consejos legales son malos casos de uso porque no hay garantía de veracidad.
Al final del artículo, la conclusión de Dugan es que:
Hay direcciones emocionantes y positivas en las que se puede impulsar esta tecnología. La gente se centra en los ejemplos preocupantes, como el plagio y las noticias falsas, pero ahora sabemos que podemos capacitarnos para ser mejores lectores y escritores.
