En los últimos años, la AI generativa ha avanzado a pasos agigantados, provocando un impacto notable en varios sectores, entre ellos el educativo, donde herramientas como ChatGPT han puesto en duda la utilidad de los trabajos de clase como método de evaluación, al permitir a los estudiantes utilizar IA para generar textos que luego presentan como propios.
Si bien el potencial de estas tecnologías es innegable, el creciente uso indebido de las mismas pone sobre la mesa la necesidad de identificar y controlar los textos generados por IA.
Una de las principales soluciones tecnológicas propuestas para abordar este problema radica en el uso de ‘marcas de agua’ en los textos generados por IA, una idea innovadora que ya fue desarrollada y divulgada en 2022 por Scott Aaronson, investigador en computación cuántica y miembro del equipo de OpenAI.
Sin embargo, a pesar de tener un prototipo funcional, esta tecnología aún no ha sido implementada en los grandes servicios de IA. ¿Por qué?
El problema del plagio académico
Aunque aún condicionadas por muchas limitaciones, la generación de textos sigue siendo uno de los puntos fuertes de los actuales modelos de IA. La capacidad de herramientas como ChatGPT (o Claude, o LlaMa, o Gemini, o Mistral) para producir escritos de una calidad aceptable, basados en la vasta cantidad de datos de entrenamiento disponibles, ha llevado a una generalización de su uso para tareas académicas.
Actualmente, las herramientas disponibles para detectar textos generados por IA han resultado ser poco fiables, lo cual supone un problema si tenemos en cuenta las serias consecuencias que pueden tener para los estudiantes las falsas acusaciones de plagio.
Aquí es donde entra en juego la propuesta de la «marca de agua»: la idea consiste en una solución técnica que, durante el proceso de generación de texto, introduce en el mismo un patrón detectable mediante tecnología, pero imperceptible a simple vista, que permitiría identificar inequívocamente si un texto fue creado por una IA.
Puedes mirar la noticia completa en el siguiente enlace Genbeta
