Textos generados con IA: La amenaza, la responsabilidad y la promesa

Desde el lanzamiento de ChatGPT en noviembre pasado, prácticamente todas las revistas educativas, publicaciones y expertos, así como los principales medios de comunicación, han emitido alguna opinión acerca de lo que la escritura asistida por Inteligencia Artificial (IA) significa para el futuro de la educación.

Como muchos de ustedes, en Turnitin hemos seguido de cerca cada uno de estos avances. El equipo de Innovación en enseñanza y aprendizaje (IEA) está compuesto en su totalidad por educadores veteranos, y lo que hemos visto es variado. Algunos pronostican la muerte del ensayo, mientras que otros han descrito un mundo en que nadie sabe dónde terminan los humanos y empiezan las máquinas. En algunas versiones del discurso, todos deberíamos estar aterrorizados y en otras, deberíamos abrazar un futuro inevitable y glorioso…y lo cierto es que no sabemos cuál de las dos cosas (¿o las dos? ¿o todas? ¿o ninguna?) ocurrirá, no importa cuán confiado exprese cada bando su opinión.

Lo que sí sabemos es que los educadores tendrán que tomar decisiones en tiempo real acerca de cómo la escritura asistida y generada por IA vivirá en el aula. Los educadores tendrán que “resolverlo” sin conocer el futuro y sin tener todas las respuestas, lo que suena intimidante, incluso aterrador. Sin embargo, los educadores ya han estado antes en estas situaciones, permaneciendo constantes (¡y relevantes!) a través de una ola tras otra de cambios a lo largo del tiempo, por lo que también superarán esta tormenta. Los académicos se aferrarán a buenas prácticas basadas en investigación y dedicarán incontables horas a aprender todo lo respectivo a esta nueva realidad y probar qué funciona y qué no. También buscarán colaboración mutua, guía y retroalimentación e incluso consuelo cuando algo vaya mal. Los educadores evolucionarán y se adaptarán, y Turnitin está preparado para ser un aliado que les ayudará a hacer frente a las amenazas, las responsabilidades y las promesas de este momento.

Es importante iniciar este debate reconociendo y enfrentando los retos, manteniendo los ojos abiertos a las posibilidades. En sí misma, la IA no es ni buena ni mala, como la mayoría de las tecnologías, dependerá del uso que le demos. Desde el punto de vista pedagógico, incluirá enseñar a los estudiantes qué hacer con ella.

Abordemos primero las posibilidades preocupantes.

En algún punto, los educadores necesitan conocer lo que los estudiantes saben, comprenden y pueden hacer, y las instituciones necesitan certificar la validez de las credenciales que otorgan a sus alumnos.

Parte de este paradigma se basa en las evaluaciones: informales, formales, auténticas, de rendimiento, de portafolio, formativas, sumativas, grandes, pequeñas, de alto riesgo, de bajo riesgo- todas ellas. Entonces, muchos educadores se preguntan cómo pueden continuar CONFIANDO en sus evaluaciones frente a la IA. Si la IA es lo suficientemente buena como para producir algo que podría ser el trabajo de un estudiante, ¿cómo sabrán realmente qué fue producido por el estudiante y qué fue hecho por una máquina?

Como líderes desde hace mucho tiempo en integridad académica, los educadores del mundo nos preguntan a diario en Turnitin si tenemos una herramienta que les ayudará a renovar su confianza en la integridad de sus evaluaciones y el trabajo de sus estudiantes. La respuesta es que Turnitin Originality, un producto actualmente en el mercado que investiga la autenticidad del trabajo de los estudiantes, puede detectar algunas formas de escritura asistida por IA y reportar indicadores de trampa por contrato. Adicionalmente, estamos mirando hacia el mañana, avanzando rápidamente e incorporando a nuestros productos las últimas capacidades de detección de escritura por IA para este 2023- incluyendo algunas que reconocer la escritura con ChatGPT. Dé un vistazo a este adelanto de lo que está ocurriendo en nuestro laboratorio de Innovación en IA con respecto a la detección de Inteligencia Artificial en rápida evolución.

Y aunque el debate del impacto de esta tecnología en desarrollo puede estar de moda, este no es un tema nuevo para Turnitin. Los últimos dos años y medio, hemos estado investigando y desarrollando tecnología que reconoce la firma de las escrituras asistidas por IA. Sin embargo, la respuesta a esta amenaza no radicará en una sola solución mágica. En su lugar se requerirá un conjunto de soluciones trabajando juntas para hacer frente al momento, y además de Turnitin Originality, algunas de esas herramientas están en las manos de los educadores hoy.

De hecho, muchas de las estrategias que las instituciones y educadores han estado utilizando por años para construir una cultura de integridad académica son igualmente aplicables a nuestras nuevas circunstancias. Los métodos probados y verdaderos acerca de la política, comunicación, sensibilización, construcción de relaciones, la instrucción y la retroalimentación formativa que han funcionado para hacer frente a amenazas como el plagio intencional y la trampa por contrato siguen siendo útiles ahora.

Más allá de eso, hay también maneras de hacer que los ejercicios y las evaluaciones sean menos vulnerables al mal uso de herramientas de generación de texto con IA. Visite nuestra Guía para abordar textos generados con IA en su sala de clase donde encontrará un conjunto de 11 recomendaciones concretas que cada institución y educador pueden comenzar a aplicar de inmediato.

A pesar de toda la incertidumbre, los educadores una vez más cargan la responsabilidad en estos tiempos. De hecho, existen múltiples vertientes de responsabilidad, que pueden parecer incluso contradictorias en estos días. Por un lado, tenemos la responsabilidad de ayudar a los estudiantes a aprender cómo operar ética y moralmente. Algunos ya están sugiriendo que toda la escritura asistida por IA debería estar estrictamente prohibida. Diametralmente opuesta es la necesidad de ayudar a los estudiantes a entender CÓMO usar estas herramientas, porque la escritura en el mundo SERÁ diferente ahora. No vendrá en el futuro, ya está aquí.

Si alguien no está convencido, tómese un momento para visitar Youtube, donde ya hay videos sobre el uso de asistentes de escritura basados en IA para producir contenido en masa para campañas de marketing o de influencia. Fíjese en el número de artículos que han sido escritos y que ahora incluyen una nota que indica que una parte de ese texto fue generado por IA. Cuando se produce un cambio como este, los educadores no pueden permitirse ignorarlo, y cuando lo hacen, sabemos que los estudiantes llenarán ese vacío con su propio entendimiento, para bien o para mal.

Esas dos corrientes de responsabilidad serían un reto suficiente, pero hay una tercera que no podemos dejar de mencionar. Esta, es quizás la más importante para los educadores: el aprendizaje. La escritura es una herramienta para pensar y aprender. Entonces, para aquellos que dicen que los profesores deberían dejar de enviar tareas de escritura y hacer “otra cosa” , deberán entender que la escritura no es simplemente una forma de evaluar o de que los estudiantes demuestren su conocimiento, comprensión y habilidades. No, la escritura es, en realidad, una forma crítica para que las personas den sentido a nuevas ideas, informaciones o datos. Esto significa que tenemos una responsabilidad de velar porque la escritura no sea desplazada de la práctica pedagógica. Esto eliminaría una de las formas claves en que los humanos aprenden y crecen. En un artículo publicado en Nature (2022), Watcher destaca que, “si los estudiantes comienzan a usar ChatGPT, estarán externalizando no solo su escritura, sino también su pensamiento”.

Aún no podemos saber cuál es el verdadero potencial de esta nueva tecnología, pero ya vemos a los educadores hablando de las posibilidades que pueden vislumbrar. Ya sea para superar la parálisis de la página en blanco o para combatir los efectos de los problemas de aprendizaje, los profesores están llenos de ideas sobre cómo podrían mitigar el uso de asistentes de escritura con Inteligencia Artificial en sus salones. Los educadores veteranos de Turnitin están escuchando a la gente hablar acerca de utilizar la IA para generar ejemplares que actúen como modelos para los estudiantes o crear material en crudo para esos fantásticos talleres de revisión que adoramos. Hemos escuchado hablar de las herramientas de escritura como apoyo para el aprendizaje de idiomas y lluvia de ideas en general. Indudablemente, las ideas seguirán llegando. Los educadores DEBERÍAN experimentar, tomar riesgos e incluso fracasar a veces. A pesar de todo, los educadores podrán hablar entre ellos, con los estudiantes y con todas las partes involucradas.

Lo que los académicos no debemos hacer es cerrar nuestras mentes a la promesa. No podemos permitir que el miedo a lo desconocido nos empuje a dar la espalda al potencial. No estoy sugiriendo que nos precipitemos y que usemos escritura asistida por IA en cada paso, sin límites. Necesitamos ser cautelosos y saber que podemos identificar el uso de estas herramientas cuando no sean aceptadas. Sin embargo, cuando dispongamos de esas, será el momento de poner nuestra atención en las nuevas posibilidades que puede presentar la tecnología.

En cierto modo, enfrentarse a ese miedo y asegurar primero las barandillas hace referencia a las teorías de Maslow. Antes de que podamos empezar a explorar la aplicación e innovación de la tecnología, los educadores necesitarán saber que la integridad académica es “segura”. En Turnitin, vemos este hilo conductor en las conversaciones con consejeros y usuarios de todo el mundo. La pregunta más común que hemos escuchado es si tendremos herramientas que ayuden a abordar este cambio. Pueden estar tranquilos: tenemos un equipo de expertos en inteligencia artificial trabajando sin descanso para perfeccionar y ampliar nuestras capacidades existentes para apoyar mejor a los educadores a enfrentar la escritura con IA en el salón de clases en los próximos meses.

Quizás habrá podido leer en alguna de nuestras anteriores publicaciones de blog, que estamos también en el proceso de desarrollar una experiencia de usuario accionable que pueda guiar a los educadores a identificar y evaluar trabajos con rastros de escritura asistida por IA. Esencialmente, vamos a ir tan rápido como podamos durante el tiempo que sea necesario. Sin embargo, los educadores no tienen por qué esperar a que una herramienta tecnológica les ayude a hacer frente a esta amenaza.

Gran parte del miedo y la ansiedad de los académicos se debe a que se sienten poco preparados e impotentes; si bien es cierto que aún queda mucho por aprender acerca de lo que los textos generados por IA significarán para la educación y para el mundo, no es cierto que los educadores no tengan poder en este momento. De hecho, este es un momento para los educadores. ¿Quién mejor para ayudar a dar forma a cómo los estudiantes piensan y entienden esta herramienta en sus vidas y su aprendizaje? ¿Quién mejor para llenar el vacío de información y análisis? ¿Quién mejor para guiar discusiones y nuevas interpretaciones? ¿Quién mejor para ayudar a los estudiantes a usar nuevas herramientas de forma ética e innovadora?

Referencias:

Stokel-Walker, C. (2022, December) El bot de IA ChatGPT escribe ensayos inteligentes, ¿deben preocuparse los profesores? Nature. Publicado en https://www.nature.com/articles/d41586-022-04397-7