(CNN) — Las escuelas públicas de la ciudad de Nueva York prohibirán a los estudiantes y maestros usar ChatGPT, una nueva y poderosa herramienta de inteligencia artificial, en las redes y dispositivos del distrito, le confirmó un funcionario a CNN el jueves.
La medida se produce en medio de la creciente preocupación de que la herramienta, que genera respuestas inquietantemente convincentes e incluso ensayos en respuesta a las indicaciones del usuario, podría facilitar que los estudiantes hagan trampa en las tareas. A algunos también les preocupa que ChatGPT pueda usarse para difundir información inexacta.
«Debido a las preocupaciones sobre los impactos negativos en el aprendizaje de los estudiantes y las preocupaciones sobre la seguridad y precisión del contenido, el acceso a ChatGPT está restringido en las redes y dispositivos de las Escuelas Públicas de la Ciudad de Nueva York», dijo Jenna Lyle, subsecretaria de prensa de las escuelas públicas de Nueva York, en un comunicado.
“Si bien la herramienta puede proporcionar respuestas rápidas y fáciles a las preguntas, no desarrolla habilidades de pensamiento crítico y resolución de problemas, que son esenciales para el éxito académico y de por vida”, agregó Lyle.
Aunque el chatbot está restringido según la nueva política, las escuelas públicas de la ciudad de Nueva York pueden solicitar obtener acceso específico a la herramienta para fines educativos relacionados con la tecnología y la inteligencia artificial.
publicidad
La publicación educativa ChalkBeat fue la primera en informar la noticia.
La ciudad de Nueva York parece ser uno de los primeros distritos escolares importantes en tomar medidas enérgicas contra ChatGPT, apenas un mes después del lanzamiento de la herramienta. El mes pasado, el Distrito Escolar Unificado de Los Ángeles se movió para bloquear preventivamente el sitio en todas las redes y dispositivos en su sistema “para proteger la honestidad académica mientras se realiza una evaluación de riesgo/beneficio”, dijo un portavoz del distrito a CNN esta semana.
Si bien existen preocupaciones genuinas sobre cómo se podría usar ChatGPT, no está claro cuán ampliamente adoptado está entre los estudiantes. Mientras tanto, otros distritos parecen moverse más lentamente.
Peter Feng, el oficial de información pública del Distrito Escolar Unificado del Sur de San Francisco, dijo que el distrito es consciente del potencial que tienen sus estudiantes para usar ChatGPT pero que “aún no ha instituido una prohibición total”. Mientras tanto, un portavoz del Distrito Escolar de Filadelfia dijo que «no tiene conocimiento de que los estudiantes usen ChatGPT ni hemos recibido quejas de directores o maestros».
En una declaración compartida con CNN después de la publicación, un portavoz de OpenAI, el laboratorio de investigación de inteligencia artificial detrás de la herramienta, dijo que ChatGPT estaba disponible como una vista previa de la investigación para aprender del uso en el mundo real. El portavoz calificó ese paso como una «parte crítica del desarrollo y la implementación de sistemas de IA seguros y capaces».
“Estamos constantemente incorporando comentarios y lecciones aprendidas”, agregó el vocero.
La compañía dijo que su objetivo es trabajar con los educadores en formas de ayudar a los maestros y estudiantes a beneficiarse de la inteligencia artificial. “No queremos que ChatGPT se use con fines engañosos en las escuelas o en cualquier otro lugar, por lo que ya estamos desarrollando mitigaciones para ayudar a cualquiera a identificar el texto generado por ese sistema”, dijo el vocero.
¿Qué es ChatGPT?
OpenAI abrió el acceso a ChatGPT a fines de noviembre. La herramienta es capaz de proporcionar respuestas largas, reflexivas y completas a preguntas e indicaciones, que van desde preguntas fácticas como «¿Quién fue el presidente de Estados Unidos en 1955?» hasta preguntas más abiertas como «¿Cuál es el significado de la vida?».
La herramienta sorprendió a los usuarios, incluidos académicos y algunos en la industria tecnológica. ChatGPT es un modelo de lenguaje entrenado en una gran cantidad de información en línea para crear sus respuestas. Proviene de la misma compañía detrás de DALL-E, que genera una gama aparentemente ilimitada de imágenes en respuesta a las indicaciones de los usuarios.
ChatGPT se volvió viral pocos días después de su lanzamiento. El cofundador de Open AI, Sam Altman, un destacado inversor de Silicon Valley, dijo en Twitter a principios de diciembre que ChatGPT había superado el millón de usuarios.
Pero muchos educadores temen que los estudiantes usen la herramienta para hacer trampa en las tareas. Un usuario, por ejemplo, envió a ChatGPT una pregunta de un examen de inglés y le respondió con un ensayo de 5 párrafos sobre Cumbres Borrascosas. Otro usuario le pidió al bot de chat que escribiera un ensayo sobre la vida de William Shakespeare cuatro veces. Recibió una versión única a partir del mismo enunciado cada vez.
Darren Hicks, profesor asistente de Filosofía en la Universidad de Furman, le dijo previamente a CNN que será más difícil probar cuando un estudiante hace un mal uso de ChatGPT que cuando hace otras formas de hacer trampa.
“En las formas más tradicionales de plagio, hacer trampa en Internet, copiar y pegar cosas, puedo ir y encontrar pruebas adicionales, pruebas que luego puedo llevar a una audiencia en la junta”, dijo. “En este caso, no hay nada que pueda señalar y decir ‘Aquí está el material que tomaron’”.
“Es realmente una nueva forma de un viejo problema en el que los estudiantes pagarían a alguien o conseguirían que alguien escribiera su trabajo para ellos”, agregó Hicks. “Esto es así solo que es instantáneo y gratis.”
Feng, del Distrito Escolar Unificado del Sur de San Francisco, le dijo a CNN que “algunos maestros han respondido al aumento de los generadores de texto de IA usando sus propias herramientas para verificar si el trabajo enviado por los estudiantes ha sido plagiado o generado a través de IA”.
Algunas empresas como Turnitin, una herramienta de detección que utilizan miles de distritos escolares para escanear Internet en busca de signos de plagio, ahora están investigando cómo su software podría detectar el uso de texto generado por IA en las entregas de los estudiantes.
Hicks dijo que los maestros deberán repensar las tareas para que la herramienta no pueda escribirlas fácilmente. “El problema más grande”, agregó Hicks, “va a ser que las administraciones tengan que averiguar cómo resolverán este tipo de casos”.
— Abby Phillip de CNN contribuyó a este informe.