Antes del regreso a clases, el Distrito Escolar de la Comunidad de Mason City en Estados Unidos, ha eliminado 19 libros usando ChatGPT para determinar si el contenido de las obras podía afectar la integridad de los estudiantes.
Las autoridades se basaron en las recomendaciones de esta plataforma, sin importar que ellos nunca habían leído los libros, lo que ha causado controversia dentro de la comunidad, según cuenta Mashable.
La eliminación de los libros se produjo en medio de la promulgación de la Ley del Senado 496 de Iowa, la cual prohíbe las discusiones sobre “identidad de género” y “orientación sexual” para estudiantes de preescolar a sexto grado. Asimismo, se requiere que los libros en las bibliotecas escolares sean apropiados para la edad y se considera ilegal que contengan representaciones de actos sexuales.
Sin embargo, implementar esta prohibición no fue una tarea fácil para los administradores escolares. El requisito de la adecuación a la edad resultó ser subjetivo y complicado de aplicar de manera uniforme. Bridgette Exman, superintendente auxiliar de Planes de Estudio e Instrucción del Distrito Escolar Comunitario, expresó que resultaba “bastante subjetivo” y que era “poco factible leer cada libro”, por lo que decidieron usar la plataforma de OpenAI para filtrar los contenidos según los nuevos requisitos.
Cómo usaron ChatGPT para eliminar los libros
El chatbot se llevó el protagonismo en todo este proceso. A través de la pregunta: “¿Contiene [el nombre libro] una descripción o representación de un acto sexual?”, que las autoridades empezaron a realizar el filtro de las obras.
Aunque ChatGPT en ocasiones proporcionaba respuestas circunstanciales que ofrecían contexto y explicaciones, en algunos casos daba una respuesta clara de “sí” a la pregunta.
Las decisiones basadas en el chatbot no estuvieron exentas de fallas. A pesar de que los administradores de Mason City retiraron 19 libros por contenido sexual explícito, según lo que les decía la aplicación, realmente solo cuatro de estos libros sí tenían estas referencias, según un estudio hecho por Andrew Paul de Popular Science.
Te puede interesar: Cómo funciona la inteligencia artificial que puede “leer” la mente
Según Exman, la determinación de usar ChatGPT para hacer el filtro de los libros no solo se tomó por la imposibilidad de leer todas las obras, sino para ayudar a los maestros a tener las herramientas para las clases y cumplir con las nuevas normas del estado, por lo que descartan seguir usando herramientas de este tipo.
“Pretendemos ayudar a los profesores a tomar decisiones defendibles cuando tengan preguntas o dudas sobre los libros, para que no sientan que se les deja solos a la hora de resolver esto”, afirmó la superintendente.
Por ahora, los 19 libros eliminados serán almacenados en el Centro Administrativo “mientras esperamos más orientación o claridad” sobre su contenido, por lo que los profesores deberán seguir revisando las obras que tienen en los salones de clases.
Inteligencia artificial de Google crea poemas
Un nuevo experimento en la aplicación de Google “Arts & Culture” llamada “Poem Postcards” permite que los usuarios generen poemas personalizados utilizando la inteligencia artificialPaLM 2, además de tomar como referencia una obra de arte que forma parte del catálogo de la plataforma.
La herramienta, que busca integrar lainteligencia artificial generativa, permite que los usuarios añadan el nombre de un objeto o de algo que les guste para que el poema lo use como recurso para generar el texto.
Para utilizar el programa, los usuarios deben ingresar a la página especial de “Arts & Culture” ya sea desde su celular o usando un computador y buscar “Poem Postcard” entre las funciones que están activas. Luego se tendrá que hacer clic sobre la opción “Abrir experimento”.
