La junta de educación de un municipio de Nueva Jersey reconoce las preocupaciones de los padres después de que la policía estatal arrestara a un estudiante de secundaria acusado de crear y compartir imágenes de IA de desnudos de sus compañeros de clase.
El estudiante de 17 años ya no asiste a clases con sus compañeros en la escuela secundaria Montgomery debido a su presunta decisión delictiva.
En un mensaje dirigido a los padres, el distrito escolar indicó que las imágenes inapropiadas fueron creadas fuera del horario escolar y fuera del recinto escolar.
Según los investigadores, la adolescente fue arrestada por la policía estatal en marzo y acusada de acoso, posesión y distribución de material de explotación y abuso sexual infantil tras supuestamente crear y compartir imágenes de desnudos de otros estudiantes generadas por inteligencia artificial.
Los expertos afirman que los padres deben ser la primera línea de defensa para asegurarse de que sus hijos no se comporten mal en internet.
«Si tienes un adolescente que conduce, el hecho de que pueda conducir por la acera y atropellar a la gente no significa que deba hacerlo», dijo Ben Halpert de SavvyCyberKids.org. «Por eso, debemos enseñarles sobre tecnología de la misma manera. El hecho de que puedas usar una aplicación para crear una imagen de un compañero desnudo no significa que debas hacerlo. Se trata, pues, de enseñar a los jóvenes a usar la tecnología con criterio».
El año pasado, el entonces gobernador Phil Murphy promulgó la ley «Take it Down Act» (Ley para retirarlo) después de que un estudiante de secundaria fuera víctima de un abuso similar.
Su madre, Dorota Mani, abogó por la protección que obliga a las plataformas de medios a eliminar esas imágenes. Mani afirma que las escuelas deben desempeñar un papel activo en la educación de los estudiantes sobre el abuso y el mal uso de la tecnología.
«En este punto, creo que las escuelas tienen una gran responsabilidad con sus alumnos, y no me refiero solo a las niñas, sino también a los niños», dijo Mani. «Así que debemos educar a nuestras niñas para que sepan que merecen respeto y responsabilidad, pero también debemos enseñar a nuestros niños sobre el uso ético de la IA y las consecuencias reales, que podrían ser civiles y penales».
Debido a que el estudiante es menor de edad, el Distrito Escolar de Montgomery Township, por ley, debe proteger su identidad y no puede hacer comentarios sobre el caso, pero en su carta a los padres, sí indicó que está cooperando con las autoridades y ofreciendo asesoramiento a cualquier estudiante afectado.
Afirman que también están trabajando activamente para reforzar la educación en torno a la seguridad digital, el uso responsable de la tecnología y los riesgos asociados con la inteligencia artificial y las redes sociales. Fuente: abc7