El ciberacoso se dispara por la irrupción de la IA: “Estamos ante una nueva era, la de violencia digital”

El avance tecnológico ha tenido un impacto positivo en todos los aspectos de nuestras vidas, pero también ha dado lugar a nuevas formas de acoso y violencia. Tanto es así que hay un fenómeno que está in crescendo en la actualidad y preocupa en demasía a las autoridades: el aumento del ciberacoso provocado por la creación y difusión de imágenes falsas e impulsado por el mal uso de la Inteligencia Artificial (IA) y las redes sociales.

En concreto, los casos de ciberacoso en España han pasado de un 10% en 2022 a un 16% en 2023. Esta es una de las principales conclusiones del IV estudio sobre la percepción del bullying en la sociedad española, elaborado por Totto y Educar Es Todo y que cuenta con la opinión de 1.708 menores, padres y profesores.

Sobre todo ello -y mucho más- ha hablado con el Diario AS el presidente de la Asociación para la protección de menores en Internet y director de Responsables y Digitales, Carlos Represa, el cual ha hecho hincapié no en el impacto de la IA, sino más bien en la incidencia que tendrá en el futuro.

- PREGUNTA: ¿Cuál es la diferencia existente entre el acoso escolar en el aula y el que se produce en Internet?

Respuesta: Primero me gustaría contextualizar. No es lo mismo el acoso escolar en el aula y el ciberacoso de hace 15 años que el de ahora. Estamos en una generación en la que todos los investigadores perciben que tienen un desarrollo del cerebro distinto, una percepción digital propia y unas emociones que se viven de manera diferente. Y ese es el motivo por el que tenemos unos índices altísimos de determinado tipo de patologías relacionadas con el uso de Internet y de adicciones.

Fundamentalmente, la diferencia entre el acoso escolar y el que se produce en Internet -como el ciberacoso- viene marcado por esta diferencia emocional en la percepción de los daños que los menores reciben de su entorno digital. Yo siempre hago referencia a la pirámide de Maslow para entenderlo mejor: los menores, nuestros hijos e hijas, nacen, crecen y viven en la red, buscando satisfacer sus necesidades incluso de supervivencia, reproducción y sexualización.

Y tienen bulimia y anorexia en Internet. Para ellos, es un mundo real. Entonces, ya no vale esa diferencia de que el acoso escolar es en el mundo real y el otro es en el virtual. No, para ellos hay una confusión total. No saben distinguir los planos en los que se producen esa serie de emociones, esa serie de daños, esa serie de tristezas. Tú puedes decir que el acoso escolar es más físico o violento, pero el daño que se percibe en muchas ocasiones por el ciberacoso es mayor.

Es un daño intenso, profundo, que los acompaña siempre y en todo lugar y que los genera consecuencias físicas y psicológicas para las cuales no tienen mecanismos de superación porque no les hemos dotado de las herramientas necesarias para ello.

- P: Una vez se produce el acoso, ¿qué medidas deben tomarse con los acosadores? ¿Y con las víctimas?

R: Partiendo de la reflexión anterior, habrá que entender que las medidas concretas serán diferentes según estemos hablando de acoso físico y verbal o acoso digital.

Desde el punto de vista de la víctima, en primer lugar, hay que entender que él está percibiendo un daño real y que toda nuestra motivación debe ir enfocada a proteger a esa persona del daño. Nunca tenemos que pensar que un menor, objeto de bullying, está siendo objeto de bromas quitando importancia a lo que le sucede o pensando que este tipo de actos le servirá para endurecerse.

Tenemos que escuchar muy atentamente, ponernos en lugar de ese niño y entender lo que realmente le está pasando. A partir de ahí, no juzgar, es un consejo fundamental. Rápidamente, debemos poner medidas de todo tipo: preventivas, educativas, de entorno…

Con respecto a los acosadores, normalmente todas estas actitudes traslucen algún tipo de problemática que también merece toda la atención del mundo. Y las familias deben entender que estos actos, con independencia de que tenga consecuencias disciplinarias, en muchas ocasiones acarrean consecuencias legales, tal y como hemos visto ahora con el ‘Caso Almendralejo’.

Existen hoy en día multitud de medidas socioeducativas, psicológicas y emocionales que su entorno debe conocer y comprender focalizando en qué necesitan ayuda. También hay que prestar especial atención a la percepción de los padres de los niños acosadores, ya que su primer pensamiento será no creer que su hijo hace eso. Ni que decir tiene la importancia del papel que desempeñan ahora mismo los centros educativos en ese necesario entendimiento por parte de las familias de acosados y acosadores, de que somos seres humanos y que ninguna persona merece ser objeto de ningún tipo de agresión.

- P: Precisamente, ¿qué papel tienen los profesores y centros en la lucha contra el acoso escolar y ciberbullying?

R: Los colegios, en estos momentos, son el centro de la digitalización de la sociedad, de los valores de la democracia digital y de la percepción digital de los menores y, por tanto, el papel que desempeñan es fundamental.

Todavía queda muchísimo camino por recorrer donde esperamos que adquiera relevancia y protagonismo la figura del Coordinador de Bienestar y Protección de Menores, instaurada con la Ley Integral de Protección a la Infancia y la Adolescencia. Ahora mismo, carece de suficiente contenido, por lo que los centros educativos son un poco escépticos todavía y están adoptando medidas muy tenues que esperamos se desarrollen en un futuro cercano.

- P: ¿Se aprovecha el anonimato que permiten esos entornos digitales para ejercer ciberbullying?

R: Sí, rotundo. Se aprovecha el anonimato, pero también los adultos nos aprovechamos de la ignorancia digital de los menores, ya que es una generación que piensa que sabe más que nosotros, cuando en realidad muchas veces decimos que más que nativos digitales son ignorantes digitales.

Con esto quiero decir que en muchas ocasiones nos encontramos con un ‘falso anonimato’ que nos permite detectar casos en los entornos escolares y saber pronto quién ha sido el autor. Hay mucho rastro digital, mucha huella digital que permite averiguar la identidad de las personas que realizan este tipo de acciones en entornos escolares.

Ampliar

- P: ¿Qué impacto ha tenido la IA en este entorno digital?

R: ¿Qué impacto ha tenido la Inteligencia Artificial? Más bien, ¿qué impacto va a tener la Inteligencia Artificial en el futuro?

Los retos que va a plantear este anonimato son, entre otras cosas, la creación de perfiles falsos o la utilización de aplicaciones que van a permitir realizar deepfake -que ya estamos viendo y que aparecen constantemente en los medios de comunicación-.

Pero estos retos también van de la mano de oportunidades que se nos van a presentar, como los sistemas de análisis predictivo basados en grandes cantidades de datos, que nos van a permitir adelantarnos a los casos de acoso y tener sistemas de respuestas inmediatas. Por otro lado, también nos va a enseñar a prevenir los sistemas predictivos de algoritmos que califiquen en perjuicio del alumnado.

Por todo ello, el impacto que va a tener la Inteligencia Artificial en este entorno va a ser tremendo. Tenemos que ponernos manos a la obra, como ya lo está haciendo la Organización de las Naciones Unidas para la Educación, la Cultura y la Ciencia (UNESCO), para entender que el marco de transformación digital con Inteligencia Artificial tiene que llegar también a los modelos de convivencia de los centros educativos.

- P: ¿Qué consejos le daría a una familia para prevenir situaciones de ciberbullying?

R: Nosotros estamos desarrollando un programa ambicioso de trabajo con las familias, ya que ellas en muchas ocasiones no perciben el riesgo en aplicaciones sencillas como puede ser TikTok o Instagram. Y es que detrás de los enlaces de esta red social o los usuarios puede haber hipervínculos que llevan, a través de servidores anonimizados, a entornos de pederastas.

Estamos ante una nueva era: la era de la violencia digital. Para los padres es un reto que deben asumir en el mismo sentido que la paternidad o la maternidad. Con esa misma curiosidad, con esa preocupación, con esa inquietud y con esa pasión. Además, deben abordar el mundo de la tecnología desde el punto de vista de las oportunidades, pero también de los riesgos. Y, de este modo, aprender a escuchar en ese entorno de colaboración y de compartir conocimiento con los hijos.

Si aprenden a escuchar y tienen curiosidad por aprender, tendrán una gran batalla ganada para hacer entender a sus hijos cómo dar respuesta a las situaciones de ciberbullying a través de un aprendizaje significativo y profundo.