Detrás del algoritmo

El informe PISA 2025 de la Organización para la Cooperación y el Desarrollo Económicos, OCDE refleja lo que todo el mundo ya pensaba… el uso excesivo de pantallas e inteligencia artificial en las aulas ha generado peor rendimiento académico. Que Internet nació sin pensar en la infancia es una evidencia. Como lo es que los niños, niñas y adolescentes se encuentran inmersos e interactúan en las redes sociales y el mundo digital en general.

En porcentajes elevados, algunos incluso preocupantes, lo hacen sin seguridad y con riesgo para su salud mental y física. Un informe de Unicef sobre Infancia, adolescencia y bienestar digital llama la atención sobre la necesidad de abordar el uso de este tipo de tecnología desde una perspectiva integral en la búsqueda de soluciones. El algoritmo define reglas, decide contenidos, prioriza, personaliza, mide, influye… atrapa. Puede socavar la razón crítica de la persona y dirigirla hacia donde interese según quien esté detrás del sistema.

Si el target o público objetivo es una población infantil y adolescente, cada vez más enganchada a las pantallas, según los estudios, se impone responsabilidad, medidas concretas que conlleven algoritmos transparentes y seguros que eviten o reduzcan la adicción y no fomenten el consumo en redes de contenidos perjudiciales para los más jóvenes.

El informe realizado por UNICEF España, la Universidad de Santiago de Compostela, el Consejo General de Colegios de Ingeniería en Informática y Red.es, refleja que más del 92 % de los adolescentes está presente en las redes sociales. Uno de cada cinco pasa más de cinco horas al día frente a las pantallas los fines de semana. El 41,2 % duerme todos o casi todos los días con el móvil en su habitación y la mitad lo usa de madrugada.

Seis de cada diez han hablado con desconocidos a través de la red. Y el 25 % ha recibido mensajes de carácter erótico o sexual. Otro dato significativo es que de cada diez adolescentes, seis no quieren estar enganchados al móvil. Para realizar el estudio se ha contado con la opinión de miles de niños, niñas, profesores y expertos. Los resultados contribuyen al diagnóstico para poder establecer las medidas que palíen los efectos negativos.

El uso intensivo se asocia a peor calidad de vida, a mayor ansiedad y exposición a situaciones de acoso, ciberacoso o control en la pareja a través de medios digitales. El 25% de los adolescentes declara haber sufrido acoso escolar, cerca del 10% ciberacoso, y uno de cada tres jóvenes con pareja reconoce haber vivido control o chantaje a través del móvil o las redes. La tecnología avanza por delante de las normas que la regulan.

Cuando pensábamos que podíamos desenvolvernos en el mundo digital con mayor conocimiento y seguridad, irrumpe la Inteligencia Artificial, que se desarrolla a una velocidad de vértigo. Unicef ha puesto en marcha una campaña para reclamar un algoritmo seguro, que tenga más en cuenta los derechos de niños, niñas y adolescentes en el mundo digital.

Las Tecnologías de la Relación, la Información y la Comunicación van más allá de buscar información o automatizar tareas. Incorporan el factor de la relación social, aunque integrado en un entorno mucho más amplio que el físico, que es el mundo digital. En ese espacio se mueven los algoritmos, que no son neutros y tienen prejuicios, de ahí que sea necesario conocer quién está detrás de ellos.

 Pincha en el vídeo para ver el reportaje completo