El Reino Unido implementa medidas estrictas contra algoritmos dañinos para proteger a los jóvenes en línea

Los gigantes de las redes sociales TikTok e Instagram están en el centro de atención mientras Gran Bretaña toma medidas decisivas para proteger a sus jóvenes del contenido dañino en línea.

Según las nuevas regulaciones establecidas por Ofcom, estas plataformas están obligadas a frenar sus algoritmos que difunden material perjudicial para los niños.

Los estrictos códigos de práctica descritos por Ofcom tienen como objetivo limpiar las redes sociales y los motores de búsqueda bajo los poderes otorgados por la Ley de Seguridad en Línea. Ahora se requerirá que las plataformas implementen medidas sólidas de verificación de edad para evitar que los menores accedan a contenido y material explícito que promueva la autolesión, el suicidio y los trastornos alimentarios.

El incumplimiento de estas regulaciones puede resultar en sanciones sustanciales, con multas de hasta £18 millones o el 10% de los ingresos globales, junto con la posibilidad de bloqueo del servicio y procesos penales contra altos ejecutivos.

La Ley de Seguridad en Línea posiciona al Reino Unido como líder mundial en la lucha contra el contenido dañino en línea y se esfuerza por establecer a la nación como «el lugar más seguro del mundo para estar en línea». Esta iniciativa supera los esfuerzos vistos en los Estados Unidos y se alinea con legislación similar en Australia y Europa.

Los servicios de mensajería como WhatsApp y Snapchat también se ven afectados por estas regulaciones, que requieren el consentimiento de niños menores de 18 años para ser agregados a chats grupales y darles un mayor control sobre sus interacciones en línea, incluida la capacidad de bloquear y ajustar cuentas y deshabilitar comentarios.

Dame Melanie Dawes, directora ejecutiva de Ofcom, destacó la importancia de estas medidas y afirmó: “Nuestros códigos propuestos asignan la responsabilidad de mantener a los niños más seguros directamente a las empresas de tecnología. Tendrán que frenar los algoritmos agresivos que envían contenido dañino a los niños e introducen la edad. controles para adaptar la experiencia en línea según la edad.»

La decisión de Ofcom de abordar los algoritmos surge tras investigaciones sobre su papel en la difusión de contenidos peligrosos para los niños. TikTok, en particular, ha sido objeto de escrutinio por su alimentación algorítmica, que expone rápidamente a los usuarios a material potencialmente dañino.

Para garantizar una verificación de edad efectiva, las plataformas deberán adoptar medidas estrictas, incluida la tecnología de reconocimiento facial y la verificación de identidad con fotografía, para proteger a los niños de los riesgos en línea.

Michelle Donelan, secretaria de tecnología, elogió estas medidas como cruciales y enfatizó la necesidad de que las plataformas implementen controles de edad en el mundo real y aborden las fallas algorítmicas que contribuyen a la exposición de los jóvenes a contenido dañino.

Sir Peter Wanless, director ejecutivo del NSPCC, describió el proyecto de código como «un paso bienvenido en la dirección correcta».

Ian Russell, padre de Molly, que se quitó la vida a los 14 años después de ver contenido perturbador en las redes sociales, dijo: «El trabajo de Ofcom era aprovechar el momento y proponer medidas audaces y decisivas que puedan proteger a los niños de un daño generalizado pero inherentemente evitable.