Equilibrando la innovación y el cumplimiento normativo para la seguridad en línea de los niños

La innovación y la regulación deben trabajar juntas para fomentar la confianza en las nuevas tecnologías. La innovación traspasa los límites de lo que se puede lograr y mantiene a la industria en constante avance.

Mientras que la regulación impulsa la adopción de marcos, proporciona mecanismos de rendición de cuentas y ayuda a las organizaciones a adaptarse a los desafíos cambiantes. Orienta el progreso tecnológico de una manera que se alinea con los valores sociales y los objetivos a largo plazo.

Por un lado, la innovación digital suele ocurrir a un ritmo acelerado. Puede impulsar el desarrollo de nuevas herramientas y plataformas en línea avanzadas, generando nuevas formas para que las personas interactúen y compartan contenido. Sin embargo, esto puede crear espacios en línea con nuevas consideraciones y desafíos de seguridad en línea… Cuando se crean entornos sin las medidas regulatorias correctas, las personas, especialmente los adultos jóvenes y los niños, pueden quedar expuestas a contenido inapropiado, dañino o ilegal. o incluso otros. gente con malas intenciones.

Por otro lado, los reguladores pueden tardar en ponerse al día con la innovación, a menudo sofocando ideas ambiciosas y sofocando el crecimiento y el desarrollo dentro de la industria. Por lo tanto, es imperativo que ambos trabajen de la mano.

Encuentre equilibrio y soluciones prácticas

La regulación y la innovación deben crear un entorno que proteja a los consumidores y permita a las empresas prosperar: un entorno que allane el camino para un entorno en línea que sea a la vez seguro y lleno de interesantes oportunidades. Es un equilibrio complejo de lograr, pero la seguridad en línea siempre debe considerarse primero antes de implementar nuevas herramientas y servicios que potencialmente pongan en riesgo a los jóvenes.

Si bien las regulaciones demasiado restrictivas pueden sofocar la creatividad, las reglas laxas pueden tener consecuencias no deseadas y es importante encontrar el punto medio perfecto. Por lo tanto, los reguladores, los líderes de la industria y los innovadores deben mantener un diálogo abierto para crear marcos regulatorios claros, alcanzables y adaptables para nuevos desarrollos. Las empresas deben trabajar con expertos para comprender e implementar las soluciones prácticas disponibles que funcionen mejor para sus casos de uso de plataformas y riesgos.

Al desarrollar herramientas y servicios en línea, las plataformas en línea y las empresas de redes sociales deben considerar las siguientes áreas clave: monitorear el contenido que ellos o sus usuarios producen, garantizar que solo aquellos de la edad correcta puedan acceder a contenido, servicios o productos restringidos por edad, y restringir . o monitorear la comunicación entre grupos de edad específicos.

Seguro de edad

Las plataformas que ofrecen contenido, servicios o productos con restricción de edad deben implementar controles de edad sólidos que determinen claramente las edades de sus usuarios y garanticen que brinden experiencias apropiadas para la edad de los menores mientras cumplen con los requisitos legislativos.

Los casos de uso comunes de garantía de edad incluyen la limitación de edad, donde las plataformas pueden restringir el acceso a contenidos, productos o servicios en función de la edad del usuario. Esto se ve comúnmente en diversas industrias, como la del alcohol, el tabaco y el entretenimiento para adultos. Las plataformas también pueden centrarse en crear entornos en línea con actividades, contenidos o productos adecuados para grupos de edad específicos y restringir la comunicación entre determinados grupos de edad. Esto se ve a menudo en las redes sociales, en el intercambio de vídeos y en las plataformas de videojuegos en línea.

No existe un enfoque único para todos, tanto en línea como fuera de línea y, por lo tanto, la elección es clave. Las empresas deben trabajar con proveedores de tecnología de seguridad para ofrecer una variedad de métodos que aborden las preferencias individuales, minimicen la interrupción del negocio y mitiguen los riesgos asociados con el sesgo y la exclusión. Hay una variedad de métodos innovadores disponibles en el mercado para estimar la edad, incluido el uso de la dirección de correo electrónico y la estimación de la edad facial junto con métodos de verificación, como identificación emitida por el gobierno, crédito, número de teléfono móvil y verificaciones de nombre y dirección.

En última instancia, estas tecnologías deben ser robustas, de baja fricción y que preserven la privacidad, garantizando una interrupción mínima en el viaje del usuario. La implementación de medidas de seguro de edad no debería costarle un negocio legítimo, y educar a los usuarios sobre la necesidad de estas medidas es crucial para mantener el negocio como siempre. La claridad, una experiencia de usuario sin fricciones y una mínima interrupción del negocio ayudarán a aumentar la confianza en la tecnología y, al mismo tiempo, garantizarán que las organizaciones sigan cumpliendo con las normas.

Moderación de contenido

En un entorno donde uno de cada 10 niños está expuesto a contenido restringido por edad dentro de los 10 minutos de conectarse a Internet, nunca ha sido más crítico que las plataformas cuenten con soluciones que puedan prevenir, monitorear y eliminar contenido dañino, restringido por edad o ilegal. desde sus sitios web.

Las soluciones de moderación de contenido que incorporan inteligencia artificial, humanos o, idealmente, ambos, pueden eliminar contenido dañino e ilegal tan pronto como se identifica o, mejor aún, evitar que se publique en primer lugar. Este proceso crea experiencias mejores y más seguras en todas las plataformas al tiempo que garantiza el cumplimiento normativo.

Los reguladores de todo el mundo están desarrollando activamente directrices para proteger a los niños de los riesgos en línea, y su aplicación está vigente o es inminente en muchas jurisdicciones. Por ejemplo, la Ley de Seguridad en Línea de 2023 del Reino Unido exige que las plataformas tecnológicas mantengan a los niños seguros en línea y garanticen que el contenido sea apropiado para su edad, legal y cumpla con pautas específicas. Su regulador Ofcom también planea responsabilizar a los sitios web por la exposición a contenido dañino y imponer fuertes multas si las empresas no lo hacen.

Se logra el equilibrio

La innovación y adopción de tecnología se están produciendo más rápido que nunca y la colaboración con los reguladores es esencial. Los organismos reguladores deben liderar la aplicación proactiva mediante la creación de marcos que permitan que la innovación florezca sin riesgos indebidos. Por ejemplo, las regulaciones en la industria de la tecnología pueden centrarse en la privacidad de los datos, garantizando que las nuevas tecnologías no comprometan la información de identificación personal. A su vez, esto fomenta la confianza y fomenta una adopción más rápida y amplia.

Por encima de todo, las plataformas en línea deben mantener a los niños seguros impidiéndoles ver o acceder a contenidos o entornos restringidos por edad. Los proveedores de tecnología de seguridad pueden ayudar a las plataformas a implementar eficazmente estas herramientas para garantizar el cumplimiento y ayudar a proteger a los niños y la sociedad en línea.

Lina Ghazal

Jefe de Asuntos Públicos y Regulatorios en Verify Mis roles anteriores, especializados en ética, regulación y seguridad en línea, fueron en Meta (anteriormente Facebook) y Ofcom.