Esta publicación está escrita por Stefaan G. Verhulst, cofundador y director de investigación y desarrollo de The Governance Laboratory (GovLab), y Andrew Young, director de conocimiento de GovLab.
El problema: La relación entre la datificación de la vida cotidiana y el bienestar infantil generalmente ha sido poco explorada.
Por qué es importante: comprender los datos para y sobre los niños es más importante que nunca debido al impacto del cambio climático en los jóvenes: la falta de comprensión de los datos recopilados es tanto una oportunidad perdida como un riesgo.
La solución: necesitamos un marco para la recopilación y el uso responsable de datos para niños.
En nuestro primer artículo, analizamos las primeras tres razones por las que los datos responsables sobre los niños son importantes. En esta segunda parte, exploraremos las últimas cinco razones. Puedes leer la parte 1 aquí .
4. Las violaciones de datos pueden resultar en una pérdida de confianza de por vida
Cuando los datos se manejan mal o cuando se producen violaciones de datos, los interesados suelen perder la confianza en las organizaciones o instituciones (o en la ecología de la información más amplia). Esto, a su vez, puede reducir la adopción de servicios esenciales y, en general, impedir los beneficios potenciales de la tecnología. Los niños pueden ser especialmente vulnerables a la pérdida de confianza porque, en general, han tenido menos encuentros con la tecnología para generar confianza. Además, debido a que la pérdida de confianza puede ser una experiencia formativa, puede tener un impacto mucho más prolongado, que puede durar incluso toda la vida. La desconfianza resultante y los comportamientos de protección de la privacidad que muestran los niños (o incluso sus familias) pueden tener graves consecuencias, incluida la denegación de servicios de salud, educación, protección infantil y otros servicios públicos. También puede afectar su comportamiento hacia los demás. El aumento del seguimiento y la vigilancia acaba limitando el comportamiento prosocial. En cambio, los niños se comportan de manera más prosocial cuando tienen la posibilidad de revelar detalles voluntariamente con personas de confianza.
5. Los intereses de los niños pueden pasarse por alto
Foto de Caleb Woods en Unsplash
A medida que se implementan nuevas tecnologías y los volúmenes de datos aumentan exponencialmente, existe un riesgo muy real de que se pasen por alto las obligaciones y protecciones existentes establecidas para proteger a los niños. A veces, esto puede suceder porque estas protecciones son imposibles o difíciles de mantener en una nueva ecología tecnológica (aunque, por supuesto, esto no es una justificación). A menudo, también, se debe simplemente a que los intereses de los niños no se priorizan ni se consideran adecuadamente cuando las organizaciones implementan esfuerzos de recopilación de datos. Por ejemplo, el análisis de datos puede ser realizado por personas que no tienen experiencia en los parámetros de la investigación con niños . Del mismo modo, los proveedores de servicios que recopilan datos de niños no siempre están capacitados para manejarlos.
6. La IA y el sesgo algorítmico plantean riesgos particulares
Foto de Fotografía poseída en Unsplash
En los últimos años se ha llamado mucho la atención sobre la promesa y las trampas de la toma de decisiones algorítmica. Si bien el uso de la IA en las decisiones puede, en algunos casos, acelerar los procesos, también puede contener sesgos difíciles de detectar pero no obstante tangibles que resultan en efectos adversos reales (por ejemplo, en aquellos que buscan atención médica, préstamos comerciales, libertad condicional o trabajos) . Estos riesgos solo aumentan cuando se trata de niños. Una vez más, los niños pueden tener menos agencia o comprensión cuando se trata de cómo funcionan la IA y los algoritmos; es posible que ni siquiera sepan que ciertos procesos son el resultado de la evaluación, el modelado o la predicción algorítmica. Como se describe en el borrador de la Guía de políticas sobre IA para niños de UNICEF , la toma de decisiones en el desarrollo internacional, la prestación de servicios sociales y los sistemas educativos tienen una probabilidad especial de verse afectada por la mediación y el filtrado impulsados por la IA, a menudo sin la participación directa o el conocimiento de los niños o sus cuidadores. Además, si los niños sufren sesgos algorítmicos, es posible que carezcan de los recursos o el conocimiento para responder o buscar un recurso. Finalmente, cualquier toma de decisiones dirigida a niños y basada en IA que aproveche los datos de capacitación de la población puede no tener en cuenta las diferencias fisiológicas y psicológicas de los niños (de los adultos), lo que podría tener implicaciones negativas para los resultados de su salud física y mental. Por lo tanto, es imperativo que cualquier marco de uso responsable de datos para niños incluya un componente dedicado al papel de la IA y los algoritmos.
7. Riesgo de revivir el trauma
Muchos de los niños atendidos por organizaciones de bienestar infantil han sufrido traumas, tanto físicos como psicológicos. Existe un riesgo muy real de que pedirles a los niños que proporcionen datos o se registren para recibir servicios pueda revivir inadvertidamente ese trauma y convertirse en una nueva victimización. Esto es especialmente cierto cuando se trata de información personal confidencial, por ejemplo, relacionada con violencia doméstica u otra situación familiar delicada. Por supuesto, en algunos casos, proporcionar dicha información también puede ayudar a proteger a los niños. Lo importante es asegurarse de que los datos se soliciten y se acceda a ellos dentro del contexto de un marco de uso responsable .
"De esta discusión se desprende claramente que existen oportunidades y riesgos únicos en todo el ciclo de vida de los datos relacionados con los niños: recopilación, almacenamiento, preparación, intercambio, análisis y uso".
8. La relación entre la privacidad y el desarrollo personal de los niños
Foto de Charu Chaturvedi en Unsplash
Finalmente, la privacidad y la responsabilidad de los datos son esenciales para el crecimiento psicosocial de los niños . Tener la libertad y la autonomía para experimentar con diferentes identidades, sin miradas indiscretas ni escalofriantes datos de vigilancia, es importante para el desarrollo personal de los niños. Los niños están en constante evolución y la falta de protección contra la generación y el manejo de datos invasivos y persistentes podría afectar sus oportunidades futuras. Un sentido de privacidad puede empoderar a los niños, especialmente a los niños mayores, para involucrarse y construir relaciones con sus compañeros de manera más cómoda y segura al darles la opción de decidir qué detalles personales revelar y bajo qué condiciones. Por lo tanto, la responsabilidad de los datos también es clave cuando se fomenta el compromiso cívico y político entre los jóvenes.
Queda claro a partir de esta discusión que existen oportunidades y riesgos únicos a lo largo de todo el ciclo de vida de los datos relacionados con los niños: recopilación, almacenamiento, preparación, intercambio, análisis y uso. Estas oportunidades y riesgos a menudo son distintos de los involucrados en la datificación del público en general u otros grupos vulnerables.
Piden a gritos nuevos enfoques para el ciclo de vida de los datos relacionados con los niños. Para empezar, el sector público, las empresas y las organizaciones de la sociedad civil que brindan servicios relacionados con datos para niños deben comprender mejor los riesgos asociados, así como las oportunidades, en un entorno caracterizado por una creciente cuantificación y datificación. Los ocho puntos que hemos cubierto tienen como objetivo aumentar la conciencia, pero por supuesto son solo un comienzo. Son una exploración indicativa y, por lo tanto, no completamente exhaustiva de los desafíos éticos involucrados. Lo invitamos a unirse a una discusión sobre datos responsables para niños visitando RD4C.org .
Gracias a Lara Mikocki, Andrew J. Zahuranec y Gabrielle Berman por sus aportes y revisión ya Jaimee Dellipoali y Michelle Winowatan por su ayuda.
Stefaan G. Verhulst es cofundador y director de investigación y desarrollo de The Governance Laboratory @NYU (GovLab), donde está construyendo una base de investigación-acción sobre cómo transformar la gobernanza utilizando avances en ciencia, datos y tecnología. Las últimas becas de Verhulst se centran en cómo la tecnología puede mejorar la vida de las personas y la creación de formas de gobierno más eficaces y colaborativas. Específicamente, está interesado en los peligros y la promesa de las tecnologías colaborativas y cómo aprovechar el volumen de datos sin precedentes para promover el bien público.
Andrew Young es el director de conocimiento de The GovLab, donde dirige los esfuerzos de investigación centrados en el impacto de la tecnología en las instituciones públicas. Entre los proyectos financiados por subvenciones que ha dirigido se encuentran una evaluación global del impacto de los datos gubernamentales abiertos; evaluación comparativa de los esfuerzos de innovación del gobierno con los de otros países; una metodología para aprovechar los datos corporativos en beneficio del bien público; y elaborar el diseño experimental para probar la adopción de innovaciones tecnológicas en las agencias federales.
👋 ¡Puedes crear una publicación como esta! Comparta sus pensamientos con una comunidad de servidores públicos. Aprende más
(Crédito de la imagen: Unsplash)
Inicia sesión o regístrate para continuar la conversación