Huit raisons pour lesquelles les données responsables pour et sur les enfants sont importantes : Partie 2

Cet article est écrit par Stefaan G. Verhulst, co-fondateur et directeur de la recherche et du développement du Governance Laboratory (GovLab), et Andrew Young, directeur des connaissances chez GovLab.

• Le problème : La relation entre la datafication de la vie quotidienne et le bien-être des enfants a généralement été sous-explorée.

• Pourquoi c'est important : Comprendre les données pour et sur les enfants est plus important que jamais avec l'impact du changement climatique sur les jeunes - un manque de compréhension des données collectées est à la fois une occasion perdue et un risque.

• La solution : nous avons besoin d'un cadre pour la collecte et l'utilisation responsables des données pour les enfants.

Dans notre premier article, nous avons examiné les trois premières raisons pour lesquelles les données responsables pour et sur les enfants sont importantes. Dans cette deuxième partie, nous explorerons les cinq dernières raisons. Vous pouvez lire la partie 1 ici .

4. Les violations de données peuvent entraîner une perte de confiance à vie

Lorsque les données sont mal gérées ou lorsque des violations de données se produisent, les personnes concernées perdent généralement confiance dans les organisations ou les institutions (ou dans l'écologie de l'information au sens large). Cela, à son tour, peut réduire l'utilisation des services essentiels et, en général, retarder les avantages potentiels de la technologie. Les enfants peuvent être particulièrement vulnérables à une perte de confiance parce qu'ils ont généralement eu moins de rencontres de renforcement de la confiance avec la technologie. De plus, comme une perte de confiance peut être une expérience formatrice, elle peut avoir un impact beaucoup plus long, pouvant même durer toute une vie. La méfiance et les comportements de protection de la vie privée qui en résultent chez les enfants (ou même leurs familles) peuvent avoir de graves conséquences, notamment le refus de la santé, de l'éducation, de la protection de l'enfance et d'autres services publics. Cela peut également avoir un impact sur leur comportement envers les autres. Un suivi et une surveillance accrus s'avèrent limiter les comportements prosociaux. Au lieu de cela, les enfants se comportent de manière plus prosociale lorsqu'ils ont la possibilité de divulguer volontairement des détails à des personnes de confiance.

5. Les intérêts des enfants peuvent être négligés

Photo de Caleb Woods sur Unsplash

À mesure que de nouvelles technologies sont mises en œuvre et que les volumes de données augmentent de manière exponentielle, il existe un risque très réel que les obligations et les protections existantes mises en place pour protéger les enfants soient ignorées. Parfois, cela peut arriver parce que ces protections sont impossibles ou difficiles à maintenir dans une nouvelle écologie technologique (bien sûr, ce n'est pas une justification). Souvent aussi, c'est simplement parce que les intérêts des enfants ne sont pas prioritaires ou pris en compte de manière adéquate lorsque les organisations mettent en œuvre des efforts de collecte de données. Par exemple, l'analyse des données peut être entreprise par des personnes qui n'ont pas d'expertise dans les paramètres de la recherche sur les enfants sujets . De même, les prestataires de services qui collectent les données des enfants ne sont pas toujours formés à leur traitement.

6. L'IA et les biais algorithmiques présentent des risques particuliers

Photo de Possessed Photograph sur Unsplash

Beaucoup d'attention a été attirée ces dernières années sur les promesses et les pièges de la prise de décision algorithmique. Bien que l'utilisation de l'IA dans les décisions puisse dans certains cas accélérer les processus, elle peut également contenir des biais difficiles à détecter mais néanmoins tangibles qui entraînent des effets négatifs réels (par exemple sur ceux qui recherchent des soins médicaux, des prêts aux entreprises, une libération conditionnelle ou des emplois) . Ces risques ne sont accrus que lorsqu'il s'agit d'enfants. Encore une fois, les enfants peuvent avoir moins d'agence ou de compréhension en ce qui concerne le fonctionnement de l'IA et des algorithmes ; ils peuvent même ne pas savoir que certains processus sont le résultat d'une évaluation, d'une modélisation ou d'une prédiction algorithmique. Comme décrit dans le projet de directives politiques de l'UNICEF sur l'IA pour les enfants , la prise de décision dans les domaines du développement international, de la fourniture de services sociaux et des systèmes éducatifs est particulièrement susceptible d'être affectée par la médiation et le filtrage axés sur l'IA, souvent sans l'engagement direct ou la connaissance des enfants ou des enfants. leurs soignants. De plus, si les enfants souffrent d'un biais algorithmique, ils peuvent manquer de ressources ou de connaissances pour répondre ou demander un recours. Enfin, toute prise de décision ciblant les enfants et basée sur l'IA qui exploite les données de formation de la population peut ne pas prendre en compte les différences physiologiques et psychologiques des enfants (par rapport aux adultes), ce qui entraîne des implications négatives potentielles pour leurs résultats en matière de santé physique et mentale. Il est donc impératif que tout cadre d'utilisation responsable des données pour les enfants inclue un composant dédié au rôle de l'IA et des algorithmes.

7. Risque de revisiter le traumatisme

De nombreux enfants pris en charge par les organisations de protection de l'enfance ont subi des traumatismes, à la fois physiques et psychologiques. Il existe un risque très réel que le fait de demander aux enfants de fournir des données ou de s'inscrire à des services revienne par inadvertance sur un tel traumatisme et équivaut à une revictimisation. Cela est particulièrement vrai lorsqu'il s'agit d'informations personnelles confidentielles, par exemple, liées à la violence domestique ou à une autre situation familiale sensible. Bien sûr, dans certains cas, fournir de telles informations peut également aider à protéger les enfants. L'important est de s'assurer que les données sont demandées et accessibles dans le cadre d'un cadre d'utilisation responsable .

"Il ressort clairement de cette discussion que des opportunités et des risques uniques sont présents tout au long du cycle de vie des données relatives aux enfants : collecte, stockage, préparation, partage, analyse et utilisation."

8. La relation entre la vie privée et le développement personnel des enfants

Photo de Charu Chaturvedi sur Unsplash

Enfin, la confidentialité et la responsabilité des données sont essentielles à la croissance psychosociale des enfants . Avoir la liberté et l'autonomie d'expérimenter différentes identités, sans regards indiscrets ni surveillance effrayante des données, est important pour le développement personnel des enfants. Les enfants évoluent constamment et le manque de protection contre la génération et la manipulation de données persistantes et invasives pourrait avoir un impact sur leur avenir et leurs opportunités. Un sentiment d'intimité peut permettre aux enfants, en particulier aux enfants plus âgés, de s'engager et d'établir des relations avec leurs pairs plus confortablement et en toute confiance en leur donnant la possibilité de décider quelles informations personnelles divulguer et dans quelles conditions. La responsabilité des données est donc également essentielle pour favoriser l'engagement civique et politique des jeunes.

Il ressort clairement de cette discussion que des opportunités et des risques uniques sont présents tout au long du cycle de vie des données relatives aux enfants : collecte, stockage, préparation, partage, analyse et utilisation. Ces opportunités et risques sont souvent distincts de ceux impliqués dans la datafication du grand public ou d'autres groupes vulnérables.

Ils réclament de nouvelles approches du cycle de vie des données relatives aux enfants. Pour commencer, le secteur public, les entreprises et les organisations de la société civile fournissant des services liés aux données pour les enfants doivent mieux comprendre les risques associés - ainsi que les opportunités - dans un environnement caractérisé par une quantification et une datafication croissantes. Les huit points que nous avons abordés visent à accroître la sensibilisation, mais ils ne sont bien sûr qu'un début. Ils sont une exploration indicative et donc non exhaustive des défis éthiques impliqués. Nous vous invitons à participer à une discussion sur les données responsables pour les enfants en visitant RD4C.org .

Merci à Lara Mikocki, Andrew J. Zahuranec et Gabrielle Berman pour leur contribution et révision et Jaimee Dellipoali et Michelle Winowatan pour leur aide.

Stefaan G. Verhulst est co-fondateur et directeur de la recherche et du développement du Governance Laboratory @NYU (GovLab) où il construit une fondation de recherche-action sur la façon de transformer la gouvernance en utilisant les avancées de la science, des données et de la technologie. La dernière bourse de Verhulst porte sur la façon dont la technologie peut améliorer la vie des gens et la création de formes de gouvernance plus efficaces et collaboratives. Plus précisément, il s'intéresse aux dangers et aux promesses des technologies collaboratives et à la manière d'exploiter le volume sans précédent de données pour faire progresser le bien public.

Andrew Young est directeur des connaissances au GovLab, où il dirige des efforts de recherche axés sur l'impact de la technologie sur les institutions publiques. Parmi les projets financés par des subventions qu'il a dirigés figurent une évaluation mondiale de l'impact des données gouvernementales ouvertes ; analyse comparative des efforts d'innovation du gouvernement par rapport à ceux d'autres pays; une méthodologie pour tirer parti des données d'entreprise au profit du bien public ; et l'élaboration de la conception expérimentale pour tester l'adoption d'innovations technologiques dans les agences fédérales.

👋 Vous pouvez créer une publication comme celle-ci ! Partagez vos réflexions avec une communauté de fonctionnaires. Apprendre encore plus

(Crédit image : Unsplash)