Este post foi escrito por Stefaan G. Verhulst, cofundador e diretor de pesquisa e desenvolvimento do The Governance Laboratory (GovLab), e Andrew Young, diretor de conhecimento do GovLab.
O problema: A relação entre a datificação da vida cotidiana e o bem-estar infantil tem sido geralmente pouco explorada.
Por que é importante: Compreender os dados para e sobre as crianças é mais importante do que nunca com o impacto das mudanças climáticas sobre os jovens - a falta de compreensão sobre os dados coletados é uma oportunidade perdida e um risco.
A solução: precisamos de uma estrutura para coleta e uso responsável de dados para crianças.
Em nosso primeiro artigo, analisamos as três primeiras razões pelas quais os dados responsáveis para e sobre as crianças são importantes. Nesta segunda parte, exploraremos as cinco razões finais. Você pode ler a parte 1 aqui .
4. As violações de dados podem resultar em perda de confiança ao longo da vida
Quando os dados são manipulados incorretamente ou quando ocorrem violações de dados, os titulares dos dados normalmente perdem a confiança nas organizações ou instituições (ou na ecologia de informações mais ampla). Isso, por sua vez, pode reduzir a aceitação de serviços essenciais e, geralmente, prejudicar os benefícios potenciais da tecnologia. As crianças podem ser especialmente vulneráveis a uma perda de confiança porque geralmente tiveram menos encontros de construção de confiança com a tecnologia. Além disso, como a perda de confiança pode ser uma experiência formativa, ela pode ter um impacto muito mais longo – potencialmente até durar uma vida inteira. A desconfiança resultante e os comportamentos de proteção da privacidade exibidos pelas crianças (ou mesmo suas famílias) podem ter consequências graves, incluindo a recusa de saúde, educação, proteção infantil e outros serviços públicos. Também pode afetar seu comportamento em relação aos outros. O aumento do monitoramento e vigilância acaba por limitar o comportamento pró-social. Em vez disso, as crianças se comportam de forma mais pró-social quando têm a possibilidade de divulgar detalhes voluntariamente com indivíduos confiáveis.
5. Os interesses das crianças podem ser negligenciados
Foto de Caleb Woods no Unsplash
À medida que novas tecnologias são implementadas e os volumes de dados aumentam exponencialmente, existe um risco muito real de que as obrigações e proteções existentes para proteger as crianças possam ser negligenciadas. Às vezes, isso pode acontecer porque essas proteções são impossíveis ou difíceis de manter em uma nova ecologia de tecnologia (embora, é claro, isso não seja justificativa). Muitas vezes, também, é simplesmente porque os interesses das crianças não são priorizados ou considerados adequadamente quando as organizações implementam esforços de coleta de dados. Por exemplo, a análise de dados pode ser realizada por pessoas que não têm experiência nos parâmetros de pesquisa com crianças . Da mesma forma, os prestadores de serviços que coletam dados de crianças nem sempre são treinados para lidar com isso.
6. A IA e o viés algorítmico apresentam riscos particulares
Foto de Possessed Photograph no Unsplash
Muita atenção tem sido atraída nos últimos anos para a promessa e as armadilhas da tomada de decisão algorítmica. Embora o uso de IA nas decisões possa, em alguns casos, agilizar os processos, também pode conter vieses difíceis de detectar, mas ainda assim, vieses tangíveis que resultam em efeitos adversos reais (por exemplo, para quem procura assistência médica, empréstimos comerciais, liberdade condicional ou empregos) . Esses riscos só são aumentados quando se trata de crianças. Mais uma vez, as crianças podem ter menos agência ou compreensão quando se trata de como a IA e os algoritmos funcionam; eles podem nem mesmo saber que certos processos são o resultado de avaliação, modelagem ou previsão algorítmica. Conforme descrito no rascunho do Guia de Políticas sobre IA para Crianças do UNICEF , a tomada de decisões em desenvolvimento internacional, prestação de serviços sociais e sistemas educacionais são especialmente suscetíveis de serem impactadas pela mediação e filtragem conduzidas pela IA, muitas vezes sem o envolvimento direto ou conhecimento de crianças ou seus cuidadores. Além disso, se as crianças sofrem de viés algorítmico, elas podem não ter recursos ou conhecimento para responder ou buscar recursos. Por fim, qualquer tomada de decisão que tenha como alvo crianças e seja baseada em IA que aproveite os dados de treinamento da população pode deixar de levar em consideração as diferenças fisiológicas e psicológicas das crianças (de adultos), resultando em possíveis implicações negativas para seus resultados de saúde física e mental. Portanto, é imperativo que qualquer estrutura de uso responsável de dados para crianças inclua um componente dedicado ao papel da IA e dos algoritmos.
7. Risco de revisitar o trauma
Muitas das crianças atendidas por organizações de bem-estar infantil sofreram traumas, tanto físicos quanto psicológicos. Existe um risco muito real de que pedir às crianças que forneçam dados ou se registem para serviços possa inadvertidamente revisitar esse trauma e equivaler a uma revitimização. Isso é especialmente verdadeiro quando se trata de informações pessoais confidenciais, por exemplo, relacionadas à violência doméstica ou outra situação familiar delicada. É claro que, em alguns casos, fornecer essas informações também pode ajudar a proteger as crianças. O importante é garantir que os dados sejam solicitados e acessados no contexto de uma estrutura de uso responsável .
"Está claro a partir desta discussão que oportunidades e riscos únicos estão presentes em todo o ciclo de vida dos dados relacionados à criança: coleta, armazenamento, preparação, compartilhamento, análise e uso."
8. A relação entre privacidade e autodesenvolvimento das crianças
Foto de Charu Chaturvedi no Unsplash
Por fim, a privacidade e a responsabilidade dos dados são essenciais para o crescimento psicossocial das crianças . Ter liberdade e autonomia para experimentar diferentes identidades, sem olhares indiscretos ou vigilância de dados arrepiante, é importante para o autodesenvolvimento das crianças. As crianças estão em constante evolução e a falta de proteção contra a geração e o manuseio de dados persistentes e invasivos pode afetar seu futuro e suas oportunidades. Um senso de privacidade pode capacitar as crianças, especialmente as mais velhas, a se envolver e construir relacionamentos com seus pares de forma mais confortável e confiante, dando-lhes a opção de decidir quais detalhes pessoais divulgar e sob quais condições. A responsabilidade pelos dados também é fundamental para promover o engajamento cívico e político entre os jovens.
Fica claro a partir dessa discussão que oportunidades e riscos únicos estão presentes em todo o ciclo de vida dos dados relacionados à criança: coleta, armazenamento, preparação, compartilhamento, análise e uso. Essas oportunidades e riscos são muitas vezes distintos daqueles envolvidos na datificação do público em geral ou de outros grupos vulneráveis.
Eles clamam por novas abordagens para o ciclo de vida dos dados relacionados à criança. Para começar, o setor público, as empresas e as organizações da sociedade civil que prestam serviços relacionados a dados para crianças precisam entender melhor os riscos associados – bem como as oportunidades – em um ambiente caracterizado pela crescente quantificação e datificação. Os oito pontos que abordamos visam aumentar a conscientização, mas é claro que são apenas o começo. Eles são uma exploração indicativa e, portanto, não totalmente abrangente dos desafios éticos envolvidos. Convidamos você a participar de uma discussão sobre dados responsáveis para crianças visitando RD4C.org .
Agradecemos a Lara Mikocki, Andrew J. Zahuranec e Gabrielle Berman por sua contribuição e revisão e Jaimee Dellipoali e Michelle Winowatan por sua assistência.
Stefaan G. Verhulst é cofundador e diretor de pesquisa e desenvolvimento do The Governance Laboratory @NYU (GovLab), onde está construindo uma base de pesquisa-ação sobre como transformar a governança usando avanços em ciência, dados e tecnologia. A mais recente bolsa de estudos de Verhulst se concentra em como a tecnologia pode melhorar a vida das pessoas e a criação de formas de governança mais eficazes e colaborativas. Especificamente, ele está interessado nos perigos e promessas das tecnologias colaborativas e em como aproveitar o volume sem precedentes de dados para promover o bem público.
Andrew Young é o diretor de conhecimento do The GovLab, onde lidera os esforços de pesquisa com foco no impacto da tecnologia em instituições públicas. Entre os projetos financiados por doações que ele dirigiu estão uma avaliação global do impacto de dados governamentais abertos; benchmarking comparativo dos esforços de inovação do governo em relação aos de outros países; uma metodologia para alavancar dados corporativos em benefício do bem público; e elaboração do projeto experimental para testar a adoção de inovações tecnológicas em agências federais.
👋 Você pode criar um post como este! Compartilhe seus pensamentos com uma comunidade de servidores públicos. Saber mais
(Crédito da imagem: Unsplash)
Inicie sessão ou registe-se para continuar a conversa