_ ** Este artigo de opinião foi escrito por Rana El Kaliouby, CEO e cofundadora da Affectiva, e foi publicado originalmente pelo Fórum Econômico Mundial. Para mais informações como essa, consulte nosso feed de notícias saúde e bem-estar. ** _

Uma garota com um robô no mercado Kuromon Ichiba, Ōsaka-shi, Japão.

Imagem: Andy Kelly / Unsplash

Minha mãe mora a 5.000 milhas de distância, no Cairo, Egito. Quando ela me liga, ela pode dizer imediatamente se algo está errado, simplesmente pela maneira como eu digo "Olá" ou "Estou bem". Como muitos relacionamentos com pessoas que mantemos íntimas, minha mãe e eu construímos um nível de confiança a ponto de ela saber como me sinto por uma simples palavra ou frase.

Mas, infelizmente, eu, como muitos outros no mundo hoje, gasto o máximo ( se não mais) tempo interagindo com a tecnologia como faço com as pessoas próximas a mim. No entanto, ao contrário de conversar com minha mãe ou um amigo, a maneira como interagimos com os dispositivos é totalmente transacional. Meu celular não consegue ler nas entrelinhas e entender o que realmente está acontecendo comigo.

Esse problema está se tornando mais perceptível à medida que nossas interações com a tecnologia aumentam o uso de inteligência artificial (AI). À medida que a IA assume novos papéis na sociedade - desde trabalhar ao nosso lado, dirigir nossos carros, ajudar com nossos [cuidados de saúde](https://apolitical.co/solution_article/hospitals-on-wheels-and-skyping-your-doctor- how-to-improvement-rural-Health /) e muito mais - estamos construindo um novo tipo de parceria com a tecnologia. E com essa parceria vem um novo contrato social: um que se baseia na confiança mútua, empatia e ética.

A IA pode confiar em nós?

Tudo começa com confiança mútua. Afinal, não podemos trabalhar ou viver de forma eficaz com pessoas em quem não confiamos e que também não confiam em nós. AI não é diferente.

Os exemplos de por que a confiança mútua é importante entre as pessoas e a IA alcançam todos os lugares. Considere os veículos semi-autônomos, por exemplo. Como esses carros ainda estão em desenvolvimento, eles exigem que um motorista humano esteja preparado para retomar o controle se a IA do carro não puder mais navegar com segurança.

** como podemos promover um sentimento tão pessoal quanto confiar nas máquinas - e como podemos torná-lo mútuo? **

Mas como a IA pode confiar que a pessoa está pronta para assumir? Que a pessoa que deveria dirigir está alerta e envolvida, e não sonolenta ou distraída? Os sistemas de IA precisam ser capazes de realmente entender nossos estados emocionais e cognitivos - neste caso, reconhecer se alguém está mostrando sinais de distração ou estados de deficiência potencialmente perigosos - antes de confiar neles.

Portanto, a questão é: como podemos promover um sentimento tão pessoal quanto a confiança em [máquinas](https://apolitical.co/solution_article/want-to-know-what-future-job-skills-we-need-machine- learning-can-help /) - e como podemos torná-lo mútuo?

AI como um companheiro empático

De acordo com a professora de tecnologia da Harvard Business School Frances Frei, a empatia é um dos elementos mais importantes no estabelecimento de confiança entre as pessoas. Então, talvez a empatia também seja a chave para criar um entendimento e confiança entre a IA e os humanos.

A chave para construir IA que realmente nos "conquiste" não é focar apenas na cognição, mas desenvolver algoritmos com inteligência emocional. Assim como em parcerias entre pessoas, dar à IA a capacidade de entender como alguém está se sentindo é a única maneira de um carro semiautônomo saber se seu motorista está apto para dirigir o volante, ou um co-bot entender se seus colegas humanos estão se preparando para o trabalho em um determinado dia.

Isso pode parecer muito pessoal ou não natural para alguns. Mas, para mim, continuar avançando na pesquisa e no desenvolvimento da IA não é o que representará uma ameaça para nossos empregos ou para a humanidade. A verdadeira questão é: o que as pessoas farão com a tecnologia e como nossas escolhas de IA mudarão nosso mundo?

Delineando o desenvolvimento ético e implantação de IA

Os sistemas de IA projetados para interagir com humanos terão muitos dados e saberão muito sobre as pessoas com as quais interagem. Isso levanta preocupações: embora haja muito potencial para a IA melhorar nossas vidas, também existe muito potencial para agravar a desigualdade ou causar danos.

Imagem: Franck V / Unsplash

À medida que elaboramos este novo contrato social, precisamos definir padrões para o desenvolvimento ético e implantação da IA. Isso significa garantir que a IA seja construída por equipes diversas, e com dados diversos, para garantir que a tecnologia não replique preconceitos inerentes à sociedade. Significa considerar a necessidade de aceitação e consentimento quando as pessoas interagem com IA e priorizar a privacidade dos dados.

Reconhecendo isso, algumas das mentes mais brilhantes em tecnologia, academia e além já estão fazendo parceria para definir padrões que irão garantir que as pessoas usem IA de forma ética e para o bem - de [MIT e Harvard's Ethics and Governance of AI Initiative](https: //aiethicsinitiative .org /), para a Partnership on AI, que é uma colaboração entre grandes empresas de tecnologia como Microsoft, Amazon, Google, Facebook e Apple, e start-ups como Affectiva. Isso também faz parte da minha responsabilidade como Jovem Líder Global no Fórum Econômico Mundial. O Fórum nos dá a oportunidade de discutir as implicações da IA com líderes que trazem perspectivas de todas as diferentes arenas e experiências.

Ainda há muito a descobrir enquanto navegamos em nosso relacionamento em mudança com a IA. Mas há uma necessidade imediata de começar a enquadrar a conversa desta forma - como uma parceria enraizada na confiança, empatia e compreensão - em vez de continuar a discutir IA com medo e desenvolver a tecnologia sem permitir que ela realmente se relacione conosco.

Este artigo foi publicado originalmente por The World Economic Forum. Para ler o artigo, clique aqui .

(Crédito da imagem: Unsplash)