Cette pièce a été écrite par Nicoletta Iacobacci, catalyseur de l'éthique mondiale et professeur auxiliaire à l'Université Webster et à l'Université Jinan, et _auteur de l' éthique exponentielle. Pour en savoir plus, consultez notre fil d'actualité numérique du gouvernement .
_

La science-fiction devient un fait scientifique alors qu'une croissance exponentielle de la technologie se produit tout autour de nous. L'éthique, cependant, a du mal à suivre le rythme. Alors que de nouvelles directives morales sont définies pour les anomalies existantes, la technologie progresse, donnant lieu à de nouveaux débats éthiques - ce qui rend de plus en plus difficile de suivre le changement de paradigme de nos propres innovations.

Nous connaîtrons des progrès à une vitesse fulgurante au XXIe siècle. Selon le futurologue et informaticien Ray Kurzweil, au rythme actuel de l'innovation technologique, les progrès seront de près de 20 000 ans de développement en un seul siècle.

• Tu veux écrire pour nous? Jetez un œil au guide d' Apolitical pour les contributeurs

Dans quelques décennies, l'intelligence artificielle dépassera l'intelligence humaine. Nous verrons des changements technologiques jamais vus auparavant: la fusion de l'intelligence biologique et non biologique, des humains immortels basés sur des logiciels et de l'intelligence artificielle sensible.

Ces nouvelles agences augmenteront considérablement la condition humaine, magnifieront l'économie et engendreront le développement d'autres technologies puissantes. En réponse, nous devons nous concentrer non seulement sur la responsabilité et la moralité du comportement des robots, mais également sur les responsabilités ici et maintenant des roboticiens qui les créent.

En quelques décennies, l'intelligence artificielle dépassera l'intelligence humaine

Des propositions existent également pour développer des systèmes robotiques autonomes programmés avec l'intelligence pour distinguer le bien du mal et pour évaluer les conséquences morales. Cependant, une question importante reste sans réponse: comment les robots peuvent-ils être capables de raisonnement moral ou éthique alors que, parfois, leurs inventeurs ne le sont pas?

Ce changement pose également plusieurs questions éthiques. Une nouvelle dimension des «humains» va-t-elle émerger? Qu'en est-il des perceptions de la dignité humaine, de la moralité et de l'autonomie? Ces perceptions survivront-elles dans leur intégralité?

D'autres questions émergentes persistent également. Si les robots superintelligents deviennent sensibles, devons-nous les traiter comme des êtres humains et respecter leur conscience? La reprogénétique - l'utilisation de technologies génétiques et de reproduction pour sélectionner et modifier génétiquement des embryons - est-elle la nouvelle eugénisme?

Jürgen Habermas, un penseur social et politique influent, aborde la question de savoir si la philosophie post-métaphysique peut contribuer à l'éthique de l'intervention génétique. Il prédit que, dans un premier temps, la population générale, la sphère publique politique et le Parlement pourraient considérer le diagnostic génétique préimplantatoire comme moralement autorisé ou légalement toléré s'il se limitait à un petit nombre de cas bien définis de maladies héréditaires graves.

Dans une prochaine étape, il suppose que l'intervention génétique sera légalisée pour prévenir les maladies génétiques. Cela entraînerait à son tour une zone grise entre l'eugénisme négatif et l'eugénisme positif. Dans quelle mesure, cependant, devrions-nous utiliser la technologie pour essayer de créer de meilleurs êtres humains? Qui contrôlera le résultat de ces progrès? Les pays devront-ils compter sur des communautés de personnes développant et utilisant la future technologie pour se réguler en l'absence de codes éthiques nouveaux et mis à jour?

Les transhumanistes contemporains estiment que le NBIC (nanotechnologie, biotechnologie, technologie de l'information et sciences cognitives) devrait améliorer la nature humaine et non humaine. Les techno-sceptiques pensent que les technologies et les pratiques en croissance exponentielle causent des perturbations irréversibles.

Cela conduit à se demander si la société humaine connaîtra un résultat positif ou sera soumise à un avenir inconnu des humains mécaniques.

Quelles sont les conséquences de l'intervention humaine dans l'évolution, et pouvons-nous le faire de manière responsable?

Ce ne sont là que quelques-unes des questions auxquelles nous devons répondre: pouvons-nous éviter la mort? Le NBIC, les prothèses, les médicaments intelligents et les boosters cérébraux peuvent améliorer notre physiologie au-delà des limites humaines actuelles. Mais devrions-nous vraiment poursuivre cela? Quelles sont les conséquences de l'intervention humaine dans l'évolution, et pouvons-nous le faire de manière responsable? Pouvons-nous coexister avec des machines plus intelligentes, plus rapides et plus intelligentes que les humains? Perdrons-nous notre «humanité»? L'éthique doit-elle jouer un rôle? Si oui, comment?

L'éthique doit suivre les progrès exponentiels de la technologie pour dépasser et faciliter les débats publics entre les penseurs, scientifiques, ingénieurs et auteurs de science-fiction contemporains influents. Ce sera la décennie la plus novatrice de l'histoire. Les technologies exponentielles conduiront à une innovation exponentielle.

Nous devons nous efforcer de faire ce voyage, conscients des risques auxquels nous sommes confrontés, et lancer un appel à l'action pour discuter ouvertement des répercussions sociales que ces technologies pourraient avoir si elles n'étaient laissées qu'à leurs «créateurs» - un appel à l'action dans la poursuite d'une éthique exponentielle. . - Nicoletta Iacobacci

(Crédit photo: Unsplash)