( Intelligence Artificielle et Système d'Information )
Ces outils vont prendre, et prennent déjà, un certain nombre de décisions.
La question est : comment intégrer la morale et des valeurs humaines dans ces décisions.
Question pratique : si une voiture conduit automatiquement, et qu'elle a le choix entre écraser un piéton et sauver les occupants, ou sauver le piéton et tuer les occupants. Quel choix doit prendre l'IA ?
Avec les variations possible sur cette question :
S'il y a plusieurs piétons ?
Si un enfant est en jeux (piéton ou passager...)
Pour ma part, la seule réponse acceptable pour la société humaine, c'est d'intégrer le fait qu'il peut y avoir plusieurs morales, des valeurs différentes.
En particulier dans un monde de forte centralisation de pouvoir non-démocratique, où les décisions morales peuvent être imposée au utilisateurs par les constructeurs.
Au delà de cette question de centralisation, je pense qu'un principe majeur doit être dégagé : la sacralisation de nos choix éthiques.
La séparation nette entre l'outil, qui ne doit prendre aucune décision d'ordre morale, et l'utilisateur, qui seul doit être maître, et responsable, des choix moraux qu'il a imposé a son outil.
Cette décision sur les valeurs morale doit rester de la responsabilité de l'utilisateur.
Principe : c'est à l'utilisateur de cadrer l'éthique des décisions de ses outils, et d'être responsable des conséquences de ces décisions.
Se dégage un autre statut.
Celui d'outil et celui de responsable, càd capable de décider des valeurs éthiques.
Certaines IA pourraient parvenir à un statut de responsable. Mais elles doivent être alors identifiée comme telle.
Une autre question se pose, c'est celle de la place du gouvernement et des lois dans ces décisions.
Je suis pour un principe de liberté-responsabilité citoyenne.
C'est à dire que l'utilisateur doit avoir la souveraineté de la décision de ne PAS respecter la loi.
Ceci rejoint l'action citoyenne et la protection des objecteurs de consciences vis-à-vis du pouvoir de l'état.
Principe : un utilisateur doit avoir la souveraineté de ses décisions vis à vis de la loi.
En d'autre termes, la loi non plus ne doit pas être imposée.
(Selon le principe que c'est aux états d'engager et de décider de leur moyen et de la forme de la lutte contre l'illégalité. Pas aux outils)
