Grande question éthique : alors que nous en sommes qu'au début de l'ère informatique, « qu'est-ce qui va se passer quand les machines seront plus intelligentes que les humains? »
« La question n'est pas de savoir si les machines vont atteindre un jour notre intelligence, écrit le prof Durand, mais plutôt quand cela va arriver! La plupart des chercheurs sont convaincus que cela va être avant la fin du siècle. Mais certains pensent que ça pourrait être d'ici 20 ans. Ensuite, il semble très probable qu'elles vont rapidement dépasser notre intelligence. Voilà pourquoi, selon Nick Bostrom (le directeur du “Future of Humanity Institute” de la célèbre université d'Oxford), il vaut la peine de commencer dès maintenant à réfléchir à cette éventualité. »
« On peut penser, poursuit Durand, qu'il est facile de programmer un robot pour qu'il ne nuise jamais aux humains. Mais c'est plus compliqué qu'il n'y parait. Supposons qu'un robot aide un pêcheur à rendre plus efficace son système de pêche. Supposons qu'il le rend tellement efficace que tous les autres pêcheurs n'arrivent plus à vivre de leur pêche devenue famélique. Est-ce que le robot leur a nuit [sic]? Et n'aurait-il pas dû alors aider le premier pêcheur? Et si le robot est dans une situation où il pourrait faire un geste qui blesserait quelques personnes mais en sauverait en même temps une centaine de la mort. Que doit-il faire? C'est exactement comme pour un système juridique : quand on pense qu'on a pensé à tout, il reste toujours une façon d'interpréter qui nous avait échappé au départ. »
En effet, vaste question éthique qui rejoint ici avec l'exemple des limites du droit la définition utile proposée par le sociologue Guy Rocher, à savoir que le droit et l'éthique sont deux manières de réguler le comportement humain, et tout ce qui n'est pas prescrit par le droit laisse la place, pour ainsi dire, à l'évaluation et au jugement éthique. Mais qu'en sera-t-il lorsque les objets vont nous prendre pour de simples sujets?
Aucun commentaire:
Publier un commentaire