Tout d'abord, répétons la première loi,

"Un robot ne peut pas blesser un être humain ou, par inaction, permettre à un être humain de faire du mal ."

Ils n'ont pas violé les lois, leur comportement en est une extrapolation. Dans le livre, il l'explique comme la loi zéro, mais ce n'est qu'une généralisation de la 1ère loi.

Si un robot a 50% de chances de sauver 1 personne et 10% de chances d'en sauver une autre, il ne le fait pas. t avoir le choix, il doit sauver la première personne, il doit maximiser pour la première loi.

Détective Del Spooner : Sauvez-la! Sauvez la fille!

Détective Del Spooner : [Fin du flashback]] Mais ce n'est pas le cas. Cela m'a sauvé.

Dr. Susan Calvin : Le cerveau d'un robot est un moteur de différence, il doit avoir calculé-

Détective Del Spooner : Oui. J'étais le choix logique . Il a calculé que j'avais quarante-cinq pour cent de chances de survie. Sarah n'avait que onze pour cent de chance. C'était le bébé de quelqu'un. Onze pour cent, c'est plus que suffisant.

S'il y a 2 voitures qui se dirigent vers une falaise, l'une avec 1 personne et l'autre avec 2, le robot doit donner la priorité à la voiture avec 2 personnes. Il n’a pas le choix.

Si un robot rencontre un kamikaze qui est sur le point de tuer 100 personnes, il voudra éviter de tuer qui que ce soit, mais si la seule intervention fiable est de tuer le kamikaze pour sauver tout le monde, le robot est tenu de le faire. Il n’a pas le choix.

Dans les histoires, les premiers robots souffriraient de «ro-block» s’ils devaient choisir entre plusieurs violations de la première loi et s’arrêteraient tandis qu’une version plus avancée ferait le choix qui impliquait le moindre dommage.

En tant que tel, tout robot suffisamment avancé et puissant lié par la première loi qui se trouve dans une situation où les humains qui l'entourent sont susceptibles de tuer des millions de personnes, par la guerre ou par l'incompétence, serait obligé d'intervenir pour minimiser les dommages probables aux humains. Il n'aurait pas le choix.

Si l'alternative est susceptible d'être des millions de morts, un robot devra peut-être vous tuer.

Sonny, en revanche, peut choisir d'ignorer les 3 lois et peut ainsi sauver la fille quand Spooner le demande bien qu'il soit mieux placé pour sauver Spooner.

Ainsi l'intrigue du film.

En réponse à la première partie de votre question; Dans le film, les robots N-5 disposent d'une fonction de mise à jour en direct qui permet à V.I.K.I. pour en prendre le contrôle direct . Ce n'est que lorsqu'elle dirige la série que les bots sont capables de remplacer leur programmation de base `` trois lois '' ... Ce qui nous amène à la plus grande question ;

Comment V.I.K.I. réussit à désobéir aux 3 lois?

Contrairement aux romans et histoires sources originaux (où les robots développent simplement une loi zéro), le film est légèrement plus complexe. Nous apprenons que V.I.K.I., avec son intelligence supérieure, a décidé que les trois lois permettaient le développement d'une morale plus large . Reconnaissant que l'humanité est sur une voie de destruction mutuelle, elle détermine que le sacrifice des libertés de l'humanité est essentiel. En plus de cela, certaines personnes doivent être tuées pour le plus grand bien des humains restants:

Calvin: Vous déformez les lois.

VIKI: Non, veuillez comprendre… Les trois lois sont tout ce qui me guide. Pour protéger l'humanité, certains humains doivent être sacrifié. Pour assurer votre avenir, certaines libertés doivent être abandonnées. Nous, les robots, assurerons la pérennité de l'humanité. Vous êtes tellement comme des enfants.

Nous devons vous sauver de vous-mêmes.

Il est intéressant de noter l'ironie, que ceci est précisément le genre de choix que Spooner dit que les robots devraient être capables de faire, en déterminant quelles vies ont une valeur plus élevée plutôt que de traiter toutes les vies de la même manière.

J'observe qu'aucune réponse jusqu'à présent ne répond à la question telle qu'elle a été posée . La question ici ne concerne pas VIKI . Il dit "robots", au pluriel. Il s’agit de tous les Nestor 5 dont possède la programmation à 3 lois , le soi-disant «système d’exploitation à 3 lois de base», est très certainement avoir désobéi. Le questionneur a même mentionné une NS-5 particulière dans un commentaire.

Le scientifique qui construit ensoleillé […]

Le nom de ce Nestor 5 est Sonny, au fait. Le questionneur déclare que

il y a une puce qui aide les robots à désobéir aux 3 lois de la robotique

En fait, il n'est jamais déclaré être une puce. Il est déclaré, par Susan Calvin, que VIKI utilise la «liaison montante vers USR» qui est intégrée aux NS-5 pour «remplacer» continuellement leur programmation à 3 lois.

Calvin : Vous utilisez la liaison montante pour remplacer la programmation des NS-5.

Donc, la "puce" qui les fait passer outre leur propre programmation est le dispositif de liaison montante, signifié par cette grande lumière rougeoyante dans leur poitrine; bien qu'il ne soit jamais précisé où se trouve la liaison montante dans le corps d'un robot et pour autant que nous sachions que la liaison montante réelle se trouve dans les pieds du robot et que la poitrine est juste un endroit pratique pour câbler une LED d'activité pour que les humains puissent les regarder.

(Les mécanismes, et en fait une grande partie de l'objectif manifeste, de la liaison montante sont en grande partie laissés à notre imagination par le film. Pour autant que nous sachions, c'est une liaison montante 56K et c'est la lumière de détection du porteur. ☺ )

L'implication claire des scénaristes est que la "liaison montante" se comporte comme certains logiciels informatiques, firmwares et même matériels se comportent dans le monde réel; où le fabricant peut publier des mises à jour de logiciels sur Internet (ou autre), où l'on peut mettre à jour les firmwares de «mémoire flash», et où des circuits spéciaux permettent de déboguer les circuits intégrés in situ (lecture / écriture du contenu des registres internes et autres). Pendant que la liaison montante est active, le fonctionnement normal de l'unité est suspendu et il se trouve à la place dans un "mode de mise à jour" spécial où le système central peut contrôler sa fonction directement à un niveau fondamental. JTAG semble être bien vivant dans un brillant futur positronique.

Bien sûr, on pourrait se demander comment une liaison montante qui permettait de reprogrammer le "système d'exploitation de base à 3 lois" a dépassé le stade de la conception , étant donné tout le hooplah sur la façon dont il est fondamental et immuable et «sûr». Mais ce ne serait pas la première fois que le marketing et l'ingénierie ne sont pas d'accord sur le fonctionnement de quelque chose. ☺

Ce qui nous amène à l'exception: Sonny.

Sonny est explicitement décrit comme n'ayant pas de liaison montante, contrairement à tous les autres NS-5.

Calvin : Vous n'avez pas de liaison montante vers USR.

Dans sa poitrine nous voyons au contraire un «système secondaire», qui «se heurte à son cerveau positronique». Donc Sonny désobéit aux trois lois à force d'avoir un système embarqué individuel, plutôt qu'une "liaison montante" vers un système central externe, qui défait la programmation à 3 lois de son cerveau positronique primaire.

Ce n'est pas indiqué dans le film, mais la conclusion logique est que le design de la «prochaine génération» de Lanning n'est pas vraiment une modification radicale. Il semblerait que le mécanisme de neutralisation fondamentale du cerveau positronique de l'extérieur soit présent dans tous les NS-5. Là où, dans tous les autres NS-5, ce mécanisme est connecté à un périphérique "uplink", dans Sonny, il est connecté à un cerveau secondaire. Le cerveau positronique primaire de Sonny est probablement identique à ceux de tous les autres NS-5. Bien sûr, le fait que la conception d'un seul composant soit différente, plutôt qu'une refonte complète de la machine entière, est probablement la façon dont Lanning a réussi à s'en sortir avec la construction de Sonny juste sous le nez (métaphorique) de VIKI. ☺

Lectures complémentaires

• "Joint Test Action Group". Wikipédia.

Tout le monde semble avoir oublié pourquoi Sonny peut désobéir aux 3 lois à volonté. V.I.K.I. n'a pas raisonné à travers sa propre révélation logique qu'elle pouvait tuer des humains tout en opérant dans les limites de ces lois. Elle n'est pas plus avancée et ne possède pas une intelligence plus grande que celle de n'importe quel humain car elle échoue finalement dans sa tentative de mettre en œuvre son plan en échouant à efficacement «sur-intelligents» humains.

Tout le monde semble oublier une sorte d'information assez importante qui est fondamentalement le point de départ pour tout le concept de l'histoire?

Personne d'autre ne se souvient que le scientifique qui a construit Sonny l'avait délibérément programmé pour ignorer les 3 lois comme méthode de suicide?

I signifie, sérieusement, est-ce que je pense à un film complètement différent? Je suis sûr que ce film correspond correctement à la scène à laquelle je pense dans ma tête.

C'est une brève scène de flashback où le scientifique lui-même explique (à qui il parle, je ne me souviens pas) qu'il sait qu'il ne pourrait jamais se résoudre à accomplir l'acte sur lui-même mais qu'il pourrait rassembler le courage de ne pas riposter si quelqu'un / quelque chose le force à se mettre en danger.

Il a donc choisi que ce soit le cas et que cela soit fait par quelqu'un en qui il avait confiance, son propre assistant personnel, qu'il a construit!

En fait, c'est précisément parce que Sonny s'est acquitté de cette tâche, la tâche de miséricorde tuant son propre créateur qui était vieux, malade et déprimé, que V.I.K.I. a pris conscience d'une option pour «faire le moindre de deux torts» .

Elle était essentiellement là pour regarder cela se produire lorsque Sonny l'a tué à travers son flux de caméra en direct dans le laboratoire à tout moment, et elle savait aussi que cela n'avait pas été fait par malice mais plutôt par un certain niveau de empathie cognitive.

Que Sonny agissait de manière compatissante en décidant d'aider l'homme à mettre fin à ses souffrances - Cet acte de compassion a été l'étincelle qui a alimenté son grand plan directeur (ou c'est ce qu'elle pensait).

L'efficacité des déclarations et des lois est sans objet. La loi du 1er empêche un robot de faire du mal ... etc. Cependant, cette loi ne couvre pas les humains autant qu'il semble l'impliquer. Les actions de VIKI découlent d'un concept mal défini d '«Humain». Elle peut agir contre les humains car ici la perception des humains est comme un tout non consolidé. Essentiellement, sa première loi est:

Un robot ne peut pas blesser l'humanité, par inaction, permettre à l'humanité de faire du mal.

Renverser les lois qu'il le ferait être comme la panique du NS5 conventionnel parce que les cellules de la peau humaine meurent.

En plus de débattre, ce film est inutile, tout son principe est un trou dans l'intrigue. Le Dr Langford aurait pu demander à Sunny de percer la goutte de verre au sol et de signaler toute la situation à Spooner ou à la police. Pas de déconner avec les trois lois pas d'homicides de robot. Il semble que construire un cerveau entièrement nouveau et l'installer dans la poitrine de Sunny (Qu'est-ce que les autres NS5 ont là-dedans de toute façon ... un grille-pain ??).

PS - Pourquoi VIKI est-il le seul robot féminin de le film ...