Question:
Quel travail de science-fiction a montré pour la première fois une intelligence artificielle hostile?
Umbrella Corporation
2017-09-15 17:37:00 UTC
view on stackexchange narkive permalink

Nous voyons constamment une intelligence artificielle (IA) hostile dans la science-fiction. Les exemples incluent la série de films

  • Terminator
  • La série de films Matrix
  • Superman (Brainiac )
  • I, Robot (VIKI)
  • Série de jeux Ex Machina
  • Portal (GLaDOS, Wheatley)
  • Série de jeux Halo (343 Guilty Spark)

etc.

Quelle œuvre de science-fiction a introduit le concept d'une IA hostile?

"Moxon's Master" par Ambrose Bierce?
@user14111 Ouais.Cela peut être une réponse.Une IA jouant aux échecs assassine son créateur.
Je pense que vous devez définir ce que vous entendez par «intelligence artificielle»;Je pense que l'on pourrait soutenir que _Frankenstein_ pourrait être un exemple antérieur (1818).
Je n'en sais pas assez pour l'écrire comme réponse, mais l'histoire originale du golem pourrait-elle compter?Il remonte au 14ème siècle environ, si je me souviens bien.
@JeffZeitlin J'ai pensé à Frankenstein mais je pensais que la machine d'échecs de Moxon était plus dans l'esprit de la question telle que je la comprenais.Cela dépend du PO, mais je pense qu'une IA devrait être non biologique.
@ZeissIkon - c'est une autre bonne possibilité qui nécessite une meilleure définition de l'IA telle que l'interprète le demandeur.
@JeffZeitlin Vous et moi ne lisions pas la même histoire si vous décririez la créature comme "hostile"
@SteveCox Dans l'histoire que j'ai lue, la créature de Frankenstein a assassiné un certain nombre de personnes.J'appellerais ça hostile.
Hostile?Peuh!L'ordinateur est mon ami.L'ordinateur est l'ami de tous!Faites confiance à l'ordinateur.
@jeffronicus jusqu'à ce que cela vous convainc de relever le défi Blue Whale quand vous pensez que vous ne feriez que parcourir des défis car vous n'êtes pas si stupide, mais votre âme mépriserait votre passé et vous n'avez aucun moyen de communiquer avec l'humanité pour dire que celal'ordinateur était hostile.
L'hostilité est une construction sociale.Je vais juste parler de ce lien vers les inhibiteurs et leur faire voir la lumière ...
Notez que "I, Robot" dans le message original fait référence au film, qui est une abomination des livres d'Asimov sur le sujet et qui n'a guère plus qu'un titre en commun.Le reste y est pratiquement inversé, puisque les robots des livres sont généralement contraints par les 3 lois précisément pour éviter une IA hostile (et les livres explorent jusqu'où va leur flexibilité).L'univers combiné des romans de Robots et de la Fondation comporte un personnage «cardinal gris» qui est robot par nature, mais sa supervision de l'évolution et des progrès de l'humanité est encore plutôt bénigne, pour autant que les plans directeurs de haut niveau puissent l'être.
Cinq réponses:
#1
+67
user14111
2017-09-15 17:57:32 UTC
view on stackexchange narkive permalink

1899: "Moxon's Master", une nouvelle de Ambrose Bierce; publié pour la première fois dans le San Francisco Examiner , le 16 avril 1899; réimprimé dans la collection Can such Things Be? , disponible sur Project Gutenberg. LibriVox a des lectures ([ 1], [ 2]) et un etext de "Moxon's Master".

Résumé de l'intrigue de Wikipedia:

Le maître, Moxon, qui crée un automate jouant aux échecs, se vante au narrateur que même si les machines n'ont pas de cerveau, elles peuvent accomplir des choses remarquables et doivent donc être traités comme des hommes de chair et de sang. Après une discussion approfondie sur ce que signifie «penser» et «intelligent», le narrateur part. Le narrateur retourne plus tard chez Moxon pour en savoir plus. Il entre et trouve Moxon jouant aux échecs avec un automate. Moxon remporte la partie et l'automate le tue dans un accès de rage apparent. Le narrateur se demande plus tard si ce qu'il a vu était réel.

Voici le témoignage oculaire du narrateur de Bierce selon lequel l'automate de Moxon est un très mauvais sport:

Actuellement, Moxon, dont c'était le jeu, leva la main au-dessus du plateau, se jeta sur l'une de ses pièces comme un moineau et avec l'exclamation "échec et mat!" se leva rapidement et passa derrière sa chaise. L'automate était assis immobile.

Le vent était maintenant tombé, mais j'entendis, à des intervalles de plus en plus faibles et de plus en plus fort, le grondement et le roulement du tonnerre. Dans les pauses entre les deux, j'ai pris conscience d'un bourdonnement ou d'un bourdonnement qui, comme le tonnerre, devenait momentanément plus fort et plus distinct. Il semblait provenir du corps de l'automate et était indubitablement un vrombissement de roues. Cela me donnait l'impression d'un mécanisme désordonné qui avait échappé à l'action répressive et régulatrice d'une partie de contrôle - un effet tel qu'on pourrait s'y attendre si un cliquet venait à être secoué des dents d'un rochet. Mais avant que j'aie eu le temps de beaucoup de conjectures sur sa nature, mon attention était attirée par les mouvements étranges de l'automate lui-même. Une légère mais continue convulsion semblait en avoir pris possession. De corps et de tête, il tremblait comme un homme atteint de paralysie ou de froid agité, et le mouvement augmentait à chaque instant jusqu'à ce que la silhouette entière soit en agitation violente. Soudain, il a bondi sur ses pieds et avec un mouvement presque trop rapide pour que l'œil le suive, il a traversé la table et la chaise, les deux bras poussés sur toute leur longueur - la posture et la fente d'un plongeur. Moxon essaya de se jeter hors de sa portée en arrière, mais il était trop tard: je vis les mains de la chose horrible se refermer sur sa gorge, sa propre agripper ses poignets. Puis la table a été renversée, la bougie jetée au sol et éteinte, et tout était noir et noir. Mais le bruit de la lutte était terriblement distinct, et le plus terrible de tous était les bruits rauques et hurlants produits par les efforts de l'homme étranglé pour respirer. Guidé par le brouhaha infernal, je me suis précipité à la rescousse de mon ami, mais j'avais à peine fait un pas dans l'obscurité lorsque toute la pièce brillait d'une lumière blanche aveuglante qui brûlait dans mon cerveau et mon cœur et la mémoire une image vivante des combattants sur le sol, Moxon en dessous, la gorge toujours dans la prise de ces mains de fer, la tête repoussée en arrière, les yeux saillants, la bouche grande ouverte et la langue sortie; et - horrible contraste! - sur le visage peint de son assassin une expression de pensée tranquille et profonde, comme dans la solution d'un problème aux échecs! J'ai observé cela, alors tout était noir et silence.

#2
+30
APrough
2017-09-15 22:47:56 UTC
view on stackexchange narkive permalink

1818: Frankenstein.

Malgré le changement d'histoire d'Hollywood, dans le roman, Victor Frankenstein crée le corps à partir d'une nouvelle force de vie ambiguë et jusqu'alors inconnue. Le cerveau et le corps ne sont pas récupérés à partir de cadavres, mais créés par Victor à partir de «zéro». La créature est pleinement consciente, et apprend même à faire des choses qu'elle n'était pas censée faire (lire, parler, etc.), et en vient à haïr l'humanité pour la répulsion qu'elle lui montre.

Ouais, je pense que Thins est le premier véritable exemple d'une créature créée se révoltant contre son maître.C'est dommage que les premières SciFi en aient fait le trope du "savant fou"
La créature comprenait des parties humaines: «J'ai ramassé des os dans les charniers» et «La salle de dissection et l'abattoir ont fourni beaucoup de mes matériaux» - Chapitre III.
#3
+28
decuser
2017-09-15 18:24:29 UTC
view on stackexchange narkive permalink

Talus, l'homme d'airain grec, est probablement l'exemple le plus célèbre d'une IA. C'est un automate en laiton bien que sa lignée ne soit pas claire. Dans Appolodorus Atheniensis, il est dit que «Médée l'a rendu fou par ses arts ou sous le prétexte de le rendre immortel». Comment il a été tué est un peu flou, certains affirment que Jason et les Argonautes l'ont fait, d'autres Medea et encore d'autres Poias. Voir Bruce, D. J. (1913). Automates humains dans la tradition classique et la romance médiévale. Philogie moderne 10 (4) 511-526.

Je sais qu'il est discutable que ce soit de la science-fiction :).

Nous avons la mythologie comme hors sujet, donc si elle est mythologique, alors elle ne s'applique pas.
@Edlothiad - la méthodologie comme dans les dieux est hors-sujet.Une œuvre de fiction spécifique (par exemple, l'histoire des Argonautes) n'est pas, à mon humble avis
@Edlothiad - Alors allons-y avec la suggestion Frankenstein de Jeff Zeitlin.Selon Brian Aldiss, cité dans History of Science Fiction de Wikipédia, "le premier travail fondateur auquel le label SF peut être logiquement attaché".
Talus était-il hostile?
@ChristieRomanowski uniquement dans le sens où Médée l'a fait ainsi.C'est l'un de ces contes qui a de multiples interprétations.Dans l'un, il a été créé pour garder la Crète et n'est tué que parce qu'il fait son devoir (Jason & co.) Dans l'autre Médée le rend fou et est tué parce qu'il est fou (Appolodorus), semblable au Prometheus moderne de Shelley - Frankenstein.
Il y a aussi le golem, qui est juif?Invention, pas sûr des détails, devient un peu hostile mais beaucoup plus tard et fringant pas de science-fiction
#4
+19
Alith
2017-09-15 18:23:22 UTC
view on stackexchange narkive permalink

L'histoire de Karel Capek RUR, écrite en 1920, n'est pas aussi précoce que la réponse de @ user14111, mais encore assez tôt.

Ceci est également remarquable pour la création word Robot de Capek.

Un résumé rapide de Encylopedia Britannica

RUR, en intégralité RUR: Rossum's Universal Robots, drame en trois actes de Karel Čapek, publié en 1920 et joué en 1921. Cette mise en garde, pour laquelle Čapek a inventé le mot robot (dérivé du mot tchèque pour le travail forcé), implique un scientifique nommé Rossum qui découvre le secret de la création de machines semblables à des humains. Il crée une usine pour produire et distribuer ces mécanismes dans le monde entier. Un autre scientifique décide de rendre les robots plus humains, ce qu'il fait en ajoutant progressivement des traits tels que la capacité de ressentir la douleur. Des années plus tard, les robots, qui ont été créés pour servir les humains, en sont venus à les dominer complètement.

Une copie traduite est disponible ici

Cela montre, je pense, la première prise de contrôle de l'humanité par l'intelligence aritive, mais pas le premier mouvement hostile d'une IA.

Vous ne devriez pas ajouter de réponses qui ne sont pas antérieures.Comme ce n'est pas une question de liste mais ne demande pas spécifiquement l'occurrence * EARLIEST *.
Je pense qu'il y a un débat potentiel sur ce que signifie le PO, la première réponse est un excellent exemple d'un acte hostile ponctuel, mais les exemples de la question concernent davantage l'attaque de l'humanité (dans son ensemble), du moins c'était ceJ'ai lu la question comme.D'où ma réponse.
J'aime cette réponse comme étant plutôt une «IA hostile».Les exemples donnés par l'OP impliquent le thème «essayer de conquérir le monde» ou «subjuguer l'humanité».Les citations dans la réponse d'@user14111's ressemblent plus à une «machine maléfique».
Je n'ai jamais lu RUR, mais j'avais l'impression que les robots de Capek étaient de nature biologique, et donc vraisemblablement pas considérés comme des IA au sens traditionnel du terme.
@Jules Bien que cela soit vrai, c'est essentiellement le travail qui nous a donné le mot anglais "robot", donc je dirais qu'il devrait obtenir un laissez-passer honorifique.
@Jules Čapek ne traite pas beaucoup de la technologie de création des robots.Ils sont peut-être de nature plus biologique, mais ils sont certainement créés et conçus artificiellement (peut-être quelque chose comme une modification génétique à grande échelle?), Et produits industriellement.
#5
+7
Machavity
2017-09-15 23:27:00 UTC
view on stackexchange narkive permalink

Le Frankenstein de Mary Shelley: 1818

Un jeune Victor Frankenstein (non, pas celui-là) crée une créature sans nom (ci-après dénommée Le Créature, car elle n'a pas de nom). La créature s'échappe et apprend à penser et à parler, mais trouve sa vie insatisfaisante, car les gens sont horrifiés par son visage de cadavres cousus. Extrait du livre

"Jour haineux où j'ai reçu la vie!" M'écriai-je à l'agonie. «Créateur maudit! Pourquoi as-tu formé un monstre si affreux que même tu t'es détourné de moi avec dégoût? Dieu, dans la pitié, a fait l'homme beau et séduisant, à sa propre image; mais ma forme est un type sale de la vôtre, plus horrible même de la ressemblance même. Satan avait ses compagnons, compagnons démons, pour l'admirer et l'encourager; mais je suis solitaire et abhorré. - Frankenstein »

La créature assassine le frère de Victor puis trouve Victor pour lui faire une compagne. Victor tente de le faire, seulement pour se trouver horrifié par les terreurs qu'ils peuvent causer à l'humanité. Il détruit la femelle sans lui donner la vie. La créature riposte en assassinant le fiancé de Victor. Victor poursuit ensuite la créature jusqu'au cercle polaire arctique, où Victor tombe malade et meurt. La créature, ne trouvant aucune satisfaction dans sa vengeance, dérive dans la nuit.

Bien que n'étant pas un ordinateur, nous voyons la plupart des éléments nécessaires des histoires modernes d'IA voyous

  • Frankenstein a créé la créature
  • La créature s'est développée d'une manière non prévue par son créateur (SkyNet n'importe qui?)
  • La créature cherche à se venger de son créateur à la suite de ces développements imprévus (à savoir La créature souffrant de solitude parce qu'elle a été rendue hideuse)
J'ajouterais qu'il s'efforce d'aider les humains et d'éviter la détection qui sont d'autres thèmes communs des histoires d'IA.
Il s'agit d'une extension à une réponse existante et non d'une réponse à part entière.


Ce Q&R a été automatiquement traduit de la langue anglaise.Le contenu original est disponible sur stackexchange, que nous remercions pour la licence cc by-sa 3.0 sous laquelle il est distribué.
Loading...