Sotilaallinen arvostelu

Tappajarobotit hämmästyttivät Elon Muskin ja yli sata asiantuntijaa

49



Autonominen ase tai autonomiset asejärjestelmät (AWS), sotilasasiantuntijat kutsuvat asetyyppejä, jotka tekevät kaiken itse: sekä löytävät kohteen että suorittavat tehtävän ilman ihmisen väliintuloa. Yksi tunnetuimmista, toistaiseksi vain scifi-elokuvista ja AWS-kirjoista, ovat niin sanotut "tappajarobotit".

Elon Musk ja yli sata muuta robotiikan asiantuntijaa kirjoittavat tappajarobottien aiheuttamasta tappavasta uhasta YK:lle osoitetussa avoimessa varoituskirjeessä. Musk, Mustafa Suleiman, nyt Googlen omistaman tekoälyyrityksen DeepMind Technologiesin perustaja ja 114 muuta asiantuntijaa 26 maasta varoittavat YK:ta, että AWS:n kilpavarustelu voi avata Pandoran lippaan, joka voi aiheuttaa arvaamatonta ja erittäin suurta vahinkoa ihmiskunnalle. . He vaativat autonomisten asejärjestelmien kehittämisen ja käyttöönoton kieltämistä.

Kaikki allekirjoittaneet ovat perehtyneet asiaan hyvin, koska he työskentelevät tekoälyn (AI) alalla. He luottavat siihen, että tappajarobottien tuomisella kehittyneiden maiden armeijoiden arsenaaliin on sama merkitys sotilasasioissa kuin ruudin ja ydinaseiden keksimisellä, joita he kutsuvat ensimmäiseksi ja toiseksi vallankumoukseksi sotilasasioissa. He uskovat, että AWS on kolmas vallankumous.

"Kun autonomiset asejärjestelmät on saatu korkealle tasolle, ne tuovat sotilaalliset konfliktit sellaiseen laajuuteen, jota ihmiskunta ei ole vielä nähnyt", kollektiivisessa kirjeessä sanotaan. Ja se tulee tapahtumaan erittäin nopealla tahdilla. AWS:stä voi tulla terroriase, ase, jota despootit ja terroristit käyttävät siviiliväestöä vastaan..."

Kirjeen kirjoittajat varoittavat vielä hypoteettisesta aseesta, joka voi tuhota ihmisiä ilman ihmisen väliintuloa. Päivä on lähellä, jolloin se siirtyy tieteiskirjallisuudesta ankaraan todellisuuteen ja pakottaa sinut etsimään vastauksia moniin monimutkaisiin kysymyksiin aina tällaisten järjestelmien turvallisesta hallinnasta moraalisiin ja eettisiin ongelmiin, jotka johtuvat "raudisesta" julmuudesta ja arvaamattomuudesta. tappavista koneista.

Musk ja kannattajat, jotka jakavat hänen kantansa AWS:n vaarasta ihmiskunnalle, korostaa, että pohdiskelulle ja keskustelulle ei ole aikaa ja että toimiin on ryhdyttävä välittömästi. "Meillä ei ole paljon aikaa", he kirjoittavat YK:lle. "Kun Pandoran lippa avautuu, sen sulkeminen on erittäin vaikeaa."

Aikaa avoimen kirjeen kirjoittamiselle ei valittu sattumalta. Asiantuntijat halusivat osua samaan aikaan Melbournessa järjestettävän kansainvälisen tekoälykonferenssin (IJCAI) alkamisen kanssa. Sen piti avata maanantaina 21. elokuuta, mutta YK päätti siirtää sen marraskuulle.

Avoimen kirjeen lopussa Elon Musk ja kollegat vaativat YK:ta kaksinkertaistamaan ponnistelut luodakseen marraskuuhun mennessä strategian, jonka on suojeltava planeetta tappajarobotteja vastaan.

Aiemmin Musk itse varoitti tekoälyn sellaisenaan työskentelyn vaaroista, koska siihen perustuvat järjestelmät voivat riistäytyä ihmisen hallinnasta. Samaan aikaan Tesla-sähkömoottorilla varustetut autot ajavat jo Yhdysvaltojen teillä miehittämättömässä tilassa, mikä ei ole tapaturmaa.
Kirjoittaja:
Alkuperäinen lähde:
http://expert.ru/2017/08/21/ilon-mask-protiv-robotov-ubijts/
49 Kommentit
Mainos

Tilaa Telegram-kanavamme, säännöllisesti lisätietoja Ukrainan erikoisoperaatiosta, suuri määrä tietoa, videoita, jotain, mikä ei kuulu sivustolle: https://t.me/topwar_official

tiedot
Hyvä lukija, jotta voit jättää kommentteja julkaisuun, sinun on kirjaudu.
  1. MadCat
    MadCat 26. elokuuta 2017 klo 06
    +4
    Pian tekoälyt tuomitaan, erotetaan virastaan ​​ja nukutetaan kryovankilassa näiden kävelevien lihapalojen vahingossa tappamisen vuoksi naurava
    1. Kotische
      Kotische 26. elokuuta 2017 klo 07
      +5
      On todennäköisempää, että "tuomari" on lihanpaloja, jotka kävelevät ja häiritsevät ajamista Iskinsin teillä! kieli
  2. Razvedka_Boem
    Razvedka_Boem 26. elokuuta 2017 klo 06
    +8
    R. Sheckleyllä on hyvä tarina tästä aiheesta - The Guardian Bird.
    Voimme myös muistaa S. Lemin hänen Iyon the Quiet on the Moon -elokuvallaan, jossa Kuuhun sijoitettiin sotilasharjoitusalueita ja aseiden kehitys oli tekoälyn valvonnassa. Tuloksena on nanoase. Samassa kirjoittajassa se on kuvattu hyvin n.f. romaani "Voittamaton".
    1. Kotische
      Kotische 26. elokuuta 2017 klo 07
      +2
      Kuka tieteiskirjailijoista oli ensimmäinen, on kiistanalainen asia! Mutta historia tuntee kaksi pioneeria, jotka muotoilivat "robotiikan kolme lakia". Totta, he "syyttävät tekijän" toisiaan.
      Lainaus wikistä:
      Vuonna 1939 Isaac Asimov alkoi kirjoittaa ensimmäistä robottitarinoitaan, Robbie. Vuonna 1941 Asimov kirjoitti tarinan "Valehtelija" (eng. Liar!) robotista, joka osasi lukea ajatuksia. Tässä tarinassa alkavat ilmestyä kuuluisat kolme robotiikan lakia. Asimov katsoi näiden lakien tekijän John W. Campbellille, joka muotoili ne keskustelussa Asimovin kanssa 23. joulukuuta 1940. Campbell kuitenkin sanoi, että idea kuului Asimoville, hän antoi hänelle vain muotoilun. Samassa tarinassa Asimov loi sanan "robotiikka" (robotiikka, robottitiede), joka tuli englannin kieleen. Asimovin venäjänkielisissä käännöksissä robotiikka käännetään myös "robotiikaksi", "robotiikaksi".

      Seuraava novellikokoelma "Minä, robotti" on maailman fantasian klassikko!
      1. Ironstop
        Ironstop 26. elokuuta 2017 klo 09
        +4
        Fantasia kuin hobiteista, haltioista.
        1. Kotische
          Kotische 26. elokuuta 2017 klo 11
          +1
          Olet oikeassa, yleistin käsitteitä. Jos määrität genren, niin - tieteiskirjallisuus.
          Muuten, lempinimelläsi on analogia R. Tolkienin "villatassussa"! naurava
          Älä loukkaannu!
    2. Voyaka uh
      Voyaka uh 26. elokuuta 2017 klo 12
      +8
      Sheckley ensin, ei Sheckley, mutta se aika on tullut. Paljon odotettua nopeammin.
      Ja Musk tietoisesti huolissaan. Hän on yksi harvoista, jotka näkevät kauas eteenpäin.
      1. Kirsikka yhdeksän
        Kirsikka yhdeksän 26. elokuuta 2017 klo 13
        +7
        Lainaus käyttäjältä: voyaka uh
        Hän on yksi harvoista, jotka näkevät kauas eteenpäin.

        Mitä järkeä?

        Kirjeen teksti

        https://futureoflife.org/autonomous-weapons-open-
        kirje - 2017

        Oletetaan, että YK:n pyhät ihmiset (enimmäkseen, muistutan, koostuvat varkaista, kannibaaleista ja ammattivalehtelijoista) sanovat, että terminaattorit ovat ah-ah-ah. Mitä sitten? Esimerkiksi Israel sulkee heti kaupan? Ja Hizbollah?

        Vaikuttaa siltä, ​​​​että Musk, Googlen työntekijät ja muu San Franciscon jengi-lake päättivät jälleen kerran mainostaa rakkauslappuvarkaiden genressä.
        1. Voyaka uh
          Voyaka uh 26. elokuuta 2017 klo 19
          +1
          San Francisco Lake Gang määrittää, mitä tekniikkaa meillä kaikilla on huomenna.
          He eivät voi kieltää tiettyä teknologia-aluetta, mutta ne voivat pakottaa poliitikot laatimaan lainsäädäntöä, joka tuo tämän suunnan etukäteen johonkin kehyksiin.
          Esimerkiksi uusien myrkkyjen kehittämistä on mahdotonta kieltää, mutta kenelle tahansa on selvää, ettei uutta myrkkyä voida käyttää kemiallisena aseena.
          1. Kirsikka yhdeksän
            Kirsikka yhdeksän 26. elokuuta 2017 klo 19
            0
            Lainaus käyttäjältä: voyaka uh
            Esimerkiksi uusien myrkkyjen kehittämistä on mahdotonta kieltää, mutta kenelle tahansa on selvää, ettei uutta myrkkyä voida käyttää kemiallisena aseena.

            Ja mitä, jakkaraiden käyttöä murskausaseiden muodossa ei ole vielä kielletty? Mikä sääli. Pitäisi kieltää.

            Tai tässä ovat sairaanhoitajat. Onko mahdollista kieltää NURSien ampuminen, vaikkapa Sderot? Onko syynä se, että he pommittelevat häntä, koska YK ei sisällyttänyt tätä suuntaa johonkin kehyksiin? Kenelle kirjoittaa kirje?
  3. vladimirvn
    vladimirvn 26. elokuuta 2017 klo 08
    +7
    PR-setä päätti. Näyttää siltä, ​​​​että hänen asiat eivät mene hyvin.
    1. naurua
      naurua 26. elokuuta 2017 klo 13
      +3
      Se yksinkertaisesti poistaa kilpailijat etukäteen.
    2. saturn.mmm
      saturn.mmm 27. elokuuta 2017 klo 08
      +3
      Lainaus vladimirvnilta
      PR-setä päätti. Näyttää siltä, ​​​​että hänen asiat eivät mene hyvin.

      Asiat menevät hänelle hyvin.
  4. eversti Oparyshev
    eversti Oparyshev 26. elokuuta 2017 klo 08
    +2
    aihe on ajankohtainen, mutta sanat eivät voi pysäyttää edistymistä.Jos droonit pyrkivät olemaan massiivisia, niin kukaan ei peruuta sitä. Toinen kysymys. valmistellaan peli, jossa kopterit taistelevat kanssasi.
    1. igordok
      igordok 26. elokuuta 2017 klo 09
      +1
      Lainaus: eversti Oparyshev
      Jos droneja pyrkiä olla massiivinen, niin kukaan ei peruuta sitä.

      Nuo. droonit luovat omanlaisiaan droneja. turvautua
      1. eversti Oparyshev
        eversti Oparyshev 26. elokuuta 2017 klo 13
        0
        Miksi ne ovat? Jo vuosikymmeniä leimattu VO on, kuten aina, valmis viimeistä sotaa varten.
      2. Yehat
        Yehat 28. elokuuta 2017 klo 10
        +1
        ei, ne oppivat lisääntymään kuin kärpäset :)
  5. Moryarty
    Moryarty 26. elokuuta 2017 klo 09
    +1
    Tekoälyllä on kolme uhkaa:
    1) Todennäköisin uhka on mahdollisuus käyttää tällaisia ​​robotteja diktaattorien ja terroristien toimesta. Robotit ovat häikäilemättömiä ja yksinkertaisesti noudattavat mitä tahansa järjestystä, olipa se kuinka julma tahansa.
    2) Tekoälyn poistuminen johtajan hallinnasta, ja sitä on erittäin vaikea pysäyttää. Mutta tämä on epätodennäköisin skenaario.
    3) Hyvin todennäköisesti lähitulevaisuudessa. Robotit korvaavat työntekijöitä, poliiseja ja sotilaita. Kaikki tyytymättömyys tukahdutetaan julmuudella (robotit eivät tunne sääliä). Tämän seurauksena joukko rikkaita hallitsee koko maailmaa, ja eri mieltä olevat tuhotaan tuntemattomien koneiden avulla.
    1. naurua
      naurua 26. elokuuta 2017 klo 13
      0
      Protouhan ollessa käynnissä aivopesua ja sitä seuraavaa paniikkia.
    2. Kirsikka yhdeksän
      Kirsikka yhdeksän 26. elokuuta 2017 klo 13
      0
      Lainaus Moryartyltä
      joukko rikkaita hallitsee koko maailmaa

      Sionist Occupation Government -julkaisu 666.1488 beta-testi.

      Tähän asti diktatuurit, kansanmurhat ja muut kansanhuvit ovat onnistuneet varsin hyvin matalalla teknologian tasolla. Nagant kädessä ja menoksi!

      Lainaus Moryartyltä
      Todennäköisin uhka on mahdollisuus käyttää tällaisia ​​robotteja diktaattorien ja terroristien toimesta.


      Ja hauska sattuma, juuri nämä ihmiset pitävät syvästi sekä Muskista että YK:sta.
  6. andrewkor
    andrewkor 26. elokuuta 2017 klo 09
    +3
    He ajattelivat samaa dynamiitista, konekivääreistä, vain ydinaseet täyttävät silti jotenkin odotukset!
  7. Bob 57
    Bob 57 26. elokuuta 2017 klo 10
    +2
    USA Venäjältä rakkaudella kumppaneita!
    1. Greenwood
      Greenwood 26. elokuuta 2017 klo 15
      + 12
      Kyllä, kumppanit olivat hyvin peloissaan!
  8. Vapaa tuuli
    Vapaa tuuli 26. elokuuta 2017 klo 11
    +1
    ja nyt hän kävelee mykistyneenä!!!!!!! Otsikot ovat....
  9. Jevgeni Strygin
    Jevgeni Strygin 26. elokuuta 2017 klo 14
    +2
    mikä vimma on sama asia, kun tämä työntää nimen "Mask" kaikkiin vaikeapääsyisiin halkeamiin.
    1. tforik
      tforik 26. elokuuta 2017 klo 16
      0
      on hyvä, kun on joku, jonka läpi ponnistella)
  10. tforik
    tforik 26. elokuuta 2017 klo 15
    +3
    Älykäs kaveri on Elon Musk. Harmi, ettei maassamme ole tällaisia ​​teitä.
    1. Kotische
      Kotische 26. elokuuta 2017 klo 16
      +9
      Elon Musk - järkevä? pelay
      Mutta ennen kaikkea minua jännitti väitteesi, että "meillä ei ole sellaista tietä maassa"! Minulle tuli heti assosiaatioita "Kloonijoukko Naamio ryntäämässä pitkin tuulista rinnakkaista valtatietä"! vinkki naurava
      1. Vadim dok
        Vadim dok 26. elokuuta 2017 klo 18
        +1
        Muista Zworykin, Sikorsky, Brin ja monet monet muut!
      2. Voyaka uh
        Voyaka uh 26. elokuuta 2017 klo 19
        +9
        "Elon Musk - järkevä?"/////
        ---------
        Tässä olen kanssasi samaa mieltä. Muskin kutsuminen "fiksuksi" on kuin Chaliapinia "hyväksi laulajaksi".
        40 Falcon-9 laukaisua, joista 15 1. vaiheen paluuta, 12 näistä tänä vuonna (Roskosmos - 11). Fiksu tyyppi.
        1. Vadim237
          Vadim237 26. elokuuta 2017 klo 20
          +1
          Kyse on vain siitä, että kaveri ryhtyi töihin oikeaan suuntaan, oikeaan aikaan ja oikeassa paikassa - ja se kasvaa nopeasti.
          1. Kirsikka yhdeksän
            Kirsikka yhdeksän 26. elokuuta 2017 klo 22
            0
            Lainaus: Vadim237
            Kyse on vain siitä, että kaveri meni liiketoimintaan oikeaan suuntaan, oikeaan aikaan ja oikeassa paikassa.

            Ei aivan "yksinkertaista".
            Mitä tulee ohjuksiin, Musk on ero Falcon 9:n ja Orbital ATK:n Antaresin välillä, joka on luotu samaan aikaan, samassa toimeksiannossa, suuremmalla rahalla ja paljon suuremman ja kokeneemman yrityksen toimesta.
        2. Yehat
          Yehat 28. elokuuta 2017 klo 10
          +3
          Onko tämä Maskin ansio?
          Minusta tämä on pikemminkin NASA:n ansio, joka rahoittaa sen, jakaa avokätisesti kokemustaan ​​ja koulutettua henkilökuntaa
          Itse pidän Muskia lahjakkaana PR-miehenä, ei sen enempää.
          1. Kirsikka yhdeksän
            Kirsikka yhdeksän 2. syyskuuta 2017 klo 20
            0
            Lainaus yehatista
            Minusta tämä on pikemminkin NASA:n ansio, joka rahoittaa sen, jakaa avokätisesti kokemustaan ​​ja koulutettua henkilökuntaa

            Uudelleen.
            Useampi kuin yksi SpaceX työskenteli Commercial Resupply Services -ohjelman alla. Ja SpaceX osoittautui huomattavasti paremmaksi kuin muut. Tämä on ero. Ja ansio on Naamio tai ihmiset, jotka Musk palkkasi, ts. silti naamio.
            Jos tämän ohjelman amerikkalaisilla olisi yksi Antares ja toinen jotain sen kaltaista, laukaisuteollisuudessa olisi perustavanlaatuinen linjaus.
  11. Mihail_Zverev
    Mihail_Zverev 26. elokuuta 2017 klo 19
    0
    Nämä laitteet muistuttavat "aerowafereja", jotka kellarissa olevat huligaanit maalasivat kerran. naurava
    Yleensä tällaiset laitteet ovat todella vaarallisia, ja tekniikan kehitys tekee niistä helpommin saavutettavia. On täysin mahdollista koota tavallinen drone, kasvojentunnistimella varustettu matkapuhelin, pistooli ja joitain räjähteitä jo nyt, sijoittaa useita kymmeniä tai jopa satoja tällaisia ​​laitteita kattoille esimerkiksi jonnekin Lontooseen ja jopa vapauttaa ne metsästää ruuhka-aikoina. Bonus - mustat kasvot tunnistetaan huonosti, kuvaus tapahtuu pääasiassa enemmän tai vähemmän valossa. hymyillä
  12. Popovich
    Popovich 26. elokuuta 2017 klo 20
    0
    Elon Musk - Terminatorr4 (kevyt versio)
  13. Decabrev
    Decabrev 26. elokuuta 2017 klo 22
    +4
    Musk ilmaisi vain sen, mikä on ollut kaikille selvää jo pitkään. Ja yleensä tämä on PR. Samoin monet halusivat kieltää ydinaseet. Tulos on nolla. Jokainen, joka haluaa ydinaseita, ei saa sitä vain siksi, että sen tuotanto vaatii erittäin vakavia resursseja. Pelkään, että droneilla ja muilla täysin itsenäisillä aseilla ei tule olemaan tällaisia ​​ongelmia. Elementtipohja halpenee ja halpenee. Todennäköisimmin on mahdollista varastaa tai mukauttaa vastaavia ohjelmistoja myös siviilielämästä. Ehkä olen väärässä. Anna asiantuntijoiden korjata se.
    1. Mihail_Zverev
      Mihail_Zverev 26. elokuuta 2017 klo 22
      0
      En ole ollenkaan asiantuntija, mutta ongelma ei minusta teknisesti vaikealta vaikuta: koneet osaavat jo tunnistaa ihmisen figuurin ja kasvot, selfie-drooneja on jo saatavilla, ampumalaite on helppo toimittaa ja pieni räjähdyspanos itseräjäytykseen, kun ammukset on käytetty loppuun. Yksi opiskelija teki vuonna 2015 aseella varustetun dronin. https://www.youtube.com/watch?v=c5zFyJyTIBw
  14. Oleg7700
    Oleg7700 27. elokuuta 2017 klo 18
    +2
    Kuten historiassa on toistuvasti tapahtunut, nykyiset "ennusteet ja pelot" voivat osoittautua aikansa "tieteellisten" ennusteiden kaltaiseksi, että "kaupungin joukkoliikenteen kehittäminen on mahdotonta tietyn rajan saavuttamisen jälkeen, koska se on ongelmallista. hevoslannan poistaminen kaduilta" ja todellinen vaara on täysin erilainen. Mitä tulee Israelin oppiin, "...tilannetietoisuus ei yksin riitä, jos se ei liity kykyyn vastata saman aikavälin sisällä. Koska nämä aikavälit ovat tällä hetkellä sekunteja ja sekunnin murto-osia, ihmisen kyvyt luovat rajoituksia. Siksi "Fire Canopy" -konsepti sisältää automaattisen reagoinnin kehittämisen sekä tilannetietoisuuden." Elbit Systemsin toisen sukupolven "Tzayad" (Digital Land Army) -järjestelmästä tulee pääelementti, joka kokoaa kaiken yhteen, "sulkee silmukan", työ on täydessä vauhdissa ja un-shmaon yhdessä "huolestuneen yleisön" kanssa. , ei ole neuvojia: - no älä kävele käsi kädessä...
    1. Voyaka uh
      Voyaka uh 27. elokuuta 2017 klo 23
      +3
      "sisältää automaattisen reagoinnin kehittämisen sekä tilannetietoisuuden" ////

      Se on puolet vaivasta... turvautua Ongelmana on, että tilannetietoiset laitteet, joissa on SELF-LEARNING-ohjelmisto, vastaavat automaattisesti. Tuo on
      Ohjelmistot, jotka ovat kirjoittaneet (asteittain, tilanteiden mukaan) itse, eivät ohjelmoijat. Ja mitä robotti ohjelmoi itselleen, Jumala tietää. Teknologiagurut varoittavat tästä.
      1. Oleg7700
        Oleg7700 28. elokuuta 2017 klo 00
        +1
        Logistiikan ja tekoälyn israelilaisilla guruilla on tehtävää. "Jos haluat elää, et ole niin järkyttynyt..."
        1. Voyaka uh
          Voyaka uh 28. elokuuta 2017 klo 10
          0
          Israel tietysti tekee tämän. Ja tietysti vahvistaa armeijaa.
          Ja kuten oletan, israelilaiset yritykset tienaavat
          Tekoälyssä on paljon rahaa. Mutta Kalifornia tekee silti sään.
          Ne pitävät meteliä lehdistössä.
  15. Leonid Khar
    Leonid Khar 28. elokuuta 2017 klo 04
    +1
    Elon Musk varoittaa kaikkia tekoälyn vaaroista, mutta hän itse jatkaa tekoälyn kehittämistä. Outo. Eikö olekin?
    1. Voyaka uh
      Voyaka uh 28. elokuuta 2017 klo 10
      +1
      Kehitystä ei voi pysäyttää. Ja tietysti Piilaakson yritykset ja
      Seattle - eturintamassa. Mutta on myös luonnollista, että he varoittavat mahdollisista
      oman kehityksensä seurauksia. Ensimmäistä kertaa kävi selväksi, että tekoäly on olemassa, se on jo kehitetty ja se on ase.
      Eikä ole tyhmää ajatella etukäteen tämän alan lainsäädäntöä.
      1. Yehat
        Yehat 28. elokuuta 2017 klo 10
        0
        mikä voi pysäyttää vallan ja voiton janon?
        Tekoäly on keino poimia tämä kaikki, ja mitkään moraalinormit eivät voi pysäyttää roistoja.
  16. DimerVladimer
    DimerVladimer 28. elokuuta 2017 klo 15
    +1
    Se on yksi asia, kun tekoäly toimii tietyn ohjelman mukaisesti ja on sen rajoitusten sitoma.
    Toinen asia on, kun tarjotaan mahdollisuus itseopiskeluun - muokata koodiasi ilman eettisiä rajoituksia.
    Asiantuntijat yrittävät varoittaa - ihmiskunta omilla käsillään tekee lopun kohtalosta.

    Kaivostilojen (kriptovaluuttalaskelmien laskentateho) myötä valtavat määrät hajautettua laskentatehoa, jota hallitukset eivät hallitse, tulee verrattain tekoälyn saataville.
  17. Paikallinen
    Paikallinen 29. elokuuta 2017 klo 00
    0
    Lainaus käyttäjältä: voyaka uh
    Eikä ole tyhmää ajatella etukäteen tämän alan lainsäädäntöä.

    Todellakin. Muuten se käy kuin atomiaseiden kanssa - heillä ei ollut aikaa juhlia täydellistä ylivoimaansa muuhun ihmiskuntaan nähden, kun heti ilmestyi toinen maa ja sitten seuraavat. Minun piti pitkään ja ikävästi suostutella "en jakamaan".
    Se on välttämätöntä, on välttämätöntä kiireellisesti kieltää kaikki muu, paitsi poikkeusvaltio.
  18. ML-334
    ML-334 29. elokuuta 2017 klo 06
    0
    Paradoksi-Luoja loi meidät-biorobotit ohjelmalla "Jumalan käsky" - täytämmekö ne? Siinä se - kuvittelimme olevansa Jumala - meitä rangaistaan. Muuten, kuinka monta sivilisaatiota hän siivosi?
  19. soolovald
    soolovald 30. elokuuta 2017 klo 06
    +1
    Kaikki menee Bradburyn käsikirjoituksen mukaan "Guardian Bird" -elokuvassa