A gyilkos döntés ne legyen a roboté!
-
0:01 - 0:04Sci-fi thrillereket írok,
-
0:04 - 0:06úgyhogy mikor azt mondom, "gyilkos robotok,"
-
0:06 - 0:08valószínűleg ilyesmire gondoltok.
-
0:08 - 0:11De igazából most nem fikcióról akarok beszélni.
-
0:11 - 0:14Igazi gyilkos robotokról fogok beszélni,
-
0:14 - 0:17önálló harci drónokról.
-
0:17 - 0:21Nem a Predator vagy Reaper drónokra gondolok,
-
0:21 - 0:24amikor egy ember hozza meg a döntést a célokról.
-
0:24 - 0:27Teljesen önálló robotfegyverekről beszélek,
-
0:27 - 0:30amik halálos döntéseket hoznak emberi lényekről,
-
0:30 - 0:32önmaguktól.
-
0:32 - 0:36Van erre egy technikai kifejezés: gyilkolási autonómia.
-
0:36 - 0:39Szóval az öldöklésről önállóan dönteni képes, gyilkos robotok
-
0:39 - 0:42sokféle formát ölthetnek -- repülhetnek, vezethetnek,
-
0:42 - 0:45vagy csak várakozhatnak.
-
0:45 - 0:48És igazából egyre gyorsabban válnak valóságossá.
-
0:48 - 0:50Ez két automata orvlövész-állomás
-
0:50 - 0:55amik jelen pillanatban az Észak- és Dél-Korea közti demilitarizált övezetben vannak hadrendbe állítva.
-
0:55 - 0:57Mindkét gép képes automatikusan felismerni
-
0:57 - 1:00egy emberi célpontot és lőni rá,
-
1:00 - 1:05a bal oldali egy kilométeresnél nagyobb távolságra is.
-
1:05 - 1:08Mindkét esetben van még egy ember
-
1:08 - 1:10aki meghozza a halálos tűzparancsra vonatkozó döntést,
-
1:10 - 1:16de ez nem technológiai elvárás. Csak egy döntés.
-
1:16 - 1:19Erre a döntésre szeretnék fókuszálni,
-
1:19 - 1:22mert ahogy a halálos döntéshozatalt átruházzuk
-
1:22 - 1:25az emberekről a szoftverekre,
-
1:25 - 1:28nem csak kivonjuk az emberi tényezőt a háborúból,
-
1:28 - 1:32de megváltoztatjuk a teljes szociális térképet,
-
1:32 - 1:34a harcmezőktől messze.
-
1:34 - 1:38Azért, mert ahogy az emberek megoldják a konfliktusokat
-
1:38 - 1:40meghatározza a szociális térképet.
-
1:40 - 1:43Ez mindig így volt, az egész történelem során.
-
1:43 - 1:46Például ezek voltak a legmodernebb fegyverrendszerek
-
1:46 - 1:48időszámításunk után 1400-ban.
-
1:48 - 1:51Ezeket drága volt megépíteni és fenntartani,
-
1:51 - 1:54de uralhatták velük a népességet,
-
1:54 - 1:58és a politikai erő megoszlása a feudális rendszerekben bemutatja ezt.
-
1:58 - 2:01A hatalom a társadalom csúcsán összpontosult.
-
2:01 - 2:04És mi változott? Technológiai innováció.
-
2:04 - 2:06Puskapor, ágyúk.
-
2:06 - 2:10És nemsokára a páncélok és kastélyok feleslegessé váltak,
-
2:10 - 2:12kevésbé számított, hogy kit vittél a harcmezőre,
-
2:12 - 2:16mint hogy hány embert vittél oda.
-
2:16 - 2:20Ahogy a hadseregek számban nőttek, kiemelkedett a nemzetállam,
-
2:20 - 2:23mint a védekezés politikai és logisztikai feltétele.
-
2:23 - 2:26Ahogy a vezetők egyre inkább rászorultak a népességre,
-
2:26 - 2:28elkezdték megosztani a hatalmat.
-
2:28 - 2:30Kialakult a képviseleti kormányzás.
-
2:30 - 2:33Ismételten, az eszközök amivel megoldjuk a konfliktusokat
-
2:33 - 2:37befolyásolják a szociális térképet.
-
2:37 - 2:41Az önálló robotfegyverek is ilyen eszközök,
-
2:41 - 2:46azzal a kivétellel, hogy kevesebb embernek kell harcba vonulnia,
-
2:46 - 2:51így megkockáztatják a hatalom néhány kézbe való recentralizációját,
-
2:51 - 2:57potenciálisan visszafordítva egy ötévszázados trendet a demokrácia felé.
-
2:57 - 2:59Most, azt hiszem, ennek ismeretében
-
2:59 - 3:03megtehetünk bizonyos döntő lépéseket, hogy megőrizzük a demokratikus intézményeinket,
-
3:03 - 3:07hogy megtegyük, amihez legjobban értünk, alkalmazkodjunk.
-
3:07 - 3:09De az idő is kérdés.
-
3:09 - 3:12Hetven nemzet fejleszt távolról irányítható
-
3:12 - 3:14harci drónokat,
-
3:14 - 3:17és mint látják, a távolról irányítható harci drónok
-
3:17 - 3:22az előfutárai az önálló robotfegyvereknek.
-
3:22 - 3:24Azért, mert ha egyszer bevetetted a távolról irányítható drónokat,
-
3:24 - 3:28három erős faktor is próbálja eltávolítani
-
3:28 - 3:32a döntéshozatalt az emberektől és átadni a fegyveres platformnak.
-
3:32 - 3:38Az első az a videóáradat, amit ezek a drónok termelnek.
-
3:38 - 3:41Példának okáért 2004-ben az USA drónflottája
-
3:41 - 3:47összesen 71 órányi videófelderítést készített analízis céljára.
-
3:47 - 3:512011-re ez felment 300 000 órára,
-
3:51 - 3:54felülmúlva az emberek képességét arra, hogy mindezt átnézzék,
-
3:54 - 3:58de ez a szám is drasztikusan növekszik.
-
3:58 - 4:01A Pentagon Gorgói Szem és Árgus programjai
-
4:01 - 4:04több mint 65 önállóan működő kameraszemet helyez fel
-
4:04 - 4:06ezekre a drónplatformokra,
-
4:06 - 4:09és ez jóval túllépi az emberi képességeket a videók megnézésére.
-
4:09 - 4:11Ez azt jelenti, hogy vizuális intelligenciaszoftvernek kell
-
4:11 - 4:15alaposan átnéznie fontos részek után kutatva.
-
4:15 - 4:17És ez azt jelenti, hogy hamarosan
-
4:17 - 4:19a drónok mondják meg az embereknek, mit kell nézni,
-
4:19 - 4:22nem fordítva.
-
4:22 - 4:24A második fontos ösztönző ami a döntéshozatalt elvenné
-
4:24 - 4:28az emberektől és a gépeknek adná,
-
4:28 - 4:31az az elektromágneses zavarás,
-
4:31 - 4:33ami rontja a kapcsolatot a drón
-
4:33 - 4:36és az operátor között.
-
4:36 - 4:38Láttunk erre példát 2011-ben
-
4:38 - 4:41mikor az amerikai RQ-170 Sentinel drón
-
4:41 - 4:46összezavarodott Irán fölött egy GPS-hamisító támadás miatt,
-
4:46 - 4:51de bármilyen távolról irányított drón ki van téve az ilyen támadásoknak,
-
4:51 - 4:53ami azt jelenti,
-
4:53 - 4:56hogy a drónoknak több döntést kell hozniuk.
-
4:56 - 4:59Tudni fogják a küldetésük célját,
-
4:59 - 5:04és emberi irányítás nélkül fognak reagálni az új körülményekre.
-
5:04 - 5:07Figyelmen kívül fogják hagyni a külső rádiójeleket
-
5:07 - 5:09és ők maguk kevés jelet fognak küldeni.
-
5:09 - 5:11Ami elvisz minket a harmadik
-
5:11 - 5:15és legerősebb ösztönzőhöz, hogy a döntéshozatalt az emberek helyett
-
5:15 - 5:18a fegyvereknek adjuk:
-
5:18 - 5:22az elfogadható tagadás.
-
5:22 - 5:25Ma egy globális gazdaságban élünk.
-
5:25 - 5:29A legtöbb kontinensen zajlik csúcstechnológiás gyártás.
-
5:29 - 5:32A kiberkémkedés ellopja a fejlett terveket
-
5:32 - 5:34ismeretlen vidékekre,
-
5:34 - 5:36és ebben a környezetben nagyon valószínű,
-
5:36 - 5:40hogy a sikeres drónterveket leszerződött gyárakban le fogják koppintani,
-
5:40 - 5:43és elburjánzanak a szürke piacon.
-
5:43 - 5:45Ebben a szituációban át kell fésülni a romjait
-
5:45 - 5:48egy öngyilkos dróntámadásnak, és nehéz lesz megmondani,
-
5:48 - 5:52ki küldte a fegyvert.
-
5:52 - 5:55Ez felveti a névtelen háború
-
5:55 - 5:58nagyon is valószínű lehetőségét.
-
5:58 - 6:01Ez felboríthatná a geopolitikai egyensúlyt,
-
6:01 - 6:04megnehezítve a nemzetek számára, hogy tűzerejüket
-
6:04 - 6:07egy támadó ellen fordítsák, és eltolhatná az egyensúlyt
-
6:07 - 6:11a 21. században a védekezéstől a támadáshoz.
-
6:11 - 6:14A katonai akciókat lehetséges opcióvá tenné
-
6:14 - 6:16nem csak kis nemzetek,
-
6:16 - 6:19de bűnszervezetek, magánvállalkozások,
-
6:19 - 6:21akár hatalommal rendelkező egyének számára is.
-
6:21 - 6:25Kialakulhat egy rivális hadurakból álló táj,
-
6:25 - 6:28ami aláássa a törvény és a civil társadalom erejét.
-
6:28 - 6:32Ha most a felelősség és átláthatóság
-
6:32 - 6:34a képviseleti kormányzás két sarokköve,
-
6:34 - 6:39az önálló robotfegyverek alááshatják mindkettőt.
-
6:39 - 6:40Gondolhattok arra,
-
6:40 - 6:42hogy a csúcstechnológiával rendelkező nemzetek polgárainak
-
6:42 - 6:45előnye lenne bármilyen robotháborúban,
-
6:45 - 6:49hogy e nemzeteknek polgárai kevésbé sebezhetőek,
-
6:49 - 6:53különösen a fejlődő országokhoz képest.
-
6:53 - 6:57De azt hiszem az igazság pontosan ennek az ellentéte.
-
6:57 - 6:59Úgy vélem, a csúcstechnológiájú nemzetek tagjai
-
6:59 - 7:03sebezhetőbbek a robotfegyverekre,
-
7:03 - 7:07ennek az okát egy szóban összefoglalhatom: adatok.
-
7:07 - 7:11Az adatok irányítják a csúcstechnológiájú társadalmakat.
-
7:11 - 7:14Mobiltelefonos geolokáció, telekommunikációs metaadatok,
-
7:14 - 7:17közösségi média, email, SMS, pénzügyi tranzakciós adatok,
-
7:17 - 7:21szállítási adatok, az emberi mozgás és társadalmi interakció
-
7:21 - 7:24valósidejű adatainak özöne.
-
7:24 - 7:28Röviden szólva, sokkal láthatóbbak vagyunk a gépek szemében
-
7:28 - 7:30mint valaha a történelemben,
-
7:30 - 7:36és ez tökéletesen illeszkedik az önálló fegyverek célzási igényeihez.
-
7:36 - 7:37Amit itt látnak, az egy társadalmi csoport
-
7:37 - 7:41kapcsolati analízis térképe.
-
7:41 - 7:44A vonalak mutatják a társadalmi kapcsolatokat egyes egyének között.
-
7:44 - 7:47Ezek a fajta térképek automatikusan generálhatók
-
7:47 - 7:52az emberek mögött hagyott adatnyom alapján.
-
7:52 - 7:54Ezt arra használják, hogy megcélozzanak bizonyos demográfiai csoportokat
-
7:54 - 7:59termékek marketingcéljaira, de kétoldalú technológia,
-
7:59 - 8:02mert a megcélzást máshogy is használhatjuk.
-
8:02 - 8:05Nézzétek, bizonyos egyének ki vannak emelve.
-
8:05 - 8:08Ők a társadalmi hálózat gócpontjai.
-
8:08 - 8:12Ők a szervezők, véleményalkotók, vezetők,
-
8:12 - 8:14és ezeket az embereket automatikusan meghatározhatod
-
8:14 - 8:17a kommunikációs mintáik alapján.
-
8:17 - 8:19Na most, ha marketinges vagy, őket célzod meg
-
8:19 - 8:21termékmintákkal, próbálod elterjeszteni a márkádat
-
8:21 - 8:24az ő társadalmi csoportjukon keresztül.
-
8:24 - 8:26De ha egy elnyomó kormány vagy,
-
8:26 - 8:31aki a politikai ellenségeit keresi, inkább eltávolítod őket,
-
8:31 - 8:34megsemmisíted őket, szétszakítod a társadalmi csoportot,
-
8:34 - 8:37és a hátramaradottak elvesztik a szociális kohéziót
-
8:37 - 8:39és szervezettséget.
-
8:39 - 8:43Az olcsó, burjánzó robotfegyverek világában
-
8:43 - 8:45a határok kevés védelmet kínálnak
-
8:45 - 8:47a távoli kormányok kritikusainak
-
8:47 - 8:51vagy nemzeteket átfogó bűnszervezeteknek.
-
8:51 - 8:55Népszerű mozgalmak, amik változást agitálnak
-
8:55 - 8:58korán felderíthetővé válnak, és a vezetőik eltávolíthatóak
-
8:58 - 9:01mielőtt a gondolataik elérik a kritikus tömeget.
-
9:01 - 9:04A gondolatok kritikus tömeget elérése az,
-
9:04 - 9:08amiről a politikai aktivizmus, a népi kormányzás szól.
-
9:08 - 9:12Névtelen halálos fegyverek könnyedén hozhatnak döntéseket
-
9:12 - 9:15halálos akciókról mindenféle versengő érdekek mentén.
-
9:15 - 9:19Ez leállítaná a szólásszabadságot
-
9:19 - 9:24és a népi politikai akciókat, a demokrácia szívét.
-
9:24 - 9:27Ezért van szükségünk egy nemzetközi egyezményre
-
9:27 - 9:31a robotfegyverekről, pontosabban egy globális tilalomra
-
9:31 - 9:35a gyilkos robotok fejlesztésében és bevetésében.
-
9:35 - 9:38Már vannak nemzetközi egyezményeink
-
9:38 - 9:41nukleáris és biológiai fegyverekre, és habár tökéletlenek,
-
9:41 - 9:44nagymértékben működnek.
-
9:44 - 9:47De a robotfegyverek ugyanennyire veszélyesek lehetnek,
-
9:47 - 9:51mert szinte biztosan használni fogják őket,
-
9:51 - 9:56és fokozatosan tönkretehetik demokratikus intézményeinket.
-
9:56 - 9:592012 novemberében az USA Védelmi Minisztériuma
-
9:59 - 10:02kiadott egy direktívát,
-
10:02 - 10:06amely megköveteli egy ember jelenlétét a halálos döntéseknél.
-
10:06 - 10:11Ez időlegesen tulajdonképpen betiltotta az önálló fegyvereket az USA hadseregében,
-
10:11 - 10:15de ezt a direktívát állandóvá kell tennünk.
-
10:15 - 10:19Ez meghatározhatná a globális akció színterét.
-
10:19 - 10:23Mert szükségünk van egy nemzetközi jogi keretre
-
10:23 - 10:25a robotfegyverek esetén.
-
10:25 - 10:28És most van rá szükségünk, még mielőtt egy pusztító támadás
-
10:28 - 10:31vagy terrorcselekmény okán a világ nemzetei
-
10:31 - 10:33sietve átveszik ezeket a fegyvereket,
-
10:33 - 10:37a következményeket át sem gondolva.
-
10:37 - 10:40Az önálló robotfegyverek túl sok erőt koncentrálnak
-
10:40 - 10:46túl kevés kézben, és ez magát a demokráciát veszélyezteti.
-
10:46 - 10:49Ne értsetek félre, hiszek benne, hogy rengeteg
-
10:49 - 10:51haszna van fegyvertelen civil drónoknak:
-
10:51 - 10:55környezeti megfigyelés, kereséses mentőakciók, logisztika.
-
10:55 - 10:58Ha van egy nemzetközi egyezményünk a robotfegyverekről,
-
10:58 - 11:02hogy használhatnánk ki az önálló drónok
-
11:02 - 11:04és járművek előnyeit miközben megvédjük magunkat
-
11:04 - 11:08az illegális robotfegyverektől?
-
11:08 - 11:13Azt hiszem a titok az átláthatóságban rejlik.
-
11:13 - 11:16Egy robot sem várhat el privátszférát
-
11:16 - 11:20egy nyilvános helyen.
-
11:20 - 11:25(Taps)
-
11:25 - 11:27Minden robotnak és drónnak szüksége van
-
11:27 - 11:30egy, még a gyárban beégetett, titkosított azonosítóra,
-
11:30 - 11:33amit aztán a nyilvános helyeken való mozgásának követésére használhatunk.
-
11:33 - 11:36Az autókon vannak rendszámtáblák, a repülőkön farokszámok.
-
11:36 - 11:38Ez sem más.
-
11:38 - 11:40Minden állampolgár letölthetne egy alkalmazást,
-
11:40 - 11:43ami megmutatja a drónok és önálló járművek számát
-
11:43 - 11:45a körülötte lévő nyilvános helyen,
-
11:45 - 11:48abban a pillanatban és a múltban is.
-
11:48 - 11:52És a városi vezetőknek szenzorokat és városi drónokat kellene bevetni
-
11:52 - 11:54a csavargó drónok felderítésére,
-
11:54 - 11:57és ahelyett, hogy gyilkos drónokat küldenénk, hogy lelőjék őket,
-
11:57 - 12:00fel kellene hívniuk az emberek figyelmét a jelenlétükre.
-
12:00 - 12:03És bizonyos nagyon magas biztonsági övezetekben
-
12:03 - 12:05a városi drónok talán elfognák és elvinnék őket
-
12:05 - 12:07egy bomba-ártalmatlanító létesítménybe.
-
12:07 - 12:11De vegyétek észre, ez inkább egy védekezőrendszer,
-
12:11 - 12:12mint fegyverrendszer.
-
12:12 - 12:14Ez lehetővé tenné, hogy kiélvezzük
-
12:14 - 12:16az önálló járművek és drónok előnyeit,
-
12:16 - 12:21miközben megvédjük a nyitott, polgári társadalmunkat.
-
12:21 - 12:24Be kell tiltanunk a gyilkos robotok bevetését
-
12:24 - 12:26és fejlesztését.
-
12:26 - 12:30Ne dőljünk be az automatizált háború csábításának.
-
12:30 - 12:33Az autokrata kormányok és bűnszervezetek
-
12:33 - 12:36kétségtelenül be fognak, de ne csatlakozzunk.
-
12:36 - 12:38Az önálló robotfegyverek
-
12:38 - 12:40túl sok hatalmat koncentrálnak
-
12:40 - 12:43túl kevés láthatatlan kézben,
-
12:43 - 12:46és ez fokozatosan tönkreteheti a képviseleti kormányzást.
-
12:46 - 12:49Biztosítsuk, hogy - a demokráciákban legalábbis -
-
12:49 - 12:51a gyilkos robotok fikciók maradjanak.
-
12:51 - 12:52Köszönöm.
-
12:52 - 12:57(Taps)
-
12:57 - 13:02Köszönöm. (Taps)
- Title:
- A gyilkos döntés ne legyen a roboté!
- Speaker:
- Daniel Suarez
- Description:
-
Íróként Daniel Suarez jövőbeli disztópiák történeteit meséli. De a TEDGlobal színpadon egy való világbeli forgatókönyvet ad elő nekünk, amiről többet kellene tudnunk: az önálló, háborús robotfegyverek felemelkedéséről. A fejlett drónok, automatizált fegyverek és mesterséges intelligencia vezérelte információgyűjtő eszközök, mint állítja, kivehetik a háborús döntéseket az emberek kezéből.
- Video Language:
- English
- Team:
- closed TED
- Project:
- TEDTalks
- Duration:
- 13:20
Anna Patai approved Hungarian subtitles for The kill decision shouldn't belong to a robot | ||
Anna Patai edited Hungarian subtitles for The kill decision shouldn't belong to a robot | ||
Anna Patai edited Hungarian subtitles for The kill decision shouldn't belong to a robot | ||
Medve Gyula accepted Hungarian subtitles for The kill decision shouldn't belong to a robot | ||
Medve Gyula commented on Hungarian subtitles for The kill decision shouldn't belong to a robot | ||
Medve Gyula edited Hungarian subtitles for The kill decision shouldn't belong to a robot | ||
Medve Gyula edited Hungarian subtitles for The kill decision shouldn't belong to a robot | ||
Medve Gyula edited Hungarian subtitles for The kill decision shouldn't belong to a robot |
Medve Gyula
Well done.