Retourner vers la vidéo

28c3: Den kommende krig på den generelle computer [obs: dette er auto-oversat - ret gerne fejlene, tak!]

  • 0:09 - 0:10
    Introducer:
  • 0:10 - 0:16
    Anyway, jeg tror, jeg har dræbt nok tid... så, kære kolleger, en person der
  • 0:16 - 0:22
    i denne crowd bør absolut ingen indførelse, Cory Doctorow!
  • 0:22 - 0:25
    [Publikum bifalder]
  • 0:25 - 0:26
    Doctorow:
  • 0:26 - 0:30
    Tak.
  • 0:30 - 0:37
    Så, når jeg taler i steder hvor nationens første sprog ikke er engelsk,
  • 0:38 - 0:44
    der er en erklæring om ansvarsfraskrivelse og en undskyldning, fordi jeg er en af naturens hurtig barsk. Da jeg var
  • 0:44 - 0:50
    i de Forenede Nationer på Verdensorganisationen for intellektuel ejendomsret, jeg blev kendt som den
  • 0:50 - 0:56
    "svøbe" samtidige oversættelse korps; Jeg ville stå og taler, og slå
  • 0:56 - 1:00
    omkring, og der ville være vinduet efter vinduet af translator, og hver enkelt af dem ville
  • 1:00 - 1:07
    gør denne [Doctorow facepalms]. [Publikum griner] Så på forhånd, giver jeg du tilladelse
  • 1:07 - 1:11
    Hvornår startes taler hurtigt at gøre denne [Doctorow gør SOS motion], og jeg vil bremse.
  • 1:11 - 1:17
    Så, aftenens taler--wah, wah, waaah [Doctorow gør 'mislykkes horn' lyd, tilsyneladende
  • 1:17 - 1:22
    svar til publikum gør SOS bevægelse; «««publikum grin]]--aftenens taler er ikke
  • 1:22 - 1:29
    en ophavsretlige snak. Jeg copyright samtaler hele tiden; spørgsmål om kultur og kreativitet
  • 1:29 - 1:34
    interessant nok, men at være ærlig, jeg er helt syge af dem. Hvis du vil høre
  • 1:34 - 1:39
    Freelancer forfattere ligesom mig bang på om hvad der sker med den måde, hvorpå vi tjener vores lever, ved
  • 1:39 - 1:45
    alle midler, gå og finde en af de mange samtaler, jeg har gjort på dette emne på YouTube. Men
  • 1:45 - 1:50
    i aften, vil jeg tale om noget mere vigtigt--jeg vil tale til snak om generelle
  • 1:50 - 1:53
    Formålet med computere.
  • 1:53 - 1:58
    Fordi generelle formål computere er faktisk forbløffende--så forbløffende, vores
  • 1:58 - 2:03
    samfundet stadig kæmper for at komme til livs dem: regne ud, hvad de er,
  • 2:03 - 2:10
    regne ud, hvordan at imødekomme dem, og hvordan til at håndtere dem. Som desværre,
  • 2:10 - 2:12
    bringer mig tilbage til ophavsret.
  • 2:12 - 2:18
    Fordi figuren generelle ophavsret krigene og erfaringerne, de kan undervise
  • 2:18 - 2:23
    os om de kommende kampe over den generelle formål computer skæbne er vigtige.
  • 2:23 - 2:30
    Vi havde emballeret software og den medfølgende industri i begyndelsen, og vi havde sneakernet.
  • 2:32 - 2:38
    Så havde vi disketter i lynlås poser eller i papkasser, hængt på pinde i butikker,
  • 2:38 - 2:44
    og sælges ligesom slik barer og magasiner. Og de var yderst modtagelige for overlapning,
  • 2:44 - 2:50
    og så de blev duplikeret hurtigt og bredt, og dette var til stor fortrydelse af mennesker
  • 2:50 - 2:52
    Hvem fremstillet og solgt software.
  • 2:52 - 2:59
    Angiv DRM 0.96. De begyndte at indføre fysiske defekter til diske eller
  • 2:59 - 3:06
    begyndte at insistere på andre fysiske indicier, som softwaren kunne kontrollere for--kopibeskyttelsesnøgler,
  • 3:06 - 3:11
    skjulte sektorer, challenge/response protokoller, der kræves, at du havde fysiske besiddelse
  • 3:11 - 3:17
    af store, uhåndterlige manualer, der var vanskelige at kopi, og naturligvis disse mislykkedes for to
  • 3:17 - 3:23
    grunde. Første, de var kommercielt upopulær, naturligvis, fordi de reduceret nytten
  • 3:23 - 3:28
    software til legitime køberne, mens de mennesker, der tog softwaren
  • 3:28 - 3:33
    uden at betale for det uberørt. De legitime indkøbere utilfreds med ikke-funktionalitet
  • 3:33 - 3:38
    af deres sikkerhedskopier hadede de tabet af knappe porte til godkendelse kopibeskyttelsesnøgler, og de
  • 3:38 - 3:44
    utilfreds besværet med at skulle transportere store manualer, når de ønskede at køre deres
  • 3:44 - 3:49
    software. Og for det andet disse stoppe ikke pirater, som fandt det trivielt at programrettelse softwaren
  • 3:49 - 3:55
    og bypass godkendelse. Den måde, hvorpå sket er typisk nogle ekspert, som havde besiddelse
  • 3:55 - 4:01
    teknologi og ekspertise af tilsvarende raffinement til softwareleverandøren selv,
  • 4:01 - 4:06
    reverse ville engineering software og frigive krakket versioner, der blev hurtigt bredt
  • 4:06 - 4:12
    rundsendt. Mens denne slags ekspertise og teknologi lød højt specialiserede, det
  • 4:12 - 4:17
    virkelig wasn't; finde ud af, hvad genstridige programmer gør og routing omkring den
  • 4:17 - 4:23
    defekter i shitty diskette medier var begge core færdigheder til computeren programmører, og
  • 4:23 - 4:27
    var endnu mere i æra med skrøbelige disketter og reallokeringer tidlige dage
  • 4:27 - 4:34
    softwareudvikling. Anti-kopiering strategier kun blev mere fuldt som netværk spredt;
  • 4:34 - 4:39
    Når vi havde BBSes, online-tjenester, Usenet-nyhedsgrupper, og postlister, ekspertise
  • 4:39 - 4:43
    mennesker, der var ud kunne være emballeret hvordan at besejre disse godkendelse systemer
  • 4:43 - 4:50
    i software som lidt crack filer, eller som netværkskapacitet steg, den krakket
  • 4:50 - 4:53
    disketteaftryk eller eksekverbare filer, selv kunne spredes på deres egne.
  • 4:53 - 5:00
    Der gav os DRM 1.0. I 1996 blev det klart for alle i haller af
  • 5:00 - 5:06
    magt, at der var noget vigtigt om ske. Vi var ved at have en oplysninger
  • 5:06 - 5:13
    økonomi, uanset helvede, blev. De antages det betød en økonomi, hvor vi købte
  • 5:13 - 5:20
    og solgte oplysninger. Nu, informationsteknologi gør tingene effektivt, så Forestil Dem markederne
  • 5:20 - 5:25
    at ville have en informationsøkonomi. Du kan købe en bog for en dag, du kunne sælge
  • 5:25 - 5:30
    ret til at se filmen til en Euro, og du derefter kunne udleje pauseknappen
  • 5:30 - 5:35
    på ét øre pr. sekund. Du kunne sælge film til én pris i ét land, og en anden
  • 5:35 - 5:41
    pris i en anden, og så videre og så videre; fantasier i disse dage var en lille lignende
  • 5:41 - 5:47
    en kedelig science fiction tilpasning af bogen gamle testamente i tal, en slags kedelige
  • 5:47 - 5:52
    tælling af hver permutation af ting folk gøre med oplysninger og måderne, vi
  • 5:52 - 5:54
    kunne opkræve dem for den.
  • 5:54 - 5:59
    Men intet af dette vil være muligt, medmindre vi kunne kontrollere, hvordan folk bruger deres
  • 5:59 - 6:04
    computere og filer vi overføre dem. Det var jo godt og god til at tale om
  • 6:04 - 6:10
    sælge nogen 24 timers ret til en video eller ret til at flytte musik på en iPod, men
  • 6:10 - 6:15
    ikke ret til at flytte musik fra iPod til en anden enhed, men hvordan fanden kunne
  • 6:15 - 6:20
    du gøre, når du havde givet dem filen? For at gøre det, at gøre dette arbejde, du
  • 6:20 - 6:24
    nødvendig for at regne ud, hvordan at stoppe computere fra kører visse programmer og inspicere
  • 6:24 - 6:30
    visse filer og processer. For eksempel, kunne du kryptere filen, og derefter kræver
  • 6:30 - 6:34
    bruger til at køre et program, der kun ulåst filen under visse omstændigheder.
  • 6:34 - 6:41
    Men som de siger på internettet, "du har nu to problemer". Du også, nu,
  • 6:41 - 6:45
    skal stoppe brugeren fra filen gemmes, mens det er i klart, og du skal stoppe
  • 6:45 - 6:50
    brugeren fra finde ud af, hvor frigøre programmet gemmer sine nøgler, fordi hvis brugeren
  • 6:50 - 6:54
    konstaterer tasterne, hun får lige dekryptere filen og smide væk, dum player app.
  • 6:54 - 6:58
    Og nu har du tre problemer [publikum grin], fordi du har nu til
  • 6:58 - 7:02
    stoppe brugere regne ud, hvordan til at gengive filen klar fra deling af det med
  • 7:02 - 7:07
    andre brugere, og nu du got fire! problemer, fordi du har nu til at stoppe brugerne som
  • 7:07 - 7:12
    finde ud af, hvordan du udtrækker hemmeligheder fra frigøre programmer fra fortælle andre brugere hvordan
  • 7:12 - 7:17
    det også, og nu you got fem! problemer, fordi du har nu at stoppe brugere figur
  • 7:17 - 7:21
    Hvordan til at udtrække hemmeligheder fra frigøre programmer fra fortæller andre brugere, hvad de
  • 7:21 - 7:22
    hemmeligheder blev!
  • 7:22 - 7:29
    Der er en masse problemer. Men i 1996, havde vi en løsning. Vi havde WIPO-ophavsret
  • 7:29 - 7:33
    Traktaten, vedtaget af de Forenede Nationers egenskaben Verdensorganisationen for intellektuel, som
  • 7:33 - 7:38
    oprettet love, der gjorde det ulovligt at udtrække hemmeligheder fra frigøre programmer, og det oprettes
  • 7:38 - 7:42
    love, der gjorde det ulovligt at udpakke media cleartexts fra frigøre programmer samtidig
  • 7:42 - 7:47
    de kørte, og det oprettede love, der gjorde det ulovligt at fortælle folk, hvordan du udtrækker
  • 7:47 - 7:52
    hemmeligheder fra frigøre programmer, og oprettede love, der gjorde det ulovligt at værten ophavsretligt beskyttet
  • 7:52 - 7:58
    værker og hemmeligheder og alle med en praktisk strømlinede proces, lad du fjerne stuff fra den
  • 7:58 - 8:03
    internettet uden at skulle skrue med advokater og dommere, og alle der crap. Og
  • 8:03 - 8:10
    med at, ulovlig kopiering sluttede for evigt [publikum griner meget hårde, bifalder], oplysninger
  • 8:19 - 8:23
    økonomien blomstrede i en smuk blomst, der bragte velstand til den hele wide
  • 8:23 - 8:30
    verden; som de siger på hangarskibe, "Missionen fuldført". [publikum grin]
  • 8:30 - 8:34
    Godt, selvfølgelig er ikke hvordan historien slutter fordi temmelig, meget nogen hvem
  • 8:34 - 8:40
    forstået computere og netværk forstået, at mens disse love vil skabe flere problemer
  • 8:40 - 8:44
    end de eventuelt kunne løse; efter alle var disse love, der gjorde det ulovligt at se
  • 8:44 - 8:49
    inde i computeren, når det kører visse programmer, gjorde de det ulovligt at fortælle folk
  • 8:49 - 8:54
    Hvad du fundet når du kiggede inde i computeren, gjort de det let at censurere materiale
  • 8:54 - 8:58
    på internettet uden at skulle bevise, at der noget forkert var sket; kort sagt, de
  • 8:58 - 9:04
    gjort urealistiske krav om virkelighed og virkeligheden ikke tvinge dem. Efter alle kopiering kun
  • 9:04 - 9:09
    blevet lettere følgende passagen af disse love--kopiering vil kun nogensinde få lettere!
  • 9:09 - 9:14
    Her, 2011, dette er så hårdt som kopiering vil få! Dine børnebørn vil slå dig omkring
  • 9:14 - 9:18
    Jul tabel og sige "Fortæl mig igen, Grandpa, fortæl mig igen, Grandma, om hvornår
  • 9:18 - 9:24
    Det var svært at kopiere ting i 2011, når du ikke kunne få et drev, størrelsen af fingernegl
  • 9:24 - 9:28
    der kunne holde hver sang nogensinde registreret, hver film nogensinde, hvert ord nogensinde talt,
  • 9:28 - 9:32
    hvert billede nogensinde taget, alt, og overføre det i en kort periode af tid
  • 9:32 - 9:36
    Du bemærker selv ikke, det gjorde det, fortælle os igen, da det var så dumt svært at kopiere
  • 9:36 - 9:43
    ting tilbage i 2011 ". Så virkeligheden hævdede selv og alle havde en god griner over
  • 9:43 - 9:48
    hvordan funny vores misforståelser blev når vi indtastet det enogtyvende århundrede, og derefter en varig
  • 9:48 - 9:53
    fred var nået med frihed og velstand for alle. [publikum chuckles]
  • 9:53 - 9:58
    Godt, egentlig ikke. Fordi, gerne den nursery rhyme dame, som sluger en edderkop
  • 9:58 - 10:02
    at fange en flyve, og har til at sluge en fugl til fangst af Edderkoppen og en kat at fange den
  • 10:02 - 10:09
    Bird osv., så skal en forordning, der har bred generelle appel, men som er katastrofale
  • 10:09 - 10:14
    i dens gennemførelse tilflyttere nye forordning sigter mod at styrke op svigt af gamle
  • 10:14 - 10:18
    en. Nu er det fristende at stoppe historien her og konkludere, at problemet er at
  • 10:18 - 10:23
    lovgivere er enten clueless eller onde, eller eventuelt evilly clueless, og lade bare den være
  • 10:23 - 10:29
    der, som er ikke et meget tilfredsstillende sted at gå, fordi det er grundlæggende et Råd
  • 10:29 - 10:33
    af fortvivlelse; Det tyder på, at vores problemer ikke kan løses så længe dumhed
  • 10:33 - 10:39
    og ondskabsskala er til stede i haller magt, hvilket vil sige, de vil aldrig blive løst.
  • 10:39 - 10:41
    Men jeg har en anden teori om hvad der er sket.
  • 10:41 - 10:46
    Det er ikke, at lovgiverne ikke forstår informationsteknologi, fordi det bør
  • 10:46 - 10:53
    være muligt at være en ikke-ekspert og stadig gøre en god lov! M.P.s og kongresmedlemmer og så videre
  • 10:53 - 10:58
    er valgt til at repræsentere distrikter og mennesker, ikke discipliner og spørgsmål. Vi behøver ikke
  • 10:58 - 11:02
    et medlem af Parlamentet for Biokemi, og vi behøver en Senator fra tilstanden stor
  • 11:02 - 11:09
    af byplanlægning, og vi behøver en M.E.P. fra børns velfærd. (Men måske bør vi).
  • 11:09 - 11:15
    Og endnu de mennesker der er eksperter i politik og politik, ikke tekniske discipliner, dog
  • 11:15 - 11:20
    administrere ofte passere gode regler, der giver mening, og det er fordi regeringen afhængig
  • 11:20 - 11:25
    på heuristik--regler af tommelfingeren om, hvordan du afbalancere ekspert input fra forskellige sider
  • 11:25 - 11:26
    af et problem.
  • 11:26 - 11:30
    Men informationsteknologi confounds disse heuristik--det sparker crap
  • 11:30 - 11:36
    af dem--i én vigtig måde, og dette er det. Én vigtig test af eller ej
  • 11:36 - 11:41
    en forordning er egnet til et formål er første, naturligvis, om det vil arbejde, men andet
  • 11:41 - 11:45
    alle eller ej i løbet af sit arbejde, vil det have masser af virkninger på
  • 11:45 - 11:52
    alt andet. Hvis jeg ønskede Kongressen til at skrive eller Parlamentet at skrive eller uddannelseshus at regulere
  • 11:52 - 11:57
    et hjul, er det usandsynligt, jeg ville lykkes. Hvis jeg slået og sagde "udmærket, alle ved, hjul
  • 11:57 - 12:02
    er gode og rigtige, men har du bemærket, at hver enkelt bank røver har fire hjul på
  • 12:02 - 12:06
    hans bil, når han drev væk fra bankrøveri? Kan vi gøre noget ved det? ",
  • 12:06 - 12:11
    svaret vil naturligvis være "nej". Fordi vi ikke ved, hvordan man laver et hjul, der er
  • 12:11 - 12:17
    stadig generelt nyttige for legitime hjulet programmer men nytteløst at dårligt fyre. Og
  • 12:17 - 12:21
    Vi kan alle se, at de generelle fordele ved hjul er så dyb, at vi ville være dumt
  • 12:21 - 12:26
    risikere dem i en tåbelig ærinde at stoppe bank tyverier ved at ændre hjul. Selv hvis der
  • 12:26 - 12:31
    var en /epidemic/ af bank røverier, selvom samfundet var på randen af sammenbrud tak
  • 12:31 - 12:35
    til bank røverier, ingen ville synes at hjul var retten sted for at begynde at løse
  • 12:35 - 12:36
    vores problemer.
  • 12:36 - 12:42
    Men. Hvis jeg var at vise i den samme organ for at sige, at havde jeg absolut bevis
  • 12:42 - 12:48
    at håndfri telefoner gør biler farlige, og jeg sagde, "jeg gerne du at passere en lov
  • 12:48 - 12:53
    siger det er ulovligt at sætte en håndfri telefon i en bil", den regulerende myndighed kan sige"Yeah,
  • 12:53 - 12:56
    Jeg ville tage din punkt, vi ville gøre det". Og vi kunne være uenige om, hvorvidt dette er
  • 12:56 - 13:01
    en god idé, eller eller ej min beviser gav mening, men meget få af os ville sige "godt,
  • 13:01 - 13:07
    Når du tager de håndfri telefoner ud af bilen, stop de bliver biler". Vi forstår
  • 13:07 - 13:12
    at kan vi holde biler biler, selv hvis vi fjerner funktioner fra dem. Biler er særligt formål,
  • 13:12 - 13:17
    i det mindste i sammenligning med hjul, og alle, at tilføjelsen af en håndfri telefon gør
  • 13:17 - 13:23
    er tilføje én flere funktion i en allerede specialiseret teknologi. Der er faktisk, heuristikken
  • 13:23 - 13:27
    at vi kan anvende her--er særlige teknologier komplekse. Og du kan fjerne
  • 13:27 - 13:33
    funktioner fra dem uden at gøre grundlæggende disfiguring vold til deres underliggende utility.
  • 13:33 - 13:38
    Denne tommelfingerregel serverer regulatorer, stort, men det gengives null
  • 13:38 - 13:43
    og ugyldige ved den all-round computer og all-round netværket--PC og
  • 13:43 - 13:48
    Internettet. Fordi hvis du tror, computer software som en funktion, der er en computer
  • 13:48 - 13:53
    med regneark har kører på den en funktion, regneark, og som kører World of Warcraft
  • 13:53 - 13:58
    har et MMORPG funktion, derefter denne heuristik fører dig til at tænke, at du med rimelighed kunne
  • 13:58 - 14:02
    sige "gør mig en computer, der ikke kører regneark", og at det ville være noget mere
  • 14:02 - 14:07
    et angreb på databehandling end "gør mig en bil uden en håndfri telefon" er et angreb
  • 14:07 - 14:13
    på biler. Og hvis du tror protokoller og websteder som funktioner i netværket, derefter siger
  • 14:13 - 14:19
    "løse internettet, så det ikke køre BitTorrent", eller "fix internettet så at thepiratebay.org
  • 14:19 - 14:24
    ingen længere løser", så det lyder meget"ændre lyden af optaget signaler", eller
  • 14:24 - 14:28
    "tage at pizzeria i hjørne off telefon netværket", og ikke som et angreb på
  • 14:28 - 14:31
    de grundlæggende principper i internetworking.
  • 14:31 - 14:36
    Ikke at indse, at denne tommelfingerregel, fungerer for biler og huse og
  • 14:36 - 14:41
    for alle andre væsentlige område af teknologisk forordning mislykkes for internettet ikke
  • 14:41 - 14:45
    gøre dig onde, og det gør du ikke en ignorant. Det gør du blot en del af,
  • 14:45 - 14:51
    langt størstedelen af verden for hvem gerne ideer "Turing fuldført" og "til slut"
  • 14:51 - 14:57
    meningsløs. Så vores lovgivere gå ud, og de passere gladeligt disse love, og de bliver
  • 14:57 - 15:01
    del af virkeligheden vores teknologiske verden. Der er pludselig tal, som vi ikke
  • 15:01 - 15:06
    tilladt for at skrive ned på internettet, vi ikke er tilladt at udgive-programmer og alle det tager
  • 15:06 - 15:11
    at foretage legitime materiale forsvinder fra internettet er at sige, "at? Der krænker
  • 15:11 - 15:16
    ophavsret. ". Det mislykkes at nå det faktiske mål i forordningen; det stoppe ikke folk
  • 15:16 - 15:21
    fra krænke ophavsretten, men det er forsynet med en slags overfladiske lighed med ophavsret håndhævelse
  • 15:21 - 15:27
    --det opfylder sikkerhed syllogismelære: "skal gøres noget, jeg gør noget, noget
  • 15:27 - 15:33
    sket." Og dermed enhver fejl, der opstår kan være skylden på idéen, som forordningens
  • 15:33 - 15:38
    ikke går langt nok, snarere end den idé, at det var behæftet med fejl fra begyndelsen.
  • 15:38 - 15:42
    Denne slags overfladiske lighed og underliggende divergens sker i andre
  • 15:42 - 15:47
    Engineering sammenhænge. Jeg har en ven, der engang var en topleder på en stor forbruger
  • 15:47 - 15:51
    emballerede varer selskab, der fortalte mig om, hvad der skete, da den marketingafdeling fortalte
  • 15:51 - 15:55
    ingeniører, de havde udtænkt en stor ide at vaske: fra nu af de var
  • 15:55 - 16:00
    vil gøre vaske, foretaget dit tøj nyere, hver gang du vaskede dem! Godt efter
  • 16:00 - 16:05
    ingeniører havde forsøgt uden held at viderebringe begrebet "entropi" til markedsføring
  • 16:05 - 16:10
    afdeling [publikum grin], de ankom en anden løsning--"løsning"--de ville
  • 16:10 - 16:16
    udvikle et vaskemiddel, bruges enzymer, der angreb løs fiber ender, sådan at du
  • 16:16 - 16:20
    få med brudte fibers, der gør dit tøj, se gamle. Så hver gang du vaskes dit tøj
  • 16:20 - 16:25
    i vaske, ville de se nyere. Men det var fordi vaskemidlet var bogstaveligt
  • 16:25 - 16:31
    fordøje dit tøj! Ved hjælp af det ville bogstaveligt talt medføre dit tøj til opløses i vask
  • 16:31 - 16:37
    maskine! Dette var modsat af gør tøj nyere; i stedet, du kunstigt aldersfordelt
  • 16:37 - 16:43
    dit tøj, hver gang du vaskede dem, og som bruger, jo mere du implementeret "løsning",
  • 16:43 - 16:47
    mere drastiske din foranstaltninger skulle være at holde dit tøj opdateret--du faktisk
  • 16:47 - 16:51
    måtte gå købe nye klæder, fordi de gamle faldt fra hinanden.
  • 16:51 - 16:55
    Så har vi i dag marketing afdelinger, der siger ting som "vi behøver computere,
  • 16:55 - 17:01
    Vi har brug for... apparater. Gøre mig en computer, der ikke kører hvert program, blot et
  • 17:01 - 17:06
    eksisterer denne specialiseret opgave, ligesom streaming lyd eller routing pakker, eller spille Xbox
  • 17:06 - 17:10
    spil, og Sørg for, at det ikke køre programmer, som jeg ikke har tilladt som kan undergrave
  • 17:10 - 17:16
    vores overskud". Og på overfladen, synes dette ligesom et rimeligt idé--bare et program der
  • 17:16 - 17:23
    er en specialiseret opgave--jo, vi kan lægge en elektrisk motor i en blender og
  • 17:23 - 17:27
    Vi kan installere en motor i en opvaskemaskine, og vi behøver ikke være nervøs, hvis det er stadig muligt at køre
  • 17:27 - 17:33
    opvaskemiddel program i en blender. Men det er, hvad vi ikke når vi slår en computer i
  • 17:33 - 17:38
    et apparat. Vi er ikke at gøre en computer, der kører kun "apparat" app; We're
  • 17:38 - 17:44
    gør en computer, der kan køre ethvert program, men som bruger nogle kombination af rootkit,
  • 17:44 - 17:48
    spyware og kodesignering at forhindre brugeren i at vide, hvilke processer der kører,
  • 17:48 - 17:53
    fra installation af hendes eget software, og om afslutning af processer, som hun ikke vil.
  • 17:53 - 17:59
    Med andre ord et apparat er ikke en sættes computeren--det er en fuldt ud funktionel computer
  • 17:59 - 18:02
    med spyware på det ud af kassen.
  • 18:02 - 18:09
    [publikum bifalder højlydt] Tak.
  • 18:09 - 18:14
    Fordi vi ikke ved, hvordan man opbygger den generelle formål computer, der er i stand til
  • 18:14 - 18:19
    kører ethvert program, vi kan kompilere bortset fra nogle programmet, at vi ikke kan lide, eller
  • 18:19 - 18:24
    Vi forbyder ved lov, eller som mister os penge. Den nærmeste tilnærmelse, som vi skal
  • 18:24 - 18:29
    Dette er en computer med spyware--en computer på hvilke remote parter sæt politikker uden
  • 18:29 - 18:34
    computer brugerens viden, over indvending af computerens ejer. Og det er der
  • 18:34 - 18:37
    Digital rights management konvergerer altid om malware.
  • 18:37 - 18:41
    Der var naturligvis, denne berømte episode, en slags gave til personer, som har
  • 18:41 - 18:47
    denne hypotese, hvor Sony indlæst skjult rootkit installationsprogrammer på 6 millioner lyd-cd'er,
  • 18:47 - 18:52
    som hemmeligt henrettet programmer, set i forsøg på at læse lydfiler på cd'er,
  • 18:52 - 18:56
    og afsluttes dem, og som også hid rootkit's eksistens ved at forårsage kernen
  • 18:56 - 19:01
    ligge om hvilke processer kørte, og hvilke filer var til stede på drevet.
  • 19:01 - 19:06
    Men det er ikke det eneste eksempel; for nylig, Nintendo leveret 3DS, som godkendelsesmåde
  • 19:06 - 19:10
    opdaterer sin firmware, og gør en integritet kontrol for at sikre, at du ikke ændret
  • 19:10 - 19:15
    gamle firmwaren på nogen måde, og hvis det registrerer tegn på manipulation, det mursten selv.
  • 19:15 - 19:20
    Menneskerettighedsaktivister har rejst alarmer over U-EFI, den nye PC bootloader,
  • 19:20 - 19:25
    som begrænser din computer, så den kører underskrevet operativsystemer, bemærke, at undertrykkende
  • 19:25 - 19:30
    regeringer vil sandsynligvis tilbageholde signaturer fra styresystemer, medmindre de har skjult overvågning
  • 19:30 - 19:31
    operationer.
  • 19:31 - 19:35
    Og i netværket side, forsøger at gøre et netværk, der ikke kan bruges til ophavsret
  • 19:35 - 19:41
    overtrædelsen altid konvergerer med de overvågningsforanstaltninger, som vi kender fra undertrykkende regeringer.
  • 19:41 - 19:48
    Så, SOPA, den amerikanske Stop Online piratkopiering Act, forbyder værktøjer gerne DNSSec, fordi de kan være
  • 19:48 - 19:53
    brugt til at besejre DNS-blokerende foranstaltninger. Og det blokerer værktøjer gerne Tor, fordi de kan
  • 19:53 - 19:58
    bruges til at omgå IP blokere foranstaltninger. I virkeligheden er tilhængere af SOPA, forslaget
  • 19:58 - 20:03
    Picture Association of America, rundsendt et notat, citere forskning, SOPA ville sandsynligvis
  • 20:03 - 20:09
    arbejde, fordi den bruger de samme foranstaltninger som bruges i Syrien, Kina og Usbekistan,
  • 20:09 - 20:12
    og de hævdede at disse foranstaltninger er effektive i disse lande, og så de ville arbejde
  • 20:12 - 20:14
    i USA, også!
  • 20:14 - 20:20
    [publikum griner og bifalder] Ikke klappe mig, bifalder MPAA!
  • 20:20 - 20:26
    Nu, det kan synes ligesom SOPA er slutspillet i en lang kamp over ophavsret, og
  • 20:26 - 20:31
    internettet, og det kan synes ligesom hvis vi besejre SOPA, vi vil være godt på vej til sikring
  • 20:31 - 20:36
    frihed pc'er og netværk. Men som jeg sagde i begyndelsen af denne tale, dette er ikke
  • 20:36 - 20:43
    om ophavsret, fordi de ophavsret krige er lige 0.9 betaversion af langt
  • 20:43 - 20:47
    kommende krig på beregning. Underholdnings-industrien var bare de første krigsførende parter
  • 20:47 - 20:52
    i denne kommende århundrede lange konflikt. Vi har tendens til at betragte dem som særligt vellykket
  • 20:52 - 20:59
    --Her er jo SOPA, bæven på randen af passage, og bryde internettet
  • 20:59 - 21:05
    på dette grundlæggende niveau i navn bevare Top 40 music, realitet tv-programmer og Ashton
  • 21:05 - 21:07
    Kutcher film! [grin, spredt bifald]
  • 21:07 - 21:13
    Men virkeligheden er, ophavsret lovgivning får så vidt det ikke netop fordi det har
  • 21:13 - 21:19
    ikke taget alvorligt, som er derfor på den ene side, at Canada har havde Parlamentet efter Parlamentet
  • 21:19 - 21:24
    indføre en dum ophavsret bill efter den anden, men på den anden side, Parlamentet
  • 21:24 - 21:30
    efter at Parlamentet kunne faktisk stemme på styklisten. Det er derfor vi fik SOPA, en stykliste
  • 21:30 - 21:37
    består af ren dum, pieced sammen molekyle-ved-molekyle, til en slags "Stupidite 250", som normalt er
  • 21:38 - 21:44
    kun fundet i hjertet af nyfødte star, og det er derfor disse hastet gennem SOPA høringer
  • 21:44 - 21:49
    måtte udsættes midtvejs gennem juleferien, så lovgivere kunne få i en
  • 21:49 - 21:55
    egentlig ond nationalt berygtede debatten om et vigtigt spørgsmål, arbejdsløshedsforsikring.
  • 21:55 - 22:02
    IT hvorfor Verdensorganisationen for intellektuel ejendomsret er gulled gang i standardiseringsorganernes sidste,
  • 22:02 - 22:07
    svin-uvidende copyright forslag, fordi når verdens nationer sende deres FN missioner
  • 22:07 - 22:13
    til Genève, de sender vand eksperter, copyright ikke eksperter; de sender sundhedseksperter, ikke ophavsret
  • 22:13 - 22:18
    eksperter; de sende eksperter, landbrug, copyright ikke eksperter, fordi copyright er blot
  • 22:18 - 22:25
    ikke vigtigt at temmelig meget alle! [bifald]
  • 22:27 - 22:34
    Canadas Parlamentet ikke stemme om sine ophavsret regninger fordi, alle de
  • 22:34 - 22:40
    ting, som Canada skal gøre, fastsættelse ophavsret rækker langt under sundhedskriser på første
  • 22:40 - 22:45
    Nationers reservationer, udnytte olie programrettelsen i Alberta, interceding i sekteriske ressentimenter
  • 22:45 - 22:50
    blandt franske - og engelsk-højttalere, løse ressourcer kriser i nationens fiskeri,
  • 22:50 - 22:55
    og tusind andre spørgsmål! Triviality af copyright fortæller dig, når andre sektorer
  • 22:55 - 23:01
    økonomi begynder at vise bekymringer over internettet og PC, copyright, vil
  • 23:01 - 23:07
    blive åbenbaret for en mindre træfning, og ikke en krig. Hvorfor ville andre sektorer pleje nag
  • 23:07 - 23:12
    mod computere? Godt, fordi den verden, vi lever i i dag er /made/ af computere. Vi
  • 23:12 - 23:16
    behøver biler længere, har vi computere vi ride i; Vi behøver airplanes længere,
  • 23:16 - 23:23
    Vi har, der fører Solaris bokse med en stor bucketful af SRO controllere [latter]; en 3D-printer
  • 23:24 - 23:30
    er ikke en enhed, det er en ydre, og det fungerer kun tilsluttes en computer; en radio
  • 23:30 - 23:36
    ikke længere en crystal, det er en all-round computer med en hurtig ADC og en hurtig DAC og
  • 23:36 - 23:37
    nogle software.
  • 23:37 - 23:43
    De klager, der opstod fra uautoriseret kopiering er trivielt, sammenlignet
  • 23:43 - 23:49
    på opfordringer til handling, som vores nye computer-broderede virkelighed vil oprette. Tænk på radio til en
  • 23:49 - 23:54
    minut. Hele grundlaget for radio forordning indtil i dag var baseret på idé at
  • 23:54 - 23:59
    egenskaberne for en radio er faste på tidspunktet af fremstilling og let kan ikke ændres.
  • 23:59 - 24:03
    Du kan ikke blot spejlvende en switch på skærmen baby og omdanne det til noget, der griber forstyrrende ind
  • 24:03 - 24:09
    med luft trafik kontrolsignaler. Men magtfulde software-definerede radioer kan ændre fra baby
  • 24:09 - 24:14
    skærm til nødtjenester senderen til flyveleder blot ved lastning og
  • 24:14 - 24:19
    udfører forskellige software, som derfor er første gang den amerikanske Telekom regulator
  • 24:19 - 24:24
    (FCC) overvejet, hvad der ville ske, når vi sætter SDR i feltet, bad de om kommentar
  • 24:24 - 24:29
    om hvorvidt det bør mandat at alle software-definerede radioer bør integreres i tillid til databehandling
  • 24:29 - 24:35
    maskiner. I sidste ende, om hver PC bør være låst, så er de programmer, de kører
  • 24:35 - 24:37
    strengt reguleret af centrale myndigheder.
  • 24:37 - 24:42
    Og selv dette er en skygge af hvad der skal komme. Jo, var det år i
  • 24:42 - 24:48
    som vi så debut åben fremskaffede figur filer til konvertering AR-15s til fuld automatisk.
  • 24:48 - 24:54
    Dette var år crowd-finansierede Åbn-fremskaffede hardware for gen sekventering. Og mens 3D
  • 24:54 - 24:58
    udskrivning vil give anledning til masser af trivielle klager, der vil være dommere i amerikanske
  • 24:58 - 25:03
    Syd og mullaherne i Iran, der vil miste deres sind over folk i deres jurisdiktion udskrivning
  • 25:03 - 25:10
    ud køn legetøj. [guffaw fra publikum] Bane i 3D udskrivning vil helt sikkert rejse real
  • 25:10 - 25:13
    klager fra solid state meth labs, til keramiske knive.
  • 25:13 - 25:18
    Og det tage ikke en science fiction-forfatter til at forstå, hvorfor lovgivere kan
  • 25:18 - 25:24
    være nervøse Brugerredigerbare firmwaren på self-driving biler eller begrænse interoperabilitet
  • 25:24 - 25:29
    for luftfart controllere, eller slags ting du kan gøre med bio-skala montører og
  • 25:29 - 25:34
    sequencer. Forestille sig, hvad sker der den dag, Monsanto bestemmer, at det er virkelig...
  • 25:34 - 25:39
    virkelig... vigtigt for at sikre, at computere ikke kan udføre programmer, årsag specialiseret
  • 25:39 - 25:45
    eksterne enheder til output organismer, der spiser deres frokost... bogstaveligt. Uanset om
  • 25:45 - 25:50
    du tror, at disse er reelle problemer eller blot hysteriske frygt, de er ikke desto mindre den
  • 25:50 - 25:54
    provinsen af lobbyer og interesse grupper, der er langt mere indflydelsesrige end Hollywood og
  • 25:54 - 26:00
    store indhold på deres bedste dage, og hver enkelt af dem vil ankomme på samme sted
  • 26:00 - 26:05
    --"kan du blot gøre os en generelle formål computer der kører alle programmerne, undtagen
  • 26:05 - 26:10
    dem, der skræmme og vrede os? Du kan blot gøre os et Internet, der overfører nogen
  • 26:10 - 26:15
    meddelelse over enhver protokol mellem enhver to punkter, medmindre det ødelægger os?"
  • 26:15 - 26:19
    Og personligt, jeg kan se, at der vil være programmer, der kører på generelle
  • 26:19 - 26:24
    Formålet med computere og eksterne systemer, der endda vil freak me out. Derfor mener jeg at folk
  • 26:24 - 26:28
    Hvem går ind for at begrænse generelle formål computere vil finde receptiv publikum til
  • 26:28 - 26:34
    deres holdninger. Men ligesom vi oplevede med ophavsret krigene, forbud mod visse instruktioner,
  • 26:34 - 26:39
    eller protokoller eller meddelelser, vil blive helt virkningsløse som et middel til forebyggelse og afhjælpning;
  • 26:39 - 26:46
    og som vi så i de ophavsret krige, alle forsøg på at kontrollere pc'er vil konvergere på rootkit;
  • 26:46 - 26:51
    alle forsøg på at kontrollere internettet vil konvergere på overvågning og censur, som
  • 26:51 - 26:57
    derfor alle denne stuff spørgsmål er. Fordi vi har brugt de sidste 10 + år som et organ sende
  • 26:57 - 27:02
    vores bedste spillere out at bekæmpe, hvad vi mente var den endelige boss i slutningen af spillet,
  • 27:02 - 27:06
    men det viser sig det netop er blevet mini-boss i slutningen af niveauet, og stakes er
  • 27:06 - 27:07
    kun vil få højere.
  • 27:07 - 27:12
    Som medlem af generation, Walkman, har jeg gjort fred med det faktum, at jeg vil
  • 27:12 - 27:17
    kræve et høreapparat, længe før jeg dør, og naturligvis, det ikke vil være et høreapparat, det vil
  • 27:17 - 27:22
    være en computer, jeg stillede i min krop. Så når jeg får ind i en bil--en computer, jeg sætter min krop
  • 27:22 - 27:28
    i--med min høreapparat--en computer, jeg sætter inde i min krop--jeg vil gerne vide
  • 27:28 - 27:32
    disse teknologier er ikke designet til at holde hemmeligheder fra mig, og at forhindre mig i at opsige
  • 27:32 - 27:39
    processer på dem, der arbejder imod min interesser. [kraftigt bifald fra publikum] Tak
  • 27:40 - 27:48
    [bifald fortsætter]
  • 27:48 - 27:52
    Tak. Så, sidste år, Lower Merion School District,
  • 27:52 - 27:55
    i en middelklasse, velstående forstad til Philadelphia,
  • 27:55 - 27:57
    befandt sig i en stor umage,
  • 27:57 - 28:01
    da det blev fanget, distribuere pc'er til sine studerende, udstyret med rootkit
  • 28:01 - 28:06
    der tillades for remote skjult overvågning via computerens kamera og netværksforbindelse.
  • 28:06 - 28:10
    Det viste sig, at de havde fotografere studerende tusindvis af gange,
  • 28:10 - 28:14
    hjemme og i skolen, vågen og søvn, påklædt og nøgne.
  • 28:14 - 28:18
    I mellemtiden, den nyeste generation af lovlig skæring teknologi
  • 28:18 - 28:24
    skjulte kan operere kameraer, mikrofoner og GPSes på pc'er, tabletter og mobile enheder.
  • 28:24 - 28:30
    Frihed vil i fremtiden kræve os at have kapacitet til at overvåge vores enheder
  • 28:30 - 28:36
    og meningsfuld politik på dem, til at undersøge og afslutte de processer, der kører på dem,
  • 28:36 - 28:40
    at opretholde dem som ærlig tjenere til vores vilje,
  • 28:40 - 28:45
    og som forrædere og spioner arbejder for kriminelle, bøller og kontrol freaks ikke.
  • 28:45 - 28:49
    Og vi ikke har mistet endnu, men vi skal vinde de ophavsret krige
  • 28:49 - 28:51
    at holde internettet og PC fri og åben.
  • 28:51 - 28:58
    Fordi disse er themateriel i de krige, der kommer, vil vi ikke kunne kæmpe på uden dem.
  • 28:58 - 29:04
    Og jeg ved dette lyder som en fortvivlelsens Råd, men som sagt, disse er tidlige dage.
  • 29:04 - 29:08
    Vi har kæmpet for mini-boss, og det betyder, at store udfordringer endnu er til at komme,
  • 29:08 - 29:14
    Men ligesom alle god niveau designere, har skæbne sendt os en blød mål at uddanne os på.
  • 29:15 - 29:20
    Vi har en chance, en reel chance, og hvis vi støtter åbne og frie systemer,
  • 29:20 - 29:29
    og de organisationer, der kæmper for dem--EFF, Bits af frihed, EDRI, ORG, CC, Netzpolitik,
  • 29:29 - 29:33
    La kvadratur du Net, og alle andre, der er heldigvis, også talrige til at navngive her
  • 29:33 - 29:38
    --Vi kan endnu vinde slaget, og sikre den ammunition, vi skal bruge til krigen.
  • 29:38 - 29:39
    Tak.
  • 29:39 - 30:12
    [Bifald]
  • 30:12 - 30:16
    [Doctorow] Så, enten spørgsmål eller lange, vidtløftige erklæringer efterfulgt af "Hvad du synes om der?"
  • 30:17 - 30:19
    [latter]
  • 30:19 - 30:20
    [Doctorw] Ja. Nogen spørgsmål?
  • 30:21 - 30:26
    [Organizer (?)] Hvis du har spørgsmål, kan du gå til de mikrofoner, der i gangene, her
  • 30:27 - 30:34
    og blot bede væk. Hvis du danner en nydelige, velordnet linje, vi vil gå, du kender, venstre-højre venstre højre
  • 30:38 - 30:41
    [Spørgsmål] Så hvis du spil denne out hele vejen til slutningen
  • 30:42 - 30:49
    Du ender med en situation, hvor enten censur folk har til
  • 30:49 - 30:57
    ulovliggøre von Neumann og Herberts arkitekturer og erstatte dem med noget, der ikke er en universel Turingmaskine,
  • 30:59 - 31:04
    eller de mister, fuld stop. Jeg mener, og der er et stort spektrum i mellem to.
  • 31:04 - 31:07
    Lad mig distrahere fra, ikke. Jeg mener, du kender.
  • 31:07 - 31:11
    Jeg taler om frihed, der meget sidste bastion linje.
  • 31:12 - 31:16
    Tror du en flok assholes, som ikke selv forstår, hvordan DNS fungerer
  • 31:16 - 31:21
    vil være villige til at skyde sig selv i - hovedet så hårdt?
  • 31:21 - 31:27
    [Doctorow] Jeg gætte mit svar er, at der er nogen
  • 31:27 - 31:31
    sådanne ting som hekseri, ikke stoppe dem fra brænding en masse hekse, højre? Klagepunktsmeddelelsen...
  • 31:31 - 31:33
    [Munterhed, bifald]
  • 31:33 - 31:39
    Af samme grund, jeg mener ineffektivitet ved en beføjelse er faktisk endnu værre for os, højre?
  • 31:39 - 31:44
    Fordi dette er ligesom fem år planen, som producerer ikke hvede
  • 31:44 - 31:50
    ingen majs, ret at udbytter en endnu mere drastisk fem år planen, som også producerer?
  • 31:50 - 31:54
    Jeg mener, dette vil gøre dem vred og forårsage dem
  • 31:54 - 31:57
    for at udvide anvendelsesområdet for forordningen, du kender.
  • 31:57 - 32:00
    "Prygl vil fortsætte indtil moral forbedrer" som T-shirt går ret?
  • 32:00 - 32:03
    Det er faktisk min bekymring.
  • 32:03 - 32:08
    Jeg tror, at hvis de så nogle succes, de kan faktisk tilbage slukket.
  • 32:08 - 32:11
    Det faktum, at dette bliver en dismo fiasko over og igen og igen
  • 32:11 - 32:15
    den omstændighed at terrorisme vil fortsætte med at kommunikere terroristiske meddelelser
  • 32:15 - 32:18
    og børnepornografi vil fortsætte med at kommunikere barn pornografisk meddelelser
  • 32:18 - 32:22
    og så videre, vil blot gøre dem forsøge hårdere på ineffektiv retsmidler
  • 32:22 - 32:25
    [samtalepartner] yeah, jeg betyde en specialiseret Touring maskine på et Asic [?]
  • 32:25 - 32:28
    er faktisk virkelig, virkelig hårdt, fordi du skal foretage en
  • 32:28 - 32:30
    for hvert program, og, sucks...
  • 32:30 - 32:34
    [Doctorow] Yeah, så igen, tror jeg ikke de vil forbyde generelle formål computere.
  • 32:34 - 32:36
    Jeg mener, hvad de vil gøre
  • 32:36 - 32:39
    er de vil sige "Vi ønsker flere spyware i computere",
  • 32:39 - 32:42
    "vi ønsker flere U-EFI", vi vil... og ikke bare gerne U-EFI,
  • 32:42 - 32:45
    hjælper med at registrere spyware, men U-EFI-hvor underskrifter
  • 32:45 - 32:48
    kontrolleres af tredjemand, du ikke har en let ejer tilsidesætte
  • 32:48 - 32:49
    og resten af det.
  • 32:49 - 32:52
    Jeg tror, at det vil være vinkelrette denne stuff.
  • 32:52 - 32:57
    Ikke ved"gosh, du, at tåbelig politik, som vi forfølger
  • 32:57 - 33:00
    var en komplet fiasko på stor bekostning for 10 år.
  • 33:00 - 33:03
    Vi bør indrømme det og flytte ". Jeg tror, at svaret vil være
  • 33:03 - 33:06
    "Åh min Gud, du kender, se på hvilke Idioterne vi ser ud...
  • 33:06 - 33:09
    Vi kan ikke eventuelt indrømme nederlag." Bekendt, se krigen om narkotika.
  • 33:09 - 33:16
    [grin og claps]
  • 33:16 - 33:19
    Jeg vil besvare du i et andet, fordi der er nogen allerede klar til et spørgsmål.
  • 33:19 - 33:27
    [Dirigent] Vi får take… Vi fik faktisk ganske lidt tid. Her. Så næste spørgsmål.
  • 33:29 - 33:38
    [Spørgsmål] Hvad angår det nylige initiativ ved et big software-selskab
  • 33:38 - 33:46
    for at fremme sikker start på U-EFI, du tror, at personlige computere
  • 33:46 - 33:59
    vil ankomme ligesom situationen i the… ligesom Playstation platforme snart?
  • 33:59 - 34:09
    Og hvad mener du at vi får nogle midler til modangreb eller til…
  • 34:09 - 34:12
    [Doctorow] Yeah, så spørgsmålet er virkelig "U-EFI vil være et middel
  • 34:12 - 34:15
    nedfrysningen ud alternative operativsystemer
  • 34:15 - 34:22
    på skrivebordet. Og jeg lyst kinda, slags teknokratisk, veluddannede, vestlige og nordlige...
Titre:
28c3: Den kommende krig på den generelle computer [obs: dette er auto-oversat - ret gerne fejlene, tak!]
Description:

Download hiqh quality version: http://bit.ly/sTTFyt
Description: http://events.ccc.de/congress/2011/Fahrplan/events/4848.en.html

Cory Doctorow: The coming war on general computation
The copyright war was just the beginning

The last 20 years of Internet policy have been dominated by the copyright war, but the war turns out only to have been a skirmish. The coming century will be dominated by war against the general purpose computer, and the stakes are the freedom, fortune and privacy of the entire human race.

The problem is twofold: first, there is no known general-purpose computer that can execute all the programs we can think of except the naughty ones; second, general-purpose computers have replaced every other device in our world. There are no airplanes, only computers that fly. There are no cars, only computers we sit in. There are no hearing aids, only computers we put in our ears. There are no 3D printers, only computers that drive peripherals. There are no radios, only computers with fast ADCs and DACs and phased-array antennas. Consequently anything you do to "secure" anything with a computer in it ends up undermining the capabilities and security of every other corner of modern human society.

And general purpose computers can cause harm -- whether it's printing out AR15 components, causing mid-air collisions, or snarling traffic. So the number of parties with legitimate grievances against computers are going to continue to multiply, as will the cries to regulate PCs.

The primary regulatory impulse is to use combinations of code-signing and other "trust" mechanisms to create computers that run programs that users can't inspect or terminate, that run without users' consent or knowledge, and that run even when users don't want them to.

The upshot: a world of ubiquitous malware, where everything we do to make things better only makes it worse, where the tools of liberation become tools of oppression.

Our duty and challenge is to devise systems for mitigating the harm of general purpose computing without recourse to spyware, first to keep ourselves safe, and second to keep computers safe from the regulatory impulse.

plus » « moins
Langue de la vidéo:
English
Durée:
54:35
moltke2 added a translation

sous-titres en Danish

Révisions