과학 기술이 우리 생각을 읽을 때, 개인정보를 어떻게 보호해야 할까요?

법률학자이자 윤리학자인 니타 파라하니는 우리의 두뇌 활동을 해독하여 우리의 생각과 느낌을 알아낼 수 있는 과학 기술이 곧 생길 것이라고 말한다. 그것은 우리 개인정보가 이미 침해당하고 있음을 의미하는 걸까요? 미래를 경고하는 이 강연에서 파라하니는 사람들이 (영화 '마이너리티 리포트'에서처럼) 범행을 생각하는 것만으로 체포되고 사기업들이 우리의두뇌 정보를 판매하는 사회에 대해 경고하고, 우리의 사상의 자유와 자기 결정의 자유를 보호해 줄 인지 자유의 권리를 주장합니다.

2009년 이란의
대통령 선거 뒤 몇 달 동안

전국에서 폭발적으로
시위가 일어났습니다.

이란 정부는 폭력적 수단을 동원해서

'이란 녹색 운동'이란
시민운동을 억압했습니다.

이동 전화 신호를 차단해서

시위자들 사이의 연락을 막기까지 했죠.

제 부모님은 1960년대 후반에
미국으로 이민을 오셨지만

이란에서 꽤 오래 사셨고

저희 대가족 모두가
그곳에 살고 있었습니다.

테헤란에 있는 가족에게 전화를 하면

시위 진압이 가장 극심할 때는

무슨 일이 벌어지고 있는지
누구도 감히 얘기하지 않았습니다.

그분들이나 저나 대화 주제를
빨리 바꾸려고 했었죠.

우리 모두는 알고 있었어요.

반체제 행동이 발각되면
어떤 결과가 올지 말이죠.

하지만 물어볼 걸 그랬다는
생각이 들어요.

그분들이 어떤 생각을 하고 있었는지,
또는 어떻게 느꼈는지를요.

제가 그걸 알았다면 어떻게 됐을까요?

아니면 더 공포스럽게도

이란 정부가 그걸 알았다면
어떻게 되었을까요?

그분들의 뇌가 보여주는 것을 바탕으로
이란 정부가 그분들을 체포했을까요?

그런 날이 생각보다
더 빨리 올지도 모릅니다.

신경과학, 인공지능과 기계학습에 대한
우리의 능력이 커지면서

인간의 두뇌에서 어떤 일이 일어나는지
곧 훨씬 더 많이 알게 될 것입니다.

생명윤리학자이자 법률가이자 철학자로서

그리고 이란계 미국인으로서

제가 깊은 관심을 두는 것은

이런 사실이 우리의 자유에
어떤 의미를 갖는지와

어떤 종류의 보호책이
필요한지에 관한 것입니다.

저는 우리에게 인지적 자유의 권리가
필요하다고 생각합니다.

보호받아야 할 인간의 권리죠.

그렇지 않으면 사상의 자유와

우리 자신의 두뇌에 대한 접근과 통제

그리고 우리의 정신적 사생활이
위협받을 것입니다.

이것을 생각해보세요.

보통 사람은 매일
수천 가지 생각을 합니다.

수학 계산이나 숫자, 낱말처럼
생각이 형태를 취할 때

두뇌의 신경 세포들이
상호 작용을 합니다.

아주 미세한 전류를 방출하면서 말이죠.

긴장을 풀고 있을 때 같은
특정한 정신 상태일 때

수십만 개의 신경 세포들이
뇌에서 열기를 내게되는데

그와 동시에 특정한 양상의
전류 방출이 일어납니다.

이는 뇌파측정술, 즉 EEG로
측정할 수 있습니다.

사실 지금 보고 계신 것이
바로 그것입니다.

지금 보고 계신 것은
저의 두뇌 활동인데요.

간단한 장치를 머리에 쓰면
실시간으로 기록됩니다.

이것은 긴장을 푼 상태에서
호기심이 많을 때의 두뇌 활동입니다.

이것을 보여드리기 위해서
초기 시판용 EEG 장치를 썼습니다.

바로 이렇게 생긴 건데요.

이 장치로 저의 두뇌 활동을
실시간으로 기록했습니다.

여러분 중에도 착용하고 계실
운동량 기록 장치와 다르지 않죠.

그런 장치는 심장박동이나
걸음 수를 측정해주기도 하고

수면 활동까지도 측정합니다.

이 장치는 시중에서 가장 복잡한
신경 촬영 기법은 전혀 아닙니다.

하지만 그것은 이미 가장 휴대하기 좋고

우리의 일상생활에 영향을 미칠
가능성이 매우 높습니다.

엄청난 일이에요.

간단한 착용 장치를 통해

말 그대로 두뇌 속을 볼 수 있고

우리의 심리적 양상을 알 수 있습니다.

말 한마디 하지 않아도 말이죠.

복잡한 생각은 아직
확실하게 해독할 수 없지만

이미 사람의 기분을 측정할 수 있고

인공지능의 도움을 받는다면

머릿속의 한 자릿수 숫자를 알아내거나

도형이나 간단한 낱말까지도
해독할 수 있습니다.

우리가 생각하고 있거나
듣거나 보는 것만으로도요.

뇌파기록술이 갖고 있는
몇몇 한계에도 불구하고

제가 자신있게 말할 수 있는 것은

과학 기술의 발달과 더불어

인간 두뇌에서 일어나는 일의
더욱 더 많은 부분이

앞으로 해독될 수 있고
그렇게 될 것이라는 사실입니다.

이미 이런 장치들 중 하나를 사용하여

간질 환자가 자신에게 발작이
일어날 거라는 걸 알 수 있습니다.

발작이 일어나기도 전에 말이죠.

하반신 마비 환자가 생각만으로도
컴퓨터 자판을 입력할 수도 있죠.

미국의 어느 회사가 개발한 기술 중에는

뇌파 센서를 자동차의
머리 받침대 안에 넣어서

운전자의 집중, 산만, 인지 부하
여부를 추적하는 것도 있습니다.

닛산, 보험사, 미국 자동차서비스협회가
모두 이 기술에 관심을 보였죠.

관객의 선택에 따라 모험이 전개되는
"더 모멘트"라는 영화도 있습니다.

뇌파기록 헤드셋을 쓰고 이 영화를 보면

두뇌가 보이는 반응에 따라
영화의 내용이 바뀝니다.

주의력이 약해질 때마다
다른 결말을 보여주죠.

대단하다고 생각하실지 모르겠네요.

생명윤리학자로서
저도 적극 지지합니다.

사람들에게 자신의 건강과
행복을 책임질 능력을 주고

그들 자신에 대한 정보를
제공한다는 측면에서는 말이죠.

이 놀랍고 새로운
두뇌 해독 기술을 포함해서요.

하지만 걱정되기도 합니다.

제가 걱정하는 것은
우리가 원해서든 아니면 억지로든

우리 자유의 마지막 요새를
포기할 수도 있다는 점입니다.

우리의 정신적 사생활 말이죠.

우리의 두뇌 활동에 대한 정보를 주고

그 댓가로 보험료 할인을
받으려 할지 모릅니다.

아니면 공짜 SNS 계정이나

심지어 일자리를 바랄지도 모르죠.

실제로 중국에서는

전세계 고속철도 중 가장 붐비는
북경-상해 노선의 열차 기관사들에게

뇌파 기록 장치를 착용하도록 하고

운행 중 두뇌 활동을 관찰합니다.

일부 뉴스 보도에 따르면

중국의 정부가 운영하는 공장에서는

노동자들에게 EEG 센서를
착용하도록 합니다.

근무 중 생산성과 정서 상태를
관찰하기 위해서죠.

심지어 노동자를 귀가시키기도 해요.

두뇌 상태가 작업하기에
낮은 집중력을 보이거나

정서적 동요를 보일 때 말이죠.

이런 일이 당장 일어나진 않겠지만

우리는 머릿속이 투명하게 공개되는
세계를 향해 가고 있습니다.

그러면 모든 게 바뀔 수 있다는 걸
사람들은 모르는 거 같아요.

개인정보 보호에 대한 정의와
법률은 물론이고

자유에 대한 개념까지 모든 것을요.

사실 듀크대학교의 제 연구실에서는

최근에 미국 전역을
대상으로 하는 연구를 통해

일반인의 자신의 두뇌 정보에 대한
민감도를 알아보고자 했습니다.

33가지 종류의 정보에 대해서
그 민감도 점수를 매기도록 했죠.

주민등록번호에서부터

전화 통화 내용

연애 이력

감정, 근심거리

머릿속으로 그리는 이미지와

마음에 품은 생각까지요.

놀랍게도

사람들은 사회보장번호가 다른 정보보다
훨씬 더 민감하다고 평가했습니다.

자신의 두뇌 데이터 이상으로요.

제 생각에 이런 이유는

사람들이 이 두뇌 해독 신기술의 함의를
아직 이해하거나 믿지 못하는 것입니다.

어쨌든 인간 두뇌 속이 어떻게
작동하는지 알 수 있게 된다면

주민등록번호를 걱정할 일이 아니에요.

(웃음)

이것을 생각해보세요.

머릿속이 완전히
투명하게 읽히는 세상에서

누가 정치적으로 반체제적인
사고를 하겠어요?

누가 창의적 사고를 할 수 있을까요?

제가 걱정하는 것은

사람들이 사회에서 배척당할까 두려워
자기 검열을 할지 모른다는 거예요.

아니면 직장을 잃게 될지도 모르죠.

집중력이 약해졌다거나
정서적으로 불안정해지거나

고용주에 맞서는 집단 행동을
꾀한다는 이유로 말이죠.

그런 걸 솔직하게 밝히는 것이
더는 자신의 선택이 아니게 될 겁니다.

왜냐하면 그러기 전에
사람들의 두뇌가 이미

성적 지향이나 정치적 이념이나
종교 성향을 드러내버렸을 테니까요.

자신의 의지로 그런 정보를 타인과
공유할 준비를 갖추기 전에 말이죠.

제가 우려하는 것은

과학기술의 변화에 보조를 맞추기 위해
법률이 가져야 할 능력입니다.

미국의 수정헌법 제1조에는
언론의 자유를 보호한다고 되어 있죠.

그 조항이 사상의 자유도 보호하나요?

그렇다면 우리가 원하는 방식으로
사고를 자유롭게 바꾼다는 뜻이지요?

아니면 정부나 사회가 우리 뇌 속의
생각을 통제할 수 있을까요?

국가안보국이 이런 새로운 휴대장치로
우리의 두뇌를 염탐할 수 있을까요?

자신들의 앱을 통해
두뇌 데이터를 수집한 기업이

제3자에게 이 정보를 팔 수 있을까요?

당장은 어떤 법으로도
그런 행위를 막지 못합니다.

이는 일부 나라에서는
훨씬 심각한 문제입니다.

미국인들만큼 자유를
누리지 못하는 나라들 말이죠.

이란녹색운동 당시에 그랬다면
어떻게 됐을까요?

정부가 저희 가족의 두뇌 활동을 관찰해서

저희 가족이 시위자들에게
공감한다고 생각했다면요?

이런 사회를 상상한다면
너무 터무니없을까요?

범행을 생각하는 것만으로
체포당하는 사회가 있다면요?

영화 '마이너리티 리포트'에서 본
공상과학의 반 이상향 사회 말이죠.

이미 미국에서는

인디애나주의 18세 소년이 자기 학교를
위협했다는 이유로 기소되었는데

그 이유가 복도의 사람들에게
총을 쏘는 동영상을 올려서였어요.

그런데 피격당한 사람들이 좀비였고

그 영상은 그 소년이 증강 현실
게임을 하고 있는 영상있었습니다.

그것만 빼고는 모든 것이

그 소년의 주관적 의사를
보여주는 거라고 생각했던 거죠.

바로 이 때문에 우리 뇌를
특별히 보호해야 하는 겁니다.

두뇌 정보를 추적하고 수집하는 일이
금융 거래 기록만큼이나 쉽고

우리의 뇌가 온라인 활동, 이동 전화와
앱처럼 해킹되고 추적당할 수 있다면

그러면 우리 인류 전체에게
곧 심각한 위협이 닥칠 것입니다.

겁먹지는 마시고요.

이런 걱정을 해결할 방법이 있습니다.

단, 초점을 제대로 잡고
시작해야 해요.

일반적인 사생활 보호를 대상으로 한다면

싸움에서 지게 될 겁니다.

정보의 흐름을 제한하려 할 테니까요.

대신에 인권과 권리 침해에 대한
구제 법안 확립에 초점을 맞추고

우리 정보의 오용에 맞서야 합니다.

자신의 정보가 공유되는 방식을
결정할 권리를 가져야 하고

무엇보다도 법적 보상이 있어야 합니다.

원치 않게 자신의 정보가
오용됐을 때에 대한 보상이죠.

예를 들면 고용, 보건 또는
교육에서 차별당했을 경우에요.

이런 신뢰를 쌓기에는 갈 길이 멉니다.

사실 몇몇 경우에

우리는 우리 개인 정보를
더 많이 공유하길 원합니다.

예를 들어 집적된 정보를 살펴보면

우리의 건강과 생활상에 대해
너무나 많은 걸 알 수 있습니다.

하지만 우리의 정보를
안전하게 공유하려면

두뇌 개인정보에 대해
특별한 보호가 필요합니다.

그래서 인지 자유의 권리가
필요한 것입니다.

이 권리는 사상과 생각의 자유,
즉 자기결정의 자유를 보장할 것입니다.

그리고 타인이 우리 두뇌에
접근하거나 변경하려 할 때

동의나 거부권을 갖게 할 것입니다.

이 권리는 세계 인권 선언의
일부로 인정받을 수 있는데

세계 인권 선언은 이런 사회적 권리를
강화하는 체계를 확립해주었죠.

이란 녹색운동이 일어났을 때

시위자들은 인터넷을 이용하거나
예전처럼 입에서 입으로 소식을 전하며

시위대를 조직하였습니다.

결국 이란의 가장 억압적인
몇몇 제약이 해제되었죠.

하지만 이란 정부가 우리 두뇌를
감시했다면 어떻게 되었을까요?

그 시위를 탐지하고
예방한다는 목적으로 말이죠.

전 세계 사람들에게
시위자들의 외침이 들렸을까요?

우리에게 인지 자유의 혁신이
필요한 때가 왔습니다.

우리 과학 기술을
책임감 있게 발전시켜야만

미래를 받아들일 수 있을 것입니다.

그와 동시에 우리 모두를
확실하게 보호해야 합니다.

어떤 개인, 회사, 정부가

우리의 가장 내밀한 삶에 불법적으로
접근하거나 바꾸지 못하도록 말이죠.

고맙습니다.

(박수)