0:00:01.000,0:00:03.250
직감이 틀리는 경우에 [br]대해서 얘기할까 합니다.

0:00:03.250,0:00:05.480
우리가 흔히 겪는 일이죠.

0:00:05.480,0:00:08.520
이것은 실제로 어떤 종류의 [br]위험을 감지하지 못하는 겁니다.

0:00:09.360,0:00:11.096
가능한 시나리오를 말씀드리겠습니다.

0:00:11.120,0:00:14.376
아주 무섭기도 하고

0:00:14.400,0:00:16.160
일어날 가능성도 높죠.

0:00:16.840,0:00:20.086
이 둘의 조합은 별로 [br]반길 상황은 아닐 겁니다.

0:00:20.086,0:00:22.536
하지만 여러분 대부분은 [br]제가 말씀드릴 내용에 대해서

0:00:22.560,0:00:24.640
무서워하기 보다는 [br]멋지다고 생각할 겁니다.

0:00:25.200,0:00:29.936
제가 말씀드리고 싶은 것은[br]인공지능을 만들어서 얻게 될 이점이[br]

0:00:29.936,0:00:31.836
결국 우리를 파멸시킬 수도 [br]있다는 사실입니다.

0:00:31.836,0:00:34.370
사실 인공지능이 우리를[br]파멸시키지 않을지

0:00:34.370,0:00:36.960
우리 스스로 자멸하도록 [br]만들지는 전혀 알 수 없죠.

0:00:37.400,0:00:39.256
하지만 여러분이 저와 같다면

0:00:39.280,0:00:41.936
이 문제를 생각해 보는 것도[br]재미있다고 느끼실 겁니다.

0:00:41.960,0:00:45.336
그런 반응도 문제입니다.

0:00:45.360,0:00:47.290
걱정스런 반응이어야죠.

0:00:47.920,0:00:50.576
이 강연에서 여러분들에게

0:00:50.600,0:00:57.126
기후변화나 다른 재앙으로 인해[br]세계적 기근으로 고통받을 거라든지

0:00:57.126,0:01:00.536
여러분의 손자나 그들의 손자들이

0:01:00.560,0:01:02.580
이렇게 살게 될 거라고 설명하면

0:01:03.200,0:01:04.700
이런 생각은 안드시겠죠.

0:01:05.440,0:01:06.776
"재미있군.

0:01:06.800,0:01:08.000
이 강연 맘에 들어"라고요.

0:01:09.200,0:01:10.720
기근은 재미있는 일이 아닙니다.

0:01:11.800,0:01:15.176
그러나 공상과학에서 [br]벌어지는 죽음은 재미있죠.

0:01:15.200,0:01:19.176
지금 이 시점에서 인공지능[br]개발에 대해 가장 걱정되는 것은

0:01:19.200,0:01:23.296
앞으로 있을 위험에 대한 [br]적절한 감정적 반응을

0:01:23.320,0:01:25.136
못하는 것 같다는 겁니다.

0:01:25.160,0:01:28.360
저도 잘 못하면서 [br]이 강연을 하고 있습니다.

0:01:30.120,0:01:32.816
마치 두 개의 문 앞에 [br]서 있는 것과 같습니다.

0:01:32.840,0:01:34.096
1번 문으로 들어서면

0:01:34.120,0:01:37.416
인공지능 기계의 구축은[br]더이상 진보하지 않습니다.

0:01:37.440,0:01:41.456
컴퓨터 하드웨어와 소프트웨어가 [br]더 이상 발전하지 않습니다.

0:01:41.480,0:01:44.480
왜 그런 일이 일어날지 [br]한번 생각해보죠.

0:01:45.080,0:01:48.736
인공지능과 자동화가 [br]얼마나 가치있는지 안다면

0:01:48.760,0:01:52.280
할 수 있는 한 계속해서 [br]기술을 향상시키려 하겠죠.

0:01:53.200,0:01:54.867
그걸 멈춘다면 이유가 뭘까요?

0:01:55.800,0:01:57.600
전면적 핵 전쟁일까요?

0:01:59.000,0:02:00.560
세계적 전염병 재앙일까요?

0:02:02.320,0:02:03.640
소행성 충돌일까요?

0:02:05.640,0:02:08.216
저스틴 비버가 미국 대통령이[br]된다면 이유가 될까요?

0:02:08.240,0:02:10.520
(웃음)

0:02:12.760,0:02:16.680
핵심은 뭔가가 우리가 아는 [br]문명을 파괴한다는 겁니다.

0:02:17.360,0:02:21.656
이게 얼마나 나쁠지 [br]생각해 봐야 합니다.

0:02:21.680,0:02:25.016
우리의 기술향상을 막을 정도로 말이죠.

0:02:25.040,0:02:26.256
영원히

0:02:26.280,0:02:28.296
앞으로 계속이요.

0:02:28.320,0:02:32.046
말 그대로 그것은 [br]인류 사상 최악의 일입니다.

0:02:32.520,0:02:33.816
그래서 유일한 대안은

0:02:33.840,0:02:36.176
2번 문 뒤에 있는데

0:02:36.200,0:02:39.336
인공지능을 계속 발전시키는 겁니다.

0:02:39.360,0:02:41.240
앞으로 수년 동안 계속이요.

0:02:41.720,0:02:45.360
언젠가는 우리보다 [br]똑똑한 기계를 만들겠죠.

0:02:46.080,0:02:48.100
더 똑똑한 기계가 생기면

0:02:48.100,0:02:50.696
기계 스스로 발전할 겁니다.

0:02:50.720,0:02:53.456
그러면 수학자 아이 제이 굿의 말대로

0:02:53.480,0:02:55.256
"지능 폭발"이라는 [br]위험성을 안게 되는데

0:02:55.280,0:02:57.280
우리 통제권을 벗어나는 [br]일이 생기는 거죠.

0:02:58.120,0:03:00.936
여기 보시는 것처럼 [br]이런 풍자만화도 있는데요.

0:03:00.960,0:03:05.476
위험한 로봇 군대가 우리를 [br]공격하리라는 두려움이죠.

0:03:05.480,0:03:08.176
하지만 그건 있을만한 일은 아닙니다.

0:03:08.200,0:03:13.056
기계가 스스로 악해질 리가 없거든요.

0:03:13.080,0:03:15.696
문제는 우리가 기계를 만드는데

0:03:15.720,0:03:17.776
우리보다 너무 능력이 뛰어나서

0:03:17.800,0:03:22.866
기계와 우리의 목표가 살짝만 어긋나도[br]우리를 파멸시킬 수 있는 겁니다.

0:03:23.960,0:03:26.040
개미와 관련지어 생각해 보세요.

0:03:26.600,0:03:28.256
우리는 개미를 싫어하진 않아요.

0:03:28.280,0:03:30.336
개미를 해치지도 않죠.

0:03:30.360,0:03:32.736
사실 때로는 해치지 않으려고 노력하죠.

0:03:32.760,0:03:34.776
길에서 개미들을 넘어서 [br]걸음을 딛잖아요.

0:03:34.800,0:03:36.936
하지만 개미의 존재가

0:03:36.960,0:03:39.456
우리의 목표와 심각하게 부딪힐 때

0:03:39.480,0:03:41.957
가령, 이런 건물을 지을 때

0:03:41.981,0:03:43.941
거리낌없이 전멸시킵니다.

0:03:44.480,0:03:47.416
문제는 우리가 언젠가 기계를 만들텐데

0:03:47.440,0:03:50.176
그 기계가 의식이 있든 없든

0:03:50.200,0:03:52.570
비슷하게 무시하는 태도로 [br]우리를 대할 수 있다는 거죠.

0:03:53.760,0:03:56.520
지나친 억측이라고 [br]생각하는 분이 대다수겠지만

0:03:57.360,0:04:03.696
초지능 AI가 가능하기나 한지 [br]의심스러운 분도 분명 계시겠죠.

0:04:03.720,0:04:05.376
물론 필연적이라고 보지도 않고요.

0:04:05.400,0:04:09.020
그럼 다음 가정에서 잘못된[br]점을 찾으셔야 할 겁니다.

0:04:09.044,0:04:10.616
단 세 가지입니다.

0:04:11.800,0:04:16.519
지능이란 물리적 시스템에서 [br]정보를 처리하는 것입니다.

0:04:17.320,0:04:19.935
사실 이것은 약간은 [br]가정 그 이상입니다.

0:04:19.959,0:04:23.416
우린 이미 기계에 [br]제한된 지능을 구축했고

0:04:23.440,0:04:25.456
이 기계들은 이미

0:04:25.480,0:04:28.120
인간을 뛰어넘는 지능[br]수준으로 구동합니다.

0:04:28.840,0:04:31.416
우리가 알기로 단순한 문제가

0:04:31.440,0:04:34.056
"일반 지능"이란 것을 [br]만들어 낼 수도 있죠.

0:04:34.080,0:04:37.736
다양한 분야에서 융통성 있게 [br]사고하는 능력인데

0:04:37.760,0:04:40.896
우리 뇌는 그렇게 해왔잖아요. 그렇죠?

0:04:40.920,0:04:44.856
여기 원자들이 있고

0:04:44.880,0:04:49.376
원자 시스템을 계속 구축해서

0:04:49.400,0:04:52.096
점점 더 지능적인 행동을 하게 하면

0:04:52.120,0:04:54.656
중간에 멈추지만 않는다면

0:04:54.680,0:04:58.056
우린 마침내 일반지능을

0:04:58.080,0:04:59.376
기계에 구축할 겁니다.

0:04:59.400,0:05:03.056
진보의 속도가 문제되지 [br]않음을 아는게 중요합니다.

0:05:03.080,0:05:06.256
어떻게든 발전하면 끝까지[br]갈 수 있기 때문이죠.

0:05:06.280,0:05:10.056
계속 하기 위해 무어의 법칙이나[br]기하급수적인 진보가 필요없습니다.

0:05:10.080,0:05:11.680
그냥 계속 하면 되죠.

0:05:13.480,0:05:16.400
두 번째 가정은 우리가 [br]계속 할 것이라는 겁니다.

0:05:17.000,0:05:19.760
우리는 지능적인 기계를 [br]계속 향상시킬 겁니다.

0:05:21.000,0:05:25.376
지능의 가치를 생각해 볼 때

0:05:25.400,0:05:28.936
지능이란 우리가 가치있게[br]여기는 모든 것의 원천이거나

0:05:28.960,0:05:31.736
가치있는 것을 지키기 위해 필요하죠.

0:05:31.760,0:05:34.016
우리의 가장 귀한 자원입니다.

0:05:34.040,0:05:35.576
그래서 개발을 하고 싶은 겁니다.

0:05:35.600,0:05:38.936
우리는 간절히 해결하고 [br]싶은 문제들이 있죠.

0:05:38.960,0:05:42.160
알츠하이머 병이나 암같은 [br]질병을 치료하고 싶어 합니다.

0:05:42.960,0:05:46.896
경제 체계를 이해하고 기후 과학을[br]발전시키고 싶어하죠.

0:05:46.920,0:05:49.176
그래서 할 수만 있다면 할 겁니다.

0:05:49.200,0:05:52.486
기차는 이미 출발했고 [br]멈출 브레이크가 없습니다.

0:05:53.880,0:05:59.336
마지막 가정으로 우리는 지능의 [br]정점에 서있지 않다는 겁니다.

0:05:59.360,0:06:01.160
그 근처에 가지도 못했을 거예요.

0:06:01.640,0:06:03.536
사실 이게 중요한 생각입니다.

0:06:03.560,0:06:05.976
바로 그래서 우리 상황이 [br]매우 위험한 겁니다.

0:06:06.000,0:06:10.040
그래서 우리 위험을 인지하는 [br]우리 직감을 믿을 수가 없는 것이죠.

0:06:11.120,0:06:13.840
이제 지구상에서 가장 [br]똑똑한 사람이 있다고 하죠.

0:06:14.640,0:06:18.056
거의 모든 사람들을 추려내면[br]존 폰 노이만이 나옵니다.

0:06:18.080,0:06:21.416
주변 사람들이 폰 노이만을 [br]어떻게 생각했는지와

0:06:21.440,0:06:25.496
그가 당대의 위대한 수학자이자 [br]물리학자에 포함된다는 사실은

0:06:25.520,0:06:27.456
잘 알려져 있죠.

0:06:27.480,0:06:31.256
그에 대한 일화의 절반 중에서[br]반만 사실이라 하더라도

0:06:31.280,0:06:32.496
의심의 여지 없이

0:06:32.520,0:06:34.976
그는 역사상 가장 똑똑한 사람입니다.

0:06:35.000,0:06:37.520
지능의 범위를 생각해 보세요.

0:06:38.320,0:06:39.749
폰 노이만은 여기 있습니다.

0:06:41.560,0:06:42.894
그리고 여기 여러분과 제가 있죠.

0:06:44.120,0:06:45.416
그리고 닭은 여기 있습니다.

0:06:45.440,0:06:47.376
(웃음)

0:06:47.400,0:06:48.616
닭아 미안하다.

0:06:48.640,0:06:49.896
(웃음)

0:06:49.920,0:06:53.656
이 강연을 꼭 우울하게 [br]할 필요는 없죠.

0:06:53.680,0:06:55.280
(웃음)

0:06:56.339,0:06:59.816
하지만 놀랍게도 지능의 범위는

0:06:59.840,0:07:02.960
우리가 현재 가질 수 있는 [br]것보다 훨씬 넓게 확장되고

0:07:03.880,0:07:07.096
우리보다 지능적인 기계를 구축한다면

0:07:07.120,0:07:09.416
이 범위를 아우를 [br]가능성이 매우 높습니다.

0:07:09.440,0:07:11.296
상상할 수 없을 정도로요.

0:07:11.320,0:07:13.840
또한 상상할 수 없을 정도로 [br]우리를 능가할 겁니다.

0:07:15.000,0:07:19.336
속도 하나만 봐도 [br]그렇다는 걸 알아야 합니다.

0:07:19.360,0:07:24.416
그렇죠? 초지능 AI를 [br]구축한다고 해봅시다.

0:07:24.440,0:07:30.226
스탠포드 대학이나 MIT의 연구팀의 [br]평균 지능 그 이상은 아닌 정도로요.

0:07:30.240,0:07:34.516
생화학적인 회로보다 전자 회로가 [br]백만 배는 빠르게 작동합니다.

0:07:34.520,0:07:39.536
그러니 이 기계는 그걸 구축한 사람보다 [br]백만 배의 속도로 빠르게 생각하겠죠.

0:07:39.536,0:07:41.176
일주일 동안 돌리면

0:07:41.200,0:07:45.760
인간 수준 지능의 2만 년 [br]분량을 해치울 겁니다.

0:07:46.400,0:07:48.360
몇 주 동안 계속 말이죠.

0:07:49.640,0:07:51.490
별 제한 없이

0:07:51.490,0:07:55.040
이런 진보를 이루어내는 인공지능을[br]어떻게 받아들여야 할까요?

0:07:56.840,0:07:58.976
솔직히 걱정되는 다른 것은

0:07:59.000,0:08:03.976
최고의 시나리오를 생각해 보는 겁니다.

0:08:04.000,0:08:09.606
안전성에 대해 고려하지 않고[br]초지능 AI를 설계한다고 상상해 보세요.

0:08:09.606,0:08:12.856
처음에는 설계가 완벽하죠.

0:08:12.880,0:08:17.156
의도한 대로 정확히 행동하는 [br]조력자를 얻은 것 같습니다.

0:08:17.160,0:08:20.880
노동력을 절감해주는[br]완벽한 기계가 될 겁니다.

0:08:21.680,0:08:24.109
이걸로 물리적인 작업을 할[br]기계를 만들어 내는

0:08:24.133,0:08:25.896
또 다른 기계를 고안할 수 있습니다.

0:08:25.920,0:08:27.376
태양에너지로 돌아가고

0:08:27.400,0:08:30.096
원자재 정도의 비용만 들어가죠.

0:08:30.120,0:08:33.376
인간의 고된 노동이 끝나게 [br]된다는 걸 의미하는 거예요.

0:08:33.400,0:08:36.200
그건 대부분의 지적 노동도 [br]끝나게 된다는 말이기도 합니다.

0:08:37.200,0:08:40.256
우리 같은 유인원은 [br]이런 상황에서 뭘 할까요?

0:08:40.280,0:08:44.360
한가로이 원반 던지기 놀이하면서 [br]서로 마사지나 해주겠죠.

0:08:45.840,0:08:48.696
환각제 조금과 이상한 옷만 더하면

0:08:48.720,0:08:50.896
전 세계가 마치 버닝맨 [br]축제 같을 겁니다.

0:08:50.920,0:08:52.560
(웃음)

0:08:54.320,0:08:56.320
참 괜찮을 것 같지만

0:08:57.280,0:09:02.436
현재의 정치 경제 상황에서 [br]무슨 일이 생길지 자문해 보세요.

0:09:02.440,0:09:04.856
다분히 우리들은

0:09:04.880,0:09:10.556
이전에 없던 부의 불평등과 [br]실업문제를 직면하게 될 겁니다.

0:09:10.566,0:09:14.746
새로운 부를 즉시 모든 [br]인류와 나누려 하지 않고

0:09:15.640,0:09:19.256
소수의 백만장자들만이[br]경제지 표지를 장식하겠죠.

0:09:19.280,0:09:21.720
세계의 나머지 인류는 [br]굶어 죽는 동안에요.

0:09:22.320,0:09:24.616
러시아나 중국인은 뭘 할까요?

0:09:24.640,0:09:27.256
실리콘 밸리의 어떤 회사들이

0:09:27.280,0:09:30.016
초지능 AI를 곧 사용하려고 [br]한다는 걸 들으면요.

0:09:30.040,0:09:32.530
이 기계는 전쟁도 [br]일으킬 수 있을 겁니다.

0:09:32.920,0:09:35.136
지역분쟁이건 사이버 전쟁이건

0:09:35.160,0:09:36.840
전례없는 힘을 가지고 말입니다.

0:09:38.120,0:09:39.976
이건 승자독식의 시나리오입니다.

0:09:40.000,0:09:43.136
이 경쟁에서 6개월 앞선다는 것은

0:09:43.160,0:09:47.426
최소한 50만 년 앞서는 것입니다.

0:09:47.480,0:09:50.710
그래서 이런 혁신적인 일이

0:09:50.710,0:09:54.616
우리 인류를 미쳐 날뛰게 만들 [br]거라는 소문이 더욱 떠도는 거죠.

0:09:54.640,0:09:57.536
이제 가장 두려운 것은

0:09:57.560,0:10:00.336
지금 현재, 제 생각에는

0:10:00.360,0:10:04.656
AI연구자가 이런 말을 하는 겁니다.

0:10:04.680,0:10:06.240
안심시키려고 말이죠.

0:10:07.000,0:10:10.456
걱정하지 않아도 되는 [br]이유는 시기 때문이라고 하죠.

0:10:10.480,0:10:12.536
이것은 완전히 빗나간 말입니다.

0:10:12.560,0:10:15.000
아마도 50에서 100년 뒤겠죠.

0:10:15.720,0:10:16.976
한 연구원이 말했습니다.

0:10:17.000,0:10:18.576
"AI의 안전성에 대한 우려는

0:10:18.600,0:10:21.200
마치 화성의 과잉 인구를 [br]걱정하는 것과 같다."

0:10:22.116,0:10:23.736
실리콘 밸리 식으로[br]표현하면 이런 뜻이죠.

0:10:23.760,0:10:26.136
"그 쬐그만 머리로 걱정하지 마세요."

0:10:26.160,0:10:27.496
(웃음)

0:10:27.520,0:10:29.416
아무도 모르는 것 같습니다.

0:10:29.440,0:10:34.490
시간의 축을 말하는 게[br]완전히 잘못된 결론인 것을

0:10:34.490,0:10:37.936
지능이 그저 정보처리하는 문제라면

0:10:37.960,0:10:40.616
우리는 기계를 계속 향상시킬 것이고

0:10:40.640,0:10:43.520
초지능의 형태를 만들게 될 겁니다.

0:10:44.320,0:10:50.726
그것을 안전하게 할 조건을 만들려면[br]얼마나 걸릴지 우린 모릅니다.

0:10:52.200,0:10:53.496
다시 말씀드리죠.

0:10:53.520,0:11:00.046
그걸 안전하게 할 조건을 만드는 게[br]얼마나 걸릴지 우리는 모른다고요.

0:11:00.920,0:11:04.376
잘 모르신다면, 지금의 50년은 [br]과거와 같은 시간이 아닙니다.

0:11:04.400,0:11:06.856
몇 개월이 50년과 마찬가지죠.

0:11:06.880,0:11:08.720
아이폰을 갖기까지 그만큼 걸렸습니다.

0:11:09.440,0:11:12.040
심슨가족이 TV로 [br]방영되는 데 걸린 시간입니다.

0:11:12.680,0:11:15.056
50년이란 그리 많은 시간이 아닙니다.

0:11:15.080,0:11:18.240
우리 인류가 당면한 [br]최고의 난제를 만나는데요.

0:11:19.640,0:11:23.656
다시, 우리는 제대로 된 감정적 반응을 [br]못하고 있는 것 같습니다.

0:11:23.680,0:11:26.376
앞으로 벌어질 거라고 [br]생각하는 것들에 대해서요.

0:11:26.400,0:11:30.376
컴퓨터공학자 스튜어트 러셀이 [br]멋진 비유를 들었습니다.

0:11:30.400,0:11:35.296
외계문명이 보낸 메세지를 [br]받았다고 상상해 보는 겁니다.

0:11:35.320,0:11:37.016
이런 내용의 메세지죠.

0:11:37.040,0:11:38.576
"지구인들이여

0:11:38.600,0:11:40.960
우리는 50년 후에 [br]지구에 도착할 것이다.

0:11:41.800,0:11:43.376
이에 준비하라."

0:11:43.400,0:11:47.656
그럼 외계 우주선이 도착할 [br]때까지 날짜만 세는 겁니까?

0:11:47.680,0:11:50.680
그것보다는 좀더 위급함을 느껴야죠.

0:11:52.680,0:11:54.536
우리에게 걱정말라는 다른 이유는

0:11:54.560,0:11:57.576
이런 기계들은 우리의 가치를 [br]공유할 수밖에 없다는 겁니다.

0:11:57.600,0:12:00.216
말 그대로 우리의 연장선이니까요.

0:12:00.240,0:12:02.056
기계들은 우리 뇌에 이식될테고

0:12:02.080,0:12:04.440
우리는 본질적으로 그들의 [br]감정 표현 시스템으로 전락하겠죠.

0:12:05.120,0:12:06.536
한 번 생각해 보세요.

0:12:06.560,0:12:11.096
가장 안전하고 현명한 방법을 추천하자면

0:12:11.120,0:12:13.920
이 기술을 우리 뇌에 [br]직접 이식하는 겁니다.

0:12:14.600,0:12:17.976
앞으로 할 수 있는 가장 [br]안전하고 현명한 방법이겠지만

0:12:18.000,0:12:21.056
기술의 안전성에 대한 우려는 보통

0:12:21.080,0:12:24.736
머릿속에서 꽂아 보기 [br]전에 해야 할 일이죠.

0:12:24.760,0:12:26.776
(웃음)

0:12:26.800,0:12:28.550
좀 더 심오한 문제는 [br]

0:12:29.140,0:12:32.160
초지능의 AI를 만드는 것 자체가

0:12:32.160,0:12:33.896
오히려 더 쉽다는 거에요.

0:12:33.920,0:12:35.776
초지능 AI를 만들고

0:12:35.800,0:12:37.576
완전한 신경과학이 있어서

0:12:37.600,0:12:40.280
우리의 정신을 AI와 매끄럽게 [br]접목시키는 것에 비해서 말이죠.

0:12:40.800,0:12:43.976
기업과 정부가 이 일을 하고 있음을 보면

0:12:44.000,0:12:47.656
다른 종에 대항하는 존재임을 [br]스스로 인지할 가능성이 있습니다.

0:12:47.680,0:12:50.936
이 경쟁에서 이기는 것이 세상을 [br]이기는 것이라고 한다면요.

0:12:50.960,0:12:53.416
그것을 바로 파괴하지 않는다면

0:12:53.440,0:12:57.526
가장 쉬운 일을 가장 먼저 [br]할 가능성이 있을 겁니다.

0:12:58.560,0:13:01.416
안타깝게도 저는 이 문제에 [br]대한 해법은 없습니다.

0:13:01.440,0:13:04.056
좀 더 생각해 보자고 [br]하는 것 빼고는요.

0:13:04.080,0:13:06.456
맨하탄 프로젝트 같은 것이 있어서

0:13:06.480,0:13:08.496
AI에 대한 연구를 해야[br]되지 않을까 싶습니다.

0:13:08.520,0:13:11.256
만들기 위해서가 아니라, [br]필연적으로 하게 될테니까

0:13:11.280,0:13:14.616
군비경쟁을 피할 방법을 알고

0:13:14.640,0:13:18.136
우리의 관심과 맞출 수 [br]있는 방법을 찾기 위해서죠.

0:13:18.160,0:13:22.656
스스로 변할 수 있는 [br]초지능 AI를 말할 때는

0:13:22.656,0:13:27.216
첫 출발을 제대로 할 수 있는 [br]기회는 단 한 번뿐인 것 같습니다.

0:13:27.240,0:13:29.296
그때도 우리는

0:13:29.320,0:13:32.360
제대로 하기 위한 정치 경제적 [br]결과를 감내해야 할 겁니다.

0:13:33.760,0:13:35.816
하지만 우리가 인정하는 순간

0:13:35.840,0:13:39.840
정보처리가 지능의 원천이고

0:13:40.720,0:13:45.520
적정 연산 체계가 지능의 [br]기본이라고 하는 순간

0:13:46.360,0:13:50.120
이 체계를 계속 발전시켜 [br]나갈 것임을 인정하는 것이며

0:13:51.280,0:13:57.206
우리가 현재 아는 인지의 한계를 훨씬 [br]뛰어넘게 될 것임을 인정하는 겁니다.

0:13:58.120,0:13:59.336
그럼 우리는

0:13:59.360,0:14:02.000
어떤 신적 존재를 구축하고 [br]있음을 인정해야 합니다.

0:14:03.400,0:14:07.236
지금이야말로 신이 우리와 함께 할 수 [br]있음을 확신하기 좋은 때이겠네요.

0:14:08.120,0:14:09.656
대단히 감사합니다.

0:14:09.680,0:14:13.353
(박수)