정보이론(Information Theory)이란 무엇일까

앨리스에게 아이디어가 하나 있다고 하죠

그녀는 그것을 공유하기 원하고

아이디어를 공유할 수많은 방법들이 있어요

그림을 그리거나, 판화를 만들거나,
노래를 만들거나,

전보나 이메일을 보낼수있죠

하지만 이러한 것들은 어떻게 다른것일까요

그리고 더욱 중요한 것은
어째서 이들은 같은 것일까요

이 이야기는 모든 형태의 커뮤니케이션의
기본 입자들에 관한 것입니다

이는 여러분이 당연한 것이라고 생각지만
특별한 기술인 언어에서 시작합니다

모든 언어는 여러분이 정신적인 것을
생각할 수있도록 도와줍니다

그리고 이는 개념의 덩어리의
모음으로 나눌 수 있습니다

이 덩어리들은 신호나 기호의 모음을
사용하여 형태를 나타낼 수 있습니다

인간은 다양한 소리나 물리적인 움직임으로
그들 스스로를 표현합니다

새들이 지저귀거나 벌들이 춤을 추는 것 처럼

사람이 만든 기계들도
전기적인 진동의 흐름을 교환합니다

우리의 몸 또한 DNA로 알려진 미세한 곳에
저장된 명령어에 따라서 만들어집니다

모든 것은 다른형태에 오직 하나만을
즉 정보를 담고있습니다

정보를 가장 간단한 형태로 말하면
어떠한 생각이 다른것에 영향을 주는 것입니다

이는 선택된 정보인
커뮤니션의 아이디어를 기본으로 합니다

어떠한 형태이더라도 정보는
기본유닛을 사용하여 측정할 수 있습니다

이와같이 킬로그램이나 파운드 같은표준 측정
법을 사용하여 우리는 크고 무거운 서로 다른

여러가지 물체를 측정 할 수 있습니다

이는 저울을 이용하여
돌, 물, 밀 등을 정확히 측정하고

이를 비교할 수 있게 해줍니다

정보 또한 엔트로피라는
측정법을 이용하여

측정하고 비교할 수 있습니다

정보를 측정하는 저울을 한번 생각해봅시다

우리는 직관적으로 어떠한 책에서
뜯어낸 한 페이지의 정보가

책 전체의 정보보다 적다는 것을 알고있습니다

우리는 비트 라고 부르는 단위를 사용하여
정확히 얼마나 많은

놀라움을 느끼는지 표현할 수 있습니다

그렇게 앨리스가 의사소통하기 원하는
특정한 메시지가

상형문자, 음악, 컴퓨터 코드이든 상관 없이

각각은 서로 다른 밀도 안에
똑같은 숫자의 비트를 가지고 있습니다

그리고 비트는 아주 간단한 아이디어와
연결되어 있습니다

네/아니오로 답할 수있는 질문이죠

이를 동전으로 된 언어라고 생각합시다

그러면 어떻게 진짜 정보가 측정될까요?

정보가 속도의 제한을 가지나요?
또 최대 밀도를 가지나요?

정보이론은
이 질문에 대한 흥미로운 답을 가지고 있어요

이는 만들어지기 시작한지 3000년이
넘어가는 한 아이디어입니다

하지만 우리가 이것을 이해하기전에
뒤쪽으로 돌아가봐야만 합니다

그리고 아마도 인류 역사상 가장
강력한 발명인 알파벳에 대해 알아보겠습니다

그러면 이를 위해 동굴로 돌아가 봅시다