YouTube

Got a YouTube account?

New: enable viewer-created translations and captions on your YouTube channel!

Vietnamese subtitles

← Information.9.TheManifoldThingsInformationMeasures

Get Embed Code
3 Languages

Showing Revision 4 created 06/15/2017 by Vinh DANG.

  1. Tôi đã nói qua về thông tin
  2. Bit. Nhãn. Xác suất.
  3. I bằng logarit cơ số 2
    của tổng Pi với mọi i
  4. Đây là công thức căn bản
    của lý thuyết thông tin
  5. Tôi đã nói về
    thông tin hai chiều
  6. khi tôi có hai biến
  7. ví dụ như là đầu vào và đầu ra
    của một kênh
  8. Những gì thông tin hai chiều
    cho bạn biết
  9. tương đương với thông tin được
  10. chia sẻ giữa đầu vào và đầu ra.
  11. Đó là thông tin
  12. được truyền qua
  13. hay đi qua kênh truyền.
  14. Và thực tế là, Claude Shannon
    cho ta biết
  15. thực ra nó bằng với
  16. dung lượng thực tế
    của kênh truyền
  17. Hoặc nếu tôi có xác suất đầu vào,
    hay là
  18. tần suất mà cực đại hóa
    thông tin
  19. hai chiều, thì thông tin hai chiều
    này
  20. chính là tốc độ mà thông tin có thể
    được truyền
  21. một cách tin cậy trên kênh. Bạn
    không thể
  22. truyền tin ở tốc độ cao hơn, mà
  23. chỉ có thể gửi tin ở tốc độ
    tối đa này thôi.
  24. Đây là một ứng dụng
    rất quan trọng
  25. của lý thuyết thông tin, vì nó
  26. cho ta ta biết là nếu ta có
    một kênh bị nhiễu
  27. hoặc kênh mà thông tin bị mất, như
    là các kênh mà chúng ta sử dụng
  28. âm thanh hay ánh sáng,
  29. hay các kênh truyền sóng điện từ
  30. kênh mà chúng ta gửi thông tin
  31. qua thư, tất cả các kênh
  32. đều có một dung lượng nhất định.
    Và lý thuyết Shannon cho ta biết
  33. dung lượng này là bao nhiêu
    nó cho ta biết là ta
  34. không thể vượt qua nó,
    và nó cho ta biết
  35. làm sao ta đạt được nó.
    và đây là căn bản của việc
  36. ứng dụng lý thuyết thông tin vào
  37. các liên lạc thực tế, ví dụ như
  38. qua cáp quang.
  39. Có một số ví dụ vui của việc này.
  40. Một cách tiếp cận vấn đề là
  41. giả sử ta có một kênh ở đây.
    Ta có x ở đầu vào
  42. Ta có P của xi. Ở đây ta có
  43. đầu ra. Chúng ta có P (yj|xi),
  44. Và chúng ta có thông tin hai chiều
    liên kết
  45. Ở đây ta có I(x), là thông tin
    đầu vào

  46. Ở đây ta có I(y), là thông tin
    đầu ra
  47. Thông tin được truyền
  48. qua kênh tương tự như thông tin
    hai chiều
  49. giữa đầu vào
  50. và đầu ra. Chúng ta cũng có thể
  51. xem xét cái mà tôi sẽ gọi là
    "mất mát",
  52. và một yếu tố khác mà tôi
    sẽ gọi là
  53. "nhiều". Vậy, "mất mát" là gì?
    Mất mát là thông tin
  54. đi vào kênh,
  55. nhưng không tới được đâu ra.
    Giống như một con bọ
  56. chui vào bẫy. Vậy nó là cái gì?
  57. Đó là thông tin mà chúng ta không
    biết được đầu vào
  58. giả sử là chúng ta biết đầu ra.
  59. Vậy nếu chúng ta biết được đầu ra,
  60. đã có một số thông tin hay bit ở đầu vào
  61. không tới được đầu ra. Tương tự,
  62. nhiễu là các thông tin ở đầu ra
  63. nhưng không có ở đầu vào. Nhiễu
    là các thông tin
  64. mà chúng ta không biết
    từ đâu xuất hiện, nó là
  65. các bit thông tin sai lệch
    tự dưng
  66. xuất hiện mà không tồn tại
  67. ở đầu vào. Vậy là chúng ta có bức tranh
  68. toàn cảnh về quá trình
  69. xử lý thông tin. Chúng ta có
  70. thông tin đi vào, chúng ta có
  71. thông tin đi ra. Chúng ta có
    sự mất mát
  72. là thông tin đi vào mà
  73. không đi ra. Chúng ta có nhiễu, là
  74. thông tin bỗng nhiên xuất hiện
  75. mà không có ở đầu vào -
    đương nhiên, các thông tin này
  76. phải có nguồn gốc từ các
    quá trình vật lý. Và cuối cùng
  77. chúng ta có thông tin hai chiều, là
  78. các thông tin thực sự được
  79. truyền qua kênh và thể hiện
  80. dung lượng kênh.
  81. Tôi cũng đã trình bày qua về
    quá trình tính toán.
  82. Nếu bạn có một chiếc máy tính. Máy tính
  83. trông như thế này khi
  84. tôi còn bé .. Bạn có,
    dạng như một băng đĩa
  85. bạn có rất nhiều các bóng đèn nhỏ
  86. trên các cổng và công tắc, và rồi bạn
  87. đọc băng, và nó sẽ ghi lên
  88. đầu ra, ví dụ như một băng giấy -
    bạn thậm chí có thể
  89. xác lập đầu vào trên một băng giấy khác -
    nó sẽ
  90. có bộ nhớ kiểu vậy. Một máy tính
  91. điện tử sẽ chia nhỏ
  92. thông tin
  93. thành các bit là các đơn vị
    thông tin
  94. nhỏ nhất, thường được gọi là
    0 và 1, hoặc
  95. đúng và sai trong máy tính
    điện tử
  96. Và rồi máy tính sẽ đổi giá trị
    các bit này
  97. một cách có hệ thống.
  98. Vậy với tất cả sức mạnh và
  99. sự ngu ngốc của chúng, tất cả các
  100. máy tính điện tử mà chúng ta có,
    bao gồm
  101. cả điện thoại thông minh,
    cũng như
  102. máy tính cá nhân và siêu máy tính,
    tất cả
  103. chúng đều ghi nhận và lưu trữ
  104. thông tin dưới dạng bit và rồi
    thay đổi các bit này
  105. một cách có hệ thống.
  106. Và chỉ nhắc bạn về
  107. lý thuyết tính toán căn bản
  108. rằng bất kỳ máy tính điện tử nào
  109. cũng có thể được mô tả dưới
    dạng các mạch điện.
  110. Đây là x, đây là y, đây là z. Đây là
  111. một thứ khi tôi tạo một bản sao của x,
  112. tôi dùng cổng OR ... Đây là "OR",
    bạn sẽ được nhắc lại.
  113. Đây là bản sao của X, đây là X
  114. Đây là X hoặc Y
  115. Còn được gọi là X OR Y
  116. Và ở đây tôi có thể nói
  117. ví dụ, lấy cổng AND, và
  118. ở đây tôi có thể truyền nó qua
    cổng NOT
  119. Và tôi có thể kết hợp chúng trong
    một
  120. cổng AND khác. Và cuối cùng, tôi
    nghĩ
  121. chúng ta có NOT X AND Z AND
    (X OR Y)
  122. Vậy, khi tôi có một máy tính điện tử,
  123. nó sẽ nhận các bit
  124. thông tin, thực hiện các phép
    đơn giản AND, OR, NOT, copy và
  125. bằng việc thực hiện tuần tự các phép này,
    theo bất cứ
  126. thứ tự nào bạn muốn, thì kết thúc bạn
    có thể
  127. tính toán bất kỳ biểu thức logic nào.
  128. NOT X AND Z AND X OR Y ... bất kỳ
  129. Nó có nghĩ gì .. tôi không biết
  130. Nhưng nó là như vậy thôi.
  131. Vậy, nếu chúng ta nói về
    tính toán điện tử
  132. tất cả các máy tính điện tử đều
  133. nhận và xử lý thông tin
  134. Và nếu chúng ta có tính toán
  135. và truyền thông,
  136. và xác suất,
  137. chúng ta thấy rằng việc
    tập hợp các ý tưởng
  138. về thông tin, xử lý thông tin
    dưới dạng tính toán
  139. gửi thông tin tin cậy
  140. từ nơi này tới nơi khác
    là truyền thông
  141. thông tin ở phía dưới
  142. xác suất của các sự kiện ...
    trời nắng,
  143. trời mưa. Xác suất một
    quang tử (photon)
  144. đi vào đầu này của kênh sẽ
  145. xuất hiện ở đầu kia. Xác suất của 0,
  146. xác suất của 1, xác suất mặt ngửa,
  147. xác suất mặt sấp ... nhưng khi chúng ta
    đặt ba phần này
  148. lại với nhau, chúng ta sẽ có
  149. lý thuyết thông tin.
  150. Và tôi hy vọng rằng trong
    khóa học này
  151. với những bài giảng ngắn gọn,
    tôi đã có thể
  152. thuyết phục bạn rằng tất cả
    các quá trình
  153. đáng kinh ngạc đang xảy ra
  154. xung quanh ta, kết quả
  155. cuộc cách mạng thông tin vốn
    bắt đầu
  156. từ giữa thế kỷ XX và đang
  157. tiếp tục với vận tốc ngày càng lớn
  158. cho tới ngày nay, có thể được hiểu
  159. bằng một tập hợp đơn giản các
    ý tưởng toán học có
  160. liên kết với nhau, và cho phép
  161. tập ý tưởng này có một sự phong phú
    sâu sắc
  162. và ảnh hưởng lên xã hội loài ngoài với
  163. những thay đổi ... tôi không rõ là gì nữa!
  164. Cảm ơn sự theo dõi của các bạn,
    Chúc làm bài tập về nhà vui vẻ.
  165. Bài thi sẽ là dạng đề trắc nghiệm,
    tôi tin
  166. Not Synced
    các bạn sẽ làm tốt