Persian subtitles

خطر هوش مصنوعی عجیب‌تر از آنی است که فکرش را کنید

Get Embed Code
31 Languages

Showing Revision 11 created 01/02/2020 by Leila Ataei.

  1. خب، هوش مصنوعی
  2. به مختل کردن تمامی صنایع مشهور است.
  3. صنعت بستنی سازی چطور؟
  4. چه نوع مزه های جدید و جالب را می توانیم
  5. با قدرت هوش مصنوعی پیشرفته تولید کنیم؟
  6. خب، من با گروهی از برنامه نویسان از
    مدرسه متوسطه کیلینگ تیم شدیم
  7. تا پاسخ این سوال را پیدا کنیم.
  8. آنها بیش از ۱,۶۰۰ نوع مزه بستنی یافتند،
  9. و ما با هم، آنها در الگوریتمی قرار دادیم
    تا ببینیم جه چیزی تولید می شود.
  10. و اینها برخی از مزه هایی است که
    هوش مصنوعی آنها را تولید کرده است.
  11. [آشغال کدو تنبل]

  12. (صدای خنده)

  13. [لجنِ کره بادام زمینی]

  14. [مرض خامه توت فرنگی]

  15. (صدای خنده)

  16. این طعم ها اصلا خوشمزه نیستند در حالی که
    ما انتظار خوشمزه بودن آنها را داشتیم.

  17. سوال اینجاست که: چه اتفاقی افتاد؟
  18. اشتباه از کجا بود؟
  19. آیا هوش مصنوعی سعی در کشتن ما را دارد؟
  20. یا که سعی دارد آن کاری که ما خواستیم را
    انجام دهد، و سپس مشکل پیش آمده است؟
  21. در فیلم ها، زمانی که مشکلی برای
    هوش مصنوعی رخ می دهد

  22. معمولاً به این خاطر است که هوش مصنوعی
    تصمیم داشته
  23. که از دستورات انسان ها دیگر پیروی نکند،
  24. و هدفهای خودش را دارد،
    خیلی ممنون.
  25. اما در زندگی واقعی، هوش مصنوعی که
    ما در اختیار داریم
  26. هنوز برای آن کارها آنقدر باهوش نیست.
  27. هوش مصنوعی ما قدرت محاسباتی نزدیک به
  28. یک کرم خاکی،
  29. یا حداکثر یک زنبور عسل را دارد،
  30. و در واقع حتی کمتر از آن.
  31. ما مدام در حال یادگیری جنبه های جدیدی از
    مغز هستیم که
  32. مشخص می کند هوشهای مصنوعی ما
    هنوز نزدیک به مغزهای واقعی نیستند.
  33. خب، امروزه هوش های مصنوعی می توانند
    وظیفه ای مثل تشخیص پیاده رو در یک عکس را
  34. انجام دهند اما آنها از مفهوم پیاده رو چیزی
    جز یک سری
  35. خطوط و بافت نمی دانند.
  36. آنها حتی نمی دانند انسان چیست.
  37. پس آیا هوش های مصنوعی امروزه کاری که
    می خواهیم را انجام می دهند؟
  38. در صورتی که بتوانند انجام می دهند
  39. اما ممکن است کاری که ما می خواهیم نباشد.
  40. خب بگذارید فرض کنیم که شما می خواهید
    یک هوش مصنوعی

  41. مجموعه ای از بخشهای یک روبات را بگیرد
  42. و آن را به رباتی تبدیل کند که از نقطه A
    به نقطه B می رود.
  43. حالا، اگر شما می خواستید این مسئله را با
  44. نوشتن یک برنامه سنتی کامپیوتری حل کنید،
  45. شما به برنامه دستورالعملهای
    پله پله می دادید
  46. که چطور این بخش را برداشته،
  47. به هم بچسباند تا رباتی دو پا بسازد
  48. و سپس به وسیله آن پاها به نقطه B
    برود.
  49. اما زمانی که در حال استفاده از
    هوش مصنوعی هستید
  50. مسئله متفاوت است.
  51. شما به آن نمی گویید چطور مسئله را حال کند،
  52. شما تنها به آن هدف را می دهید،
  53. و او می بایست از طریق آزمایش و خطا
  54. خودش به هدف برسد.
  55. و اینطور به نظر می رسد که هوش مصنوعی
    این مسئله خاص را
  56. بدین گونه حل می کند:
  57. ابتدا خودش را به یک برج تبدیل می کند
    و سپس سقوط می کند
  58. و در نقطه B به زمین می خورد.
  59. و از لحاظ تکنیکی مسئله حل شده است.
  60. از لحاظ تکنیکی به نقطه B
    رسیده است.

  61. خطر هوش مصنوعی این نیست که
    او قرار است علیه ما شورش کند،
  62. خطر این است که او دقیقاً کاری که ما
    بخواهیم را انجام می دهد.
  63. پس ترفند استفاده از هوش مصنوعی این است که:

  64. ما چطور مسئله را طرح کنیم که در واقع کاری
    که می خواهیم را انجام دهد؟
  65. این ربات کوچک در اینجا
    توسط یک هوش مصنوعی کنترل می شود.

  66. هوش مصنوعی به طرحی برای پاهای ربات
    رسیده است
  67. و چگونگی استفاده از این پاها را برای
    گذشتن از این موانع را فهمیده است.
  68. اما زمانی که دیوید ها این آزمایش را
    ساخته است،
  69. محدودیتهای بسیار زیادی در رابطه با
  70. اندازه مجاز پاها گذاشته است.
  71. زیرا در غیر این صورت ...
  72. (صدای خنده)

  73. و از لحاظ تکنیکی،
    به انتهای موانع رسیده است.

  74. پس می بینید که یک کار ساده مانند
    به راه انداختن هوش مصنوعی چقدر سخت است.
  75. خب، با دیدن انجام این کار از هوش مصنوعی
    شما ممکن است بگویید، عادلانه نیست،

  76. شما نمی توانی یک برج بلند باشی و فقط
    سقوط کنی
  77. شما باید از پاهایت برای راه رفتن
    استفاده کنی.
  78. اینطور که معلوم است،
    این نظر همیشه صادق نیست.
  79. کار این هوش مصنوعی این بوده است که
    سریع حرکت کند.
  80. آنها نگفتند که باید رو به جلو حرکت کند
  81. یا نمی تواند از دست هایش استفاده کند.
  82. پس زمانی که از یک هوش مصنوعی می خواهیم که
    سریع حرکت کند،
  83. چیزی شبیه پُشتک زدن و ابلهانه راه رفتن
    می گیرید.
  84. کاملاً معمول است.
  85. همینطور پیچ خوردن روی زمین.
  86. (صدای خنده)

  87. پس به عقیده من، چیزی که می بایست
    خیلی عجیب تر باشد
  88. ربات های فیلم ترمیناتور است.
  89. هک کردن «ماتریکس» نیز کار دیگر ایست که
    هوش مصنوعی اگر شانسش را داشت انجام می داد.
  90. پس اگر یک هوش مصنوعی را در یک
    شبیه سازی آموزش دهید
  91. یاد میگیرد که کارهایی چون استفاده از
    خطاهای ریاضی شبیه سازی
  92. و استفاده از آنها برای انرژی را انجام دهد.
  93. یا اینکه چگونه با پیچیدن به زمین
    سریع تر حرکت کند.
  94. زمانیکه شما در حال کار
    با هوش مصنوعی هستید
  95. کمتر شبیه به کار با انسانی دیگر است
  96. و بیشتر شبیه به کار با نیروی عجیبی
    از طبیعت است.
  97. و به صورت اتفاقی دادن مسئله اشتباه برای
    حل به هوش مصنوعی آسان است،
  98. و اغلب ما متوجه نمی شویم تا زمانی که
    اشتباهی رخ دهد.
  99. خب، این یک آزمایش است که من انجام داده ام

  100. که در آن از هوش مصنوعی خواستم تا
    رنگ ها را تکثیر کند
  101. تا به رنگ های جدیدی برسد،
  102. با دادن لیستی که در سمت چپ می بینید.
  103. و این چیزی است که هوش مصنوعی به
    آن رسیده است.
  104. [ساندیس مدفوع، پشکل، زجر، موی قهوه ای]

  105. (صدای خنده)

  106. از لحاظ تکنیکی،

  107. او کاری را که من خواسته بودم انجام داد.
  108. من فکر کردم که از او نام رنگ های
    زیبا می خواهم
  109. اما در واقع از او می خواستم که
  110. ترکیب حروف را تقلید کند
  111. که در نسخه اصلی دیده است.
  112. و من چیزی در رابطه با معنای کلمات
    به او نگفتم،
  113. یا اینکه ممکن است کلماتی وجود داشته باشند
  114. که او می بایست از استفاده آنها
    برای این رنگ ها خودداری کند.
  115. بنابراین تمام دنیای او داده هایی است که من
    به او داده ام.
  116. همانند طعم بستنی ها،
    او از هیچ چیز دیگر باخبر نیست.
  117. پس از طریق داده است که

  118. ما اغلب به اشتباه به هوش مصنوعی می گوییم
    کاری را انجام دهد.
  119. این یک ماهی به نام «تنچ» است.
  120. گروهی از محققان
  121. هوش مصنوعی را پرورش دادند تا این ماهی
    را در تصاویر تشخیص دهد.
  122. اما زمانی که از او پرسیدند
  123. که از طریق کدام بخش عکس این شناسایی را
    انجام داده است
  124. او این قسمت را نشان داده است.
  125. بله، آنها انگشت انسان هستند.
  126. چرا او باید به دنبال انگشت انسانها باشد
  127. اگر هدف یافتن ماهی است؟
  128. خب، اینطور که معلوم است ماهی تنچ
    یک نوع جایزه است،
  129. بنابراین در تصاویر زیادی که هوش مصنوعی
    در طول آموزش
  130. مشاهد کرده است،
  131. ماهی بدین صورت بوده است.
  132. (صدای خنده)

  133. هوش مصنوعی از این حقیقت مطلع نبوده است
    که انگشت ها عضوی از ماهی نیستند.

  134. بنابراین شما می بینید که چرا طراحی
    یک هوش مصنوعی که

  135. تشخیص دهد به چه چیزی می نگرد
    دشوار است.
  136. و به همین دلیل طراحی دوربین های
    تشخیص چهره
  137. در خودروهای بدون سرنشین بسیار دشوار است،
  138. و علت بسیاری از مشکلات
    خودروهای بدون سرنشین
  139. گیچ شدن هوش مصنوعی است.
  140. می خواهم در رابطه با مثالی در سال ۲۰۱۶
    صحبت کنم.
  141. فردی با استفاده از راننده خودکار تسلا
    وارد تصادفی خطرناک شده بود.
  142. او بجای استفاده از این تکنولوژی بر اساس
    طراحی آن در بزرگراه
  143. آن را در خیابان های شهر استفاده کرده بود.
  144. اتفاقی که رخ داد
    چنین بود
  145. کامیونی جلوی خودرو آمد و خودرو نتوانست
    ترمز بگیرد.
  146. خب، هوش مصنوعی کاملاً آموزش دیده بود تا
    کامیون ها را در عکس تشخیص دهد
  147. اما اتفاقی که افتاد چنین بود که
  148. هوش مصنوعی آموزش دیده بود تا کامیون ها را
    در بزرگراه تشخیص دهد
  149. که شما انتظار دارید کامیون ها
    را پشت سرتان ببینید.
  150. کامیون های کناری قرار نیست
    در بزرگراه ها باشند،
  151. پس زمانی که هوش مصنوعی این کامیون را دیده،
  152. به احتمال زیاد آن را یکی از علائم خیابانی
    دیده است
  153. و به همین دلیل، رفتن به سمت آن امن بوده.
  154. این یک اشتباه دیگر از هوش مصنوعی
    در زمینه ای دیگر است.

  155. اخیراً شرکت آمازون مجبور شد الگوریتمی
    که طبقه بندی رزومه ها را
  156. انجام می داد کنار بگذارد
  157. زیرا آنها دریافتند که آن الگوریتم تمایزهای
    ضد زن داشته است.
  158. اتفاقی که افتاد به این صورت بود که آن ها
    هوش مصنوعی را بر
  159. رزومه های نمونه افرادی که از قبل
    می شناختند آموزش داده بودند
  160. و از این نمونه ها، هوش مصنوعی یاد گرفته
    بود که از رزومه افرادی
  161. که به کالج های زنانه رفته اند یا
  162. کلمه «زن» در هر جای رزومه آنها بوده،
    دوری کند،
  163. مانند، «تیم فوتبال زنان»،
    «جامعه مهندسان زن».
  164. هوش مصنوعی نمی دانسته
    که نباید این مورد خاص را
  165. که انسان ها انجام می دهند کپی کند.
  166. و از لحاظ تکنیکی هوش مصنوعی کاری را انجام
    داده که از او خواسته اند.
  167. آنها به طور اتفاقی از او خواسته بودند که
    کار اشتباهی را انجام دهد.
  168. این مسئله برای تمام هوش های مصنوعی
    رخ می دهد.

  169. هوش مصنوعی می تواند بدون آنکه بداند
    بسیار مخرب باشد.
  170. پس هوش مصنوعی که محتوای جدید در فیسبوک
    و یوتیوب پیشنهاد می کند،
  171. طوری برنامه ریزی شده است که تعداد بیننده
    و کلیک ها را افزایش دهد.
  172. و متاسفانه، راهی که هوش مصنوعی برای انجام
    اینکار یافته این است که
  173. محتوای متعصابه و تئوری های توطئه را
    پیشنهاد کند.
  174. هوش مصنوعی خودش نمی داند که این محتوا
    چه معنایی دارد
  175. و از عواقب پیشنهاد کردن آن
  176. هیچ اطلاعی ندارد.
  177. پس، زمانی که ما با هوش مصنوعی کار می کنیم،

  178. دوری کردن از مشکلات به خود ما
    بستگی دارد.
  179. و همچنین دوری کردن از مسادلی که
    به خطا می روند
  180. و منجر به مشکلات قدیمی ارتباطات
    می شود
  181. که ما می بایست به عنوان انسان چگونگی
    تعامل با هوش مصنوعی را بیاموزیم.
  182. ما باید بدانیم که هوش مصنوعی قادر به
    انجام چه کارهایی می باشد
  183. و برای فهمیدن هوش مصنوعی،
    و مغز کوچک آن
  184. باید بدانیم که هوش مصنوعی از کاری که ما از
    آن می خواهیم چیزی نمی داند.
  185. به بیان دیگر، ما باید آماده باشیم تا
    با هوش مصنوعی کار کنیم که
  186. قادر مطلق یا عالم مطلق، آن طور که در
    فیلم های تخیلی دیده می شود نیست.
  187. ما باید آماده باشیم تا با هوش مصنوعی
    کار کنیم که
  188. در حال حاضر در دسترس داریم
  189. و هوش مصنوعی در دسترس ما
    به اندازه کافی عجیب است.
  190. ممنونم.

  191. (تشویق حضار)