0:00:01.020,0:00:04.765 خب، هوش مصنوعی 0:00:04.789,0:00:08.318 به مختل کردن تمامی صنایع مشهور است. 0:00:08.961,0:00:11.004 صنعت بستنی سازی چطور؟ 0:00:11.879,0:00:15.518 چه نوع مزه های جدید و جالب را می توانیم 0:00:15.542,0:00:18.518 با قدرت هوش مصنوعی پیشرفته تولید کنیم؟ 0:00:19.011,0:00:23.172 خب، من با گروهی از برنامه نویسان از[br]مدرسه متوسطه کیلینگ تیم شدیم 0:00:23.196,0:00:25.437 تا پاسخ این سوال را پیدا کنیم. 0:00:25.461,0:00:30.542 آنها بیش از ۱,۶۰۰ نوع مزه بستنی یافتند، 0:00:30.566,0:00:36.088 و ما با هم، آنها در الگوریتمی قرار دادیم[br]تا ببینیم جه چیزی تولید می شود. 0:00:36.112,0:00:39.865 و اینها برخی از مزه هایی است که[br]هوش مصنوعی آنها را تولید کرده است. 0:00:40.444,0:00:41.915 [آشغال کدو تنبل] 0:00:41.939,0:00:43.341 (صدای خنده) 0:00:43.365,0:00:45.834 [لجنِ کره بادام زمینی] 0:00:46.822,0:00:48.165 [مرض خامه توت فرنگی] 0:00:48.189,0:00:50.315 (صدای خنده) 0:00:50.339,0:00:54.936 این طعم ها اصلا خوشمزه نیستند در حالی که[br]ما انتظار خوشمزه بودن آنها را داشتیم. 0:00:54.960,0:00:56.824 سوال اینجاست که: چه اتفاقی افتاد؟ 0:00:56.848,0:00:58.242 اشتباه از کجا بود؟ 0:00:58.266,0:01:00.225 آیا هوش مصنوعی سعی در کشتن ما را دارد؟ 0:01:01.027,0:01:05.337 یا که سعی دارد آن کاری که ما خواستیم را[br]انجام دهد، و سپس مشکل پیش آمده است؟ 0:01:06.567,0:01:09.031 در فیلم ها، زمانی که مشکلی برای[br]هوش مصنوعی رخ می دهد 0:01:09.055,0:01:11.767 معمولاً به این خاطر است که هوش مصنوعی[br]تصمیم داشته 0:01:11.791,0:01:14.063 که از دستورات انسان ها دیگر پیروی نکند، 0:01:14.087,0:01:16.710 و هدفهای خودش را دارد،[br]خیلی ممنون. 0:01:17.266,0:01:20.482 اما در زندگی واقعی، هوش مصنوعی که [br]ما در اختیار داریم 0:01:20.506,0:01:22.369 هنوز برای آن کارها آنقدر باهوش نیست. 0:01:22.781,0:01:25.763 هوش مصنوعی ما قدرت محاسباتی نزدیک به 0:01:25.787,0:01:27.063 یک کرم خاکی، 0:01:27.087,0:01:30.490 یا حداکثر یک زنبور عسل را دارد، 0:01:30.514,0:01:32.729 و در واقع حتی کمتر از آن. 0:01:32.753,0:01:35.347 ما مدام در حال یادگیری جنبه های جدیدی از[br]مغز هستیم که 0:01:35.371,0:01:39.731 مشخص می کند هوشهای مصنوعی ما[br]هنوز نزدیک به مغزهای واقعی نیستند. 0:01:39.755,0:01:45.418 خب، امروزه هوش های مصنوعی می توانند[br]وظیفه ای مثل تشخیص پیاده رو در یک عکس را 0:01:45.442,0:01:48.425 انجام دهند اما آنها از مفهوم پیاده رو چیزی[br]جز یک سری 0:01:48.449,0:01:53.273 خطوط و بافت نمی دانند. 0:01:53.792,0:01:56.313 آنها حتی نمی دانند انسان چیست. 0:01:56.822,0:02:00.104 پس آیا هوش های مصنوعی امروزه کاری که [br]می خواهیم را انجام می دهند؟ 0:02:00.128,0:02:01.722 در صورتی که بتوانند انجام می دهند 0:02:01.746,0:02:04.472 اما ممکن است کاری که ما می خواهیم نباشد. 0:02:04.496,0:02:06.911 خب بگذارید فرض کنیم که شما می خواهید[br]یک هوش مصنوعی 0:02:06.935,0:02:09.554 مجموعه ای از بخشهای یک روبات را بگیرد 0:02:09.578,0:02:13.775 و آن را به رباتی تبدیل کند که از نقطه A [br]به نقطه B می رود. 0:02:13.799,0:02:16.280 حالا، اگر شما می خواستید این مسئله را با 0:02:16.304,0:02:18.655 نوشتن یک برنامه سنتی کامپیوتری حل کنید، 0:02:18.679,0:02:22.096 شما به برنامه دستورالعملهای [br]پله پله می دادید 0:02:22.120,0:02:23.449 که چطور این بخش را برداشته، 0:02:23.473,0:02:25.880 به هم بچسباند تا رباتی دو پا بسازد 0:02:25.904,0:02:28.846 و سپس به وسیله آن پاها به نقطه B[br]برود. 0:02:29.441,0:02:31.781 اما زمانی که در حال استفاده از[br]هوش مصنوعی هستید 0:02:31.805,0:02:32.979 مسئله متفاوت است. 0:02:33.003,0:02:35.385 شما به آن نمی گویید چطور مسئله را حال کند، 0:02:35.409,0:02:36.888 شما تنها به آن هدف را می دهید، 0:02:36.912,0:02:40.174 و او می بایست از طریق آزمایش و خطا 0:02:40.198,0:02:41.682 خودش به هدف برسد. 0:02:42.254,0:02:46.356 و اینطور به نظر می رسد که هوش مصنوعی [br]این مسئله خاص را 0:02:46.380,0:02:47.864 بدین گونه حل می کند: 0:02:47.888,0:02:51.255 ابتدا خودش را به یک برج تبدیل می کند[br]و سپس سقوط می کند 0:02:51.279,0:02:53.106 و در نقطه B به زمین می خورد. 0:02:53.130,0:02:55.719 و از لحاظ تکنیکی مسئله حل شده است. 0:02:55.813,0:02:57.622 از لحاظ تکنیکی به نقطه B[br]رسیده است. 0:02:57.646,0:03:01.911 خطر هوش مصنوعی این نیست که [br]او قرار است علیه ما شورش کند، 0:03:01.935,0:03:06.209 خطر این است که او دقیقاً کاری که ما[br]بخواهیم را انجام می دهد. 0:03:06.876,0:03:09.374 پس ترفند استفاده از هوش مصنوعی این است که: 0:03:09.398,0:03:13.226 ما چطور مسئله را طرح کنیم که در واقع کاری[br]که می خواهیم را انجام دهد؟ 0:03:14.726,0:03:18.032 این ربات کوچک در اینجا[br]توسط یک هوش مصنوعی کنترل می شود. 0:03:18.056,0:03:20.870 هوش مصنوعی به طرحی برای پاهای ربات [br]رسیده است 0:03:20.894,0:03:24.972 و چگونگی استفاده از این پاها را برای[br]گذشتن از این موانع را فهمیده است. 0:03:24.996,0:03:27.737 اما زمانی که دیوید ها این آزمایش را[br]ساخته است، 0:03:27.761,0:03:30.617 محدودیتهای بسیار زیادی در رابطه با 0:03:30.641,0:03:33.933 اندازه مجاز پاها گذاشته است. 0:03:33.957,0:03:35.507 زیرا در غیر این صورت ... 0:03:43.058,0:03:46.989 (صدای خنده) 0:03:48.563,0:03:52.308 و از لحاظ تکنیکی،[br]به انتهای موانع رسیده است. 0:03:52.332,0:03:57.274 پس می بینید که یک کار ساده مانند[br]به راه انداختن هوش مصنوعی چقدر سخت است. 0:03:57.298,0:04:01.118 خب، با دیدن انجام این کار از هوش مصنوعی[br]شما ممکن است بگویید، عادلانه نیست، 0:04:01.142,0:04:03.722 شما نمی توانی یک برج بلند باشی و فقط [br]سقوط کنی 0:04:03.746,0:04:07.181 شما باید از پاهایت برای راه رفتن[br]استفاده کنی. 0:04:07.205,0:04:09.964 اینطور که معلوم است،[br]این نظر همیشه صادق نیست. 0:04:09.988,0:04:12.747 کار این هوش مصنوعی این بوده است که[br]سریع حرکت کند. 0:04:13.115,0:04:16.708 آنها نگفتند که باید رو به جلو حرکت کند 0:04:16.732,0:04:18.990 یا نمی تواند از دست هایش استفاده کند. 0:04:19.487,0:04:24.105 پس زمانی که از یک هوش مصنوعی می خواهیم که[br]سریع حرکت کند، 0:04:24.129,0:04:27.663 چیزی شبیه پُشتک زدن و ابلهانه راه رفتن[br]می گیرید. 0:04:27.687,0:04:29.087 کاملاً معمول است. 0:04:29.667,0:04:32.846 همینطور پیچ خوردن روی زمین. 0:04:32.870,0:04:34.020 (صدای خنده) 0:04:35.241,0:04:38.495 پس به عقیده من، چیزی که می بایست[br]خیلی عجیب تر باشد 0:04:38.519,0:04:39.915 ربات های فیلم ترمیناتور است. 0:04:40.076,0:04:44.035 هک کردن «ماتریکس» نیز کار دیگر ایست که[br]هوش مصنوعی اگر شانسش را داشت انجام می داد. 0:04:44.035,0:04:46.552 پس اگر یک هوش مصنوعی را در یک [br]شبیه سازی آموزش دهید 0:04:46.576,0:04:50.689 یاد میگیرد که کارهایی چون استفاده از[br]خطاهای ریاضی شبیه سازی 0:04:50.713,0:04:52.920 و استفاده از آنها برای انرژی را انجام دهد. 0:04:52.944,0:04:58.189 یا اینکه چگونه با پیچیدن به زمین[br]سریع تر حرکت کند. 0:04:58.273,0:05:00.258 زمانیکه شما در حال کار[br]با هوش مصنوعی هستید 0:05:00.372,0:05:02.441 کمتر شبیه به کار با انسانی دیگر است 0:05:02.465,0:05:06.094 و بیشتر شبیه به کار با نیروی عجیبی [br]از طبیعت است. 0:05:06.562,0:05:11.185 و به صورت اتفاقی دادن مسئله اشتباه برای [br]حل به هوش مصنوعی آسان است، 0:05:11.209,0:05:15.747 و اغلب ما متوجه نمی شویم تا زمانی که[br]اشتباهی رخ دهد. 0:05:16.242,0:05:18.322 خب، این یک آزمایش است که من انجام داده ام 0:05:18.346,0:05:21.528 که در آن از هوش مصنوعی خواستم تا[br]رنگ ها را تکثیر کند 0:05:21.552,0:05:23.298 تا به رنگ های جدیدی برسد، 0:05:23.322,0:05:26.309 با دادن لیستی که در سمت چپ می بینید. 0:05:26.798,0:05:29.802 و این چیزی است که هوش مصنوعی به [br]آن رسیده است. 0:05:29.826,0:05:32.969 [ساندیس مدفوع، پشکل، زجر، موی قهوه ای] 0:05:32.993,0:05:37.223 (صدای خنده) 0:05:39.177,0:05:41.063 از لحاظ تکنیکی، 0:05:41.087,0:05:42.951 او کاری را که من خواسته بودم انجام داد. 0:05:42.975,0:05:46.283 من فکر کردم که از او نام رنگ های[br]زیبا می خواهم 0:05:46.307,0:05:48.614 اما در واقع از او می خواستم که 0:05:48.638,0:05:51.724 ترکیب حروف را تقلید کند 0:05:51.748,0:05:53.653 که در نسخه اصلی دیده است. 0:05:53.677,0:05:56.775 و من چیزی در رابطه با معنای کلمات[br]به او نگفتم، 0:05:56.799,0:05:59.169 یا اینکه ممکن است کلماتی وجود داشته باشند 0:05:59.193,0:06:02.292 که او می بایست از استفاده آنها[br]برای این رنگ ها خودداری کند. 0:06:03.141,0:06:06.635 بنابراین تمام دنیای او داده هایی است که من[br]به او داده ام. 0:06:06.659,0:06:10.687 همانند طعم بستنی ها،[br]او از هیچ چیز دیگر باخبر نیست. 0:06:12.491,0:06:14.129 پس از طریق داده است که 0:06:14.153,0:06:18.197 ما اغلب به اشتباه به هوش مصنوعی می گوییم[br]کاری را انجام دهد. 0:06:18.694,0:06:21.726 این یک ماهی به نام «تنچ» است. 0:06:21.750,0:06:23.565 گروهی از محققان 0:06:23.589,0:06:27.463 هوش مصنوعی را پرورش دادند تا این ماهی[br]را در تصاویر تشخیص دهد. 0:06:27.487,0:06:28.783 اما زمانی که از او پرسیدند 0:06:28.807,0:06:32.233 که از طریق کدام بخش عکس این شناسایی را[br]انجام داده است 0:06:32.257,0:06:33.995 او این قسمت را نشان داده است. 0:06:35.203,0:06:37.392 بله، آنها انگشت انسان هستند. 0:06:37.416,0:06:39.475 چرا او باید به دنبال انگشت انسانها باشد 0:06:39.499,0:06:41.420 اگر هدف یافتن ماهی است؟ 0:06:42.126,0:06:45.290 خب، اینطور که معلوم است ماهی تنچ[br]یک نوع جایزه است، 0:06:45.314,0:06:49.125 بنابراین در تصاویر زیادی که هوش مصنوعی[br]در طول آموزش 0:06:49.149,0:06:50.300 مشاهد کرده است، 0:06:50.324,0:06:51.814 ماهی بدین صورت بوده است. 0:06:51.838,0:06:53.473 (صدای خنده) 0:06:53.497,0:06:56.827 هوش مصنوعی از این حقیقت مطلع نبوده است[br]که انگشت ها عضوی از ماهی نیستند. 0:06:58.808,0:07:02.928 بنابراین شما می بینید که چرا طراحی[br]یک هوش مصنوعی که 0:07:02.952,0:07:06.271 تشخیص دهد به چه چیزی می نگرد[br]دشوار است. 0:07:06.295,0:07:09.157 و به همین دلیل طراحی دوربین های [br]تشخیص چهره 0:07:09.181,0:07:11.248 در خودروهای بدون سرنشین بسیار دشوار است، 0:07:11.272,0:07:13.477 و علت بسیاری از مشکلات[br]خودروهای بدون سرنشین 0:07:13.501,0:07:16.386 گیچ شدن هوش مصنوعی است. 0:07:16.410,0:07:20.418 می خواهم در رابطه با مثالی در سال ۲۰۱۶[br]صحبت کنم. 0:07:20.442,0:07:24.897 فردی با استفاده از راننده خودکار تسلا[br]وارد تصادفی خطرناک شده بود. 0:07:24.921,0:07:28.335 او بجای استفاده از این تکنولوژی بر اساس [br]طراحی آن در بزرگراه 0:07:28.359,0:07:30.564 آن را در خیابان های شهر استفاده کرده بود. 0:07:31.239,0:07:32.414 اتفاقی که رخ داد[br]چنین بود 0:07:32.438,0:07:35.834 کامیونی جلوی خودرو آمد و خودرو نتوانست[br]ترمز بگیرد. 0:07:36.507,0:07:41.269 خب، هوش مصنوعی کاملاً آموزش دیده بود تا[br]کامیون ها را در عکس تشخیص دهد 0:07:41.293,0:07:43.438 اما اتفاقی که افتاد چنین بود که 0:07:43.462,0:07:46.393 هوش مصنوعی آموزش دیده بود تا کامیون ها را[br]در بزرگراه تشخیص دهد 0:07:46.417,0:07:49.316 که شما انتظار دارید کامیون ها[br]را پشت سرتان ببینید. 0:07:49.340,0:07:52.760 کامیون های کناری قرار نیست[br]در بزرگراه ها باشند، 0:07:52.784,0:07:56.239 پس زمانی که هوش مصنوعی این کامیون را دیده، 0:07:56.263,0:08:01.090 به احتمال زیاد آن را یکی از علائم خیابانی[br]دیده است 0:08:01.114,0:08:03.387 و به همین دلیل، رفتن به سمت آن امن بوده. 0:08:04.114,0:08:06.694 این یک اشتباه دیگر از هوش مصنوعی [br]در زمینه ای دیگر است. 0:08:06.718,0:08:10.178 اخیراً شرکت آمازون مجبور شد الگوریتمی[br]که طبقه بندی رزومه ها را 0:08:10.202,0:08:11.422 انجام می داد کنار بگذارد 0:08:11.446,0:08:15.354 زیرا آنها دریافتند که آن الگوریتم تمایزهای[br]ضد زن داشته است. 0:08:15.378,0:08:18.094 اتفاقی که افتاد به این صورت بود که آن ها[br]هوش مصنوعی را بر 0:08:18.118,0:08:21.050 رزومه های نمونه افرادی که از قبل[br]می شناختند آموزش داده بودند 0:08:21.154,0:08:24.407 و از این نمونه ها، هوش مصنوعی یاد گرفته [br]بود که از رزومه افرادی 0:08:24.431,0:08:26.457 که به کالج های زنانه رفته اند یا 0:08:26.481,0:08:29.287 کلمه «زن» در هر جای رزومه آنها بوده،[br]دوری کند، 0:08:29.311,0:08:33.887 مانند، «تیم فوتبال زنان»،[br]«جامعه مهندسان زن». 0:08:33.911,0:08:37.885 هوش مصنوعی نمی دانسته[br]که نباید این مورد خاص را 0:08:37.909,0:08:39.887 که انسان ها انجام می دهند کپی کند. 0:08:39.911,0:08:43.088 و از لحاظ تکنیکی هوش مصنوعی کاری را انجام[br]داده که از او خواسته اند. 0:08:43.112,0:08:46.419 آنها به طور اتفاقی از او خواسته بودند که[br]کار اشتباهی را انجام دهد. 0:08:46.653,0:08:49.548 این مسئله برای تمام هوش های مصنوعی[br]رخ می دهد. 0:08:50.120,0:08:53.711 هوش مصنوعی می تواند بدون آنکه بداند [br]بسیار مخرب باشد. 0:08:53.735,0:08:58.813 پس هوش مصنوعی که محتوای جدید در فیسبوک[br]و یوتیوب پیشنهاد می کند، 0:08:58.837,0:09:02.376 طوری برنامه ریزی شده است که تعداد بیننده[br]و کلیک ها را افزایش دهد. 0:09:02.400,0:09:05.836 و متاسفانه، راهی که هوش مصنوعی برای انجام[br]اینکار یافته این است که 0:09:05.860,0:09:10.363 محتوای متعصابه و تئوری های توطئه را [br]پیشنهاد کند. 0:09:10.902,0:09:16.204 هوش مصنوعی خودش نمی داند که این محتوا[br]چه معنایی دارد 0:09:16.228,0:09:19.623 و از عواقب پیشنهاد کردن آن 0:09:19.647,0:09:21.756 هیچ اطلاعی ندارد. 0:09:22.296,0:09:24.307 پس، زمانی که ما با هوش مصنوعی کار می کنیم، 0:09:24.331,0:09:28.513 دوری کردن از مشکلات به خود ما [br]بستگی دارد. 0:09:28.537,0:09:30.860 و همچنین دوری کردن از مسادلی که[br]به خطا می روند 0:09:30.884,0:09:35.410 و منجر به مشکلات قدیمی ارتباطات [br]می شود 0:09:35.434,0:09:39.179 که ما می بایست به عنوان انسان چگونگی[br]تعامل با هوش مصنوعی را بیاموزیم. 0:09:39.203,0:09:43.242 ما باید بدانیم که هوش مصنوعی قادر به[br]انجام چه کارهایی می باشد 0:09:43.266,0:09:46.352 و برای فهمیدن هوش مصنوعی،[br]و مغز کوچک آن 0:09:46.376,0:09:50.389 باید بدانیم که هوش مصنوعی از کاری که ما از[br]آن می خواهیم چیزی نمی داند. 0:09:51.148,0:09:54.469 به بیان دیگر، ما باید آماده باشیم تا[br]با هوش مصنوعی کار کنیم که 0:09:54.493,0:09:59.751 قادر مطلق یا عالم مطلق، آن طور که در[br]فیلم های تخیلی دیده می شود نیست. 0:09:59.775,0:10:02.637 ما باید آماده باشیم تا با هوش مصنوعی[br]کار کنیم که 0:10:02.661,0:10:05.599 در حال حاضر در دسترس داریم 0:10:05.623,0:10:09.828 و هوش مصنوعی در دسترس ما [br]به اندازه کافی عجیب است. 0:10:09.852,0:10:11.042 ممنونم. 0:10:11.066,0:10:16.291 (تشویق حضار)