1 00:00:01,020 --> 00:00:04,765 خب، هوش مصنوعی 2 00:00:04,789 --> 00:00:08,318 به مختل کردن تمامی صنایع مشهور است. 3 00:00:08,961 --> 00:00:11,004 صنعت بستنی سازی چطور؟ 4 00:00:11,879 --> 00:00:15,518 چه نوع مزه های جدید و جالب را می توانیم 5 00:00:15,542 --> 00:00:18,518 با قدرت هوش مصنوعی پیشرفته تولید کنیم؟ 6 00:00:19,011 --> 00:00:23,172 خب، من با گروهی از برنامه نویسان از مدرسه متوسطه کیلینگ تیم شدیم 7 00:00:23,196 --> 00:00:25,437 تا پاسخ این سوال را پیدا کنیم. 8 00:00:25,461 --> 00:00:30,542 آنها بیش از ۱,۶۰۰ نوع مزه بستنی یافتند، 9 00:00:30,566 --> 00:00:36,088 و ما با هم، آنها در الگوریتمی قرار دادیم تا ببینیم جه چیزی تولید می شود. 10 00:00:36,112 --> 00:00:39,865 و اینها برخی از مزه هایی است که هوش مصنوعی آنها را تولید کرده است. 11 00:00:40,444 --> 00:00:41,915 [آشغال کدو تنبل] 12 00:00:41,939 --> 00:00:43,341 (صدای خنده) 13 00:00:43,365 --> 00:00:45,834 [لجنِ کره بادام زمینی] 14 00:00:46,822 --> 00:00:48,165 [مرض خامه توت فرنگی] 15 00:00:48,189 --> 00:00:50,315 (صدای خنده) 16 00:00:50,339 --> 00:00:54,936 این طعم ها اصلا خوشمزه نیستند در حالی که ما انتظار خوشمزه بودن آنها را داشتیم. 17 00:00:54,960 --> 00:00:56,824 سوال اینجاست که: چه اتفاقی افتاد؟ 18 00:00:56,848 --> 00:00:58,242 اشتباه از کجا بود؟ 19 00:00:58,266 --> 00:01:00,225 آیا هوش مصنوعی سعی در کشتن ما را دارد؟ 20 00:01:01,027 --> 00:01:05,337 یا که سعی دارد آن کاری که ما خواستیم را انجام دهد، و سپس مشکل پیش آمده است؟ 21 00:01:06,567 --> 00:01:09,031 در فیلم ها، زمانی که مشکلی برای هوش مصنوعی رخ می دهد 22 00:01:09,055 --> 00:01:11,767 معمولاً به این خاطر است که هوش مصنوعی تصمیم داشته 23 00:01:11,791 --> 00:01:14,063 که از دستورات انسان ها دیگر پیروی نکند، 24 00:01:14,087 --> 00:01:16,710 و هدفهای خودش را دارد، خیلی ممنون. 25 00:01:17,266 --> 00:01:20,482 اما در زندگی واقعی، هوش مصنوعی که ما در اختیار داریم 26 00:01:20,506 --> 00:01:22,369 هنوز برای آن کارها آنقدر باهوش نیست. 27 00:01:22,781 --> 00:01:25,763 هوش مصنوعی ما قدرت محاسباتی نزدیک به 28 00:01:25,787 --> 00:01:27,063 یک کرم خاکی، 29 00:01:27,087 --> 00:01:30,490 یا حداکثر یک زنبور عسل را دارد، 30 00:01:30,514 --> 00:01:32,729 و در واقع حتی کمتر از آن. 31 00:01:32,753 --> 00:01:35,347 ما مدام در حال یادگیری جنبه های جدیدی از مغز هستیم که 32 00:01:35,371 --> 00:01:39,731 مشخص می کند هوشهای مصنوعی ما هنوز نزدیک به مغزهای واقعی نیستند. 33 00:01:39,755 --> 00:01:45,418 خب، امروزه هوش های مصنوعی می توانند وظیفه ای مثل تشخیص پیاده رو در یک عکس را 34 00:01:45,442 --> 00:01:48,425 انجام دهند اما آنها از مفهوم پیاده رو چیزی جز یک سری 35 00:01:48,449 --> 00:01:53,273 خطوط و بافت نمی دانند. 36 00:01:53,792 --> 00:01:56,313 آنها حتی نمی دانند انسان چیست. 37 00:01:56,822 --> 00:02:00,104 پس آیا هوش های مصنوعی امروزه کاری که می خواهیم را انجام می دهند؟ 38 00:02:00,128 --> 00:02:01,722 در صورتی که بتوانند انجام می دهند 39 00:02:01,746 --> 00:02:04,472 اما ممکن است کاری که ما می خواهیم نباشد. 40 00:02:04,496 --> 00:02:06,911 خب بگذارید فرض کنیم که شما می خواهید یک هوش مصنوعی 41 00:02:06,935 --> 00:02:09,554 مجموعه ای از بخشهای یک روبات را بگیرد 42 00:02:09,578 --> 00:02:13,775 و آن را به رباتی تبدیل کند که از نقطه A به نقطه B می رود. 43 00:02:13,799 --> 00:02:16,280 حالا، اگر شما می خواستید این مسئله را با 44 00:02:16,304 --> 00:02:18,655 نوشتن یک برنامه سنتی کامپیوتری حل کنید، 45 00:02:18,679 --> 00:02:22,096 شما به برنامه دستورالعملهای پله پله می دادید 46 00:02:22,120 --> 00:02:23,449 که چطور این بخش را برداشته، 47 00:02:23,473 --> 00:02:25,880 به هم بچسباند تا رباتی دو پا بسازد 48 00:02:25,904 --> 00:02:28,846 و سپس به وسیله آن پاها به نقطه B برود. 49 00:02:29,441 --> 00:02:31,781 اما زمانی که در حال استفاده از هوش مصنوعی هستید 50 00:02:31,805 --> 00:02:32,979 مسئله متفاوت است. 51 00:02:33,003 --> 00:02:35,385 شما به آن نمی گویید چطور مسئله را حال کند، 52 00:02:35,409 --> 00:02:36,888 شما تنها به آن هدف را می دهید، 53 00:02:36,912 --> 00:02:40,174 و او می بایست از طریق آزمایش و خطا 54 00:02:40,198 --> 00:02:41,682 خودش به هدف برسد. 55 00:02:42,254 --> 00:02:46,356 و اینطور به نظر می رسد که هوش مصنوعی این مسئله خاص را 56 00:02:46,380 --> 00:02:47,864 بدین گونه حل می کند: 57 00:02:47,888 --> 00:02:51,255 ابتدا خودش را به یک برج تبدیل می کند و سپس سقوط می کند 58 00:02:51,279 --> 00:02:53,106 و در نقطه B به زمین می خورد. 59 00:02:53,130 --> 00:02:55,719 و از لحاظ تکنیکی مسئله حل شده است. 60 00:02:55,813 --> 00:02:57,622 از لحاظ تکنیکی به نقطه B رسیده است. 61 00:02:57,646 --> 00:03:01,911 خطر هوش مصنوعی این نیست که او قرار است علیه ما شورش کند، 62 00:03:01,935 --> 00:03:06,209 خطر این است که او دقیقاً کاری که ما بخواهیم را انجام می دهد. 63 00:03:06,876 --> 00:03:09,374 پس ترفند استفاده از هوش مصنوعی این است که: 64 00:03:09,398 --> 00:03:13,226 ما چطور مسئله را طرح کنیم که در واقع کاری که می خواهیم را انجام دهد؟ 65 00:03:14,726 --> 00:03:18,032 این ربات کوچک در اینجا توسط یک هوش مصنوعی کنترل می شود. 66 00:03:18,056 --> 00:03:20,870 هوش مصنوعی به طرحی برای پاهای ربات رسیده است 67 00:03:20,894 --> 00:03:24,972 و چگونگی استفاده از این پاها را برای گذشتن از این موانع را فهمیده است. 68 00:03:24,996 --> 00:03:27,737 اما زمانی که دیوید ها این آزمایش را ساخته است، 69 00:03:27,761 --> 00:03:30,617 محدودیتهای بسیار زیادی در رابطه با 70 00:03:30,641 --> 00:03:33,933 اندازه مجاز پاها گذاشته است. 71 00:03:33,957 --> 00:03:35,507 زیرا در غیر این صورت ... 72 00:03:43,058 --> 00:03:46,989 (صدای خنده) 73 00:03:48,563 --> 00:03:52,308 و از لحاظ تکنیکی، به انتهای موانع رسیده است. 74 00:03:52,332 --> 00:03:57,274 پس می بینید که یک کار ساده مانند به راه انداختن هوش مصنوعی چقدر سخت است. 75 00:03:57,298 --> 00:04:01,118 خب، با دیدن انجام این کار از هوش مصنوعی شما ممکن است بگویید، عادلانه نیست، 76 00:04:01,142 --> 00:04:03,722 شما نمی توانی یک برج بلند باشی و فقط سقوط کنی 77 00:04:03,746 --> 00:04:07,181 شما باید از پاهایت برای راه رفتن استفاده کنی. 78 00:04:07,205 --> 00:04:09,964 اینطور که معلوم است، این نظر همیشه صادق نیست. 79 00:04:09,988 --> 00:04:12,747 کار این هوش مصنوعی این بوده است که سریع حرکت کند. 80 00:04:13,115 --> 00:04:16,708 آنها نگفتند که باید رو به جلو حرکت کند 81 00:04:16,732 --> 00:04:18,990 یا نمی تواند از دست هایش استفاده کند. 82 00:04:19,487 --> 00:04:24,105 پس زمانی که از یک هوش مصنوعی می خواهیم که سریع حرکت کند، 83 00:04:24,129 --> 00:04:27,663 چیزی شبیه پُشتک زدن و ابلهانه راه رفتن می گیرید. 84 00:04:27,687 --> 00:04:29,087 کاملاً معمول است. 85 00:04:29,667 --> 00:04:32,846 همینطور پیچ خوردن روی زمین. 86 00:04:32,870 --> 00:04:34,020 (صدای خنده) 87 00:04:35,241 --> 00:04:38,495 پس به عقیده من، چیزی که می بایست خیلی عجیب تر باشد 88 00:04:38,519 --> 00:04:39,915 ربات های فیلم ترمیناتور است. 89 00:04:40,076 --> 00:04:44,035 هک کردن «ماتریکس» نیز کار دیگر ایست که هوش مصنوعی اگر شانسش را داشت انجام می داد. 90 00:04:44,035 --> 00:04:46,552 پس اگر یک هوش مصنوعی را در یک شبیه سازی آموزش دهید 91 00:04:46,576 --> 00:04:50,689 یاد میگیرد که کارهایی چون استفاده از خطاهای ریاضی شبیه سازی 92 00:04:50,713 --> 00:04:52,920 و استفاده از آنها برای انرژی را انجام دهد. 93 00:04:52,944 --> 00:04:58,189 یا اینکه چگونه با پیچیدن به زمین سریع تر حرکت کند. 94 00:04:58,273 --> 00:05:00,258 زمانیکه شما در حال کار با هوش مصنوعی هستید 95 00:05:00,372 --> 00:05:02,441 کمتر شبیه به کار با انسانی دیگر است 96 00:05:02,465 --> 00:05:06,094 و بیشتر شبیه به کار با نیروی عجیبی از طبیعت است. 97 00:05:06,562 --> 00:05:11,185 و به صورت اتفاقی دادن مسئله اشتباه برای حل به هوش مصنوعی آسان است، 98 00:05:11,209 --> 00:05:15,747 و اغلب ما متوجه نمی شویم تا زمانی که اشتباهی رخ دهد. 99 00:05:16,242 --> 00:05:18,322 خب، این یک آزمایش است که من انجام داده ام 100 00:05:18,346 --> 00:05:21,528 که در آن از هوش مصنوعی خواستم تا رنگ ها را تکثیر کند 101 00:05:21,552 --> 00:05:23,298 تا به رنگ های جدیدی برسد، 102 00:05:23,322 --> 00:05:26,309 با دادن لیستی که در سمت چپ می بینید. 103 00:05:26,798 --> 00:05:29,802 و این چیزی است که هوش مصنوعی به آن رسیده است. 104 00:05:29,826 --> 00:05:32,969 [ساندیس مدفوع، پشکل، زجر، موی قهوه ای] 105 00:05:32,993 --> 00:05:37,223 (صدای خنده) 106 00:05:39,177 --> 00:05:41,063 از لحاظ تکنیکی، 107 00:05:41,087 --> 00:05:42,951 او کاری را که من خواسته بودم انجام داد. 108 00:05:42,975 --> 00:05:46,283 من فکر کردم که از او نام رنگ های زیبا می خواهم 109 00:05:46,307 --> 00:05:48,614 اما در واقع از او می خواستم که 110 00:05:48,638 --> 00:05:51,724 ترکیب حروف را تقلید کند 111 00:05:51,748 --> 00:05:53,653 که در نسخه اصلی دیده است. 112 00:05:53,677 --> 00:05:56,775 و من چیزی در رابطه با معنای کلمات به او نگفتم، 113 00:05:56,799 --> 00:05:59,169 یا اینکه ممکن است کلماتی وجود داشته باشند 114 00:05:59,193 --> 00:06:02,292 که او می بایست از استفاده آنها برای این رنگ ها خودداری کند. 115 00:06:03,141 --> 00:06:06,635 بنابراین تمام دنیای او داده هایی است که من به او داده ام. 116 00:06:06,659 --> 00:06:10,687 همانند طعم بستنی ها، او از هیچ چیز دیگر باخبر نیست. 117 00:06:12,491 --> 00:06:14,129 پس از طریق داده است که 118 00:06:14,153 --> 00:06:18,197 ما اغلب به اشتباه به هوش مصنوعی می گوییم کاری را انجام دهد. 119 00:06:18,694 --> 00:06:21,726 این یک ماهی به نام «تنچ» است. 120 00:06:21,750 --> 00:06:23,565 گروهی از محققان 121 00:06:23,589 --> 00:06:27,463 هوش مصنوعی را پرورش دادند تا این ماهی را در تصاویر تشخیص دهد. 122 00:06:27,487 --> 00:06:28,783 اما زمانی که از او پرسیدند 123 00:06:28,807 --> 00:06:32,233 که از طریق کدام بخش عکس این شناسایی را انجام داده است 124 00:06:32,257 --> 00:06:33,995 او این قسمت را نشان داده است. 125 00:06:35,203 --> 00:06:37,392 بله، آنها انگشت انسان هستند. 126 00:06:37,416 --> 00:06:39,475 چرا او باید به دنبال انگشت انسانها باشد 127 00:06:39,499 --> 00:06:41,420 اگر هدف یافتن ماهی است؟ 128 00:06:42,126 --> 00:06:45,290 خب، اینطور که معلوم است ماهی تنچ یک نوع جایزه است، 129 00:06:45,314 --> 00:06:49,125 بنابراین در تصاویر زیادی که هوش مصنوعی در طول آموزش 130 00:06:49,149 --> 00:06:50,300 مشاهد کرده است، 131 00:06:50,324 --> 00:06:51,814 ماهی بدین صورت بوده است. 132 00:06:51,838 --> 00:06:53,473 (صدای خنده) 133 00:06:53,497 --> 00:06:56,827 هوش مصنوعی از این حقیقت مطلع نبوده است که انگشت ها عضوی از ماهی نیستند. 134 00:06:58,808 --> 00:07:02,928 بنابراین شما می بینید که چرا طراحی یک هوش مصنوعی که 135 00:07:02,952 --> 00:07:06,271 تشخیص دهد به چه چیزی می نگرد دشوار است. 136 00:07:06,295 --> 00:07:09,157 و به همین دلیل طراحی دوربین های تشخیص چهره 137 00:07:09,181 --> 00:07:11,248 در خودروهای بدون سرنشین بسیار دشوار است، 138 00:07:11,272 --> 00:07:13,477 و علت بسیاری از مشکلات خودروهای بدون سرنشین 139 00:07:13,501 --> 00:07:16,386 گیچ شدن هوش مصنوعی است. 140 00:07:16,410 --> 00:07:20,418 می خواهم در رابطه با مثالی در سال ۲۰۱۶ صحبت کنم. 141 00:07:20,442 --> 00:07:24,897 فردی با استفاده از راننده خودکار تسلا وارد تصادفی خطرناک شده بود. 142 00:07:24,921 --> 00:07:28,335 او بجای استفاده از این تکنولوژی بر اساس طراحی آن در بزرگراه 143 00:07:28,359 --> 00:07:30,564 آن را در خیابان های شهر استفاده کرده بود. 144 00:07:31,239 --> 00:07:32,414 اتفاقی که رخ داد چنین بود 145 00:07:32,438 --> 00:07:35,834 کامیونی جلوی خودرو آمد و خودرو نتوانست ترمز بگیرد. 146 00:07:36,507 --> 00:07:41,269 خب، هوش مصنوعی کاملاً آموزش دیده بود تا کامیون ها را در عکس تشخیص دهد 147 00:07:41,293 --> 00:07:43,438 اما اتفاقی که افتاد چنین بود که 148 00:07:43,462 --> 00:07:46,393 هوش مصنوعی آموزش دیده بود تا کامیون ها را در بزرگراه تشخیص دهد 149 00:07:46,417 --> 00:07:49,316 که شما انتظار دارید کامیون ها را پشت سرتان ببینید. 150 00:07:49,340 --> 00:07:52,760 کامیون های کناری قرار نیست در بزرگراه ها باشند، 151 00:07:52,784 --> 00:07:56,239 پس زمانی که هوش مصنوعی این کامیون را دیده، 152 00:07:56,263 --> 00:08:01,090 به احتمال زیاد آن را یکی از علائم خیابانی دیده است 153 00:08:01,114 --> 00:08:03,387 و به همین دلیل، رفتن به سمت آن امن بوده. 154 00:08:04,114 --> 00:08:06,694 این یک اشتباه دیگر از هوش مصنوعی در زمینه ای دیگر است. 155 00:08:06,718 --> 00:08:10,178 اخیراً شرکت آمازون مجبور شد الگوریتمی که طبقه بندی رزومه ها را 156 00:08:10,202 --> 00:08:11,422 انجام می داد کنار بگذارد 157 00:08:11,446 --> 00:08:15,354 زیرا آنها دریافتند که آن الگوریتم تمایزهای ضد زن داشته است. 158 00:08:15,378 --> 00:08:18,094 اتفاقی که افتاد به این صورت بود که آن ها هوش مصنوعی را بر 159 00:08:18,118 --> 00:08:21,050 رزومه های نمونه افرادی که از قبل می شناختند آموزش داده بودند 160 00:08:21,154 --> 00:08:24,407 و از این نمونه ها، هوش مصنوعی یاد گرفته بود که از رزومه افرادی 161 00:08:24,431 --> 00:08:26,457 که به کالج های زنانه رفته اند یا 162 00:08:26,481 --> 00:08:29,287 کلمه «زن» در هر جای رزومه آنها بوده، دوری کند، 163 00:08:29,311 --> 00:08:33,887 مانند، «تیم فوتبال زنان»، «جامعه مهندسان زن». 164 00:08:33,911 --> 00:08:37,885 هوش مصنوعی نمی دانسته که نباید این مورد خاص را 165 00:08:37,909 --> 00:08:39,887 که انسان ها انجام می دهند کپی کند. 166 00:08:39,911 --> 00:08:43,088 و از لحاظ تکنیکی هوش مصنوعی کاری را انجام داده که از او خواسته اند. 167 00:08:43,112 --> 00:08:46,419 آنها به طور اتفاقی از او خواسته بودند که کار اشتباهی را انجام دهد. 168 00:08:46,653 --> 00:08:49,548 این مسئله برای تمام هوش های مصنوعی رخ می دهد. 169 00:08:50,120 --> 00:08:53,711 هوش مصنوعی می تواند بدون آنکه بداند بسیار مخرب باشد. 170 00:08:53,735 --> 00:08:58,813 پس هوش مصنوعی که محتوای جدید در فیسبوک و یوتیوب پیشنهاد می کند، 171 00:08:58,837 --> 00:09:02,376 طوری برنامه ریزی شده است که تعداد بیننده و کلیک ها را افزایش دهد. 172 00:09:02,400 --> 00:09:05,836 و متاسفانه، راهی که هوش مصنوعی برای انجام اینکار یافته این است که 173 00:09:05,860 --> 00:09:10,363 محتوای متعصابه و تئوری های توطئه را پیشنهاد کند. 174 00:09:10,902 --> 00:09:16,204 هوش مصنوعی خودش نمی داند که این محتوا چه معنایی دارد 175 00:09:16,228 --> 00:09:19,623 و از عواقب پیشنهاد کردن آن 176 00:09:19,647 --> 00:09:21,756 هیچ اطلاعی ندارد. 177 00:09:22,296 --> 00:09:24,307 پس، زمانی که ما با هوش مصنوعی کار می کنیم، 178 00:09:24,331 --> 00:09:28,513 دوری کردن از مشکلات به خود ما بستگی دارد. 179 00:09:28,537 --> 00:09:30,860 و همچنین دوری کردن از مسادلی که به خطا می روند 180 00:09:30,884 --> 00:09:35,410 و منجر به مشکلات قدیمی ارتباطات می شود 181 00:09:35,434 --> 00:09:39,179 که ما می بایست به عنوان انسان چگونگی تعامل با هوش مصنوعی را بیاموزیم. 182 00:09:39,203 --> 00:09:43,242 ما باید بدانیم که هوش مصنوعی قادر به انجام چه کارهایی می باشد 183 00:09:43,266 --> 00:09:46,352 و برای فهمیدن هوش مصنوعی، و مغز کوچک آن 184 00:09:46,376 --> 00:09:50,389 باید بدانیم که هوش مصنوعی از کاری که ما از آن می خواهیم چیزی نمی داند. 185 00:09:51,148 --> 00:09:54,469 به بیان دیگر، ما باید آماده باشیم تا با هوش مصنوعی کار کنیم که 186 00:09:54,493 --> 00:09:59,751 قادر مطلق یا عالم مطلق، آن طور که در فیلم های تخیلی دیده می شود نیست. 187 00:09:59,775 --> 00:10:02,637 ما باید آماده باشیم تا با هوش مصنوعی کار کنیم که 188 00:10:02,661 --> 00:10:05,599 در حال حاضر در دسترس داریم 189 00:10:05,623 --> 00:10:09,828 و هوش مصنوعی در دسترس ما به اندازه کافی عجیب است. 190 00:10:09,852 --> 00:10:11,042 ممنونم. 191 00:10:11,066 --> 00:10:16,291 (تشویق حضار)