WEBVTT

00:00:01.020 --> 00:00:04.765
خب، هوش مصنوعی

00:00:04.789 --> 00:00:08.318
به مختل کردن تمامی صنایع مشهور است.

00:00:08.961 --> 00:00:11.004
صنعت بستنی سازی چطور؟

00:00:11.879 --> 00:00:15.518
چه نوع مزه های جدید و جالب را می توانیم

00:00:15.542 --> 00:00:18.518
با قدرت هوش مصنوعی پیشرفته تولید کنیم؟

00:00:19.011 --> 00:00:23.172
خب، من با گروهی از برنامه نویسان از
مدرسه متوسطه کیلینگ تیم شدیم

00:00:23.196 --> 00:00:25.437
تا پاسخ این سوال را پیدا کنیم.

00:00:25.461 --> 00:00:30.542
آنها بیش از ۱,۶۰۰ نوع مزه بستنی یافتند،

00:00:30.566 --> 00:00:36.088
و ما با هم، آنها در الگوریتمی قرار دادیم
تا ببینیم جه چیزی تولید می شود.

00:00:36.112 --> 00:00:39.865
و اینها برخی از مزه هایی است که
هوش مصنوعی آنها را تولید کرده است.

NOTE Paragraph

00:00:40.444 --> 00:00:41.915
[آشغال کدو تنبل]

NOTE Paragraph

00:00:41.939 --> 00:00:43.341
(صدای خنده)

NOTE Paragraph

00:00:43.365 --> 00:00:45.834
[لجنِ کره بادام زمینی]

NOTE Paragraph

00:00:46.822 --> 00:00:48.165
[مرض خامه توت فرنگی]

NOTE Paragraph

00:00:48.189 --> 00:00:50.315
(صدای خنده)

NOTE Paragraph

00:00:50.339 --> 00:00:54.936
این طعم ها اصلا خوشمزه نیستند در حالی که
ما انتظار خوشمزه بودن آنها را داشتیم.

00:00:54.960 --> 00:00:56.824
سوال اینجاست که: چه اتفاقی افتاد؟

00:00:56.848 --> 00:00:58.242
اشتباه از کجا بود؟

00:00:58.266 --> 00:01:00.225
آیا هوش مصنوعی سعی در کشتن ما را دارد؟

00:01:01.027 --> 00:01:05.337
یا که سعی دارد آن کاری که ما خواستیم را
انجام دهد، و سپس مشکل پیش آمده است؟

NOTE Paragraph

00:01:06.567 --> 00:01:09.031
در فیلم ها، زمانی که مشکلی برای
هوش مصنوعی رخ می دهد

00:01:09.055 --> 00:01:11.767
معمولاً به این خاطر است که هوش مصنوعی
تصمیم داشته

00:01:11.791 --> 00:01:14.063
که از دستورات انسان ها دیگر پیروی نکند،

00:01:14.087 --> 00:01:16.710
و هدفهای خودش را دارد،
خیلی ممنون.

00:01:17.266 --> 00:01:20.482
اما در زندگی واقعی، هوش مصنوعی که 
ما در اختیار داریم

00:01:20.506 --> 00:01:22.369
هنوز برای آن کارها آنقدر باهوش نیست.

00:01:22.781 --> 00:01:25.763
هوش مصنوعی ما قدرت محاسباتی نزدیک به

00:01:25.787 --> 00:01:27.063
یک کرم خاکی،

00:01:27.087 --> 00:01:30.490
یا حداکثر یک زنبور عسل را دارد،

00:01:30.514 --> 00:01:32.729
و در واقع حتی کمتر از آن.

00:01:32.753 --> 00:01:35.347
ما مدام در حال یادگیری جنبه های جدیدی از
مغز هستیم که

00:01:35.371 --> 00:01:39.731
مشخص می کند هوشهای مصنوعی ما
هنوز نزدیک به مغزهای واقعی نیستند.

00:01:39.755 --> 00:01:45.418
خب، امروزه هوش های مصنوعی می توانند
وظیفه ای مثل تشخیص پیاده رو در یک عکس را

00:01:45.442 --> 00:01:48.425
انجام دهند اما آنها از مفهوم پیاده رو چیزی
جز یک سری

00:01:48.449 --> 00:01:53.273
خطوط و بافت نمی دانند.

00:01:53.792 --> 00:01:56.313
آنها حتی نمی دانند انسان چیست.

00:01:56.822 --> 00:02:00.104
پس آیا هوش های مصنوعی امروزه کاری که 
می خواهیم را انجام می دهند؟

00:02:00.128 --> 00:02:01.722
در صورتی که بتوانند انجام می دهند

00:02:01.746 --> 00:02:04.472
اما ممکن است کاری که ما می خواهیم نباشد.

NOTE Paragraph

00:02:04.496 --> 00:02:06.911
خب بگذارید فرض کنیم که شما می خواهید
یک هوش مصنوعی

00:02:06.935 --> 00:02:09.554
مجموعه ای از بخشهای یک روبات را بگیرد

00:02:09.578 --> 00:02:13.775
و آن را به رباتی تبدیل کند که از نقطه A 
به نقطه B می رود.

00:02:13.799 --> 00:02:16.280
حالا، اگر شما می خواستید این مسئله را با

00:02:16.304 --> 00:02:18.655
نوشتن یک برنامه سنتی کامپیوتری حل کنید،

00:02:18.679 --> 00:02:22.096
شما به برنامه دستورالعملهای 
پله پله می دادید

00:02:22.120 --> 00:02:23.449
که چطور این بخش را برداشته،

00:02:23.473 --> 00:02:25.880
به هم بچسباند تا رباتی دو پا بسازد

00:02:25.904 --> 00:02:28.846
و سپس به وسیله آن پاها به نقطه B
برود.

00:02:29.441 --> 00:02:31.781
اما زمانی که در حال استفاده از
هوش مصنوعی هستید

00:02:31.805 --> 00:02:32.979
مسئله متفاوت است.

00:02:33.003 --> 00:02:35.385
شما به آن نمی گویید چطور مسئله را حال کند،

00:02:35.409 --> 00:02:36.888
شما تنها به آن هدف را می دهید،

00:02:36.912 --> 00:02:40.174
و او می بایست از طریق آزمایش و خطا

00:02:40.198 --> 00:02:41.682
خودش به هدف برسد.

00:02:42.254 --> 00:02:46.356
و اینطور به نظر می رسد که هوش مصنوعی 
این مسئله خاص را

00:02:46.380 --> 00:02:47.864
بدین گونه حل می کند:

00:02:47.888 --> 00:02:51.255
ابتدا خودش را به یک برج تبدیل می کند
و سپس سقوط می کند

00:02:51.279 --> 00:02:53.106
و در نقطه B به زمین می خورد.

00:02:53.130 --> 00:02:55.719
و از لحاظ تکنیکی مسئله حل شده است.

NOTE Paragraph

00:02:55.813 --> 00:02:57.622
از لحاظ تکنیکی به نقطه B
رسیده است.

00:02:57.646 --> 00:03:01.911
خطر هوش مصنوعی این نیست که 
او قرار است علیه ما شورش کند،

00:03:01.935 --> 00:03:06.209
خطر این است که او دقیقاً کاری که ما
بخواهیم را انجام می دهد.

NOTE Paragraph

00:03:06.876 --> 00:03:09.374
پس ترفند استفاده از هوش مصنوعی این است که:

00:03:09.398 --> 00:03:13.226
ما چطور مسئله را طرح کنیم که در واقع کاری
که می خواهیم را انجام دهد؟

NOTE Paragraph

00:03:14.726 --> 00:03:18.032
این ربات کوچک در اینجا
توسط یک هوش مصنوعی کنترل می شود.

00:03:18.056 --> 00:03:20.870
هوش مصنوعی به طرحی برای پاهای ربات 
رسیده است

00:03:20.894 --> 00:03:24.972
و چگونگی استفاده از این پاها را برای
گذشتن از این موانع را فهمیده است.

00:03:24.996 --> 00:03:27.737
اما زمانی که دیوید ها این آزمایش را
ساخته است،

00:03:27.761 --> 00:03:30.617
محدودیتهای بسیار زیادی در رابطه با

00:03:30.641 --> 00:03:33.933
اندازه مجاز پاها گذاشته است.

00:03:33.957 --> 00:03:35.507
زیرا در غیر این صورت ...

NOTE Paragraph

00:03:43.058 --> 00:03:46.989
(صدای خنده)

NOTE Paragraph

00:03:48.563 --> 00:03:52.308
و از لحاظ تکنیکی،
به انتهای موانع رسیده است.

00:03:52.332 --> 00:03:57.274
پس می بینید که یک کار ساده مانند
به راه انداختن هوش مصنوعی چقدر سخت است.

NOTE Paragraph

00:03:57.298 --> 00:04:01.118
خب، با دیدن انجام این کار از هوش مصنوعی
شما ممکن است بگویید، عادلانه نیست،

00:04:01.142 --> 00:04:03.722
شما نمی توانی یک برج بلند باشی و فقط 
سقوط کنی

00:04:03.746 --> 00:04:07.181
شما باید از پاهایت برای راه رفتن
استفاده کنی.

00:04:07.205 --> 00:04:09.964
اینطور که معلوم است،
این نظر همیشه صادق نیست.

00:04:09.988 --> 00:04:12.747
کار این هوش مصنوعی این بوده است که
سریع حرکت کند.

00:04:13.115 --> 00:04:16.708
آنها نگفتند که باید رو به جلو حرکت کند

00:04:16.732 --> 00:04:18.990
یا نمی تواند از دست هایش استفاده کند.

00:04:19.487 --> 00:04:24.105
پس زمانی که از یک هوش مصنوعی می خواهیم که
سریع حرکت کند،

00:04:24.129 --> 00:04:27.663
چیزی شبیه پُشتک زدن و ابلهانه راه رفتن
می گیرید.

00:04:27.687 --> 00:04:29.087
کاملاً معمول است.

00:04:29.667 --> 00:04:32.846
همینطور پیچ خوردن روی زمین.

NOTE Paragraph

00:04:32.870 --> 00:04:34.020
(صدای خنده)

00:04:35.241 --> 00:04:38.495
پس به عقیده من، چیزی که می بایست
خیلی عجیب تر باشد

00:04:38.519 --> 00:04:39.915
ربات های فیلم ترمیناتور است.

00:04:40.076 --> 00:04:44.035
هک کردن «ماتریکس» نیز کار دیگر ایست که
هوش مصنوعی اگر شانسش را داشت انجام می داد.

00:04:44.035 --> 00:04:46.552
پس اگر یک هوش مصنوعی را در یک 
شبیه سازی آموزش دهید

00:04:46.576 --> 00:04:50.689
یاد میگیرد که کارهایی چون استفاده از
خطاهای ریاضی شبیه سازی

00:04:50.713 --> 00:04:52.920
و استفاده از آنها برای انرژی را انجام دهد.

00:04:52.944 --> 00:04:58.189
یا اینکه چگونه با پیچیدن به زمین
سریع تر حرکت کند.

00:04:58.273 --> 00:05:00.258
زمانیکه شما در حال کار
با هوش مصنوعی هستید

00:05:00.372 --> 00:05:02.441
کمتر شبیه به کار با انسانی دیگر است

00:05:02.465 --> 00:05:06.094
و بیشتر شبیه به کار با نیروی عجیبی 
از طبیعت است.

00:05:06.562 --> 00:05:11.185
و به صورت اتفاقی دادن مسئله اشتباه برای 
حل به هوش مصنوعی آسان است،

00:05:11.209 --> 00:05:15.747
و اغلب ما متوجه نمی شویم تا زمانی که
اشتباهی رخ دهد.

NOTE Paragraph

00:05:16.242 --> 00:05:18.322
خب، این یک آزمایش است که من انجام داده ام

00:05:18.346 --> 00:05:21.528
که در آن از هوش مصنوعی خواستم تا
رنگ ها را تکثیر کند

00:05:21.552 --> 00:05:23.298
تا به رنگ های جدیدی برسد،

00:05:23.322 --> 00:05:26.309
با دادن لیستی که در سمت چپ می بینید.

00:05:26.798 --> 00:05:29.802
و این چیزی است که هوش مصنوعی به 
آن رسیده است.

NOTE Paragraph

00:05:29.826 --> 00:05:32.969
[ساندیس مدفوع، پشکل، زجر، موی قهوه ای]

NOTE Paragraph

00:05:32.993 --> 00:05:37.223
(صدای خنده)

NOTE Paragraph

00:05:39.177 --> 00:05:41.063
از لحاظ تکنیکی،

00:05:41.087 --> 00:05:42.951
او کاری را که من خواسته بودم انجام داد.

00:05:42.975 --> 00:05:46.283
من فکر کردم که از او نام رنگ های
زیبا می خواهم

00:05:46.307 --> 00:05:48.614
اما در واقع از او می خواستم که

00:05:48.638 --> 00:05:51.724
ترکیب حروف را تقلید کند

00:05:51.748 --> 00:05:53.653
که در نسخه اصلی دیده است.

00:05:53.677 --> 00:05:56.775
و من چیزی در رابطه با معنای کلمات
به او نگفتم،

00:05:56.799 --> 00:05:59.169
یا اینکه ممکن است کلماتی وجود داشته باشند

00:05:59.193 --> 00:06:02.292
که او می بایست از استفاده آنها
برای این رنگ ها خودداری کند.

00:06:03.141 --> 00:06:06.635
بنابراین تمام دنیای او داده هایی است که من
به او داده ام.

00:06:06.659 --> 00:06:10.687
همانند طعم بستنی ها،
او از هیچ چیز دیگر باخبر نیست.

NOTE Paragraph

00:06:12.491 --> 00:06:14.129
پس از طریق داده است که

00:06:14.153 --> 00:06:18.197
ما اغلب به اشتباه به هوش مصنوعی می گوییم
کاری را انجام دهد.

00:06:18.694 --> 00:06:21.726
این یک ماهی به نام «تنچ» است.

00:06:21.750 --> 00:06:23.565
گروهی از محققان

00:06:23.589 --> 00:06:27.463
هوش مصنوعی را پرورش دادند تا این ماهی
را در تصاویر تشخیص دهد.

00:06:27.487 --> 00:06:28.783
اما زمانی که از او پرسیدند

00:06:28.807 --> 00:06:32.233
که از طریق کدام بخش عکس این شناسایی را
انجام داده است

00:06:32.257 --> 00:06:33.995
او این قسمت را نشان داده است.

00:06:35.203 --> 00:06:37.392
بله، آنها انگشت انسان هستند.

00:06:37.416 --> 00:06:39.475
چرا او باید به دنبال انگشت انسانها باشد

00:06:39.499 --> 00:06:41.420
اگر هدف یافتن ماهی است؟

00:06:42.126 --> 00:06:45.290
خب، اینطور که معلوم است ماهی تنچ
یک نوع جایزه است،

00:06:45.314 --> 00:06:49.125
بنابراین در تصاویر زیادی که هوش مصنوعی
در طول آموزش

00:06:49.149 --> 00:06:50.300
مشاهد کرده است،

00:06:50.324 --> 00:06:51.814
ماهی بدین صورت بوده است.

NOTE Paragraph

00:06:51.838 --> 00:06:53.473
(صدای خنده)

NOTE Paragraph

00:06:53.497 --> 00:06:56.827
هوش مصنوعی از این حقیقت مطلع نبوده است
که انگشت ها عضوی از ماهی نیستند.

NOTE Paragraph

00:06:58.808 --> 00:07:02.928
بنابراین شما می بینید که چرا طراحی
یک هوش مصنوعی که

00:07:02.952 --> 00:07:06.271
تشخیص دهد به چه چیزی می نگرد
دشوار است.

00:07:06.295 --> 00:07:09.157
و به همین دلیل طراحی دوربین های 
تشخیص چهره

00:07:09.181 --> 00:07:11.248
در خودروهای بدون سرنشین بسیار دشوار است،

00:07:11.272 --> 00:07:13.477
و علت بسیاری از مشکلات
خودروهای بدون سرنشین

00:07:13.501 --> 00:07:16.386
گیچ شدن هوش مصنوعی است.

00:07:16.410 --> 00:07:20.418
می خواهم در رابطه با مثالی در سال ۲۰۱۶
صحبت کنم.

00:07:20.442 --> 00:07:24.897
فردی با استفاده از راننده خودکار تسلا
وارد تصادفی خطرناک شده بود.

00:07:24.921 --> 00:07:28.335
او بجای استفاده از این تکنولوژی بر اساس 
طراحی آن در بزرگراه

00:07:28.359 --> 00:07:30.564
آن را در خیابان های شهر استفاده کرده بود.

00:07:31.239 --> 00:07:32.414
اتفاقی که رخ داد
چنین بود

00:07:32.438 --> 00:07:35.834
کامیونی جلوی خودرو آمد و خودرو نتوانست
ترمز بگیرد.

00:07:36.507 --> 00:07:41.269
خب، هوش مصنوعی کاملاً آموزش دیده بود تا
کامیون ها را در عکس تشخیص دهد

00:07:41.293 --> 00:07:43.438
اما اتفاقی که افتاد چنین بود که

00:07:43.462 --> 00:07:46.393
هوش مصنوعی آموزش دیده بود تا کامیون ها را
در بزرگراه تشخیص دهد

00:07:46.417 --> 00:07:49.316
که شما انتظار دارید کامیون ها
را پشت سرتان ببینید.

00:07:49.340 --> 00:07:52.760
کامیون های کناری قرار نیست
در بزرگراه ها باشند،

00:07:52.784 --> 00:07:56.239
پس زمانی که هوش مصنوعی این کامیون را دیده،

00:07:56.263 --> 00:08:01.090
به احتمال زیاد آن را یکی از علائم خیابانی
دیده است

00:08:01.114 --> 00:08:03.387
و به همین دلیل، رفتن به سمت آن امن بوده.

NOTE Paragraph

00:08:04.114 --> 00:08:06.694
این یک اشتباه دیگر از هوش مصنوعی 
در زمینه ای دیگر است.

00:08:06.718 --> 00:08:10.178
اخیراً شرکت آمازون مجبور شد الگوریتمی
که طبقه بندی رزومه ها را

00:08:10.202 --> 00:08:11.422
انجام می داد کنار بگذارد

00:08:11.446 --> 00:08:15.354
زیرا آنها دریافتند که آن الگوریتم تمایزهای
ضد زن داشته است.

00:08:15.378 --> 00:08:18.094
اتفاقی که افتاد به این صورت بود که آن ها
هوش مصنوعی را بر

00:08:18.118 --> 00:08:21.050
رزومه های نمونه افرادی که از قبل
می شناختند آموزش داده بودند

00:08:21.154 --> 00:08:24.407
و از این نمونه ها، هوش مصنوعی یاد گرفته 
بود که از رزومه افرادی

00:08:24.431 --> 00:08:26.457
که به کالج های زنانه رفته اند یا

00:08:26.481 --> 00:08:29.287
کلمه «زن» در هر جای رزومه آنها بوده،
دوری کند،

00:08:29.311 --> 00:08:33.887
مانند، «تیم فوتبال زنان»،
«جامعه مهندسان زن».

00:08:33.911 --> 00:08:37.885
هوش مصنوعی نمی دانسته
که نباید این مورد خاص را

00:08:37.909 --> 00:08:39.887
که انسان ها انجام می دهند کپی کند.

00:08:39.911 --> 00:08:43.088
و از لحاظ تکنیکی هوش مصنوعی کاری را انجام
داده که از او خواسته اند.

00:08:43.112 --> 00:08:46.419
آنها به طور اتفاقی از او خواسته بودند که
کار اشتباهی را انجام دهد.

NOTE Paragraph

00:08:46.653 --> 00:08:49.548
این مسئله برای تمام هوش های مصنوعی
رخ می دهد.

00:08:50.120 --> 00:08:53.711
هوش مصنوعی می تواند بدون آنکه بداند 
بسیار مخرب باشد.

00:08:53.735 --> 00:08:58.813
پس هوش مصنوعی که محتوای جدید در فیسبوک
و یوتیوب پیشنهاد می کند،

00:08:58.837 --> 00:09:02.376
طوری برنامه ریزی شده است که تعداد بیننده
و کلیک ها را افزایش دهد.

00:09:02.400 --> 00:09:05.836
و متاسفانه، راهی که هوش مصنوعی برای انجام
اینکار یافته این است که

00:09:05.860 --> 00:09:10.363
محتوای متعصابه و تئوری های توطئه را 
پیشنهاد کند.

00:09:10.902 --> 00:09:16.204
هوش مصنوعی خودش نمی داند که این محتوا
چه معنایی دارد

00:09:16.228 --> 00:09:19.623
و از عواقب پیشنهاد کردن آن

00:09:19.647 --> 00:09:21.756
هیچ اطلاعی ندارد.

NOTE Paragraph

00:09:22.296 --> 00:09:24.307
پس، زمانی که ما با هوش مصنوعی کار می کنیم،

00:09:24.331 --> 00:09:28.513
دوری کردن از مشکلات به خود ما 
بستگی دارد.

00:09:28.537 --> 00:09:30.860
و همچنین دوری کردن از مسادلی که
به خطا می روند

00:09:30.884 --> 00:09:35.410
و منجر به مشکلات قدیمی ارتباطات 
می شود

00:09:35.434 --> 00:09:39.179
که ما می بایست به عنوان انسان چگونگی
تعامل با هوش مصنوعی را بیاموزیم.

00:09:39.203 --> 00:09:43.242
ما باید بدانیم که هوش مصنوعی قادر به
انجام چه کارهایی می باشد

00:09:43.266 --> 00:09:46.352
و برای فهمیدن هوش مصنوعی،
و مغز کوچک آن

00:09:46.376 --> 00:09:50.389
باید بدانیم که هوش مصنوعی از کاری که ما از
آن می خواهیم چیزی نمی داند.

00:09:51.148 --> 00:09:54.469
به بیان دیگر، ما باید آماده باشیم تا
با هوش مصنوعی کار کنیم که

00:09:54.493 --> 00:09:59.751
قادر مطلق یا عالم مطلق، آن طور که در
فیلم های تخیلی دیده می شود نیست.

00:09:59.775 --> 00:10:02.637
ما باید آماده باشیم تا با هوش مصنوعی
کار کنیم که

00:10:02.661 --> 00:10:05.599
در حال حاضر در دسترس داریم

00:10:05.623 --> 00:10:09.828
و هوش مصنوعی در دسترس ما 
به اندازه کافی عجیب است.

NOTE Paragraph

00:10:09.852 --> 00:10:11.042
ممنونم.

NOTE Paragraph

00:10:11.066 --> 00:10:16.291
(تشویق حضار)