خطر هوش مصنوعی عجیبتر از آنی است که فکرش را کنید
-
0:01 - 0:05خب، هوش مصنوعی
-
0:05 - 0:08به مختل کردن تمامی صنایع مشهور است.
-
0:09 - 0:11صنعت بستنی سازی چطور؟
-
0:12 - 0:16چه نوع مزه های جدید و جالب را می توانیم
-
0:16 - 0:19با قدرت هوش مصنوعی پیشرفته تولید کنیم؟
-
0:19 - 0:23خب، من با گروهی از برنامه نویسان از
مدرسه متوسطه کیلینگ تیم شدیم -
0:23 - 0:25تا پاسخ این سوال را پیدا کنیم.
-
0:25 - 0:31آنها بیش از ۱,۶۰۰ نوع مزه بستنی یافتند&
-
0:31 - 0:36و ما با هم، آنها در الگوریتمی قرار دادیم
تا ببینیم جه چیزی تولید می شود. -
0:36 - 0:40و اینها برخی از مزه هایی است که
هوش مصنوعی آنها را تولید کرده است. -
0:40 - 0:42[آشغال کدو تنبل]
-
0:42 - 0:43(صدای خنده)
-
0:43 - 0:46[لجنِ کره بادام زمینی]
-
0:47 - 0:48[مرض خامه توت فرنگی]
-
0:48 - 0:50(صدای خنده)
-
0:50 - 0:55این طعم ها اصلا خوشمزه نیستند در حالی که
ما انتظار خوشمزه بودن آنها را داشتیم. -
0:55 - 0:57سوال اینجاست که: چه اتفاقی افتاد؟
-
0:57 - 0:58اشتباه از کجا بود؟
-
0:58 - 1:00آیا هوش مصنوعی سعی در کشتن ما را دارد؟
-
1:01 - 1:05یا که سعی دارد آن کاری که ما خواستیم را
انجام دهد، و سپس مشکل پیش آمده است؟ -
1:07 - 1:09در فیلم ها، زمانی که مشکلی برای
هوش مصنوعی رخ می دهد -
1:09 - 1:12معمولاً به این خاطر است که هوش مصنوعی
تصمیم داشته -
1:12 - 1:14که از دستورات انسان ها دیگر پیروی نکند،
-
1:14 - 1:17و هدفهای خودش را دارد،
خیلی ممنون. -
1:17 - 1:20اما در زندگی واقعی، هوش مصنوعی که
ما در اختیار داریم -
1:21 - 1:22هنوز برای آن کارها آنقدر باهوش نیست.
-
1:23 - 1:26هوش مصنوعی ما قدرت محاسباتی نزدیک به
-
1:26 - 1:27یک کرم خاکی،
-
1:27 - 1:30یا حداکثر یک زنبور عسل را دارد،
-
1:31 - 1:33و در واقع حتی کمتر از آن.
-
1:33 - 1:35ما مدام در حال یادگیری جنبه های جدیدی از
مغز هستیم که -
1:35 - 1:40مشخص می کند هوشهای مصنوعی ما
هنوز نزدیک به مغزهای واقعی نیستند. -
1:40 - 1:45خب، امروزه هوش های مصنوعی می توانند
وظیفه ای مثل تشخیص پیاده رو در یک عکس را -
1:45 - 1:48انجام دهند اما آنها از مفهوم پیاده رو چیزی
جز یک سری -
1:48 - 1:53خطوط و بافت نمی دانند.
-
1:54 - 1:56آنها حتی نمی دانند انسان چیست.
-
1:57 - 2:00پس آیا هوش های مصنوعی امروزه کاری که
می خواهیم را انجام می دهند؟ -
2:00 - 2:02در صورتی که بتوانند انجام می دهند
-
2:02 - 2:04اما ممکن است کاری که ما می خواهیم نباشد.
-
2:04 - 2:07خب بگذارید فرض کنیم که شما می خواهید
یک هوش مصنوعی -
2:07 - 2:10مجموعه ای از بخشهای یک روبات را بگیرد
-
2:10 - 2:14و آن را به رباتی تبدیل کند که از نقطه A
به نقطه B می رود. -
2:14 - 2:16حالا، اگر شما می خواستید این مسئله را با
-
2:16 - 2:19نوشتن یک برنامه سنتی کامپیوتری حل کنید،
-
2:19 - 2:22شما به برنامه دستورالعملهای
پله پله می دادید -
2:22 - 2:23که چطور این بخش را برداشته،
-
2:23 - 2:26به هم بچسباند تا رباتی دو پا بسازد
-
2:26 - 2:29و سپس به وسیله آن پاها به نقطه B
برود. -
2:29 - 2:32اما زمانی که در حال استفاده از
هوش مصنوعی هستید -
2:32 - 2:33مسئله متفاوت است.
-
2:33 - 2:35شما به آن نمی گویید چطور مسئله را حال کند،
-
2:35 - 2:37شما تنها به آن هدف را می دهید،
-
2:37 - 2:40و او می بایست از طریق آزمایش و خطا
-
2:40 - 2:42خودش به هدف برسد.
-
2:42 - 2:46و اینطور به نظر می رسد که هوش مصنوعی
این مسئله خاص را -
2:46 - 2:48بدین گونه حل می کند:
-
2:48 - 2:51ابتدا خودش را به یک برج تبدیل می کند
و سپس سقوط می کند -
2:51 - 2:53و در نقطه B به زمین می خورد.
-
2:53 - 2:56و از لحاظ تکنیکی مسئله حل شده است.
-
2:56 - 2:58از لحاظ تکنیکی به نقطه B
رسیده است. -
2:58 - 3:02خطر هوش مصنوعی این نیست که
او قرار است علیه ما شورش کند، -
3:02 - 3:06خطر این است که او دقیقاً کاری که ما
بخواهیم را انجام می دهد. -
3:07 - 3:09پس ترفند استفاده از هوش مصنوعی این است که:
-
3:09 - 3:13ما چطور مسئله را طرح کنیم که در واقع کاری
که می خواهیم را انجام دهد؟ -
3:15 - 3:18این ربات کوچک در اینجا
توسط یک هوش مصنوعی کنترل می شود. -
3:18 - 3:21هوش مصنوعی به طرحی برای پاهای ربات
رسیده است -
3:21 - 3:25و چگونگی استفاده از این پاها را برای
گذشتن از این موانع را فهمیده است. -
3:25 - 3:28اما زمانی که دیوید ها این آزمایش را
ساخته است، -
3:28 - 3:31محدودیتهای بسیار زیادی در رابطه با
-
3:31 - 3:34اندازه مجاز پاها گذاشته است.
-
3:34 - 3:36زیرا در غیر این صورت ...
-
3:43 - 3:47(صدای خنده)
-
3:49 - 3:52و از لحاظ تکنیکی،
به انتهای موانع رسیده است. -
3:52 - 3:57پس می بینید که یک کار ساده مانند
به راه انداختن هوش مصنوعی چقدر سخت است. -
3:57 - 4:01خب، با دیدن انجام این کار از هوش مصنوعی
شما ممکن است بگویید، عادلانه نیست، -
4:01 - 4:04شما نمی توانی یک برج بلند باشی و فقط
سقوط کنی -
4:04 - 4:07شما باید از پاهایت برای راه رفتن
استفاده کنی. -
4:07 - 4:10اینطور که معلوم است،
این نظر همیشه صادق نیست. -
4:10 - 4:13کار این هوش مصنوعی این بوده است که
سریع حرکت کند. -
4:13 - 4:17آنها نگفتند که باید رو به جلو حرکت کند
-
4:17 - 4:19یا نمی تواند از دست هایش استفاده کند.
-
4:19 - 4:24پس زمانی که از یک هوش مصنوعی می خواهیم که
سریع حرکت کند، -
4:24 - 4:28چیزی شبیه پُشتک زدن و ابلهانه راه رفتن
می گیرید. -
4:28 - 4:29کاملاً معمول است.
-
4:30 - 4:33همینطور پیچ خوردن روی زمین.
-
4:33 - 4:34(صدای خنده)
-
4:35 - 4:38پس به عقیده من، چیزی که می بایست
خیلی عجیب تر باشد -
4:39 - 4:40ربات های فیلم ترمیناتور است.
-
4:40 - 4:44هک کردن «ماتریکس» نیز کار دیگر ایست که
هوش مصنوعی اگر شانسش را داشت انجام می داد. -
4:44 - 4:47پس اگر یک هوش مصنوعی را در یک
شبیه سازی آموزش دهید -
4:47 - 4:51یاد میگیرد که کارهایی چون استفاده از
خطاهای ریاضی شبیه سازی -
4:51 - 4:53و استفاده از آنها برای انرژی را انجام دهد.
-
4:53 - 4:58یا اینکه چگونه با پیچیدن به زمین
سریع تر حرکت کند. -
4:58 - 5:00زمانیکه شما در حال کار
با هوش مصنوعی هستید -
5:00 - 5:02کمتر شبیه به کار با انسانی دیگر است
-
5:02 - 5:06و بیشتر شبیه به کار با نیروی عجیبی
از طبیعت است. -
5:07 - 5:11و به صورت اتفاقی دادن مسئله اشتباه برای
حل به هوش مصنوعی آسان است، -
5:11 - 5:16و اغلب ما متوجه نمی شویم تا زمانی که
اشتباهی رخ دهد. -
5:16 - 5:18خب، این یک آزمایش است که من انجام داده ام
-
5:18 - 5:22که در آن از هوش مصنوعی خواستم تا
رنگ ها را تکثیر کند -
5:22 - 5:23تا به رنگ های جدیدی برسد،
-
5:23 - 5:26با دادن لیستی که در سمت چپ می بینید.
-
5:27 - 5:30و این چیزی است که هوش مصنوعی به
آن رسیده است. -
5:30 - 5:33[ساندیس مدفوع، پشکل، زجر، موی قهوه ای]
-
5:33 - 5:37(صدای خنده)
-
5:39 - 5:41از لحاظ تکنیکی،
-
5:41 - 5:43او کاری را که من خواسته بودم انجام داد.
-
5:43 - 5:46من فکر کردم که از او نام رنگ های
زیبا می خواهم -
5:46 - 5:49اما در واقع از او می خواستم که
-
5:49 - 5:52ترکیب حروف را تقلید کند
-
5:52 - 5:54که در نسخه اصلی دیده است.
-
5:54 - 5:57و من چیزی در رابطه با معنای کلمات
به او نگفتم، -
5:57 - 5:59یا اینکه ممکن است کلماتی وجود داشته باشند
-
5:59 - 6:02که او می بایست از استفاده آنها
برای این رنگ ها خودداری کند. -
6:03 - 6:07بنابراین تمام دنیای او داده هایی است که من
به او داده ام. -
6:07 - 6:11همانند طعم بستنی ها،
او از هیچ چیز دیگر باخبر نیست. -
6:12 - 6:14پس از طریق داده است که
-
6:14 - 6:18ما اغلب به اشتباه به هوش مصنوعی می گوییم
کاری را انجام دهد. -
6:19 - 6:22این یک ماهی به نام «تنچ» است.
-
6:22 - 6:24گروهی از محققان
-
6:24 - 6:27هوش مصنوعی را پرورش دادند تا این ماهی
را در تصاویر تشخیص دهد. -
6:27 - 6:29اما زمانی که از او پرسیدند
-
6:29 - 6:32که از طریق کدام بخش عکس این شناسایی را
انجام داده است -
6:32 - 6:34او این قسمت را نشان داده است.
-
6:35 - 6:37بله، آنها انگشت انسان هستند.
-
6:37 - 6:39چرا او باید به دنبال انگشت انسانها باشد
-
6:39 - 6:41اگر هدف یافتن ماهی است؟
-
6:42 - 6:45خب، اینطور که معلوم است ماهی تنچ
یک نوع جایزه است، -
6:45 - 6:49بنابراین در تصاویر زیادی که هوش مصنوعی
در طول آموزش -
6:49 - 6:50مشاهد کرده است،
-
6:50 - 6:52ماهی بدین صورت بوده است.
-
6:52 - 6:53(صدای خنده)
-
6:53 - 6:57هوش مصنوعی از این حقیقت مطلع نبوده است
که انگشت ها عضوی از ماهی نیستند. -
6:59 - 7:03بنابراین شما می بینید که چرا طراحی
یک هوش مصنوعی که -
7:03 - 7:06تشخیص دهد به چه چیزی می نگرد
دشوار است. -
7:06 - 7:09و به همین دلیل طراحی دوربین های
تشخیص چهره -
7:09 - 7:11در خودروهای بدون سرنشین بسیار دشوار است،
-
7:11 - 7:13و علت بسیاری از مشکلات
خودروهای بدون سرنشین -
7:14 - 7:16گیچ شدن هوش مصنوعی است.
-
7:16 - 7:20می خواهم در رابطه با مثالی در سال ۲۰۱۶
صحبت کنم. -
7:20 - 7:25فردی با استفاده از راننده خودکار تسلا
وارد تصادفی خطرناک شده بود. -
7:25 - 7:28او بجای استفاده از این تکنولوژی بر اساس
طراحی آن در بزرگراه -
7:28 - 7:31آن را در خیابان های شهر استفاده کرده بود.
-
7:31 - 7:32اتفاقی که رخ داد
چنین بود -
7:32 - 7:36کامیونی جلوی خودرو آمد و خودرو نتوانست
ترمز بگیرد. -
7:37 - 7:41خب، هوش مصنوعی کاملاً آموزش دیده بود تا
کامیون ها را در عکس تشخیص دهد -
7:41 - 7:43اما اتفاقی که افتاد چنین بود که
-
7:43 - 7:46هوش مصنوعی آموزش دیده بود تا کامیون ها را
در بزرگراه تشخیص دهد -
7:46 - 7:49که شما انتظار دارید کامیون ها
را پشت سرتان ببینید. -
7:49 - 7:53کامیون های کناری قرار نیست
در بزرگراه ها باشند، -
7:53 - 7:56پس زمانی که هوش مصنوعی این کامیون را دیده،
-
7:56 - 8:01به احتمال زیاد آن را یکی از علائم خیابانی
دیده است -
8:01 - 8:03و به همین دلیل، رفتن به سمت آن امن بوده.
-
8:04 - 8:07این یک اشتباه دیگر از هوش مصنوعی
در زمینه ای دیگر است. -
8:07 - 8:10اخیراً شرکت آمازون مجبور شد الگوریتمی
که طبقه بندی رزومه ها را -
8:10 - 8:11انجام می داد کنار بگذارد
-
8:11 - 8:15زیرا آنها دریافتند که آن الگوریتم تمایزهای
ضد زن داشته است. -
8:15 - 8:18اتفاقی که افتاد به این صورت بود که آن ها
هوش مصنوعی را بر -
8:18 - 8:21رزومه های نمونه افرادی که از قبل
می شناختند آموزش داده بودند -
8:21 - 8:24و از این نمونه ها، هوش مصنوعی یاد گرفته
بود که از رزومه افرادی -
8:24 - 8:26که به کالج های زنانه رفته اند یا
-
8:26 - 8:29کلمه «زن» در هر جای رزومه آنها بوده،
دوری کند، -
8:29 - 8:34مانند، «تیم فوتبال زنان»،
«جامعه مهندسان زن». -
8:34 - 8:38هوش مصنوعی نمی دانسته
که نباید این مورد خاص را -
8:38 - 8:40که انسان ها انجام می دهند کپی کند.
-
8:40 - 8:43و از لحاظ تکنیکی هوش مصنوعی کاری را انجام
داده که از او خواسته اند. -
8:43 - 8:46آنها به طور اتفاقی از او خواسته بودند که
کار اشتباهی را انجام دهد. -
8:47 - 8:50این مسئله برای تمام هوش های مصنوعی
رخ می دهد. -
8:50 - 8:54هوش مصنوعی می تواند بدون آنکه بداند
بسیار مخرب باشد. -
8:54 - 8:59پس هوش مصنوعی که محتوای جدید در فیسبوک
و یوتیوب پیشنهاد می کند، -
8:59 - 9:02طوری برنامه ریزی شده است که تعداد بیننده
و کلیک ها را افزایش دهد. -
9:02 - 9:06و متاسفانه، راهی که هوش مصنوعی برای انجام
اینکار یافته این است که -
9:06 - 9:10محتوای متعصابه و تئوری های توطئه را
پیشنهاد کند. -
9:11 - 9:16هوش مصنوعی خودش نمی داند که این محتوا
چه معنایی دارد -
9:16 - 9:20و از عواقب پیشنهاد کردن آن
-
9:20 - 9:22هیچ اطلاعی ندارد.
-
9:22 - 9:24پس، زمانی که ما با هوش مصنوعی کار می کنیم،
-
9:24 - 9:29دوری کردن از مشکلات به خود ما
بستگی دارد. -
9:29 - 9:31و همچنین دوری کردن از مسادلی که
به خطا می روند -
9:31 - 9:35و منجر به مشکلات قدیمی ارتباطات
می شود -
9:35 - 9:39که ما می بایست به عنوان انسان چگونگی
تعامل با هوش مصنوعی را بیاموزیم. -
9:39 - 9:43ما باید بدانیم که هوش مصنوعی قادر به
انجام چه کارهایی می باشد -
9:43 - 9:46و برای فهمیدن هوش مصنوعی،
و مغز کوچک آن -
9:46 - 9:50باید بدانیم که هوش مصنوعی از کاری که ما از
آن می خواهیم چیزی نمی داند. -
9:51 - 9:54به بیان دیگر، ما باید آماده باشیم تا
با هوش مصنوعی کار کنیم که -
9:54 - 10:00قادر مطلق یا عالم مطلق، آن طور که در
فیلم های تخیلی دیده می شود نیست. -
10:00 - 10:03ما باید آماده باشیم تا با هوش مصنوعی
کار کنیم که -
10:03 - 10:06در حال حاضر در دسترس داریم
-
10:06 - 10:10و هوش مصنوعی در دسترس ما
به اندازه کافی عجیب است. -
10:10 - 10:11ممنونم.
-
10:11 - 10:16(تشویق حضار)
- Title:
- خطر هوش مصنوعی عجیبتر از آنی است که فکرش را کنید
- Speaker:
- جانل شِین
- Description:
-
جانل شِین، محقق هوش مصنوعی می گوید: «خطر هوش مصنوعی این نیست که قرار است علیه ما انقلاب کند، بلکه آن قرار است دقیقاً کاری را انجام دهد که ما می خواهیم.» به اشتراک گذاشتن شِین با نشان دادن جنبه های عجیب و گاه خطرناک الگوریتم های هوش مصنوعی مانند خلق مزه های جدید بستنی، یا شناسایی خودرو ها در جاده، به ما نشان می دهد که هوش مصنوعی فاصله زیادی با مغز واقعی انسان دارد.
- Video Language:
- English
- Team:
- closed TED
- Project:
- TEDTalks
- Duration:
- 10:28
Leila Ataei edited Persian subtitles for The danger of AI is weirder than you think | ||
Leila Ataei edited Persian subtitles for The danger of AI is weirder than you think | ||
Leila Ataei approved Persian subtitles for The danger of AI is weirder than you think | ||
Leila Ataei edited Persian subtitles for The danger of AI is weirder than you think | ||
Masoud Motamedifar accepted Persian subtitles for The danger of AI is weirder than you think | ||
Masoud Motamedifar edited Persian subtitles for The danger of AI is weirder than you think | ||
Masoud Motamedifar edited Persian subtitles for The danger of AI is weirder than you think | ||
Masoud Motamedifar edited Persian subtitles for The danger of AI is weirder than you think |