הסכנות הטמונות בבינה המלאכותית מוזרות מכפי שחשבתם
-
0:03 - 0:05הבינה המלאכותית, ב"מ,
-
0:05 - 0:08ידועה בכך שהיא משבשת
תעשיות שונות. -
0:09 - 0:11מה עם גלידה?
-
0:12 - 0:15מהם הטעמים החדשים והמדהימים
שנוכל להמציא -
0:15 - 0:19אם ניעזר בכוחה של ב"מ מתקדמת?
-
0:19 - 0:23איחדתי כוחות עם קבוצת מתכנתים
מחטיבת הביניים של ביה"ס קילינג -
0:23 - 0:25כדי למצוא את התשובה לשאלה זו.
-
0:25 - 0:31הם אספו מעל 1,600
טעמים קיימים של גלידה -
0:31 - 0:36וביחד הזנו אותם לאלגוריתם
כדי לראות מה הוא יצליח ליצור. -
0:36 - 0:40הנה כמה מהטעמים שהב"מ המציאה.
-
0:40 - 0:42[הפסקת זבל דלעת]
-
0:42 - 0:43(צחוק)
-
0:43 - 0:46[סליים חמאת בוטנים]
-
0:47 - 0:48[מחלת קצפת תות]
-
0:48 - 0:49(צחוק)
-
0:50 - 0:55אלה אינם טעמים טעימים,
כפי שקיווינו שיהיו. -
0:55 - 0:58אז השאלה היא: מה קרה?
מה השתבש? -
0:58 - 1:00האם הב"מ מנסה להרוג אותנו?
-
1:01 - 1:06ואולי היא מנסה לעשות מה שביקשנו,
והיתה כאן בעיה? -
1:07 - 1:09בסרטים, כשמשהו משתבש עם ב"מ,
-
1:09 - 1:12זה בדרך כלל כי הב"מ החליטה
-
1:12 - 1:14שהיא כבר לא רוצה לציית לבני האדם
-
1:14 - 1:17ויש לה מטרות משלה,
תודה רבה לכם. -
1:17 - 1:20אבל במציאות, הב"מ שיש לנו
-
1:20 - 1:22ממש לא כל-כך חכמה.
-
1:23 - 1:27יש לה כוח מיחשוב
בערך כמו של שלשול, -
1:27 - 1:30ולכל היותר - של דבורת דבש יחידה,
-
1:30 - 1:33וכנראה פחות מכך.
-
1:33 - 1:35הרי אנו כל הזמן לומדים
דברים חדשים אודות המוח -
1:35 - 1:40שמבהירים עד כמה הב"מ
אינה בת-השוואה עם מוח אמיתי. -
1:40 - 1:45הב"מ של היום מסוגלת לעשות
לזהות בתמונה הולך-רגל, -
1:45 - 1:48אבל אין לה מושג מהו הולך-רגל
-
1:48 - 1:53מעבר להיותו אוסף קווים,
מרקמים וכדומה. -
1:54 - 1:56היא בכלל לא יודעת מהו אדם.
-
1:57 - 2:00האם הב"מ של ימינו
תעשה מה שנבקש ממנה? -
2:00 - 2:02כן, אם היא תוכל,
-
2:02 - 2:04אבל אולי לא בדיוק מה שנרצה.
-
2:04 - 2:07נניח שאתם רוצים שהב"מ
-
2:07 - 2:10תיקח את אוסף חלקי הרובוט הזה
-
2:10 - 2:14ותרכיב מהן רובוט שיגיע
מנקודה א' לב'. -
2:14 - 2:18אילו ניסיתם לפתור בעיה זו
ע"י כתיבת תוכנת מחשב רגילה, -
2:18 - 2:22הייתם נותנים לתוכנה הוראות מפורטות
-
2:22 - 2:23איך לקחת את החלקים האלה,
-
2:23 - 2:26להרכיב מהם רובוט עם רגליים
-
2:26 - 2:29ולהשתמש ברגליים האלה
כדי ללכת עד נקודה ב'. -
2:29 - 2:32אבל כשמשתמשים בב"מ
כדי לפתור בעיה זו, -
2:32 - 2:33זה שונה.
-
2:33 - 2:35אינכם אומרים לה
איך לפתור את הבעיה, -
2:35 - 2:37אלא רק אומרים לה מהי המטרה,
-
2:37 - 2:40והיא צריכה להבין לבד
דרך ניסוי וטעייה -
2:40 - 2:42איך להגיע למטרה זו.
-
2:42 - 2:48ומסתבר שהב"מ נוטה לפתור
בעיה מסוימת זו באופן הבא: -
2:48 - 2:53היא מרכיבה מהחלקים מגדל שנופל
ונוחת על נקודה ב'. -
2:53 - 2:56וטכנית, זה פותר את הבעיה.
-
2:56 - 2:58טכנית, היא הגיעה לנקודה ב'.
-
2:58 - 3:02הסכנה איננה שהב"מ
תתמרד נגדנו, -
3:02 - 3:06אלא שתעשה בדיוק
מה שאנו דורשים ממנה. -
3:07 - 3:09לכן, החוכמה בעבודה עם ב"מ היא,
-
3:09 - 3:14איך להגדיר את הבעיה כך שהיא
תעשה בדיוק את מה שביקשנו? -
3:15 - 3:18הרובוט הקטן הזה נשלט ע"י ב"מ.
-
3:18 - 3:21הב"מ עיצבה את רגלי הרובוט
-
3:21 - 3:25ומצאה דרך להשתמש בהן
כדי לעבור את כל המכשולים האלה. -
3:25 - 3:28אבל כשדייויד הא
ערך את הניסוי הזה, -
3:28 - 3:31היה עליו להגדיר מגבלות
נוקשות ביותר -
3:31 - 3:34לגבי גודל הרגליים שהב"מ
רשאית לקבוע, -
3:34 - 3:36כי אחרת...
-
3:43 - 3:46(צחוק)
-
3:49 - 3:52וטכנית, היא עברה את מסלול המכשולים.
-
3:52 - 3:57אז אתם מבינים כמה קשה לגרום
לב"מ לעשות משהו פשוט כמו הליכה. -
3:57 - 4:01אז כשאתם רואים את הב"מ
עושה כך, ודאי תגידו: "זה לא הוגן, -
4:01 - 4:04"אסור לך לבנות סתם מגדל שנופל.
-
4:04 - 4:07"עלייך להשתמש ברגליים כדי ללכת."
-
4:07 - 4:10ומסתבר שגם זה לא תמיד עובד.
-
4:10 - 4:13המטלה של הב"מ הזאת
היתה לנוע מהר. -
4:13 - 4:17לא נאמר לה שצריך לנוע קדימה
-
4:17 - 4:19או שאסור לה להשתמש בזרועות.
-
4:19 - 4:24זה מה שמקבלים כשמאמנים
את הב"מ לתנועה מהירה: -
4:24 - 4:28סלטות והליכה משונה.
-
4:28 - 4:29זה נפוץ מאד.
-
4:30 - 4:33כך גם התקדמות של ערימה בעוויתות.
-
4:33 - 4:34(צחוק)
-
4:35 - 4:38אז לדעתי, מה שהיה צריך
להיות הרבה יותר מוזר -
4:38 - 4:40הם הרובוטים של "שליחות קטלנית".
-
4:40 - 4:44גם פיצוח ה"מטריקס" הוא משהו
שב"מ תוכל לעשות אם יתנו לה הזדמנות. -
4:44 - 4:47אז אם תאמנו ב"מ בהדמייה,
-
4:47 - 4:51היא תלמד למשל לפצח
את השגיאות המתמטיות של ההדמייה -
4:51 - 4:53ולהפיק מהן אנרגיה.
-
4:53 - 4:58או תמצא איך לנוע מהר יותר
ע"י גלישה מתמדת על הרצפה. -
4:58 - 5:00כשעובדים עם ב"מ,
-
5:00 - 5:02זה דומה פחות לעבודה
עם יצור אנושי אחר, -
5:02 - 5:06ודומה יותר לעבודה
עם איזה כוח-טבע מוזר. -
5:07 - 5:11ולמעשה, קל מאד לתת לב"מ
בטעות את הבעיה הלא-נכונה, -
5:11 - 5:16ועל פי רוב איננו מבינים זאת
עד שמשהו משתבש. -
5:16 - 5:18הנה ניסוי שערכתי,
-
5:18 - 5:22ובו רציתי שהב"מ תעתיק גווני צבע
-
5:22 - 5:23כדי להמציא גוונים חדשים,
-
5:23 - 5:26בהינתן רשימה כמו זו שמשמאל.
-
5:27 - 5:30והנה הרשימה שהפיקה הב"מ.
-
5:30 - 5:33[קקי סינדיס, גוון גלל, סבל, אפור ערווה]
-
5:33 - 5:37(צחוק)
-
5:39 - 5:41אז טכנית,
-
5:41 - 5:43הב"מ עשתה מה שביקשתי.
-
5:43 - 5:46חשבתי שאני מבקשת ממנה
שמות חדשים ונחמדים של גוונים, -
5:46 - 5:49אבל מה שביקשתי ממנה בפועל
-
5:49 - 5:52היה רק לחקות את צירופי האותיות
-
5:52 - 5:54שהיא ראתה במקור.
-
5:54 - 5:57ולא אמרתי לה דבר
על משמעות המילים, -
5:57 - 5:59או שאולי יש מילים
-
5:59 - 6:02שכדאי להימנע מהן
בשמות של גווני צבע. -
6:03 - 6:07כל עולמה היה הנתונים שנתתי לה.
-
6:07 - 6:11כמו עם טעמי הגלידה,
היא לא מכירה שום דבר נוסף. -
6:12 - 6:14משמע שדרך הנתונים
-
6:14 - 6:18אנו מרבים לטעות ולומר לב"מ
לעשות את הדבר הלא-נכון. -
6:19 - 6:22זהו דג בשם טינקה.
-
6:22 - 6:24והיתה קבוצת חוקרים
-
6:24 - 6:27שאימנה ב"מ לזהות טינקה בתמונות.
-
6:27 - 6:29אבל כשהם שאלו את הב"מ
-
6:29 - 6:32באיזה חלק מהתמונה היא השתמשה
כדי לזהות את הדג, -
6:32 - 6:34זה מה שהיא הדגישה.
-
6:35 - 6:37נכון, אצבעות אנושיות.
-
6:37 - 6:41מדוע היא מחפשת אצבעות אנושיות
כשהיא מנסה לזהות דג? -
6:42 - 6:45מסתבר שאת הטינקה דגים
בעיקר כשלל ציד, -
6:45 - 6:50ולכן בתמונות רבות של הדג הזה
שהב"מ ראתה באימון שלה, -
6:50 - 6:52הדג נראה ככה.
-
6:52 - 6:53(צחוק)
-
6:53 - 6:57היא לא ידעה שהאצבעות
אינן איברים של הדג. -
6:59 - 7:03אז אתם מבינים למה
קשה כל-כך לתכנן ב"מ -
7:03 - 7:06שתוכל להבין מה היא רואה.
-
7:06 - 7:09ולכן קשה כך-כך לתכנן
זיהוי תמונה -
7:09 - 7:11במכוניות אוטונומיות,
-
7:11 - 7:13ומדוע כשלים רבים כל-כך
במכוניות אוטונומיות -
7:14 - 7:16נובעים מבלבול של הב"מ.
-
7:16 - 7:20אני רוצה לדבר על דוגמה מ-2016.
-
7:20 - 7:25היתה תאונה קטלנית כשמישהו השתמש
בב"מ של רכב אוטונומי של "טסלה", -
7:25 - 7:28אבל במקום להשתמש בה
בכביש המהיר, כפי שתוכננה, -
7:28 - 7:31הוא השתמש בה ברחובות העיר.
-
7:31 - 7:32ומה שקרה הוא,
-
7:32 - 7:36שמשאית חצתה לפני הרכב
והרכב לא בלם. -
7:37 - 7:41הב"מ הוכשרה בהחלט לזהות
משאיות בתמונות. -
7:41 - 7:43אבל מה שכנראה קרה הוא,
-
7:43 - 7:46שהב"מ אומנה לזהות משאיות
בכביש המהיר, -
7:46 - 7:49ושם הציפיה היא לראות משאיות מאחור.
-
7:49 - 7:53משאיות במבט צידי
לא אמורות להיראות בכביש מהיר, -
7:53 - 7:56אז כשב"מ ראתה את המשאית,
-
7:56 - 8:01היא כנראה זיהתה אותה
כשלט דרכים, -
8:01 - 8:03כזה שבטוח לעבור מתחתיו.
-
8:04 - 8:07הנה טעות של ב"מ מתחום שונה.
-
8:07 - 8:10לאחרונה "אמזון" נאלצה לנטוש
אלגוריתם למיון קורות-חיים -
8:10 - 8:11שעליו הם עבדו,
-
8:11 - 8:15כשגילו שהאלגוריתם
למד להפלות נגד נשים. -
8:15 - 8:18מה שקרה הוא שהם אימנו אותו
עם דגימות של קורות-חיים -
8:18 - 8:20של אנשים שהם העסיקו בעבר.
-
8:20 - 8:24ומהדוגמאות, הב"מ למדה
להימנע מקורות-חיים של אנשים -
8:24 - 8:26שהלכו למכללות של נשים
-
8:26 - 8:29או שהמילה "נשים" הופיעה
בקורות החיים, -
8:29 - 8:34כמו "נבחרת כדורגל נשים"
או "אגודת הנשים המהנדסות". -
8:34 - 8:38הב"מ לא ידעה שהיא לא אמורה
להעתיק את הדבר המסוים הזה -
8:38 - 8:40מבני האדם.
-
8:40 - 8:43וטכנית, היא עשתה כפי שהתבקשה.
-
8:43 - 8:46אלא שביקשו ממנה בטעות
לעשות את הדבר הלא-נכון. -
8:47 - 8:50וזה קורה כל הזמן עם ב"מ.
-
8:50 - 8:54ב"מ יכולה להיות הרסנית מאד
מבלי לדעת זאת. -
8:54 - 8:59אז הב"מ שממליצות על תכנים
ב"פייסבוק" ו"יו-טיוב", -
8:59 - 9:02ממוטבות להגדיל את מספר הקליקים והצפיות.
-
9:02 - 9:06למרבה הצער, אחת הדרכים
שהן מצאו לעשות זאת -
9:06 - 9:10היא להמליץ על תכני
תיאוריות-קשר או גזענות. -
9:11 - 9:16לב"מ עצמן אין שום מושג
מהם בעצם התכנים האלה, -
9:16 - 9:20וגם לא מה עלולות להיות התוצאות
-
9:20 - 9:22של ההמלצה על תכנים כאלה.
-
9:22 - 9:24אז כשאנו עובדים עם ב"מ,
-
9:24 - 9:29באחריותנו למנוע בעיות.
-
9:29 - 9:31ומניעה מדברים להשתבש
-
9:31 - 9:35יכולה להסתכם בבעייה עתיקת היומין
של קצרים בתקשורת. -
9:35 - 9:39כשאנו, בני האדם, צריכים ללמוד
איך לתקשר עם ב"מ, -
9:39 - 9:43עלינו ללמוד מה הב"מ
מסוגלת לעשות ומה לא, -
9:43 - 9:46ולהבין שעם מוח השלשול הזעיר שלה,
-
9:46 - 9:50הב"מ לא ממש מבינה
מה אנו מנסים לבקש ממנה לעשות. -
9:51 - 9:54במלים אחרות, עלינו להיות
מוכנים לעבוד עם ב"מ -
9:54 - 10:00שאיננה כל-יכולה ויודעת-כל
כמו במדע הבדיוני: -
10:00 - 10:05עלינו להיות מוכנים לעבוד
עם הב"מ שיש לנו בהווה. -
10:06 - 10:10והב"מ בהווה היא מספיק מוזרה.
-
10:10 - 10:11תודה לכם.
-
10:11 - 10:16(מחיאות כפיים)
- Title:
- הסכנות הטמונות בבינה המלאכותית מוזרות מכפי שחשבתם
- Speaker:
- ג'נל שיין
- Description:
-
הסכנה הטמונה בב"מ (בינה מלאכותית) איננה שהיא תתמרד נגדנו, אלא שתעשה בדיוק את מה שאנו מבקשים ממנה לעשות, אומרת חוקרת הב"מ ג'נל שיין. היא מתארת את מעשי הקונדס המשונים והמבהילים לפעמים שבאמצעותם מנסים אלגוריתמי הבינה המלאכותית לפתור בעיות אנושיות - כמו המצאת טעמי גלידה חדשים או זיהוי מכוניות בכביש - ומוכיחה שהבינה המלאכותית עדיין אינה בת-השוואה למוח האנושי.
- Video Language:
- English
- Team:
- closed TED
- Project:
- TEDTalks
- Duration:
- 10:28
Shlomo Adam edited Hebrew subtitles for The danger of AI is weirder than you think | ||
Shlomo Adam approved Hebrew subtitles for The danger of AI is weirder than you think | ||
Shlomo Adam edited Hebrew subtitles for The danger of AI is weirder than you think | ||
Sigal Tifferet accepted Hebrew subtitles for The danger of AI is weirder than you think | ||
Sigal Tifferet edited Hebrew subtitles for The danger of AI is weirder than you think | ||
Shlomo Adam edited Hebrew subtitles for The danger of AI is weirder than you think | ||
Shlomo Adam edited Hebrew subtitles for The danger of AI is weirder than you think | ||
Shlomo Adam edited Hebrew subtitles for The danger of AI is weirder than you think |