0:00:02.955,0:00:04.765
הבינה המלאכותית, ב"מ,

0:00:04.789,0:00:08.318
ידועה בכך שהיא משבשת[br]תעשיות שונות.

0:00:08.961,0:00:11.004
מה עם גלידה?

0:00:11.879,0:00:15.412
מהם הטעמים החדשים והמדהימים[br]שנוכל להמציא

0:00:15.412,0:00:18.518
אם ניעזר בכוחה של ב"מ מתקדמת?

0:00:19.011,0:00:23.172
איחדתי כוחות עם קבוצת מתכנתים[br]מחטיבת הביניים של ביה"ס קילינג

0:00:23.196,0:00:25.437
כדי למצוא את התשובה לשאלה זו.

0:00:25.461,0:00:30.542
הם אספו מעל 1,600[br]טעמים קיימים של גלידה

0:00:30.566,0:00:36.088
וביחד הזנו אותם לאלגוריתם[br]כדי לראות מה הוא יצליח ליצור.

0:00:36.112,0:00:39.865
הנה כמה מהטעמים שהב"מ המציאה.

0:00:40.114,0:00:41.679
[הפסקת זבל דלעת]

0:00:41.679,0:00:43.265
(צחוק)

0:00:43.265,0:00:45.834
[סליים חמאת בוטנים]

0:00:46.582,0:00:48.029
[מחלת קצפת תות]

0:00:48.029,0:00:49.405
(צחוק)

0:00:50.049,0:00:54.936
אלה אינם טעמים טעימים,[br]כפי שקיווינו שיהיו.

0:00:54.960,0:00:57.994
אז השאלה היא: מה קרה?[br]מה השתבש?

0:00:58.116,0:01:00.225
האם הב"מ מנסה להרוג אותנו?

0:01:01.027,0:01:05.597
ואולי היא מנסה לעשות מה שביקשנו,[br]והיתה כאן בעיה?

0:01:06.567,0:01:09.031
בסרטים, כשמשהו משתבש עם ב"מ,

0:01:09.055,0:01:11.611
זה בדרך כלל כי הב"מ החליטה

0:01:11.611,0:01:13.917
שהיא כבר לא רוצה לציית לבני האדם

0:01:13.917,0:01:16.710
ויש לה מטרות משלה,[br]תודה רבה לכם.

0:01:17.266,0:01:20.236
אבל במציאות, הב"מ שיש לנו

0:01:20.236,0:01:22.369
ממש לא כל-כך חכמה.

0:01:22.781,0:01:26.957
יש לה כוח מיחשוב[br]בערך כמו של שלשול,

0:01:26.957,0:01:30.304
ולכל היותר - של דבורת דבש יחידה,

0:01:30.304,0:01:32.573
וכנראה פחות מכך.

0:01:32.573,0:01:35.347
הרי אנו כל הזמן לומדים[br]דברים חדשים אודות המוח

0:01:35.371,0:01:39.731
שמבהירים עד כמה הב"מ[br]אינה בת-השוואה עם מוח אמיתי.

0:01:39.755,0:01:45.418
הב"מ של היום מסוגלת לעשות[br]לזהות בתמונה הולך-רגל,

0:01:45.442,0:01:48.209
אבל אין לה מושג מהו הולך-רגל

0:01:48.209,0:01:53.273
מעבר להיותו אוסף קווים,[br]מרקמים וכדומה.

0:01:53.792,0:01:56.313
היא בכלל לא יודעת מהו אדם.

0:01:56.822,0:02:00.028
האם הב"מ של ימינו[br]תעשה מה שנבקש ממנה?

0:02:00.028,0:02:01.586
כן, אם היא תוכל,

0:02:01.586,0:02:04.472
אבל אולי לא בדיוק מה שנרצה.

0:02:04.496,0:02:06.911
נניח שאתם רוצים שהב"מ

0:02:06.935,0:02:09.554
תיקח את אוסף חלקי הרובוט הזה

0:02:09.578,0:02:13.775
ותרכיב מהן רובוט שיגיע[br]מנקודה א' לב'.

0:02:13.799,0:02:18.430
אילו ניסיתם לפתור בעיה זו[br]ע"י כתיבת תוכנת מחשב רגילה,

0:02:18.499,0:02:22.050
הייתם נותנים לתוכנה הוראות מפורטות

0:02:22.050,0:02:23.403
איך לקחת את החלקים האלה,

0:02:23.403,0:02:25.880
להרכיב מהם רובוט עם רגליים

0:02:25.904,0:02:29.046
ולהשתמש ברגליים האלה[br]כדי ללכת עד נקודה ב'.

0:02:29.441,0:02:31.781
אבל כשמשתמשים בב"מ[br]כדי לפתור בעיה זו,

0:02:31.805,0:02:32.883
זה שונה.

0:02:32.883,0:02:35.269
אינכם אומרים לה[br]איך לפתור את הבעיה,

0:02:35.269,0:02:36.712
אלא רק אומרים לה מהי המטרה,

0:02:36.712,0:02:40.058
והיא צריכה להבין לבד[br]דרך ניסוי וטעייה

0:02:40.058,0:02:41.682
איך להגיע למטרה זו.

0:02:42.254,0:02:47.560
ומסתבר שהב"מ נוטה לפתור[br]בעיה מסוימת זו באופן הבא:

0:02:47.808,0:02:52.935
היא מרכיבה מהחלקים מגדל שנופל[br]ונוחת על נקודה ב'.

0:02:52.990,0:02:55.813
וטכנית, זה פותר את הבעיה.

0:02:55.813,0:02:57.622
טכנית, היא הגיעה לנקודה ב'.

0:02:57.646,0:03:01.911
הסכנה איננה שהב"מ[br]תתמרד נגדנו,

0:03:01.935,0:03:06.209
אלא שתעשה בדיוק[br]מה שאנו דורשים ממנה.

0:03:06.876,0:03:09.374
לכן, החוכמה בעבודה עם ב"מ היא,

0:03:09.398,0:03:13.546
איך להגדיר את הבעיה כך שהיא[br]תעשה בדיוק את מה שביקשנו?

0:03:14.726,0:03:17.966
הרובוט הקטן הזה נשלט ע"י ב"מ.

0:03:17.966,0:03:20.870
הב"מ עיצבה את רגלי הרובוט

0:03:20.894,0:03:24.866
ומצאה דרך להשתמש בהן[br]כדי לעבור את כל המכשולים האלה.

0:03:24.866,0:03:27.737
אבל כשדייויד הא[br]ערך את הניסוי הזה,

0:03:27.761,0:03:30.511
היה עליו להגדיר מגבלות[br]נוקשות ביותר

0:03:30.511,0:03:33.933
לגבי גודל הרגליים שהב"מ[br]רשאית לקבוע,

0:03:33.957,0:03:35.507
כי אחרת...

0:03:43.058,0:03:45.939
(צחוק)

0:03:48.563,0:03:52.308
וטכנית, היא עברה את מסלול המכשולים.

0:03:52.332,0:03:57.274
אז אתם מבינים כמה קשה לגרום[br]לב"מ לעשות משהו פשוט כמו הליכה.

0:03:57.298,0:04:01.118
אז כשאתם רואים את הב"מ[br]עושה כך, ודאי תגידו: "זה לא הוגן,

0:04:01.142,0:04:03.556
"אסור לך לבנות סתם מגדל שנופל.

0:04:03.556,0:04:07.181
"עלייך להשתמש ברגליים כדי ללכת."

0:04:07.205,0:04:09.964
ומסתבר שגם זה לא תמיד עובד.

0:04:09.988,0:04:12.747
המטלה של הב"מ הזאת[br]היתה לנוע מהר.

0:04:13.115,0:04:16.708
לא נאמר לה שצריך לנוע קדימה

0:04:16.732,0:04:18.990
או שאסור לה להשתמש בזרועות.

0:04:19.487,0:04:24.105
זה מה שמקבלים כשמאמנים[br]את הב"מ לתנועה מהירה:

0:04:24.129,0:04:27.663
סלטות והליכה משונה.

0:04:27.687,0:04:29.087
זה נפוץ מאד.

0:04:29.667,0:04:32.846
כך גם התקדמות של ערימה בעוויתות.

0:04:32.870,0:04:34.020
(צחוק)

0:04:35.241,0:04:38.279
אז לדעתי, מה שהיה צריך[br]להיות הרבה יותר מוזר

0:04:38.279,0:04:39.915
הם הרובוטים של "שליחות קטלנית".

0:04:40.256,0:04:44.011
גם פיצוח ה"מטריקס" הוא משהו[br]שב"מ תוכל לעשות אם יתנו לה הזדמנות.

0:04:44.035,0:04:46.552
אז אם תאמנו ב"מ בהדמייה,

0:04:46.576,0:04:50.689
היא תלמד למשל לפצח[br]את השגיאות המתמטיות של ההדמייה

0:04:50.713,0:04:52.920
ולהפיק מהן אנרגיה.

0:04:52.944,0:04:58.419
או תמצא איך לנוע מהר יותר[br]ע"י גלישה מתמדת על הרצפה.

0:04:58.443,0:05:00.028
כשעובדים עם ב"מ,

0:05:00.052,0:05:02.441
זה דומה פחות לעבודה[br]עם יצור אנושי אחר,

0:05:02.465,0:05:06.094
ודומה יותר לעבודה [br]עם איזה כוח-טבע מוזר.

0:05:06.562,0:05:11.185
ולמעשה, קל מאד לתת לב"מ[br]בטעות את הבעיה הלא-נכונה,

0:05:11.209,0:05:15.747
ועל פי רוב איננו מבינים זאת[br]עד שמשהו משתבש.

0:05:16.242,0:05:18.322
הנה ניסוי שערכתי,

0:05:18.346,0:05:21.528
ובו רציתי שהב"מ תעתיק גווני צבע

0:05:21.552,0:05:23.298
כדי להמציא גוונים חדשים,

0:05:23.322,0:05:26.309
בהינתן רשימה כמו זו שמשמאל.

0:05:26.798,0:05:29.802
והנה הרשימה שהפיקה הב"מ.

0:05:29.826,0:05:33.279
[קקי סינדיס, גוון גלל, סבל, אפור ערווה]

0:05:33.279,0:05:37.223
(צחוק)

0:05:39.177,0:05:41.063
אז טכנית,

0:05:41.087,0:05:42.951
הב"מ עשתה מה שביקשתי.

0:05:42.975,0:05:46.283
חשבתי שאני מבקשת ממנה[br]שמות חדשים ונחמדים של גוונים,

0:05:46.307,0:05:48.614
אבל מה שביקשתי ממנה בפועל

0:05:48.638,0:05:51.724
היה רק לחקות את צירופי האותיות

0:05:51.748,0:05:53.653
שהיא ראתה במקור.

0:05:53.677,0:05:56.775
ולא אמרתי לה דבר[br]על משמעות המילים,

0:05:56.799,0:05:59.359
או שאולי יש מילים

0:05:59.383,0:06:02.272
שכדאי להימנע מהן[br]בשמות של גווני צבע.

0:06:03.141,0:06:06.635
כל עולמה היה הנתונים שנתתי לה.

0:06:06.659,0:06:11.217
כמו עם טעמי הגלידה,[br]היא לא מכירה שום דבר נוסף.

0:06:12.491,0:06:14.129
משמע שדרך הנתונים

0:06:14.153,0:06:18.437
אנו מרבים לטעות ולומר לב"מ[br]לעשות את הדבר הלא-נכון.

0:06:18.694,0:06:21.726
זהו דג בשם <i>טינקה</i>.

0:06:21.750,0:06:23.565
והיתה קבוצת חוקרים

0:06:23.589,0:06:27.463
שאימנה ב"מ לזהות טינקה בתמונות.

0:06:27.487,0:06:28.983
אבל כשהם שאלו את הב"מ

0:06:28.983,0:06:32.233
באיזה חלק מהתמונה היא השתמשה[br]כדי לזהות את הדג,

0:06:32.257,0:06:33.615
זה מה שהיא הדגישה.

0:06:35.203,0:06:37.392
נכון, אצבעות אנושיות.

0:06:37.416,0:06:41.435
מדוע היא מחפשת אצבעות אנושיות[br]כשהיא מנסה לזהות דג?

0:06:42.126,0:06:45.290
מסתבר שאת הטינקה דגים[br]בעיקר כשלל ציד,

0:06:45.314,0:06:50.065
ולכן בתמונות רבות של הדג הזה[br]שהב"מ ראתה באימון שלה,

0:06:50.114,0:06:51.814
הדג נראה ככה.

0:06:51.838,0:06:53.473
(צחוק)

0:06:53.497,0:06:57.247
היא לא ידעה שהאצבעות[br]אינן איברים של הדג.

0:06:58.808,0:07:02.928
אז אתם מבינים למה[br]קשה כל-כך לתכנן ב"מ

0:07:02.952,0:07:06.271
שתוכל להבין מה היא רואה.

0:07:06.295,0:07:09.157
ולכן קשה כך-כך לתכנן[br]זיהוי תמונה

0:07:09.181,0:07:11.248
במכוניות אוטונומיות,

0:07:11.272,0:07:13.477
ומדוע כשלים רבים כל-כך[br]במכוניות אוטונומיות

0:07:13.501,0:07:16.386
נובעים מבלבול של הב"מ.

0:07:16.410,0:07:20.418
אני רוצה לדבר על דוגמה מ-2016.

0:07:20.442,0:07:24.897
היתה תאונה קטלנית כשמישהו השתמש[br]בב"מ של רכב אוטונומי של "טסלה",

0:07:24.921,0:07:28.335
אבל במקום להשתמש בה[br]בכביש המהיר, כפי שתוכננה,

0:07:28.359,0:07:30.564
הוא השתמש בה ברחובות העיר.

0:07:31.239,0:07:32.414
ומה שקרה הוא,

0:07:32.438,0:07:35.834
שמשאית חצתה לפני הרכב[br]והרכב לא בלם.

0:07:36.507,0:07:41.269
הב"מ הוכשרה בהחלט לזהות[br]משאיות בתמונות.

0:07:41.293,0:07:43.438
אבל מה שכנראה קרה הוא,

0:07:43.462,0:07:46.393
שהב"מ אומנה לזהות משאיות[br]בכביש המהיר,

0:07:46.417,0:07:49.316
ושם הציפיה היא לראות משאיות מאחור.

0:07:49.340,0:07:52.760
משאיות במבט צידי[br]לא אמורות להיראות בכביש מהיר,

0:07:52.784,0:07:56.239
אז כשב"מ ראתה את המשאית,

0:07:56.263,0:08:01.090
היא כנראה זיהתה אותה[br]כשלט דרכים,

0:08:01.114,0:08:03.387
כזה שבטוח לעבור מתחתיו.

0:08:04.114,0:08:06.694
הנה טעות של ב"מ מתחום שונה.

0:08:06.718,0:08:10.032
לאחרונה "אמזון" נאלצה לנטוש[br]אלגוריתם למיון קורות-חיים

0:08:10.032,0:08:11.422
שעליו הם עבדו,

0:08:11.446,0:08:15.198
כשגילו שהאלגוריתם[br]למד להפלות נגד נשים.

0:08:15.198,0:08:18.284
מה שקרה הוא שהם אימנו אותו[br]עם דגימות של קורות-חיים

0:08:18.284,0:08:20.360
של אנשים שהם העסיקו בעבר.

0:08:20.384,0:08:24.407
ומהדוגמאות, הב"מ למדה[br]להימנע מקורות-חיים של אנשים

0:08:24.431,0:08:26.457
שהלכו למכללות של נשים

0:08:26.481,0:08:29.287
או שהמילה "נשים" הופיעה[br]בקורות החיים,

0:08:29.311,0:08:33.887
כמו "נבחרת כדורגל נשים"[br]או "אגודת הנשים המהנדסות".

0:08:33.911,0:08:37.885
הב"מ לא ידעה שהיא לא אמורה[br]להעתיק את הדבר המסוים הזה

0:08:37.909,0:08:39.887
מבני האדם.

0:08:39.911,0:08:43.088
וטכנית, היא עשתה כפי שהתבקשה.

0:08:43.112,0:08:46.349
אלא שביקשו ממנה בטעות[br]לעשות את הדבר הלא-נכון.

0:08:46.653,0:08:49.548
וזה קורה כל הזמן עם ב"מ.

0:08:50.120,0:08:53.711
ב"מ יכולה להיות הרסנית מאד[br]מבלי לדעת זאת.

0:08:53.735,0:08:58.813
אז הב"מ שממליצות על תכנים[br]ב"פייסבוק" ו"יו-טיוב",

0:08:58.837,0:09:02.376
ממוטבות להגדיל את מספר הקליקים והצפיות.

0:09:02.400,0:09:05.836
למרבה הצער, אחת הדרכים[br]שהן מצאו לעשות זאת

0:09:05.860,0:09:10.363
היא להמליץ על תכני[br]תיאוריות-קשר או גזענות.

0:09:10.902,0:09:16.204
לב"מ עצמן אין שום מושג[br]מהם בעצם התכנים האלה,

0:09:16.228,0:09:19.623
וגם לא מה עלולות להיות התוצאות

0:09:19.647,0:09:21.756
של ההמלצה על תכנים כאלה.

0:09:22.296,0:09:24.307
אז כשאנו עובדים עם ב"מ,

0:09:24.331,0:09:28.513
באחריותנו למנוע בעיות.

0:09:28.537,0:09:30.860
ומניעה מדברים להשתבש

0:09:30.884,0:09:35.410
יכולה להסתכם בבעייה עתיקת היומין[br]של קצרים בתקשורת.

0:09:35.434,0:09:39.179
כשאנו, בני האדם, צריכים ללמוד[br]איך לתקשר עם ב"מ,

0:09:39.203,0:09:43.242
עלינו ללמוד מה הב"מ[br]מסוגלת לעשות ומה לא,

0:09:43.266,0:09:46.352
ולהבין שעם מוח השלשול הזעיר שלה,

0:09:46.376,0:09:50.389
הב"מ לא ממש מבינה[br]מה אנו מנסים לבקש ממנה לעשות.

0:09:51.148,0:09:54.469
במלים אחרות, עלינו להיות[br]מוכנים לעבוד עם ב"מ

0:09:54.493,0:09:59.751
שאיננה כל-יכולה ויודעת-כל[br]כמו במדע הבדיוני:

0:09:59.775,0:10:05.317
עלינו להיות מוכנים לעבוד[br]עם הב"מ שיש לנו בהווה.

0:10:05.623,0:10:09.712
והב"מ בהווה היא מספיק מוזרה.

0:10:09.712,0:10:11.042
תודה לכם.

0:10:11.066,0:10:16.291
(מחיאות כפיים)