Hebrew subtitles

הסכנות הטמונות בבינה המלאכותית מוזרות מכפי שחשבתם

Get Embed Code
31 Languages

Showing Revision 10 created 11/02/2019 by Shlomo Adam.

  1. הבינה המלאכותית, ב"מ,
  2. ידועה בכך שהיא משבשת
    תעשיות שונות.
  3. מה עם גלידה?
  4. מהם הטעמים החדשים והמדהימים
    שנוכל להמציא
  5. אם ניעזר בכוחה של ב"מ מתקדמת?
  6. איחדתי כוחות עם קבוצת מתכנתים
    מחטיבת הביניים של ביה"ס קילינג
  7. כדי למצוא את התשובה לשאלה זו.
  8. הם אספו מעל 1,600
    טעמים קיימים של גלידה
  9. וביחד הזנו אותם לאלגוריתם
    כדי לראות מה הוא יצליח ליצור.
  10. הנה כמה מהטעמים שהב"מ המציאה.
  11. [הפסקת זבל דלעת]

  12. (צחוק)

  13. [סליים חמאת בוטנים]

  14. [מחלת קצפת תות]

  15. (צחוק)

  16. אלה אינם טעמים טעימים,
    כפי שקיווינו שיהיו.

  17. אז השאלה היא: מה קרה?
    מה השתבש?
  18. האם הב"מ מנסה להרוג אותנו?
  19. ואולי היא מנסה לעשות מה שביקשנו,
    והיתה כאן בעיה?
  20. בסרטים, כשמשהו משתבש עם ב"מ,

  21. זה בדרך כלל כי הב"מ החליטה
  22. שהיא כבר לא רוצה לציית לבני האדם
  23. ויש לה מטרות משלה,
    תודה רבה לכם.
  24. אבל במציאות, הב"מ שיש לנו
  25. ממש לא כל-כך חכמה.
  26. יש לה כוח מיחשוב
    בערך כמו של שלשול,
  27. ולכל היותר - של דבורת דבש יחידה,
  28. וכנראה פחות מכך.
  29. הרי אנו כל הזמן לומדים
    דברים חדשים אודות המוח
  30. שמבהירים עד כמה הב"מ
    אינה בת-השוואה עם מוח אמיתי.
  31. הב"מ של היום מסוגלת לעשות
    לזהות בתמונה הולך-רגל,
  32. אבל אין לה מושג מהו הולך-רגל
  33. מעבר להיותו אוסף קווים,
    מרקמים וכדומה.
  34. היא בכלל לא יודעת מהו אדם.
  35. האם הב"מ של ימינו
    תעשה מה שנבקש ממנה?
  36. כן, אם היא תוכל,
  37. אבל אולי לא בדיוק מה שנרצה.
  38. נניח שאתם רוצים שהב"מ

  39. תיקח את אוסף חלקי הרובוט הזה
  40. ותרכיב מהן רובוט שיגיע
    מנקודה א' לב'.
  41. אילו ניסיתם לפתור בעיה זו
    ע"י כתיבת תוכנת מחשב רגילה,
  42. הייתם נותנים לתוכנה הוראות מפורטות
  43. איך לקחת את החלקים האלה,
  44. להרכיב מהם רובוט עם רגליים
  45. ולהשתמש ברגליים האלה
    כדי ללכת עד נקודה ב'.
  46. אבל כשמשתמשים בב"מ
    כדי לפתור בעיה זו,
  47. זה שונה.
  48. אינכם אומרים לה
    איך לפתור את הבעיה,
  49. אלא רק אומרים לה מהי המטרה,
  50. והיא צריכה להבין לבד
    דרך ניסוי וטעייה
  51. איך להגיע למטרה זו.
  52. ומסתבר שהב"מ נוטה לפתור
    בעיה מסוימת זו באופן הבא:
  53. היא מרכיבה מהחלקים מגדל שנופל
    ונוחת על נקודה ב'.
  54. וטכנית, זה פותר את הבעיה.
  55. טכנית, היא הגיעה לנקודה ב'.
  56. הסכנה איננה שהב"מ
    תתמרד נגדנו,
  57. אלא שתעשה בדיוק
    מה שאנו דורשים ממנה.
  58. לכן, החוכמה בעבודה עם ב"מ היא,
  59. איך להגדיר את הבעיה כך שהיא
    תעשה בדיוק את מה שביקשנו?
  60. הרובוט הקטן הזה נשלט ע"י ב"מ.

  61. הב"מ עיצבה את רגלי הרובוט
  62. ומצאה דרך להשתמש בהן
    כדי לעבור את כל המכשולים האלה.
  63. אבל כשדייויד הא
    ערך את הניסוי הזה,
  64. היה עליו להגדיר מגבלות
    נוקשות ביותר
  65. לגבי גודל הרגליים שהב"מ
    רשאית לקבוע,
  66. כי אחרת...
  67. (צחוק)

  68. וטכנית, היא עברה את מסלול המכשולים.

  69. אז אתם מבינים כמה קשה לגרום
    לב"מ לעשות משהו פשוט כמו הליכה.
  70. אז כשאתם רואים את הב"מ
    עושה כך, ודאי תגידו: "זה לא הוגן,

  71. "אסור לך לבנות סתם מגדל שנופל.
  72. "עלייך להשתמש ברגליים כדי ללכת."
  73. ומסתבר שגם זה לא תמיד עובד.
  74. המטלה של הב"מ הזאת
    היתה לנוע מהר.
  75. לא נאמר לה שצריך לנוע קדימה
  76. או שאסור לה להשתמש בזרועות.
  77. זה מה שמקבלים כשמאמנים
    את הב"מ לתנועה מהירה:
  78. סלטות והליכה משונה.
  79. זה נפוץ מאד.
  80. כך גם התקדמות של ערימה בעוויתות.
  81. (צחוק)

  82. אז לדעתי, מה שהיה צריך
    להיות הרבה יותר מוזר

  83. הם הרובוטים של "שליחות קטלנית".
  84. גם פיצוח ה"מטריקס" הוא משהו
    שב"מ תוכל לעשות אם יתנו לה הזדמנות.
  85. אז אם תאמנו ב"מ בהדמייה,
  86. היא תלמד למשל לפצח
    את השגיאות המתמטיות של ההדמייה
  87. ולהפיק מהן אנרגיה.
  88. או תמצא איך לנוע מהר יותר
    ע"י גלישה מתמדת על הרצפה.
  89. כשעובדים עם ב"מ,
  90. זה דומה פחות לעבודה
    עם יצור אנושי אחר,
  91. ודומה יותר לעבודה
    עם איזה כוח-טבע מוזר.
  92. ולמעשה, קל מאד לתת לב"מ
    בטעות את הבעיה הלא-נכונה,
  93. ועל פי רוב איננו מבינים זאת
    עד שמשהו משתבש.
  94. הנה ניסוי שערכתי,

  95. ובו רציתי שהב"מ תעתיק גווני צבע
  96. כדי להמציא גוונים חדשים,
  97. בהינתן רשימה כמו זו שמשמאל.
  98. והנה הרשימה שהפיקה הב"מ.
  99. [קקי סינדיס, גוון גלל, סבל, אפור ערווה]

  100. (צחוק)

  101. אז טכנית,

  102. הב"מ עשתה מה שביקשתי.
  103. חשבתי שאני מבקשת ממנה
    שמות חדשים ונחמדים של גוונים,
  104. אבל מה שביקשתי ממנה בפועל
  105. היה רק לחקות את צירופי האותיות
  106. שהיא ראתה במקור.
  107. ולא אמרתי לה דבר
    על משמעות המילים,
  108. או שאולי יש מילים
  109. שכדאי להימנע מהן
    בשמות של גווני צבע.
  110. כל עולמה היה הנתונים שנתתי לה.
  111. כמו עם טעמי הגלידה,
    היא לא מכירה שום דבר נוסף.
  112. משמע שדרך הנתונים

  113. אנו מרבים לטעות ולומר לב"מ
    לעשות את הדבר הלא-נכון.
  114. זהו דג בשם טינקה.
  115. והיתה קבוצת חוקרים
  116. שאימנה ב"מ לזהות טינקה בתמונות.
  117. אבל כשהם שאלו את הב"מ
  118. באיזה חלק מהתמונה היא השתמשה
    כדי לזהות את הדג,
  119. זה מה שהיא הדגישה.
  120. נכון, אצבעות אנושיות.
  121. מדוע היא מחפשת אצבעות אנושיות
    כשהיא מנסה לזהות דג?
  122. מסתבר שאת הטינקה דגים
    בעיקר כשלל ציד,
  123. ולכן בתמונות רבות של הדג הזה
    שהב"מ ראתה באימון שלה,
  124. הדג נראה ככה.
  125. (צחוק)

  126. היא לא ידעה שהאצבעות
    אינן איברים של הדג.

  127. אז אתם מבינים למה
    קשה כל-כך לתכנן ב"מ

  128. שתוכל להבין מה היא רואה.
  129. ולכן קשה כך-כך לתכנן
    זיהוי תמונה
  130. במכוניות אוטונומיות,
  131. ומדוע כשלים רבים כל-כך
    במכוניות אוטונומיות
  132. נובעים מבלבול של הב"מ.
  133. אני רוצה לדבר על דוגמה מ-2016.
  134. היתה תאונה קטלנית כשמישהו השתמש
    בב"מ של רכב אוטונומי של "טסלה",
  135. אבל במקום להשתמש בה
    בכביש המהיר, כפי שתוכננה,
  136. הוא השתמש בה ברחובות העיר.
  137. ומה שקרה הוא,
  138. שמשאית חצתה לפני הרכב
    והרכב לא בלם.
  139. הב"מ הוכשרה בהחלט לזהות
    משאיות בתמונות.
  140. אבל מה שכנראה קרה הוא,
  141. שהב"מ אומנה לזהות משאיות
    בכביש המהיר,
  142. ושם הציפיה היא לראות משאיות מאחור.
  143. משאיות במבט צידי
    לא אמורות להיראות בכביש מהיר,
  144. אז כשב"מ ראתה את המשאית,
  145. היא כנראה זיהתה אותה
    כשלט דרכים,
  146. כזה שבטוח לעבור מתחתיו.
  147. הנה טעות של ב"מ מתחום שונה.

  148. לאחרונה "אמזון" נאלצה לנטוש
    אלגוריתם למיון קורות-חיים
  149. שעליו הם עבדו,
  150. כשגילו שהאלגוריתם
    למד להפלות נגד נשים.
  151. מה שקרה הוא שהם אימנו אותו
    עם דגימות של קורות-חיים
  152. של אנשים שהם העסיקו בעבר.
  153. ומהדוגמאות, הב"מ למדה
    להימנע מקורות-חיים של אנשים
  154. שהלכו למכללות של נשים
  155. או שהמילה "נשים" הופיעה
    בקורות החיים,
  156. כמו "נבחרת כדורגל נשים"
    או "אגודת הנשים המהנדסות".
  157. הב"מ לא ידעה שהיא לא אמורה
    להעתיק את הדבר המסוים הזה
  158. מבני האדם.
  159. וטכנית, היא עשתה כפי שהתבקשה.
  160. אלא שביקשו ממנה בטעות
    לעשות את הדבר הלא-נכון.
  161. וזה קורה כל הזמן עם ב"מ.

  162. ב"מ יכולה להיות הרסנית מאד
    מבלי לדעת זאת.
  163. אז הב"מ שממליצות על תכנים
    ב"פייסבוק" ו"יו-טיוב",
  164. ממוטבות להגדיל את מספר הקליקים והצפיות.
  165. למרבה הצער, אחת הדרכים
    שהן מצאו לעשות זאת
  166. היא להמליץ על תכני
    תיאוריות-קשר או גזענות.
  167. לב"מ עצמן אין שום מושג
    מהם בעצם התכנים האלה,
  168. וגם לא מה עלולות להיות התוצאות
  169. של ההמלצה על תכנים כאלה.
  170. אז כשאנו עובדים עם ב"מ,

  171. באחריותנו למנוע בעיות.
  172. ומניעה מדברים להשתבש
  173. יכולה להסתכם בבעייה עתיקת היומין
    של קצרים בתקשורת.
  174. כשאנו, בני האדם, צריכים ללמוד
    איך לתקשר עם ב"מ,
  175. עלינו ללמוד מה הב"מ
    מסוגלת לעשות ומה לא,
  176. ולהבין שעם מוח השלשול הזעיר שלה,
  177. הב"מ לא ממש מבינה
    מה אנו מנסים לבקש ממנה לעשות.
  178. במלים אחרות, עלינו להיות
    מוכנים לעבוד עם ב"מ
  179. שאיננה כל-יכולה ויודעת-כל
    כמו במדע הבדיוני:
  180. עלינו להיות מוכנים לעבוד
    עם הב"מ שיש לנו בהווה.
  181. והב"מ בהווה היא מספיק מוזרה.
  182. תודה לכם.

  183. (מחיאות כפיים)