שלום, שמי ג׳וי, ואני משוררת של קוד,
במשימה לעצור כח בלתי נראה שנמצא בעליה,
כח שקראתי לו ״בהייה קודית״,
ההגדרה שלי להטייה אלגוריתמית.
הטייה אלגוריתמית, בדומה להטייה אנושית, גורמת לחוסר הוגנות.
אבל אלגוריתמים, כמו וירוסים, יכולים להפיץ את ההטייה בצורה נרחבת
ובקצב גבוה.
הטייה אלגוריתמית יכולה להוביל לחוויות פסילה
ולפרקטיקות מפלות.
בואו ואראה לכם למה אני מתכוונת.
שלום מצלמה, יש לי פנים.
את מזהה את הפנים שלי?
אולי בלי משקפיים?
את רואה את הפנים שלה.
מה לגבי הפנים שלי?
יש לי מסכה. את רואה אותה?
אז איך זה קרה?
למה אני יושבת לפני המחשב
במסכה לבנה,
מנסה להיות מזוהה על ידי מצלמת רשת זולה?
ובכן, כשאני לא נלחמת בבהייה הקודית
כמשוררת של קוד,
אני סטודנטית לתואר שני במעבדת המדיה של MIT,
ושם יש לי הזדמנות לעבוד על כל מיני פרוייקטים גחמניים,
כולל ״המראה המעצימה״,
פרוייקט שעשיתי כדי לשים מסכה דיגיטלית על ההשתקפות שלי.
כך שבבוקר, אם רציתי להרגיש עוצמתית,
יכולתי לשים מסיכה של אריה.
אם רציתי להיות מעודדת, יכולתי לשים ציטוט.
ובכן, השתמשתי בתוכנת זיהוי פנים כללית
כדי לבנות את המערכת,
אבל גיליתי שקשה לבדוק את המערכת בלי שאלבש מסיכה לבנה.
לרוע המזל, נתקלתי בבעיה זו גם בעבר.
כשלמדתי לתואר ראשון במדעי המחשב במכון הטכנולוגי בג׳ורג׳יה,
עבדתי על ״רובוטים חברתיים״,
ואחת מהמשימות היתה ללמד רובוט לשחק מחבואים (Peek-a-boo),
משחק פשוט מבוסס תורות
שבו השחקנים מכסים את פניהם, וכשהם מגלים אותם הם אומרים ״Peek-a-boo״!
הבעייה היא שהמשחק לא עובד אם אי אפשר לראות אותך.
והרובוט שלי לא יכל לראות אותי.
אבל השאלתי את פניה של השותפה לדירה שלי כדי להשלים את הפרוייקט,
הגשתי את המשימה,
והנחתי שמישהו אחר כבר יפתור את הבעייה הזאת.
כעבור זמן לא רב,
הייתי בהונג קונג כמשתתפת בתחרות יזמות.
המארגנים החליטו לקחת את המשתתפים
לסיור בין סטארטאפים מקומיים.
באחד הסטארטאפים היה ״רובוט חברתי״,
והם החליטו לערוך הדגמה.
ההדגמה עבדה על כולם עד שהגיעו אלי,
ואתם בטח כבר מנחשים,
הרובוט לא הצליח לזהות את פניי.
שאלתי את המפתחים למה זה קורה,
ומסתבר שהם השתמשו באותה תוכנה כללית לזיהוי פנים.
בצד השני של העולם,
למדתי שהטייה אלגוריתמית יכולה לנוע באותה מהירות
שלוקח להוריד כמה קבצים מהאינטרנט.
אז מה קורה פה? למה הפנים שלי לא מזוהות?
ובכן, עלינו להבין כיצד אנו נותנים למכונות את היכולת לראות.
ראייה ממוחשבת משתמשת בטכניקות של למידת מכונה
כדי לבצע זיהוי פנים.
הדרך בה זה עובד היא שאתה מכין קבוצת אימון של דוגמאות של פנים.
אלו פנים. אלו פנים. אלו לא פנים.
ואז, לאחר זמן מה, אתה יכול ללמד את המחשב לזהות פנים אחרות.
אבל, אם קבוצות האימון אינן באמת מגוונות מספיק
אז כל צורת פנים שסוטה יותר מדי מהנורמה
תהיה קשה לזיהוי,
וזה מה שקרה לי.
אבל אל דאגה - יש לי חדשות טובות.
קבוצות אימון אינן נוצרות משום מקום.
אנחנו למעשה יכולים ליצור אותן.
כלומר יש לנו הזדמנות ליצור קבוצות אימון שמכסות את כל הספקטרום
ומייצגות דיוקן עשיר יותר של האנושות.
כעת ראיתם בדוגמאות שהבאתי
כיצד בעזרת רובוטים חברתיים
גיליתי על הטייה אלגוריתמית שגורמת לפסילה.
אבל הטייה אלגוריתמית יכולה להוביל גם לאפלייה.
לאורך כל ארצות הברית
מחלקות משטרה מתחילות להשתמש בתוכנה לזיהוי פנים
כחלק מהאמצעים ללחימה פשע.
האוניברסיטה ג'ורג'טאון לאו פרסמה דו״ח
שהפנים של אחד מכל שני בוגרים בארה״ב - כלומר 117 מליון אנשים
נמצאות ברשתות של זיהוי פנים.
מחלקות משטרה משתמשות כיום ברשתות אלו בצורה לא מוסדרת,
ומשתמשות באלגוריתמים שדיוקם לא מוודא.
ועדיין, אנו יודעים שזיהוי פנים אינו חף מטעויות,
ותיוג פנים בעקביות נשאר אתגר.
אולי ראיתם זאת בפייסבוק.
חבריי ואני צוחקים כל הזמן כשאנו רואים אנשים אחרים
מתוייגים בטעות בתמונות שלנו.
אבל זיהוי מוטעה של חשוד בפשע אינו נושא לצחוק,
כמו גם פריצת זכויות אזרח.
לימוד מכונה נמצא בשימוש של זיהוי פנים,
אך זה גם מתרחב מעבר לתחום של ראייה ממוחשבת.
בספרה ״נשקים של השמדה מתמטית״,
מדענית הנתונים קאת׳י אוניל מדברת על העלייה של אלגוריתמים מסוג WMDs -
אלגוריתמים נפוצים, מסתוריים והרסניים
שנמצאים בשימוש גובר למטרת קבלת החלטות
שמשפיעות על עוד ועוד היבטים של חיינו.
מי מתקבל לעבודה ומי מפוטר?
האם תקבל את ההלוואה? האם תקבל את הביטוח?
האם אתה מתקבל לקולג׳ שרצית?
האם אתה ואני משלמים אותו מחיר עבור אותו מוצר
שנקנה באותה פלטפורמה?
יחידות לאכיפת החוק גם מתחילות להשתמש בלימוד מכונה
עבור שיטור תחזיתי.
יש שופטים שמשתמשים בציוני סיכון שהופקו ע״י מכונה כדי להחליט
כמה זמן אדם יבלה בכלא.
לכן עלינו לחשוב באמת על החלטות אלו.
האם הן הוגנות?
וכבר ראינו שהטייה אלגורימית
לא בהכרח מביאה לתוצאות הוגנות.
אז מה ניתן לעשות בקשר לזה?
ובכן, אנחנו יכולים להתחיל לחשוב איך ניצור קוד יותר מכליל
ולממש שיטות קידוד מכלילות.
זה באמת מתחיל באנשים.
כך שזה משנה מי מקודד.
האם אנחנו בונים צוותים מכל הספקטרום עם אנשים שונים?
שיכולים לבדוק את האזורים המתים של האחרים?
בצד הטכני, איך אנחנו מקודדים משנה גם.
האם אנחנו משקללים גם הוגנות כשאנו מפתחים מערכות?
ולבסוף, למה אנחנו מקודדים גם משנה.
השתמשנו בכלים ממוחשבים לפתוח עושר עצום.
יש לנו הזדמנות כעת לפתוח אפילו יותר שוויון
אם ניתן עדיפות לשינוי חברתי
ולא רק לאחר מעשה.
וכך אלו שלושת העיקרים של תנועת ״הקוד המכליל״.
מי שמקודד משנה,
איך מקודדים משנה
ולמה אנחנו מקודדים משנה.
כדי להתקדם לעבר הקוד המכליל אנחנו יכולים להתחיל לחשוב
על בניית פלטפורמות שיכולות לזהות הטייה
על ידי איסוף חוויות מאנשים, כפי שאני שיתפתי,
אך גם על ידי ביקורת של תוכנה קיימת.
אנו יכולים גם ליצור קבוצות אימון שלמות יותר.
דמיינו קמפיין ״סלפי לשלמות״
שבו אתם ואני יכולים לעזור למפתחים לבדוק וליצור
קבוצות אימון שלמות יותר.
אנו יכולים גם להתחיל לחשוב בצורה מודעת יותר
על ההשפעה החברתית של הטכנולוגיה אותה אנו מפתחים.
כדי להתחיל את תנועת ״הקוד המכליל״,
השקתי את הליגה לצדק אלגוריתמי,
שבה כל אחד שאכפת לו מצדק יכול להילחם בבהייה קודית.
באתר codedgaze.com אתם יכולים לדווח על הטייה,
לבקש ביקורת, להיות בודק
ולהצטרף לשיחה על הנושא,
#codegaze.
אז אני מזמינה אתכם להצטרף אלי
ביצירת עולם שבו הטכנולוגיה עובדת עבור כולנו,
לא רק עבור חלקינו,
עולם שבו אנו מעריכים שלמות ומתרכזים בשינוי חברתי.
תודה לכם.
(מחיאות כפיים)
יש לי רק שאלה אחת:
תצטרפו אלי למאבק?
(צחוק)
(מחיאות כפיים)