תבונה - מהי?
אם נסתכל אחורה על ההיסטוריה
של איך תבונה נראתה,
דוגמה מרכזית אחת היתה
הציטטה המפורסמת של אדסגר דייקסטרה
ש"השאלה אם מכונה יכולה לחשוב
היא מעניינת כמו
השאלה אם צוללת
יכולה לשחות."
עכשיו, אדסגר דייקסטרה, כשכתב את זה,
התכוון לזה כביקורת
על החלוצים הראשונים במדעי המחשב,
כמו אלן טיורינג.
עם זאת, אם תביטו אחורה
ותחשבו על מה היתה
המוטיבציה הכי מחזקת
שאפשרה לנו לבנות
מכונות מלאכותיות ששוחות
ומכונות מלאכותיות שחושבות,
אתם מגלים שזה היה רק דרך הבנת
המכאניזמים הפיסיקליים ביסוד
השחיה או המעוף
שהיינו מסוגלים לבנות את המכונות האלה.
וכך, כמה שנים מאוחר יותר,
התחלתי תוכנית כדי לנסות להבין
את העקרונות של מכאניזמים פיסיקליים
שביסוד התבונה.
בואו ניקח צעד אחורנית.
בואו נתחיל עם ניסוי מחשבתי.
דמיינו שאתם מין חייזרי
שלא יודע דבר על הביולוגיה של כדור הארץ
או מדעי המוח של כדור הארץ או התבונה,
אבל יש לכם טלסקופים מדהימים
ואתם מסוגלים לצפות בכדור הארץ,
ויש לכם חיים ארוכים באופן יוצא דופן,
אז אתם מסוגלים לצפות בכדור הארץ
במשך מליוני, אפילו מיליארדי שנים.
ואתם מבחינים באפקט ממש מוזר.
אתם רואים, שבמשך האלפים,
כדור הארץ מופצץ באופן שוטף באסטרואידים
עד לנקודה מסויימת,
ושבנקודה מסויימת,
שמקבילה בערך לשנה שלנו, 2000 לספירה,
אסטרואידים בנתיב
התנגשות עם כדור הארץ
שאחרת היו מתנגשים
מוסטים בצורה מוזרה
או מתפוצצים לפני שהם פוגעים בכדור הארץ.
עכשיו כמובן, כבני ארץ,
אנחנו יודעים שהסיבה לכך היא
שאנחנו מנסים להציל את עצמנו.
אנחנו מנסים למנוע פגיעה.
אבל אם אתם מין חייזרי
שלא מודע לכל זה,
ואין לו מושג בנוגע לתבונה על כדור הארץ,
אתם הייתם צריכים להרכיב
תאוריה פיסיקלית כדי להסביר איך,
עד לנקודה מסויימת בזמן,
אסטרואידים שהיו הורסים את פני הפלנטה
באופן מסתורי מפסיקים לעשות את זה.
אז כך אני טוען שזו אותה השאלה
כמו להבין את הטבע הפיזיקלי של התבונה.
אז בתוכנית הזו שהתחלתי לפני מספר שנים,
הבטתי במגוון תחומים שונים
במדע, לרוחב דיסיפלינות מגוונות,
שהפנו, אני חושב,
לכיוון מנגנון יחיד יסודי
לאינטיליגנציה.
בקוסמולוגיה, לדוגמה,
היו מגוון תחומים שונים של ראיות
שהיקום שלנו נראה מותאם במיוחד
להתפתחות של תבונה,
ובעיקר, להתפתחות
של מצבים אוניברסליים
שמגבירים את המגוון של עתידים אפשריים.
במשחק, לדוגמה, בגו --
כולם זוכרים ב 1997
כשכחול עמוק של IBM ניצח את גארי קאספרוב בשח --
פחות אנשים מודעים
שבעשר השנים האחרונות פחות או יותר,
המשחק גו,
אפשר לטעון שהוא משחק יותר מאתגר
מפני שיש לו פקטור הסתעפות גדול בהרבה,
גם התחיל להכנע
לשחקנים ממוחשבים
מאותן סיבות:
הטכניקות הכי טובות כרגע למחשבים שמשחקים גו
הן טכניקות שמנסות למקסם אופציות עתידיות
במהלך המשחק.
לבסוף, בתכנון תנועה רובוטית,
היו מגוון שיטות עדכניות
שניסו להשתמש
ביכולות של רובוטים למקסם
חרויות עתידיות לפעולה
כדי לבצע משימות מורכבות.
וכך, כשלוקחים את כל התחומים האלה
ושמים אותם יחד,
אני שואל, החל מלפני כמה שנים,
האם יש מנגנון יסודי לתבונה
שאנחנו יכולים למצות
מכל התחומים השונים האלה?
האם יש משוואה בסיסית לתבונה?
והתשובה, אני מאמין, היא כן. ["F = T ∇ Sτ"]
מה שאתם רואים זה כנראה
הדבר הכי קרוב ל E = mc²
לתבונה שראיתי.
אז מה שאתם רואים פה
זו הצהרה של יחס
שתבונה היא כוח, F,
שפועל למקסם חרות עתידית של פעולה.
היא פועלת למקסם חרות עתידית של פעולה,
או שומרת על האופציות פתוחות,
עם כוח כלשהו T,
עם מגוון של עתידים נגישים אפשריים, S,
עד לאופק זמן עתידי כלשהו, טאו.
בקיצור, לא נראה שתבונה אוהבת להילכד.
תבונה מנסה למקסם חרויות עתידיות של פעולה
ושומרת על האופציות פתוחות.
וכך, בהנתן המשוואה הזו,
זה טבעי לשאול, אז מה אפשר לעשות עם זה?
כמה זה חוזה את העתיד?
האם זה חוזה תבונה ברמה אנושית?
האם זה חוזה בינה מלאכותית?
אז אני אראה לכם סרטון עכשיו
שאני חושב, ידגים
כמה מהיישומים המדהימים
של המשוואה היחידה הזו.
(סרטון) קריין: מחקרים אחרונים בקוסמולוגיה
הציעו שיקומים שיוצרים
יותר חוסר סדר, או "אנטרופיה," במהלך חייהם
יהיו בהם תנאים יותר מתאימים
לקיום של חיים תבוניים כמונו.
אבל מה אם הקשר הקוסמולוגי הטנטטיבי הזה
בין אנטרופיה ותבונה
מרמז ליחס עמוק יותר?
מה אם התנהגות תבונית לא רק מתאימה
ליצור של אנטרופיה לטווח ארוך,
אלא למעשה נובעת ישירות ממנה?
כדי להבין, פיתחנו מנוע תוכנה
שנקרה אנטרופיקה, שמתוכנן למקסם
את היצור של אנטרופיה לטווח ארוך
של כל מערכת שהיא מוצאת את עצמה בה.
למרבה הפלא, אנטרופיקה היתה מסוגלת לעבור
מבחני אינטיליגנציה חייתיים רבים, לשחק במשחקים אנושיים,
ואפילו להרוויח כסף ממסחר במניות,
הכל בלי לקבל הוראות לעשות את זה.
הנה כמה דוגמנות לאנטרופיקה בפעולה.
ממש כמו אדם שעומד זקוף בלי ליפול,
כאן אנחנו רואים את אנטרופיקה
מאזנת מוט אוטומטית על ידי שימוש בעגלה.
ההתנהגות הזו היא יוצאת דופן חלקית
בגלל שאנחנו מעולם לא נתנו לאנטרופיקה מטרה.
היא פשוט החליטה לבדה לאזן את המוט.
ליכולת האיזון יהיו אפליקציות
לרובוטיקה אנושית
וטכנולוגיות מסייעות לאדם.
ממש כמו שכמה חיות יכולות לשתמש בעצמים
בסביבה שלהן ככלים
כדי להגיע למקומות צרים,
כאן אנחנו רואים שאנטרופיקה,
שוב ביוזמתה שלה,
היתה מסוגלת להזיז דיסק גדול שמייצג חיה
כך שגרמה לדיסק קטן,
שמייצג כלי, להגיע לתוך חלל צפוף
כשהיא מחזיקה דיסק שלישי
ומשחררת את הדיסק השלישי מהמיקום הקבוע הראשוני שלו.
ליכולת השימוש בכלים הזו יהיו אפליקציות
ליצור חכם וחקלאות.
בנוסף, בדיוק כמו שכמה חיות אחרות
מסוגלות לשתף פעולה על ידי משיכת קצוות מנוגדים של חבל
באותו הזמן כדי לשחרר אוכל,
פה אנחנו רואים שאנטרופיקה מסוגלת להשיג
גירסת מודל של המשימה ההיא.
ליכולת השיתופית הזה יש השלכות מעניינות
לתכנון כלכלי ומגוון תחומים נוספים.
אנטרופיקה שמישה באופן נרחב
למגוון תחומים.
לדוגמה, כאן אנחנו רואים אותה
משחקת משחק פונג באופן מוצלח מול עצמה,
ומדגימה את הפוטנציאל שלה למשחוק.
כאן אנחנו רואים את אנטרופיקה מארגנת
קשרים חדשים ברשת חברתית
בה חברים מאבדים קשר כל הזמן
ושומרת באופן מוצלח על הרשת מחוברת היטב.
אותה יכולת ניהול רשת
ישימה גם בשרותי בריאות,
אנרגיה, ומודיעין.
כאן אנחנו רואים את אנטרופיקה מנחה את הדרך
של צי ספינות,
ומגלה באופן מוצלח ומשתמשת בתעלת פנמה
כדי להרחיב את הפריסה שלה מהאטלנטי
לפסיפי.
באותו אופן, אנטרופיקה
ישימה באופן רחב לבעיות
בהגנה אוטונומית, לוגיסטיקה ותחבורה.
לבסוף, פה אנחנו רואים את אנטרופיקה
מגלה באופן ספונטני ומבצעת
אסטרטגיית קנייה במחיר נמוך, ומכירה בגבוה
במגוון רחב של מניות מדומות,
מגדילה באופן מוצלח נכסים תחת ניהול
בצורה מעריכית.
ליכולת ניהול סיכונים זו
יהיה יישום נרחב בפיננסים
וביטוח.
אלכס וויסנר-גרוס: אז מה שראיתם עכשיו
זה שמגוון של התנהגויות תבוניות אנושיות
קוגניטיביות עיקריות
כמו שימוש בכלים והליכה על שתי רגליים
ושיתוף פעולה חברתי
כולן עוקבות אחרי משוואה יחידה,
שמניעה מערכת
כדי למקסם את חופש הפעולה העיקרי שלה.
עכשיו, יש אירוניה עמוקה פה.
אם חוזרים להתחלה
של השימוש במושג רובוט,
המחזה "RUR"
תמיד היה קונספט
שאם נפתח מכונות תבונתיות,
תהיה התקוממות קיברנטית.
המכונות יתקוממו מולנו.
תוצאה אחת עיקרית של העבודה הזו
היא שאולי כל העשורים האלה,
הקונספט הזה של מרד המכונות
היה הפוך.
זה לא שהמכונות הופכות קודם לתבונתיות
ואז למגלומניות
ומנסות להשתלט על העולם.
זה בדיוק ההפך,
שהדחף לשלוט
מכל העתידים האפשריים
הוא עיקרון יותר בסיסי
מזה של תבונה,
שתבונה כללית אולי למעשה תופיע
ישירות מסוג של לקיחת שליטה,
במקום ההפך.
תוצאה חשובה נוספת היא השגת מטרות.
אני נשאל רבות, איך היכולת להשיג מטרות
מגיעה מסוג כזה של תשתית?
והתשובה היא, היכולת להשיג מטרות
תגיע ישירות מזה
באופן הבא:
בדיוק כמו שאתם תעברו במנהרה,
צוואר בקבוק במרחב עתיד הדרך שלכם,
כדי להשיג יעדים רבים
מגוונים מאוחר יותר,
או בדיוק כמו שתשקיעו
בביטחון כלכלי,
ותפחיתו את ההון הנזיל שלכם בטווח הקצר
כדי להגדיל את העושר שלכם בטווח הארוך,
השגת מטרות נובעת ישירות
מדחף ארוך טווח
להגדיל חופש פעולה עתידי.
לבסוף, ריצ'ארד פיינמן, הפיזיקאי המפורסם,
כתב פעם שאם האנושות תושמד
ותוכלו להעביר רק רעיון אחד
לבאים אחרינו
כדי לעזור להם לבנות את הציביליזציה,
הרעיון ההוא צריך להיות
שכל החומר סביבנו
עשוי מחלקיקים קטנים
שמושכים אחד את השני כשהם רחוקים
אבל דוחים אחד את השני כשהם קרובים.
המקבילה שלי להצהרה הזו
להעביר לבאים אחרינו
כדי לעזור להם לבנות בינה מלאכותית
או לעזור להם להבין את הבינה האנושית,
היא זו:
תבונה צריכה להראות
כתהליך פיזיקלי
שמנסה למקסם את החרויות העתידיות של פעולה
ולהמנע ממגבלות בעתיד שלו עצמו.
תודה רבה לכם.
(מחיאות כפיים)