למה הרובוטים לעולם לא יוכלו להשמיד את בני האדם?

 

למה בכל כך הרבה ספרים וסרטים זה כמעט מתרחש?

למה שהרובוטים בכלל ירצו לחסל את בני האדם?

מה הקשר בין רובוטים, תפוחי אדמה, צ'יטות וחיידקים?

מה ההבדל בין לנצח בשחמט לבין להבין שניצחת במשחק?

 

הנושא הזה מעסיק את בני האדם מזה זמן רב. מן המדענים, דרך סופרי המדע הבדיוני ויוצרי סרטי האפקטים החזותיים המרהיבים ועד אחרוני הקוראים והצופים החובבים. מצד אחד הנושא הזה מעניין, מרתק ומשלהב, ומצד שני גם מטריד ומפחיד. המלחמה הזאת, הבלתי נמנעת, המובטחת לנו ביום מן הימים: הרובוטים נגד בני האדם. או להיפך. כולנו זוכרים בוודאי את הסיפור על הגולם מפראג, שקם על יוצרו.

    הספרים והסרטים התערבבו זה מכבר, והיו כגוף אחד. העקרונות, פחות או יותר, מוגדרים, ברורים ודי דומים, אם להודות על האמת: רובוטים משוכללים (לעיתים יותר מדי) משמשים ככלי לחימה יעילים להפליא בידי נבל עשיר/מדען מטורף/רודן מרושע, הרובוטים נלחמים ומשמידים את כל הנקרה בדרכם, (לפעמים גם יוצאים מכלל שליטה ופוגעים בשולחיהם), ומתמסרים למשימתם הרצחנית יתר על המידה ובעודף מוטיבציה, עד אשר מגיע גיבור (או גיבורה יפה במיוחד) או צוות מוכשר, ובאומץ ובתושייה ראויים לציון מצילים את העולם. האמת חייבת להיאמר: כל הספרים מעניינים, כל הסרטים מרהיבים, כולם מרוצים. הקהל מקבל את מה שרצה, היוצרים והמפיקים מתעשרים. שאפו!

    אבל מאחר והספר הזה עוסק במדע, אחת השאלות המסקרנות באמת היא, האם אירועים מן הסוג הזה יכולים באמת להתרחש במציאות. האם עלולים בעתיד רובוטים לצאת נגדנו בני האדם, לטבוח בנו, או חלילה להשמיד את כולנו?

    להלכה, הדבר באמת נשמע אפשרי. האדם, בעזרת מוחו המדהים, יצר כבר כלים רבים שהוא עצמו איננו מסוגל להתמודד עימם בעזרת שריריו ויכולותיו העצמיים. לדוגמה, יצרנו מנוף שיכול להניף טנק השוקל שישים טונות. יש איזהו שרירן בעולם המסוגל להתחרות בכוחו זה של המנוף? יצרנו קטר המסוגל לגמוא מאות קילומטרים במהירויות של מאות קילומטרים בשעה. כלום יש בנמצא אצן אנושי שיכול להתקרב לכך? יתרה מזאת: יצרנו תוכנת שחמט כל כך חזקה ומתוחכמת, שהיא מצליחה לנצח גם את אלופי העולם האנושיים. כלום יכול להיות עלבון גדול מכך עבורנו? האם זה לא מרמז על הצעד הבא, לבנות רובוטים לוחמניים שבני האדם לא יוכלו להם, ולהביא בכך את קיצנו במו ידינו?

   מבחינה הנדסית אין מניעה לכך. בני האדם באמת יוכלו לפתח, להמציא ולבנות לוחמי על רובוטיים כאלה, שמצד אחד יוכלו לפגוע בבני האדם חסרי המגן הטבעי, ומצד שני יוכלו להגן על עצמם מפני כלי הנשק המוכרים של האדם. בהחלט ניתן להציב במוחם (האלקטרוני, הממוחשב) תוכנה כזאת, שפוקדת עליהם לרצוח ולהכחיד את המין האנושי, ולהגן על עצמם מפני ניסיונות ההגנה (או ההתקפה הנגדית) הצפויה מצד האנשים המבועתים.

    אם כך, האם נגזרה עלינו כליה בטרם עת? ואם כן, יש לנו דרך כלשהי להתכונן, להתגונן או לבצע מעשי מנע?

    בשורות הבאות אני הולך לטעון שאירוע מן הסוג הזה, דהיינו הכחדה מוחלטת של המין האנושי בידי מין מלאכותי כלשהו - יציר ידיו של האדם - לא תתרחש לעולם. גם אם יחל תרחיש כזה, ורובוטים יתחילו להשתולל, ומלחמה טוטלית תוכרז בין בני האדם למכונות הללו, סופה של המלחמה יהיה לטובת בני האדם בשר ודם. והרובוטים, העשויים פלדה ומחשבים, הם אשר ינגפו ויכחדו.

    קל להעלות על הכתב כל טענה, אבל קצת קשה יותר לנמקה ולשכנע בנכונותה. לכאורה, זה נראה די הגיוני. הרי אנחנו יותר חכמים מהם, ובטח ימצא מישהו שיערים עליהן, המכונות הקרות והמטופשות. הרי ככלות הכל, אנחנו יצורים חיים, נבונים, בעלי רגש, והם מכונות מתוכנתות ותו לא. המנוף לא מבין שכוחו ההידראולי חזק משריריו של האדם; לקטר אין מושג שהוא מהיר יותר מבני האדם (הוא בכלל לא יודע שהוא קטר ואינו אלא כלי שרת בידי בני האדם), וגם המחשב שמנצח את טובי השחמטאים אינו מבין בכלל שהוא מנצח, אינו יודע בכלל שמדובר במשחק, הוא אינו יודע שהוא בכלל מחשב, הוא אינו מבין כלל מה זה בן אדם, מהם חיים או מוות, מהי ילודה, מהי בדיחה טובה, ארוחה או אפילו סקס. המחשב אינו מבין כלום, הוא פשוט מכשיר שהמציא האדם לשימוש האדם. למעשה, הדבר היחיד שהמחשב - כל מחשב - יודע, זה לעשות מעט מאוד דברים: פעולות חיבור והזזה של מספריים בינאריים, והשוואות לוגיות של מספרים בוליאניים.

    למרות שהדברים נשמעים הגיוניים, זו איננה הוכחה חותכת וחד משמעית כלל. הבעיה היא, שבני האדם מסוגלים להכניס למוחו של המחשב סדרת הוראות שיכולות להזיק לנו מאוד. כוח המחשוב ההולך וגובר, וקיבולת הזיכרון ההולכת וגדלה של המחשבים, מאפשרת לבני האדם להכניס להם אלגוריתמים (סטים של פקודות והוראות) מה לעשות בכל מיקרה ומיקרה. ככל שהמתכנתים טובים ומוכשרים ביותר, נראה כאילו המכונות מסוגלות להבין ולבצע יותר ויותר פעולות. וכעקרון, אם המתכנת היה רצחני במיוחד, גם הרובוט שיצא תחת ידו עלול להיות רצחני במיוחד, ממש כמו המנוף ההידראולי החזק וקטר הדיזל המהיר. הרובוטים באמת יוכלו להסב נזקים אדירים לבני האדם, ולקטול המונים. אם תפרוץ מלחמה כזאת, היא באמת תהיה עקובה מנהרות של דם מצד אחד, וערימות של גרוטאות מתכת ושבבי סיליקון מן הצד שני.

    אבל מה מבטיח לנו שננצח ולא נובס?

    לדעתי, אין צורך להתחיל לכסוס ציפורניים בדאגה, או לעקור לאיזה כפר מבודד בעמק שכוח אל, ולהמתין בחשש ליום הפורענות. יש רק לקרוא את המשך דברי. כרגיל, אני הולך להיעזר בטבע, זה שיצר אותנו בתהליכים טבעיים בסבלנות גדולה מעבר לכל דמיון אנושי, במשך כארבעה מיליארד שנים. במילים פשוטות, מה שהטבע יצר במשך זמן כה ארוך, יצורים מלאכותיים שנוצרו בזמן כה קצר לוקים בנחיתות מהותית לעומת יצורי הטבע - נחיתות כזאת שתביא להכחדתם הרבה לפנינו.

    כעת, עלי לבצע תפנית במהלך הדברים, ולהביא כמה דוגמאות מן הטבע.

    בשלוש שנים ארורות, כילתה פיטרית הכימשון את שדות תפוחי האדמה של אירלנד (לקראת סוף המאה ה- 19). כמיליון אירים גוועו ברעב באותם שנים. הסיבה היתה שהחקלאים האירים גידלו זן יחיד של תפוחי אדמה, שהיה אחיד מבחינת הרכבו הגנטי. כעת, משהופיעה לפתע האויבת הטבעית של הזן הזה, כל היבול ניגף בפניה, חסר הגנה טבעית. חוסר השונות הגנטית היתה בעוכרי תפוחי האדמה, ובני האדם שהתבססו עליהם כמזונם היחיד נספו בעקבותיהם. לו היו החקלאים משתמשים בזנים רבים, או טוב יותר, במיני פחמימות שונים ומגוונים, היתה כמובן התמונה שונה לחלוטין. תפוחי האדמה היו אמנם נכחדים עקב הופעתה של הפטרייה, אך האנשים היו יכולים להשלים את תזונתם בחיטה, תירס או אורז.

    גורל דומה עלול לפקוד את כל בעלי החיים המתמחים בסוג אחד ויחיד של מזון, כדוגמת הפנדות בסין, הניזונות אך ורק מקני החיזרן (במבוק), או הקואלות באוסטרליה, הניזונות רק מעצי האקליפטוס. הם בסכנת חיים גדולה, רק שהם לא מודעים לכך. זעזוע ביולוגי קטן, תנודה קוונטית זעירה, עלולה להכרית את מקור מזונם היחיד ולהובילם אלי אבדון, אל תהום הנשייה. לצערנו, לא תוכל לעזור בכך גם התערבות נבונה של בני האדם. בתקופה קצרה כל כך לא נוכל לשכנע אותם להתרגל למזון חדש, אפילו שהוא בריא ומזין ויעיל עבורם במיוחד, לפי מיטב ידיעתנו. 

    מינים רבים נוספים במצב דומה עומדים על סף הכחדה בגלל הסיבה הזאת בדיוק. אחד מהם - האהוב עלינו במיוחד - הצ'יטה, מהמהירים בתבל. אנחנו בכלל אוהבים מאוד אלופי עולם, מסתבר, ובמרוץ בין הצ'יטה לאנטילופה אנחנו מוצאים את עצמנו מעודדים לא אחת את הצ'יטה מול מסך הטלוויזיה. (אני תוהה, מה זכותה של הצ'יטה לחיות רב יותר מזכותה של האנטילופה?) כיום, הביולוגים חוששים שהצ'יטות עלולות להיכחד עקב מספרם המתדלדל והולך, ואילו מספרן של האנטילופות הולך וגדל. הבה נתאר לעצמו שביום בהיר אחד, בני האדם מתאהבים בבשרה של האנטילופה, וגדודי ציידים חמושים ברובים יורקי עופרת רותחת מתחילים לספק את הביקוש לכל מסעדות העולם. בתוך כמה שנים יעלמו האנטילופות מן הסוואנה האפריקאית, ואתם יעלמו בהכרח גם הצ'יטות החביבות, שמתמחות אך ורק במרדף אחרי האנטילופות, כזכור. (אגב, הסיבה שהאדם יכול להתחיל לצוד את האנטילופה אינו מוגבל רק לסיבה גסטרונומית; האדם מתמחה במציאת אינספור סיבות כדי לרדוף, להשמיד ולהכחיד יצורים. יתכן וימצא בהן חומר המשמש לתרופה נדירה, או כימיקל היוצר צבע מרהיב, או פרומון של ריח עבור בושם ארומטי, או סתם איזו אמונה אווילית וחסרת שחר כגון סיוע בהגברת כוח הגברא, כדי להנחית מכת מוות על אותו מין אומלל, שתהליכי האבולוציה מעולם לא הכינו אותו לקליעי הרובה הננעצים בו במהירות הקול, מבלי שהיצור מבין כלל מה קטל את חייו בטרם עת).

    הדוגמאות הללו מדגימות את אחת התובנות של הגיוון הביולוגי, הגנטי. העולם לפני כמיליארד שנה היה שונה מאוד מעולמנו כיום. האוקיינוסים של כדור הארץ הכילו הרבה חומרים כימיים, חומצות אמינו וחיידקים, ולמרבה ההפתעה - לא היה אז מוות בעולם. החיידקים לא מתו מזקנה או ממחלות. הם רק התחלקו והשתכפלו והתרבו, והיו זהים אחד לשני. הסכנה לחיידקים היתה, שעלול להגיע פתאום איזשהו גורם חיצוני שיכלה אותם, אולי יבלע אותם ויצרפו לעצמו כיצור מתקדם יותר, וכולם יעלמו בין לילה. כיצד נפתרה בעייתם? הטבע מצא לכך פתרון: הם התפצלו למינים שונים. אחדים היו קטנים יותר, חלקם הפכו לגדולים יותר. חלקם נדחפו להתפתח במקומות שטופי אור שמש, חלקם העדיפו להידחק למקומות מוצלים וחשוכים. חלקם התפתחו במקומות חמים וחלקם שרדו במקומות קרים ועוינים יותר. הגיוון הזה נמצא יעיל במיוחד כאסטרטגיית שרידה מוצלחת. אם הופיע פתאום אויב או טורף למין חיידקי מסוים, שטרף לדוגמה את כל החיידקים שנמצאים בשכבות העליונות של המים, הרי כל השאר זכו להישאר בחיים, מפני שחלקם היו בשכבות התחתונות, חלקם במערות חשוכות וחלקם בכלל היו בקוטב הקר. 

    לכן, לפני כמיליארד שנים, התמונה הנכונה יותר היתה כנראה מגוון עצום של חיידקים שונים ומגוונים, שמכל אחד מהם יצאו ונוצרו התפצלויות נוספות. ככל שרבו הנתיבים האבולוציוניים, כך הבטיחו לעצמם היצורים הפשוטים האלה, שבשעת צרה לפחות חלקם יזכה להישאר בחיים.

    אני מדלג במהירות גדולה מיליארד שנה קדימה, לתקופתנו. כיום אנו רואים את תוצר ההתפצלויות של אז בדמות מיליוני מינים שונים החיים עמנו כיום. בהווה יש חרקים, דגים, זוחלים, עופות ויונקים, וכולם כה שונים זה מזה, עד שהסיכוי שאירוע בודד כלשהו יכחיד את כולם כמעט אפסי. כמובן, אינני מדבר על אירוע קוסמי כמו התנגשות בין שני גרמי שמיים, שעלול לפורר את כל כוכבינו לאבק ועמו את כל החיים על האדמה. ברם, לאירוע כזה גם אין כל הגנה, לכן חבל לדאוג ולבזבז על זה מחשבה. (אולי צאצאינו בעתיד הרחוק יוכלו לצפות מראש אירוע כזה ולהימלט מכאן במועד לגרם שמיימי אחר).     

    ההתרבות של האדם איננה מתבססת על חלוקה ושכפול פשטני כמו אצל החיידקים. אצל בני האדם יש עירוב גנים שמתקבל מהפיצול הפנימי לשני מגדרים: זכרים ונקבות. אבל הפיצול לזכרים ולנקבות בתוך המין מלכתחילה נוצר כי היה לו יתרון אבולוציוני עצום, ומהותו גיוון גנטי. כולנו דומים מאוד האחד לשני, אבל גם שונים במעט זה מזה. השונות הזאת באה לידי ביטוי בהגנה הטבעית בפני מחלות, וביתר שאת בשעת מגיפות עצומות. זו הסיבה העיקרית לכך, שהאנושות לא הושמדה ונכחדה אפילו בעתות של מגיפות המוניות כגון השחפת, הדבר או השפעת הספרדית, כאשר לא היו בנמצא רופאים לסייע לנו. אף בימינו האיידס, הסארס והאבולה לא מצליחים לפגוע יתר על המידה במין האנושי, במחלות שהרפואה המודרנית עדיין לא מצאה כנגדם פתרונות מספקים.

    אם אני שומע רטינה בקרב הקוראים, כגון 'היי, שכחת שהבטחת לדבר על רובוטים? נמאס לנו מחיידקים וממחלות', הרי שהצדק עמכם, ואני שב עתה לדון על המפלצות המלאכותיות שאנו יצרנו. הסיבה שננצח אותם היא שלנו יש גיוון גנטי טבעי, ולהם אין. הם עשויים בפס יצור תעשייתי אחיד, ללא שום מוטציה אחת ויחידה אפילו. בחרתי להדגיש זאת, כי כאן טמונה התשובה. כנגד החיסרון הזה הרובוטים לא יוכלו לעולם להתגונן. על בני האדם, הנלחמים ברובוטים וסופגים אבדות כבדות, יהיה למצוא את נקודת התורפה האחת והיחידה של הרובוטים, כדי לנצחם. זה לא יהיה קל ולא יהיה מהיר, מפני שהם ידעו להגן על עצמם מפני כל כלי הנשק המוכרים שיהיו עד אז בידי האנשים. אולם לאחר שימצא הנשק הזה, כל הרובוטים יוכרעו בתוך זמן קצר ביותר, שאפשר לכנותו אפילו בין לילה. לדוגמה, נניח ימצא שהמעגלים האלקטרוניים של הרובוטים מתקצרים תחת שטף של מים. זה כשלעצמו יספיק למגרם. אולי זה לא יהיה הנשק הסופי, אלא משהו מתוחכם בהרבה, כגון פולס אלקטרו-מגנטי, קרן חלקיקים מיוננים או וירוס תוכנה מבריק שיוזרק לתוכם, אבל יהיה אשר יהיה הנשק היחיד שימצא - הוא יחסל את כולם עד האחרון שבהם, רק מפני שכולם יוצרו בפס יצור אחיד ואין אצלם שום שונות גנטית טבעית. ממש כמו תפוחי האדמה באירלנד.

    במחשבה נוספת, זה נשמע גם הוגן למדי. אנחנו חיים, לכולנו מטרה עליונה שעיקרה הארכת משך החיים ואיכות החיים שלנו. אנחנו 'נעשה הכל' כדי לשרוד ולהמשיך את המין שלנו. הרובוטים לא יכולים למות, כי מעולם לא נולדו וחיו באמת. מפני זה, ומפני שהרובוטים גם לא מולידים צאצאים, אין לרובוטים שום מניע עליון להישאר בחיים ולעשות 'הכל' על מנת לשרוד. אתם רשאים להיות סמוכים ובטוחים, שאנחנו ננצח. החיים הם הכוח החזק ביותר בטבע, בסיכומו של דבר.

 

חזרה לדף קופים עם שיגעון גדלות

חזרה לדף הבית של אתר שלהבת