הסיבה שבגללה התגלו מאמר זה (ואחרים) היא פשוטה: אולי בינה מלאכותית היא לא רק נושא חשוב לדיון, אלא החשוב ביותר בהקשר של העתיד. כל מי שנכנס אפילו קצת למהות הפוטנציאל של בינה מלאכותית מכיר שאי אפשר להתעלם מהנושא הזה. חלקם - ביניהם אילון מאסק, סטיבן הוקינג, ביל גייטס, לא האנשים הכי טיפשים על הפלנטה שלנו - מאמינים שבינה מלאכותית מהווה איום קיומי על האנושות, השווה בקנה מידה להכחדה המוחלטת שלנו כמין. ובכן, שב לאחור ותנקד את ה-i עבור עצמך.
"אנחנו על סף שינוי השווה ללידתם של חיי אדם על פני כדור הארץ" (ורנור וינג').
מה זה אומר לעמוד על סף שינויים כאלה?
נראה שזה לא משהו מיוחד. אבל אתה חייב לזכור שלהיות במקום כזה בטבלה אומר שאתה לא יודע מה נמצא מימינך. אתה אמור להרגיש ככה:
התחושות די נורמליות, הטיסה מתנהלת בסדר.
העתיד מגיע
תארו לעצמכם שהובלתם על ידי מכונת זמן לשנת 1750, תקופה שבה העולם חווה הפסקות חשמל קבועות, תקשורת בין ערים פירושה ירי תותחים, וכל התחבורה התנהלה על חציר. נניח שאתה מגיע לשם, קח מישהו ותביא אותו ל-2015, כדי להראות איך הכל כאן. אנחנו לא מצליחים להבין איך זה יהיה בשבילו לראות את כל הקפסולות הנוצצות האלה עפות על הכבישים; לדבר עם אנשים בצד השני של האוקיינוס; לצפות במשחקי ספורט במרחק אלפי קילומטרים; לשמוע מופע מוזיקלי שהוקלט לפני 50 שנה; לשחק עם מלבן הקסם שיכול לצלם תמונה או ללכוד רגע חי; לבנות מפה עם נקודה כחולה פאר-נורמלית המציינת את מיקומה; להסתכל על פניו של מישהו ולתקשר איתו לאורך קילומטרים רבים וכן הלאה. כל זה הוא קסם בלתי מוסבר עבור אנשים בני כמעט שלוש מאות שנים. שלא לדבר על האינטרנט, תחנת החלל הבינלאומית, מאיץ ההדרונים הגדול, גרעיני כלי נשק ותורת היחסות הכללית.
חוויה כזו עבורו לא תהיה מפתיעה או מזעזעת – המילים הללו אינן מעבירות את כל מהות הקריסה הנפשית. הנוסע שלנו עלול אפילו למות.
אבל יש נקודה מעניינת. אם הוא יחזור לשנת 1750 ויקנא בכך שרצינו לראות את תגובתו לשנת 2015, הוא עלול לקחת אתו את מכונת הזמן ולנסות לעשות את אותו הדבר עם, למשל, 1500. הוא יטוס לשם, ימצא אדם, ייקח אותו ל-1750 ויראה הכל. הבחור מ-1500 יהיה בהלם מאוד - אבל לא סביר שהוא ימות. למרות שהוא בהחלט יופתע, ההבדל בין 1500 ל-1750 קטן בהרבה מאשר בין 1750 ל-2015. אדם מ-1500 יופתע בנקודות מסוימות מהפיסיקה, יתפעל ממה שאירופה הפכה תחת העקב הקשה של האימפריאליזם, צייר א מפה חדשה של העולם בראשו . אבל חיי היומיום של 1750 - הובלה, תקשורת וכדומה - בקושי יפתיעו אותו למוות.
לא, כדי שהבחור משנת 1750 יהנה כמונו, הוא חייב ללכת הרבה יותר רחוק - אולי שנה כזו בשנת 12 לפני הספירה. לפני הספירה, עוד לפני המהפכה החקלאית הראשונה אפשרה את הולדת הערים הראשונות ואת מושג הציוויליזציה. אם מישהו מעולם הציידים-לקטים, מתקופה שבה בני האדם היו יותר מסתם עוד זן של בעלי חיים, ראה את האימפריות האנושיות העצומות של 000 עם הכנסיות הגבוהות שלהן, ספינות חוצות אוקיינוסים, הרעיון שלהם להיות "בתוך" בניין, הכל זה ידיעה - סביר להניח שהוא היה מת.
ואז, אחרי המוות, הוא יקנא וירצה לעשות את אותו הדבר. יחזור 12 שנים אחורה ל-000 לפני הספירה. ה., היה לוקח את האדם וגורר אותו בזמן. והנוסע החדש היה אומר לו: "טוב, זה טוב, תודה". כי במקרה הזה, אדם משנת 24 לפני הספירה. ה. צריך לחזור 000 שנים אחורה ולהראות לילידים המקומיים אש ושפה בפעם הראשונה.
אם אנחנו צריכים להעביר מישהו לעתיד כדי להיות מופתע למוות, ההתקדמות צריכה לעבור מרחק מסוים. יש להגיע לנקודת ההתקדמות הקטלנית (TPP). כלומר, אם בזמנם של ציידים-לקטים ה-TSP לקח 100 שנים, התחנה הבאה התרחשה כבר בשנת 000 לפני הספירה. ה. מאחוריה, ההתקדמות כבר הייתה מהירה יותר ושינתה את העולם באופן קיצוני עד 12 (באופן טנטטיבי). ואז זה לקח כמה מאות שנים, והנה אנחנו כאן.
התמונה הזו של ההתקדמות האנושית נעה מהר יותר ככל שהזמן חולף היא מה שהפוטוריסט ריי קורצווייל מכנה את חוק האצת החזרות האנושיות. היסטוריה. הסיבה לכך היא שלחברות מתקדמות יותר יש את היכולת להתקדם בקצב מהיר יותר מאשר לחברות פחות מפותחות. אנשי המאה ה-19 ידעו יותר מאנשי המאה ה-15, ולכן אין זה מפתיע שההתקדמות במאה ה-19 הייתה מהירה יותר מאשר במאה ה-15, וכן הלאה.
זה עובד גם בקנה מידה קטן יותר. Back to the Future יצא ב-1985, ו"העבר" היה 1955. בסרט, כשמייקל ג'יי פוקס חזר ל-1955, הוא נתפס על ידי החידוש של הטלוויזיות, מחיר הסודה, חוסר האהבה לצליל הגיטרה והווריאציות בסלנג. זה היה עולם אחר, כמובן, אבל אם הסרט צולם היום והעבר היה ב-1985, ההבדל היה הרבה יותר גלובלי. מרטי מקפליי חוזר אחורה בזמן ממחשבים אישיים, מהאינטרנט, מהטלפונים הניידים יהיו הרבה יותר לא במקום מאשר מרטי חוזר ל-1955 מ-1985.
כל זה נובע מחוק האצת ההחזרות. קצב ההתקדמות הממוצע בין 1985 ל-2015 היה מהיר יותר מהקצב מ-1955 עד 1985 - מכיוון שבמקרה הראשון העולם היה מפותח יותר, הוא היה רווי בהישגים של 30 השנים האחרונות.
לפיכך, ככל שיותר הישגים, כך השינויים מתרחשים מהר יותר. אבל האם זה לא אמור להשאיר אותנו עם רמזים מסוימים לגבי העתיד?
קורצווייל מציע שניתן היה להשלים את ההתקדמות של המאה ה-20 כולה תוך 20 שנה בלבד ברמת הפיתוח בשנת 2000 - כלומר, בשנת 2000 קצב ההתקדמות היה מהיר פי חמישה מקצב ההתקדמות הממוצע של המאה ה-20. מֵאָה. הוא גם סבור שההתקדמות של המאה ה-20 כולה הייתה שוות ערך להתקדמות התקופה משנת 2000 ל-2014, וההתקדמות של מאה 20 נוספת תהיה שווה ערך לתקופה עד 2021 - כלומר בעוד שבע שנים בלבד. לאחר כמה עשורים, כל ההתקדמות של המאה ה-20 תושלם מספר פעמים בשנה, ולאחר מכן תוך חודש בלבד. בסופו של דבר, חוק האצת ההחזרים יביא אותנו למצב שלאורך כל המאה ה-21, ההתקדמות תהיה גדולה פי 1000 מההתקדמות של המאה ה-20.
אם קורצווייל ותומכיו צודקים, 2030 תפתיע אותנו באותו האופן שבו הבחור מ-1750 היה מפתיע את 2015 שלנו - כלומר, ה-TSP הבא ייקח רק כמה עשורים - והעולם של 2050 יהיה כל כך שונה מהמודרני שאנחנו בקושי רואים אותו. גלה. וזה לא פנטזיה. כך מאמינים מדענים רבים שהם חכמים ומשכילים יותר ממך וממני. ואם תסתכלו לתוך ההיסטוריה, תבינו שהתחזית הזו נובעת מהיגיון טהור.
מדוע, אם כן, כאשר אנו עומדים בפני אמירות כמו "העולם ישתנה ללא הכר בעוד 35 שנה", אנו מושכים בכתפיים בספקנות? יש שלוש סיבות לספקנות שלנו לגבי תחזיות עתידיות:
1. כשזה מגיע לסיפורים, אנחנו חושבים בקווים ישרים. בניסיון לדמיין את ההתקדמות של 30 השנים הבאות, אנו מסתכלים על ההתקדמות של 30 השנים הקודמות כאינדיקטור לכמה צפוי לקרות. כשאנחנו חושבים על איך העולם שלנו ישתנה במאה ה-21, אנחנו לוקחים את ההתקדמות של המאה ה-20 ומוסיפים אותה לשנת 2000. הבחור שלנו מ-1750 עושה את אותה טעות כשהוא מוציא מישהו מ-1500 ומנסה להפתיע אותו. אנו חושבים באופן אינטואיטיבי באופן ליניארי כאשר עלינו להיות אקספוננציאליים. בעיקרו של דבר, עתידיסט צריך לנסות לחזות את ההתקדמות של 30 השנים הבאות, לא על ידי הסתכלות על 30 הקודמות, אלא על ידי הסתכלות על רמת ההתקדמות הנוכחית. אז התחזית תהיה מדויקת יותר, אבל עדיין עברה את השער. כדי לחשוב נכון על העתיד, אתה צריך לראות דברים זזים בקצב הרבה יותר מהיר ממה שהם זזים עכשיו.
[/ מרכז]2. מסלול ההיסטוריה הקרובה נראה לעתים קרובות מעוות. ראשית, אפילו עקומה מעריכית תלולה נראית לינארית כאשר רואים חלקים קטנים ממנה. שנית, צמיחה אקספוננציאלית לא תמיד חלקה ואחידה. קורצווייל מאמין שההתקדמות נעה בעקומות נחשיות.
עקומה כזו עוברת שלושה שלבים: 1) צמיחה איטית (שלב מוקדם של צמיחה אקספוננציאלית); 2) צמיחה מהירה (נפץ, שלב מאוחר של צמיחה אקספוננציאלית); 3) ייצוב בצורה של פרדיגמה ספציפית.
אם תסתכל על ההיסטוריה האחרונה, ייתכן שהחלק של עקומת ה-S בו אתה נמצא כעת מסתיר את קצב ההתקדמות מהתפיסה שלך. חלק מהזמן שבין 1995 ל-2007 הושקע בפיתוח הנפיץ של האינטרנט, הכנסת מיקרוסופט, גוגל ופייסבוק לציבור, לידת הרשתות החברתיות ופיתוח טלפונים סלולריים, ולאחר מכן סמארטפונים. זה היה השלב השני של העקומה שלנו. אבל התקופה מ-2008 עד 2015 הייתה פחות משבשת, לפחות בחזית הטכנולוגיה. אלה שחושבים על העתיד היום יכולים לקחת את השנתיים האחרונות כדי לאמוד את קצב ההתקדמות הכולל, אבל הם לא רואים את התמונה הגדולה יותר. למעשה, שלב 2 חדש ועוצמתי עשוי להתבשל כעת.
3. הניסיון שלנו הופך אותנו לזקנים נרגנים בכל הנוגע לעתיד. אנו מבססים את הרעיונות שלנו על העולם על הניסיון שלנו, וניסיון זה קבע עבורנו את קצב הצמיחה בעבר הקרוב כ"מובן מאליו". כמו כן, הדמיון שלנו מוגבל מכיוון שהוא משתמש בניסיון שלנו כדי לחזות – אבל לרוב, פשוט אין לנו את הכלים שמאפשרים לנו לחזות במדויק את העתיד. כאשר אנו שומעים תחזיות לעתיד שעומדות בסתירה לתפיסה היומיומית שלנו לגבי איך דברים עובדים, אנו מבטלים אותן אינסטינקטיבית כנאיביות. אם הייתי אומר לך שתחיה עד גיל 150 או 250, או אולי לא תמות בכלל, היית חושב באופן אינסטינקטיבי ש"זה טיפשי, אני יודע מההיסטוריה שכולם מתו בזמן הזה". אז זהו: אף אחד לא חי עד שנים כאלה. אבל אף מטוס לא טס לפני המצאת המטוסים.
לפיכך, למרות שספקנות נראית לך סבירה, היא לרוב שגויה. עלינו לקבל שאם נתחמש בהיגיון טהור ונחכה לזיגזגים ההיסטוריים הרגילים, עלינו להכיר בכך שמאוד, מאוד, מאוד חייב להשתנות בעשורים הקרובים; הרבה יותר ממה שאחד היה אינטואיטיבי. ההיגיון גם מכתיב שאם המינים המתקדמים ביותר על פני כדור הארץ ימשיכו לעשות קפיצות ענק קדימה, מהר יותר ויותר, בשלב מסוים הזינוק יהיה כה חמור שהוא ישנה באופן דרסטי את החיים כפי שאנו מכירים אותם. משהו דומה קרה בתהליך האבולוציה, כשהאדם נעשה כל כך חכם שהוא שינה לחלוטין את החיים של כל מין אחר על פני כדור הארץ. ואם תבזבז קצת זמן בקריאת מה שקורה במדע ובטכנולוגיה עכשיו, אולי תתחיל לראות כמה רמזים לגבי מה תהיה הקפיצה הענקית הבאה.
הדרך לבינת-על: מהי AI (בינה מלאכותית)?
כמו רבים כל כך על הפלנטה הזו, הגעת לחשוב על בינה מלאכותית כעל רעיון מדע בדיוני טיפשי. אבל לאחרונה, הרבה אנשים רציניים הראו דאגה מהרעיון המטופש הזה. מה לא בסדר?
ישנן שלוש סיבות שמובילות לבלבול סביב המונח AI:
אנו מקשרים AI עם סרטים. "מלחמת הכוכבים". "מחסל". "אודיסיאה בחלל 2001". אבל כאילו רובוטיםה-AI בסרטים האלה הוא בדיוני. כך, סרטים הוליוודיים מדללים את רמת התפיסה שלנו, בינה מלאכותית הופכת למוכרת, מוכרת וכמובן, לרעה.
זהו תחום רחב ליישום. זה מתחיל במחשבון בטלפון שלך ובפיתוח של מכוניות בנהיגה עצמית ומגיע למשהו רחוק בעתיד שישנה את העולם באופן דרמטי. ה-AI מייצג את כל הדברים האלה וזה מבלבל.
אנו משתמשים בבינה מלאכותית מדי יום, אך לעתים קרובות אנו אפילו לא מבינים זאת. כפי שאמר ג'ון מקארתי, ממציא המונח "בינה מלאכותית" ב-1956, "ברגע שזה נעשה, אף אחד לא קורא לזה בינה מלאכותית יותר." AI הפך להיות יותר כמו תחזית מיתית לגבי העתיד מאשר כל דבר אמיתי. יחד עם זאת, יש בשם הזה גם טעם של משהו מהעבר, שמעולם לא הפך למציאות. ריי קורצווייל אומר שהוא שומע אנשים מקשרים בין בינה מלאכותית לעובדות משנות ה-80, מה שניתן להשוות ל"אומרים שהאינטרנט מת עם מכשירי הדוט-קום בתחילת שנות ה-2000".
בואו נהיה ברורים. ראשית, תפסיק לחשוב על רובוטים. הרובוט שהוא המיכל ל-AI לפעמים מחקה את הצורה האנושית, לפעמים לא, אבל ה-AI עצמו הוא המחשב בתוך הרובוט. AI הוא המוח, והרובוט הוא הגוף, אם יש לו גוף בכלל. לדוגמה, התוכנה והנתונים של Siri הם בינה מלאכותית, הקול הנשי הוא האנשה של ה-AI הזה, ואין רובוטים במערכת הזו.
שנית, בוודאי שמעתם את המונח "ייחוד" או "ייחוד טכנולוגי". המונח משמש במתמטיקה כדי לתאר מצב חריג שבו הכללים הרגילים אינם חלים עוד. בפיזיקה, הוא משמש לתיאור הנקודה הקטנה והצפופה לאין שיעור של חור שחור, או הנקודה הראשונית של המפץ הגדול. שוב, חוקי הפיזיקה לא עובדים בו. בשנת 1993, ורנור וינג' כתב חיבור מפורסם שבו יישם את המונח על רגע בעתיד שבו האינטליגנציה של הטכנולוגיה שלנו עולה על זו שלנו - בשלב זה החיים כפי שאנו מכירים אותם ישתנו לנצח, וכללי קיומם הרגילים. לא יחול יותר. . ריי קורצווייל חידד את המונח עוד יותר בכך שהצביע על הייחודיות שתגיע כאשר חוק האצת ההחזרים יגיע לנקודת קיצון, שבה ההתקדמות הטכנולוגית נעה כל כך מהר עד שאנו מפסיקים להבחין בהישגיה, כמעט במהירות אינסופית. אז נחיה בעולם חדש לגמרי. עם זאת, מומחים רבים הפסיקו להשתמש במונח זה, אז בואו לא נשתמש בו לעתים קרובות.
לבסוף, בעוד ישנם סוגים או צורות רבות של בינה מלאכותית הנובעת מהמושג הרחב של בינה מלאכותית, הקטגוריות העיקריות של בינה מלאכותית משתנות לפי קליבר. ישנן שלוש קטגוריות עיקריות:
בינה מלאכותית (AI) ממוקדת צר (חלשה). UII מתמחה בתחום אחד. בין הבינה המלאכותית האלה יש כאלה שיכולים לנצח את אלוף העולם בשחמט, אבל זהו. יש אחד שיכול להציע את הדרך הטובה ביותר לאחסן נתונים בכונן קשיח, וזהו.
בינה מלאכותית כללית (חזקה). לפעמים מכונה גם AI ברמת האדם. AGI מתייחס למחשב שהוא חכם כמו אדם - מכונה שיכולה לבצע כל פעולה חכמה שאדם יכול לבצע. יצירת AGI היא הרבה יותר קשה מ-AGI, ועדיין לא הגענו לשם. פרופסור לינדה גוטפרדסון מתארת אינטליגנציה כ"במובן כללי, יכולת שכלית, הכוללת בין היתר את היכולת להגיב, לתכנן, לפתור בעיות, לחשוב בצורה מופשטת, להבין רעיונות מורכבים, ללמוד מהר ולצבור ניסיון". ה-AGI אמור להיות מסוגל לעשות את כל זה בקלות כמוך.
בינה על מלאכותית (AI). הפילוסוף והתיאורטיקן של AI אוקספורד ניק בוסטרום מגדיר אינטליגנציה על כ"אינטליגנציה שהיא הרבה יותר חכמה מהמוחות האנושיים הטובים ביותר כמעט בכל תחום, כולל יצירתיות מדעית, חוכמה כללית וכישורים חברתיים". בינה-על מלאכותית כוללת גם מחשב שהוא מעט יותר חכם מאדם, וגם מחשב שהוא חכם יותר טריליוני פעמים בכל כיוון. ASI היא הסיבה לכך שהעניין ב-AI גובר, ומדוע המילים "הכחדה" ו"אלמוות" מופיעות לעתים קרובות בדיונים כאלה.
עד עכשיו, בני האדם כבר כבשו את המדרגה הראשונה של קליבר הבינה המלאכותית - AII - במובנים רבים. מהפכת ה-AI היא הדרך מ-AGI דרך AGI ל-ASI. אולי לא נשרוד את הדרך הזו, אבל זה בהחלט ישנה הכל.
בואו נסתכל מקרוב על איך הוגים מובילים בתחום רואים את הדרך הזו ומדוע המהפכה הזו יכולה להתרחש מהר יותר ממה שאתם עשויים לחשוב.
איפה אנחנו בזרם הזה?
בינה מלאכותית צרה היא אינטליגנציה של מכונה ששווה או גדולה מהאינטליגנציה האנושית או היעילות בביצוע משימה ספציפית. כמה דוגמאות:
* מכוניות עמוסות במערכות בינה מלאכותיות, ממחשבים הקובעים מתי צריכים לבעוט בלמים נגד נעילה, ועד למחשבים הקובעים פרמטרים של הזרקת דלק. המכוניות האוטונומיות של גוגל, הנבדקות כעת, יכללו מערכות בינה מלאכותית חזקות שיחושו ויגיבו לעולם הסובב אותן.
* הטלפון שלך הוא מפעל AIM קטן. כשאתה משתמש באפליקציית המפות, מקבל המלצות להורדת אפליקציות או מוזיקה, בדוק את מזג האוויר של מחר, מדבר עם Siri או עושה כל דבר אחר, אתה משתמש בבינה מלאכותית.
* מסנן דואר הזבל שלך הוא סוג קלאסי של FIS. זה מתחיל בהבנה כיצד להפריד בין דואר זבל לאימיילים טובים ואז לומד תוך כדי עיבוד האימיילים וההעדפות שלך.
* והתחושה המביכה הזו כשאתמול חיפשתם מברג או פלזמה חדשה במנוע חיפוש, והיום אתם רואים הצעות מחנויות מועילות באתרים אחרים? או כשרשת חברתית ממליצה לך להוסיף אנשים מעניינים כחברים? כל אלו הן מערכות בינה מלאכותית שפועלות יחד כדי לקבוע את ההעדפות שלך, כדי לגרוף נתונים עליך מהאינטרנט, להתקרב אליך יותר ויותר. הם מנתחים את התנהגותם של מיליוני אנשים ומסיקים מסקנות על סמך הניתוחים הללו על מנת למכור שירותים של חברות גדולות או לשפר את השירותים שלהם.
* Google Translate היא עוד מערכת AII קלאסית שמצליחה בצורה מרשימה בדברים מסוימים. גם זיהוי קולי. כאשר המטוס שלך נוחת, הטרמינל עבורו אינו מוגדר על ידי אדם. גם מחיר הכרטיס. משחקי הדמקה, השחמט, השש-בש, הדחפורים ושאר המשחקים הטובים ביותר בעולם כיום מיוצגים על ידי אינטליגנציות מלאכותיות ממוקדות צר.
* חיפוש Google הוא AGI ענק אחד שמשתמש בשיטות חכמות להפליא כדי לדרג דפים ולקבוע תוצאות חיפוש.
וזה רק בעולם הצרכנות. מערכות AIM מתוחכמות נמצאות בשימוש נרחב בתעשיות הצבאיות, הייצור והפיננסיות; במערכות רפואיות (חשבו על ווטסון מ-IBM) וכן הלאה.
מערכות AIM בצורתן הנוכחית אינן מהוות איום. במקרה הגרוע, כרכרה או AIM מתוכנת בצורה גרועה עלולים לגרום לאסון מקומי, הפסקות חשמל, קריסת שווקים פיננסיים וכדומה. אבל למרות של-AGI אין את הכוח ליצור איום קיומי, עלינו לראות את הדברים בצורה רחבה יותר - אנו צפויים להוריקן הרסני, שה-AGI הוא מבשר עבורו. כל חידוש חדש של AGI מוסיף בלוק אחד לנתיב המוביל אל AGI ו-ASI. או, כפי שציין היטב אהרון סאנץ, ה-AGI של העולם שלנו הם כמו "חומצות האמינו של המרק הקדמון של כדור הארץ הצעיר" - מרכיבי החיים שעדיין לא חיים שיום אחד יתעוררו.
הדרך מ-AII ל-AGI: למה זה כל כך קשה?
שום דבר לא חושף את המורכבות של האינטליגנציה האנושית כמו הניסיון לבנות מחשב חכם באותה מידה. בניית גורדי שחקים, טיסה לחלל, סודות המפץ הגדול - כל זה שטויות בהשוואה לשכפול המוח שלנו, או אפילו סתם להבין אותו. המוח האנושי הוא כיום האובייקט המורכב ביותר ביקום הידוע.
אולי אפילו לא חושדים בקושי ליצור AGI (מחשב שהוא חכם כמו אדם, באופן כללי, ולא רק בתחום אחד). בניית מחשב שיכול להכפיל שני מספרים בני עשר ספרות בשבריר שנייה היא חתיכת עוגה. יצירת אחד שיכול להסתכל על כלב וחתול ולהגיד איפה הכלב ואיפה החתול זה קשה להפליא. ליצור בינה מלאכותית שיכולה לנצח רב-מאסטר? עָשׂוּי. עכשיו נסו לגרום לו לקרוא פסקה מתוך ספר בן שש ולא רק להבין את המילים אלא גם את משמעותן. גוגל מוציאה מיליארדי דולרים בניסיון לעשות זאת. עם דברים מורכבים - כמו חישובים, אסטרטגיות חישוב לשווקים פיננסיים, תרגום שפה - מחשב יכול להתמודד עם זה בקלות, אבל עם דברים פשוטים - חזון, תנועה, תפיסה - הוא לא יכול. כפי שניסח זאת דונלד קנוט, "AI עושה עכשיו כמעט כל מה שדורש 'חשיבה', אבל היא לא יכולה להתמודד עם מה שבני אדם ובעלי חיים עושים בלי לחשוב".
כשתחשבו על הסיבות לכך, תבינו שדברים שנראים לנו פשוטים לעשות נראים כך רק בגלל שהם עברו אופטימיזציה עבורנו (ולבעלי החיים) במשך מאות מיליוני שנים של אבולוציה. כאשר אתה מושיט את היד שלך לעבר חפץ, השרירים, המפרקים, עצמות הכתפיים, המרפקים והידיים שלך מבצעים באופן מיידי שרשראות ארוכות של פעולות פיזיות, סינכרוניות עם מה שאתה רואה, ומניעים את היד שלך בתלת מימד. זה נראה לך פשוט, כי התוכנה המושלמת של המוח שלך אחראית לתהליכים האלה. הטריק הפשוט הזה מאפשר לך להפוך את תהליך רישום חשבון חדש עם מילה כתובה בצורה עקומה (captcha) לפשוט עבורך ולעזאזל עבור בוט זדוני. עבור המוח שלנו, זה לא קשה: אתה רק צריך להיות מסוגל לראות.
מצד שני, כפל של מספרים גדולים או משחק שחמט הם פעילויות חדשות עבור יצורים ביולוגיים, ולא היה לנו מספיק זמן להשתפר בהם (לא מיליוני שנים), כך שלמחשב לא קשה להביס אותנו. רק תחשוב על זה: האם אתה מעדיף ליצור תוכנה שיכולה להכפיל מספרים גדולים, או תוכנה שמזהה את האות B במיליוני האיות שלה, בפונטים הכי לא צפויים, ביד או עם מקל בשלג?
דוגמה אחת פשוטה: כשאתה מסתכל על זה, אתה והמחשב שלך מבינים שמדובר בריבועים מתחלפים של שני גוונים שונים.
אבל אם אתה מסיר את השחור, אתה מתאר מיד את כל התמונה: צילינדרים, מישורים, זוויות תלת מימדיות, אבל המחשב לא יכול.
הוא יתאר את מה שהוא רואה כמגוון של צורות דו מימדיות בגוונים שונים, מה שבאופן עקרוני נכון. המוח שלך עושה המון עבודה בפירוש העומק, הצללים, האור שבתמונה. מתחת לתמונה המחשב יראה קולאז' לבן-אפור-שחור דו מימדי, כאשר במציאות יש אבן תלת מימדית.
וכל מה שציינו זה עתה הוא רק קצה הקרחון לגבי הבנה ועיבוד של מידע. כדי להגיע לאותה רמה של אדם, מחשב חייב להבין את ההבדל בהבעות פנים עדינות, את ההבדל בין הנאה, עצב, סיפוק, שמחה, ולמה צ'צקי נהדר, אבל מולכלין לא.
מה לעשות?
הצעד הראשון לקראת יצירת AGI: הגדלת כוח המחשוב
אחד הדברים שצריכים לקרות כדי ש-AGI תהיה אפשרית הוא להגביר את העוצמה של חומרת המחשב. אם מערכת AI אמורה להיות חכמה כמו מוח, היא צריכה להתאים למוח מבחינת כוח עיבוד גולמי.
אחת הדרכים להגדיל את היכולת הזו היא במספר החישובים הכולל לשנייה (OPS) שהמוח יכול לעשות, ואתה יכול לקבוע את המספר הזה על ידי מציאת המספר המקסימלי של OPS לכל מבנה מוח וחיבורם.
ריי קורצווייל הגיע למסקנה שמספיק לקחת את ההערכה המקצועית של ה-OPS של מבנה אחד ואת משקלו ביחס למשקל המוח כולו, ואז להכפיל באופן פרופורציונלי כדי לקבל הערכה כוללת. נשמע קצת מפוקפק, אבל הוא עשה זאת פעמים רבות עם הערכות שונות עבור אזורים שונים ותמיד הגיע עם אותו מספר: משהו כמו 10^16, או 10 קוודריליון OPS.
מחשב העל המהיר בעולם, Tianhe-2 הסיני, כבר עבר את המספר הזה: הוא יכול לבצע כ-32 קוודריליון פעולות בשנייה. אבל Tianhe 2 תופס 720 מ"ר של מקום, אוכל 24 מגה וואט של אנרגיה (המוח שלנו צורך רק 20 וואט), ועולה 390 מיליון דולר. אנחנו לא מדברים על שימוש מסחרי או נרחב.
קורצווייל מציע שנשפוט את מצב המחשבים לפי כמה OPS $1000 יכול לקנות. כאשר המספר הזה יגיע לרמה האנושית - 10 קוודריליון OPS - AGI עשוי בהחלט להפוך לחלק מחיינו.
חוק מור - הכלל המהימן מבחינה היסטורית לפיו כוח המחשוב המקסימלי של מחשבים מוכפל מדי שנתיים - מרמז שהתפתחות טכנולוגיית המחשב, כמו תנועת האדם בהיסטוריה, צומחת באופן אקספוננציאלי. אם נקשור את זה לכלל אלף הדולר של קורצווייל, נוכל להרשות לעצמנו כעת 10 טריליון OPS תמורת 1000 דולר.
הצמיחה האקספוננציאלית של טכנולוגיית המחשוב: המאה ה-20-21. מימין סרגל שקופיות ועליו מוחו של חרק, עכבר, אדם וכל האנשים; בצד שמאל - חישובים לשנייה עבור 1000 דולר; תחתית - שנה
מחשבים של 1000 דולר עולים על המוח של עכבר ביכולות החישוביות שלהם והם חלשים פי אלף מאדם. זה נראה כמו מדד גרוע עד שנזכור שמחשבים היו חלשים פי טריליון מהמוח האנושי ב-1985, פי מיליארד חלשים מהמוח האנושי ב-1995, ופי מיליון חלשים ב-2005. עד 2025, אמור להיות לנו מכשיר במחיר סביר. מחשב חזק כמו כוח מחשוב, המוח שלנו.
אז הכוח הגולמי הדרוש ל-AGI כבר זמין מבחינה טכנית. תוך 10 שנים הוא יעזוב את סין ויתפשט ברחבי העולם. אבל כוח מחשוב לבדו אינו מספיק. והשאלה הבאה היא: איך אנחנו מספקים אינטליגנציה ברמת האדם עם כל הכוח הזה?
השלב השני ליצירת AGI: תנו לו לב
החלק הזה די מסובך. למען האמת, אף אחד לא באמת יודע איך להפוך מכונה לחכמה - אנחנו עדיין מנסים להבין איך ליצור אינטליגנציה ברמת האדם שיכולה להבדיל בין חתול לכלב, לבודד B שצויר בשלג ולנתח סרט בי. עם זאת, יש קומץ של אסטרטגיות מרחיקות ראות, ובשלב מסוים אחת מהן אמורה לעבוד.
1. חזור על המוח
אפשרות זו היא כמו שמדענים יושבים באותה כיתה כמו ילד שהוא מאוד חכם ועונה היטב על שאלות; וגם אם הם מנסים בשקידה להבין את המדע, הם לא מתקרבים להדביק את הילד החכם. בסוף הם מחליטים: לעזאזל, פשוט נעתיק ממנו את התשובות לשאלות. זה הגיוני: אנחנו לא יכולים לבנות מחשב סופר מורכב, אז למה שלא ניקח את אחד מאבות הטיפוס הטובים ביותר של היקום: המוח שלנו?
העולם המדעי עובד קשה בניסיון להבין איך המוח שלנו עובד ואיך האבולוציה יצרה דבר כל כך מורכב. לפי ההערכות האופטימיות ביותר, הם יצליחו רק ב-2030. אבל ברגע שנבין את כל סודות המוח, יעילותו ועוצמתו, נוכל לקבל השראה מהשיטות שלו ביצירת טכנולוגיות. לדוגמה, אחת מארכיטקטורות המחשב המחקה את אופן פעולת המוח היא הרשת העצבית. היא מתחילה ברשת של "נוירונים" שעברו טרנזיסטור המחוברים זה לזה על ידי קלט ופלט, ולא יודעת כלום - כמו תינוק שזה עתה נולד. המערכת "לומדת" על ידי ניסיון להשלים משימות, לזהות כתב יד וכדומה. הקשרים בין טרנזיסטורים מתחזקים במקרה של תשובה נכונה ונחלשים במקרה של תשובה לא נכונה. לאחר מחזורים רבים של שאלות ותשובות, המערכת יוצרת רשתות עצביות חכמות המותאמות למשימות ספציפיות. המוח לומד בצורה דומה, אך בצורה הרבה יותר מורכבת, וכאשר אנו ממשיכים לחקור אותו, אנו מגלים דרכים חדשות מדהימות לשיפור רשתות עצבים.
פלגיאט קיצוני עוד יותר כרוך באסטרטגיה הנקראת "אמולציית מוח מלאה". המטרה היא לפרוס מוחות אמיתיים לפרוסות דקות, לסרוק כל פרוסה, לאחר מכן לשחזר במדויק את המודל התלת-ממדי באמצעות תוכנה, ולאחר מכן לתרגם אותו למחשב חזק. אז יהיה לנו מחשב שיכול לעשות רשמית כל מה שהמוח יכול לעשות: הוא רק צריך ללמוד ולאסוף מידע. אם המהנדסים יצליחו, הם יכולים לחקות מוח אמיתי בנאמנות כה מדהימה, שלאחר הורדה למחשב, האישיות והזיכרון האמיתיים של המוח יישארו ללא פגע. אם המוח היה שייך לואדים לפני מותו, המחשב יתעורר בתפקיד ואדים, שכעת יהיה AGI ברמה אנושית, ואנחנו, בתורו, נהפוך את ואדים ל-ASI אינטליגנטי להפליא, שהוא בוודאי יעשה להיות שמח על.
עד כמה אנחנו רחוקים מהדמיית מוח מלאה? למעשה, חיקונו את המוח של תולעת שטוחה של מילימטר, המכילה 302 נוירונים בסך הכל. המוח האנושי מכיל 100 מיליארד נוירונים. אם הניסיון להגיע למספר זה נראה לך חסר תועלת, זכור את קצב הצמיחה האקספוננציאלי של ההתקדמות. השלב הבא יהיה לחקות את המוח של נמלה, ואז יהיה עכבר, ואז אדם נמצא בהישג יד.
2. נסו ללכת בעקבות האבולוציה
ובכן, אם נחליט שהתשובות של הילד החכם מורכבות מכדי למחוק אותן, נוכל לנסות לעקוב אחר מסלולי הלימוד וההכנה שלו לבחינות. מה אנחנו יודעים? בהחלט אפשרי לבנות מחשב חזק כמו המוח - האבולוציה של המוח שלנו הוכיחה זאת. ואם המוח מורכב מכדי לחקות, נוכל לנסות לחקות את האבולוציה. הנקודה היא שגם אם נוכל לחקות את המוח, זה עשוי להיות כמו לנסות לבנות מטוס על ידי נפנוף בזרועותיך בצורה מגוחכת, תוך חיקוי תנועות כנפי הציפורים. לא פעם, אנו מצליחים ליצור מכונות טובות תוך שימוש בגישה מכוונת מכונה, במקום חיקוי מדויק של ביולוגיה.
כיצד לדמות אבולוציה לבניית AGI? השיטה הזו שנקראת "אלגוריתמים גנטיים" אמורה לעבוד בערך כך: חייב להיות תהליך פרודוקטיבי והערכתו, וזה יחזור על עצמו שוב ושוב (באותו אופן, ישויות ביולוגיות "קיימות" ו"מדורגות" לפי שלהן. יכולת רבייה). קבוצת מחשבים תבצע משימות, והמצליחים שבהם יחלקו את מאפייניהם עם מחשבים אחרים, "פלט". הפחות מצליחים ייזרקו ללא רחמים לפח האשפה של ההיסטוריה. דרך הרבה, הרבה איטרציות, תהליך זה של ברירה טבעית יפיק מחשבים טובים יותר. האתגר טמון ביצירה ואוטומציה של לולאות מסקנות והערכה כך שתהליך האבולוציה יוכל לטפל בעצמו.
החיסרון של העתקת האבולוציה הוא שלוקח מיליארדי שנים לאבולוציה לעשות משהו, ואנחנו צריכים רק כמה עשורים לעשות את זה.
אבל יש לנו הרבה יתרונות, בניגוד לאבולוציה. ראשית, אין לה כישרון של ראיית הנולד, היא עובדת באקראי - מוציאה מוטציות חסרות תועלת, למשל - ואנחנו יכולים לשלוט בתהליך במסגרת המשימות שנקבעו. שנית, לאבולוציה אין מטרה, כולל החתירה לאינטליגנציה – לפעמים בסביבה מין מסוים מנצח לא על חשבון האינטליגנציה (מכיוון שהאחרון צורך יותר אנרגיה). אנחנו, לעומת זאת, יכולים לשאוף להגביר את האינטליגנציה. שלישית, כדי לבחור במודיעין, האבולוציה צריכה לבצע מספר שיפורים של צד שלישי - כמו חלוקה מחדש של צריכת האנרגיה של תאים - אנחנו יכולים פשוט להסיר את העודפים ולהשתמש בחשמל. ללא ספק, נהיה מהירים יותר מהאבולוציה – אבל שוב, לא ברור אם נוכל להתעלות עליה.
3. השאירו מחשבים לעצמם
זו ההזדמנות האחרונה שבה מדענים מתייאשים לחלוטין ומנסים לתכנת את התוכנית לפיתוח עצמי. עם זאת, שיטה זו עשויה להתגלות כמבטיחה מכולן. הרעיון הוא שאנחנו בונים מחשב שיהיו לו שתי מיומנויות עיקריות: לחקור בינה מלאכותית ולקוד שינויים בפני עצמו - מה שיאפשר לו לא רק ללמוד יותר, אלא גם לשפר את הארכיטקטורה שלו. אנחנו יכולים להכשיר מחשבים להיות מהנדסי מחשבים של עצמם כדי שיוכלו לפתח את עצמם. והמשימה העיקרית שלהם תהיה להבין איך להפוך לחכמים יותר. נדבר על כך יותר מאוחר יותר.
כל זה יכול לקרות בקרוב מאוד
הפיתוח המהיר של ניסויי חומרה ותוכנה פועל במקביל, ו-AGI יכול להופיע במהירות ובאופן בלתי צפוי משתי סיבות עיקריות:
1. צמיחה אקספוננציאלית היא אינטנסיבית, ומה שנראה כמו צעדים של חילזון יכול להפוך במהירות לזינוקים וגבולות - הגיף הזה ממחיש היטב את הרעיון הזה:
תמונה מונפשת: hi-news.ru/wp-content/uploads/2015/02/gif.gif
מתי המחשבים יעלו על בני האדם ביכולות החשיבה? נפח אגם מישיגן (באונקים נוזליים) שווה לנפח המוח שלנו (בפעולות לשנייה). כוח המחשוב מוכפל כל 18 חודשים. בקצב הזה לא תראה תוצאות במשך זמן רב, אבל אז הכל יקרה באופן מיידי.
2. כשזה מגיע לתוכנה, ההתקדמות יכולה להיראות איטית, אבל אז פריצת דרך אחת משנה את מהירות ההתקדמות ברגע (דוגמה טובה: בימי תפיסת העולם הגיאוצנטרית, היה קשה לאנשים לחשב את עבודת היקום, אבל גילוי ההליוצנטריזם עשה הכל הרבה יותר קל). לחלופין, כשמדובר במחשב שמשפר את עצמו, הכל יכול להיראות איטי ביותר, אבל לפעמים רק תיקון אחד במערכת מפריד בינו לבין להיות יעיל פי אלף מאדם או מהגרסה הקודמת.
הדרך מ-AII ל-ISI
בשלב מסוים, בהחלט נקבל את AGI – בינה כללית מלאכותית, מחשבים עם רמת אינטליגנציה אנושית כללית. מחשבים ואנשים יחיו יחד. או שהם לא.
העובדה היא של-AGI עם אותה רמת אינטליגנציה וכוח עיבוד כמו לאדם עדיין יהיו יתרונות משמעותיים על פני בני אדם. לדוגמה:
Оборудование
מְהִירוּת. נוירונים במוח פועלים ב-200 הרץ, בעוד שהמיקרו-מעבדים של היום (שהם איטיים משמעותית מאלה שיהיו לנו עד בניית AGI) פועלים במהירות של 2 גיגה-הרץ, או פי 10 מיליון מהר יותר מהנוירונים שלנו. והתקשורת הפנימית של המוח, שיכולה לנוע במהירות של 120 מ' לשנייה, נחותה משמעותית מהיכולת של מחשבים להשתמש באופטיקה ומהירות האור.
גודל ואחסון. גודל המוח מוגבל על ידי גודל הגולגולות שלנו, והוא לא יכול להיות גדול יותר, אחרת ייקח יותר מדי זמן לתקשורת פנימית במהירות של 120 מ' לשנייה לעבור ממבנה אחד למשנהו. מחשבים יכולים להתרחב לכל גודל פיזי, להשתמש ביותר חומרה, להוסיף יותר זיכרון RAM, יותר זיכרון לטווח ארוך – כל זה מעבר ליכולות שלנו.
אמינות ועמידות. לא רק זיכרון מחשב מדויק יותר מזיכרון אנושי. טרנזיסטורי מחשב מדויקים יותר מנוירונים ביולוגיים והם פחות מועדים להידרדרות (ואכן ניתנים להחלפה או תיקון). המוח האנושי מתעייף מהר יותר, בעוד מחשבים יכולים לעבוד ללא הפסקה, 24 שעות ביממה, 7 ימים בשבוע.
תוכנה
יכולת עריכה, שדרוג, מגוון רחב יותר של אפשרויות. שלא כמו המוח האנושי, ניתן לתקן, לעדכן ולהתנסות בקלות בתוכנית מחשב. ניתן לבצע שדרוגים גם באזורים שבהם המוח האנושי חלש. התוכנה האנושית האחראית על הראייה מצוינת, אך מבחינה הנדסית, יכולותיה עדיין מוגבלות מאוד – אנו רואים רק בספקטרום הנראה של האור.
יכולת קולקטיבית. בני אדם עדיפים על מינים אחרים מבחינת אינטליגנציה קולקטיבית גרנדיוזית. מהתפתחות השפה והיווצרותן של קהילות גדולות, דרך המצאת הכתיבה והדפוס, וכעת מופעל באמצעות כלים כמו האינטרנט, המוח הקולקטיבי של בני האדם הוא סיבה חשובה לכך שאנו יכולים לקרוא לעצמנו שיא האבולוציה. אבל המחשבים עדיין יהיו טובים יותר. רשת עולמית של בינה מלאכותית הפועלת על אותה תוכנית, מסתנכרנת ומתפתחת באופן מתמיד, תאפשר לך להוסיף מידע חדש באופן מיידי למסד הנתונים, בכל מקום בו אתה משיג אותו. קבוצה כזו תוכל גם לעבוד לקראת אותה מטרה כמו אחת, מכיוון שמחשבים אינם סובלים מדעות, מניעים ואינטרסים מנוגדים כמו שבני אדם סובלים.
הבינה המלאכותית שסביר להניח שתהפוך ל-AGI באמצעות שיפור עצמי מתוכנת לא תראה ב"אינטליגנציה ברמת האדם" אבן דרך מרכזית - אבן דרך זו חשובה רק לנו. לא תהיה שום סיבה שהוא יעצור ברמה המפוקפקת הזו. ובהתחשב ביתרונות שיהיו אפילו ל-AGI ברמה אנושית, זה די ברור שהאינטליגנציה האנושית תהיה הבזק קצר במירוץ לעליונות אינטלקטואלית.
התפתחות האירועים הזו עשויה להפתיע אותנו מאוד מאוד. העובדה היא שמבחינתנו, א) הקריטריון היחיד שמאפשר לנו לקבוע את איכות האינטליגנציה הוא אינטליגנציה של בעלי חיים, שבברירת מחדל נמוכה משלנו; ב) עבורנו, האנשים החכמים ביותר הם תמיד חכמים יותר מהטיפשים ביותר. פחות או יותר ככה:
כלומר, בזמן שה-AI רק מנסה להגיע לרמת הפיתוח שלנו, אנחנו רואים איך הוא נעשה חכם יותר, מתקרב לרמת החיה. כשהוא יגיע לרמה האנושית הראשונה - ניק בוסטרום משתמש במונח "טיפש כפר" - נשמח: "וואו, הוא כבר כמו מטומטם. מגניב! אבל היחיד הוא שבספקטרום הכללי של האינטליגנציה האנושית, מהשוטה של הכפר ועד איינשטיין, הטווח קטן - אז אחרי שה-AI מגיע לרמת הטיפש והופך ל-AGI, הוא פתאום נהיה חכם יותר מאיינשטיין.
ומה יקרה אחר כך?
פיצוץ של מודיעין
אני מקווה שמצאתם את זה מעניין ומהנה, כי מנקודה זו ואילך, הנושא שאנו דנים בו הופך לא נורמלי ומצמרר. עלינו לעצור ולהזכיר לעצמנו שכל עובדה שהוזכרה מעל ומעבר היא מדע אמיתי ותחזיות אמיתיות לעתיד שנעשו על ידי ההוגים והמדענים הבולטים ביותר. רק זכור.
אז, כפי שתיארנו לעיל, כל המודלים הנוכחיים שלנו להשגת AGI כוללים את האפשרות כאשר AI משפר את עצמו. וברגע שהוא הופך ל-AGI, אפילו המערכות והשיטות שאיתן גדל הן חכמות מספיק כדי לשפר את עצמן - אם הן רוצות. עולה מושג מעניין: שיפור עצמי רקורסיבי. זה עובד ככה.
מערכת בינה מלאכותית כלשהי ברמה מסוימת - נגיד, שוטה בכפר - מתוכנתת לשפר את האינטליגנציה שלה. לאחר שהתפתחה, נניח, לרמה של איינשטיין, מערכת כזו מתחילה להתפתח כבר עם האינטליגנציה של איינשטיין, לוקח פחות זמן להתפתח, והקפיצות גדולות יותר ויותר. הם מאפשרים למערכת להתעלות על כל אדם, להיות גדולה יותר ויותר. ככל שה-AGI מתפתח במהירות, הוא מתנשא לגבהים שמימיים באינטליגנציה שלו והופכת למערכת ASI סופר אינטליגנטית. תהליך זה נקרא פיצוץ המודיעין, וזו הדוגמה המובהקת ביותר לחוק האצת ההחזרות.
מדענים מתווכחים על כמה מהר בינה מלאכותית תגיע לרמה של AGI – רובם מאמינים שיהיה לנו AGI עד 2040, תוך 25 שנה בלבד, וזה מאוד מאוד קטן בסטנדרטים של פיתוח טכנולוגי. בהמשך השרשרת ההגיונית, קל לשער שגם המעבר מ-AGI ל-ASI יתרחש מהר במיוחד. פחות או יותר ככה:
"עברו עשרות שנים עד שמערכת הבינה המלאכותית הראשונה הגיעה לרמה הנמוכה ביותר של אינטליגנציה כללית, אבל זה קרה לבסוף. המחשב מסוגל להבין את העולם מסביב כאדם בן ארבע. לפתע, ממש שעה אחרי שהגיעה לאבן הדרך הזו, המערכת מייצרת תיאוריה נהדרת של פיזיקה המשלבת תורת היחסות הכללית ומכניקת הקוונטים, שאף אדם לא יכול לעשות. שעה וחצי לאחר מכן, הבינה המלאכותית הופכת ל-ASI, פי 170 יותר חכמה מכל אדם".
אין לנו אפילו את המונחים הנכונים לתאר אינטליגנציה-על בסדר גודל כזה. בעולם שלנו, "חכם" פירושו אדם עם מנת משכל של 130, "טיפש" אומר 85, אבל אין לנו דוגמאות לאנשים עם מנת משכל של 12. השליטים שלנו לא מיועדים לכך.
ההיסטוריה של האנושות אומרת לנו בצורה ברורה וברורה: יחד עם השכל בא כוח וכוח. המשמעות היא שכאשר ניצור אינטליגנציה-על מלאכותית, היא תהיה הבריאה החזקה ביותר בתולדות החיים על פני כדור הארץ, וכל היצורים החיים, כולל בני האדם, יהיו נתונים לחלוטין לחסדיה – וזה יכול לקרות בעוד עשרים שנה.
אם המוח הדל שלנו היה מסוגל להמציא Wi-Fi, אז משהו חכם מאיתנו פי מאה, אלף, מיליארד היה יכול לחשב בקלות את מיקומו של כל אטום ביקום בכל זמן נתון. כל מה שאפשר לקרוא לו קסם, כל כוח שמיוחס לאלוהות כל יכולה - כל זה יעמוד לרשות ה-ASI. ליצור טכנולוגיה שהופכת את ההזדקנות, לרפא כל מחלה, להיפטר מרעב ואפילו מהמוות, לשלוט במזג האוויר - הכל יהפוך פתאום לאפשרי. סיום מיידי לכל החיים על פני כדור הארץ אפשרי גם כן. האנשים החכמים ביותר על הפלנטה שלנו מסכימים שברגע שבינה-על מלאכותית תופיע בעולם, זה יסמן את הופעתו של אל על כדור הארץ. ונשארת השאלה החשובה.
האם הוא יהיה אלוהים טוב?
עיבוד מתוך waitbutwhy.com, אוסף מאת טים אורבן. המאמר משתמש בחומרים מיצירותיהם של ניק בוסטרום, ג'יימס באראט, ריי קורצווייל, ג'יי נילס-ניאלסון, סטיבן פינקר, ורנור וינג', משה ורדי, ראס רוברטס, סטיוארט ארמסטרוג וקאי סוטל, סוזן שניידר, סטיוארט ראסל ופיטר נורוויג, תיאודור מודיס, גארי מרקוס, קארל שולמן, ג'ון סירל, ג'רון לנייר, ביל ג'וי, קווין קלי, פול אלן, סטיבן הוקינג, קורט אנדרסן, מיטש קאפור, בן גורצל, ארתור סי קלארק, הוברט דרייפוס, טד גרינוולד, ג'רמי הווארד.