הרחק הרחק מהכוכבים המיושבים על ידי האדם בכוכב רג’יס 3, נעלמה החללית 'קונדור', סיירת החלל ‘נצחון’ נשלחת לבדוק מדוע הפסיקה לשדר ומה משמעויות השדרים הבלתי ברורים האחרונים. בהנהגת האסטרוגטור (הקברניט כנראה) הורפך הזקן והמנוסה ורוהן הקצין הראשון(?) מתחילים החיפושים וה'קונדור' נמצאת ללא פגע כמעט, אבל כל צוותה מת מרעב, למרות שמחסניה מלאים וגדושים. מה אם כן הרג את אנשי ה'קונדור'? 'בסיירת החלל "נצחון"' סופר המדע הבדיוני הפולני הגדול [לטעמי] סטניסלב לם שולח אתנו יחד עם אנשי "נצחון" למסע בכוכב שבו אין יצורים יבשתיים, ושהאבולוציה השתנתה מאוד. בעצם מעבר לסיפור האנושי של נפש, קיום, פחד, אומץ וכו' מול הלא נודע, לם מציג או מדגים את הסכנה האפשרית במתן בינה [תהיה מה שתהיה ההגדרה] למכונות.
מצד אחד מציב לם את צוות הסיירת המורכב ממדענים שונים ומגוונים - פיזיקה, אסטרונומיה, כימיה, ביולוגיה, קיבורנטיקה החוקר ובוחן באופן שכלתני את הכוכב ואת האויב, מקיים דיונים וסיעורי מוחות כחלק מצוות הייעוץ של המפקד [שבסוף צריך להחליט למרות חילוקי הדעות וההשערות המדעיות], ומהצד האחר ישות בלתי ברורה העשויה ממכונות. רובוטים זעירים המתארגנים אד-הוק לצורך מאבק ההישרדות שלהם. זהו חלום הבהלה של החוששים מהבינה המלאכותית. נניח שנתנו לשני מחשבים או שתי ישויות בינת על מלאכותית Artificial Superintelligence - ASI - - [בינה מלאכותית המשיגה יכולות אנושיות ומעבר לכך בכל קשת המשימות] לנצח בשח. משימה פשוטה שלכאורה איננה טומנת בחובה סכנה לאנושות. כולה שח. לא? אז זהו שלפי חלק מהעוסקים בעניין מדובר בסכנה ברור ומידית. זו יכולה לנבוע מהאסטרטגיות שבהם יבחרו הבינות בשביל לנצח ובכלל זה השתלטות על משאבי אנרגיה של האנושות והרי המאבק הוא אין סופי גם אם מדובר רק בשח [ולא נכנס כאן לדיון בסוגיות אתיות וניסיונות רגולציה של בינה מלאכותית (תודה לדרור על ההפניה)].
Comentários