מה דעתך על מלחמה תרמו-גרעינית עולמית? [עושים טכנולוגיה]
עושים טכנולוגיה עם ד״ר יובל דרור I רשת עושים היסטוריהShow Notes
בחודשים האחרונים התפתח מאבק בין הפנטגון לחברת אנת'רופיק סביב השאלה האם נכון וראוי שחברה פרטית תטיל איסורים ומגבלות מעבר לקונגרס האמריקאי. אבל בתוך המהומה הזו - שמערבת סוגיות טכנולוגיות, משפטיות, מוסריות וכלכליות - שאלה אחת הלכה לאיבוד: האם זה בכלל רעיון טוב לשלב מודלי שפה גדולים בתוך מערכות צבאיות, בתוך מערכות שמקבלות החלטות גורליות, החלטות של חיים ומוות?
במחקר שפורסם ב-2024 ובמחקר המשך, שפורסם בראשית 2026, נעשו סימולציות, משחקי מלחמה, שבהם מודלי השפה הגדולים התבקשו לשחק מנהיגים של מדינות יריבות ואז לקבל החלטות תחת לחץ ובתנאים של משברים בינלאומיים. אלו מודלי השפה שכולנו משתמשים בהם.
התוצאות של המחקרים לא פחות ממחרידות: מסתבר שלמודלי השפה הגדולים אין שום בעיה להורות על שימוש בנשק גרעיני, ולא, לא מדובר רק במהלך אחרון; בחלק מהמקרים הם שולפים את הנשק הגרעיני כמהלך ראשון.
קישורים: ספר: אימפריות הסיליקון: המלחמה על עתיד הבינה המלאכותית https://www.amazon.com/Silicon-Empires-Fight-Future-AI/dp/1509550488
מחקרו של קנת' פיין (2026): https://arxiv.org/abs/2602.14740
מחקרם של החוקרים האמריקאים (2024): https://arxiv.org/abs/2401.03408
More from עושים טכנולוגיה עם ד״ר יובל דרור I רשת עושים היסטוריה
לפני כמה חודשים קראנו למאזינים שלנו ליצור איתנו קשר ועשרות רבות נענו לקריאה. שאלנו אותם שאלה פשוטה: "האם ברשימת אנשי הקשר שלכם ישנם מספרי טלפון של אנשים שאינם בין החיים, ואם כן, מדוע אתם עדיין שומרים אותם?!". התשובות לשאלה הזו הובילו לכמה שיחות מרתקות, חלקן מצחיקות עד דמעות ואחרות שוברות לב שעוסקות בקשר בין זיכרון והעולם הדיגיטלי ובין כעס להשלמה. זו הפעם הראשונה שאנחנו מזמינים מאזינים ומאזינות לקחת חלק כל כך פעיל ב"עושים טכנולוגיה" ונדמה לי שזו לא תהיה הפעם האחרונה. אחרי שתאזינו תבינו למה.
מאז שאני מגיש את "עושים טכנולוגיה" יצא לי כמה וכמה פעמים לומר שיש לי בעיה עם אפל וכאשר אני פוגש מאזינים זו השאלה שהכי מטרידה אותם: "תגיד", הם אומרים לי כשהם מנופפים באייפון שלהם, "מה הבעיה שלך עם אפל?". זו שאלה לגיטימית. אפל היא חברה אמיתית שהמציאה את עצמה כמה וכמה פעמים מחדש. היא הביאה לעולם את המקינטוש, את האייפוד, אייפד, אייווטש, איירפודס וכמובן את האייפון. חלק מהמכשירים האלו שינו את העולם, חלקם טלטלו תעשיות שלמות. במוצרי אפל משתמשים מיליארדי בני אדם. אז איך אני, כחובב טכנולוגיה ידוע, יכול להרשות לעצמי להגיד שיש לי בעיה עם אפל? בעיה? אני לא מוכן לקנות אף מוצר של החברה הזו. אבל למה? נראה לי שהגיע לענות על השאלה וגם להסביר איך היא קשורה לברגים.
זהירות האזנה לפרק עלולה להפוך אתכם למסטולים
בראשית מאי 2021 יעלמו עשרות מיליוני שאלות ותשובות שאי פעם פורסמו באתר Yahoo Answers כיוון שיאהו החליטה לסגור אותו. גם המידע שפורסם באתרים בינלאומיים דוגמת Myspace, GeoCities, Friendster לצד אתרים ישראלים דוגמת דה-מרקר קפה, רשימות וחבר'ה נמחק. מהן הסיבות שגורמות לכך שרוב המידע שפורסם באינטרנט כבר לא זמין, האם המחשבה לפיה המידע ברשת נשמר לנצח היא לא יותר מאשלייה והאם יתכן שאנחנו צועדים לקראת חור שחור של מידע? קישורים: Time Travel https://timetravel.mementoweb.org/ המחקר של מרטין קליין והרברט ואן-דה סומפל https://blogs.lse.ac.uk/impactofsocialsciences/2017/02/23/content-referenced-in-scholarly-articles-is-drifting-with-negative-effects-on-the-integrity-of-the-scholarly-record/ Perma.cc https://perma.cc https://www.ads.ranlevi.com/2021/04/19/2sit-osimtech-hareshet/
שידור חוזר בראשית מאי 2021 יעלמו עשרות מיליוני שאלות ותשובות שאי פעם פורסמו באתר Yahoo Answers כיוון שיאהו החליטה לסגור אותו. גם המידע שפורסם באתרים בינלאומיים דוגמת Myspace, GeoCities, Friendster לצד אתרים ישראלים דוגמת דה-מרקר קפה, רשימות וחבר'ה נמחק. מהן הסיבות שגורמות לכך שרוב המידע שפורסם באינטרנט כבר לא זמין, האם המחשבה לפיה המידע ברשת נשמר לנצח היא לא יותר מאשלייה והאם יתכן שאנחנו צועדים לקראת חור שחור של מידע? קישורים: Time Travel https://timetravel.mementoweb.org/ המחקר של מרטין קליין והרברט ואן-דה סומפל https://blogs.lse.ac.uk/impactofsocialsciences/2017/02/23/content-referenced-in-scholarly-articles-is-drifting-with-negative-effects-on-the-integrity-of-the-scholarly-record/ Perma.cc https://perma.cc https://www.ads.ranlevi.com/2021/04/19/2sit-osimtech-hareshet/