Show Notes
עד לא מזמן הצ'אטבוטים דמו לתלמידי תיכון שקדניים אבל היום הם מתקרבים לרמתו של סטודנטים לתואר שלישי, שלא לדבר על חוקרים שכבר מצויד בדוקטורט. אבל ככל שהבינה המלאכותית מתקדמת, מפתחים וחוקרים חיצוניים מנסים למצוא דרכים חדשות להעביר אותה בדיקה ובחינה: מה הרמה שלה, עד כמה היא עצמאית, עד כמה עד כמה היא מסוגלת לבצע משימות מסובכות, אפילו עד כמה היא מאיימת. אבל הנה הבעיה: ככל שהבינה המלאכותית הופכת ליותר ויותר אוטונומית, עצמאית ומתוחכמת, היא לא רק מבינה את הבקשה שלנו היא מפרקת אותה לגורמים ומתחילה להבין מה עומד מאחוריה, מה אנחנו מנסים להשיג באמצעות בדיקת היכולות שלה. האם יכול להיות שכאשר היא תבין שהיא נמצאת בבדיקה, שהיא נבחנת, היא תנסה לרמות?! השאלה הזו, שנראה שנלקחה מסרטי מדע בדיוני, היא כבר לא תיאורטית. בעוד שטרם נרשמו מקרים שבהם בינה מלאכותית ניסתה לרמות את הבוחנים, נרשמו סימנים ראשונים לכך שזה אפשרי ואם זה אפשרי עכשיו מה יקרה בעוד שנה, מה יקרה בעוד שנתיים, מה יקרה בעוד עשור?
קישורים: הספר על פרשת "דיזלגייט" https://www.amazon.com/Faster-Higher-Farther-Volkswagen-Scandal/dp/1543642519
מחקר: הפגנה אסטרטגית של ביצועים נמוכים בבינה מלאכותית https://arxiv.org/abs/2406.07358
מחקר: סוכנים רדומים בבינה מלאכותית https://arxiv.org/abs/2401.05566
מחקר: האם קלוד 3 שיקר לי? https://arxiv.org/abs/2405.01576
מחקר: לעבור לקופסה לבנה https://arxiv.org/abs/2401.14446
More from עושים טכנולוגיה עם ד״ר יובל דרור I רשת עושים היסטוריה
לפני כמה חודשים קראנו למאזינים שלנו ליצור איתנו קשר ועשרות רבות נענו לקריאה. שאלנו אותם שאלה פשוטה: "האם ברשימת אנשי הקשר שלכם ישנם מספרי טלפון של אנשים שאינם בין החיים, ואם כן, מדוע אתם עדיין שומרים אותם?!". התשובות לשאלה הזו הובילו לכמה שיחות מרתקות, חלקן מצחיקות עד דמעות ואחרות שוברות לב שעוסקות בקשר בין זיכרון והעולם הדיגיטלי ובין כעס להשלמה. זו הפעם הראשונה שאנחנו מזמינים מאזינים ומאזינות לקחת חלק כל כך פעיל ב"עושים טכנולוגיה" ונדמה לי שזו לא תהיה הפעם האחרונה. אחרי שתאזינו תבינו למה.
מאז שאני מגיש את "עושים טכנולוגיה" יצא לי כמה וכמה פעמים לומר שיש לי בעיה עם אפל וכאשר אני פוגש מאזינים זו השאלה שהכי מטרידה אותם: "תגיד", הם אומרים לי כשהם מנופפים באייפון שלהם, "מה הבעיה שלך עם אפל?". זו שאלה לגיטימית. אפל היא חברה אמיתית שהמציאה את עצמה כמה וכמה פעמים מחדש. היא הביאה לעולם את המקינטוש, את האייפוד, אייפד, אייווטש, איירפודס וכמובן את האייפון. חלק מהמכשירים האלו שינו את העולם, חלקם טלטלו תעשיות שלמות. במוצרי אפל משתמשים מיליארדי בני אדם. אז איך אני, כחובב טכנולוגיה ידוע, יכול להרשות לעצמי להגיד שיש לי בעיה עם אפל? בעיה? אני לא מוכן לקנות אף מוצר של החברה הזו. אבל למה? נראה לי שהגיע לענות על השאלה וגם להסביר איך היא קשורה לברגים.
זהירות האזנה לפרק עלולה להפוך אתכם למסטולים
בראשית מאי 2021 יעלמו עשרות מיליוני שאלות ותשובות שאי פעם פורסמו באתר Yahoo Answers כיוון שיאהו החליטה לסגור אותו. גם המידע שפורסם באתרים בינלאומיים דוגמת Myspace, GeoCities, Friendster לצד אתרים ישראלים דוגמת דה-מרקר קפה, רשימות וחבר'ה נמחק. מהן הסיבות שגורמות לכך שרוב המידע שפורסם באינטרנט כבר לא זמין, האם המחשבה לפיה המידע ברשת נשמר לנצח היא לא יותר מאשלייה והאם יתכן שאנחנו צועדים לקראת חור שחור של מידע? קישורים: Time Travel https://timetravel.mementoweb.org/ המחקר של מרטין קליין והרברט ואן-דה סומפל https://blogs.lse.ac.uk/impactofsocialsciences/2017/02/23/content-referenced-in-scholarly-articles-is-drifting-with-negative-effects-on-the-integrity-of-the-scholarly-record/ Perma.cc https://perma.cc https://www.ads.ranlevi.com/2021/04/19/2sit-osimtech-hareshet/
שידור חוזר בראשית מאי 2021 יעלמו עשרות מיליוני שאלות ותשובות שאי פעם פורסמו באתר Yahoo Answers כיוון שיאהו החליטה לסגור אותו. גם המידע שפורסם באתרים בינלאומיים דוגמת Myspace, GeoCities, Friendster לצד אתרים ישראלים דוגמת דה-מרקר קפה, רשימות וחבר'ה נמחק. מהן הסיבות שגורמות לכך שרוב המידע שפורסם באינטרנט כבר לא זמין, האם המחשבה לפיה המידע ברשת נשמר לנצח היא לא יותר מאשלייה והאם יתכן שאנחנו צועדים לקראת חור שחור של מידע? קישורים: Time Travel https://timetravel.mementoweb.org/ המחקר של מרטין קליין והרברט ואן-דה סומפל https://blogs.lse.ac.uk/impactofsocialsciences/2017/02/23/content-referenced-in-scholarly-articles-is-drifting-with-negative-effects-on-the-integrity-of-the-scholarly-record/ Perma.cc https://perma.cc https://www.ads.ranlevi.com/2021/04/19/2sit-osimtech-hareshet/