מראה שחורה - הטיות אנושיות בבינה מלאכותית

על ההרצאה

בעולם שאלגוריתמים מעורבים בו יותר ויותר, אנחנו נוטים לחשוב שמותר האלגוריתם על האדם ביכולות לאובייקטיביות ובדיוק בקבלת החלטות. אנחנו נוטים לחשוב שאלגוריתמים מקבלים החלטות באופן רציונלי, ניטרלי וללא משוא פנים. בעולם של פוליטיקלי קורקט אחנו נוטים לחשוב שאלגוריתמים ומודלים גדולים של שפה רגישים תרבותית ולא פגיעים להטיות קוגניטיביות שונות. אבל מסתבר שמאחורי כל אלגוריתם מסתתר ארצ׳י בנקר קטן (או גדול), ושבינה מלאכותית פגיעה גם היא בדיוק כמונו להטיות מסוגים שונים. במהלך ההרצאה נחשף לצד האפל של הבינה המלאכותית - צד אפל שלמעשה שייך לבינה האנושית. ננסה באמצעות כמה הדגמות להבין אילו הטיות קוגניטיביות ותרבותיות היא מדגימה?, איך היא עלולה להשפיע על יחסים בין קבוצות בחברה?, ובעיקר נחשוב על המשמעויות הנגזרות מכך לעולם הטיפול ובריאות הנפש ועל האופנים בהם אנחנו יכולים להשתמש בבינה מלאכותית, תוך שמירה על כללי האתיקה והרגישות התרבותית.

על המרצה 

דר" קרני גיגי, פסיכולוגית חינוכית מומחית, עובדת בשירות הפסיכולוגי-חינוכי בתל אביב-יפו ומטפלת בקליניקה פרטית. סגנית מנהל…