עתיד הבינה המלאכותית ואמינותה

עתיד הבינה המלאכותית ואמינותה

תחזיות לגבי העתיד נעשו מאז הימים הראשונים של המין האנושי, אבל היום, אנחנו חיים בעולם חדש ואמיץ של חיזוי. התחזיות של היום נוצרות על ידי אלגוריתמים של למידת מכונה המנתחים כמויות אדירות של נתונים אישיים. יותר ויותר החלטות חשובות לגבי אנשים מתקבלות על סמך התחזיות הללו.

תחזיות אלגוריתמיות הן סוג של מסקנות. "חוקים" רבים נאבקים כדי לתת דין וחשבון וחיזוק למסקנות, וגם כאשר הם עושים זאת, החוקים מאחדים את כל המסקנות יחד. אבל כפי שניתן בהחלט לטעון- התחזיות שונות ממסקנות אחרות. תחזיות מעלות כמה בעיות ייחודיות שהחוק הנוכחי אינו מתאים להתייחס אליהן.

ראשית, תחזיות אלגוריתמיות יוצרות בעיית מאובנות מכיוון שהן מחזקות דפוסים בנתוני העבר ויכולות לחזק עוד יותר הטיות ואי שוויון מהעבר.

שנית, תחזיות אלגוריתמיות מעוררות לעתים קרובות בעיית חשש לזיוף. תחזיות כוללות קביעה לגבי אירועים עתידיים. עד שאירועים אלה קורים, תחזיות נותרות בלתי ניתנות לאימות, וכתוצאה מכך אינדיבידואלים יכולים לאתגר אותם כשקריים.

שלישית, תחזיות אלגוריתמיות יכולות לכלול בעיית "התערבות מונעת", שבה החלטות או התערבויות לא מאפשרות לקבוע אם התחזיות היו מתגשמות. "התערבות מונעת" היא "תיקון" כללים בגלל חשש לאי סבירות אתית למשל.

רביעית, תחזיות אלגוריתמיות יכולות להוביל לבעיית נבואה שמגשימה את עצמה, שבה הם מעצבים באופן פעיל את העתיד שהם שואפים לחזות.

באופן רחב יותר, העלייה של התחזיות האלגוריתמיות מעוררת דאגה כוללת: תחזיות אלגוריתמיות לא רק חוזות את העתיד אלא גם בכוחן ליצור ולשלוט בו. התפשטות ההולכת וגוברת של החלטות המבוססות על תחזיות אלגוריתמיות מובילה לחברת חיזוי שבה יכולתם של יחידים ליצור את עתידם שלהם, פוחתת, בעוד הארגונים המפתחים ומשתמשים במערכות חיזוי צוברים כוח רב יותר לעצב את העתיד.

חוקי הפרטיות והגנת מידע אינם מתייחסים כראוי לתחזיות אלגוריתמיות. חוקים רבים חסרים מימד זמן, ואינם מבחינים בין תחזיות לגבי העתיד, לבין מסקנות לגבי העבר או ההווה. תחזיות לגבי העתיד כרוכות בשיקולים שאינם מעורבים בסוגים אחרים של מסקנות. חוקים רבים מקנים זכויות תיקון וחובות דיוק שאינן מספיקות כדי לטפל בבעיות הנובעות מחיזוי, לעיתים הזוי, בעיות הקיימות במרחב עמימות קיים שבין אמת לשקר(יש גם תחום אפור בין לבן לשחור).

זכויות הפרט, וחוק נגד אפליה, אינם מסוגלים לטפל בבעיות הייחודיות עם תחזיות אלגוריתמיות ונבואות בינה מלאכותית.

צריך חשיבה אחרת. צריך חקיקה אחרת. צריך ביקורת איכות לאלגוריתמיקה של בינה מלאכותית , וצריך לשם כך סט של כלים מוסכמים. אבל מי אחראי להסכמות על הכללים?