קבלת החלטות אוטומטית על ידי בינה מלאכותית: האם סלידה מביורוקרטיה הומרה לחשש מפני AI?

פורסם במקור בלינקדאין, אפריל 2023.

אחת הבעיות האתיות הנוגעות לשימוש בכלי בינה מלאכותית היא הצורך לספק הסבר לדרך קבלת ההחלטות.

מכיוון שאלגוריתמים חכמים לא תמיד יכולים לספק תיעוד מפורט להחלטה שהתקבלה על ידם, רגולציות שונות מנסות להציע פתרונות שימנעו מחברות, גופים ממשלתיים או בני אדם להסתמך על החלטות בינה מלאכותית, למשל על ידי החלת החובה להשאיר "אדם במערכת" (Keep a human in the loop).

החשש הוא שהחלטות כאלה עלולות לגרום לאפליה או לתוצאות הפוגעות בזכויות פרט אחרות, שכן היו מבוססות על הטיות שהוטמעו, אולי ללא משים, באלגוריתמים שעל בסיסם פועלים הכלים, ולא ניתן יהיה לגלות זאת.

מה אנחנו בעצם מצפים מהמכונה?

לדעתי, החשש האמור עשוי להעיד על כך שבני האדם מצפים מכלי הבינה המלאכותית להיות רציונליים ומוסריים יותר מהם.

במה שונה החלטה שהתקבלה על ידי פקיד זוטר שאינו מפעיל שיקול דעת ומקבל החלטה שעומדת בסטנדרטים המצופים ממנו, בהתאם לביורוקרטיה מוגדרת מראש? גם החלטה כזו צפויה, הרבה פעמים, להחיל חוסר צדק או חוסר שוויון על נשוא ההחלטה, שכן ההליך הביורוקרטי לא בהכרח צפה את כל התוצאות של ההליך או החוק שהוגדר. מעבר לכך, גם בני אדם עשויים לקבל החלטות שרירותיות או פגומות, ככל הנראה בסבירות גבוהה יותר מאלגוריתמים.

האם העובדה שאנו יכולים לחקור בני אדם ולאפשר להם לתרץ את החלטותיהם לאחר מעשה היא זו שצריכה להרגיע אותנו? או שמא זו העובדה שמערכת החוקים יודעת להתמודד עם רשלנות, פזיזות או עצימת עיניים?

מה אומרים החוקרים

חוקרים אקדמיים דנו בשאלת ההבדל בין קבלת ההחלטות האנושית לזו שנעשית על ידי בינה מלאכותית. הטענה להבדל המרכזי מתמקדת בשתי נקודות:

1. יכולת שיקוף וויסות: בני אדם נוטים לספק הסברים פנימיים או חיצוניים להחלטות שהם מקבלים, ולרוב נוטים יותר לווסת את קבלת ההחלטות שלהם בהתאם למשתנים רבים, ללמוד מטעויות העבר וכדומה.

2. הסקת מסקנות: כאשר בני אדם מקבלים החלטות ונתקלים בתוצאה שאינה תקינה, הדבר לרוב מוביל לשינויים באופן שבו הם חושבים ופועלים בעתיד.

האם אלה יכולות שבינה מלאכותית לא יכולה להגיע אליהן? אשמח לשמוע על הבדל משמעותי שבגינו לא ראוי לסמוך על קבלת החלטות אוטומטית.

בינתיים, ה-EU AI Act כבר קבע כללים משלו למערכות שמקבלות החלטות על בני אדם. הסיווג לרמות סיכון, במדריך המעשי.

---

נכתב על ידי עו"ד עומר ברנדס, עורך דין בינה מלאכותית ופרטיות (CIPP/E), חבר ועדת ה-AI של לשכת עורכי הדין. להעמקה: המדריך המעשי ל-EU AI Act.