בינה מלאכותית בשירותי ממשל – הטמעת מערכות לקבלת החלטות מבוססות-אלגוריתם בשירותי הרווחה

מערכת הרווחה קלטה לשורותיה לאחרונה עובדת סוציאלית חדשה, בשם בינה. בינה קיבלה גישה למאגרי המידע האישי הקיים במערכת אודות מטופלי רווחה, והיא שותפה בתהליכי קבלת החלטות לגביהם, כגון: קביעת זכאות לשעות סיעוד בבית המטופל, וקביעה האם ילד הוא קורבן להתעללות. בינה מוכיחה עצמה כעובדת יעילה ביותר, בעלת יכולת קוגניטיבית גבוהה המאפשרת לה להתגבר על כמויות גדולות של מידע, לעבדו, ולקבל החלטות בעניינם של מטופלי הרווחה שעל הטיפול בהם היא אמונה. החלטותיה של בינה ענייניות במרבית המקרים, אך לעיתים הן מונחות על-ידי רגשות הזדהות עם המטופלים או חמלה כלפיהם.

עכשיו במקום ‘בינה’, דמיינו לעצמכם מערכת בינה מלאכותית בעלת גישה לאותם מאגרי מידע, ובעלת יכולת עיבוד וניתוח של נתוני עתק (Big data), הצלבתם עם גופי נתונים נוספים, והקשת היקשים המאפשרים לה, תוך הסתייעות באלגוריתם, ייצור החלטה/פלט (output)  ניטראליים לכאורה, בזמן מהיר ובעניינם של מטופלי רווחה רבים. המערכת מקבלת החלטות או מסייעת לגורם האנושי בקבלתן, ביעילות ובעקביות רבה יותר מזו המאפיינת את עבודתה של בינה העו”ס. יתרה מכך, עבודתה של מערכת הבינה המלאכותית כה יעילה, עד שזו מאפשרת לעובדים  הסוציאליים לטפל במשימות מורכבות יותר, או להתפנות להתפתחות מקצועית אישית באמצעות הכשרות והשתלמויות שונות.

יש להניח כי המעבר מעובד בשר ודם – למכונה, ישפיע על שיפוטינו את אותה הסתייעות ויעורר בנו סקרנות ותהיות לגבי הדרכים בהן עשויה המכונה להועיל לנו יותר מן האדם-העובד, לצד חששות לגבי ההשלכות השליליות הפוטנציאליות שבכך, במיוחד בהקשר של הטיפול הרגיש בלקוחות מערכת הרווחה. מעבר כזה, ליישום טכנולוגיות מבוססות בינה מלאכותית בשירות לאזרח, מצריך מידה רבה של אֵמון מצדו של הציבור. אמון זה, כשלעצמו, נדרש בין היתר לשקיפות ולהבנתיות לגבי אופן פעולתן של טכנולוגיות מעין אלו.

המצב שתואר כאן אינו בדיוני כלל ועיקר, הוא לקוח היישר ממציאות חיינו בעידן הנוכחי. היצף נתוני העתק המאפיין את תקופתינו, בשילוב עם טכנולוגיות דיגיטליות מתקדמות ופיתוחם של כלי ניתוח וניבוי מבוססי בינה מלאכותית, מבשרים באופן בלתי נמנע על הגעתו של עידן המְשילות הדיגיטלית. כשהממשלה מאמצת ביטויים אלו של קדמה טכנולוגית, ומטמיעה אותם בתוך שירותיה לציבור האזרחים – חשוב להבטיח קיומו של אינטרס כפול: זה של הממשלה – בְּיִיעול עבודת מנגנון השירות לאזרח, וזה של האזרחים – בקבלת שירות משופר או מיטבי. אולם הבחירה (האמיצה והמאתגרת) של ממשלות בהטמעת מערכות בינה מלאכותית בשירות הציבורי, אינה מהווה אך ביטוי למדיניות ממשלתית של אימוץ חדשנות לטובת התייעלות, התאמה לקידמה וכיו”ב תועלות. היא מגיעה גם בתגובה לציפיית הציבור להשוואת רמת השירות, חדשנותו וממשקיו עם האזרח, לאלו המתקבלים מספקיות שירותים במגזר הפרטי.

ואומנם, המגמה ההולכת ומתגבשת כיום בממשלים של מדינות מפותחות, כולל במדינת ישראל, היא כזו המבטאת פתיחות כלפי רעיון הדיגיטציה של שירותים ממשלתיים והפיכתם ל’טכנולוגיים’ יותר, מתוך הכרה ביתרונות אימוץ החדשנות ברמת הממשל, ובהנחה כי אלו עולים בקנה אחד עם האינטרס הציבורי.

בשנים האחרונות, מהווה מערכת הרווחה את אחת מזירות היישום הרוֹוְחות יותר של הטמעת טכנולוגיות מוּנָעוֹת-נתונים (data-driven) ומבוססות בינה מלאכותית בשירות הציבורי. נסיונות בהטמעת מערכת קבלת החלטות מבוססות-אלגוריתם (Algorithmic Decision-Making; להלן – “מערכות “ADM) נעשים במגוון שירותי רווחה, במדינות שונות. מערכות אלו מפותחות לטובת שיפור וייעול תהליך קבלת החלטות, למגוון ייעודים במגזר הפרטי והציבורי. הן מסייעות לניתוח ותהליך קבלת ההחלטות האנושי ולעיתים, אף מחליפות את הגורם האנושי מקבל ההחלטות.

ניתן להצביע על שני תחומי יישום עיקריים של מערכות אלו בשירותי הרווחה, בעת הזו: האחד – תחום קצבאות הרווחה (קביעת זכאות לקצבאות, וזיהוי ואיתור הונאת קצבאות רווחה (welfare fraud)); והשני – בהגנה על ילדים ואוכלוסיות בסיכון (איתור ילדים קורבן להתעללות וזיהוי המשפחות לצורך נקיטת התערבות מוקדמת; ומניעת ניצול אוכלוסיות מוחלשות והדרדרותן לעבריינות).

בבריטניה למשל, יושמו המערכות בשירותי הרווחה, במידות שונות או מעורבות, של הצלחה וכישלון. מערכת  ADM הוטמעה בשירותי הרווחה במספר רשויות מקומיות, על מנת לספק הכוונה אוטומטית בתביעות זכאות (להטבות בשיכון ומיסי מועצה), למניעת התעללות בילדים ולהקצאת מקומות בבתי-הספר. השימוש במערכות אלו הופסק בשל חששות הנוגעים לפרטיות ואבטחת מידע, אי-היכולת של פקידי הרשות להבין את אופן פעולת המערכות, הקושי של תושבים בתקיפת ההחלטות האוטומטיות יצירות-המערכת, ולאחר שניתוח החיזוי/ניבוי (predictive analytics) על-ידי המערכת, גרם לעיכוב לא מוצדק בתשלומי רווחה (כשזו זיהתה תביעות בסיכון נמוך, ככאלה המצויות בסיכון גבוה). למרות זאת, במקומות אחרים בבריטניה הוטמעו מערכות ADM בהצלחה. כך למשל, במועצה המקומית Hillingdon, בדרום מערב לונדון, הוטמעה מערכת העושה שימוש בניתוח חיזוי למניעת ניצולם של ילדים וצעירים פגיעים. המערכת מנתחת מידע המתקבל ממקורות שונים (משטרה, מערכות הרווחה והבריאות, שירותי נוער, בתי-ספר וקבוצות בקהילה), לזיהוי אזורים גיאוגרפיים בסיכון גבוה. זיהוי זה מאפשר למועצה הפניית שירותים אינטנסיביים לתמיכה בנוער לאזורים אלו, על מנת להסיט אנשים צעירים ממסלול של אלימות ועבריינות. נסיונות דומים נעשו גם בארה”ב, בדנמרק ועוד.

יישום טכנולוגיות בינה מלאכותית במגזר הציבורי הוא תהליך רצוף אתגרים, זאת בעיקר בשל היותו חדש ולא-טבעי למערכת הממשלתית-ציבורית. אתגרים אלו, באים לידי ביטוי במספר מישורים: הטכנולוגי, החוקי, האתי, והחברתי. אתגרים אחרים, ספציפיים יותר, עולים בהקשר של עצם מיקור החוץ של שירותי רווחה באמצעות התקשרויות עם ספקי טכנולוגיה חוץ-ממשלתיים, מסחריים, מן המגזר הפרטי. בעוד שמטרת יישום טכנולוגיות מבוססות בינה מלאכותית היא הבאת חדשנות טכנולוגית והתייעלות אל תוך השירות הממשלתי לאזרח, ומיקור החוץ מספק פתרון למגבלות וחסמים בפיתוחן של מערכות ה – ADM בתוך השירות הציבורי (כאלה הקשורים במומחיות טכנולוגית מוגבלת של מפתחים ובאוריינות דיגיטלית לא-מספקת של נותני השירות) – הדבר מעורר, כאמור, אתגרים כגון: בעיית פרטיות ואֵמון, וקושי בזיהוי האחראי לנזק-יציר-מערכת ADM.

שילובה של מכונה, חכמה ככל שתהיה, במערכת החלטות ושיקולים המסורה באופן שגור לגורם האנושי, או החלפתה על-ידה כליל, הוא עניין מורכב במיוחד בשלב הבראשיתי בו מצוי יישום הטכנולוגיה. המעבר מ’בינה’ העובדת האנושית, אל חלופתה – הבינה המלאכותית, טומן בחובו מגוון יתרונות ותועלות, כמו גם חסרונות וקשיים מעשיים ואתיים.

על היתרונות והתועלות המעשיים, נמנים: אובייקטיביות וניטראליות, יעילות, אחריות, פרסונליזציה, מניעת (או מזעור) נזקים עתידיים, הגברת אמון הציבור, יתרונות מעשיים עבור העוסקים במלאכה – אנשי מערכת הרווחה, ועוד. החסרונות והקשיים הכרוכים בדיגיטציה של מערכת הרווחה ושימוש בכלים מבוססי-בינה-מלאכותית לצורך קבלת החלטות ביחס לבני-אדם, בייחוד בכל הקשור לזכויותיהם ולזכאויותיהם של מטופלי רווחה, הינן בעלות השפעה שלילית פוטנציאלית על מימושן של מגוון זכויות פרט, וביניהן:כבוד האדם, הזכות לאוטונומיה, הזכות לפרטיות, הזכות לבטחון סוציאלי, הזכות להוגנות (זכותו של נתין האלגוריתם ליחס שוויוני וצודק על-ידי מערכת, הזכות להליך הוגןפרוצדוראלי), ועוד. בנוסף על אלו, קיימים גם קשיים אתיים אינהרנטיים לאופיין של מערכות ADM, המשליכים על מימוש זכויות הפרט המנויות לעיל, או על ההגנה עליהן, כגון: אי-הסברתיות (Non-explicability) ובעיית הקופסא השחורה (‘Black box’ problem); קושי בהוכחת נזק על-ידי הנפגע מיישום מערכת ADM; ואחריות ואחריותיות.

על כל אלה ועוד, ניתן לקרוא בהרחבה בסקירה שהכנו, בתמיכת הג’וינט-אלכא. הסקירה אף כוללת המלצות תואמות-שלבי פיתוח והטמעה של מערכות ADM, עבור קובעי המדיניות השוקלים את אימוצן של טכנולוגיות אלו ויישומן בשירות הציבורי.