מדיניות AI בישראל

מבוא

נושא הבינה המלאכותית (AI) זוכה לבחינה נרחבת בתחום אסדרת הטכנולוגיה. היכולות של מערכות ה-AI מציבים אתגרים חדשים ומורכבים ובהם הצורך לשמר על נטרליות, שקיפות אלגוריתמית תוך הגנה על הזכות לפרטיות וזכויות קנייניות כגון זכויות יוצרים. ב-17 בדצמבר יצאה הודעה מטעם משרד החדשנות, המדע והטכנולוגיה בישראל, על קביעת מדיניות בתחום הבינה המלאכותית. במסמך זה נסקור את הרקע לאסדרת תחום ה-AI בישראל ואת העקרונות שקובע המסמך החדש. בסיכום המסמך נעיר בקצרה על היתרונות והחסרונות ממדיניות המוצעת.

1 – החלטות ממשלה – בינה מלאכותית ((AI

1.1 החלטת ממשלה 212 (אוגוסט 2021)

תוכן ההחלטה

ב-1 באוגוסט 2021, שרת החדשנות, המדע והטכנולוגיה, מונתה על ידי ממשלת ישראל כאחראית להובלת מדיניות ממשלת ישראל בתחום הבינה המלאכותית (החלטה מס’ 212). בין היתר נדרשה השרה דאז להקים צוות עבודה שיגיש בתוך חצי שנה את המלצותיו בנושאי “רגולציה, מדיניות מידע ונתונים, אתיקה, שיתוף פעולה בין-לאומי אזרחי והטמעה במגזר הציבורי האזרחי … ולגבש תכנית לאומית בהתאם, תוך התחשבות בעקרונות משפטיים ואתיים מקובלים בעולם…”.

כמן כן נקבע, כי יש לפעול ליישם המלצות קודמות שהוגשו לממשלה על ידי פורום לתשתיות לאומיות למחקר ולפיתוח (להלן – פורום תל”מ) ובהם:

1. פיתוח הון אנושי מחקרי בתחומי הליבה של טכנולוגיית הבינה המלאכותית
2. הקמת מרכז חישוב-על לאומי לשימוש המגזר הציבורי הרחב, התעשייה והאקדמיה
3. קידום יכולות עיבוד שפה טבעית בעברית ובערבית
4. יצירת סביבה רגולטורית מאפשרת להתפתחות הבינה המלאכותית ועוד.

לשם יישום המתווה הוחלט על הקצאת 550 מיליון ש”ח מתקציב המדינה בהחלטת הממשלה שיוקצה למשרדים הרלוונטים, וזאת כפעימה ראשונה משתי פעימות מתוכננות.

יוער כי דו”חות קודמים שהוגשו בשלהי שנת 2020, המליצו על השקעה גבוהה משמעותית בתחום: דו”ח המיזם הלאומי למערכות נבונות בנושא אתיקה ורגולציה של בינה מלאכותית (עברית, אנגלית), שהובילה אוניברסיטת תל אביב בהשתתפות מאות מומחים בתחום, המליצה על תקציב של 10 מיליארד ש”ח למשך 5 שנים והקמת מנהלת לאומית ייעודית לנושא במשרד ראש הממשלה; ¹ ודו”ח פורום תל”מ שהוזכר לעיל, המליץ על הקצאת 5.26 מיליארד ש”ח שיוקצו ישירות לגופים הרלוונטיים שיעסקו בתחום. ²

יישום

ביולי 2022 פורסם כי ישראל גיבשה “תוכנית לאומית לבינה מלאכותית”, אולם תוכנית זו לא פורסמה לציבור באופן מלא. עוד קודם לכן פורסם מסמך מקצועי של משרד המשפטים בנושא “עקרונות מדיניות, רגולציה ואתיקה בתחום הבינה המלאכותית” (אין גרסה באנגלית). ³ על בסיס מסמך זה, פרסמה שרת החדשנות, המדע והטכנולוגיה, קול קורא לציבור (אין נוסח באנגלית) להעיר על ההמלצות לקביעת מדיניות בתחום ה-AI (אוקטובר 2022). במסמך צוין כי נכון למועד זה, תפיסת המדיניות היא שאין צורך בקידום חקיקה ייעודית לתחום הבינה המלאכותית, אך ככל שהתחום יתפתח ויתבסס, הצורך בחקיקה ייבחן שנית.

יצויין כי במעקב אחר יישום החלטת ממשלה 212, כפי שמופיעה במשרד ראש הממשלה, התקצוב ליישום ההחלטה טרם הוקצה.

1.2 החלטת ממשלה 173 (פברואר 2023)

ב-24 בפברואר 2023, התקבלה החלטת ממשלה 173 שהיא המשכה של החלטה 212 והחלטות נוספות, ועניינה “חיזוק המובילות הטכנולוגית של ישראל”. בהחלטה זו, אומצה תוכנית לאומית לבינה מלאכותית שהציעה שלושה עקרונות –

1. האצת המחקר הבסיסי והיישומי בתחומי הבינה המלאכותית;
2. יצירת נכסים לשימוש רחב של התעשייה, קידום מחקר ופיתוח תשתיתי, והפעלת מיזמים מתואמים בין-מגזריים לניסוי טכנולוגיות מבוססות בינה מלאכותית
3. הטמעת יישומי בינה מלאכותית במגזר הציבורי האזרחי לטובת ייעול עבודת המגזר הציבורי, וזאת באמצעות מערך הדיגיטל.

לצורך יישום המתווה נקבע כי יוקצה תקציב כהרשאה להתחייבות שלא יעלה על 500 מיליון ש”ח למימוש בין השנים 2023 – 2026.

כמו כן, הוחלט כי משרד החדשנות, המדע והטכנולוגיה, יקים “מוקד ידע ותיאום ממשלתי בתחומי הבינה המלאכותית” לקדם נושאים שנקבעו בסעיף 6(א) של החלטה 212 (מדיניות הממשלה בתחום הבינה המלאכותית בנושאי רגולציה, מדיניות מידע ונתונים, אתיקה, שיתוף פעולה בין-לאומי אזרחי והטמעה במגזר הציבורי האזרחי, וגיבוש תכנית לאומית).

לעת עתה עברה החלטת ממשלה (החלטה מספר 1161 מיום 22 בדצמבר 2023) למנות ראש אגף בכיר בתחום הבינה המלאכותית בפטור ממכרז, המעיד על בכירותו של ראש האגף כמו גם על היותו של המכרז בעל יכולת להיות מינוי פוליטי. נכון למועד כתיבת סקירה זו, לא פורסמה קריאה להגשת מועמדות למשרה.

2 – עקרונות מדיניות רגולציה בתחום הבינה המלאכותית שממשלת ישראל קידמה עד כה

בדצמבר 2023, הודיע שר החדשנות, המדע והטכנולוגיה, על אימוץ ההמלצות של עבודת המטה שקודמה על ידי משרדו, משרד המשפטים ורשות החדשנות. המלצות אלו, המופיעים בהרחבה במסמך עקרונות מדיניות רגולציה בתחום הבינה המלאכותית (נוסח בעברית, תרגום תקציר המנהלים באנגלית), העדיפו יצירת מסגרת גמישה של עקרונות לקביעת רגולציה בתחום הבינה המלאכותי, וזאת להבדיל מחקיקה או ממערכת נורמטיבית כופה אחרת. כלומר, במקום סט נורמטיבי מובחן, המסמך נועד להנחות את הרגולטורים השונים בבואם לקבוע הנחיות לשוק עליו הם אמונים ואשר נוגע לתחום הבינה המלאכותית.

2.1 עקרונות כלליים של מדיניות הרגולציה עבור בינה מלאכותית

המסמך מתייחס לקביעת שישה עקרונות מנחים שלפיהם מוצע לקבוע מדיניות בינה מלאכותית (אין זה תקן מחייב אלא תקן מנחה):

1. הנחיות בתחום הבינה המלאכותית יקודמו בהובלת הרגולטור בענף הרלוונטי, בתיאום עם גורמים רלוונטיים בנושא, ויענו על צורך קונקרטי.
2. במידת האפשר, יש להתאים את הרגולציה המתוכננת לתקנות הרלוונטיות שנקבעו במדינות מובילות וארגונים בינלאומיים.
3. הרגולציה צריכה לקחת בחשבון את רמת המוצר של ניהול סיכונים הנשקפת מסוג הטכנולוגיה המתוכננת והשימוש הספציפי בה על ידי הרגולטור. התוצאה היא שלפיכך, על הרגולטור להתאים את הרגולציה לרמת הסיכון.
4. הרגולציה תקודם באופן הדרגתי, בהתאם להתפתחויות הטכנולוגיות. לשם כך יש לעשות שימוש בכלים ניסיוניים כגון ארגזי חול ובפיילוטים.
5. יש להעדיף במקרים המתאימים רגולציה מאפשרת (שימוש בכלי רגולציה רכים).
6. הרגולציה תגובש תוך שיתוף בעלי הידע והמומחיות ובעלי העניין.

2.2 עקרונות אתיים מובילים

לאור העקרונות לקביעת המדיניות, ובהתאמה לעקרונות המוצעים בנושא ב-OECD (בשינויים קלים), ממליצים גורמי המטה לאמץ שישה עקרונות אתיים בתחום הבינה המלאכותית –

1. “שימוש אחראי בבינה מלאכותית מהימנה הוא אמצעי לעידוד צמיחה, פיתוח בר קיימא, רווחה חברתית וקידום המובילות הישראלית בתחום החדשנות.”
2. האדם במרכז: כיבוד זכויות יסוד ואינטרסים ציבוריים.
3. שוויון ומניעת הטייה ואפליה פסולה.
4. שקיפות והסברתיות.
5. אמינות, עמידות, אבטחה ובטיחות לאורך כל “מחזור החיים” של מערכת הבינה המלאכותית.
6. מפתחי בינה מלאכותית, מפעיליה או המשתמשים בה יגלו אחריות לתפקודה התקין, ולקיום העקרונות האתיים האחרים בפעילותם.

יש לציין שחלק מעקרונות אלו דומים יותר להצבת מטרות, במקום לבטא עקרונות אתיים (ראו, למשל, סעיף 1).

2.3 מוקד ידע

ההמלצות שמקדם שר החדשנות, המדע והטכנולוגיה מציעות להקים מרכז ידע ממשלתי לטיפול בחסרונות הפערים שעלולים לנבוע מההמלצה לקיים מדיניות כללית וגמישה, לא מחייבת עבור בינה מלאכותית. תפקידו של מרכז הידע יהיה להיות גוף מתאם בין רגולטורים, מייעץ, מנהל פורומים רלוונטיים, מקדם שיתופי פעולה בינ”ל ועוד.

על מנת להרחיב את נקודת המבט של מוקד הידע, ועל מנת לחזק את השפעתו, מוצע לקבוע כי למרכז הידע תהיה ועדת היגוי מאגפים שונים בממשלה: מנכ”ל משרד החדשנות, המדע והטכנולוגיה (יו”ר הוועדה); מנהל מוקד הידע; המשנה ליועץ המשפטי לממשלה (משפט כלכלי) במשרד המשפטים; הממונה על התקציבים במשרד האוצר; ראש רשות הרגולציה; ראש רשות הגנת ה פרטיות; ראש מערך הדיגיטל הלאומי; ומנכ”ל רשות החדשנות.

2.4 הצעות נוספות

עוד מוצע כי –

1. הרגולטורים יבצעו מיפוי של השימושים הקונקרטיים של בינה מלאכותית, המשולבים בענף אותו הם מאסדרים.
2. יוקם פורום של רגולטורים שונים העוסקים בתחום הבינה המלאכותית לצורך למידה, שיתופי פעולה ותיאום.
3. יוקם פורום לשיתוף ציבור הכולל נציגי מגזרים מגוונים ובעלי מומחיות מגוונת.
4. יקודמו שיתופי הפעולה בתחום עם מדינות וארגונים בינ”ל.
5. מידע וכלים יהיו זמינים לשימוש אחראי בבינה מלאכותית, תוך המלצה לפתח כלי אחיד לניהול סיכונים.

3. הערות מסכמות

על אף ההבנה בדבר חשיבות אסדרת תחום הבינה המלאכותית, כפי שעולה מהחלטות הממשלה וממתווה תל”ם, ממשלת ישראל בוחרת לקדם שימוש בכלי רגולציה רכים מאוד. העקרונות שאומצו כוללים המלצות שאינן מחייבות לרגולטורים, ומנוסחים באופן רחב וגמיש.

ניתן להבין החלטה זו גם בהקשר של הקושי של ממשלת ישראל לקדם חקיקה חדשנית במהירות. ראו, למשל, תהליך תיקון חוק הגנת הפרטיות, שמקודם מאז 2011 כטלאים של שכבות של התערבויות צרות במקום קידום גישה מקיפה וקוהרנטית בתחום או הסדרת רשתות חברתיות. .

היתרונות בשימור גמישות כמו זו המוצעת, מובנים בעת עיסוק ברגולציה בתחום חדשני שמתפתח כל הזמן במהירות כמו בינה מלאכותית. ובכל זאת, הם דורשים מאמץ משמעותי בפיתוח הידע הדרוש ליישום יעיל של ההמלצות שהוצעו, יצירת תמריצים חיוביים ליישום הרגולציה הנובעת מכך, יצירת מערכת לשיתוף פעולה, למידת עמיתים ועוד. לשם כך נדרש, כמוצע, מרכז אחד המנהל את התחום.

נכון למועד זה, תהליך איוש מנהל המרכז מצוי בחיתוליו, וטרם הוקצו הסכום המוגדר כנדרש למימון.⁴

כמו כן, המלצות המדיניות נוגעות להתנהלות המגזר הפרטי בלבד, ולא המגזר הציבורי, אשר לשימוש במערכות מבוססות בינה מלאכותית בו, עשויות להיות השלכות מרחיקות לכת. הטעם לכך, כמפורט במסמך, הוקמה ועדה ממשלתית נפרדת המגבשת את המלצותיה לשירות הציבורי.

על מנת שמסגרת רגולטורית רכה זו תעמוד באתגרים של טכנולוגיה טרנספורמטיבית המתפתחת במהירות, יש צורך לספק את המימון המוצע ולקיים גישה קוהרנטית בהנחיה ובתקנות. היכולות הטכניות המתקדמות של ישראל בתחום הבינה המלאכותית דורשות יישום מנגנוני בטיחות יעילים ועקרונות אתיים חזקים כדי למנוע נזקים הנגרמים מפיתוח ופריסה של כלי בינה מלאכותית. במילים אחרות, בפיתוח טכנולוגיית AI נדרשת מנהיגות בניהולה. על מנת ליהנות מהיתרונות של הרגולציה הרכה המוצעת, יש לפעול לפי המנגנונים המדויקים המוצעים – ממימון, דרך מרכז הידע בינה מלאכותית ומבנים נוספים שנוצרו.

למרות שמסגרת עשויה להיות בת ביצוע בתקופה זו של אי ודאות ושינוי מהיר, היא לא צריכה להיות גישה לטווח ארוך. ככל שכלכלות מובילות ברחבי העולם עוברות לאמץ חקיקה פורמלית, יהיה חשוב לישראל לעקוב מקרוב אחר התפתחויות אלו ולנקוט בגישה חקיקתית שיכולה גם לתמוך במחקר ושירותים חדשניים תוך הבטחת הגנות משפטיות.

---

1. עמ’ 23 לדו”ח בגרסה העברית, ועמ’ 24 לדו”ח בגרסה באנגלית. ↩︎
2. עמ’ 9, ו-92 לדו”ח. ↩︎
3. הדו”ח מתבסס בין היתר על המתבסס בין היתר גם על מסקנותיה של ועדת משנה של המיזם הלאומי (אוניברסיטת תל אביב) למערכות נבונות בנושא אתיקה ורגולציה של בינה מלאכותית, בראשות פרופ’ קרין נהון (נובמבר 2019) בעברית ובאנגלית. ↩︎
4. לעניין זה נזכיר כי שתי ההמלצות שקדמו להחלטת הממשלה האחרונה התייחסו לסכומים הגבוהים פי 10 ויותר מהסכום שהוצהר עליו בהחלטת הממשלה. ↩︎