חיפוש
סגור את תיבת החיפוש

דרושה בינה אנושית: שימוש משטרתי בטכנולוגיות מידע

ד"ר טל מימרן וגל דהן מפרטים את הכלים הטכנולוגיים השונים לאיסוף מידע אישי בהם עושה שימוש משטרת ישראל ומציגים את הסכנות בהם לחירויות הפרט. בעקבות כך הם מציעים פתרון שכולל מיסוד שני נתיבי פיקוח משלימים לאלו הקיימים, האחד בשלב הפיתוח של טכנולוגיות לאיסוף מידע אישי על ידי הפרלמנט, והשני לאחר הכנסתן לשימוש מבצעי על ידי הרגולטור.
Getting your Trinity Audio player ready...
1. מבוא

לאחרונה, אנו עדים למרוץ חימוש של משטרת ישראל בכלים טכנולוגיים רבי עוצמה לצורכי איסוף מידע אישי. הסיפור שלנו מתחיל לפני שנה וחצי, עם חשיפתו של תומר גנון מכלכליסט כי משטרת ישראל רכשה את רוגלת פגסוס מחברת NSO.[1] גילוי זה הוביל לסערה ציבורית, ולהקמת צוות בדיקה בהובלת המשנה ליועמ"ש עמית מררי. לאחר שדו"ח מררי פורסם, למדנו כי הרוגלה שנרכשה היא לא פגסוס, אלא תוכנה שהותאמה במיוחד עבור משטרת ישראל בשם סייפן, וכי היא הוכנסה לשימוש מבלי שהמשטרה, הפרקליטות או בתי המשפט הפנימו את יכולותיה מרחיקות הלכת.[2]

פרשת פגסוס־סייפן הייתה יריית הפתיחה לדיון ציבורי מתמשך לגבי השימוש של משטרת ישראל בכלים טכנולוגיים – דוגמת מערכת עין הנץ, ומערכת לאיתור חשודים בנתב"ג, המבוססת על בינה מלאכותית.[3] אין לכחד, השימוש במערכות אלו אכן מביא לשיפור במישור המבצעי, ומשכך הוא נושא חשיבות רבה. ואולם, אין לקבל שימוש בלתי מוגבל באמצעים טכנולוגיים מסוג אלו. שימוש לרעה בכלים טכנולוגיים בידי רשויות האכיפה מקעקע את שלטון החוק, ומעלה חששות לגבי פגיעה בחירויות יסוד של אזרחי מדינת ישראל ובמיוחד באשר לזכות לפרטיות, הזכות לכבוד, הזכות לשוויון, חופש התנועה וחופש הביטוי.

ברשימה זו נתייחס לכלים הטכנולוגיים השונים לאיסוף מידע אישי בהם עושה שימוש משטרת ישראל, ונבקש להציע איזון בין האינטרסים על הכף – הגנה על ביטחון לאומי, אך לא במחיר של פגיעה בחירויות הפרט דוגמת הזכות לפרטיות, קידום וביסוס חדשנות טכנולוגית, שיקולים כלכליים כבדי משקל, ותדמיתה הבין־לאומית של מדינת ישראל. הפתרון שנציע כולל מיסוד שני נתיבי פיקוח משלימים לאלו הקיימים, האחד בשלב הפיתוח של טכנולוגיות לאיסוף מידע אישי, והשני לאחר הכנסתן לשימוש מבצעי.

2. מקרי המבחן

א. פרשת פגסוס־סייפן

תוכנת פגסוס היא מוצר הדגל של חברת NSO, והשימוש בה מאפשר גישה למחשבים ולמכשירים אישיים במטרה לאסוף מידע, לצורכי ריגול, מעקב ומניעת פשיעה. בשנים האחרונות, הצטברו עדויות על שימוש לרעה לכאורה בפגסוס ברחבי העולם, ובפרט נגד פעילים פוליטיים, עיתונאים ופעילי זכויות אדם.[4] ידיעות אלו יצרו משבר אמון ביחס לתעשיית הסייבר ההתקפי בישראל, אשר יש לה חשיבות עצומה עבור כלכלת ישראל ותדמיתה הבינלאומית,[5] ואף הובילו למהלכים משפטיים ודיפלומטיים שונים ביחס לטענות לשימוש ברעה בפגסוס.[6]

זמן לא רב לאחר גילויים אלו, התעורר חשד כי משטרת ישראל השתמשה גם היא ברוגלת פגסוס, לריגול ולאיסוף מידע וראיות, אחר דמויות פוליטיות שונות ופקידים בכירים, אולי אף ללא אישור שיפוטי.[7] בעקבות הביקורת הציבורית שהתעוררה נוכח הפרסומים, הוקמה ועדת מררי, אשר קבעה כי ההכנסה של מערכת האזנות רחבת היקף נעשתה בלי שהובנה לאֲשורה על ידי מקבלי ההחלטות.[8] ועדיין, קבע הדו"ח כי המשטרה לא השתמשה במערכת בניגוד לצו שיפוטי.[9]

לאחר אימוץ הדו"ח, אשר זכה לביקורת בשל היותו סלחני לכאורה לגבי המחדלים שנתגלו, החל רצף דיונים של ועדת החוקה, חוק ומשפט של הכנסת ביחס לפרשה, במסגרתם התעוררו מתחים רבים בין חברי הוועדה ובין נציגי המשטרה והפרקליטות, ובין נציגי המשטרה והפרקליטות עצמם. דיונים אלו הוכיחו את חשיבותם במובן של שקיפות ציבורית, וגם בזכות העובדה שהם הובילו לגילויים חדשים. למשל, נתחוור כי הפרקליטות מבצעת בדיקת עומק באשר לשימוש בראיות הנובעות משימוש ברוגלות, ואף החליטה למשוך ראיות שהוגשו במסגרת תיק רצח כפול המתנהל בימים אלו, היות שאלו נשאבו בניגוד לחוק.[10]

בסיום סבב הדיונים, קראה ועדת החוקה לממשלה להקים ועדת חקירה ממשלתית או ועדת בדיקה ממשלתית, בראשות שופט, בנושא הפעלת רוגלות על־ידי משטרת ישראל.[11] ואכן, ממש לאחרונה, הכריז שר המשפטים, יריב לוין, על הקמת ועדת בדיקה ממשלתית, בראשות שופט בדימוס, אשר תבדוק את התנהלות המשטרה, הפרקליטות ומערכות הפיקוח, ביחס לפעולות רכש, כמו גם הפעלת אמצעי מעקב ואיסוף טכנולוגיים.[12]

פרשת פגסוס־סייפן מעידה על חשיבות הגברת הפיקוח על אופן ההכנסה לשימוש של טכנולוגיות חדשות, על־ידי משטרת ישראל, במטרה להפעיל סמכות שלטונית כנגד אזרחי ישראל. חשיבות זו מתחדדת על רקע העובדה שישנו פיתוי רב יותר לעשות שימוש בטכנולוגיות באקלים רגיש פוליטית וביטחונית – כמו במחוזותינו.[13]

כיום, הרגולטור העיקרי אשר מפקח על שוק הסייבר ההתקפי הוא משרד הביטחון, אשר אחראי על מתן רישיון שיווק וייצוא של מוצרים אלה, אך יכולתו לפקח מוגבלת מכובעו הכפול (מפקח ולקוח פוטנציאלי) ובשל תופעות דוגמת הדלת המסתובבת (מעבר של בכירים ברגולטור לתעשייה, ולהיפך). במישור הטכנולוגי, קשה במיוחד לפקח על ייצור, שיווק או שימוש בכלי סייבר מאחר ואלו יכולים להיות משוכפלים ולפעול ברחבי העולם בו זמנית – להבדיל מכלי נשק רגילים שמוגבלים למיקום פיזי אחד. בנוסף, עובד ממורמר של חברה טכנולוגית יכול לנסות ולמכור מוצר בשוק השחור, וכן ניתן להעתיק קוד, או לפתח תוכנות נגזרות שיכולות להביא לפגיעה זדונית.

כפי שניתן לראות, שוק הרוגלות סובל מתת־פיקוח, ונדרש ליותר פיקוח על מנת לוודא בטווח הארוך שמירה על אינטרסים כלכליים ותדמיתיים של מדינת ישראל, וזאת לצד קידום הגנה מיטבית על זכויות אדם. תעשיית הסייבר ההתקפי בישראל משמשת חלק ניכר מסל מוצרי הייצוא הצבאי עליהם נסמכת כלכלת ישראל. כמו כן, תדמיתה של ישראל בתור מעצמה טכנולוגית חשובה גם בכדי לקדם יחסים דיפלומטיים עם מדינות וגם כדי לשמר מאזן הרתעה מול גורמי אויב. בהתאם, בפרק המסכם של רשימה זו נציע מנגנונים לחיזוק הפיקוח על שוק חשוב זה.

ב. השימוש במערכת עין הנץ

מערכת נוספת המעוררת דאגה בקרב הציבור, היא מערכת עין הנץ אשר רותמת את היכולות של טכנולוגיית זיהוי פנים – העושה שימוש באלגוריתם שמסוגל לזהות או לאמת בהתבסס על תמונה או סרטון וידאו זהות של בן אדם, או לוחית רישוי במקרה של מערכת זו, באופן אוטומטי או אוטומטי למחצה.[14] מערכת עין הנץ מבוססת על מערך מצלמות המותקנות בכבישים ברחבי הארץ אשר עוקבות, מצלמות ומזהות באופן אוטומטי ובכל שעות היממה לוחיות רישוי באמצעות טכנולוגיות עיבוד תמונה מתקדמות (Automatic License Plate Reader).[15]

שנים רבות שמשטרת ישראל עושה שימוש במערכת זו ביחידותיה השונות וביניהן, יחידת מג"ב, אגף התנועה ואגף המבצעים – זאת בטרם הוסדר השימוש במערכת בחקיקה. כחלק מן השימוש במערכת מתפעלת המשטרה מאגר מידע אשר כולל רשימה של כלי רכב שנגנבו, הורדו מהכביש, צילומי וידאו ותמונות סטילס שנאספו באמצעות המצלמות הפרושות ברחבי הארץ, לרבות תמונות הרכב, מספר לוחית הרישוי ותמונות תקריב של הנוסעים בתוכו שבהן נראים בבירור פניהם של הנוסעים.[16]

בשנים האחרונות, ניתן לראות עלייה ניכרת בשימוש בראיות מתוך המאגר שנוצר בעקבות פעילות מערכת עין הנץ.[17] כך, לדוגמה, במ"ת (שלום ב"ש) 57000-02-23 מדינת ישראל נ' שטרית (10.5.2023), תיעוד וצילום ממאגר מערכת עין הנץ סייע לבסס תשתית ראייתית נגד הנאשם לצורך החלטה על מעצר עד תום ההליכים.

לצד היתרונות הגלומים בשימוש במערכת עין הנץ, לשימוש נלווים גם סיכונים הדורשים לתת עליהם את הדעת. החשש הראשון נוגע לשגיאות ולכשלים של אמצעי הזיהוי. כך, בהקשר של זיהוי פנים, ביצוע כושל של המערכת עלול להביא לזיהוי שגוי ובכך להטרדת אנשים תמימים (False Positive Identification Rate – FPIR), ומאידך עלול לגרום להחמצת זיהוי חשודים (False Negative Identification Rate – FNIR).[18] חשש זה בא לידי ביטוי בבריטניה, שם נמצא כי שיעורי התראות השווא כתוצאה משימוש במערכת לזיהוי פנים במרחב הציבורי עמד על כ־90%.[19]

החשש השני הוא בהיבט של מעקב טכנולוגי ופגיעה בפרטיות. השימוש בעין הנץ צפוי להוביל לאגירת מידע אישי באופן שעלול לשמש בפועל למעקב אחרי האנשים המתועדים, גם לצורך מטרות אשר לא נקבעו או הובהרו מראש, למשל נטייה מינית או הרגלי צריכה של אדם, תוך הפרה של הזכות החוקתית לפרטיות,[20] "מהחשובה שבזכויות האדם" ו"אחת מהחירויות המעצבות את אופיו של המשטר בישראל כמשטר דמוקרטי".[21] לכך יש להוסיף את האפקט המצנן שעתיד להיווצר ביחס להתנהגות הפרט, מתוך חשש לשימוש לרעה במערכת זו (כפי שעלה ביחס לטכנולוגיות מעקב אחרות, למשל השימוש בכלי של השב"כ בזמן משבר הקורונה).[22]

החשש השלישי מקורו בסיכון של דליפת מידע ביומטרי מהמאגר של מערכת עין הנץ, אשר עלול להביא לשימוש לרעה בכלים ויכולות בידי גורמים לא מורשים, ללא פיקוח ובקרה אפקטיביים.[23] מדובר בחשש מתמשך לגבי מאגרים ביומטריים המנוהלים בישראל, שהועלה על־ידי הממונה על היישומים הביומטריים במערך הסייבר הלאומי,[24] ועל־ידי מבקר המדינה.[25]

במטרה להתמודד עם חששות אלו, גובשה הצעת חוק שתהווה מסגרת משפטית עבור הפעלתן של מערכות צילום מיוחדות, וביניהן מערכת עין הנץ.[26] הצעה זו מנסה לתחם את השימוש במערכות צילום מיוחדות ומציעה איזון בין ההגנה על הפרטיות ובין האינטרס הציבורי במניעת עבירות וגילוין.

הצעת החוק קובעת רשימה סגורה של תכליות אשר יצדיקו הצבה של מערכת צילום מיוחדת. בין תכליות אלו ניתן למנות מטרות כמו איתור נעדר שיש חשש לשלומו או מניעה, סיכול או גילוי של עבירות פשע או עבירות שעלולות לסכן את שלומו או ביטחונו של אדם, את שלום הציבור או את ביטחון המדינה וכן גילוי מעורבים בביצוע עבירות כאמור.[27] עוד קובעת ההצעה כי אחת לשלוש שנים תיבחן מחדש הצבתה של כל אחת מן המערכות שהוצבו.[28]

הצעת החוק אף מעגנת מגבלות באשר לשימוש טכנולוגי בדיעבד של המשטרה במאגר הנתונים וביניהן הוראות אשר מגבילות את משך הזמן בו ניתן לשמור תיעוד במאגר, וכן רשימה סגורה של תכליות אשר רק לשם הגשמתן ניתן להשתמש במאגר.[29] ההצעה מוסיפה ומעגנת חובת דיווח, אחת לשנה, ליועצת המשפטית לממשלה אודות נתוני פעילות המערכות דוגמת מספר המערכות שהופעלו ופירוט בדבר המקרים שבהם נעשה שימוש במערכות לשם טיפול באירוע המסכן חיים או אירוע שיש בו סכנה לביטחון המדינה.[30]

אין ספק, הצעת חוק זו היא מהלך חשוב ומבורך, אשר מבקש לקדם שימוש סדור בטכנולוגיות צילום מיוחדות תוך איזון בין שיקולים רלוונטיים. עם זאת, דומה כי הצעת החוק אינה נותנת מענה לשני סיכונים מרכזיים בתפעול טכנולוגיה מסוג זה.

הראשון, נוגע לאבטחת המידע. כאמור המידע הנאסף ממערכת עין הנץ כולל תמונות ומיקום מדויק של כמעט כל עוברי דרך בישראל, ומשכך ישנה חשיבות רבה כי תהא הגנה מרבית ומיטבית על מידע רגיש שכזה. אך, כפי שנלמד מהביקורת המתמשכת על ניהול המאגרים הביומטריים באחריות מדינת ישראל, נראה כי לא ננקטו פעולות לשמירה אפקטיבית על מידע מסוג זה. למשל, בדיווחו של הממונה על היישומים הביומטריים, משנת 2022, הועלו בעיות מהותיות הנוגעות לניהול מידע ביומטרי בישראל, ובפרט ביחס לאי היערכות לפקיעת הוראות השעה שמסדירה את ניהול המאגרים הביומטריים בישראל ופגם בכיול מערכת ההשוואה הביומטרית, ובנוסף הזהיר הממונה לגבי רמת האבטחה הלקויה ביחס למאגרי מידע אישי וביומטרי בישראל.[31] ויובהר – אבטחת מידע בישראל היא לא עניין תיאורטי. אתרי הממשלה, כמו גם אתרים של חברות פרטיות, נתונים בסיכון מתמיד של תקיפות סייבר וניסיונות גניבת מידע מצד שחקנים זדוניים (פליליים, וגם כאלה המגיעים ממדינות אויב ובפרט איראן).

השני, נוגע לפיקוח על השימוש במידע והעברתו לגופים ממלכתיים אחרים. אכן, קיים חשש כי המידע שנאסף ישמש למטרות זרות או יועבר לגופים אחרים ולא לצורך מימוש היעדים שלשמם נאסף. אומנם, הצעת החוק מגבילה את השימושים המותרים של מידע זה, וכן מציבה מנגנון העברת מידע. ועדיין, לדעתנו מדובר בסוגיה רגישה הדורשת רמה גבוהה יותר של פיקוח על מנת לוודא שהשימושים היחידים במידע זה תואמים את דרישות החוק, ובפרט במקרה של העברת מידע ממאגר אחד לאחר. לשם כך, ישנו צורך במנגנון פיקוח מוגבר ומקיף אשר יפקח על אופן איסוף, שמירה ומחיקה של המידע, כמו גם על השימוש במידע והעברתו.

ג. השימוש במערכת איתור חשודים בנמל התעופה בן־גוריון

כלי טכנולוגי נוסף של משטרת ישראל, אשר חשוב להביא גם אותו בחשבון, הוא מערכת מבוססת בינה מלאכותית לאיתור חשודים בנתב"ג. מערכת זו בונה פרופיל עברייני, ומנסה לאתר בין הנכנסים לישראל חשודים לעיכוב.[32] כאשר אדם מסומן בידי המערכת, אשר מייצרת רשימת חשודים המכונה "רשימת ההכללה", הוא יעוכב עם הגעתו לנתב"ג על־ידי שוטר, ויעבור חיפוש פיזי או באמצעות מכונת שיקוף. זאת, גם אם אין מידע מודיעיני שלפיו מדובר באדם שעבר על החוק.[33]

הקריטריונים אשר על פיהם פועלת המערכת אינם ידועים ואלו יכולים להיות מגוונים – למשל מקום מגורים, תחום עיסוק, או מוצא אתני. כמו כן, לא ברור מהיכן נשאב המידע האישי המנותח בידי המערכת, ובפרט האם מדובר במידע שניתנה הסכמה להעברתו, והאם הוא מועבר ממאגרים ממשלתיים בלבד או גם ממאגרים פרטיים. עוד קשה לדעת כיצד המערכת מקבלת החלטות ביחס לנתונים שבפניה, בשל תופעה המתוארת כתופעת "הקופסה השחורה" (Black-Box), ועניינה במצב בו המידע המוזן למערכת ידוע, וכך גם התוצאה אליה הגיעה המערכת, אך דרך פעולת המערכת הפנימית אינה ידועה למי שמושפע ממנה, או אף אינה ניתנת להבנה.[34]

השימוש במערכת מסוג זה בנתב"ג מעלה אתגרים שונים.

ראשית, קשה לקבל מצב בו אלגוריתם מקבל החלטה על בסיס נתונים שאינם ידועים, דרך הליך קבלת החלטות שאינו גלוי לציבור, ומבלי להסביר מדוע אדם – לעיתים נורמטיבי לחלוטין – צריך להיות מעוכב. לשם ההשוואה, בטיוטת החוק בנושא בינה מלאכותית המוצעת באיחוד האירופי, מוצע כי תהיה חקיקה נוקשה ביחס למערכות הפועלות על בסיס בינה מלאכותית עם סיכון גבוה, כמו המערכת לאיתור חשודים של משטרת ישראל, והוגדרו חובות דוגמת פיקוח אנושי, בקרת איכות, שמירת מידע, הסברתיות, חובת דיווח ועוד.[35]

שנית, קיים חשש של הסתמכות־יתר על המערכת בקבלת ההחלטות, ללא מעורבות אנושית מספקת או יכולת לקבל הסבר על אופן גיבוש המסקנות לגבי חשוד כזה או אחר.[36] הרי, הטיות ודעות קדומות חברתיות באות לידי ביטוי במסגרת קבלת החלטות אוטומטית או מבוססת אלגוריתם, וזאת מכיוון שהמתכנת "מוריש" תכונות לקוד שהוא כותב.[37] על רקע זה, מתחדד הצורך בהסברתיות ('שקיפות' אלגוריתמית), ביחס לקבלת החלטות המבוססת על בינה מלאכותית.[38]

שלישית, ולבסוף, המערכת, אף אם היא מבוססת על בינה מלאכותית לצורך ביצוע חישובים והיסקים ברמת אוטומציה גבוהה, בעצם נבנתה לקבל החלטות על בסיס אותו ההיגיון של שיטת הפרופיילינג, כאשר על בסיסו היא נוקטת מספר צעדים קדימה באמצעות יכולת גבוהה לשקלל נתונים רבים, ולהחליט מהר יותר (לעומת בן אנוש). חשוב לציין, כי גם אם יכולת ההערכה הסטטיסטית של המערכת מדויקת ויעילה יותר משל בני אנוש, עדיין לא הוכח ברמה המחקרית כי יש טעם או ערך בקבלת החלטות בצורה זו. למעשה, קבלת החלטות על בסיס פרופיילינג דווקא הוכחה כלא יעילה מבחינה מבצעית,[39] ונתגלה כי יש לה השפעות שליליות ארוכות טווח ברמה החברתית (תחושת ניכור, איבוד אמון במערכת אכיפת החוק, וכתוצאה מכך היעדר נכונות לשתף פעולה עם השלטונות באופן שמקשה על התמודדות יעילה עם פשיעה).[40]

3. דיון ומבט קדימה

השימוש בכלים טכנולוגים מתקדמים על־ידי משטרת ישראל מייצר אתגרים ניכרים ומעלה שאלות הנוגעות לפגיעה בחירויות הפרט (דוגמת הזכות לפרטיות והזכות לחירות) ללא כל הסמכה חוקית, וכן חששות בדבר ניצול לרעה של אמצעים אלו בידי הרשויות. המצב הקיים מתאפיין בחוסר שקיפות מצד רשויות האכיפה בכל הנוגע להיקף השימוש בטכנולוגיות אלו, מהות ההכשרה של מפעילי הטכנולוגיה וכן אי־בהירות באשר למנגנוני הפיקוח על השימוש בכלים אלו. מצב זה מביא, בין היתר, לערעור אמון הציבור ברשויות האכיפה.

הטכנולוגיות שנסקרו לעיל מציגות יכולות מבצעיות מרחיקות לכת. להבדיל מחיפוש או האזנת סתר, רוגלות דוגמת פגסוס־סייפן אינן מוגבלות לאיסוף מידע חד־ממדי, וביכולתן לגשת לכלל המידע וחומר המחשב שזמינים דרך המכשיר, אף אם חומר זה הופק או נצבר לפני שנים רבות. אף מערכת איתור החשודים בנתב"ג מציגה יכולות מבצעיות מיוחדות, שכן ביכולתה לבצע עיבוד רב של נתונים בזמן קצר – כזה המקשה על פיקוח אנושי יעיל בזמן אמת. ועדיין, חרף היכולות שמציגות הטכנולוגיות שנסקרו, אשר ספק אם נעשתה בחינה מעמיקה של ההשלכות הרחבות של השימוש בהן, ישנה אי ודאות לגבי שיעורי ההצלחה של השימוש בכלים אלו.

חשוב לזכור כי צווי האזנת סתר זוכים לאישור נרחב יחסית מצד בתי המשפט. כך, בשנת 2020 מתוך 3,692 בקשות שהוגשו – רק 26 נדחו, כ­־0.7% מכלל הבקשות.[41] מגמה זו החריפה בשנת 2021, בה אישרו בתי המשפט למשטרה 3,350 בקשות מתוך 3,359 בקשות להאזנת סתר – למעלה מ־99% מכלל הבקשות שהוגשו באותה שנה.[42] נתונים אלו, בהינתן כי חלק מצווים אלו אישרו שימוש ברוגלות לאיסוף מידע אישי, מעידים על פוטנציאל הפגיעה העצום בחירויות הפרט, וזאת טרם הסכנה המצויה בשימוש־יתר ובניגוד לצו ברוגלה (כפי שנתגלה לאחרונה שאכן קרה בפועל).

נושא ההכשרה חשוב אף הוא. בעוד ברור כי עצם השימוש בטכנולוגיות מתקדמות דורש מומחיות והכשרה מיוחדת עבור המפעילים של כלים אלו, לא ידוע מהן ההכשרות המתבצעות למפעילי הטכנולוגיות, וכן מה היחס בין ההיבט הטכני של ההדרכה ובין שיקולים אתיים ומשפטיים. מעבר לכך, לא ברור אם קיימים מנגנוני פיקוח פנימיים שתפקידם לעקוב אחר השימוש בטכנולוגיות לאיסוף מידע לאחר הכנסתן לשימוש.

חרף הדיון הציבורי הגובר בנושא, חוסר השקיפות ביחס להפעלת כלים טכנולוגיים מצד משטרת ישראל עדיין מותיר אותנו בפני שאלות ללא מענה. בין אלו, ניתן לתהות מה עולה בגורל המידע האישי הנאסף, במובן של שמירה עליו והעברתו ממאגר מידע אחד לאחר, והאם נתונים אלו נשמרים כחומר מודיעיני לשימוש עתידי לצורכי חקירות אחרות (או שמא אלו נמחקים לאחר תקופה מוגדרת, כפי שדורשים מנגנוני האיזון של הזכות לפרטיות).

אין ספק, ישנה חשיבות לכלים טכנולוגיים לצורכי אכיפת החוק. ועדיין, חשוב לשמור על איזון בין כלל השיקולים הרלוונטיים. לשם כך, אנו מציעים מיסוד של שני מנגנוני פיקוח: האחד, פיקוח בשלב הייצור, השימוש או המכירה של הכלים הטכנולוגיים; השני, פיקוח מעת לעת על־ידי הכנסת.

א. פיקוח בשלבי הפיתוח

סעיף 36 לפרוטוקול הראשון של אמנת ג'נבה, מחייב לערוך בדיקת חוקיות לנשקים או לטכנולוגיה שיש להם יישום ביטחוני טרם השימוש או הרכישה שלהם, בין אם ממדינה ובין אם מחברה פרטית.[43] מקובל לומר כי הדרישה מכוח סעיף 36 חלה גם ביחס לכלי סייבר התקפיים אשר יכולים לחדור למערכות מחשב, סלולרי, מכשירי Internet of Things ועוד.[44]

כיום, טכנולוגיות נבחנות רק בשלב מאוחר, ובמועד זה ישנו קושי לערוך שינויים מהותיים במאפייני הטכנולוגיה, בין היתר בשל שיקולים כלכליים של פיתוח הטכנולוגיה והתועלת הכלכלית של מתן הרישיון לטכנולוגיה כמו שהיא. לעומת זאת, מיסוד מנגנון פיקוח ברוח סעיף 36 האמור תייצר תמריץ להגביר את הציות לנורמות חוקיות, ובפרט זכויות אדם, באופן שלא פוגע כלכלית בצורה אנושה במפתחים, שכן הדבר נעשה טרם שהושקעו כספים בפיתוח מתקדם.

הניסיון המתואר לעיל מלמד על החשיבות של הגברת הפיקוח על כלים טכנולוגיים לאיסוף מידע אישי, ובמיוחד כאלו אשר יש להם יישום ביטחוני. חרף העובדה כי ישראל לא קיבלה על עצמה את הפרוטוקול הראשון לאמנת ג'נבה, גם מדינות שאינן חברות בפרוטוקול, מקיימות, מתוך הכרה בחשיבות של פיקוח על נשקים וכלים טכנולוגיים המאיימים על חירויות הפרט, מנגנון בדיקה ברוח סעיף 36 (הדוגמה הרלוונטית ביותר היא ארצות הברית). כמו כן, ישנה חובה חוקית לבצע הערכה מקדימה של חוקיות של כלים טכנולוגיים גם מכוח דיני זכויות האדם הבינלאומיים, ובפרט בראי האמנה בדבר זכויות אזרחיות ומדיניות,[45] אליה מדינת ישראל בחרה להצטרף בשנת 1991.

משכך, אנו סבורים כי ראוי למסד מנגנון פיקוח משלים לזה הפועל במסגרת משרד הביטחון, אשר יבחן את הטכנולוגיה עוד טרם מתן רישיון שימוש, שיווק או ייצוא. מנגנון זה נדרש לשקלל מספר תחומים: כלכלה, ביטחון, אתיקה, משפט ועוד.

ב. פיקוח פרלמנטרי קבוע על הכנסה לשימוש והפעלת טכנולוגיות על ידי משטרת ישראל

אחד מן התפקידים העיקריים של הרשות המחוקקת הוא פיקוח על הרשות המבצעת והממשלה העומדת בראשה. בנסיבות שנוצרו, אשר מעידות על האתגרים הרבים הנובעים מן ההכנסה לשימוש וההפעלה של כלים טכנולוגיים על־ידי משטרת ישראל, אנו סבורים כי ראוי למסד פיקוח פרלמנטרי קבוע אשר גם ייצר אפקט מצנן על שימוש־יתר בסמכות שלטונית, וגם ייצר שדה לדיון ציבורי משמעותי באשר לגבולות הראויים של השימוש בכלים אלו.[46]

ניתן, למשל, להקים ועדת משנה, אם תחת ועדת חוקה או ועדת המדע והטכנולוגיה. לחלופין, ניתן לקיים פיקוח תחת אחת הוועדות הקבועות – כפי שעשתה לאחרונה ועדת חוקה ביחס לפרשת פגסוס־סייפן.

אומנם, חברי הכנסת בישראל נמצאים תחת עומס עבודה משמעותי – כאשר עליהם לחלק את זמנם בין מספר ועדות ולצד זה להשתתף בהצבעות, שאילתות והצעות לדיון מהיר, וליזום חקיקה פרטית. ועדיין, ישנה חשיבות בפיקוח בעל אופי קבוע יותר, שלא יהיה תלוי בגילוי עיתונאי כזה או אחר, ואשר יהיה פתוח ככל הניתן, בשל החשיבות של שקיפות לשם חיזוק אמון הציבור. נדרש יותר מהמצב הקיים על מנת לוודא בטווח הארוך שמירה על אינטרסים כלכליים ותדמיתיים של מדינת ישראל, וזאת לצד קידום הגנה מיטבית על חירויות הפרט.

4. סיכום

חשיפתו של תומר גנון, ומה שבא בעקבותיה, הם אירוע מכונן בישראל, בדומה לפרשת סנודן בארצות הברית.[47] זו הזדמנות לקדם הליכי פיקוח יעילים, במקביל להסדרה החוקית של הטכנולוגיות שנסקרו, יגבירו את האמון בתעשיית הסייבר בישראל ויחזקו את הכלכלה. בהתאם, אנו מציעים לבסס שני מנגנוני פיקוח משלימים לאלו הקיימים: ראשית, הקמת מנגנון פיקוח על כלי סייבר התקפיים כבר בשלב הפיתוח הטכנולוגי הראשוני. פיקוח מוקדם יאפשר לבצע שינויים בטכנולוגיה אגב פיתוחה, תוך צמצום פגיעה כלכלית בתעשיית הסייבר. שנית, מיסוד פיקוח פרלמנטרי קבוע על הכנסה לשימוש והפעלה של טכנולוגיות על־ידי משטרת ישראל.

אחרי שנים בהן מדינת ישראל התנסתה עם טכנולוגיות על חשבון חירויות הפרט, לעיתים עם בסיס חוקי רעוע, אם בכלל, הגיע הזמן להגדיר מסלול מחדש ולהבהיר: בעוד הטכנולוגיה היא מנוף אדיר עם חשיבות עצומה – חירויות הפרט חשובות לא פחות, ולכן הפעלת כוח שלטוני הולכת יד ביד עם הליכי פיקוח, ביקורת, ודיון ציבורי.

 

ציטוט מוצע: טל מימרן וגל דהן "דרושה בינה אנושית: מחשבות על השימוש הגובר של משטרת ישראל בטכנולוגיות לאיסוף מידע אישי" רשות הרבים (28.7.2023)

[1]     תומר גנון "חברת NSO בשירות משטרת ישראל: פריצות לטלפון של אזרחים ללא פיקוח או בקרה" כלכליסט (18.1.2022).

[2]    דין וחשבון הצוות לבדיקת האזנות סתר לתקשורת בין מחשבים 56 (2022) (להלן: דו"ח מררי).

[3]     לאלו, יש להוסיף גילוי אודות רכישה לכאורה על־ידי משטרת ישראל מחברת הסייבר הישראלית "רייזון" תוכנה המאפשרת לאתר מיקום ומסלול תנועה של משתמשי סלולר, וזאת ללא בחינה מקדימה או אישור של היעוץ המשפטי לממשלה, בניגוד להמלצת ועדת מררי, אשר הבהירה כי על המשטרה לקבל את אישור היעוץ המשפטי לממשלה טרם רכישה של מערכת טכנולוגית בעלות יכולת חדשה מבחינת איסוף מידע. ראו תומר גנון "בניגוד להנחיות מררי: המשטרה רכשה תוכנת מעקב חדשה ללא אישור היועמשי"ת" כלכליסט (28.5.2023).

[4]     הדיווחים התייחסו למדינות שונות וביניהן איחוד האמירויות, אל־סלבדור, בחריין, הונגריה, הודו, ירדן, מקסיקו, מרוקו, ספרד, צרפת, פולין, קזחסטן, רואנדה וערב הסעודית. ראו למשל עומר כביר "סיטיזן לאב: פגסוס ריגלה אחר עיתונאים ופעילי זכויות אדם במקסיקו עד 2021" כלכליסט (3.10.2022); Omer Benjakob, The NSO File: A Complete (Updating) List of Individuals Targeted with Pegasus Spyware, Haaretz (5.4.2022).

[5]     הסכום המוערך של הייצוא הביטחוני בשנת 2020 עמד על כ־8 מיליארד דולרים, כאשר הסכום אף עלה בשנת 2021 לשיא של 11.5 מיליארד דולרים. מתוך סכום זה, כ־10% מההכנסות מבוססות על טכנולוגיות סייבר. ראו מערכת אתר משרד הביטחון, "חוזי הייצוא הביטוחני ב-2020: 8.3 מיליארד דולר" אתר משרד הביטחון (1.6.2021); מערכת אתר משרד הביטחון, "2021: שנת שיא בייצוא הביטוחני של ישראל" אתר משרד הביטחון (12.4.2022).

[6]     כך, למשל, הפרלמנט האירופאי הקים ועדת חקירה שמתמקדת בהשפעה של פגסוס וטכנולוגיות מעקב דומות על זכויות יסוד, וחברת NSO הוכנסה לרשימה השחורה של מחלקת המסחר האמריקאית. לבסוף, חברות טכנולוגיה מובילות בעולם תובעות את NSO בשל שימוש לרעה ופריצה למערכות שלהן, ובפרט אפל ומטה. ראו למשל:WhatsApp v. NSO Group, et. al, No. 4:19-cv-7123 (N.D. Cal. 29.10.2019); Apple Inc. v. NSO Group Technologies Limited No. 3:21-cv-09078 (N.D. Cal. 23.11.2021).

[7]     גנון, לעיל ה"ש 1.

[8]     דו"ח מררי, לעיל ה"ש 2, בעמ' 56.

[9]     שם, בעמ' 4 ו־32. לביקורת על דו"ח מררי, ראו רועי פלד "שתי הערות ושתי טענות בעקבות קריאה בדוח מררי" ICON-S-IL Blog (9.10.2022).

[10]    חן מענית "הפרקליטות משכה ראיות מתיק רצח כי הושגו ראיות על ידי שימוש ברוגלות שלא כדין" הארץ (05.06.2023).

[11]    מתן וסרמן "ועדת החוקה לממשלה: הקימו ועדת חקירה על פרשת פגסוס ו-NSO" מעריב (13.6.2023).

[12]    אברהם בלוך "בעקבות פרשת פגסוס: לוין הודיע על הקמת ועדת בדיקה ממשלתית" מעריב (20.7.2023).

[13]    ראו לעניין זה למשל טל מימרן וליאור וינשטיין "הממשלה מפקירה את הפרטיות" העין השביעית (29.10.2022); בג"ץ 2109/20 בן מאיר נ' ראש הממשלה (נבו 26.04.2020).

[14]    מערך הסייבר הלאומי – היחידה להזדהות וליישומים ביומטריים זיהוי פנים במרחב הציבורי בישראל עקרונות למדיניות וקריאה לאסדרה 4 (יולי, 2021) (להלן: דו"ח מערך הסייבר הלאומי).

[15]    רועי גולדשמידט, "השימוש בטכנולוגיות זיהוי וניטור במרחב הציבורי", מרכז המחקר והמידע של הכנסת, 14 בדצמבר 2020 7 (להלן: דו"ח מרכז המחקר והמידע של הכנסת); ראו גם את עתירת האגודה לזכויות האזרח בישראל כנגד שימוש המשטרה במערכת עין הנץ (בג"ץ 641/21), בפס' 16 ו־19, https://www.acri.org.il/post/__488.

[16]    שם.

[17]    ראו מיני רבים: מ"ת (מחוזי חי') 46950-01-23 מדינת ישראל נ' עאשור (נבו 28.2.2023); מ"ת (שלום ב"ש) 48373-01-23 מדינת ישראל נ' לטייף (נבו 19.2.2023); מ"ת 44808-05-20 (מחוזי ב"ש) מדינת ישראל נ' קטיפאן (נבו 10.6.2020); מ"ת (שלום חי') 5518-09-20 מדינת ישראל נ' חטיב (נבו 15.10.2020).

[18]    דו"ח מערך הסייבר הלאומי, לעיל ה"ש 14, בעמ' 8.

[19]    Chris Fox, Face Recognition police tools 'staggeringly inaccurate', BBC (15.5.2018).

[20]    ס' 7 לחוק־יסוד: כבוד האדם וחירותו; דו"ח מרכז המחקר והמידע של הכנסת, לעיל ה"ש 15, בעמ' 19.

[21]    דנ"פ 1062/21 אוריך נ' מדינת ישראל, פס' 48 לפסק דינה של הנשיאה חיות (נבו 11.1.2022); ע"פ 1302/92 מדינת ישראל נ' נחמיאס, פ"ד מט(3) 309, 353 (1995); בג"ץ 3809/08 האגודה לזכויות האזרח נ' משטרת ישראל, פס' 7 לפסק דינה של הנשיאה ביניש (נבו 28.5.2012); ראו גם את דברי השופטת דפנה ברק־ארז ברע"א 2558/16 פלונית נ' קצין התגמולים, בפס' 43 לפסק דינה (נבו 5.11.2017): "עצם פעולת המעקב, אותה התחקות אחר אדם בלא ידיעתו, תוך חדירה למרחב האישי-פרטי שלו, מהווה פגיעה באוטונומיה של הפרט ואף בכבודו".

[22]    ראו בג"ץ 6732/20 האגודה לזכויות האזרח נ' הכנסת, פס' 5 לפסק דינה של השופטת ברון (נבו 1.3.2021), שם קבעה השופטת ברון כי עצם האפשרות של השימוש באיכוני השב"כ לצורך איתור חולי קורונה ואנשים באו עמם במגע יוצרת תחושת מעקב ואפקט של "משטור" ולכך השלכות על הפרט.

[23]    דו"ח מערך הסייבר הלאומי, לעיל ה"ש 14, בעמ' 8-9; דו"ח מרכז המידע והמחקר של הכנסת, לעיל ה"ש 15, בעמ' 20-21.

[24]    דו"ח הממונה על היישומים הביומטריים – מס' ,12 הממונה על היישומים הביומטריים במערך הסייבר הלאומי (18.05.22).

[25]    מבקר המדינה, היבטים בהסדרת השימוש במאגרים ביומטריים, דוח שנתי 70ב (04.05.2020).

[26]    הצעת חוק לתיקון פקודת המשטרה (מס' 40) (מערכות צילום מיוחדות), התשפ"ג־2023.

[27]    שם, בס' 10י.

[28]    שם.

[29]    שם, בס' 10יג.

[30]    שם, בס' 10כא.

[31]    דו"ח הממונה על היישומים הביומטריים, לעיל ה"ש 24.

[32]    תומר גנון "האלגוריתם שיעצור אתכם בנחיתה בנתב"ג" כלכליסט (10.11.2022).

[33]    ראו לשם השוואה, בג"ץ 4797/07 האגודה לזכויות האזרח נ' רשות שדות התעופה (החלטה מיום 22.5.2012).

[34]    Yavar Bathaee, The Artificial Intelligence Black Box and the Failure of Intent and Causation, 31 Harv. J. L. & Tech. 889, 893, 901 (2018).

[35]    גל דהן "הצעת הרגולציה של האיחוד האירופי בתחום הבינה המלאכותית Artificial Intelligence Act" מכון תכלית (יולי, 2023), בעמ' 5-3.

[36]    Zana Bucinca, Maja Barbara Malaya, and Krzysztof Z. Gajos, To Trust to Think: Cognitive Forcing Functions Can Reduce Overreliance on AI in AI-assisted Decision-making, Proceedings ACM Hum. Comput. Interact. Vol. 5, pp.188: 4-5 (2021).

[37]    ראו למשל גדי פרל "האלגוריתם של המשטרה בנתב"ג חייב להיות שקוף לציבור" כלכליסט (15.12.2022). כפי שמציין פרל, "תוכנה היא יציר סובייקטיבי שמשקף את הערכים של המתכנת ואת המידע שהזינו לתוך התוכנה […] לענייננו – תוכנה שלמדה משוטר איך לאכוף, רק תטמיע את הדפוסים של השוטר. אם הוא היה גזען, גם היא תהיה".

[38]    Nagy Adam, Hilligoss Hannah, Achten Nele, Fjeld Jessica, Srikumar, Principled Artificial Intelligence: Mapping Consensus in Ethical and Rights-based Approaches to Principles for AI Berkman Klein Center for Internet & Society (2020).

[39]    Badi Hasisi, Yoram Magalioth, and Liav Orgad, Ethnic Profiling in Airport Screening: Lessons from Israel 1968-2010, 14 Am. L. & Econ. Rev.517 (2002); ראו גם Nicola G. Persico & Petra Todd, Passenger Profiling, Imperfect Screening, and Airport Security (January 12, 2005).

[40]    ראו למשל Bernard E. Harcourt, The Shaping of Chance: Actuarial Models and Criminal Profiling at the Turn of the Twenty-First Century, 70 U. Chi. L. Rev. 105 (2003).

[41]    יהושוע (ג'וש) בריינר "בכירים במשטרה: שופטים שמאשרים האזנה לא יודעים באיזה כלי המשטרה תשתמש" הארץ (19.1.2022).

[42]    צבי זרחיה ותומר גנון "היקף השימוש ברוגלות הוסתר גם בדיווחי האזנות סתר לשנת 2021" כלכליסט (20.6.2022).

[43]    §36 Protocol additional to the Geneva Conventions of 12 August 1949, and relating to the Protection of Victims of International Armed Conflicts (Protocol I) (1977), 1125 U.N.T.S. 3.

[44]    לדיון באשר להיקף תחולת הסעיף, ראו: William H. Boothby, Weapons and the Law of Armed Conflict 4 (2009).

[45]    International Covenant on Civil and Political Rights (entered into force 23 March 1976).

[46]    בנוסף, ראוי לשקול לבסס מנגנון דיווח מקיף יותר לוועדת חוץ וביטחון על עסקאות מכירה של רוגלות. זאת, לצד התייעצות עם גורמים מייעצים דוגמת מערך הסייבר הלאומי והרשות להגנת הפרטיות, במטרה לחזק את אמון הציבור.

[47]    מערכת וואלה "אל גור: סנודן עשה שירות חשוב לארצות הברית" וואלה (11.06.2014).

אולי יעניין אותך גם

פרופ' יחזקאל מרגלית מתאר במאמר כיצד השאיפה להיטיב עם הורים שכולים, שמבקשים להשתמש בזרע בנם לדור המשך, עשויה להוביל לקונפליקט אדיר עם אלמנתו ועוגמת נפש משפחתית.
מאמרם של אלחי בן או"ן פלד וגל דהן עוסק בפרקטיקה של ארגון החמאס באזרחים ובאובייקטים אזרחיים בתור מגן אנושי במהלך המלחמה הנוכחית בפרט, ובשאלות המשפטיות המתעוררות עקב שימוש שכזה בדין הבין־לאומי ובכלל.
פרופ' משה כהן־אליה מתאר את תהליך העברת הכוח הפוליטי ממוסדות הייצוג הנבחרים לרשות השופטת בישראל, ומסביר כיצד ומדוע הפכה ישראל מדמוקרטיה ליוריסטוקרטיה.
תפריט
קטגוריות
הרשמה לניוזלטר