הנציבות האירופית פרסמה טיוטת הנחיות שמבהירה,
לראשונה עם דוגמאות מעשיות, אילו מערכות AI
ייכנסו לקטגוריית הסיכון הגבוה.
ההבדל בין סיווג לסיווג עשוי לקבוע אם המוצר שלכם
ידרוש שינוי מהותי, או ימשיך לפעול כרגיל
חברת פינטק ישראלית שמפתחת מנוע לניתוח בקשות
אשראי בטוחה שהמערכת שלה "רק עוזרת לחתם
להחליט מהר יותר". משקיע זר, במסגרת בדיקת
נאותות לפני סבב גיוס, שואל שאלה פשוטה: מי
בפועל מקבל את ההחלטה, המערכת או האדם ?
מהתשובה תלוי אם המוצר כפוף לחוק הבינה
המלאכותית האירופי כמערכת בסיכון גבוה.
זה בדיוק התרחיש שטיוטת ההנחיות החדשה של
הנציבות האירופית באה להבהיר.
מה זה בעצם אומר "סיכון גבוה" ?
חוק הבינה המלאכותית האירופי מסווג מערכת
כבסיכון גבוה כאשר היא נכללת באחד ממקרי
השימוש שהחוק מפרט, למשל תעסוקה, חינוך
או גישה לשירותים חיוניים כמו אשראי, או כאשר
היא מהווה רכיב בטיחות במוצר מוסדר.
הסיווג הזה גורר חובות משמעותיות : ניהול סיכונים,
תיעוד טכני, פיקוח אנושי מובנה ובדיקות התאמה.
עבור חברות שמוצריהן נגישים לשוק האירופי,
מדובר בשאלה שיכולה להכריע עסקה, סבב גיוס,
או תוכנית הרחבה.
קווים מנחים שכל חברת טכנולוגיה חייבת להכיר
טיוטת ההנחיות קובעת שהסיווג אינו נגזר רק מהאופן
שבו המערכת פועלת מבחינה טכנית, אלא גם מהאופן
שבו היא מתוארת, משווקת ומתועדת.
מערכת שמזוהה כלי לאיתור הונאות עשויה להישאר
מחוץ לקטגוריה, בעוד מערכת דומה המשווקת ככלי
לקביעת דירוג אשראי צפויה להיכלל בה.
הניסוח בחוזה, בחומרי השיווק ובתיעוד הטכני
הופך לשיקול משפטי של ממש.
בנוסף, קיומו של גורם אנושי הבודק את הפלט אינו
פוטר אוטומטית מהסיווג.
אם תפקיד האדם מצטמצם לאישור או דחייה של
המלצת המערכת, בלי יכולת אמיתית לבחון מחדש,
המערכת עדיין עשויה להיחשב בסיכון גבוה.
פיקוח אנושי "על הנייר" אינו מספיק, נדרש פיקוח
מהותי בפועל.
טיוטת ההנחיות מרחיבה גם את הפרשנות למונח
פרופיילינג :
מערכות המדרגות, מקטלגות או מעריכות אנשים על
בסיס נתונים אישיים ייחשבו לרוב כמבצעות פרופיילינג,
גם כאשר קיים פיקוח אנושי. זה רלוונטי במיוחד לחברות
HR-Tech, EdTech ומערכות דירוג לקוחות.
לבסוף, נקבע מנגנון סינון : מערכות שממלאות תפקיד
תומך ומוגבל, כגון תרגום או מיון מסמכים, עשויות שלא
להיכלל בקטגוריה, ובלבד שאין להן השפעה מהותית
על ההחלטה.
לוח הזמנים המעודכן
בעקבות רפורמת ה- ,Omnibus נדחו חלק ממועדי
התחולה : מערכות בסיכון גבוה, ובהן זיהוי ביומטרי
בזמן אמת, תעסוקה וחינוך, יידרשו לעמוד בדרישות
החוק רק מדצמבר 2027.
מערכות המשמשות רכיבי בטיחות במוצרים מוסדרים
קיבלו ארכה עד אוגוסט 2028.
גם חובת סימון תוכן שנוצר בבינה מלאכותית
נדחתה לדצמבר 2026.
מדובר בחלון זמן אמיתי להיערכות, לא בדחיית הבעיה.
מה כדאי לעשות כבר עכשיו ?
מיפוי מערכות הבינה המלאכותית הפועלות בחברה
ובחינתן מול קטגוריות הסיכון הגבוה ;
הערכת תחולת החוק האירופי על המוצרים והשירותים
הנמכרים או המשווקים באירופה;
בדיקה אם ניתן להסתמך על מנגנון הסינון תוך תיעוד
מדויק של תפקיד המערכת; וביצוע סקר פערים מול
דרישות החוק ככל שהמערכת מסווגת, או עשויה להיות
מסווגת, כבסיכון גבוה.
חברות שמגייסות השקעה מהשוק האירופי, או פועלות
מולו, ימצאו שזהו בדיוק סוג הנושא שעולה
בבדיקת נאותות.
אהבתם ? שתפו את הדיוור עם הקהילה שלכם.
מיפיתם את מערכות ה-AI הפועלות בחברה שלכם
מול קטגוריות הסיכון הגבוה ?
האם המסמכים השיווקיים והחוזיים שלכם תואמים
לאופן שבו המערכת פועלת בפועל, או שנוצר פער שעלול
להפתיע אתכם ?
יש לכם שאלות, הערות, הארות, תובנות ותגובות ?
נשמח מאד לקרוא ולשמוע.
פנו אלינו עכשיו
אפשר בתגובה לדיוור זה
אפשר בוואצאפ ואפשר גם להתקשר – 0528328676
נשמח מאד לייעץ ולעמוד לרשותכם.
אנחנו מבטיחים לענות ולחזור לכולם.
בתקווה ותפילה לימים טובים ושקטים יותר
ולבשורות טובות.
שלכם,
שרית ואילן צדק
