כבר ברור לכולנו שבינה מלאכותית הולכת ותופסת מקום מרכזי בעולמות המכשור הרפואי. החל מניתוח תמונות רפואיות ועד תמיכה בהחלטות קליניות - הבינה המלאכותית כאן, והיא כאן להישאר.
אבל רגע לפני שמכניסים מוצר לשוק האירופי, כדאי להכיר את אחד מחוקי הרגולציה החדשים והמשמעותיים ביותר: ה-AI Act של האיחוד האירופי. רגולציה זו, שמחייבת מערכת ניהול איכות ייעודית למערכות AI "מסוכנות", מעלה את השאלה:
האם מערכת האיכות שלנו לפי ISO 13485 מספיקה, או שצריך להקים מערכת חדשה מאפס?
מה דורש ה-AI Act?
סעיף 17 לחוק קובע סדרת דרישות מחייבות לכל ספק של מערכת AI ברמת סיכון גבוהה:
-
אסטרטגיה לתאימות רגולטורית וניהול שינויים
-
בקרה על פיתוח, אימות ואיכות
-
ניהול נתונים מלא, כולל איסוף, תיוג, סינון ושמירה
-
ניהול סיכונים, ניטור שוק ודיווח תקריות
-
תיעוד, אחריות ניהולית ותקשורת עם הרשויות
כל אלה יכולים להיות משולבים במערכת איכות קיימת, בתנאי שהיא תורחב באופן מתאים.
מה ISO 13485 כבר מכסה?
לא צריך להתחיל מאפס. הרבה מהדרישות כבר קיימות בתקן:
אבל יש לא מעט פערים שמצריכים מענה ממוקד.
איפה ISO 13485 לא מספיק?
-
ניהול דאטה: ISO 13485 לא כולל תהליכים לתיעוד, סינון ותיוג של דאטה, לא מתייחס להטיות או לניהול סיכונים שמגיעים משימוש בנתונים.
-
סיכונים ספציפיים ל-AI: בעוד ISO 13485 מתייחס לניהול סיכונים רפואיים כלליים, ה-AI Act מתמקד בסיכונים טכנולוגיים ואלגוריתמיים שלא נלקחו בחשבון בעבר.
-
ניטור פוסט-מרקט: הדרישות של סעיף 72 ל-AI Act כוללות אלמנטים נוספים שאין ב-ISO, כמו ניטור דינמי של ביצועי האלגוריתם לאחר השקה.
-
Accountability: ה-AI Act דורש חלוקה ברורה של אחריות בין צוותי ניהול, פיתוח ואבטחת איכות, משהו שכרגע לא מוגדר היטב בתקן ISO.
אז מה עושים?
הגישה המומלצת היא לא להקים מערכת איכות חדשה, אלא להרחיב את ISO 13485 באופן ממוקד כך שיענה על הדרישות הייחודיות של ה-AI Act.
מה הלאה?
-
ב-2026 צפויים לצאת תקנים חדשים (הראשון לניהול סיכוני AI והשני למערכת ניהול איכות עבור ה-AI Act), אבל הם עדיין בשלבי גיבוש.
-
בינתיים, תקן ISO 42001 לניהול איכות במערכות AI יכול לגשר על הפערים והוא מציע התייחסות ספציפית לניהול סיכונים, תיעוד, תפקידים, ועוד.
בשורה התחתונה
המעבר לעמידה בדרישות החוק לא מחייב הקמת מערכת חדשה, אלא הרחבה חכמה של הקיים, עם דגש על תחומים כמו ניהול דאטה, ניטור מתמשך וסיכונים אלגוריתמיים.
ISO 13485 הוא בסיס חזק וטוב, אבל הוא לא מכסה את כל הדרישות של ה-AI Act
.
תגובות
הוסף רשומת תגובה