דיני בינה מלאכותית בישראל: המדריך המלא לעסקים, למפתחים ולמי שנפגעו ממערכת AI
בישראל אין חוק אחד מקיף לבינה מלאכותית. הדין הקיים חל עליה: הגנת הפרטיות, הגנת הצרכן, זכויות יוצרים, חוזים, נזיקין, איסור הפליה ורגולציה ענפית, לצד מסמכי מדיניות ממשלתיים. כדי לדעת מה חל עליכם, בדקו איזה מידע נכנס, מה המערכת עושה, מי מושפע ממנה ומה כתוב בחוזים.
אם הגעתם למדריך הזה, כנראה משהו קשור לבינה מלאכותית מטריד אתכם. אולי עובדים בארגון שלכם מדביקים מסמכים לצ'אט בלי שיש מדיניות, או שאתם מפתחים מוצר שמבוסס על מודל שפה ורוצים לדעת מה חל עליו. אולי בוט שירות נתן ללקוח תשובה שגויה, מערכת סינון דחתה מועמדים, או שמישהו פרסם עליכם תמונה או סרטון מזויפים. המדריך נכתב לעסקים, למפתחים ולאנשים פרטיים בישראל שמשתמשים במערכות בינה מלאכותית או שנפגעו מהן.
הוא לא מחליף עורך דין. הוא נותן מפה: מה הדין בישראל אומר בפועל על בינה מלאכותית כשאין חוק אחד שמסדיר אותה, אילו תחומי משפט נוגעים לכל מצב, מי הרגולטורים שפעילים בתחום, איך נראה הליך משלב ראשון ועד סופו, ומה כדאי להכין לפני שמדברים עם עורך דין. הוא מנוסח באופן כללי בכוונה, כי בתחום מתפתח כזה הפרטים, כמו אילו נתונים נכנסו למערכת, מה כתוב בחוזה ואיך המערכת הוצגה ללקוח, קובעים את התוצאה.
כדי להפיק ממנו את המרב, קראו קודם את שני הפרקים הראשונים, שמגדירים גבולות ומפה, אחר כך עברו לפרק שמתאר את המצב שלכם, ובסוף עברו על רשימות המסמכים והטעויות. במדריך אין פירוט של מועדים או ספים כמותיים, כי הם משתנים לפי התחום והמקרה. כשמועד חשוב, נאמר זאת, והבדיקה נעשית מול עורך דין.
מידע כללי בלבד, לפי הדין בישראל. אין כאן ייעוץ משפטי, ואין בו הבטחה לתוצאה כלשהי. התחום מתפתח במהירות, וייתכנו שינויים בחקיקה, בהנחיות ובפסיקה אחרי מועד הכתיבה. על תביעות וערעורים עשויות לחול מגבלות זמן קצרות ונוקשות.
מה תחום דיני הבינה המלאכותית מכסה ומה לא
דיני בינה מלאכותית אינם ענף משפטי סגור, אלא מפגש בין תחומים קיימים וטכנולוגיה חדשה. השאלות הרגילות הן: האם מותר להשתמש במידע מסוים כדי להזין או לאמן מערכת, מי אחראי כשהמערכת טועה או פוגעת, למי שייכים הפלט והמודל, איך מתנהלים מול ספק ולקוחות, ואילו חובות חלות כשמערכת מקבלת או מסייעת בהחלטות על בני אדם. התחום כולל גם תוכן מזויף שנוצר בכלי בינה מלאכותית ומדיניות פנימית של ארגונים.
מה שהתחום אינו מכסה, או מכסה רק בחלקו, והגבולות חשובים כי הם קובעים לאיזה גורם פונים:
- פרטיות והגנת מידע בכלל. מידע אישי הוא ליבה של רוב המקרים, אבל דיני הפרטיות רחבים בהרבה מ-AI. המדריך נוגע רק בצמתים שבהם הם פוגשים מערכות בינה מלאכותית.
- חוזים טכנולוגיים וחוזי ספקים. בדיקת הסכם עם ספק AI או SaaS היא נושא בפני עצמו, וקיים לו מאמר נפרד. כאן נתייחס אליו רק בהקשר של חלוקת הסיכון.
- קניין רוחני כללי. פטנטים, סימני מסחר וסודות מסחריים הם תחומים נפרדים שעשויים להיות רלוונטיים גם למוצרי AI, אבל המדריך מתמקד בזכויות יוצרים ובשאלות הייחודיות לתחום.
- דיני עבודה. כשמערכת מנהלת, מנטרת או מפטרת עובדים, חלים גם דיני העבודה. סוגיות כמו שימוע ופיצויים נדונות במדריך דיני העבודה.
- פלילי וסייבר. הונאה, התחזות ופריצה הם תחומים נפרדים, גם אם נעשו בעזרת AI. נתייחס אליהם רק כדי להסביר מתי כדאי לפנות גם לגורמי האכיפה.
- חקיקה זרה. חברה ישראלית שמוכרת לחו"ל עשויה להיות כפופה גם לדין זר. המדריך מציין זאת, אבל אינו מסביר דין זר.
אם הבעיה שלכם נמצאת על הגבול, למשל מערכת סינון עובדים שמעבדת גם מידע רפואי, ציינו זאת בפני עורך הדין כבר בפגישה הראשונה.
המפה: מקורות הדין, הרגולטורים והבתים שמחליטים
אין חוק אחד, ויש הרבה חוקים
השאלה הראשונה שכולם שואלים היא אם יש בישראל חוק בינה מלאכותית. למיטב הידוע, אין חוק אחד מקיף כזה. זה לא אומר שהתחום חסר הסדרה. הדין הקיים חל על מערכות בינה מלאכותית כמו על כל טכנולוגיה אחרת, והמשפטן שואל אילו דינים רלוונטיים לפעולה שהמערכת עושה. הרבדים העיקריים הם:
- חקיקה כללית. חוק הגנת הפרטיות, דיני הצרכנות ובהם חוק הגנת הצרכן, חוק זכות יוצרים, דיני החוזים, פקודת הנזיקין, חוק איסור לשון הרע ודיני איסור הפליה. אין להם כוונה מיוחדת לגבי AI, אבל הם חלים כשמערכת פוגעת בפרטיות, מטעה צרכן, מעתיקה יצירה או גורמת נזק. הרשות להגנת הפרטיות, למשל, פרסמה טיוטת הנחיה שלפיה הוראות חוק הגנת הפרטיות חלות על מערכות בינה מלאכותית ועל תוצריהן.
- חקיקה והנחיות ענפיות. גופי פיקוח ענפיים יכולים להטיל על המפוקחים חובות שנוגעות לשימוש בטכנולוגיה, כולל בינה מלאכותית. בסקטור הפיננסי, למשל, הפיקוח על הבנקים קבע בהוראה בנושא ניהול סיכוני מודלים שהדרישות חלות גם על מודלי בינה מלאכותית, ובדצמבר 2025 פרסם צוות בין-משרדי דוח סופי שממליץ על אסדרה מבוססת סיכון. אם אתם פועלים בתחום מפוקח, בדקו קודם מה קבע הגוף שמפקח עליכם.
- מסמכי מדיניות ממשלתיים. משרדי ממשלה פרסמו מסמכי מדיניות ועקרונות בנושא בינה מלאכותית אחראית. כפי שפורסמו, הם מציעים גישה ענפית ומבוססת סיכון, שנשענת על הרגולטורים הקיימים וכוללת כלים לא מחייבים, ולא על חקיקה אחת רחבה. מסמכים כאלה מנחים את הרגולטורים ואינם חקיקה ראשית, והם מסמנים את הכיוון שבו הרגולטורים עשויים לנקוט. קראו את הנוסח העדכני במקור ולא סיכום שלו.
- הנחיות רשויות. הרשות להגנת הפרטיות ורשויות נוספות מפרסמות הנחיות, עמדות ופרסומים שמסבירים איך הן מבינות את הדין לגבי טכנולוגיות חדשות. אלה אינן חקיקה ראשית, אבל כדאי לתת להן משקל, כי הן משקפות את גישת האכיפה.
- חוזים ותקנונים. מה שהצדדים קבעו ביניהם, כולל תנאי שימוש וחוזי ספקים, מסדיר חלק גדול מהסיכון בפועל.
- פסיקה. בתי המשפט מיישמים את הדין הקיים על עובדות חדשות. בנושאים רבים של בינה מלאכותית עדיין אין תקדימים ברורים, ולכן לעיתים התשובה המשפטית היא "זה תלוי" או "זו שאלה פתוחה".
- דין זר. חוק הבינה המלאכותית של האיחוד האירופי ודינים אחרים עשויים לחול על חברה ישראלית שפועלת מול שווקים זרים או שהפלט של מערכותיה נעשה בהם שימוש, בהתאם לתנאי התחולה שלהם.
הגופים והבתים
- בתי המשפט האזרחיים. תביעות נזיקין, חוזה, הגנת הצרכן, לשון הרע וזכויות יוצרים נדונות בדרך כלל בבתי המשפט האזרחיים, לפי נסיבות העניין. תביעות כספיות קטנות יכולות להתברר גם בבית המשפט לתביעות קטנות. כאשר התביעה היא תביעה צרכנית, ייתכנו גם מסלולים מיוחדים, כמו תובענה ייצוגית.
- בתי הדין לעבודה כשמדובר ביחסי עובד ומעסיק.
- הרשות להגנת הפרטיות לפניות, תלונות ופיקוח בנושאי מידע אישי ומאגרי מידע.
- הרשות להגנת הצרכן ולסחר הוגן בנושאי הטעיה ופרקטיקות צרכניות (היא אינה מטפלת בתחומי הבנקים והביטוח).
- הרגולטורים הענפיים (למשל הפיקוח על הבנקים, רשות שוק ההון ורשות ניירות ערך) לפי התחום.
- המשטרה והתביעה כשיש חשד לעבירה פלילית.
מי מחליט מה? מחלוקת על כסף, נזק או זכות מוכרעת בבית משפט או בבית דין. עבירה נבדקת על ידי גורמי האכיפה. הפרת חובה רגולטורית נבדקת על ידי הרגולטור, שעשוי להטיל סנקציות מנהליות. פעמים רבות אותו אירוע מפעיל כמה מסלולים בבת אחת, ושלב ההחלטה אילו מהם פותחים הוא אחד התפקידים הראשונים של עורך הדין.
מצב ראשון: אתם מציעים ללקוחות מוצר או שירות שמבוסס על בינה מלאכותית
מה קורה
עסק מוסיף לאתר בוט שירות, כלי המלצות, מנוע תמחור או יכולת שמסכמת מסמכים, ושואל מה צריך להיות כתוב בתנאי השימוש, מה מותר להבטיח ללקוחות ומה קורה אם משהו משתבש. לעיתים ההשקה מהירה והבדיקה המשפטית מגיעה אחריה.
מה בודקים קודם
- איך המוצר מוצג. דיני הצרכנות אוסרים הטעיה, ולכן ההצגה השיווקית חשובה לא פחות מהקוד. הבטחה שהמערכת "מדויקת", "מקצועית" או "מחליפה יועץ" עלולה לגרור אחריות אם אין לה בסיס. אם הלקוח עלול לחשוב שהוא מדבר עם אדם, שקלו גילוי ברור.
- מה המערכת עושה בפועל. האם היא רק מציעה או גם מחליטה? האם היא נותנת מידע כללי או ייעוץ שמתיימר להתאים לאדם מסוים? ככל שהמערכת קרובה יותר להחלטה בעלת השפעה, כך הזהירות הנדרשת גדולה יותר.
- תנאי השימוש וההסכמה. תנאים שנוסחו היטב ומוצגים בצורה שמאפשרת לקרוא אותם מחזקים את הגנת העסק, אבל הם אינם משנים את החובות שהדין מטיל עליכם, למשל איסור ההטעיה בחוק הגנת הצרכן בהתקשרות עם צרכנים.
- המידע שנאסף. מה נאסף מהמשתמשים, למה, האם נאמר להם, והאם נעשה בו שימוש לאימון או לשיפור המערכת. אם יש מידע אישי, חלים דיני הפרטיות.
- הספק שמאחורי המוצר. אם המודל מגיע מצד שלישי, בדקו מה הוא מתחייב לגבי אבטחה, זמינות ושיפוי, ואילו מגבלות שימוש הוא מטיל עליכם.
- רגולציה ענפית. אם המוצר פועל בבנקאות, בביטוח, בבריאות, בחינוך או בפרסום, בדקו אם הגוף המפקח קבע הנחיות.
מסמכים שחשובים
חומרי שיווק ודפי נחיתה, תנאי שימוש ומדיניות פרטיות, תיאור טכני של המערכת והמודל שבבסיסה, חוזה עם ספק המודל, תיעוד בדיקות ואיכות, הנחיות פנימיות לנציגים שמטפלים בפניות, ודוגמאות לשיחות או לפלט שהמערכת נתנה.
טעויות נפוצות
- להשיק לפני שבדקו את ההצגה השיווקית מול ההתנהגות בפועל של המערכת.
- להעתיק תנאי שימוש של חברה אחרת שפועלת בשוק אחר ובמודל עסקי אחר.
- לא לתעד איך נבדקה המערכת ומי אישר את השקתה.
- להניח שאחריות הספק לכשל מכסה גם את התחייבויות העסק כלפי הלקוחות.
- לא להכין מראש מסלול טיפול בפניות ובתלונות על טעויות של המערכת.
הצעד המעשי הבא
להכין תיאור קצר של המוצר: מה הוא עושה, אילו נתונים הוא מקבל, למי הוא מוצג ומה הובטח לגביו. עם התיאור הזה עורך דין יכול לבדוק במהירות אילו תחומי דין חלים ולהמליץ על תנאי שימוש, גילוי והסדרים מול הספק.
מצב שני: המערכת טעתה ונגרם נזק
מה קורה
בוט נתן מידע שגוי על מוצר, מערכת המלצות הציגה מידע לא נכון, כלי סיכום השמיט עובדה מהותית או מערכת אוטומטית פעלה בצורה שגרמה להפסד. לעיתים המערכת "המציאה" עובדות שנשמעות משכנעות, תופעה שנקראת הזיה. הנפגע, לקוח או צד שלישי, פונה בדרישה, או שאתם מבינים שהפלט שנתתם לאחרים שגוי.
מה בודקים קודם
השאלה הראשונה היא מי נפגע ומה הנזק. נזק כספי, פגיעה במוניטין, פגיעה בגוף ופגיעה בפרטיות מוסדרים באופן שונה. אחר כך שואלים מי אחראי, ובדרך כלל נבחנים כמה צדדים אפשריים:
- מפעיל המערכת. מי שמציע את המערכת לציבור או משתמש בה בפעילותו העסקית נדרש בדרך כלל לנהוג בזהירות סבירה. בנזיקין נבחנות שאלות כמו האם היה צפוי הנזק, האם נבדקה המערכת, והאם נעשה שימוש מתאים בפיקוח אנושי.
- הספק או המפתח. אם הכשל נובע מפגם במוצר או מהפרת התחייבות חוזית, ייתכן שיש טענות גם כלפיו. היקף האחריות תלוי בעיקר בחוזה ובנסיבות.
- המשתמש שהסתמך. מי שקיבל פלט והעביר אותו הלאה בלי לבדוק אותו עלול להיבחן גם הוא לפי אמת המידה של התנהגות סבירה.
למיטב הידוע אין בישראל חקיקה ייעודית לבינה מלאכותית שקובעת כללי אחריות מיוחדים, ולכן ההנחה הזהירה היא שהעסק שהציג את המערכת ללקוחות ייבחן לפי הכללים הרגילים של רשלנות, הטעיה והפרת חוזה. גם הצוות הבין-משרדי שבחן את הסקטור הפיננסי המליץ שהאחריות לפעילות מערכת בינה מלאכותית תוטל על הגוף הפיננסי שמפעיל אותה. היחס בינכם לספק נקבע בעיקר בחוזה.
מסמכים שחשובים
הפלט שגרם לנזק (צילום מסך או תיעוד שיחה, עם תאריכים), הוראות השימוש וההצגה של המערכת ללקוח, חוזה הספק, תיעוד בדיקות קודמות, יומני מערכת, תלונות קודמות על תקלות דומות, ראיות לנזק עצמו.
טעויות נפוצות
- למחוק את הפלט או את יומני המערכת בלי לשמור עותק. מחיקה כזו עלולה לפגוע ביכולת להוכיח מה קרה.
- להודות באחריות בהודעה לנפגע לפני שהבינו את העובדות.
- להסתמך על סעיף הגבלת אחריות כאילו הוא מגן מכל טענה.
- להתעלם מפנייה של לקוח בתקווה שהעניין יחלוף.
הצעד המעשי הבא
לשמור ראיות ולתעד מה קרה, לפנות מוקדם לעורך דין לפני שמגיבים בכתב, ולבדוק אם יש חובת הודעה לספק, למבטח או לרגולטור. אם מדובר בפגיעה בפרטיות או באירוע אבטחה, ייתכן שיש חובות דיווח נוספות, ולכן כדאי לבדוק זאת מיד.
מצב שלישי: מערכת אוטומטית מקבלת או משפיעה על החלטות לגבי בני אדם
מה קורה
חברה משתמשת בכלי שמסנן קורות חיים, מדרג מועמדים, מציע תנאי אשראי, מתמחר ביטוח או מסמן לקוחות כבעייתיים. אדם נדחה ואינו יודע למה. לעיתים אפילו הארגון עצמו אינו מבין לפי אילו קריטריונים המערכת פועלת.
מה בודקים קודם
- האם יש מי שמחליט בפועל. החלטה שמתקבלת בלחיצת אישור על המלצת מערכת נחשבת בעיני רבים החלטה אוטומטית בפועל, אם אין בה עיון אמיתי. רצוי שיהיה אדם בעל סמכות ויכולת לשנות.
- איזה מידע נכנס. מידע על אדם הוא מידע אישי, וחלק ממנו רגיש. בדקו אם יש בסיס חוקי לשימוש, אם נאמר לאדם שהמידע ישמש להחלטה, ואם הוא מדויק ועדכני.
- סיכון להפליה. חוק שוויון ההזדמנויות בעבודה אוסר על מעסיק להפלות בין דורשי עבודה, למשל מחמת מין או הורות, ורואה בהפליה גם קביעת תנאים שאינם ענייניים. החובה מוטלת על המעסיק עצמו, ולכן כדאי להניח שהשימוש בכלי אוטומטי אינו משנה אותה. גם עקרונות המדיניות הממשלתית מדגישים שוויון ומניעת הפליה בפיתוח ובשימוש בבינה מלאכותית. מערכת שפוסלת קבוצות באופן לא עניני עלולה לעורר טענות הפליה נגד הארגון. הטיה יכולה להגיע מנתוני האימון, מבחירת המשתנים או מהדרך שבה המערכת הופעלה.
- שקיפות והסבר. האם אפשר להסביר לאדם בשפה פשוטה מה הוביל להחלטה? האם יש לו דרך לערער? אין להניח שיש חובת הסבר מפורטת בכל תחום, אבל היכולת להסביר חשובה להגנה מפני טענות הפליה והטעיה.
- זכות עיון. לפי דיני הפרטיות, לאדם עשויה להיות זכות לעיין במידע שנשמר עליו ולבקש תיקון של מידע שגוי. היקף הזכות ותנאיה תלויים בדין ובנסיבות.
- רגולציה ענפית. באשראי, בביטוח, בתעסוקה ובבריאות עשויות לחול הנחיות מיוחדות.
מסמכים שחשובים
תיאור הקריטריונים והמשתנים של המערכת, בדיקות הטיה ואיכות שנערכו, הנחיות לבעל הסמכות שמחליט, ההחלטה שנמסרה לאדם, ההתכתבות איתו, ומידע על מה שנשמר עליו.
טעויות נפוצות
- ארגונים: להסתמך על הצהרת הספק ש"המערכת הוגנת" בלי לבדוק, לא לשמור תיעוד של איך המערכת עובדת ושל מי אישר אותה, ולא לאפשר ערעור אנושי.
- אנשים שנדחו: להסתפק בהנחה שהכול נעשה "לפי המחשב", לא לבקש מידע ולא לשמור את הודעת הדחייה.
הצעד המעשי הבא
מי שנדחה יכול לבקש בכתב את הסיבה ואת המידע שנשמר עליו, ולבדוק אם הוא מדויק. ארגון שמפעיל מערכת כזו כדאי שיעשה מיפוי של ההחלטות שהיא משפיעה עליהן, יוודא שיש פיקוח אנושי ושמירת תיעוד, ויבקש מעורך דין לבדוק את ההתאמה לדיני ההפליה והפרטיות ולהנחיות הענפיות.
מצב רביעי: זכויות יוצרים, אימון מודלים ותוכן שנוצר בבינה מלאכותית
מה קורה
יוצר מגלה שהיצירה שלו שימשה לאימון מודל, חברה מפיקה תמונות וטקסטים בעזרת כלי יצירה ושואלת אם היא יכולה למכור אותם, או שצד שלישי טוען שפלט של מערכת שלכם דומה ליצירה שלו. שלוש השאלות האלה שונות, וכדאי לא לערבב ביניהן.
מה בודקים קודם
- אימון על יצירות מוגנות. השאלה אם שימוש ביצירות מוגנות לצורכי אימון מודל הוא הפרה, או שחל עליו הסייג של שימוש הוגן, נדונה בעולם ובישראל. משרד המשפטים פרסם חוות דעת בנושא. לפי חוות הדעת, מלבד מקרים חריגים, שימוש בתכנים מוגנים לצורך אימון מכונה חוסה לרוב תחת ההסדרים של שימוש הוגן, ובמקרים מסוימים גם שימוש אגבי ויצירה ארעית, לפי חוק זכות יוצרים. חוות הדעת אינה חלה, למשל, על מאגר של יוצרים בודדים שמשמש מערכת שמתחרה בהם, ואינה קובעת נמל מבטחים לגבי התוצר, שנבחן לגופו לפי הכללים הרגילים של זכות יוצרים. זו עמדת רשות ולא הכרעה של בית משפט. אל תתייחסו אליה כאל אישור כללי.
- מקור הנתונים. אם אתם מפתחים מודל, בדקו מאיפה הגיע חומר האימון, מה תנאי הרישיון שלו ומה תנאי האתרים שממנו נאסף. חוות הדעת אינה משתרעת על הגבלות שמקורן בדינים אחרים, כמו דיני הפרטיות, וייתכנו גם הגבלות בחוזה ובתנאי השימוש של האתרים.
- בעלות בפלט. חוות הדעת של משרד המשפטים עוסקת בתהליך הלמידה ולא בתוצר, והיא מציינת שהשאלה אם התוצר מפר זכויות יוצרים נבחנת לגופה. גם השאלה אם ובאיזו מידה פלט שנוצר בעיקר על ידי מערכת מוגן בזכויות יוצרים תלויה בעובדות המקרה, ולכן כדאי לתעד את התהליך היצירתי ואת ההנחיות שניתנו. קחו זאת בחשבון לפני שמניחים שמותג, איור או קוד שנוצרו באופן אוטומטי שייכים לכם באופן בלעדי.
- דמיון ליצירה קיימת. משרד המשפטים ציין בחוות דעתו שכאשר התוצר עצמו מהווה הפרה של זכויות יוצרים, אין לכך נמל מבטחים והדבר נבחן לגופו. לכן פלט שדומה מאוד ליצירה מוגנת עלול להיבחן כהפרה גם אם נוצר אוטומטית.
- החוזה. תנאי הספק קובעים אילו זכויות יש לכם בפלט, אם הספק משתמש בקלט, ואם הוא מציע הגנה מפני תביעות של צד שלישי.
- סודות מסחריים וקוד. הזנת קוד או מידע מסחרי חסוי לכלי חיצוני חושפת אותם לצד שלישי, ולכן בדקו את תנאי הכלי ואת החוזה לפני כן.
מסמכים שחשובים
רישיונות ותנאי שימוש של מאגרי הנתונים, תיעוד מקורות האימון, תיאור של התהליך היצירתי והתרומה האנושית בו, הנחיות שהוזנו לכלי, תנאי הספק, ועדויות לדמיון הנטען.
טעויות נפוצות
- להניח שכל מה שנמצא ברשת פתוח לשימוש.
- למכור לקוחות "יצירה בלעדית" שנוצרה באופן אוטומטי בלי להסביר את המצב המשפטי.
- להזין לכלי ציבורי קוד או חומר חסוי של לקוחות.
- להתעלם מדרישה מצד בעל זכויות ולהניח שהיא חסרת בסיס.
הצעד המעשי הבא
יוצרים שחושדים בשימוש ביצירתם יכולים לתעד את היצירה ואת הראיה לשימוש ולפנות לעורך דין לבדיקת העמדות. עסקים שמפתחים או משתמשים בכלי יצירה כדאי שיכינו מיפוי של מקורות הנתונים והפלט, וידאגו להסדרים חוזיים ולמדיניות שימוש.
מצב חמישי: תוכן מזויף, התחזות והונאה בעזרת בינה מלאכותית
מה קורה
תמונה, סרטון או הקלטת קול שנוצרו במחשב מציגים אתכם או את עובדיכם אומרים או עושים דברים שלא אמרו ולא עשו. לפעמים זו פרסומת מזויפת שמשתמשת בדמות מוכרת, לפעמים הודעה קולית שנשמעת כמו מנהל שמבקש העברה כספית דחופה, ולפעמים תוכן פוגעני שמופץ ברשתות.
מה בודקים קודם
הדין אינו מחכה לשם "דיפפייק". אותה פעולה עשויה לעורר כמה עילות, תלוי בתוכן ובתכלית:
- פרטיות. חוק הגנת הפרטיות אוסר לפגוע בפרטיות של אדם בלי הסכמתו, ומונה בין הפגיעות פרסום תצלום של אדם ברבים בנסיבות שעלולות להשפילו או לבזותו, ושימוש בשמו, בתמונתו או בקולו לשם רווח.
- לשון הרע. חוק איסור לשון הרע מגדיר לשון הרע כדבר שפרסומו עלול להשפיל אדם בעיני הבריות, לבזות אותו בשל מעשים או תכונות המיוחסים לו או לפגוע בו במשרתו, בעסקו או במקצועו, ופרסום כולל גם ציור ודמות. לכן תוכן מזויף שנוצר בעזרת מערכת עשוי להיכנס להגדרה.
- הטרדה. חוק הגנת הפרטיות מונה גם הטרדה בין אופני הפגיעה בפרטיות. תוכן מיני מזויף, איומים או הטרדה מקוונת עלולים להצדיק גם פנייה למשטרה.
- הונאה והתחזות. שימוש בקול או בדמות כדי להוציא כסף או מידע עלול להיות עניין פלילי, ולכן יש לפנות למשטרה. הוא קשור גם לנהלי בדיקה ואימות בארגון.
- צרכנות ופרסום. שימוש בדמות מוכרת או בעדות מזויפת כדי לשכנע לקנות מוצר עלול להיחשב הטעיה בעניין מהותי בעסקה, שכן חוק הגנת הצרכן מונה בין העניינים המהותיים גם חסות, עידוד או הרשאה שניתנו לשירות.
מסמכים שחשובים
הצילומים והקישורים של התוכן, תאריכים ושעות, שם המפרסם והפלטפורמה, עותקים של הודעות, תיעוד מי הוזק ובאילו נסיבות, ופניות שכבר נשלחו לפלטפורמה.
טעויות נפוצות
- להגיב בזעם פומבי לפני שמשמרים ראיות.
- למחוק את ההתכתבות שבה קיבלתם את התוכן.
- להניח שאי אפשר לפעול נגד פרסום אנונימי. כדאי לבדוק עם עורך דין אילו אפשרויות קיימות.
- ארגונים: לא להגדיר נוהל אימות בקשות כספיות או רגישות שמגיעות בקול או בווידאו.
הצעד המעשי הבא
לשמור ראיות, לפנות לפלטפורמה בבקשת הסרה לפי כללי הדיווח שלה, ולהתייעץ עם עורך דין במהירות על הצעדים האזרחיים והפליליים. כשיש הונאה כספית פעילה, יש לפנות גם לבנק ולמשטרה מיד. לארגונים: להוסיף נוהל שמחייב אימות נוסף בערוץ אחר לפני ביצוע פעולה כספית על סמך הודעה קולית או וידאו.
מצב שישי: מידע אישי במערכות בינה מלאכותית, מפתחים וארגונים
מה קורה
ארגון מפתח או מטמיע מערכת שמעבדת מידע אישי בהיקף משמעותי: לקוחות, מועמדים, מטופלים או משתמשי אפליקציה. הצוות הטכני שואל אם מותר לאמן על הנתונים, ומה קורה כשאדם מבקש למחוק את המידע עליו. המדריך על שימוש בכלים עם מידע על לקוחות מטפל בצד של העובדים והכלים החיצוניים. כאן נדון בצד של בניית המערכת.
מה בודקים קודם
- מטרה ושקיפות. המידע נמסר למטרה מסוימת. שימוש בו לצורך אימון או הפעלה של מערכת חדשה עלול לחרוג מהמטרה, במיוחד אם לא נאמר לאנשים. בדקו מה נאמר להם בעת האיסוף ומה כתוב במדיניות הפרטיות.
- סוג המידע. מידע רפואי, ביומטרי או פיננסי מחייב זהירות מוגברת. הדין והנחיות הרשות מבחינים בין סוגי מידע לפי רגישותם.
- מאגרי מידע. ייתכן שהמערכת, או מאגר האימון, מוגדרים כמאגר מידע לפי החוק, עם חובות כמו אבטחת מידע, ובמקרים מסוימים הודעה לרשות ומינוי ממונה על הגנת הפרטיות. תיקון 13 לחוק הגנת הפרטיות, שנכנס לתוקף ב־14 באוגוסט 2025, צמצם משמעותית את חובת רישום מאגרי המידע במגזר הפרטי, הוסיף חובת מינוי ממונה על הגנת הפרטיות בארגונים מסוימים וקבע סמכויות אכיפה ועיצומים כספיים לרשות להגנת הפרטיות. בדקו את החובות העדכניות ולא לפי נוסח ישן.
- אבטחה והפחתת מידע. כדאי לצמצם את המידע שנכנס, להסיר זיהוי כשאפשר, ולהגביל גישה. אל תניחו שהסרת שם מבטיחה אנונימיות, כי לעיתים אפשר לזהות אדם לפי שילוב נתונים.
- זכויות של בני אדם. יש לבדוק איך המערכת תתמודד עם בקשות לעיין במידע, לתקן אותו או למחוק אותו. מערכת שהמידע "נטמע" בה קשה לטפל בה בדיעבד, ולכן כדאי לחשוב על כך בתכנון.
- העברה לחו"ל וקבלני משנה. אם המידע מעובד אצל ספק בחו"ל או דרך ספקי משנה, ייתכנו דרישות נוספות. בדקו אותן מול עורך דין לפני שהמידע עוזב את הארגון.
מסמכים שחשובים
מדיניות פרטיות, נוסחי הסכמה, מיפוי מקורות המידע והשימושים, תיעוד אבטחה, הסכמי עיבוד מידע עם ספקים, נהלי טיפול בבקשות של אנשים ובאירועי אבטחה.
טעויות נפוצות
- לאמן מודל על מידע של לקוחות בלי לבדוק את מטרת האיסוף.
- להגדיר את הנתונים כ"אנונימיים" בלי בדיקה אמיתית.
- לא לתכנן מראש דרך להיענות לבקשת מחיקה או תיקון.
הצעד המעשי הבא
לערוך מיפוי של זרימת המידע במערכת, מהמקור ועד הפלט, ולבדוק עם עורך דין הנוגע בפרטיות את מטרות השימוש, את חובות המאגר ואת ההסכמים עם הספקים. הערכה כזו לפני ההשקה זולה וקלה בהרבה מתיקון אחריה.
מצב שביעי: ענפים מפוקחים, פעילות בינלאומית ומדיניות פנימית
מה קורה
ארגון פועל בתחום שיש בו גוף מפקח, כמו בנק, חברת ביטוח, גוף פיננסי, מוסד רפואי או בעל מקצוע חופשי. או שחברה ישראלית מוכרת שירותים בחו"ל. או שהנהלה רוצה לקבוע כללים ברורים לשימוש בכלי בינה מלאכותית בארגון לפני שמשהו משתבש.
מה בודקים קודם
- הרגולטור הענפי. בסקטור הפיננסי, למשל, הצוות הבין-משרדי המליץ על אסדרה מבוססת סיכון ועל ממשל בינה מלאכותית בגופים הפיננסיים, והפיקוח על הבנקים החיל את הוראת ניהול סיכוני המודלים גם על מודלי בינה מלאכותית. בדקו אם פורסמו הנחיות, חוזרים או עמדות בענף שלכם ומה מעמדם.
- סודיות מקצועית. עורך דין חייב לשמור בסוד כל דבר שהובא לידיעתו בידי לקוח או מטעמו (כלל 19 לכללי לשכת עורכי הדין (אתיקה מקצועית) וסעיף 90 לחוק לשכת עורכי הדין), והחובה ממשיכה לחול כשמשתמשים בכלי חיצוני. הזנת מידע של לקוח לכלי ציבורי עלולה לפגוע בחובה זו. מי שהדין מטיל עליו חובת סודיות בתחום אחר צריך לבדוק את החובה הרלוונטית לפני שמזינים מידע לכלי חיצוני.
- דין זר. חברה ישראלית שפועלת באירופה או מול לקוחות זרים צריכה לבדוק את תחולת הדינים שם, ובהם חוק הבינה המלאכותית של האיחוד האירופי. התחולה תלויה בתפקיד שלכם (ספק, משתמש, משווק), בסוג המערכת ובמקום שבו נעשה בה שימוש.
- מדיניות הארגון. גם בלי חובה מפורשת, מדיניות כתובה מאפשרת להראות שהארגון הגדיר כללים, הדריך עובדים ואכף אותם. הרשות להגנת הפרטיות מדגישה בטיוטת ההנחיה שלה את חשיבות עקרונות האחריותיות בשימוש במערכות בינה מלאכותית, ובהם מינוי ממונה על הגנת הפרטיות ועריכת תסקיר השפעה על הפרטיות.
מסמכים שחשובים
הנחיות הרגולטור הרלוונטי, מדיניות פנימית ונהלי עבודה, רשימת כלים מאושרים, הדרכות שנערכו, תיעוד הערכות סיכון, חוזים עם ספקים ועם לקוחות בחו"ל.
טעויות נפוצות
- לחכות לחקיקה כוללת בטענה שאין חוק ולכן אין חובות.
- להעתיק מדיניות שנכתבה לתחום או למדינה אחרים.
- לאסור שימוש בכלים באופן גורף, ובכך לדחוף את העובדים לשימוש סמוי שאין עליו פיקוח.
הצעד המעשי הבא
למפות אילו חובות ענפיות וחוזיות חלות עליכם, לגבש מדיניות קצרה וברורה ולהדריך את הצוות. אם יש פעילות בחו"ל, לבקש בדיקה של תחולת הדינים הזרים כבר בשלב התכנון.
ההליך צעד אחר צעד, מהיום הראשון ועד הסוף
אין הליך אחד לכל המקרים, כי לפעמים אין סכסוך אלא רק צורך להתכונן. בגדול אפשר לתאר שני מסלולים, שכל אחד מהם נראה אחרת.
מסלול מניעה: לפני שיש בעיה
- מיפוי. מזהים אילו מערכות בשימוש או בפיתוח, איזה מידע נכנס אליהן ומי מושפע מהפלט.
- בדיקת חובות. בודקים אילו דינים, הנחיות וחוזים חלים לפי הענף, סוג המידע והשווקים.
- הסדרים חוזיים. מנהלים משא ומתן עם ספקים, ומעדכנים תנאי שימוש ומדיניות פרטיות.
- מדיניות והדרכה. כותבים כללים קצרים ומדריכים את הצוות.
- פיקוח ותיעוד. קובעים מי בודק פלט, איך מתעדים החלטות ואיך מטפלים בתקלה.
- עדכון. חוזרים על הבדיקה כשהמערכת, החוק או ההנחיות משתנים.
מסלול סכסוך: אחרי שנגרם נזק או שהתקבלה דרישה
- ייצוב ושימור. שומרים ראיות, מקפיאים מחיקות, מתעדים את מצב המערכת ומונעים המשך נזק, כמו הסרה של פלט פוגעני.
- בירור עובדתי. מבררים מה קרה, מי נפגע, איזה מידע היה מעורב ומי אחראי.
- בדיקה משפטית. קובעים אילו תחומי דין רלוונטיים, מי הצדדים האפשריים ומה מועדי ההתיישנות והמועדים הנוספים שחלים. הם משתנים לפי העילה והתחום, ולכן יש לברר אותם מול עורך דין כבר בשלב מוקדם.
- פנייה ראשונה. לעיתים פונים בכתב לצד השני או לספק, מודיעים למבטח אם יש פוליסה, ולפעמים מגישים תלונה לרשות מפקחת או למשטרה.
- משא ומתן או הליך מקדים. הרבה מחלוקות מסתיימות בהסדר, בהסרת תוכן או בפיצוי, בלי הליך מלא. אפשר גם להשתמש בגישור.
- הליך משפטי. אם אין הסדר, אפשר לפנות לבית המשפט או לבית הדין המתאים. ההליך כולל בדרך כלל כתבי טענות, הוכחת העובדות, לעיתים חוות דעת מומחה טכנולוגי, דיונים והכרעה.
- ערעור ואכיפה. גם אחרי פסק דין ייתכנו ערעור והליכי גבייה או אכיפה.
כל שלב תלוי בנסיבות, ואי אפשר לצפות מראש כמה זמן הוא יימשך.
מה משפיע על העלות ועל משך הזמן
אי אפשר לקבוע מראש עלות או זמן כלליים, ולכן נציין גורמים בלבד:
- המורכבות הטכנולוגית. ככל שהמערכת מורכבת יותר וקשה יותר להסביר איך היא הגיעה לתוצאה, כך נדרש יותר מאמץ מקצועי, ולעיתים מומחה מטעם.
- היקף המידע והמסמכים. חוזים רבים, יומני מערכת ומקורות נתונים מאריכים את הבדיקה.
- מספר הצדדים ומקומם. ספק זר, לקוחות במדינות שונות או כמה רגולטורים מגדילים את המורכבות.
- שאלות משפטיות פתוחות. כשאין תקדים ברור, הדיון ארוך יותר והתוצאה פחות צפויה.
- המסלול שנבחר. מכתב, גישור, תלונה לרשות או הליך משפטי נבדלים זה מזה בדרישות ובקצב.
- ההיערכות מראש. תיעוד מסודר וחוזים ברורים מקצרים בדרך כלל את הבירור.
- נכונות הצד השני. כשיש נכונות לפתרון, הזמן קצר, וכשיש התנגדות הוא נמשך.
כדאי לבקש מעורך הדין הערכה של שלבים, גורמי עלות ומה עשוי לשנות אותם, ולא להסתפק במספר בודד.
מסמכים וראיות שכדאי לאסוף
למי שהמערכת פגעה בו
- צילומי מסך, הקלטות וקישורים, עם תאריכים ושעות
- הודעות, החלטות או דחיות שנמסרו לכם, והתכתבות עם הגורם שפעל
- מידע על מי יצר או הפיץ את התוכן, אם ידוע
לעסק או למפתח
- רשימת מערכות ה-AI בשימוש, הספקים והחוזים עמם
- מיפוי מידע אישי: מקורות, מטרות, ספקי משנה, מקומות אחסון
- תנאי שימוש, מדיניות פרטיות, נוסחי הסכמה וחומרי שיווק
- תיעוד הפיתוח והבדיקות: מקורות נתוני אימון, בדיקות איכות והטיה, גרסאות
- מדיניות פנימית, הדרכות ונהלי טיפול בתקלות
- יומני מערכת ופלט של המערכת בתקופת האירוע
טעויות נפוצות ודגלים אדומים
- לחשוב שאין חוק ולכן אין חובות. הדין הקיים חל גם בלי חוק ייעודי.
- להסתמך על הספק. הצהרות שיווק של ספק אינן מחליפות בדיקה, וחוזה הספק אינו פוטר מחובות כלפי צדדים שלישיים.
- לעבוד בלי פיקוח אנושי על פלט שמשפיע על אנשים.
- להזין מידע חסוי או אישי לכלי שלא נבדק.
- להציג את המערכת בהגזמה ביכולותיה או באופן שמבלבל לגבי אופיה.
- להתעלם משינויי רגולציה ולהמשיך לפי מצב ישן.
- לא לתעד. בלי תיעוד קשה להוכיח שהתנהגתם בזהירות סבירה.
- לאבד ראיות בגלל מחיקה או שינוי של המערכת.
דגלים אדומים בהצעות שאתם מקבלים: ספק שמסרב להסביר איפה המידע נשמר, חוזה שמוציא כל אחריות וממשיך לדרוש הרשאות רחבות על המידע שלכם, הבטחה ש"המערכת עומדת בכל החוקים" בלי הסבר, ומי שמציע לפתור סכסוך על ידי חתימה מיידית על ויתור.
מתי חייבים עורך דין, איך בוחרים ומה שואלים
מתי כדאי לפנות
- כשמעורב מידע אישי רגיש או בהיקף גדול, או שהמערכת משמשת להחלטות על בני אדם.
- לפני השקה של מוצר מבוסס AI, או חתימה על חוזה משמעותי עם ספק.
- כשהתקבלה דרישה, תלונה, פנייה מרשות או הודעה על תביעה.
- כשנגרם נזק למישהו או פורסם תוכן מזויף.
- כשיש פעילות בשווקים זרים או ענף מפוקח.
איך בוחרים
חפשו עורך דין שיש לו ניסיון בתחום הרלוונטי למקרה שלכם, פרטיות, קניין רוחני, צרכנות, חוזים טכנולוגיים או ליטיגציה, ושמסביר בבהירות מה ידוע ומה לא ידוע. הדין בתחום מתפתח, ולכן מי שמבטיח ודאות מלאה ראוי לספק. בדקו שהוא מקשיב לעובדות הטכניות ושואל על המערכת, ולא נותן תשובה כללית לפני שהבין אותה.
שאלות לפגישה הראשונה
- אילו תחומי דין חלים על המקרה שלי, ומה עדיין לא ברור?
- אילו מועדים עשויים לחול, ומה צריך לעשות מיד?
- מה אתה צריך ממני: אילו מסמכים ומי בצוות הטכני צריך להצטרף?
- אילו מסלולים אפשריים, ומה היתרונות והסיכונים של כל אחד?
- מה הגורמים שישפיעו על העלות ועל משך הזמן, ואיך תעדכן אותי?
- האם יש חובת דיווח לרגולטור, ללקוחות, לספק או למבטח?
- מה אני יכול לעשות בינתיים, ומה כדאי שלא אעשה?
מילון קצר
- בינה מלאכותית (Artificial Intelligence, AI): מערכת מחשב שמבצעת משימות שבדרך כלל דורשות שיקול דעת אנושי, כמו זיהוי, חיזוי, יצירת תוכן או המלצה.
- מודל שפה (Large Language Model, LLM): מערכת שאומנה על כמות גדולה של טקסט ומייצרת טקסט בתגובה להנחיה.
- אימון (Training): התהליך שבו מערכת לומדת מנתונים.
- הנחיה (Prompt): הטקסט או ההוראה שמוזנים למערכת.
- פלט (Output): מה שהמערכת מייצרת בתגובה.
- הזיה (Hallucination): פלט שנשמע משכנע אבל אינו נכון או הומצא.
- הטיה (Bias): נטייה שיטתית של מערכת להעדיף או לפגוע בקבוצות מסוימות, הנובעת בין השאר מהנתונים.
- דיפפייק (Deepfake): תמונה, קול או וידאו שנוצרו או שונו במערכת כך שנראים אמיתיים.
- מידע אישי (Personal data): מידע שמזהה אדם או שאפשר לזהות אדם באמצעותו.
- מאגר מידע (Database): אוסף מידע אישי כפי שהחוק מגדיר, שחלות עליו חובות.
- שימוש הוגן (Fair use): סייג בדיני זכויות יוצרים המתיר שימוש ביצירה בנסיבות מסוימות ובכפוף לתנאים.
- שיפוי (Indemnity): התחייבות של צד לפצות את האחר על הפסד או תביעה, בגבולות שהחוזה קובע.
- רגולטור (Regulator): גוף ציבורי המפקח על תחום ומפרסם הנחיות.
- פיקוח אנושי (Human oversight): מעורבות של אדם בעל סמכות בהחלטות או בבדיקת פלט.
48 השעות הקרובות
- עצרו ושמרו. אם קרה אירוע, שמרו ראיות ואל תמחקו דבר. אם אין אירוע, הקפיאו שינויים במערכת שאתם עומדים לבדוק.
- רשמו מה קרה בעובדות. מה, מתי, מי מעורב, איזה מידע נכנס ואיזה פלט יצא.
- אספו את החוזים והתנאים. הסכם עם ספק, תנאי שימוש, מדיניות פרטיות ומדיניות פנימית.
- אל תגיבו בחיפזון. לפני תגובה בכתב לנפגע, ללקוח או לרשות, התייעצו.
- בדקו חובות דיווח. האם יש פוליסת ביטוח, חוזה שמחייב הודעה, או רגולטור שצריך לעדכן.
- קבעו פגישה עם עורך דין בתחום, ובקשו לברר את המועדים שחלים.
- אם אתם עסק: הגדירו באופן זמני אילו כלים מותרים ואיזה מידע אסור להזין, עד שתהיה מדיניות מלאה.
CoPartner AI מקשרת בין קוראים לעורכי דין מתאימים ברשת שלה, כדי שתוכלו לבדוק את המקרה שלכם מול איש מקצוע לפי הנסיבות.
שאלות נפוצות
האם יש בישראל חוק שמסדיר בינה מלאכותית?
למיטב הידוע, אין חוק אחד מקיף שמסדיר בינה מלאכותית ככלל. במקומו חל הדין הקיים, כמו פרטיות, צרכנות, זכויות יוצרים, חוזים ונזיקין, ולצדו מסמכי מדיניות ורגולציה של גופים ענפיים. התחום מתפתח, ולכן בדקו את המצב העדכני לפני שמסתמכים על מסקנה כללית.
מי אחראי אם צ'אטבוט של העסק נתן ללקוח מידע שגוי?
ככלל, העסק שמפעיל את הבוט ומציג אותו ללקוחות הוא הכתובת הראשונה לטענות, גם אם הטכנולוגיה נרכשה מספק. אם יש בחוזה עם הספק הסדר של שיפוי או חלוקת אחריות, הוא קובע בעיקר את היחס בין העסק לספק ולא את זכויות הלקוח. התוצאה תלויה בנסיבות, בניסוח ההצגה ללקוח ובנזק שנגרם.
האם מותר לעסק להשתמש במידע על לקוחות כדי לאמן מודל?
זה תלוי במטרה שלשמה המידע נאסף, במה שנאמר לאנשים בעת האיסוף, בסוג המידע ובחובות שחלות לפי דיני הפרטיות. שימוש שחורג ממטרת האיסוף עלול להיות בעייתי, ומידע רגיש מחייב זהירות מוגברת. בדקו זאת לפני שהמידע מוזן למודל, כי קשה לתקן בדיעבד.
האם תוכן שנוצר בבינה מלאכותית מוגן בזכויות יוצרים?
משרד המשפטים עסק בחוות דעתו בתהליך הלמידה ולא בתוצר, והתשובה לגבי תוצר שנוצר ב-AI תלויה בעובדות המקרה. אל תניחו שיש לכם בעלות מלאה. כדאי להסדיר את הנושא בחוזים ולשמור תיעוד של התהליך היצירתי.
מישהו יצר תמונה או סרטון מזויפים שלי, מה אפשר לעשות?
שמרו ראיות לפני שהתוכן יימחק: צילומי מסך, כתובות אתר, תאריכים ושם המפרסם. בהתאם לתוכן ייתכנו עילות בתחומי הפרטיות ולשון הרע, וייתכן גם היבט פלילי, ולכן אפשר לשקול פנייה לפלטפורמה ולמשטרה. פנו מהר לעורך דין, כי מהירות חשובה להגבלת הנזק.
האם מערכת AI שמסננת מועמדים לעבודה חוקית?
השימוש ככזה אינו אסור בהכרח, אבל המעסיק נשאר כפוף לדיני איסור ההפליה ולדיני הפרטיות. אם המערכת פוסלת קבוצות מסוימות באופן לא עניני, עלולות להתעורר טענות הפליה נגד המעסיק. כדאי לשמור פיקוח אנושי ולהבין לפי אילו קריטריונים המערכת פועלת.
האם חייבים לספר ללקוח שהוא מדבר עם בוט?
חוק הגנת הצרכן אוסר הטעיה בעניין מהותי בעסקה, ובנסיבות מסוימות הצגת בוט כנציג אנושי עלולה להיחשב הטעיה. הרשות להגנת הפרטיות פרסמה טיוטת הנחיה שלפיה כשמעבדים מידע אישי במערכת בינה מלאכותית יש ליידע את האדם שהוא מקיים אינטראקציה עם בוט ולא עם בן שיח אנושי, כשיש לכך השפעה מהותית על ההסכמה. בענפים מפוקחים ייתכנו הנחיות נוספות. הגישה הזהירה היא גילוי ברור, ובדיקה פרטנית עם עורך דין לפי הענף.
האם חברה ישראלית חייבת לציית לחוק הבינה המלאכותית של האיחוד האירופי?
ייתכן, אם היא מציעה מערכות או משתמשת בפלט שלהן בהקשר שמגיע לשוק האירופי, בהתאם לתנאי תחולתו. התחולה תלויה במה שהמערכת עושה, מי משתמש בה והיכן. אם יש לכם לקוחות או פעילות באירופה, בדקו זאת מוקדם.
מה כדאי שיהיה במדיניות פנימית לשימוש בכלי AI בארגון?
מדיניות טובה קובעת אילו כלים מאושרים, איזה מידע אסור להזין, מי מאשר שימוש חדש, איך בודקים פלט לפני הסתמכות ואיך מדווחים על תקלה. היא צריכה להיות קצרה, ברורה ומלווה בהדרכה. עדכנו אותה כשהכלים והכללים משתנים.
מה עושים אם מערכת אוטומטית דחתה אותי לאשראי, לביטוח או לעבודה?
בקשו בכתב הסבר לסיבה ושמרו את ההודעה. בדקו אם המידע שעליו התבססה ההחלטה נכון, ואם יש לכם זכות לעיין בו לפי דיני הפרטיות. אם יש חשד להפליה או לטעות, התייעצו עם עורך דין לגבי הצעדים ולגבי פנייה לגוף המפקח בענף.
האם ספק ה-AI יכול להגביל את אחריותו בחוזה?
ספקים רבים מגבילים אחריות בחוזה, ותוקפה של הגבלה מסוימת נבדק לגופו. החוזה מסדיר בעיקר את היחסים בינכם לבין הספק, והוא אינו מפחית את חובותיכם כלפי לקוחות ורשויות. כך למשל חובות הפרטיות והאבטחה של בעל מאגר מידע נשארות עליו גם כשהוא מעסיק קבלן חיצוני. כדאי לבדוק את הסעיפים לפני החתימה ולא אחריה.
מתי כדאי לפנות לעורך דין בנושאי בינה מלאכותית?
כשמעורב מידע אישי רגיש או בהיקף גדול, כשמפתחים או משיקים מוצר מבוסס AI, כשיש חוזה משמעותי עם ספק, כשמתקבלות החלטות אוטומטיות על בני אדם, או כשנגרם נזק או פורסם תוכן מזויף. כך אפשר לבדוק מה חל עליכם לפני שנוצר סיכון, ולא אחריו.