פריצה לספק AI של צד שלישי כבר אינה תרחיש תיאורטי. בתחילת נובמבר 2026 Notion פרסמה הודעת אבטחה שלפיה Fireworks AI, ספק הסקה (inference) שהיא עובדת איתו, הודיע לה ב-6 בנובמבר על אירוע אבטחה שנגע בפחות מ-1% מסביבות העבודה (workspaces) שלה. הנתונים שנחשפו: תמלילי צ'אט של Notion AI.
מה שהופך את המקרה לחשוב במיוחד הוא שרוב לקוחות Notion כנראה לא ידעו בכלל ש-Fireworks מעבדת חלק מהשיחות שלהם. הם בחרו בכלי SaaS, הכלי בחר ספק AI, והספק נשען על ספק ענן חיצוני. לפי Bloomberg, Fireworks מייחסת את האירוע האחרון לפריצה לספק ענן חיצוני שמארח את המכונות שלה, וזהו האירוע השני שלה שנחשף בתוך שבועות ספורים.
לעסקים בישראל שמחברים LLM APIs לתהליכי n8n, לבוטים בוואטסאפ ולמערכות CRM, השאלה כבר אינה האם להשתמש ב-AI, אלא כמה מידע עובר דרך שרשרת הספקים ומה עושים כשחוליה אחת בה נפרצת. המאמר מפריד בין מה שמאומת לבין מה ששנוי במחלוקת, ומסתיים בצ'קליסט מעשי: בדיקת ספקים, רוטציית מפתחות API, צמצום נתונים והגדרות שמירת נתונים אצל ספק AI.
מה קרה: ציר הזמן המאומת של אירוע Fireworks AI
הפרטים עדיין מתפתחים, וחלק מהטענות נשענות על מקורות משניים. עם זאת, אפשר לשרטט ציר זמן סביר מתוך ההודעות הרשמיות והדיווחים העיתונאיים.
האירוע הראשון: משתני סביבה מתוך משימות הערכה
לפי פוסט שמסכם את הדיווחים על האירוע הקודם, באוקטובר 2026 נעשה שימוש ב-credentials פנימיים כדי לשלוף משתני סביבה, ובעיקר מפתחות API וטוקנים, מתוך משימות הערכה (evaluation jobs) במספר מוגבל של חשבונות. באותו שלב Fireworks מסרה שאין עדות לגישה למודלים, לנתוני אימון או לתעבורת הסקה.
זה פרט חשוב: משתני סביבה הם בדיוק המקום שבו יושבים סודות. מי שמריץ משימות אצל ספק חיצוני ומעביר אליו מפתחות של שירותים אחרים, מרחיב בפועל את שטח החשיפה של אותם שירותים.
הפריצה לספק הענן ב-24 באוקטובר
לפי Bloomberg, ב-9 בנובמבר 2026 Fireworks הודיעה ללקוחותיה על פריצה. החברה מסרה שגורם לא מורשה פרץ לספק ענן חיצוני שמארח את המכונות שלה, ושהאירוע התרחש ב-24 באוקטובר. דובר החברה ציין את Notion ואת Cursor בין הלקוחות שהיא עובדת מולם בעקבות האירוע.
עוד לפי Bloomberg, אדם שמכיר את הפרטים מסר שהפריצה כללה עשרות אלפי קבצים, שבחלק מהמקרים הכילו נתוני לקוחות. חשוב לציין שמדובר במקור אנונימי. לפי האתר של Fireworks, כפי שצוטט ב-Bloomberg, לחברה יש יותר מ-10,000 לקוחות, ביניהם Harvey, Notion ו-Cursor.
להקשר העסקי: לפי פוסט שמצטט דיווחים, Fireworks ניהלה שיחות על שווי של 30 עד 40 מיליארד דולר, כשלושה חודשים אחרי סבב Series D לפי שווי של 17.5 מיליארד דולר. גם זה מקור משני, אבל הוא ממחיש נקודה: גודל וצמיחה מהירה של ספק אינם תחליף לבדיקת אבטחה.
התגובה של Notion
לפי סיכום ההודעה של Notion, החברה התנתקה מ-Fireworks עד 3 בנובמבר, מחקה את הנתונים שנשמרו שם, הפסיקה לשלוח אליה תעבורה, עצרה ריצות אימון והשביתה את פיצ'ר Insights.
ציר הזמן המלא, כפי שעולה מהמקורות:
- אוקטובר 2026: אירוע ראשון, שליפת משתני סביבה ממשימות הערכה (מקור).
- 24 באוקטובר: הפריצה לספק הענן החיצוני, לפי Fireworks (Bloomberg).
- עד 3 בנובמבר: Notion מתנתקת מ-Fireworks (סיכום ההודעה).
- 6 בנובמבר: Fireworks מודיעה ל-Notion על האירוע (Notion).
- 8 בנובמבר: לפי מייל ללקוחות שהועבר הלאה, Fireworks מאשרת מאגר נתונים שכולל תמלילי Insights (explainx.ai).
- 9 בנובמבר: Fireworks מודיעה ללקוחות על הפריצה, ו-Bloomberg מדווח (Bloomberg).
קל לראות שיש כאן סתירה: ניתוק עד 3 בנובמבר, לפני הודעה רשמית ב-6 בנובמבר. ייתכן ש-Notion פעלה בעקבות סימנים מוקדמים, אך הדבר לא הובהר במקורות הזמינים.
Notion אירוע אבטחה: מה נחשף, ולמה 'לא ניתן לשיוך' אינו 'לא מזיק'
הגרסה הרשמית של Notion
לפי סיכום ההודעה של Notion, הנתונים שנפגעו הם תמלילי צ'אט שאינם ניתנים לשיוך (unattributable), ששימשו את פיצ'ר Insights ואת ההסקה הכללית של מודלים במשקלים פתוחים (open-weight). לדברי החברה, התמלילים לא נשאו תוויות של משתמש או של סביבת עבודה, ולא כללו תוצאות של קריאות לכלים (tool calls), כמו תוכן של עמודים.
Notion מדגישה שהאירוע התרחש אצל הספק ולא במערכות שלה, ושלא נפגעו נתונים אחרים של סביבות עבודה. יחד עם זאת, ההמלצה של החברה עצמה חד-משמעית: להתייחס לנתונים כאל חשופים לחלוטין, ולבצע רוטציה לכל סיסמה, מפתח API או credential שעובדים הדביקו ל-Notion AI בתקופה הרלוונטית. בעלי סביבות עבודה שנפגעו יכולים לשלוף ולסקור את הנתונים באופן מאובטח דרך הסרגל הצדדי של סביבת העבודה, באפליקציית הדסקטופ או בדפדפן.
למה התווית 'לא ניתן לשיוך' לא מספיקה
ה-AI Governance Institute טוען שהיעדר מזהים לא מבטל את החשיפה הרגולטורית, משום שתוכן הצ'אט עצמו יכול להכיל מידע אישי או חסוי. לכן צוותי ציות צריכים להעריך חובות הודעה לפי סיכון התוכן, ולא לפי קיומם של שדות מזהים.
דוגמה פשוטה ממחישה את הבעיה. פרומפט כמו 'נסח מייל לדנה כהן מחברת X על החוב של 12,000 ש״ח מחודש ספטמבר' לא צריך תווית משתמש כדי לחשוף מידע אישי ועסקי. אותו דבר נכון לפרומפט שבו עובד הדביק מחרוזת חיבור למסד נתונים כדי לבקש עזרה בדיבאג.
בנוסף, הטענה עצמה שנויה במחלוקת. לפי מייל ללקוחות שהועבר ופורסם ב-explainx.ai, לקוח שהוריד את הנתונים טען שמדובר בצ'אט מלא שלו, בניגוד לתיאור 'לא ניתן לשיוך'.
ביקורת על תהליך ההודעה ללקוחות
בדיון ב-Hacker News משתמשים התלוננו שזיהוי המשתמשים שנפגעו דרש תוכנית Enterprise, ושמשתמשים שנפגעו לא קיבלו מייל יזום. סביבת עבודה אחת דיווחה על 2 משתמשים שנפגעו. מדובר בעדויות של משתמשים ולא בהודעה רשמית, אבל הן מצביעות על בעיה מוכרת: גם כשספק מתנהל בשקיפות יחסית, הכלים לבדיקה עצמית אינם תמיד זמינים לכל שכבות המנוי.
פריצה לספק AI של צד שלישי: הנקודה העיוורת של תת-ספקים
המקרה של Fireworks ו-Notion ממחיש דפוס של שרשרת אספקה. העסק סומך על כלי SaaS, הכלי נשען על תת-ספק AI שהעסק מעולם לא בדק, ותת-הספק נשען על ספק ענן משלו. כל חוליה מוסיפה שטח תקיפה, אבל רק החוליה הראשונה מופיעה בדרך כלל ברשימת הספקים של העסק.
ארבע שכבות, חוזה אחד
בפועל, שיחה אחת עם Notion AI עברה ארבע שכבות לפחות:
- העובד שהקליד או הדביק את התוכן.
- Notion, שאיתה יש לעסק חוזה ותנאי שימוש.
- Fireworks, שמריצה את ההסקה של חלק מהמודלים.
- ספק הענן החיצוני שמארח את המכונות של Fireworks, שבו, לפי Fireworks, התרחשה הפריצה.
לעסק יש בדרך כלל קשר חוזי רק עם השכבה השנייה. ה-AI Governance Institute מכנה זאת 'הנקודה העיוורת של תת-ספקי AI ב-SaaS': תת-ספקים כמו Fireworks לרוב אינם ממופים אצל הלקוחות, והלקוח תלוי לחלוטין בפלטפורמה כדי לזהות אירוע ולדווח עליו.
מי שכבר עבר על צ'קליסט אבטחת שרשרת האספקה בתוכנה יזהה את ההיגיון: כמו שתלות npm טרנזיטיבית יכולה להכניס קוד זדוני, תת-ספק AI טרנזיטיבי יכול להוציא מידע החוצה.
השוואה: שלושה מודלים לצריכת AI
מודל | יתרונות | חסרונות |
|---|---|---|
ספק LLM API ישיר (חוזה ישיר מול הספק) | חוזה ישיר עם תנאי הודעה על פריצה וזכויות ביקורת; שליטה בהגדרות שמירה ו-zero-retention; מיפוי ברור של מי מעבד את הנתונים | האחריות לניהול מפתחות ולהיגיינת פרומפטים עליכם; גם ספקי הסקה עשויים להשתמש בתת-ספקי ענן |
SaaS עם AI מוטמע (למשל Notion AI) | קל לאימוץ, הספק מטפל באינטגרציה | תת-ספקים כמו Fireworks לרוב לא ממופים; תלות בפלטפורמה לזיהוי ולדיווח; סודות שהודבקו נשארים בפרומפטים |
ארכיטקטורת pass-through / zero-retention | טביעת רגל רגולטורית קטנה יותר; פחות נתונים במנוחה שיכולים לדלוף | קשה לאמת את ההבטחות; חלק מהמקורות הם שיווק של ספקים |
מקורות לטבלה: Traction Technology, AI Governance Institute, Truto.
פרדוקס ה-Zero Data Retention
אחד הדיונים המעניינים ב-Hacker News עסק בשאלה הבסיסית: מגיב אחד ציין ש-Fireworks פועלת כברירת מחדל במדיניות zero data retention (ZDR), ושאל מדוע בכלל היו נתונים שיכלו לדלוף. מגיב אחר הטיל ספק ביכולת לסמוך על כל ספק AI שהוא באמת ZDR.
זו ספקולציה ולא ממצא, ותצורת השמירה של Notion מול Fireworks אינה ידועה. אבל עצם הדיון מלמד משהו: לפי Notion, הנתונים שימשו ל-Insights ולריצות אימון, כלומר היה שימוש שמחייב שמירה. ZDR כברירת מחדל של ספק לא אומר דבר על ההגדרות שהלקוח הספציפי בחר, ובוודאי לא על ההגדרות שהלקוח של הלקוח מכיר.
מה עדיין שנוי במחלוקת או לא ידוע
באירועי אבטחה מתפתחים, ההבחנה בין עובדה מאומתת לבין שמועה היא קריטית. אלה הנקודות הפתוחות נכון לזמן הכתיבה:
- ציר הזמן: ניתוק עד 3 בנובמבר מול הודעה ב-6 בנובמבר ואישור מאגר הנתונים ב-8 בנובמבר. הסתירה לא הוסברה.
- 'לא ניתן לשיוך': לפחות לקוח אחד טוען שהנתונים שהוריד היו צ'אט מלא (explainx.ai).
- הקשר בין האירועים: לא אושר במפורש שהחשיפה של Notion נובעת מהפריצה לספק הענן ב-24 באוקטובר, אף שהדבר משתמע.
- משקולות מודלים ומאגרי אימון: מגיב ב-Hacker News טוען שעמוד הפריצה של Fireworks מזכיר דליפה של משקולות מודלים של לקוחות ומאגרי אימון. מדובר בתגובה לא מאומתת, ועמוד ההודעה של Fireworks עצמו לא היה זמין במקורות.
- היקף הקבצים: הנתון על עשרות אלפי קבצים מגיע ממקור אנונימי ב-Bloomberg.
- תצורת השמירה: לא ידוע אילו הגדרות שמירה הוגדרו בין Notion ל-Fireworks.
המשמעות המעשית: אין טעם לחכות לבהירות מלאה לפני שפועלים. ההמלצה של Notion עצמה, להתייחס לנתונים כחשופים לחלוטין, היא נקודת המוצא הנכונה.
צ'קליסט מעשי: אבטחת ספקי AI, חוזים ורוטציית מפתחות API
אם הצוות שלכם השתמש ב-Notion AI
צעדים מיידיים, לפי ההנחיות שפרסמה Notion:
- בדקו אם סביבת העבודה שלכם קיבלה הודעה. אל תסתמכו רק על המייל, שכן לפי עדויות ב-Hacker News לא כל המשתמשים קיבלו הודעה יזומה.
- בעל סביבת העבודה ייכנס לכלי הסקירה בסרגל הצדדי ויוריד את הנתונים שנפגעו.
- סרקו את התמלילים לאיתור סיסמאות, מפתחות API, טוקנים, מחרוזות חיבור ומידע אישי.
- בצעו רוטציה לכל סוד שנמצא, וגם לסודות שעובדים זוכרים שהדביקו, גם אם לא אותרו בסריקה.
- העריכו, לפי תוכן הנתונים, אם קיימת חובת דיווח או הודעה ללקוחות.
לסריקה אוטומטית של קבצים מיוצאים אפשר להשתמש בכלי כמו gitleaks במצב תיקייה, בלי Git:
# סריקת קבצי הייצוא לאיתור סודות שהודבקו לצ'אט
gitleaks detect --no-git --source ./notion-ai-export --report-path leaks.jsonכלי כזה לא יתפוס הכול, במיוחד סיסמאות חופשיות או מידע אישי בעברית, ולכן כדאי לשלב סריקה ידנית ממוקדת.
מיפוי כלים עם AI מוטמע
ה-AI Governance Institute ממליץ לבצע מצאי של כלי SaaS עם AI מוטמע ולזהות תת-ספקים שלא נבדקו. בעסק קטן או בינוני, מצאי כזה יכול להיות קובץ פשוט במאגר הפנימי:
vendors:
- name: Notion
ai_features: [Notion AI, Insights]
data_types: [internal docs, AI chats, customer notes]
ai_subprocessors: [Fireworks AI, others - request full list]
retention_setting: unknown - ask vendor
breach_notice_terms: check DPA
internal_owner: ops-lead
- name: WhatsApp bot (n8n)
ai_features: [LLM replies, summaries]
data_types: [customer messages, phone numbers]
ai_subprocessors: [LLM API provider, inference host]
retention_setting: zero-retention requested
breach_notice_terms: direct contract
internal_owner: dev-leadהשדה החשוב ביותר הוא ai_subprocessors. אם התשובה היא 'לא ידוע', זו כבר משימה פתוחה.
תנאי חוזה שכדאי לבדוק
לפי AI Governance Institute, שלושה סעיפים מרכזיים צריכים להופיע בחוזה או ב-DPA מול ספקים עם AI:
- הודעה על פריצה בזמן סביר: מועד מוגדר, ולא ניסוח עמום כמו 'ללא דיחוי בלתי סביר'.
- שמות תת-ספקי ה-AI: רשימה מפורשת, עם חובה להודיע על הוספה או החלפה של ספק.
- זכויות ביקורת על תת-ספקים: או לפחות זכות לקבל דוחות אבטחה רלוונטיים.
בנוסף, כדאי לשאול כל ספק את השאלות הבאות ולתעד את התשובות:
- האם נתוני הפרומפטים משמשים לאימון, להערכה או לפיצ'רים אנליטיים כמו Insights?
- מה תקופת השמירה בפועל, ומה ברירת המחדל לעומת ההגדרה הזמינה?
- האם אפשר לבטל את פיצ'ר ה-AI ברמת הארגון או ברמת סביבת עבודה?
- אילו כלים זמינים לבדיקה עצמית במקרה של אירוע, ובאיזו שכבת מנוי?
השאלה האחרונה רלוונטית במיוחד לאור התלונות על כך שזיהוי משתמשים שנפגעו דרש תוכנית Enterprise. נושא השימוש בנתוני משתמשים לאימון נדון בהרחבה גם במאמר על פרטיות בצ'אטבוטים של AI ואפשרויות ה-opt-out.
רוטציית מפתחות API והיגיינת סודות
האירוע הראשון של Fireworks, שכלל שליפת משתני סביבה, והאירוע השני, שבו עלולים היו להיחשף סודות שהודבקו לצ'אט, מובילים לאותה מסקנה: סוד שעבר דרך ספק חיצוני צריך להיחשב כסוד שעלול לדלוף. תהליך רוטציה מסודר נראה כך:
- מצאי: רשימת כל המפתחות שהועברו לספק, כמשתני סביבה, בהגדרות אינטגרציה או בטקסט חופשי.
- תעדוף: קודם מפתחות עם הרשאות כתיבה, גישה לנתוני לקוחות או חיוב כספי.
- הנפקה מקבילה: יצירת מפתח חדש לפני ביטול הישן, כדי לא להפיל תהליכים בפרודקשן.
- פריסה: עדכון המפתח החדש בכל המקומות, כולל workflows של n8n, סביבות staging ו-CI.
- ביטול: ביטול המפתח הישן ובדיקה בלוגים של הספק אם נעשה בו שימוש חריג.
- צמצום הרשאות: בהזדמנות זו, הנפקת המפתח החדש עם הרשאות מינימליות בלבד.
מדריך מפורט לתהליך כזה, על בסיס אירוע דומה של דליפת משתני סביבה, זמין במאמר על דליפת משתני סביבה ב-Trigger.dev ואיך מבצעים רוטציה.
הכלל החשוב ביותר לטווח הארוך: אסור להדביק סודות לצ'אט עם AI. אם עובד צריך עזרה בדיבאג של קוד עם מחרוזת חיבור, עליו להחליף אותה ב-placeholder לפני ההדבקה. כדאי לעגן את זה במדיניות כתובה ובהדרכה קצרה.
שמירת נתונים אצל ספק AI: צמצום נתונים, zero-retention, n8n ובוטים בוואטסאפ
עקרון המינימום: מה שלא נשלח לא ידלוף
ההגנה האפקטיבית ביותר מפני פריצה לספק AI של צד שלישי היא לא לשלוח אליו מלכתחילה מידע שאינו נחוץ. ההנחיות של DataSunrise לאבטחת אפליקציות LLM כוללות מיסוך נתונים רגישים לפני שהם מגיעים למודל, הסרת סודות מפרומפטים, בקרת גישה מבוססת תפקידים (RBAC) וניטור מרוכז של קריאות API.
בפועל, ברוב המקרים המודל לא צריך את מספר הטלפון של הלקוח, את מספר תעודת הזהות שלו או את מפתח ה-API של ה-CRM כדי לנסח תשובה. הוא צריך את ההקשר. אפשר להחליף את הערכים הרגישים ב-placeholders ולהחזיר אותם לתשובה בצד שלכם, אחרי שהמודל סיים.
הגדרות zero-retention: מה הן נותנות ומה לא
לפי Truto, ארכיטקטורות pass-through שמעבדות נתונים בזיכרון בלי לאחסן אותם מקטינות את טביעת הרגל הרגולטורית, בעוד שכלים שמסנכרנים ושומרים מטמון עשויים להחזיק נתונים 30 עד 60 יום. חשוב לזכור שזהו תוכן שיווקי של ספק, אבל העיקרון עצמו סביר: פחות נתונים במנוחה פירושם פחות נתונים שיכולים לדלוף.
כמה נקודות מעשיות:
- בקשו zero-retention במפורש כשאתם עובדים מול LLM API ישיר, ותעדו את האישור בכתב.
- בדקו מה נשמר בכל זאת: לוגים לצורכי ניטור שימוש לרעה, מטמון, או פיצ'רים אנליטיים עלולים לשמור נתונים גם תחת מדיניות ZDR.
- אל תסתמכו על ZDR כהגנה יחידה: הדיון ב-Hacker News ממחיש שקשה לאמת הבטחות כאלה מבחוץ.
- שמרו אצלכם רק מה שצריך: זיכרון שיחה, היסטוריה ולוגים בצד שלכם הם שטח חשיפה בפני עצמו.
מי שמנתב קריאות דרך שער מרכזי יכול לאכוף מדיניות אחידה של מיסוך, לוגים וניטור לכל הספקים. על השיקולים בבחירת שער כזה אפשר לקרוא במאמר על LLM Gateway בקוד פתוח.
יישום ב-n8n: מיסוך לפני שליחה למודל
ב-n8n, הדרך הפשוטה ביותר היא להוסיף צומת Code לפני צומת ה-LLM, שמחליף נתונים רגישים בתוויות. הדוגמה הבאה מכסה מפתחות API נפוצים, טוקני Bearer, מספרי טלפון ניידים ישראליים, מספרים בני 9 ספרות (שעשויים להיות מספרי תעודת זהות) וכתובות מייל:
// n8n Code node: מיסוך נתונים רגישים לפני שליחה ל-LLM
const patterns = [
{ name: 'API_KEY', re: /\b(sk|pk|rk)[-_][A-Za-z0-9_-]{16,}\b/g },
{ name: 'BEARER', re: /Bearer\s+[A-Za-z0-9._-]{20,}/g },
{ name: 'IL_PHONE', re: /(\+972[-\s]?|0)5\d[-\s]?\d{3}[-\s]?\d{4}/g },
{ name: 'IL_ID', re: /\b\d{9}\b/g },
{ name: 'EMAIL', re: /[\w.+-]+@[\w-]+\.[\w.]+/g },
];
return $input.all().map(item => {
let text = item.json.message ?? '';
for (const p of patterns) {
text = text.replace(p.re, `[${p.name}]`);
}
return { json: { ...item.json, message_masked: text } };
});כמה הערות לשימוש בפרודקשן:
- ביטויים רגולריים לא יתפסו כתובות, שמות או מידע רפואי בטקסט חופשי בעברית. לנתונים רגישים במיוחד שקלו שכבת זיהוי ייעודית.
- שמרו מפתחות API ב-Credentials של n8n ולא בתוך פרומפטים, ב-Set nodes או בהערות ל-workflow.
- הגבילו את מי שיכול לצפות בהיסטוריית ההרצות (executions), שכן היא שומרת את הקלט והפלט של כל צומת.
- שקלו לקצר את תקופת השמירה של executions, או לשמור רק הרצות שנכשלו.
למי שבונה סוכנים עם זיכרון בתוך n8n, כדאי לקרוא גם את המאמר על זיכרון לסוכני AI ויישום בוואטסאפ עם n8n, שכן כל שכבת זיכרון היא מקום נוסף שבו מידע אישי נשמר.
בוטים בוואטסאפ: מידע אישי בעברית עובר דרך ספקי הסקה
בוטים בוואטסאפ הם אחד השימושים הנפוצים ב-LLM בקרב עסקים בישראל, והם גם אחד המקומות שבהם הסיכון הכי מוחשי. לקוחות כותבים בעברית חופשית, ולא פעם כוללים בהודעה מספר תעודת זהות, כתובת, פרטי הזמנה, או מידע רפואי ומשפטי. במשרד עורכי דין, במרפאה או בסוכנות ביטוח, הודעה אחת כזו יכולה להיות רגישה במיוחד.
הטיעון של ה-AI Governance Institute על סיכון לפי תוכן חל כאן במלואו: גם אם ההודעה נשלחת לספק בלי שם ובלי מספר טלפון, התוכן עצמו עשוי לזהות אדם. לכן כדאי:
- למסך את ההודעה לפני שליחתה למודל, כפי שמוצג בדוגמה למעלה.
- להפריד בין המזהה של השיחה (מספר הטלפון) לבין התוכן שנשלח לספק ההסקה.
- להימנע מהעברת היסטוריית שיחה מלאה בכל קריאה, ולשלוח רק את ההקשר הנחוץ.
- לבדוק אילו ספקים נמצאים בשרשרת: ספק ה-WhatsApp Business API, פלטפורמת האוטומציה, ספק ה-LLM וספק ההסקה שמאחוריו.
- לבדוק בנפרד את החובות לפי חוק הגנת הפרטיות הישראלי, כולל התיקון האחרון לחוק, רצוי בליווי ייעוץ משפטי.
למי שמתכנן בוט חדש, השיקולים האלה צריכים להיות חלק מהתכנון ולא תוספת מאוחרת. המדריך על הקמת צ'אטבוט בוואטסאפ לעסק מכסה את הבסיס הטכני.
ניטור מרוכז של קריאות API
ההמלצה האחרונה ברשימה של DataSunrise היא ניטור מרוכז של קריאות API. בהקשר של סיכוני צד שלישי ב-LLM, ניטור משרת שתי מטרות: לזהות שימוש חריג במפתח שדלף, ולדעת בדיעבד אילו נתונים נשלחו לאיזה ספק ומתי. בלי התיעוד הזה, כשמגיעה הודעה כמו זו של Notion, אי אפשר לענות על השאלה הבסיסית: מה בדיוק שלחנו?
כדאי לתעד לכל קריאה לפחות את שם הספק, המודל, ה-workflow שממנו יצאה הקריאה, חותמת זמן, וסימון אם בוצע מיסוך. את תוכן הפרומפט עצמו עדיף לא לשמור בלוגים, או לשמור רק את הגרסה הממוסכת.
שאלות נפוצות
האם Notion עצמה נפרצה?
לפי Notion, האירוע התרחש אצל הספק Fireworks AI ולא במערכות של Notion, והחברה מסרה שלא נפגעו נתונים אחרים של סביבות עבודה. עם זאת, מבחינת הלקוח, התוצאה דומה: תוכן שהוזן ל-Notion AI עלול היה להיחשף.
מה לעשות אם הצוות שלנו השתמש ב-Notion AI?
בדקו אם סביבת העבודה קיבלה הודעה, סקרו את הנתונים שנפגעו דרך הכלי בסרגל הצדדי, ובצעו רוטציה לכל סיסמה, מפתח API או credential שהודבקו ל-Notion AI, לפי ההנחיות של Notion. מומלץ להתייחס לנתונים כאל חשופים לחלוטין.
האם נתונים 'שאינם ניתנים לשיוך' בטוחים?
לא בהכרח. טקסט של צ'אט יכול להכיל מידע אישי או חסוי גם בלי תוויות משתמש, כפי שטוען ה-AI Governance Institute. בנוסף, לקוח אחד דיווח שמצא במאגר צ'אט מלא שלו (explainx.ai).
האם Fireworks AI נפרצה יותר מפעם אחת?
לפי Bloomberg, זהו האירוע השני של החברה שנחשף בתוך שבועות. האירוע הראשון כלל, לפי הדיווחים, שליפת משתני סביבה ממשימות הערכה, והשני פריצה לספק ענן חיצוני שמארח את המכונות שלה.
אילו תנאי חוזה חשוב לדרוש מספקי AI?
הודעה על פריצה בפרק זמן מוגדר, רשימה מפורשת של תת-ספקי AI, וזכויות ביקורת על תת-ספקים, לפי AI Governance Institute. כדאי להוסיף גם שאלות על שימוש בנתונים לאימון ועל תקופות שמירה.
איך מצמצמים סיכון ברמת הפרומפט באוטומציות?
ממסכים או מסירים נתונים רגישים וסודות לפני השליחה למודל, מגבילים גישה לפי עקרון ההרשאה המינימלית ומנטרים את קריאות ה-API, כפי שממליצה DataSunrise. ב-n8n זה אומר צומת מיסוך לפני כל צומת LLM ושמירת מפתחות ב-Credentials בלבד.
סיכום
האירוע ב-Fireworks AI ממחיש איך פריצה לספק AI של צד שלישי מגיעה ללקוחות שלא ידעו על קיומו. לפי Notion, פחות מ-1% מסביבות העבודה נפגעו, והנתונים היו תמלילי צ'אט ללא תוויות משתמש. אבל התווית 'לא ניתן לשיוך' שנויה במחלוקת, וגם Notion עצמה ממליצה להתייחס לנתונים כחשופים לחלוטין ולבצע רוטציה לסודות.
הלקח הרחב נוגע לכל עסק שמשתמש ב-AI, ישירות או דרך כלי SaaS. שרשרת האספקה של AI ארוכה מכפי שנראה, והחוזה מכסה בדרך כלל רק את החוליה הראשונה. ההגנות המעשיות אינן מסובכות: מיפוי כלים ותת-ספקים, תנאי חוזה ברורים, איסור על הדבקת סודות לצ'אט, רוטציה מסודרת של מפתחות, מיסוך נתונים לפני שליחה למודל, בקשה מתועדת ל-zero-retention וניטור מרוכז של קריאות API.
לעסקים בישראל שמפעילים תהליכי n8n ובוטים בוואטסאפ, שבהם עוברות הודעות בעברית עם מידע אישי, הצעדים האלה הופכים מהמלצה לחובה מקצועית. כדאי גם לעקוב אחרי עדכונים נוספים מ-Fireworks ומ-Notion, שכן חלק מהפרטים עדיין לא הובהרו.
מקורות
- Notion: Security incident involving a third-party AI vendor
- Bloomberg: Nvidia-Backed Fireworks AI Notifies Customers of Its Second Hack in Weeks
- AI Governance Institute: Notion's Fireworks AI Breach Exposes the SaaS AI Sub-Vendor Blind Spot
- explainx.ai: Notion AI Chats Leaked via Fireworks: What to Do
- Hacker News: Fireworks AI security breach impacts Notion and their customers
- Kirill Pokidov, LinkedIn: סיכום ההודעה של Notion
- Prasenjit Sarkar, X: פרטי האירוע מאוקטובר
- DataSunrise: LLM Application Security Checklist
- Truto: Zero Data Retention for AI Agents
- Traction Technology: Enterprise LLM Vendor Evaluation Checklist






