צ'אטבוט שעונה מצוין בדמו ומתחיל להמציא פרטים אחרי עשר הודעות. סוכן AI שמסיים משימה פשוטה בהצלחה, אבל מאבד את הדרך בתהליך של חמישה שלבים. חשבון API שמזנק בלי הסבר ברור. כל מי שהעלה אפליקציית LLM לפרודקשן מכיר לפחות אחד מהתסמינים האלה. ברוב המקרים הבעיה איננה המודל וגם לא ניסוח ההוראות, אלא מה שהמודל רואה בכל קריאה. הדיסציפלינה שעוסקת בדיוק בשאלה הזו נקראת הנדסת קונטקסט (Context Engineering).
המונח צבר תאוצה ב-2025, בין השאר בזכות אנדריי קרפתי ומנכ״ל Shopify טובי לוטקה, שזוהו כמי שהפכו אותו לפופולרי. סקר של DataHub מצא ש-82% ממנהלי IT ונתונים סבורים שהנדסת פרומפטים לבדה כבר לא מספיקה, ו-95% אומרים שהנדסת קונטקסט חשובה להפעלת סוכנים בקנה מידה (DataHub). מדובר בסקר של ספק שמוכר פלטפורמה בתחום, ולכן כדאי להתייחס למספרים כאינדיקציה בלבד, אבל הכיוון ברור: מי שבונה סוכנים צריך לחשוב על כל מה שנכנס לחלון, לא רק על ניסוח ההנחיה.
המאמר מסביר מה זה הנדסת קונטקסט, איך היא שונה מהנדסת פרומפטים, למה חלון הקשר גדול יותר לא פותר את הבעיה, ואילו טכניקות מעשיות – שליפה, דחיסה, בחירת כלים, caching ובידוד קונטקסט – עומדות לרשות צוותי פיתוח ועסקים בישראל שבונים צ'אטבוטים וסוכני AI.
מה זה הנדסת קונטקסט?
הגדרת עבודה
לפי Abstracta, הנדסת קונטקסט היא הדיסציפלינה של תכנון וניהול הסביבה המידעית המלאה סביב מודל שפה – הוראות, נתונים, כלים, זיכרון ומצב (state) – כך שהמודל יוכל להסיק נכון ולפעול באופן אמין (Abstracta). הנדסת פרומפטים, לעומת זאת, מתמקדת בניסוח הוראות אפקטיביות.
Firecrawl מציעה הגדרה תמציתית יותר: מערכות דינמיות שמספקות את המידע והכלים הנכונים, בפורמט הנכון, בזמן הנכון (Firecrawl). שלוש המילים החשובות כאן הן דינמיות, פורמט וזמן. הקונטקסט איננו טקסט קבוע שנכתב פעם אחת, אלא תוצר שמורכב מחדש בכל קריאה למודל, בהתאם למשתמש, למשימה ולשלב בתהליך.
למה המונח הופיע דווקא עכשיו
הנדסת פרומפטים צמחה בתקופת GPT המוקדמת כאומנות של כתיבת הוראות: תפקיד, משימה, דוגמאות, אילוצים ופורמט פלט. ברגע שהמודלים קיבלו גישה לכלים, לזיכרון, לשליפת מידע ול-function calling, וסוכנים התחילו לרוץ בלולאות רב-שלביות, הקלט למודל הפסיק להיות מחרוזת טקסט אחת. הוא הפך לסביבה שלמה שמורכבת מרכיבים רבים, וכל אחד מהם יכול לשפר או לקלקל את התוצאה.
סוכן שמטפל בפניית לקוח, למשל, צריך לדעת מי הלקוח, מה ההרשאות שלו, מה נאמר קודם בשיחה, אילו מסמכים רלוונטיים ואילו כלים זמינים לו – בדיקת סטטוס הזמנה, פתיחת קריאת שירות, שליחת מייל. שום ניסוח מבריק של הנחיה לא מחליף את המידע הזה.
תקציב קשב סופי
המדריך של Anthropic מספטמבר 2025 מנסח את המטרה כך: למצוא את הקבוצה הקטנה ביותר האפשרית של טוקנים בעלי אות גבוה (high-signal) שממקסמת את הסיכוי לתוצאה הרצויה, משום שלמודלים יש תקציב קשב סופי (Towards AI).
זו אולי ההגדרה המעשית ביותר: הנדסת קונטקסט היא ניהול של משאב מוגבל. כל טוקן שנכנס לחלון מתחרה על תשומת הלב של המודל, עולה כסף ומוסיף זמן תגובה. המטרה איננה להכניס כמה שיותר מידע, אלא את המידע הנכון.
הנדסת קונטקסט מול הנדסת פרומפטים
יחסי שכבות, לא תחרות
קל להציג את הנושא כקרב בין שתי גישות, אבל המקורות מסכימים שזה לא המצב. Teradata מסבירה שהשתיים קשורות ולא מתחרות: הנדסת פרומפטים נשארת שכבה אחת בתוך הנדסת קונטקסט, אבל ניסוח לבדו לא יכול לספק עובדות משתנות, לאכוף הרשאות או לשמור מצב לאורך תהליכי עבודה (Teradata).
במילים אחרות, עדיין צריך לכתוב הנחיית מערכת טובה, להשתמש בדוגמאות, במפרידים ובסכמות פלט. אלא שזה רק חלק מהעבודה. הנחיה מצוינת שמקבלת מסמכים לא רלוונטיים, היסטוריה ארוכה מדי ושישים הגדרות כלים, עדיין תוביל לתשובות חלשות.
מתי הנדסת פרומפטים מספיקה
לפי Teradata, הנדסת פרומפטים יכולה להספיק למשימות ממוקדות עם קלט שלם ויציב (Teradata):
- שכתוב טקסט
- סיכום של טקסט שסופק במלואו
- חילוץ שדות ממסמך
- סיווג (classification)
הנדסת קונטקסט נדרשת כשהמידע משתנה, כשתהליך העבודה חוצה מערכות, או כשצריך לפקח על פעולות שהמודל מבצע. מבחן פשוט: אם כל מה שהמודל צריך כבר נמצא בהודעה של המשתמש, כנראה שפרומפט טוב יספיק. אם המודל צריך להביא מידע, לזכור, לבחור כלים או לפעול בשם משתמש מסוים – מדובר בבעיה של קונטקסט.
טבלת השוואה
היבט | הנדסת פרומפטים | הנדסת קונטקסט |
|---|---|---|
מוקד | ניסוח הוראות לאינטראקציה בודדת | הרכבת הסביבה המידעית המלאה בכל קריאה |
מתאים ל | משימות תחומות עם קלט שלם ויציב | סוכנים רב-שלביים, מידע משתנה, אינטגרציה עם כלים |
יתרונות | זול ומהיר לאיטרציה; דוגמאות, מפרידים וסכמות משפרים עקביות | ממשל והרשאות, ניהול מצב, ניהול תקציב טוקנים להפחתת Context Rot ועלות |
מגבלות | לא מספקת עובדות שלא קיבלה, לא אוכפת הרשאות, לא שומרת מצב | מאמץ הנדסי ומורכבות; תלויה באיכות הנתונים והמטא-דאטה; דחיסה מאבדת מידע |
הטבלה מבוססת על Teradata ועל Atlan.
דוגמה: צ'אטבוט שירות לקוחות
נניח עסק ישראלי שמפעיל צ'אטבוט בוואטסאפ. בגרסה הראשונה מספיקה הנחיה שמגדירה טון, שפה, פורמט תשובה ומה לעשות כשאין תשובה. זה עובד היטב לשאלות כלליות כמו שעות פתיחה או מדיניות החזרות.
ברגע שלקוח שואל איפה ההזמנה שלו, התמונה משתנה. הבוט צריך לזהות את הלקוח, לשלוף נתונים מה-CRM, לוודא שהוא מורשה לראות אותם, ולזכור שבהודעה הקודמת הלקוח ביקש להחליף כתובת משלוח. כאן נגמרת הנדסת הפרומפטים ומתחילה הנדסת הקונטקסט. זה גם ההבדל המהותי שמתואר בהשוואה בין צ'אטבוטים מבוססי AI לצ'אטבוטים מבוססי חוקים: ככל שהבוט גמיש יותר, כך עולה החשיבות של מה שמוזן לו.
חלון הקשר ב-LLM: ממה הוא מורכב ולמה הוא נשחק
הרכיבים שממלאים את החלון
Firecrawl מונה את הרכיבים שממלאים את חלון ההקשר (Firecrawl):
- הנחיית מערכת (system prompt)
- הודעת המשתמש (user prompt)
- היסטוריית השיחה
- זיכרון ארוך טווח
- מידע שנשלף ממקורות חיצוניים (RAG)
- הגדרות כלים (tool definitions)
- מפרט לפלט מובנה (structured output)
במערכות רבות, ההודעה של המשתמש היא החלק הקטן ביותר בחלון. רוב הטוקנים הולכים להיסטוריה, למסמכים שנשלפו ולהגדרות הכלים. לכן הצעד הראשון בכל פרויקט הנדסת קונטקסט הוא פשוט למדוד: כמה טוקנים תופס כל רכיב, בכל סוג של בקשה.
Context Rot: למה חלון גדול יותר לא פותר
הפיתוי ברור: אם המודל תומך בחלון ענק, למה לא להכניס הכול? המחקרים מצביעים על כך שזו לא אסטרטגיה טובה. מחקר Context Rot של Chroma מיולי 2025 בדק 18 מודלים מובילים, וכולם הראו ירידה בביצועים ככל שאורך הקלט גדל, עם צניחות חדות בדיוק הרבה לפני מגבלת החלון המוצהרת (Crux Digits).
לפי אותו סיכום, כשהעובדה הרלוונטית מוקמה בעמדות 5 עד 15 מתוך קונטקסט של 20 מסמכים, חלק מהמודלים איבדו יותר מ-30 נקודות דיוק לעומת מיקום שלה בהתחלה או בסוף (Crux Digits). Firecrawl מצטטת גם מחקר של Databricks שמדווח על ירידה בדיוק סביב 32K טוקנים (Firecrawl).
חשוב לציין שהממצאים האלה מגיעים דרך סיכומים בבלוגים ולא מהמסמכים המקוריים, ושהתוצאות משתנות בין מודלים. אבל המסקנה העקרונית עקבית: גודל החלון שמופיע במפרט הוא קיבולת מקסימלית, לא קיבולת אפקטיבית.
מיקום המידע משנה
השפעת המיקום מובילה למסקנה מעשית פשוטה: מידע קריטי לא צריך להיקבר באמצע. ההוראות החשובות ביותר, הנתון שעליו מבוססת התשובה ושאלת המשתמש עצמה צריכים להופיע במקומות בולטים – בתחילת הקונטקסט או קרוב לסופו. כששולפים עשרה מסמכים, כדאי לסדר אותם לפי רלוונטיות ולא לפי סדר ההופעה במאגר.
ארבעה מצבי כשל
Firecrawl מתארת ארבעה מצבי כשל של קונטקסט (Firecrawl). בקווים כלליים:
- הרעלה (poisoning) – מידע שגוי, למשל הזיה מוקדמת בשיחה, נכנס לקונטקסט וממשיך להשפיע על החלטות הבאות.
- הסחה (distraction) – כמות מידע גדולה מדי גורמת למודל להתמקד בהיסטוריה במקום במשימה הנוכחית.
- בלבול (confusion) – מידע לא רלוונטי, כמו כלים מיותרים או מסמכים שוליים, מושך את התשובה לכיוון הלא נכון.
- התנגשות (clash) – חלקים שונים בקונטקסט סותרים זה את זה, למשל מדיניות ישנה וחדשה שנשלפו יחד.
כל אחד ממצבי הכשל האלה דורש טיפול אחר, ולכן אין טכניקה אחת שפותרת הכול.
שליפה, ניתוב ודחיסה: RAG וזיכרון לסוכן AI
מפת הטכניקות
המקורות משתמשים במינוחים שונים, אבל מתארים משפחות דומות. Atlan מקבצת את הטכניקות לארבע: Write, Select, Compress, Isolate (Atlan). סרטון של AWS Developers מחלק אותן ל-compress, externalize, select ו-isolate, עם prompt caching כנושא משלים (AWS Developers). סיכום של מאמר SwirlAI מונה חמישה דפוסים: progressive disclosure, דחיסת קונטקסט, ניתוב קונטקסט, התפתחות השליפה וניהול כלים (daily.dev).
העצה החשובה ביותר של Atlan נוגעת לסדר: קודם לאבחן את התסמין, ורק אז לבחור טכניקה. בנוסף, יש לבחור ולבנות את הקונטקסט לפני שמכווצים או שומרים אותו (Atlan). מיפוי מעשי של תסמינים לטכניקות:
- הסוכן שוכח מה עשה בשלבים קודמים – Write / Externalize: שמירת מצב מחוץ לחלון.
- השליפה מביאה מסמכים רועשים – Select: שיפור השליפה והסינון.
- עובדות חשובות נקברות – Select ו-Structure, ואחר כך Compress.
- העלות או זמן התגובה גבוהים מדי – Compress ו-caching.
- דברים מתערבבים בין תהליכים – Isolate.
אם אף טכניקה לא עוזרת, Atlan ממליצה לבדוק את איכות נתוני המקור. קונטקסט מהונדס היטב שבנוי על נתונים שגויים יפיק תשובות שגויות בביטחון רב.
RAG: מ-שליפה לבחירה
RAG הוא אולי הכלי הוותיק ביותר בארגז של הנדסת קונטקסט, אבל הוא מתפתח. OvalEdge ממליצה על שליפה היברידית יחד עם דחיסה קונטקסטואלית (contextual compression), כדי לשמור רק מידע בעל אות גבוה בתוך תקציב טוקנים סופי (OvalEdge). שליפה היברידית משלבת בדרך כלל חיפוש סמנטי עם חיפוש מילות מפתח, ודחיסה קונטקסטואלית מקצצת מכל מסמך שנשלף רק את הקטעים שרלוונטיים לשאלה.
סיכום SwirlAI מתאר את התפתחות השליפה לכיוון Agentic RAG, Graph RAG ו-Self-RAG (daily.dev). המשותף לגישות האלה הוא מעבר משליפה אוטומטית של המסמכים הדומים ביותר לתהליך שבו המערכת מחליטה מה לחפש, מתי לחפש, ואם התוצאות בכלל מספיקות. מי שמתמודד עם הזיות בצ'אטבוט מבוסס מסמכים ימצא הרחבה במדריך על RAG עם ציטוטים ואימות טענות.
ניתוב קונטקסט
ניתוב (context routing) הוא ההחלטה לאן לשלוח בקשה לפני שמתחילים לשלוף. שאלה על חשבונית צריכה להגיע למאגר הידע של מחלקת הכספים, לא לכל התיעוד של החברה. שאלה טכנית על מוצר צריכה להגיע למדריכי המוצר, לא לתקנון. ניתוב טוב מקטין את כמות המידע הלא רלוונטי עוד לפני שהוא נכנס לחלון, ובכך מפחית את הסיכון לבלבול ולהתנגשות.
דחיסה: חלון נגלל וסיכום
אחת הטכניקות הנפוצות לשיחות ארוכות היא שילוב של חלון נגלל (sliding window) עם סיכום באמצעות LLM (daily.dev): ההודעות האחרונות נשמרות כמו שהן, והחלק הישן יותר מסוכם. במצגת של AWS מודגש שסיכום הוא דחיסה מאבדת מידע (lossy) (AWS Developers), ולכן חשוב להגדיר במפורש מה אסור לאבד.
MAX_RECENT_TURNS = 8
def compact_history(messages, summarize):
# שומרים את ההודעות האחרונות כמו שהן
recent = messages[-MAX_RECENT_TURNS:]
older = messages[:-MAX_RECENT_TURNS]
if not older:
return recent
# הסיכום מאבד פרטים, ולכן מגדירים במפורש מה חייב להישמר
summary = summarize(
older,
instructions='שמור שמות, מספרי הזמנה, החלטות שהתקבלו ושאלות פתוחות'
)
summary_msg = {'role': 'system', 'content': 'סיכום השיחה עד כה: ' + summary}
return [summary_msg] + recentהקוד הוא סכמטי, אבל העיקרון חשוב: הסיכום הוא חלק מהקונטקסט, והוא צריך להיות מתוכנן כמו כל רכיב אחר. סיכום כללי מדי יאבד בדיוק את הפרט שהלקוח יחזור אליו בעוד חמש הודעות.
זיכרון חיצוני לסוכן AI
המשפחה שנקראת Write או Externalize עוסקת בשמירת מצב מחוץ לחלון ההקשר. במקום לגרור את כל ההיסטוריה של משימה ארוכה בכל קריאה, הסוכן כותב את מה שחשוב – רשימת משימות, ממצאים ביניים, החלטות – לקובץ, למסד נתונים או לכלי זיכרון ייעודי, ושולף בחזרה רק את מה שנדרש לשלב הנוכחי.
זה ההבדל בין סוכן שזוכר הכול באופן מעורפל לבין סוכן שיודע איפה לחפש. זיכרון לסוכן AI הוא לא רק זיכרון ארוך טווח על המשתמש, אלא גם זיכרון עבודה מובנה שמאפשר לסוכן לחזור למשימה אחרי הפרעה בלי להתחיל מאפס.
מה אפשר להרוויח
במצגת של AWS נטען ששורת קונפיגורציה אחת ב-Strands SDK, שמפעילה ברירות מחדל של compaction ו-offloading, הורידה את העלות ב-55% והעלתה את הדיוק מ-68% ל-98% במשימות חקירת קוד בבנצ'מרק של Strands (AWS Developers). כותרת הפרק בסרטון מציינת דווקא עלייה מ-60% ל-98%, ומדובר בבנצ'מרק שהחברה עצמה מדווחת עליו. גם בזהירות המתבקשת, הסדר גודל מעניין: שינויים בקונטקסט, בלי להחליף מודל, יכולים להשפיע דרמטית על התוצאה.
בחירת כלים, Progressive Disclosure ובידוד קונטקסט
המחיר הנסתר של סכמות כלים
כל כלי שהסוכן יכול להפעיל מגיע עם שם, תיאור וסכמת פרמטרים, וכל אלה נכנסים לחלון ההקשר בכל קריאה. לפי סיכום SwirlAI, 90 כלי MCP יכולים לצרוך יותר מ-50 אלף טוקנים של קונטקסט (daily.dev). זה עוד לפני שהמשתמש כתב מילה.
מעבר לעלות, ריבוי כלים מגביר את הסיכון למצב הכשל של בלבול: כשיש לסוכן שלושה כלים שעושים דברים דומים, הוא עלול לבחור בלא נכון. ניהול כלים (tool management) מופיע לכן כדפוס נפרד ברשימת הדפוסים של SwirlAI.
Progressive Disclosure ו-Agent Skills
הגישה של progressive disclosure טוענת מידע בשכבות (Towards AI):
- בהתחלה נטענים רק שמות ותיאורים – בערך 80 טוקנים בחציון לכל skill.
- ההוראות המלאות נטענות רק כשה-skill רלוונטי – בין 275 ל-8,000 טוקנים.
- סקריפטים וחומרי עזר נטענים רק בזמן הביצוע.
לפי אותו מקור, פורמט Agent Skills שוחרר על ידי Anthropic בדצמבר 2025, ואומץ תוך שבועות על ידי OpenAI, Google, GitHub ו-Cursor (Towards AI). טענת האימוץ מגיעה ממקור יחיד, אבל הרעיון עצמו – לא להעמיס את כל הידע מראש – מתאים לכל ארכיטקטורה.
אותו עיקרון אפשר ליישם גם על כלים רגילים: במקום לחשוף לסוכן את כל הכלים, בוחרים לפי הבקשה את הרלוונטיים ביותר.
def select_tools(user_message, all_tools, embed, cosine, top_k=5):
# מדרגים כלים לפי דמיון בין הבקשה לתיאור הכלי
query_vec = embed(user_message)
scored = [(cosine(query_vec, tool.description_vec), tool) for tool in all_tools]
scored.sort(key=lambda pair: pair[0], reverse=True)
# רק הכלים הרלוונטיים נכנסים לחלון ההקשר
return [tool for _, tool in scored[:top_k]]בפרודקשן כדאי להשאיר תמיד כמה כלים בסיסיים זמינים (למשל העברה לנציג אנושי), ולבדוק שהבחירה לא מפספסת כלים קריטיים בניסוחים פחות צפויים.
בידוד קונטקסט עם סוכני משנה
בידוד (isolate) פירושו להפריד בין קונטקסטים של משימות או תהליכים שונים. OvalEdge ממליצה על בידוד קונטקסט לכל סוכן כדי למנוע זליגת מידע בין תהליכי עבודה (OvalEdge), ו-AWS מציגה סוכני משנה (sub-agents) כדרך המרכזית ליישם זאת (AWS Developers).
הדפוס הנפוץ: סוכן ראשי מקבל משימה, מאציל תת-משימה – למשל חיפוש במסמכים או ניתוח של קובץ גדול – לסוכן משנה שמתחיל עם קונטקסט נקי. סוכן המשנה יכול לקרוא אלפי טוקנים, אבל מחזיר לסוכן הראשי רק תמצית. כך החלון של הסוכן הראשי נשאר ממוקד.
לבידוד יש גם היבט של אבטחה וממשל. כשצ'אטבוט משרת לקוחות שונים, או כשסוכן פנימי ניגש למידע ממחלקות שונות, הפרדת קונטקסטים מקטינה את הסיכון שמידע של לקוח אחד יופיע בתשובה ללקוח אחר.
Skills או סוכני משנה?
גישה | יתרונות | חסרונות |
|---|---|---|
Progressive disclosure (Agent Skills) | נטען רק כשרלוונטי וחוסך קונטקסט; חוסך מורכבות תזמור וזמן המתנה בין סוכנים; סוכן אחד מחליף תפקידים לפי הצורך | כל ה-Skills חולקים קונטקסט אחד, ולכן התנגשויות עדיין אפשריות |
סוכני משנה נפרדים | בידוד חזק יותר בין תחומים | מורכבות תזמור וזמן המתנה בין סוכנים |
ההשוואה מבוססת על Towards AI, שמתאר אותה מנקודת מבט של בלוג יחיד ועם ראיות בלתי תלויות מוגבלות. בפועל, מערכות רבות משלבות: סוכן ראשי עם Skills למשימות נפוצות, וסוכני משנה למשימות כבדות או רגישות.
Prompt Caching וצ'קליסט מעשי לצוותים בישראל
Prompt Caching
במצגת של AWS, prompt caching מוצג כנושא משלים לטכניקות הקונטקסט, כאמצעי להפחתת עלות וזמן תגובה (AWS Developers). המקורות לא מפרטים מנגנונים או מחירים, ולכן את הפרטים יש לבדוק בתיעוד של כל ספק.
העיקרון הכללי שכדאי להכיר: caching עובד בדרך כלל על חלקים חוזרים בתחילת הקלט. המשמעות לתכנון הקונטקסט היא לסדר את הרכיבים מהיציב ביותר למשתנה ביותר – הנחיית מערכת והגדרות קבועות קודם, היסטוריה ושאלת המשתמש בסוף.
יש כאן גם מתח שכדאי להכיר: בחירה דינמית של כלים או מסמכים משנה את תחילת הקלט, וזה עלול להקטין את תועלת ה-cache. ההכרעה תלויה בנתונים של כל מערכת, ולכן כדאי למדוד את שתי הגישות. למי שמתמקד בצד הכלכלי, המדריך על ירידת מחירי LLM ודרכים לחתוך עלויות AI משלים את התמונה.
שיקולים ייחודיים לעברית
אף אחד מהמקורות שנסקרו לא עוסק בעברית או בשוק הישראלי, ולכן הנקודות הבאות הן הסקה הנדסית שיש לאמת על הנתונים של כל פרויקט:
- טוקניזציה – בהרבה מודלים טקסט בעברית מתפרק לטוקנים בצורה פחות יעילה מטקסט באנגלית. אם זה המצב גם במודל שנבחר, תקציב הקונטקסט מתמלא מהר יותר, ודחיסה ו-caching הופכים חשובים עוד יותר. כדאי למדוד את יחס הטוקנים על מסמכים אמיתיים.
- Embeddings לשליפה – איכות ה-RAG תלויה במודל embeddings שמבין עברית היטב. כדאי לבדוק שליפה על שאלות אמיתיות של משתמשים, כולל ראשי תיבות, כתיב מלא וחסר, ושגיאות כתיב נפוצות.
- תוכן מעורב ו-RTL – מסמכים שמשלבים עברית, אנגלית, מספרים וקוד עלולים להיפגע בחיתוך (chunking) ובתצוגה. כדאי לבדוק גם את הקלט וגם את הפלט בממשק הסופי.
- הרשאות ומיקום נתונים – ארגונים בתחומי בנקאות, בריאות וביטחון צריכים להתייחס להרשאות ולמיקום שמירת הנתונים כחלק מתכנון הקונטקסט. זה בדיוק הצד של ממשל ואכיפת הרשאות שהנדסת פרומפטים לבדה לא יכולה לספק.
צ'קליסט מעשי
צוות שבונה צ'אטבוט או סוכן ורוצה ליישם הנדסת קונטקסט בצורה מסודרת יכול להתחיל מהרשימה הזו:
- למפות את הקונטקסט – לרשום את כל הרכיבים שנכנסים לחלון, ולמדוד כמה טוקנים כל אחד תופס.
- לאבחן תסמין לפני פתרון – לזהות אם הבעיה היא שכחה, שליפה רועשת, עובדות קבורות, עלות או זליגה בין תהליכים.
- לבחור ולבנות לפני שמכווצים – לשפר שליפה, ניתוב ומבנה לפני שמוסיפים סיכום או דחיסה.
- למקם מידע קריטי בבולטות – הוראות ונתונים מרכזיים בתחילת הקונטקסט או קרוב לסופו, לא באמצע.
- לצמצם כלים – לחשוף רק כלים רלוונטיים, ולשקול progressive disclosure כשיש הרבה יכולות.
- לנהל היסטוריה – חלון נגלל עם סיכום שמוגדר במפורש מה אסור לו לאבד.
- להוציא מצב החוצה – לשמור רשימות משימות, החלטות וממצאים מחוץ לחלון ולשלוף לפי הצורך.
- לבודד תהליכים – להשתמש בסוכני משנה או בקונטקסטים נפרדים כשיש תחומים, לקוחות או רמות הרשאה שונים.
- לסדר ל-caching – רכיבים יציבים קודם, משתנים בסוף, ולמדוד את ההשפעה בפועל.
- לבנות סט בדיקות בעברית – שאלות אמיתיות, מקרי קצה ושיחות ארוכות, כדי לזהות ירידה באיכות לפני שהמשתמשים מזהים אותה.
- לבדוק את נתוני המקור – אם שום טכניקה לא עוזרת, הבעיה כנראה בנתונים עצמם.
שאלות נפוצות
מה זה הנדסת קונטקסט במשפט אחד?
תכנון וניהול של כל מה שהמודל רואה כשהוא מבצע משימה – הוראות, מידע שנשלף, כלים, זיכרון, היסטוריה ופורמט – כשהכול מורכב באופן דינמי בכל קריאה (Firecrawl).
האם הנדסת קונטקסט מחליפה את הנדסת הפרומפטים?
לא. הפרומפט נשאר שכבה אחת בתוך הנדסת הקונטקסט. הדיסציפלינה הרחבה מוסיפה נתונים, כלים, זיכרון, הרשאות וניהול מצב (Teradata). למשימות תחומות עם קלט שלם, פרומפט טוב עדיין עשוי להספיק.
למה לא פשוט להשתמש במודל עם חלון הקשר גדול יותר?
כי המחקרים שצוטטו מראים ירידה בדיוק ככל שהקלט מתארך, עם צניחות חדות הרבה לפני המגבלה המוצהרת (Crux Digits). חלון גדול יותר נותן יותר מקום, אבל לא פוטר מהצורך לבחור מה נכנס אליו.
מהן הטכניקות המרכזיות בהנדסת קונטקסט?
ארבע משפחות עיקריות: כתיבה והוצאה של מצב החוצה (Write / Externalize), בחירה (שליפה, ניתוב ובחירת כלים), דחיסה (סיכום ו-compaction) ובידוד (סוכני משנה). Prompt caching משמש כתוספת לחיסכון בעלות (Atlan).
למה בחירת כלים משפיעה על הקונטקסט?
כי הגדרות הכלים צורכות טוקנים בכל קריאה. לפי סיכום SwirlAI, 90 כלי MCP יכולים לצרוך יותר מ-50 אלף טוקנים (daily.dev). טעינה של כלים רלוונטיים בלבד חוסכת מקום ומקטינה את הסיכוי שהסוכן יבחר בכלי הלא נכון.
מאיפה מתחילים לדבג סוכן AI לא אמין?
מאבחון התסמין: אובדן מצב, שליפה רועשת, עובדות קבורות או עלות גבוהה, ואז מיישמים את הטכניקה שמתאימה לו. אם אף טכניקה לא עובדת, כדאי לבדוק את איכות נתוני המקור (Atlan).
סיכום
הנדסת קונטקסט היא התשובה לשאלה שכל מי שמפעיל צ'אטבוט או סוכן בפרודקשן נתקל בה: למה מודל חזק מפיק תוצאות לא עקביות? ברוב המקרים התשובה טמונה במה שהמודל רואה – יותר מדי מידע, מידע לא רלוונטי, מידע במקום הלא נכון, או מידע חסר.
הנדסת פרומפטים לא נעלמת; היא הופכת לשכבה אחת במערכת רחבה יותר. סביבה מסוימת מתווספים שליפה וניתוב שמביאים את המידע הנכון, דחיסה וזיכרון חיצוני ששומרים על חלון ממוקד, בחירת כלים ו-progressive disclosure שמונעים עומס, בידוד שמפריד בין תהליכים, ו-caching שמוריד עלויות.
העיקרון המנחה, כפי שמנוסח במדריך של Anthropic, הוא לחפש את הקבוצה הקטנה ביותר של טוקנים בעלי אות גבוה. לצוותים בישראל יש שכבה נוספת: לוודא שהטוקניזציה, השליפה והתצוגה עובדות היטב בעברית, ושההרשאות ומיקום הנתונים עומדים בדרישות הארגון. מי שמתחיל במדידה, מאבחן לפני שמתקן ובודק על נתונים אמיתיים, יבנה סוכנים אמינים יותר – בלי להחליף מודל.
מקורות
- Context Engineering vs Prompt Engineering | Abstracta
- Context Engineering vs. Prompt Engineering | Teradata
- Context Engineering vs Prompt Engineering for AI Agents | Firecrawl
- Context Engineering Techniques for AI Agents | Atlan
- Quit Tokenmaxxing: 4 Context Engineering Techniques for AI Agents | AWS Developers
- State of Context Engineering in 2026 | Towards AI
- State of Context Engineering in 2026 | daily.dev
- Context Engineering: The 2026 Playbook for AI Agents | Crux Digits
- 8 Context Engineering Techniques | OvalEdge
- Context Engineering vs. Prompt Engineering | DataHub






