המונחים סביב AI מתחלפים מהר, אבל ההחלטה העסקית נשארת פשוטה: איזו מערכת תפתור את הבעיה באמינות, במהירות ובעלות סבירה. בחירה מורכבת מדי מוסיפה נקודות כשל; בחירה פשוטה מדי לא מצליחה להתמודד עם המציאות. המפתח הוא להבין אם הבעיה היא ידע, תהליך או החלטה דינמית — ואז לבחור את רמת העצמאות הנמוכה ביותר שמספיקה.

השורה התחתונה

  • RAG מתאים כשצריך תשובה מבוססת על ידע עדכני ומקורות ארגוניים.
  • Workflow מתאים כשסדר הפעולות ידוע וחשובה עקביות גבוהה.
  • סוכן מתאים כשהמערכת חייבת לבחור צעדים וכלים לפי מצב משתנה.
01

מתחילים מסוג הבעיה, לא משם הטכנולוגיה

אם העובד אינו מוצא תשובה בתוך עשרות נהלים, זו בעיית ידע. אם הוא מבצע שוב ושוב את אותם חמישה צעדים בין מערכות, זו בעיית תהליך. אם בכל מקרה נדרש מסלול אחר לפי המידע שמתגלה, זו בעיית החלטה. ההבחנה הזו חוסכת הרבה פיתוח מיותר.

יש גם בעיות שמשלבות את שלושת הסוגים. סוכן שירות יכול לשלוף מדיניות, לבצע אימות לקוח ולהחליט אם לפתוח בקשה או להעביר לנציג. במקרה כזה עדיין כדאי לבנות כל שכבה בנפרד: שליפה אמינה, פעולות מוגדרות ולוגיקת החלטה מצומצמת.

הארכיטקטורה צריכה לשקף את מחיר הטעות. בתהליך פיננסי או רפואי נעדיף מסלול קבוע ואישורים גם אם הוא פחות גמיש. בחקר מידע פנימי אפשר לאפשר יותר חופש, כל עוד התוצאה מוצגת עם מקורות ואינה מבצעת פעולה.

02

מתי RAG הוא הפתרון הנכון

RAG הוא מנגנון שבו המערכת מחפשת מידע רלוונטי במאגר ומצרפת אותו לבקשה לפני שהמודל עונה. הוא מתאים לשאלות על נהלים, מוצרים, חוזים, ידע מקצועי או היסטוריית לקוח — מידע שהמודל הכללי אינו אמור לדעת ושעשוי להשתנות.

מערכת RAG טובה אינה רק חיפוש וקטורי. היא משלבת חלוקה נכונה של מסמכים, מטא־דאטה, סינון לפי הרשאות, שילוב חיפוש מילולי וסמנטי ודירוג מחדש של התוצאות. לאחר מכן היא דורשת מהמודל לענות מתוך המקורות ולהודות כאשר אין בסיס מספיק.

המדידה כוללת שני שלבים: האם הוחזר המידע הנכון, והאם התשובה השתמשה בו נכון. אם המסמך הנכון לא הגיע, שינוי הפרומפט לא יעזור. אם המסמך הגיע אך המודל התעלם ממנו, הבעיה נמצאת בשכבת התשובה.

  • תוכן משתנה שצריך לעדכן בלי לאמן מודל
  • צורך בהרשאות ובציטוט מקור
  • מאגר מסמכים או רשומות עשיר
  • תשובה עדיפה על פעולה אוטונומית
03

מתי workflow קבוע עדיף על סוכן

Workflow מגדיר מראש את סדר התחנות. אפשר להשתמש במודל בתוך כל תחנה — לסיווג, חילוץ או ניסוח — בלי לתת לו להחליט על כל התהליך. זו בחירה מצוינת כאשר השלבים מוכרים, קיימים כללי עסק ברורים ונדרשת התנהגות צפויה.

לדוגמה, פנייה נכנסת יכולה לעבור חילוץ פרטים, בדיקת חובה, סיווג, יצירת רשומה והודעה לנציג. המודל מסייע להבין את הטקסט, אך הקוד קובע מהו שדה חובה, מתי נוצרת עסקה ומי מקבל אותה. כך קל יותר לבדוק ולתחזק.

אפשר להוסיף הסתעפויות, ניסיונות חוזרים ואישור אנושי בלי להפוך את המערכת לסוכן. פעמים רבות זה מספק 80% מהערך עם פחות עלות, פחות זמן המתנה והרבה פחות התנהגות בלתי צפויה.

04

מתי באמת צריך סוכן

סוכן מוצדק כשהמסלול אינו ידוע מראש. למשל, חוקר שוק שצריך לבחור מקורות, לנסח חיפושים חדשים לפי מה שמצא, להשוות סתירות ולבנות מסקנה. גם טיפול בתקלה מורכבת יכול לדרוש בחירה דינמית בין בדיקות וכלים.

הגמישות מגיעה במחיר: יותר קריאות למודל, זמן תגובה ארוך יותר, קושי לשחזר מסלול וסיכון שהמערכת תבחר כלי לא נכון. לכן מגבילים מספר צעדים, תקציב, זמן ורשימת כלים. במקרים רבים סוכן יחיד עם כלים ברורים עדיף על מערכת מרובת סוכנים שמחלקת תפקידים ללא צורך.

מערכת multi-agent מתאימה רק כאשר קיימת חלוקה אמיתית של מומחיות, הרשאות או הקשר. אם כל הסוכנים משתמשים באותו מידע ובאותם כלים, הוספת תפקידים עלולה לייצר שיחות פנימיות יקרות במקום תוצאה טובה יותר.

05

ומה לגבי fine-tuning? מלמדים התנהגות, לא מעדכנים ידע

אימון מותאם מתאים כאשר רוצים עקביות בסגנון, בפורמט, בסיווג או בהתנהגות שחוזרת על עצמה ויש מספיק דוגמאות איכותיות. הוא אינו תחליף טוב למידע עסקי שמתעדכן. שינוי מחיר, נוהל או מלאי צריך להגיע ממקור נתונים, לא מאימון מחדש.

לפני fine-tuning כדאי למצות הוראות ברורות, דוגמאות בתוך ההקשר, פלט מובנה וכלים. רק כאשר מזהים דפוס כשל עקבי ואפשר להציג מאות דוגמאות נכונות, האימון הופך לאפשרות רצינית.

לעיתים הפתרון משלב הכול: מודל מותאם לסיווג מדויק, RAG להבאת ידע עדכני ו־workflow שמפעיל מערכות. הארכיטקטורה אינה תחרות בין מונחים; היא חלוקת אחריות בין רכיבים.

06

מטריצת החלטה מעשית לפני שמתחילים לפתח

שואלים עד כמה סדר הפעולות צפוי. אם הוא קבוע — workflow. אם הוא משתנה באופן מהותי — שוקלים סוכן. שואלים האם התשובה תלויה בידע ארגוני עדכני. אם כן — מוסיפים RAG או גישה ישירה למערכת המקור. שואלים האם נדרשת פעולה; אם לא, אין סיבה לתת הרשאות כתיבה.

לאחר מכן בודקים סיכון, זמן ועלות. מערכת עם שלוש קריאות קבועות תהיה מהירה וזולה יותר מסוכן שמבצע עשרה צעדים. מצד שני, אם האדם מבצע היום מחקר של שעתיים, גם ריצה יקרה יחסית יכולה להיות משתלמת.

הבחירה הטובה היא זו שאפשר להסביר במשפט: איזה חלק מביא ידע, איזה חלק מחליט ואיזה חלק מבצע. כאשר אי אפשר להסביר את הגבולות, קשה גם לבדוק, לאבטח ולשפר אותם.

  • האם סדר הפעולות ידוע?
  • האם נדרש מידע עדכני או פרטי?
  • האם המערכת רק ממליצה או גם פועלת?
  • מה מחיר טעות ומה מחייב אישור?
  • איך נדע שהתוצאה טובה יותר מהתהליך הקיים?
מקריאה לעשייה

רוצים להפוך את הרעיון
לתוכנית שמתאימה לעסק?

נמפה את המצב הקיים, נזהה מה יעשה את ההבדל ונבנה סדר פעולות ברור — בלי לקפוץ לכלי או לערוץ לפני שמבינים את המטרה.

לשיחת היכרות