ככל שסוכן AI צובר יותר מידע בזיכרון, הוא נותן תשובות שטחיות יותר, לוקח יותר זמן להשיב, וההזיות מתחילות מוקדם יותר בשיחה. הפתרון הוא לא עוד מידע, אלא אינדקס שמנתב את הסוכן ישר למידע הרלוונטי: ציר זמן, סיווג סוגי עסקאות, וחיבור אנשי קשר. הנה איך בונים אחד כזה.
- 1בדוגמה שעומר נותן, סוכן בלי אינדקס דומה לעובד חדש שמחפש תשובה בעמוד ספציפי מתוך 3,560 עמודי מידע על העסק, בלי לדעת איפה לחפש.
- 2האינדקס בנוי משלושה רכיבים: ציר זמן של אירועים, סיווג סוגי עסקאות וישויות, וחיבור אנשי קשר ברמת חברה.
- 3דוגמה מהעבודה של עומר: לקוח אחד מנוהל דרך שלושה תהליכים מקבילים בו זמנית, סדנה מתוכננת עם הצעת מחיר באישורים, סדנה שנייה שכבר אושרה ובבנייה, וסדנה שלישית מחודש קודם שכבר לא רלוונטית.
למה מוח AI גדול יותר לא נותן תשובות טובות יותר
ככל שהמוח AI של העסק שלי גדל, שמתי לב לתופעה הפוכה ממה שציפיתי: הסוכן התחיל לענות פחות טוב. תשובות שטחיות, זמן תגובה ארוך יותר, וההזיות מתחילות מוקדם יותר בשיחה. זה נשמע לא הגיוני, אבל יש לזה הסבר פשוט.
לכל סוכן AI יש חלון קשב מוגבל בכל שיחה. כשעובדים על שיחה קצרה זה נסבל. אבל ברגע שהמאגר מצטבר לאורך זמן, ואני שואל שאלה, הסוכן ניגש למאגר המידע ושולף, ויש בו יותר מדי מידע שבכלל לא רלוונטי לשיחה הנוכחית.
עובד חדש מול 3,560 עמודים: האנלוגיה שהבהירה לי את הבעיה
הדרך הכי טובה שמצאתי להסביר את זה: זה כמו לתת לעובד חדש את כל המידע על העסק, ולבקש ממנו תשובה שהוא צריך להביא מעמוד ספציפי, בלי שהוא יודע איפה לחפש. הוא אמור לעבור 3,560 עמודים בריכוז מלא עד שהוא מוצא את התשובה.
איזו תשובה ורמת ריכוז נקבל ממנו בסוף התהליך הזה? קל לנחש. זו בדיוק התופעה שקורה לסוכן AI כשאין לו מבנה שמנתב אותו למידע הנכון: תשובה שטחית, זמן המתנה ארוך, וקונטקסט שמתמלא מהר עד כדי הזיות.
האינדקס בשלושה רבדים
הפתרון שבניתי הוא לא עוד מידע, אלא מבנה: אינדקס שהסוכן סורק בכל שאלה, לפני שהוא ניגש למאגר המלא. העץ הזה מייצר לסוכן הנחיות איך להגיע למידע, מיישר את תהליך החשיבה שלו לצורך העסקי שלי, ומנקה מהקונטקסט של הסשן כל מה שלא צריך להיכנס אליו מלכתחילה.
בפועל בניתי אותו משלושה רכיבים:
- ציר זמן: הרכיב הכי קריטי בעסק, מתי כל דבר קרה. בלי ציר זמן ברור, לסוכן אין מושג איפה אני עומד מול כל לקוח.
- סיווג סוגי עסקאות וישויות: סדנאות, שיתופי פעולה, תהליכים אסטרטגיים, ייעוצים, אנשי קשר וחברות. הסיווג מאפשר לבקש מהסוכן להתמקד ולתעדף לפי הנחיה ברורה.
- חיבור אנשי קשר: לכל לקוח יש כמה אנשים מולם אני עובד, פיננסי, משפטי, מקצועי והלקוח עצמו. לכל אחד קובץ נפרד עם ציר זמן וסטטוס, וגם קובץ סטטוס ברמת החברה שמוזן מכל השיחות.
איך זה נראה בשגרה, ולמה זה עדיין עבודה בתהליך
דוגמה מהעבודה שלי: יש לי לקוח עם שלושה תהליכים במקביל, סדנה מתוכננת עם הצעת מחיר באישורים, סדנה נוספת שכבר אושרה ובבנייה, וסדנה שלישית מחודש קודם שכבר לא רלוונטית. בלי ציר זמן, לסוכן אין מושג איפה אני עומד מול הלקוח הזה. עם האינדקס, כשאני נכנס לשיחה איתו, הכל מסודר לו בראש מראש.
אני שואל את הסוכן מה שצריך, בקלוד או בוואטסאפ, ומקבל תשובה מדויקת עם פרספקטיבה מלאה, מחוברת גם לעסק, גם לתעדוף וגם למה שקורה בשוטף. האם זה מושלם? עדיין לא. אני ממשיך ללמוד ולחדד את המבנה לפי מקרי הקצה שאני מתעד, אבל הוא כבר לוקח את היעילות העסקית שלי צעד משמעותי קדימה.
שאלות נפוצות
למה סוכן AI נותן תשובות פחות טובות ככל שהזיכרון שלו גדל?
כי לכל סוכן יש חלון קשב מוגבל בשיחה. כשהמאגר גדל, הסוכן ניגש לכמות מידע גדולה שרובה לא רלוונטית לשאלה הספציפית, מה שמייצר תשובה שטחית, זמן תגובה ארוך, וקונטקסט שמתמלא מהר עד כדי הזיות.
מה זה אינדקס לסוכן AI, ואיך הוא שונה מעוד מסמך מידע?
אינדקס הוא עץ ניתוב שהסוכן סורק לפני שהוא ניגש למאגר המלא. הוא לא מוסיף מידע, הוא מנתב את הסוכן ישר לרלוונטי, וחותך מהקונטקסט כל מה שלא צריך להיכנס אליו.
מהם שלושת הרכיבים של האינדקס שעומר בנה?
ציר זמן של אירועים, סיווג סוגי עסקאות וישויות כמו סדנאות ואנשי קשר, וחיבור בין אנשי הקשר לתמונה מלאה ברמת חברה. השילוב בין השלושה נותן לסוכן תשובה מדויקת עם פרספקטיבה מלאה.
מקורות
מדריך חדש עולה? שתדע ראשון.
מדריכים פרקטיים, סקירות שוק ותהליכי עבודה מהשטח. מה שעובד, עם המספרים והמקורות. בלי תיאוריה ובלי ספאם.
