518 - Carburetor 42

518 - Carburetor 42

פרק מספר 518 של רברס עם פלטפורמה - קרבורטור מספר 42.

רן ואורי מארחים שוב את נתי שלום לפרק המשך בסדרה על סוכני קידוד, והפעם - מה קורה כשסוכני AI (Agents) מגיעים לסביבת הפרודקשן. אנחנו צוללים לתוך השינוי הטקטוני שעוברת תעשיית ה-Observability, התרסקות המודלים העסקיים המוכרים, ומי הולך להרוויח את הזכות לא רק לתצפת על המערכות, אלא גם לתקן אותן בפועל.

[01:24] מ-Assisted SRE לתיקון אוטונומי

  • מה קורה כשהסוכנים מגיעים לפרודקשן ומה ההבדל בין פרסונת ה-DevOps לפרסונת ה-SRE בארגון.
  • הבשלות של התעשייה: משתמשים כבר לא רוצים מערכות “מסייעות” (Assisted) שרק זורקות המלצות ומייצרות יותר עבודת פענוח לאדם. הדרישה כיום היא לסוכנים שפשוט פותרים את הבעיה.

[05:51] הרגע שבו Datadog הבינו את המשחק

  • דיון על חברת Datadog (ואיך הם קיבלו את השם שלהם ממדבקה על שרת אקראי).
  • רעידת האדמה בתעשייה: ההבנה של ענקיות ה-Observability שהמודל הישן מת. המנכ”ל של Datadog מודה בעצמו שהארגונים מצפים עכשיו לפתרונות אקטיביים ולא רק לאיסוף נתונים וצפייה.
  • ההשוואה ההיסטורית למאבק של VMware מול AWS: זה לא רק פער טכנולוגי, אלא שינוי דרמטי במודל העסקי שמחסל את החפיר (Moat) הישן.

[12:02] כשל השוק של ה-Data Lakes

  • בעיית העלות המובנית: המודל העסקי של חברות האובזרבביליטי מבוסס על תמחור לפי נפח הנתונים (Ingestion).
  • רוב המידע שנשמר הוא “זבל” - לוגים ונתונים שאיש לא קורא עד שיש תקלה, אך ארגונים משלמים עליהם פרמיום כמעין תעודת ביטוח.
  • סוכני AI הופכים את אגירת כל הנתונים באגם מרכזי ללא כלכלית בעליל (לא ססטיינבילית), מה שמאיץ את הנפילה מצוק של ספקיות המסורתיות.

[16:27] רגע ה-Claude Code של עולם הפרודקשן

  • בניגוד לאימון על היסטוריית תקלות רנדומלית, מערכות אוטונומיות אמיתיות צריכות “סימולטור” - יכולת לשחזר תקלה בסביבה מבוקרת (Reinforcement Learning Verified Rewards).
  • בדיוק כמו ש-Claude Code מריץ ובודק מול הקומפיילר כדי להגיע לדיוק, סוכן SRE חייב Feedback Loop אמיתי ולא רק להתבסס על ארכיון לוגים.
  • רוב הידע הבסיסי על תקלות נפוצות ממילא כבר מקודד פנימה בתוך הזיכרון הפרמטרי של ה-LLMs (הם ה”Stack Overflow” של עצמם).

[29:21] רדיוס הפיצוץ: איך סומכים על סוכן בפרודקשן?

  • החשש הטבעי: מה יקרה אם הסוכן האוטונומי ישנה קונפיגורציית רשת או יוריד שרתים בטעות?
  • הדילמה הפסיכולוגית מול סטטיסטיקה - כמו ההבדל בין נהג אנושי למכונית אוטונומית או טייס אוטומטי במטוס.
  • הפתרון: מנגנוני בקרה אוטומטיים שמחשבים מראש את “רדיוס הפיצוץ” (Blast Radius) של התקלה. הסוכן מחליט מתי מותר לו לתקן לבד ומתי האימפקט גדול מדי ומצריך התערבות אנושית.

[34:36] קונטקסט לוקאלי מול גלובאלי

  • תקלות רבות נולדות משינויים (Drift), ורוב הקונטקסט הדרוש כדי לפתור אותן נמצא ברמת הקלאסטר הלוקאלי.
  • למה איסוף כל הנתונים לענן מרכזי שגוי: בעיות אבטחת מידע, עלויות מטורפות, ו-Latency (איחור בהגעת לוגים ומטריקות שמבלבל את תמונת המצב בזמן אמת).
  • דילמת החדשנות: חברות ה-Observability הגדולות מזהות את הבעיה (וקונות חברות בתחום), אבל מתקשות לשנות כיוון בגלל התלות במודל ההכנסות הקיים שלהן.

[40:27] חוקר התקלות לעומת יוצר התקלות

  • חשיבה מחדש על התהליך: במקום להגיע ל”זירת פשע” בדיעבד, מה קורה אם ה-AI שכתב ודחף את הקוד (ה”פושע”) הוא גם זה שמנתח ומזהה את התקלה?
  • החשיבות העצומה של Efficiency (יעילות) בעולמות התשתית של ה-AI היום, ואיך היא משפיעה על הערכות שווי של חברות אוטונומיות (כמו Devin).
  • השורה התחתונה: אין טעם לקחת תהליך שבור וצוותים מופרדים ולהדביק להם AI כפלסטר. זו הזדמנות לעשות הנדסה מחדש לדרך שבה אנחנו מנהלים את האמינות של המערכות שלנו.

האזנה נעימה!

תמלול מלא של הפרק

התמלול נוצר אוטומטית וייתכנו בו שגיאות. לחיצה על חותמת זמן מנגנת את הפרק מאותה נקודה.

00:00 רן: שלום ברוכים הבאים לפרק מספר 518 של רברס עם פלטפורמה ואנחנו היום בקרבורטור מספר 42. היי אורי.

00:11 אורי: מה קורה? גם משמעות העולם וגם 500 חי.

00:15 רן: כן, חי זה רק פזמון לאורח... שיהיה חיים. כן. ואנחנו בסדרת הקרבורטור כמיטב המסורת מתכבדים לארח אצלנו את נתי שלום. היי נתי.

00:29 נתי: היי. פעם שעברה אם אתה זוכר היה את האנקדוטה של Gemini בפתיחה, והיה לנו פתיחה סוערת פעם שעברה, הפעם אין לי איזה משהו כזה.

00:41 רן: כמו שאומרים, נכון לא נכון חרטט בביטחון וככה אכן עשה Gemini.

00:46 נתי: אה, בעצם היה את הליכודיאדה אתמול...

00:50 רן: טוב, בוא לא ניכנס לשם.

00:52 נתי: בדיוק. אפשר לרכל על זה.

00:54 רן: אפשר אבל לא נעשה את זה. אז היום אנחנו הולכים לדבר על AI... כן, אבל בוא נהיה ככה קצת יותר ספציפיים. אז בעצם, בפרקים הקודמים עם נתי יצא לנו לדבר על כמה אספקטים של סוכני קידוד, וסביבת production וכל מה שקשור לזה, ולמעשה פרק זה הוא פרק המשך. אז נתי ייתן לנו קצת הקשר של מה עברנו במסע שלנו עד כה ויקח אותנו הלאה להמשך המסע היום.

01:24 נתי: כן, אני חושב שבעצם כל העולם מסתובב היום סביב סוכנים אוטונומיים, דיברנו על זה קצת לפני מה זה אומר, איך עושים את זה נכון, ואני חושב שלאט לאט הנושא של מה זה אומר מתחיל יותר ויותר לקבל איזושהי סטנדרטיזציה או איזושהי תצורה, הייתי אומר עם סייג אחד שזה נכון ל-24 שעות הקרובות. לך תדע מה יקרה מחר.

01:52 רן: כמו הליכודיאדה. טוב, מספיק.

01:55 אורי: עד כאן. בסוף היה primaries, אני לא יודע איזה סוכן אמר לכם שזה ליכודיאדה.

02:01 נתי: אבל יש פה בהחלט, אני חושב צומת של כמה תובנות, אני חושב של אם אני מסתכל על זה מבחינת ה... מזלג אפשרויות שקיים היום בתחום שאני מתעסק איתו שזה תחום שנקרא אה... אוטומציה של מערכות IT ותיקון תקלות ובעולמות האלה, אז בגדול אתה יכול לחלק את הגישות מגישה של assisted, זאת אומרת, אני אקרא את הלוגים, אקרא את ה-monitoring, ימליץ לך על מה שצריך... והיום כבר מבינים, כמו בקוד, שזה לפעמים מייצר לך יותר עבודה מאשר עזרה כי בסוף אתה צריך להבין מה ה-assisted נתן לך ואז אתה צריך לפעמים לעשות יותר עבודה ממה שהיית צריך.

02:51 רן: מה לזלזל, הוא כתב לי קוד...

02:53 נתי: כן, כולנו מכירים את זה אני חושב מהחוויות של מי שהתחיל עם קוד קצת קודם, אז ה-assisted code ייצר הרבה קוד אבל לא ידענו לדעת אם זה טוב או לא טוב וכל עוד לא היינו בטוחים בזה אז באמת היינו צריכים להשקיע הרבה מאוד זמן בדבר הזה. אבל, אבל זה כרגע למשל הגישה הרווחת כי מערכות production זה מערכות מורכבות וזה לא כזה קל להגיע לדיוק גבוה, ולכן אתה רואה נטייה ללכת לשם.

03:23 רן: אוקיי, כלומר ה-scope שלנו זה assisted SRE. נכון. אוקיי, כלומר אנחנו לא מדברים על קידוד, אנחנו עכשיו בפרודקשן.

03:28 אורי: אבל באספקטים ה... monitoring, observability, ה... לא יודע, תכנון capacity של SRE או דווקא באספקטים ה-DevOpsים של קח תרים לי ת'מכונה, תראה שזה ותקנפג את ככה...

03:48 נתי: שאלה מצוינת. למעשה זה בעצם, השאלה שנגזרת מזה זה בעצם העולם הזה יתחלק לשתי סוג של סוגים של פרסונות. פרסונה אחת של DevOps, פרסונה אחת של SRE. SRE מי שלא מכיר זה System Reliability Engineers, ו-DevOps זה יותר מצד הפיתוח, זאת אומרת אוטומציה של תהליכי פיתוח עד פרודקשן. וזה מעניין בכלל ברמת culture למה יש את ההפרדה הזאתי ומה זה כל אחד אומר, אחד נמדד על reliability, אחד נמדד על קצב ריליסים וכמה מהר אפשר להוציא גרסה לאוויר. ואני חושב שבמקרו של זה, כמו שקורה הרבה מאוד בתהליכי AI, גם אפשר לדבר על איחוד של הדברים האלה, זאת אומרת פתאום נפתחת פה...

04:31 אורי: טוב, יש גם עוד פרסונה, זה שרואה שיש מכונה, ושהיא הנכונה, ושה-OS עליה מקונפג נכון, וה-security עליה מקונפג נכון, והסוויץ', וכאילו... מה שהוא תכל'ס אופס. עבודת אופס.

04:51 נתי: נכון. אני לא מפריד במקרה הזה בין ה-DevOps ל-SRE. אני, פשוט זה מה שאני יכול להצביע עליו מבחינת בעלי תפקיד שעולים לי בראש. מה שאני כן יכול להגיד, זה שבאמת מי שבא מעולמות של DevOps מתייחס לזה יותר כמו קוד. זאת אומרת אוטומציה של קוד ואיך אני עושה Terraform יותר מהר והרבה דברים מהסוג הזה, יצא לי להתעסק עם זה לא מעט גם בתקופה האחרונה שהייתי ב-Dell. ומי שבא מעולמות של observability בא לזה יותר מ-data lake, כאילו יותר data driven. יש לי הרבה מאוד data על המערכות, אני אוסף הרבה מאוד מטריקות, יש לי עכשיו מידע על הדברים האלה, ודרך התובנות האלה להגיע לתובנה של מה ה-root cause ואחרי זה גם מה ה-remediation ומה פעולה נכונה. וזה באמת מייצר כל מיני גישות מעניינות לאיך איך תוקפים את הבעיה הזאתי.

05:52 רן: אז אחת החברות מהכיוון של observability שאני מניח שרוב המאזינים שלנו מכירים נקראת Datadog.

05:58 נתי: כן.

05:59 אורי: אתם יודעים למה קוראים לה Datadog?

06:01 רן: למה?

06:05 נתי: האמת שגם אני לא ידעתי. אבל יש לנו את Gemini ו-GPT אז...

06:09 אורי: ביניהם, דומיין פנוי.

06:12 נתי: זה תמיד... לא, זה היה סיפור קצת יותר אנקדוטלי, זאת אומרת למעשה היזמים, שכחתי את השם שלהם סליחה, בעצם עבדו כאנשי system באחת החברות, ובזמנו היו שמים מדבקות על השרתים. אז אחד השרתים שם נקרא datadog שהיה שרת של דאטה מאוד מרכזי. וכשהם הקימו את החברה הם בעצם החליטו לקחת את השם של השרת הזה ולקרוא לחברה Datadog. אתה שומע את השם הזה, אתה חושב מיד על קונוטציות אחרות לגמרי, אבל זה הסיפור כנראה, הרבה יותר משעמם מכל מיני דמיונות שאפשר לדמיין על החברה הזאת...

06:49 רן: אני עכשיו, חשבתי כאילו You dog, שזה כאילו איזה קליבר אתה...

06:51 נתי: בדיוק, חשבתי שלשם data ו-dog יש איזה משמעות עמוקה...

07:00 רן: כן איזה שמירה של הדאטה ודברים כאלה. אבל לא, אוקיי, מדבקה. בסדר.

07:01 נתי: אז זה התחיל משם. ובעצם היום הם במידה לא קטנה הבנצ'מרק המרכזי בתחום של observability. אני אגיד גם עוד נקודה מעניינת על עולם observability זה שבשונה נניח ממה שהיה למשל ב-VMware או בעולמות של קלאוד, שיש שמה שחקנים גדולים דומיננטים שמחזיקים בפחות או יותר ביחד ב-80-90% מהשוק, בעולמות של observability זה לא ממש המקרה, זאת אומרת גם השחקנים הגדולים לא מחזיקים ביותר מ-10%. ויש המון סגמנטציה בתחום הזה, ועוד דבר שגיליתי ככה מהרבה מאוד שיחות שעשיתי, שאף אחד לא מרוצה ממה שיש וממה שעובד וממה שקיים, יש המון תסכול מהצורה שבה דברים עובדים. זאת אומרת למעשה התחושה הכללית היא שאני מוצף בכלים, מוצף בהרבה מאוד אינפורמציה, ואני מוסיף עוד ועוד ועוד כלים...

07:56 רן: כן, תכף נדבר על זה גם, כלים של AI, ועדיין אני מוצא את עצמי בתקלות ומתעסק ועדיין קשה לי לפתור את הבעיות, ועדיין לוקח לי זמן וכאילו, what the fuck?

08:08 רן: יש חיכוך, אז Datadog זה אחד הגדולים, אולי הכי גדולה, אני לא יודע, אבל אחת הגדולות, וברבעון האחרון יצאו עם הצהרה מעניינת.

08:17 נתי: כן, למעשה בעבר הם יצאו בהצהרה שהארגונים עוד לא מאמצים AI וכל מיני דברים, מנכ"ל... היום יצאו בהצהרה שהם מבינים שצריך לא רק לתת assisted שזה מה שהם עשו, יש להם מה שנקרא Datadog Bits שזה מוצר שהם הכריזו עליו שנה שעברה, אלא בעצם צריך לפתור את הבעיות, ולא רק להמליץ על תיקונים. שזה סוג של הכרה אמיתית, סופית, שאנשים לא מחפשים assisted, הם מחפשים תפתור לי את הבעיה, אל תמליץ לי המלצות.

08:53 רן: כן, אז עכשיו רק נשים את הדברים בפרופורציות, אז חברה שמכניסה בערך מיליארד דולר ברבעון. כן, זה לא חברה קטנה. והם באים ואומרים בגדול במילים שלי, Observability is dead, we fix your systems. משהו כזה.

09:07 נתי: הם לא יגידו את זה ככה...

09:08 רן: הם לא יגידו את זה כמובן, זה במילים שלי...

09:10 נתי: בטח, אפילו הייתי אומר הפוך, הם יבואו ויגידו, צריך יותר observability בגלל הדבר הזה. בסדר גמור.

09:20 רן: אבל יש פה שינוי כיוון או קריאת כיוון מסוימת.

09:22 נתי: נכון, וזה נקודה שאני חושב שהרבה עוד לא מבינים והיא נקודה טקטונית במידה לא קטנה. אני, אני משווה אותה ל- למה שקרה בעולמות של Amazon כשהם התחילו ולעומת VMware למשל. זאת אומרת, היה לך שחקן ששלט ב-80%, פחות או יותר מה-enterprise, שחקן datacenter מאוד, מאוד, מאוד גדול, שולט, פתאום באה Amazon והחליטה שהם עושים את הדברים אחרת. הם מנהלים את התשתית, הם לא נותנים רק תוכנה לניהול תשתית. ואני זוכר את פט גלסינגר מדבר באחד הכנסים הראשונים שלהם, "מי זאת החברה הזאתי שמוכרת ספרים, היא תלמד אותנו איך לנהל datacenter? היינו פה, אכלנו את הדברים האלה... nesting... 30 שנה, לך תזכור".

10:08 נתי: ואני מרגיש שיש מתח מאוד דומה, אומנם אין עדיין את ה-Amazon של העולמות הזה, אבל אם אני מסתכל על Datadog ועל החוויה של VMware לעומת Amazon, מה הייתה הסיבה שהיה מאוד קשה ל-VMware לסגור את הפער? זה לא רק היה פער טכנולוגי, זה גם היה מודל עסקי מאוד שונה. זאת אומרת, ממצב שבו אני מוכר תוכנה ויש לי פרטנרים שהם לוקחים את כל המורכבות של להטמיע את התוכנה, למצב שבו יש שחקן אחר שהוא גם מייצר הרבה מהתוכנה, הרבה פעמים לוקח open source של אחרים, אבל... הוא מנהל את זה, וזה לא משהו שקל לעבור אליו ממודל אחד למודל שני, וגם בהיבטים מאוד משמעותיים של מודלים עסקיים, זאת אומרת, אני מוכר את זה pay as you go, במקום חוזים מאוד גדולים להרבה מאוד שנים, וזה הופך את זה ל"חפיר" (Moat) מאוד מאוד...

11:03 רן: אז זה באמת חפיר ענק...

11:06 נתי: מי שלא מכיר חפיר, בא מעולם של וורן באפט, שמסביר בעצם איזה חסם יש לחברה כדי להתחרות עם תחרות חדשה שהגיעה אליה. וזה ייצר חפיר מאוד מאוד משמעותי וגדול, שהם לא הצליחו לחצות אותו למעשה אף פעם. והרבה מאוד מהשחקנים, באותו זמן אני זוכר את VMware לא הצליחו לחצות, אבל באותו זמן היו HP, והרבה מאוד שחקנים שהיו הדומיננטים בעולמות של datacenter ודי נמחקו כמעט סביב הדבר הזה, אני חושב שהיום כבר אנשים אפילו לא זוכרים כמעט את השמות האלה. מהסיבה הזאתי, זאת אומרת שזה לא היה רק מעבר טכנולוגי, זה היה מודל עסקי והרבה מעבר טכנולוגי ועוד דברים.

11:51 רן: אז Datadog לא מיזמתם, באו ואמרו, הסוכנים הולכים לתקן לכם... את אומר, הם רואים את השינוי, הם מרגישים שאם הם לא יהיו חלק מזה אז הם ייעלמו.

12:02 אורי: זה מעניין אותי באספקט אחר. מתי זה היה, תחילת שנות ה-10 של ה... נכנס ה-DevOps כתרבות ו-You build it, you run it. האם זה מותו של ה-You build it, you run it?

12:23 רן: לא בטוח שהוא אי פעם חי אגב...

12:26 נתי: הייתי, הייתה לי הרצאה על זה ב-session לא מזמן שנקרא סוג של DevOps Days, שהכותרת שלו היה You didn't build it, או Your agent built it but who the fuck runs it. וכן, אני חושב שאני חושב שזה... כן, השינוי כבר קיים. אתה כבר לא בנית את זה, ההיכרות שלך עם הקוד היא כבר לא אינטימית כמו שהייתה פעם... עכשיו מי לעזאזל הולך להריץ את זה, וזאת בעיה. כן, יש פה שוקת שבורה וצריך לתקן את זה.

12:58 נתי: אז בעצם מה שאני מתייחס אליו זה, יש פה 2 כשלים בתפיסה הזאתי. זאת אומרת, לכאורה זה נשמע מאוד הגיוני. אוקיי, אני השחקן הגדול, אני יודע, אני מכיר את ה-datacenter שלך מלפני ולפנים, זה מאוד טבעי לי לשים עכשיו סוכן AI שישב על הדאטה הזה וילמד מההיסטוריה ויפתור לך את כל הבעיות. עד לכאן פרק א'. פרק ב', בעצם בא ומתאר את ה... תקלות בתפיסה הזאתי מלכתחילה.

13:34 נתי: א', יש בעיה מאוד גדולה של עלות. שהיא אינהרנטית, וחלק מהגדול מהתסכול של של הרבה מהלקוחות זה שבעצם כל המודל העסקי של החברות האלה זה תשים סנסור בכל דבר שזז, תאסוף אותו לאיזה data lake מרכזי ואני גובה ממך על כמות ה-data ועל ה-ingestion ועל ה-API calls ועל עוד מיליון דברים אחרים שקשורים לאיסוף של המידע הזה.

14:00 רן: אז הם לא סתם מרוויחים 1 מיליארד דולר ברבעון, אנחנו משלמים את זה.

14:05 נתי: ויותר מזה. עכשיו באים ואומרים לך אה AI, אז אתה צריך לאסוף עוד יותר מידע כדי שנדע עוד יותר דברים ואז אתה באיזה lock 22. שבעצם, הרבה מהמידע הזה, איך שלא נסתכל עליו, זה מידע שאתה לא קורא או משתמש בו, זה מידע שמתאר בדרך כלל תקלות לשרת מסוים, במקרה מסוים, בלקוח מסוים, בגרסה מסוימת, לא מידע שקל ללמוד ממנו על על מגמות וטרנדים אחרים. רובו, בוא נגיד ככה, הוא די זבל. אין בו הרבה ערך. אבל אתה משלם פרימיום בשביל הרגע שאם כן תהיה תקלה, יהיה לך משהו שאתה יכול לגשת אליו ולשמור אותו, וזה סוג של תעודת ביטוח שהרבה לא מוכנים לוותר עליה ולכן ממשיכים לשלם עליה, למרות שהם יודעים שהם אוספים הרבה מאוד pile של זבל אם נקרא לזה ככה. התקלה השנייה שאני חושב שהיא מביאה את זה לקצה...

14:58 אורי: אבל רגע, כאילו, פרימיום ומחיר וזה, אוקיי, זה בשורה חדשה, היא נכנסה, היא כרגע, כמו שהמודל נראה עכשיו יש שם תקלה, אבל זה גם כי זה לא שוק משוכלל עדיין.

15:17 נתי: או, כשאתה אומר לא שוק משוכלל למה אתה מתכוון?

15:20 אורי: אז אני אומר ש, אוקיי, יש שחקן אחד שהביא את הבשורה ולא נכנסו עוד open sources ולא נכנסו עוד... לא משנה, אבל עם הזמן, המקומות האלה, כאילו, עם הזמן העולם יודע לפתור גם תקלות עלות.

15:42 נתי: או, אז תכף נדבר על התקלות עלות, אבל זה לא אופטימיזציה. אני חושב שזה תקלה שלא קל לפתור אותה כי בעצם עם... מתח חברה ציבורית ומרכיב גדול מההכנסות שלך נבנה על זה שאתה אוסף נתונים, וככה אתה מתמחר את המוצר שלך ללקוחות, זה לא קל עכשיו להגיד אה אופס, אני משנה את המודל העסקי. זה דבר אחד, אז אז...

16:02 אורי: אז דבר אחד, אז לא, אבל מה שאני אומר ש... תהיה שחיקה במודל. כמו ש-Amazon עשו disruption ל-VMware, מישהו יעשה disruption ל...

16:15 נתי: נכון, אבל אני אומר שאת זה עוד לא מזהים. את זה עוד לא מזהים. את הנקודה הזאתי שעכשיו דיברנו עליה, אני חושב שרוב השוק עוד לא מזהה.

16:19 רן: אני חושב שאורי, מה שאתה מתאר זה דעיכה איטית ונתי מתאר נפילת מצוק. אוקיי? כלומר זה הולך להיות שינוי הרבה יותר משמעותי מאותה דעיכה שאתה מתאר.

16:29 נתי: הרבה יותר מהיר. בדיוק. נכון, אני חושב שזה יהיה הרבה יותר מהיר ואני אסביר למה. ההסבר יש לו כמה מרכיבים. אחד, אמרתי, העלות עצמה היא לא sustainable, ובטח אם אני אמשיך במגמה הזאתי אז זה רק הולך להיות לא sustainable כשהמערכות כולם דורשות עוד יותר ויותר data. התקלה השנייה שהיא הכי מעניינת ואני חושב שהיא הכי פחות מוכרת ומובנת, וקלאוד יצאו עם ארכיטקטורה שנקראת Harness בהקשר הזה, זה מה הערך של הדאטה הזה ואיך נכון לבנות מערכות אוטונומיות ומה הדאטה שמערכות אוטונומיות צורכות או צריכות, כדי באמת להגיע לדיוק גבוה. שבסופו של דבר זה המקבילה למה שאני קורא Cloud code moment. מה ה-Cloud code moment אומר? אומר ש- כולם בנו assisted. נכון? כולם התחרו, היו מתקדמים יותר מ-Anthropic הרבה מאוד זמן, ו-Anthropic היו תמיד בבנצ'מרקים באיזה מקום שם מאחורה... ופתאום ב-2026, סוף 2025, תחילת 2026 הייתה הפריצה הגדולה, זה ה-Cloud code moment. הם הגיעו למצב שאתה לא צריך להסתכל על הקוד. הקוד עובד. ולכן אתה יכול להגיע למצב ש- מפתחים בלי להסתכל על הקוד, וגם אנשים שלא יודעים לפתח יכולים לכתוב קוד. וזה האתגר הגדול, זה היה המעבר המשמעותי מ... וכשאני אומר ה-Cloud code moment, זה בדיוק הנקודה הזאתי. ואז הם עקפו את כולם, ומאוד קשה לכולם אפילו להגיע לנקודה הזאתי. טענה שלי מאוד דומה לעולמות של observability. ההבנה שהערך של ה-assisted ורוב המידע שהיה נכון ואולי עזר בעולמות של assisted, הוא כמעט, הייתי אומר המשקל שלו מאוד נמוך, אם לא, להיות יותר מדויק, זה לא שהוא לא רלוונטי. המשקל שלו מאוד מאוד נמוך בעולמות של autonomous. למה? כי כדי לבנות מערכת אוטונומית, אם תסתכלו אפילו על טייס אוטומטי או מכונית אוטומטית, אתה צריך להיות מסוגל לשחזר תקלה בצורה מבוקרת, ובצורה שיש לך הרבה מאוד שליטה על הסביבה, והיא מאוד predictable. ואז הדאטה שלך הוא התקלה עצמה והמאפיינים שלה ויכולות לשחזר אותה בסביבה מבוקרת. ולא דאטה שאספת על תקלות באופן אקראי, שאיכשהו אולי הם רלוונטיים, אולי הם לא, אבל כל אחד כתב אותם באיך איך שהוא רצה, ונאסף שם הרבה מאוד pile של אינפורמציה שהוא רלוונטי ולא רלוונטי ומאוד קשה לדעת. הנקודה השנייה, הרבה מהמידע על הפטרנים האלה נמצא במודלים. זאת אומרת, אני כבר לא צריך את המידע הזה שצברת, אם אני עכשיו רוצה לדעת על תקלות ב-Amazon או בקוברנטיס וההיסטוריה שלהם, יש לי את זה כבר נגיש במרחק נגיעה ב-model ש-trained על כל האינטרנט. זה embedded בתוך כל מודל. ומה שחסר זה שתי דברים. אחד זה ה-ספרייה של התקלות הזאתי שהיא ניתנת לשחזור וככה אני יכול לבדוק אם אני יודע לתקן או לא יודע לתקן ומה ה-coverage שלי מאחורי הדבר הזה, ושני זה באמת להיות מסוגל להוסיף את הרמות בקרה ודיוק על המודלים עצמם שהם כבר עשירים בהרבה מאוד מידע. ולא... וזה כמעט מייתר את המשקל לפחות, ובטח את העלות שהערך הזה של לצבור מידע בענן, מידע היסטורי בענן, כמרכיב מרכזי. וזה שילוב של גם מודל טכנולוגי או שיטה אחרת לחשוב על הבעיה, מאוד שונה, וגם מודל עסקי מאוד שונה. פתאום אני לא, אין שום הצדקה לגבות על איסוף מידע.

19:51 רן: כן. אז קודם כל אני אתן פה קריאת ביניים, התאפקתי רגע, אמרת לא צריך לקרוא קוד, בשלב הזה כנראה איבדנו חצי מהמאזינים שדרך אגב החזירו אלינו תגובות מהפרק הקודם ואמרו אתה חייב להבין מה אתה קורא, כנראה נראה אותם בעוד כמה חודשים, יגלו ש... אבל בכל אופן הוויכוח הזה שריר וקיים, נשים את זה רגע בצד, לא ניכנס לשם.

20:13 אורי: שמע, הייתה לי שיחה עם CTO של סטארט-אפ צעיר עכשיו, שהוא אתה יכול להגיד שהוא AI native. והוא בליבר. הוא, משהו שהוא אמר לי, הוא אומר תקשיב, אני מרגיש שאני מאיט את ה... כי אני, כי אני אוהב לקרוא קוד אז אני קורא. הוא רק קורא. אבל הוא אומר, אני יכול לא לקרוא, אני יכול להפסיק לקרוא קוד, פשוט להגיד לו run the tests. יעברו הטסטים, הכל יעבור, כאילו אני פשוט מסתכל וזה וזה לוקח זמן, אפשר לרוץ בינתיים...

20:38 נתי: אני יכול לפתוח פה בראנץ' נפרד לאיך עושים בקרה על קוד גם בלי לקרוא קוד...

20:41 רן: כן, אז יפה, לא ניכנס לשם, רק הייתי צריך לתת את קריאת הביניים הזאת. אבל בעצם מה שאתה אומר נתי, זה שהגיע הזמן שחברות יפסיקו למכור observability ויתחילו למכור אמינות, פחות או יותר.

20:51 נתי: כן. אני אומר שהמעבר מ-assisted ל-autonomous, הוא דומה מאוד למעבר מ-assisted driving ל-autonomous driving.

21:03 רן: כן. הוא דומה למעבר של... הוא לא מעבר אינקרמנטלי.

21:05 נתי: כן, הוא לא מעבר אינקרמנטלי. כלומר, אתה לא לוקח את אותה טכנולוגיה, שידעה לתת לך בקירוב או יכולת לעמוד באותו נתיב, והופך אותה עכשיו למערכת אוטונומית. גם מהסיבה שלמשל, אין לך נהג. במערכות אוטונומיות, אין לך נהג, אני לא צריך את הדשבורד, אני לא צריך את הדשבורד, אבל מצד שני אני צריך הרבה יותר סנסורים ומידע ריל טיימי הרבה יותר מדויק. אני צריך data integrity, אני צריך המון דברים שלמשל, כשאתה מנגיש מידע לבן אדם, אתה צריך לבנות הרבה מאוד שכבות של ingestion וכאלה...

21:29 רן: אז בוא נדמיין. אז בעצם מה שאתה אומר זה תאר לעצמך שאתה נוסע במכונית אוטונומית, המכונית האוטונומית שולחת את המידע הסנסורי שלה לענן, שם בענן יש מכונות שמסתכלות על המידע הסנסורי ומחזירות למכונית בחזרה הוראות "תפני ימינה, קחי שמאלה, תדליקי אורות".

21:51 נתי: יותר מזה. הדרך שהיא מגיעה לענן היא כזאת שלמשל מטריקות זה בדרך כלל ingestion של 5 דקות... עד שאתה אגב יכול לקרוא אותו זה עוד תהליך של עיבוד שנותן לו עוד איזה latency מסוים, לוגים בקצב יותר נמוך. יכול להיות מצב שאתה תקבל אלרט, ואתה תסתכל על הלוגים והם יגידו לך הכל סבבה, ופשוט בגלל שהמידע עוד לא הגיע, וזה בעיה של data integrity קלאסי, בגלל שהם נבנו לבן אדם. הם נבנו לזה שמי שמסתכל על המידע הזה זה בן אדם אנושי.

22:17 רן: אוקיי. בסדר, אז אתה אומר 1. יש פה בעיה של מחיר, ואולי הוא ידעך עם הזמן, אני מסכים עם אורי, זה יכול לדעוך אבל עדיין יש פה בעיה אינהרנטית של להסיע הרבה מאוד דאטה ממקום אחד למקום שני, ורוב הדאטה הוא באמת לא מעניין. אוקיי, זה המצב וזה בסדר. אז יש פה בעיה אחד של עלות, שתיים בעיה של latency. ואולי הבעיה הכי קשה זה בעיית הלוקליות. כלומר עכשיו כשאתה בא לפתור את ה... יש לך איזשהי תקלה, אם קיבלת מידע מ-1,000 שרתים, זה הרבה יותר קשה מאשר אם קיבלת מידע משרת אחד או או חמישה שנמצאים באותו קלאסטר.

22:54 נתי: הוספתי לזה גם את הדיוק והשיטת דיוק. זאת אומרת, המודל של Harness בעצם בא ואומר "יש לי את ה-company brain", ובמקום להישאר על מידע היסטורי אני בעצם משחזר תקלות, ובודק אותם בסביבה סטרילית, אני אתן את הדוגמה של Cloud code, אני כדי לדעת אם python מתקמפל ברמה כזו או אחרת, אני בעצם יודע, אחד, לבנות לי ספריה שיודעת לשחזר הרבה מאוד תקלות של באגים שיכולים להיות ב-python, ואני משלים את עצמי מתקלות שקורות אצל לקוחות או אצל משתמש, בזה שאני יודע להגיד אם הייתה תקלה, אני אקבל על זה חיווי מהקומפיילר או משהו שזה לא יהיה די מדויק, ואני אדע לתקן את עצמי ולהשלים את עצמי תוך כדי, וככה אני מייצר סוג של מערכת לומדת שכל הזמן סוגרת את הפערים. זה בגדול מה ש-Cloud code לעומת מודלים שהיו לפני כן, מודלי בינה קודמים עשה, כי Cloud code רץ על הטרמינל שלך, יש לו access לקומפיילר שלך, לקוד שלך, לסביבה שלך ולכן הוא ידע לתת את הפידבק לופ הזה, מה שנקרא Reinforcement Learning, verified rewards, RLVR. שה-verified reward, הוא זה שעשה את הקפיצה, מקודם זה היה mostly human reward, עכשיו זה verified reward והפידבק לופ הזה הוא בעצם מייצר קפיצה מאוד גדולה ביכולת להגיע לדיוק מאוד מאוד גבוה.

23:59 רן: כן. רק למי שצורם כמובן פייתון לא מתקמפל אבל לא חשוב. הקונספט מובן. אני יכול פשוט להריץ את התוכנית...

24:12 נתי: סליחה. אבל יש לך בכל זאת linter שיודע להגיד לך אם היה לך שגיאה סינטקטית או לא... יש מערכת עם חוקים, בקיצור, זה לא מערכת של רק טקסט.

24:22 רן: לא, אפשר פשוט להריץ את התוכנית. אפשר להריץ את התוכנית ולראות את ה... תקלות, לא.

24:27 נתי: כן.

24:28 רן: אבל בוא... יש פה עדיין איזה שהוא פער תפיסתי שאני, שאני לא רואה אותו. כלומר, אני מבין איך עושים את זה לקוד. אולי כי מישהו כבר עשה את זה, אז זה אפשרי. אני עוד לא מבין איך עושים את זה ל-production. אוקיי? אז, אז, אז איך כל הקסם הזה יכול לקרות?

24:43 נתי: אוקיי, אז א', כשאנחנו אומרים על פרודקשן אז אחוז גדול מפרודקשן זה בענן. אחוז גדול מהתקלות השכיחות ב- בזה נמצא כבר, הספרייה הזאתי קיימת, היא נמצאת בכל מודל. אני לא צריך להמציא אותה. עכשיו, על זה יש...

24:59 רן: ספריה נגיד אתה מתכוון ל... לא יודע.

25:01 נתי: אם קרה לקוברנטיס עכשיו תקלה ב-network, רוב הסיכויים שאם תשלח את הלוג של התקלה הזאתי ל- ל לצורך העניין ל-Cloud code או ל-Anthropic או זה, היא תדע להגיד לך בקירוב יחסית גבוה מה הסיבה.

25:13 אורי: הם דבופסים הרבה יותר טובים מ...

25:15 רן: כן, אתה, אתה גם רואה איך הוא מנתח את ה...

25:17 נתי: נכון. חד משמעית. אז אני אומר, הספרייה הזאת קיימת. כלומר ה-know how הזה, ה-Stack Overflow של ה-LLMים, whatever איך נקרא לזה, זה כבר נמצא בזיכרון הפרמטרי שלהם, אחלה, וגם אם לא, דרך אגב, הם יכולים לגשת אליו, זה לא קשה. יש עדיין פער, וזה הפער הנוסף שבעצם עליו רוכבים רוכבי את ההזדמנות השנייה, שבעצם ההבנה של הקונטקסט האפליקטיבי, הטופולוגיה, ההבנה של ההיכרות של הארגון, ועוד דברים אחרים שעוזרים לדיוק. כי מאוד, יש המון התראות שהן אמביגיוס, שהן רב משמעיות. הן לא חד משמעיות. וקל מאוד לטעות...

25:54 רן: כן. דוגמה. איך זה נראה?

25:56 נתי: יש לי עכשיו high utilization, CPU מאוד גבוה. זה יכול להיות בגלל שעכשיו יש לי באמת, חסר לי משאבים. אני פשוט צריך להוסיף משאבים. זה יכול להיות מזה שיש איזה side car, מישהו noisy neighbor, שמייצר באג ועכשיו אני בגללו חווה חוסר במשאבים, זה יכול להיות בגלל מישהו נכנס לאיזה endless loop ודברים מהסוג הזה.

26:24 אורי: או שיש יותר לקוחות, או שיש פיצ'ר חדש.

26:27 נתי: או שיש יותר לקוחות. נכון, אז יכולים להיות... יכולים להיות עץ יחסית גדול של אפשרויות. הרבה פעמים המודל ילך דווקא למקומות של תעלה את ה-capacity. אם אני לא אנגיש לו, את שאר הקונטקסט. זאת אומרת, אם אני לא אנגיש לו את הקונטקסט בצורה מאוד, מאוד טובה. עכשיו, יש גם את העניין של העלויות של טוקנים שאנחנו מכירים, זאת אומרת אם אני אזרוק עליו את הבעיה הזאתי, אז ייצור מצב שהוא יעשה הרבה טריאז'ים, זה גם ייצר מצב שזה לוקח הרבה זמן. מי שמכיר את זה בקלאוד, אז כל איטרציה כזאתי יכולה לשתות קפה, לחזור, ואולי הוא ימצא לך פתרון או לא, וזה לוקח זמן. ואתה רוצה להגיע לפעמים לפתרון בשניות ולפתרון בדקות, וגם שיהיה מדויק. אז, אז אתה צריך לשלב בין חלקים דטרמיניסטים לחלקים פרוביליסטים, כדי להגיע לאיזון הנכון גם בעלויות של טוקנים וגם במהירות ביצוע וביכולת להגיע לתשובה יחסית מהר. אז, אז זה המשחק שהופך להיות המשחק המרכזי והמשחק המרכזי.

27:26 רן: אז בוא נראה, נזרום רגע עם הדוגמה שלך ונראה אם אני מבין. זאת אומרת יש לי ככה high CPU utilization, מגיע כבר לאזור ה-90%, מתחיל להיות מסוכן, אז אולי בתור כזה רפלקס הדבר הראשון זה, אני אוסיף capacity. אוקיי, שמתי פלסטר רק לשנייה, ועכשיו אני אתחיל בריסרץ' קצת יותר עמוק של, אוקיי בוא קודם נבין למה יש יותר utilization, אולי נבדוק מה קרה אתמול באותה שעה, אולי נבדוק למה עשו מרג' לאחרונה, אולי נבדוק שינויים בקלאסטר, שינויים בראוטינג, לא יודע, נעשה סט של בדיקות. המטרה שלי עכשיו זה אחרי ששמתי את הפלסטר הזה, זה להבין מה ה-root cause ואולי אחר כך לייצר איזה שהוא תיקון יותר רובסטי, יותר, יותר אמיתי.

28:13 נתי: נכון. אז אני אגיד, אני חושב שאני שואף גם לא לוותר על השלב הזה של ה... תקלה ואז לזהות את זה, למרות שהרבה פעמים זה יקרה, והטענה שלי שאם אני בשלב הזה שאני מזהה את ה-CPU הגבוה אני אנגיש לך את הקונטקסט הרחב של 'זאת האפליקציה, זה ה... היא רצה למשל על spot instances', אז אתה יודע להגיד אוקיי, מערכת כזאתי מתנהגת בצורה מסוימת, איוונטים כאלה קורים בתדירות יחסית גבוהה, יש סיכוי גבוה שהדבר הזה הוא סתם רעש, בוא נחכה טיפה. ואז נחליט. ונעשה וריפיקציה. ואם הקונטקסט הוא 'זה לא, זה אפליקציה מאוד דטרמיניסטית שיש לה התנהגות מסוימת', ובמקרה זה נוגע ברכיב שהוא shared עם הרבה מאוד רכיבים אחרים, אז אני מבין שהרבה מאוד מהסימפטומים האלה נוגעים כנראה בגלל שה-shared resource נפגע ולא בגלל כל הסימפטומים שנגזרים מאחורי זה. אבל זה דורש באמת הבנה של טופולוגיה עמוקה יחסית, ולגזור את המידע מאחורי הדבר הזה.

29:00 רן: הנה מה שמפחיד אותי. כשקלוד כותב קוד, אני יכול לבחור להסתכל עליו, אני יכול לבחור שלא להסתכל עליו, בסדר, אבל אני עדיין ה-gatekeeper. אם רץ לי agent כזה אוטונומי בפרודקשן ומחליט אולי בטעות להוריד שרת, לשנות network configuration, מי יודע מה, לך תצא מהסמטוחה הזאת. כלומר, אם הוא עשה טעות, רדיוס הפיצוץ הוא לא נורמלי.

29:21 נתי: עקרונית שאני חושב שהרבה ענו עליה את אותה תשובה, כולל אתה בטח, איפה אתה מרגיש יותר בטוח לנסוע, במטוס שיש בו טייס אוטומטי או במטוס שיש בו טייס אנושי?

29:38 אורי: אתה יודע, בכל מטוס יש גם וגם. נכון. אבל אם אין לו טייס אוטומטי בכלל... הייתי מרגיש פחות בטוח.

29:43 נתי: פחות בטוח. אוקיי. הסיבה היא למה? כי אנחנו בסופו של דבר, זה עניין של trust... וכמה זמן המערכת...

29:54 רן: כן, דרך אגב גם סטטיסטיקות מראות שמכוניות אוטונומיות עושות הרבה פחות תאונות.

30:00 נתי: בדיוק, אבל, הפחד הוא לא סטטיסטי...

30:04 רן: שנייה, אני אגע בפחד הזה...

30:05 נתי: לא, אני אגע בפחד הזה כי אני חושב שיש לך אפשרויות לעשות בקרות הרבה יותר מאשר בן אדם יעשה אותם. למשל, חלק מהבקרות באות ואומרות, בוא נבדוק בכלל לפני שאני ניגש למערכת, מה ה-blast radius? זאת אומרת האם ה-impact הוא גדול או קטן. איך אני יכול לדעת את זה? אני יכול לדעת באיזה רכיב נגעתי ובכמה הוא קשור, כמה רכיבים תלויים בו, ואני יכול לדעת האם ה-impact הוא גדול או קטן. ולהחליט שאם ה-impact הוא גדול, או מעל גודל מסוים, רדיוס מסוים כמו שאמרנו, אני עוצר ובאמת מבקש מ-בן אדם להתערב.

30:33 רן: זאת אומרת, איזה שהוא קלאסיפייר שמסתכל על השינוי המתוכנן... דרך אגב, גם זה יש ב-Cloud code יש משהו כזה auto approve, כן? שמסתכל על השינוי המתוכנן ומחליט האם זה עובר או שצריך לעצור ולחכות לבן אדם.

30:44 נתי: נכון. אז, אבל אני אומר התנאים שהוא יכול לעשות הם הרבה יותר גדולים ממה שבדרך כלל בן אדם יעשה אפילו. או, או יקפיד לעשות בצורה דטרמיניסטית או עקבית. הנקודה השנייה אני יכול להסתכל, אם התקלה עדיין קיימת, יכול להיות שזה היה פיק ועכשיו היא לא קיימת. אני יכול לבדוק CPU. אני יכול לבדוק שהמערכת עצמה היא לא overutilized כרגע והיא עוברת איזה שהוא קראש שאם אני רק אנסה לעשות עוד תהליך אני אפרק את המערכת עצמה. אני יכול לעשות הרבה, הרבה, הרבה יותר בקרה על התהליך... וגם לדעת לרשום לך דוח מסודר על התהליך עצמו, ולדעת מתי לתת לך את המפתחות או את ההגה, ומתי אתה יכול, זה... עכשיו, כמעט כל מי ששאלתי אותו אמר 80% מהתקלות שאני מתעסק איתם הם repeatable. הם חוזרים על עצמם והם די שכיחים והם די פשוטים. יש כמובן את ה-20% שהם קשים. עכשיו, אתה רוצה לבודד את זה באמת ש... שהדברים שאתה תופעל בהם, הם באמת יהיו הדברים הקשים ולא הדברים הקלים. וגם שיהיו את הדברים הקשים, יהיה לך הרבה יותר מידע מונגש, ולא תצטרך לעשות טריאז' אינסופי עד שתגיע לקונטקסט. אז גם פה, אני יכול לעזור לך בלהנגיש לך הרבה מאוד מהמידע כדי שתבוא לבצע את ההחלטה בעצמך, הזמן שייקח לך לבצע כבר יהיה הרבה יותר קצר.

31:59 רן: הנה מה שמפחיד אותי. אני עדיין ה-gatekeeper. אתה תאבד את הסקיל האנושי לטפל בדברים המורכבים. אתה תיתקל בתקלה קשה ואתה... מול שוקת שבורה, אתה לא יודע כבר מה לעשות.

32:16 נתי: נכון, אני חושב שחצינו את הרוביקון הזה ואתה צודק, אני לא יודע אם יש פתרון לזה... אני לא יודע איך יראו המפתחים של מחר... שלא חוו את ההיסטוריה של הדבר הזה, אבל, אבל, שרגילים רק לבוא ולכתוב ב-Cloud code.

32:27 רן: כן. במילים אחרות, אם לא תפתח היום את הג'וניורים, לא יהיו לך מחר סיניורים. זה הבעיה.

32:32 נתי: נכון, נכון, ואני חושב שעברנו את הקו הזה. זאת אומרת, אני יכול להגיד לך למשל, אני, אני כבר מזמן לא כתבתי קוד, ואני היום כותב קוד בטירוף. הצורה שאני מבקר את עצמי, אני מצאתי של-להסתכל על קוד גם לוקח לי יותר זמן, וזה כנראה לא השיטה הנכונה לבקר בקצבים שעובדים היום. ואני עובד הרבה יותר ב... עושה הרבה יותר בקרה באמצעות flowcharts, דוקומנטציה, דברים יותר ויזואליים, יותר קל לי לבקר את הקוד ולראות האם הפלו עובד כמו, כמו שהייתי רוצה שהוא יעבוד או לא. ואני מגיע לבקרה לא רעה בכלל... בעיניי יותר טובה ממה שהייתי עושה אם הייתי מסתכל על קוד כי גם עם קוד אתה נהיה עיוור די מהר יחסית בגלל כמות הפרטים שאתה צריך לסרוק בזמן נתון. אז יש, צריך עדיין בקרות, הם לא חייבות להיות אותם בקרות שהיינו מכירים קודם לכן. לא חייב להסתכל על כל שורת קוד, לא חייב להבין כל שורת קוד. ההפך, דווקא היכולת שלי להסתכל ולייצר טסטים יותר עמוקים וב-ad-hoc, וברגע ששיניתי את הקוד הטסטים מתעדכנים. הבקרות נהיות הרבה יותר טובות בעיניי, מאשר "בוא תסתכל על כל שורת קוד ותנסה להבין אותה בעיניים".

33:40 רן: כן. כלומר אתה אומר, היכולת קצת לעצום עיניים ולהסתכל על מערכת בצורה יותר הוליסטית, זה הסקיל ההנדסי החשוב של המחר, לא בהכרח המיקרו של לעשות לצורך העניין אופטימיזציה.

33:53 נתי: נכון. כי אני חושב שבסוף בשורה התחתונה מה אנחנו אומרים? אנחנו אומרים, אני רוצה כן את הערך של אוטומציה אבל אני לא רוצה לאבד שליטה. אז זה תמיד המתח הקלאסי, זה היה קיים בעולמות של דבאופס, זה היה קיים כמעט בכל מערכות אוטומציה. איך אני מבצע בכל זאת, איך אני משחרר את ההגה, מצד שני לא מאבד שליטה. כל מה שאני אומר זה שצריך להתאים את השיטות לרוח התקופה או לכלים שקיימים כרגע. אם אתה תנסה לאלץ בקרות כמו שעשית קודם, בהכרח אתה לא תקבל את הערך של ה-velocity ש-AI יודע להציע.

34:31 רן: כן. אז, אז אתה יודע, אז בוא נהיה כרגע קרמבו. נתחיל הכי חזק שאפשר ולאט לאט נגביר. אבל אוקיי, אבל אחד הנושאים שאני חושב שלא יצא לנו כל כך עדיין לגעת בו, זה הלוקאלי מול המרוכז, לא יודע איך לקרוא לשני. כלומר למה זה משנה? אני מבין את העלות, אוקיי? אבל עדיין, זאת אומרת, אם אתה יודע, מצד שני, ברגע שאתה שולח את כל הדאטה לאותו מקום, אז אתה יכול להסתכל על כל הדאטה. ואולי לעשות קורלציות מעניינות.

34:52 נתי: או, אז, אז יש פה הרבה אספקטים, מרכיב לא קטן מהם זה סקיוריטי ועלות. הרבה אנשים היום חוששים מלשלוח את ה-data שלהם או... מתחיל להיות הרבה יותר רגיש אז, אז קודם כל זה כבר לא האופציה הכי שכיחה הייתי אומר. אם בעבר אנשים שחררו ואמרו "זה בסך הכל לוגים", היום יודעים שמאחורי הדבר הזה מסתתר גם מידע ארגוני מאוד רגיש. אז, אז יש יותר פחד מלעשות את זה. אבל מעבר ל-לבעיות האלה של הסקיוריטי, בסופו של דבר, יש גבול לכמה אני יכול לאסוף מידע למקום מרכזי. כאילו, איפה זה נעצר? אז באמת, לוגים ו-traces ומטריקות, זה איזה שהוא תחום מסוים, אבל בסופו של דבר כשאני מסתכל איזה מידע אני צריך בשביל לזהות תקלה, אני מדבר על קונפיגורציה, אני מדבר על שינויי קונפיגורציה, אני מדבר על הענן, אני מדבר על השירותים בענן, אני מדבר על ה-database שלך בענן, וה-load balancer שלך בענן, והמידע הארגוני שלך, וה-ServiceNow, ו-whatever. תנסה לאסוף את כל המידע הארגוני הזה עכשיו לאיזה מקום מרכזי... גם סיכון מאוד גבוה, גם לא sustainable, ואם אנחנו חוזרים לעלות, העלות היא כבר אקסטרה-אקספוננציאלית. ולכן אני חושב שה-הנחת מוצא הזאתי שגויה מראשיתה. אני קורא לזה תקלת שוק. התנאי שבו כדי לנתח בעיה אתה צריך קודם להביא אותה לאיזה ענן מרכזי ורק אז אתה יכול לנתח אותה, היא שגויה מהרבה מאוד סיבות, אחת ציינתי עכשיו, היא פשוט לא sustainable. ומצד שני, כשאתה חושב על הבעיה של "מתי אני צריך את המידע הזה ואיזה סוג מידע אני צריך באותה נקודת זמן", הרבה פעמים זה מידע מאוד קונטקסטואלי. זאת אומרת, אתה לא ניגש לכל המערכות של הארגון כל הזמן. יש לי תקלה מסוימת, אני יודע די בקירוב טוב לאן אני צריך לגשת... לאיזה קלאסטר, לאיזה namespace, לאיזה דאטה בייס, כדי להביא את המידע. ושם יש לי גישה לכל המידע אפילו הרבה יותר ממה שיש לי בענן המרכזי הזה.

36:44 רן: דרך אגב אמרת שמקודם ש-80% מהתקלות קרו כבר. והייתי רוצה לשאול האם גם 80% מהתקלות הן לוקאליות?

36:53 נתי: אז זה, זה, אני חושב משתנה... קודם כל, לא, קודם כל אני אומר, זה משתנה מאוד, כי עכשיו אנחנו מגיעים לעולם שבו הרבה מהקוד נכתב על ידי AI, ואנחנו רואים שינוי מגמה גם באופי התקלות. אם בעבר הרבה תקלות היו תקלות של human driven כאילו, טעויות אנושיות, של קונפיגורציה ודברים מהסוג הזה, היום התקלות הן נובעות מזה שיש קצב שינוי מאוד גבוה והוא מתפזר. אני לא חושב שעוד אפילו יש מספיק סטטיסטיקה להגיד באיזה עקומה הוא מתפזר ואיפה הוא בדיוק נופל ועל מה ולמה. אז אז אני חושב שיש שינוי בדבר הזה. אז קשה לי להגיד קלאסטרינג של הדבר הזה... בעבר זה היה הרבה מאוד...

37:41 אורי: לא, השאלה שלי, האם קיים ניתוח של אופי התקלות שבא ומצביע אלה תקלות שאפשר להבין ולפתור אך ורק מהסתכלות לוקאלית, ואלה תקלות שבהם אתה חייב הסתכלות גלובלית כי אחרת אתה לא תבין מה מה לעזאזל קרה פה.

37:55 נתי: כן. זה בפירוש אמירה מאוד מדויקת ונכונה והתשובה היא כן. למשל, כך מקרה קלאסי באמת של קוברנטיס שרץ על ענן. אז, אז, יש את מה שקורה בתוך הקלאסטר, ואת כל מה שהקלאסטר מחובר אליו. אז, אז בהגדרה אני לוקאלי-גלובלי, זאת אומרת, יש דברים שאני אדע לפתור לוקאלית ויש דברים שנוגעים בתשתיות שהם גלובליות שאני משתמש בהם ונעזר בהם. ולכן אתה צריך את ה-view הדואלי הזה. אני לא אכנס כרגע לאיך פותרים אותו אבל, אבל יש גם דרכים לפתור אותו. אבל הנחת מוצא היא שזה תמיד זאתי הנקודת פתיחה. זאת אומרת, אין מצב שיש רק לוקאלי ורק גלובלי. זה תמיד איזה שהוא מודל היברידי. והחוכמה היא באמת איך לעשות את זה נכון, בלי הצורך לאסוף גם את המידע הלוקאלי או הגלובלי לאיזשהו מקום מרכזי כל הזמן.

38:43 נתי: (Continues) וכל מה שאני מנסה להגיד, זה שאיך שאתה לא הופך את זה, ההסתכלות על observability כמקום מרכזי, שעליו אני שם agent ופותר אחוז גדול מהבעיה וזה הנכס המרכזי שעליו אני יכול לבנות, היא שגויה. ואני חושב שיגיעו לזה די מהר. וזה התאום שדיברנו עליו בפתיחה, שאני חושב שהתאום הזאתי תפגע מאוד בחברות שעדיין פועלות לפי הנחת מוצא הזאתי, שזה בעיקר חברות observability. והשחקנים שבאים מעולמות של AI native ו-Agent natives וכאלה דברים, אני מצפה שהם ייצרו את האלטרנטיבות האלה, שאמרתי עוד פעם, הכאב קיים, הצורך קיים, אני חושב שעוד אין את המודעות מספיק ש-יש דרך לפתור את הבעיה הזאת אחרת, וזה אני חושב איזה שהוא אתגר שיהיה עכשיו בתעשייה בתקופה הקרובה, כדי להגיע לשם.

39:34 רן: דרך אגב, כמו שקורה הרבה פעמים ב-innovator's dilemma, הם כנראה הראשונות שרואות את הבעיה ואחרונות שירצו לפתור אותה.

39:42 נתי: תראה, אתה רואה שהם עשו רכישות בתחום הזה. זאת אומרת שהם כן מזהים את הבעיה, הם כן מבינים שלשם זה הולך, הם כן מבינים שאם אתה לא... ורואים את זה בהצהרה של המנכ"ל של Datadog, וגם רואים את Dynatrace, שני השחקנים היותר דומיננטים שנמצאים בתחום הזה, מצהירים כבר הרבה מאוד הצהרות בתחום הזה...

40:02 רן: כן. הם יהיו חייבים לעשות את זה כדי לסמן וי.

40:05 נתי: הכתובת נמצאת על הקיר, היא על השולחן, היא על הלוח, היא על איפה שלא תרצה. אני יכולה להגיד להם, היא תהיה בעיה. חברות ציבוריות שעיקר ההכנסות שלהם באות מגידול בכמות הדאטה שהם אוספים, ועכשיו אתה אומר להם "זה לא... זה לא הדרך הנכונה, זה לא הולך". עם זה יהיה להם קשה לאבד. אז הם עושים הרבה דברים בשביל לגדר את הסיכון, נקרא לזה ככה.

40:29 אורי: אני רציתי להגיד לך משהו לגבי הלוקאלי והגלובלי. היכולת לקחת תקלה שעכשיו קרתה איפה שהוא ולעשות pinpointing איפה היא ולהפוך אותה ממשהו גלובלי ללוקאלי, כשאתה מסתכל על זה בעולם של האנשים אז זה או system architect מאוד טוב שמכיר מספיק טוב את ה-זה, ולהגיד 'אה, אוקיי, זה פה'. או SRE מאוד מאוד טוב עם הרבה ניסיון. אבל היכולת שלהם, הרי, רוב התקלות זה כי משהו השתנה.

41:04 נתי: נכון. וואו, אני, אני ממש רוצה לבנות על המשפט הזה. המילה "משהו השתנה" במושגים של דבאופס זה drift, נכון? והרבה פעמים נותן את דוגמה, וסליחה על כל מי ששומע את זה, האנלוגיה שאני משתמש בה זה זירת פשע. איך אנחנו יודעים מה קרה בזירת פשע? יש לנו מעגלים של מצלמות אבטחה, אנחנו מסתכלים מה השתנה. זאת אומרת, אנחנו אומרים מה קרה ברגע האירוע, ומה קרה לפני...

41:25 אורי: ומנסים להבין root cause.

41:27 נתי: בדיוק. אבל הצורה שבה אנחנו עושים את זה, אנחנו בעצם כמו בצל, אתה מתחיל לקלף את המעגלים האלה ולאט לאט אתה אוסף את הנתונים...

41:35 אורי: אבל, אבל זה נכון כי הבלש עכשיו שבא ועושה את הפורנזיקס הוא מגיע כחיצון לאירוע. אוקיי? שיש לך AI, אותו agent שכותב את הקוד, שדוחף את הקוד, שעושה את השינויים במערכת...

41:51 נתי: מעולה. ואז... מעולה, מעולה, מעולה... זה, אתה, אתה פשוט עוזר לי מאוד בדיוק. אז אחד אמרנו, יש פה את הקליפות בצל שאני צריך לדעת לאסוף, שני זה ההבנה העמוקה של המערכת. טופולוגיה, ההיסטוריה שלה, האופי של הרכיבים, התלויות בין רכיב לרכיב. אלה שני האזורים שבסופו של דבר הם הייתי אומר עמודי תווך המרכזיים להצליח להגיע לדיוק יחסית גבוה. ואתה צריך את שניהם. היום יש כלים גם להכיר את המערכת שלך לעומק, גם אם אני לא הכרתי אותה דקה אחת לפני כן, זאת אומרת בשונה מחוקר שמגיע לזירת פשע ועכשיו צריך להכיר אותה, אז ייקח לו זמן ללמוד את הדבר הזה, היום רוב הידע הזה הוא דיגיטלי, הוא נמצא, הוא קיים, אני יכול לשאוב אותו, אני יכול גם להיעזר בך כדי להשלים אותו, מה שנקרא זיכרון ארגוני בהרבה מאוד מערכות Harness זה נקרא זיכרון ארגוני. ואני, ואני גם משלים אותו תוך כדי תנועה. זאת אומרת, אני כל הזמן בונה אותו תוך כדי תנועה.

43:00 אורי: במקרה הזה אני אומר שהחוקר הוא גם הפושע.

43:03 רן: תסביר.

43:04 אורי: אותו agent שכתב את הקוד, בסדר, עשה את ה-change, עשה גם את ה-PR, בסדר, ודחף את הקוד לפרודקשן, הוא גם זה שאחר כך רואה את התקלה וצריך לתקן אותה.

43:21 נתי: אוקיי. קודם כל זה לא אותו סוכן, אולי אותו LLM אבל זה לא אותו סוכן בדרך כלל, אז בוא נגיד, אני, אני מקווה שזה לא אותו סוכן...

43:30 רן: זה לא אותו סוכן אבל קונספטואלית זה יכולות דומות. אוקיי? במובן הזה של, אם יש לו blind spots, אז יכול מאוד להיות שגם ל-shunt יהיה איזה שהוא blind spot.

43:40 נתי: כן. עכשיו אני ככה לקראת ה-closure, אני חושב שצריך לדבר עוד פעם על ה-efficiency. ה-efficiency זה תמיד מילה כזאתי מכובסת ש-אומרים "אוקיי efficiency, כולם יכולים לעשות efficiency, אחד יוביל, השני ילמדו, יסגרו את הפער הזה" ודיברנו קצת על דקארט והשווי של דקארט היום, חברה ש-כנראה הולכת להיקנות על ידי Anthropic...

44:03 רן: דיברנו על זה off record, אנחנו לא יודעים אם זה יקרה, אבל...

44:06 נתי: כן, אבל, אבל אני אומר, זה, השווי הוא מראה כמה ערך יש ל-efficiency היום בעולמות של AI, שהעלויות תשתית ודברים מהסוג הזה מאוד מאוד יקרות, ולכן efficiency הפך להיות מאיזה משהו נישתי שמוכנים לשלם עליו יחסית מעט בעולמות של ה...

44:23 רן: תעשה את זה ב-20% יותר יעיל, זה שווה הרבה הרבה מאוד כסף.

44:26 נתי: בדיוק. בדיוק. ואני חושב שמה שתיארנו כרגע בתהליך, אם אתה עובד עם cloud data cloud מרכזי, היכולת שלך להגיע ל-efficiency היא כמעט, החסם התחתון שלך הוא מאוד מאוד עליון, גבוה ביכולת שלך בכלל להגיע ל-efficiency. וזה שוב פעם, חוזר גם לדוגמאות של מכוניות אוטונומיות, אני הייתי בונה מכוניות אוטונומיות אחרת לגמרי מאיך שאני בונה מכוניות רגילות, מכוניות חשמליות, גם, אני בונה אותם אחרת לגמרי מאשר בונה מכוניות בנזין. זאת אומרת, יש ל-efficiency ול-engineering של הדבר הזה משקל בסופו של דבר מאוד מאוד גבוה בעלויות, והעלויות האלה הם עוד חסם מאוד משמעותי. ואפשר לעשות את ה... כמו שתיארתי בכלים שתיארתי, אפשר לעשות את זה הרבה הרבה יותר יעיל, לעומת הגישות, הייתי אומר הקלאסיות, שהיו קודם לכן. אבל אז זה דורש לחשוב אחרת, וזה מה שעדיין רוב התעשייה לא עושה. לחשוב אחרת על כל התהליך, ולהגיד למה DevOps ו-SRE הם בכלל אנשים שונים? למה התהליך נראה כמו שהוא נראה? במקום לקחת את התהליך כמו שהוא נראה ואת הצוותים כמו שהם קיימים ולהגיד 'אוקיי עכשיו נצמיד לכם agent שיעזור לכם לעשות את מה שהייתם רגילים לעשות'. לא. זה לא חשיבה נכונה לדעתי. החשיבה הנכונה היא להגיד, יש פה הזדמנות לחשוב אחרת.

45:47 אורי: זה קצת פרוקסי לפודקאסט שלנו מחר.

45:50 רן: Stay tuned.

45:52 אורי: Stay tuned.

45:54 רן: מה זה הפודקאסט מחר?

45:55 אורי: אנחנו נדבר על מהפכת האייג'נטים ב-AI first companies. Stay tuned. אני בטוח שגם את השיחה הזאת שאנחנו נמשיך נתי, זה בעצם יהיה חלק 3 מתוך N.

46:13 נתי: האמת האמת ששלי בא לעשות איתך פודקאסט, ולראיין אותך. זה אני חושב הפודקאסט הבא.

46:19 אורי: יאללה קבענו, שמעתם את זה פה לראשונה.

46:21 נתי: כן, כי זה מתקשר לצד אחר שאתה מתעסק איתו וזה אני חושב סוגר לנו פה איזה שהוא לופ מעניין. והייתי רוצה להיות דווקא בצד השני עכשיו.

46:31 רן: חד משמעית. אוקיי, אחלה, אז תודה רבה נתי.

46:34 נתי: תודה לכם.

46:36 רן: אז כמו שאמרנו, זה היה החלק השלישי שמדבר על מה עושים agents ב-production ואנחנו, אני חושב שאנחנו נשמע על זה עוד.

46:42 נתי: בהחלט. ויהיו עוד התפתחויות בתחום אני בטוח. אז תודה רבה. להתראות.

46:47 רן: להתראות.