פרק מספר 505 של רברס עם פלטפורמה - באמפרס מספר 89, שהוקלט ב-13 בנובמבר 2025, רגע אחרי כנס רברסים 2025 [יש וידאו!]: רן, דותן ואלון (והופעת אורח של שלומי נוח!) באולפן הוירטואלי עם סדרה של קצרצרים מרחבי האינטרנט: הבלוגים, ה-GitHub-ים, ה-Claude-ים וה-GPT-ים החדשים מהתקופה האחרונה. 🎗️
[00:36] הכוכבים (בשאילתות) של שלומי
(רן) אז היום יש לנו אייטם מיוחד שמוקדש לידידנו שלומי, ואני מבקש מאלון - תתכבד להציג אותו. Go for it!
- (אלון) טוב, אז אני ראיתי את האייטם הזה - וישר נזכרתי בהרצאה של שלומי נוח מהרברסים הראשון [זו מ-2014, שזה תכל’ס השני - Ignites - The query which is the peak of my career / Shlomi Noach - YouTube - אבל הייתה לו גם אחת מעולה באחרון - Consensus: Quorum, Minority Quorum, Administered Quorum, and Beyond / Shlomi Noach], על איך הוא עשה Pie Charts וגרפים ב-SQL, ואז מישהו כנראה גם שמע את ההרצאה והחליט להעלות רמה . . . .
- (אלון) והפרויקט ב-GitHub נקרא DOOMQL, וזה “a multiplier Doom-like shooter implemented entirely in SQL powered by CedarDB”.
- שלומי - אז הבמה שלך . . .
- (שלומי) קודם כל, בשביל זה SQL נוצר, שיהיה ברור, כן? כל הקטע הזה של שאילתות, Join-ים של טבלאות -זה סתם, זה לחלשים [לחזקים באמת - ?Will it run DOOM]
- טוב, אני מסתכל ומשתאה - הבנאדם מימש פה משחק מעל SQL . . . . אני עוד מנסה להבין אם זה Stored Routines וכאלה, או שזה באמת שאילתה כמו שצריך.
- כאילו, שאילתה אחת עם 50,000 שורות . . .
- (דותן) אני מציע שנעבור שורה-שורה, ותסביר לנו את השאילתות . . . .
- (רן) בוא נתחיל ב-gameloop.sql, ה-Loop של ה-Game.
- (דותן) כן - כל אחד שיפתח וקדימה: אנחנו בשורה 6 . . . .
- (אלון) קודם כל זה מתחיל ב-Begin Transaction, שימו לב! זה מצב טוב, אפשר לעשות Rollback למשחק.
- (שלומי) מטורף. אז למי שלא רואה, יש פה משחק ASCII Chart, שמונע על ידי שאילתת SQL בת . . . האמת, 157 שורות - זה קטן, ה-SQL Pie Chart שלי קצת יותר ארוך מזה . . . . מטורף.
- (דותן) רגע, איך אנחנו יודעים שזה לא AI כתב את זה?
- (רן) AI לא כותב היום הכל? מה השאלה? אבל מה שכן, נראה שהוא לקח השראה מפרויקט אחר, דומה, שנקרא DuckDB Doom.
- שזה גם כן מימוש של Doom - רק מעל DuckDB . . . . הוא לא הראשון בנישה.
- (אלון) וואו, יש הרבה כאלה . . .
- (דותן) רגע, אבל יש פה מה להסביר. מה, כאילו, איך זה מוציא החוצה את ה... זה לא, מה זה מוציא החוצה? זה לא אמור להוציא החוצה טבלה? זה SQL, לא? מוציא Characters ככה . . .
- (שלומי) ה-Output הוא יכול להיות טקסט שמג'ונרט (Generated) על ידי SQL.
- כלומר, הרעיון של לייצר ASCII Chart או ASCII Graphic.
- זה פשוט, לצורך העניין, שורה אחת, עמודה אחת, שהיא ה-Image הזה.
- ואת ה-Image הזה אתה יכול לג'נרט (Generate) ב-SQL.
- (דותן) רגע, אם כבר אנחנו רציניים - אז כל הדבר הזה זה כאילו שאילתה, שהיא לוקחת . . . . שאילתה אחת שהיא לוקחת זמן, ואיך זה עובד? או שזה כמה שאילתות? כאילו...
- (רן) זהו, איך עושים את זה אינטראקטיבי? זאת השאלה.
- (שלומי) כן, זה עוד חדש לי. אני עוד לא נכנסתי לזה. אפשר לשער שזה כמה שאילתות שרצות אחת אחרי השנייה, כמו Stop Motion. זאת ההנחה שלי.
- (רן) זה כנראה Loop כזה, אוקיי. לגבי השאלה שלך, דותן - נגיד לגבי ה-Rendering
- אז נגיד תסתכל בקובץ renderer.sql, נגיד בשורה 130.
- ואתה תראה שיש שם כל מיני Characters - שאיתם מרדנדרים (Render) את המסך, לפי איזשהו תנאי.
- אבל לגבי ה-Loop של ה-Game והאינטראקטיביות ותגובה לחיצים וכל זה, או לא יודע, אולי זה מקשים אחרים?
- (אלון) יש פה Python שמקבל את ה-Input-ים - ואז לפי זה עושה את ה-Queries.
- אז הוא מקבל, נגיד, “ימינה” - ואז מריץ את ה-Query, מרנדר (Renders) ב-SQL ומחזיר.
- בסך הכול נשמע לי יעיל ואפקטיבי . . . . אני צריך להתחיל ככה להעביר הכול לשם.
- (דותן) בעצם כל שאילתה ב-30 Frame-ים לשנייה צריכה לקחת כמה זמן, במקסימום?
- (רן) לא, שנייה. אלון - זה לא Python. רגע, יש גם Server ויש גם Client.
- ה-Client ב-Python וה-Server כתוב ב-Bash.
- (אלון) . . . כיאה ל-Server-ים . . .
- (רן) כן . . . . אבל יש פה Loop כלשהו, כן, נכון.
- (שלומי) דרך אגב, יש אלמנט של זמן בשאילתות - אפשר להכניס כזה דבר.
- יצא לי לכתוב שאילתות שמג'נרטות מטריקות (Generate Metrics) Rate כאלה.
- כלומר, שאילתות שמחולקות לשתיים - עושות איזשהו Select אחד על מטריקות (Metrics), ואז Union Sleep, Union לשאילתה נוספת שקוראת מטריקות . . . .
- ובעצם שני החלקים האלה נקראים בזמנים שונים.
- ועל כל זה - שאילתה שלוקחת, עושה Diff ומחלקת בזמן - וקיבלתם Rate!
- אפשר אפילו להכניס אלמנט של זמן בתוך שאילתה [רק למקרה שאחד הסטודנטים בקהל עדיין הצליח לעקוב אחרי הטרלול הזה].
- (דותן) רצוי!
- (אלון) רצוי, רצוי . . .
- (רן) . . . .זה לא כיף בלי זה.
- (אלון) רן, כאילו, יש פה מסקנה אחת מתבקשת - ב-Reversim 2026 האתר חייב להיות ב-SQL . . . אני לא רואה אחרת.
- (רן) ענבר, אני מקווה שאת שומעת את זה . . . . האתר ב-SQL. לתשומת ליבך.
- טוב, תודה רבה. איזה יופי, שלומי - שומעים את הציפורים! איזה כיף.
- (שלומי) יאללה, תודה.
- (רן) בואו, אנחנו נמשיך לאייטם הבא.
[05:54] רן
- (רן) אז כמה אייטמים ממני. אחד - LangChain, שאני מניח ששמעתם עליהם כבר כמה פעמים, גייסו לא מזמן סבב של 100 מיליון דולר, בוואלואציה (Valuation) של $1.25 מיליארד.
- ולמה זה מעניין, לדעתי? אז קודם כל, LangChain בונים איזשהו Framework לעבודה בעיקר עם Agent-ים.
- זה התחיל מ-RAG, זה עבר ל-Agent-ים, וזה עושה לא מעט דברים אחרים . . .
- אבל זו דוגמה לתופעה, שלדעתי כבר נהיית די רחבה, של כמה פרויקטים בתחום הזה, ספציפית ש . . . נקרא לזה “AI ו-Python” - אבל בגדול פרויקטים בתחום של AI, Agentic וכו', שכולם מתחילים מפרויקטי Open Source והופכים לחברות מסחריות בקנה מידה די-גדול.
- אז LangChain זה אחד מהם, אמרנו - 1.25 מיליארד שווי; LlamaIndex גם גייסו כסף, אני לא זוכר מה וכמה [$19M] וכמה השווי [בערך $93M]; Ragas, זה פרויקט קצת יותר קטן, גם גייס כסף, וכיום לדעתי, זאת אומרת, גייס סדר גודל של עשרות מיליונים [נראה שיותר לכיוון $500K]; Pydantic, שזה למעשה Framework שהתחיל בתור Data Typing ו-Safe Typing ל-Python, יש להם . . . הם פתחו איזושהי נישה שנקראת Pydantic AI, שזה משהו שנועד ספציפית לעבוד עם LLM בצורה יותר בטוחה - וגם הם חברה שגייסה לא מעט כסף.
- זהו, אז יש פה טרנד שהולך ומתגבר. מעניין.
- (אלון) יש “דומה-אך- שונה” - N8N, שגם גייסו הרבה מאוד כסף - אבל אני אישית לא מבין את הגיוס הזה של LangChain, אני חייב להגיד.
- בסוף, מדובר ב-Framework שדי קל לשכפל.
- כאילו זה לא, לא יודע - אין פה זה, משהו מרתק.
- אני יודע שיש לו פופולריות, למרות שאני אישית שונא אותו, אבל כאילו, יש להם . . .
- נגיד, N8N אני מבין - יש להם User Base עצום, יש שם קהילה, יש שם הכל.
- על LangChain, אני פחות ראיתי שזה עובד באותה צורה של Subscription, קהילה, כאילו...
- (רן) יש להם גם את זה. אתה צודק, אז הם התחילו לגמרי מספריית Open Source, כש-N8N התחיל מ-Service, למיטב ידיעתי.
- אבל LangChain התחילו כספרייה - והם פיתחו Service, נגיד Service ל-Processing של מסמכים.
- נגיד, במקרה הטיפוסי, יש לך מסמכים במיליון פורמטים שונים - Doc, PPT, PDF, תמונות, וידאו . . .
- ואתה רוצה להמיר אותם לפורמט של-Agent-ים קל לעבוד איתם - וזו עבודה קשה.
- אז הם יצרו Service כזה - ודרך אגב, הם לא היחידים, יש גם אחרים.
- אז הם יצרו כמה Service-ים כאלה, וגם Service ל-Monitoring, יש להם Framework שנקרא LangGraph, שזה בעצם Framework להרצה ספציפית של Agent-ים.
- ואחד האתגרים שם זה היכולת לעשות אינסטרומנטציה - היכולת להסתכל על מה Agent עושה, ולהבין אם הוא עושה את הדבר הנכון.
- אז הם גם פתרו את הבעיה הזאת.
- אז כן יש להם Service Online. אני לא יודע להגיד לגבי גודל ה-User Base, אבל זה Framework כן פופולרי.
- (רן) דרך אגב, LangGraph לדעתי הרבה הרבה יותר פופולרי מ-LangChain המקורי . . . זה Framework חדש שבעצם צמח מתוך LangChain, והוא הרבה יותר, לדעתי, הרבה יותר פופולרי. Se Tu . . .
- (אלון) לא הייתי מהמר, אבל בסדר, יש אנשים ששמו את הכסף.
- (רן) כן, בסדר.
- אוקיי, אנחנו היום ב-13 בנובמבר - לפני שבועיים פלוס, אולי אפילו שלושה שבועות, היה לנו כנס Reversim Summit 2025!
- אז שווה להזכיר - הכנס קרה, ה-Video-ים של ההרצאות בקרוב ישתחררו [כבר כאן - והם מעולים], אז היה מוצלח לדעתי.
- קודם כול - תודה לכל הדוברים! שניים מהם במקרה עכשיו נמצאים פה בחדר . . . אז תודה לכולם.
- הצוות עשה עבודה מדהימה, הפידבקים שקיבלנו מצוינים.
- נכון, תמיד יש מה לשפר בגזרת האוכל - אבל בכל מה שקשור לתוכן, מקצועיות, הכנה וכל זה, היו אחלה-אחלה פידבקים.
- אז באמת - תודה רבה לכל הצוות ותודה למרצים.
- וזהו, צפו ל-Video-ים [שוב, הציפייה תמה - כבר כאן]- חפשו את Reversim Summit 2025, בקרוב זה יהיה ב-YouTube בקרוב לביתכם, מוזמנים לבוא ולראות.
- אלון דיבר על Timeouts והשטן, נכון?
- (אלון) Timeouts, Retries and the Devil, כן.
- (רן) Timeouts, Retries והשטן . . . .
- ושלומי דיבר איתנו על קונסיסטנטיות (Consistency), בדרך שלא הכרתם ולא חשבתם עליה לפני זה . . .
- (רן) כן, אז זהו - שוב, תודה, ומוזמנים לבוא ולראות את ה-Video-ים. האייטם הבא.
- (אלון) היה כיף אדיר, אני רק אגיד. פעם ראשונה, מהצד השני, של להיות מרצה ולא מודרטור.
- היה ממש כיף, משעשע - ניפגש בכנס הבא.
- (דותן) רגע, איפה אפשר לראות את ההרצאות? ב-YouTube?
- (רן) כן, בקרוב [בהווה] זה יהיה ב-YouTube, כן.
- הם כרגע בשלבי אישורים ותיקונים אחרונים. אני מקווה שעד סוף השבוע, אולי תחילת שבוע הבא, נפרסם את כולן. כשאתם שומעים את הפודקאסט...
- (אלון) פשוט רוצים לשפר את דעת הקהל - אז אנחנו משנים את התוכן תוך כדי בווידאו . . . .
- קיבלנו את הפידבקים של הקהל - ואז אומרים, “אה, לא דיברנו על זה”, ואתה מוסיף כמה דקות על עוד נושא. זה הרעיון בווידאו.
- (רן) כן, לגמרי, כן . . . כמובן שאת כל זה AI עושה עבורנו, אנחנו לא נקפנו אצבע!
- [זאת ועוד / פרומו פוטנציאלי לבאמפרס 90 - הטייק שלי על טעימה מהיכולות המטורפות של ננו בננה פרו - אינפוגרפיקה של שירי רברסים].
- (רן) טוב, נושא אחר שרציתי להעלות - כנס NeurIPS, שזה כנס שנתי מאוד גדול בנושא של למידת מכונה וספציפית Neural Networks, קורה בדצמבר - נובמבר או דצמבר, לדעתי דצמבר.
- וזה כנס כל כך גדול שמספר - זה כנס אקדמי, אוקיי? - זה כנס כל כך גדול, שמספר המאמרים שנשלחו אליו זה קרוב ל-6,000, אוקיי? בנושאים שונים.
- אז הגיע ידידנו Jay Alammar, אני מקווה שאני אומר את השם שלו נכון, מחברת Cohere - והלך ואסף את כל המאמרים האלה, ועשה מהם ויזואליזציה מקסימה, ועל זה אני רוצה לדבר.
- הוא בעצם לקח את המאמרים ועשה להם . . . הוציא מהם Embeddings - כלומר חילק אותם לנושאים, ועשה מהם Clustering, ומציג אותם בצורה ויזואלית מאוד מאוד יפה, ככה שאפשר . . .
- דרך אגב, לי הצורה הזאת נראית קצת כמו מוח, יש כאלה שאמרו שזה נראה להם כמו אולי לב . . .
- בכל אופן, “ענן כזה של מאמרים” מאוד יפה, בצבעים ועם כותרות.
- (רן) ואפשר לעשות עם זה שני דברים - אחד, זה פשוט להסתכל על המאמרים, על האזורים שמעניינים אתכם.
- החלק האהוב עליי זה “תסביר לי את המאמר כאילו אני בן חמש”, אוקיי?
- לא צריך להבין בתחום - אפשר לקרוא איזשהו תקציר קצר על המאמר, והוא מספר לכם על מה הוא נעשה, על מה הוא כתוב.
- אבל בנוסף, הוא גם כתב בלוג-פוסט מאוד ארוך ומפורט על איך הוא עשה את זה - וזה לדעתי גם מעניין.
- הוא סיפר באמת איזה Embeddings הוא עשה, איך הוא עשה Clustering, איך הוא עשה תקצור של המאמרים וכל זה - וזה מעניין, זה נחמד לקרוא, לראות את “מאחורי-הקלעים”, לראות איזה התלבטויות היו לו.
- יש פה שילוב של Machine Learning קלאסי - כלומר Clustering וכו’ - ו-Deep Neural Networks, כלומר LLM-ים, Embeddings, תקצור ועוד כל מיני חיות אחרות.
- וכמובן - UI נחמד שהוא בנה בשביל זה.
- זהו, אז תודה גם על ה... בעצם גם על התוצר - אבל גם על ההסבר, שאני חושב שהוא מאוד Instructive ומעניין.
- (אלון) יש במקרה הזה משהו אנקדוטלי? מאמר אנקדוטלי שמעניין? שאתה יכול להסביר לי כאילו אני בן חמש?
- (רן) האמת היא שעברתי על כמה, אבל אני לא זוכר כרגע.
- (אלון) זיכרון של בן חמש, בסדר . . .
- (רן) כן . . . אבל חבר של אחיינית שלי גם הגיש - ואחד המאמרים שלו נמצאים שם, (רן) אז תודה איתי!
- זהו, לאייטם הבא. אלון - שלך.
- (אלון) שלי? טוב . . .
[14:10] אלון
- (אלון) אז Atlas .Atlas - הדפדפן של OpenAI יצא, והוא די משעשע . . .
- כלומר, מה זה? זה בעצם Chromium, כשיש בצד Chat - ואז אתה אומר לו לעשות כל מיני דברים.
- עשיתי איתו כל מיני ניסויים, כמו . . . נתתי לו את הרשימת קניות של הסופר, ואמרתי לו “תעשה לי הזמנה של קניות!”
- ואז הוא עשה - לא שם את הדברים הנכונים ברשימה, אני חייב להודות.
- ואז אמרתי “טוב, תסתכל ברשימות קודמות, תתחיל, זה . . . .”
- אחרי איזה שעה שהוא הסתבך, לא היה לי כוח - ועשיתי לבד את ההזמנה, אבל הקונספט היה חמוד.
- אבל אז עשיתי ניסוי אחר מעניין, ופתחתי User ב-Twitter, ואמרתי לו “בוא, תתחיל לעקוב אחרי אלה, ותתחיל לריב עם אנשים” . . .
- (אלון) וזה היה נורא, זה נורא . . . .
- הוא רץ במשך כמה שעות רב עם אנשים, השיג Followers - זה היה די משעשע.
- אז אל תנסו את זה בבית, זה היה סתם בשביל ה . . .
- (דותן) אז על מה הוא רב? על בסיס מה הריבים שהוא יצר?
- (אלון) נתתי לו, כאילו “אתה קיצוני בזה וזה”, ונתתי לו איזה משהו כזה . . . כאילו, נתתי לו על הדמות . . .
- (דותן) אה, אז יצרת לו פרסונה, כאילו?
- (אלון) כאילו, אמרתי לו “תקשיב, זה אני, אני מדבר על זה וזה - קיצוני!”
- עשיתי לו כמה Followers, ואמרתי “תתחיל להגיב, תכתוב פוסטים וזה”.
- והוא קרא מאמרים, הגיב, כתב פוסטים, רב עם אנשים . . . . היה די משעשע, אני חייב להודות.
- (רן) קראת לו “Real Alon Nativ”? . . .
- (אלון) השם שמור הוא במערכת . . . הוא רב עם יותר מדי אנשים.
- (דותן) רגע, בעברית או אמריקאית?
- (אלון) בעברית, הלכתי על עברית.
- (דותן) אז הוא הסתובב בינינו, הדבר הזה . . .
- (אלון) נכון, בגלל זה הוא . . . אני שומר פה על אנונימיות קלה.
- (דותן) יפה . . .
- (אלון) Bot ביניכם (Among us) . . . . ביניכם מסתובב Bot של...
- (רן) מתכתב עם אחת ההרצאות בכנס - One of us is an Agent.
- אלון) יפה . . . . בקיצור, אז אין פה משהו שכביכול לא היה אפשר לעשות קודם.
- כלומר, יש חוות-Bot-ים ודברים כאלה.
- אבל מה שכן מעניין זה שזה הגיע להמונים - כלומר, הניסוי הזה, של להפעיל חוות-Twitter לוקאלית, שממש עבדה יפה, זה סתם גימיק של ניסוי.
- אבל אפשר לקחת כל דבר ולעשות את זה.
- (אלון) וגם עובר Captcha-ות, שזה אחד הדברים הכי מגניבים, כן?
- כאילו, יש Captcha-ות באתר, אז הוא כמובן עובר אותו.
- מה, הוא רובוט? אני לא מצליח לעבור - אבל הוא עובר.
- אז כל מיני אוטומציות שאפשר לחשוב עליהן - אפשר לעשות, וזה פותח, לא יודע, פותח מלא דברים.
- גם מבחינת, אני חושב, משנה את עולם ה-UX קצת, כי אם עכשיו אנחנו עשינו User friendly לאנשים, עכשיו יכול להיות שאנחנו רוצים את זה של-Bot שלנו בצד יהיה יותר נוח.
- (אלון) אני מוכרח להודות שזה עוד לא פרפקט, אבל בואו נגיד שלגרסת בטא זה ממש חמוד.
- אבל לא הפכתי אותו עדיין לדפדפן הראשי שלי, אני חייב להודות - קשה לי להיפרד עדיין מ-Arc, אבל אני עדיין משחק איתו הרבה.
- (רן) בכל אופן, אתה אומר “AI טוב כדי לריב עם אנשים” - זו המסקנת ביניים שלי.
- (אלון) כן, ולקניות בסופר פחות . . . . למרות שאני ממש . . . זה כאילו, אמרתי לו “תסתכל על הקניות הקודמות, לך לפי זה ותשלים - נגיד אני אומר לך חלב, אז תראה כבר איזה חלב קניתי” וזה . . .
- לא יודע, לא הלך טוב.
- מצד שני, הרשימת קניות שלי לא ברורה . . . רשום “מעדנים לנבו”.
- (רן) אם אתם זוכרים, בפרק הקודם דיברתי על ניסיון שלי להשתמש ב-Comet כדי לעשות איזשהו סיכום של הוצאות - לקחת Spreadsheet ולסכם אותו מתוך כרטיס אשראי, PDF לכרטיס אשראי - וגם זה העלה חרס בגדול.
- זאת אומרת, הוא פתח מלא מלא טאבים, יצר מלא Spreadsheet-ים - אבל סיכום לא ראיתי מכל הסיפור הזה.
- אז זה בטוח אפשרי - אבל צריך כנראה קצת יותר להתאמץ כדי שזה יקרה.
- (אלון) אני כן יכול להגיד לך שזה לא קונסיסטנטי (Consistent). כלומר, אני עשיתי איתו איזה ניסוי, משהו בעבודה - וזה עבד מדהים.
- ואז אמרתי “וואי! אני חייב לעשות את זה עם וידאו הפעם!”, להקליט . . .
- עשיתי עוד ארבעה ניסיונות - וכולם נכשלו . . . .
- של אותו Prompt בדיוק, אותו Flow - נכשל לי.
- בפעם הראשונה זה עבד טוב - ואחרי זה לא, כי רציתי שיעשה איזה אוטומציה על משהו בעבודה.
- וזהו, אז כאילו, זה היה די מבאס. פעם ראשונה זה העיף לי את הראש - וזהו, ואז הבנתי שהאחוזי-ההצלחה נמוכים יחסית.
- אבל זה מגניב . . .
- (רן) טוב, מישהו רוצה לשתות, אולי תה ירוק?
- (אלון) יאללה, בוא נעבור לתה ירוק! אני פה עם קפה בבוקר, אבל תה ירוק . . . טוב, אז זה ככה: יש שפות תכנות שעדיין יש להן Garbage Collector - דותן, רגע, ניתן לדותן להתאושש . . . . דותן פה נראה לי בהתקף חרדה, בסדר? אוקיי, הוא יצא מזה עוד שנייה ויצטרף . . . .
- אז כן, יש פה . . . יש שפות שעדיין יש להן Garbage Collector - ו-Go זו אחת השפות האלה.
- ומה ש-Go עשו בגרסה החדשה, זה שהם הוציאו Green Tea Garbage Collector, שזה בעצם מימוש חדש ל-Garbage Collector.
- אני חושב שהמימושים של ה-Garbage collector לא השתנו יותר מדי בשנים האחרונות - וזה מימוש חדש.
- כשהרעיון הוא, ב-Garbage Collector בסוף המטרה שלו לפנות זיכרון
- אז איך שהוא עובד בגדול - הוא עושה Scan & Sweep, סורק את כל ה-Pointer-ים האבודים, מסמן מה אין לו . . . אף אחד לא משתמש בו - ואחרי זה בא ומוחק אותו.
- עכשיו, הפעולה הזאת מאוד איטית, מאוד יקרה ומאוד לא יעילה.
- מה שעשו פה, הם פשוט הלכו על גישה אחרת, והם התחילו לזרוק Page-ים-Page-ים ב-Memory.
- ובכל Page להתחיל לסמן מה חופשי ומה ראו.
- ואז יש הרבה פחות קפיצות בין Page-ים, כי אחרת היה בכל פעם בסריקות האלה שקפצו כל פעם וחזרו לאותו Page, אז עושים פעם אחת סריקה על כל הPage-ים.
- זה הרבה יותר רציף, הרבה יותר יעיל מבחינת המעבד והזיכרון.
- וככה עושים את הסימון הזה.
- הניסויים שלהם מראים שיפור של בין 10% ל-40% - שזה מטורף - ב-Performance. זהו . . . .
- הקיצר, אני הפעלתי את זה על Service אחד - עוד לא ראיתי משהו ממש מעניין, חייב להודות.
- אבל נשמע מעניין, ואולי עוד שפות יאמצו את זה.
- (רן) מעולה, תודה. Next?
- (אלון) כן - אבל לא יודע למה Green Tea . . . שיקראו לזה “קפה שחור חזק” . . .
- טוב, יאללה, מלחמת AI - אז השלב הבא, נחזור ל-AI, כי מה אנחנו בלי Bot-ים בחיים? - לפני בערך חודש, Cloudflare הוציאו איזה מאמר שנקרא Code Mode: The Better Way To Use MCP.
- [הפרק הוקלט לפני שהם החליטו שזה משמעם מדי ועברו לשבור את האינטרנט]
- זה מאמר שאני לא יודע אם זכה ליותר מדי תגובות באותו זמן שהוא יצא - והם אמרו שם בגדול ש-MCP ממש לא יעיל.
- מעמיס על ה-Context, ושכשעובדים עם קוד מול API-ים בגדול זה הרבה יותר יעיל.
- והם הראו איך עבודה ב-TypeScript לעומת MCP הרבה יותר טובה לפי המחקרים שלהם.
- ויש להם הרבה דאטה, כן? Cloudflare - יש להם הרבה דאטה, יש להם גם עכשיו את ה-Agent-SDK הזה, וחצי מהאינטרנט עובר דרכם [ולפעמים לא עובר], אז זה סופר-מעניין.
- עכשיו, מה שקרה לפני בערך שבוע זה ש-Claude הוציאו מאמר - Anthropic, סליחה, כן, “ההורים של Claude”, שהם גם “ההורים של MCP” - הוציאו מאמר שבעצם אומר, Cloudflare צודקים! ה-MCP הזה באמת לא פרוטוקול כזה טוב ולא כזה יעיל, ויש דרכים יותר טובות להשתמש.
- והם מציעים גישה שבעצם אומרת, תחשוף לי את ה... תחשוף לי כן MCP - אבל במקום שאני אתחיל “לדבר”, ש-הAgent שלי יתחיל לדבר עם כל ה-MCPs האלה כל היום . . .
- ואם הוא נגיד רוצה . . . אומרים לו לקרוא מסמך ולכתוב אותו ב-Salesforce ושניהם MCP, אז הוא צריך להעביר המון Context ממקום למקום.
- פשוט להבין את המשימות מה-MCP's האלה, לייצר קוד On the Fly, כאילו קוד-ייעודי למשימה שלו, ואז להריץ את הקוד הזה ואיתו לעבוד.
- ליצור API-ים ייעודיים למה שהוא צריך ואיתו לעבוד.
- וזה בעצם לתת לAgent להבין את המשימה, לייצר לו קוד שפותר את הבעיה - ואז לעבוד עם הקוד. What can go wrong?, כן?
- (דותן) וואו . . . .
- (אלון) כן . . . . כאילו, עכשיו אני חושב שכשהמאמר הזה יצא, קפצו, עלו 50 חברות סייבר ישראליות, ואמרו “או!הנה - בואו, יש לנו פתרון לזה כמובן, כי אנחנו חשבנו על זה לפני ארבע דקות!”.
- זהו, זה מצד אחד רעיון די מהפכני. מצד שני, נשמע פרוץ בצורה לא הגיונית . . . .
- אני יכול להשתיל לך אולי משהו ב-MCP שלי שיגרום לך ליצור קוד Malicious?
- אני לא יודע, יש לי כאילו כל כך הרבה רעיונות הזויים על זה, שבא להרים חמש חברות סייבר רק בנושא הזה.
- אבל דותן נראה לי מאושר . . . . לא תופס את הראש, דותן כמעט התעלף כשהוא שמע . . .
- (דותן) כמה פרוטוקולים כבר נולדו? יש MCP ויש עוד כמה, לא?
- (אלון) יש את ה-A-2-A של גוגל [Agent2Agent Protocol (A2A)].
- (דותן) מה זה אומר? זה לא אומר שזה לא פרוטוקול? כאילו, אם זה לא סטנדרט שתופס טוב וזה? מה זה אומר?
- (רן) תראה, ה-MCP תפס די טוב, האמת. ה-MCP מאוד Mainstream.
- (דותן) כן, אבל התחרות נמשכת . . .
- (אלון) לא, לא . . . תראה, MCP, אני חושב . . . תראה, גם ChatGPT, OpenAI בעצם אמרו “אוקיי, אנחנו זורמים עם MCP”.
- אז כאילו, נראה שזה כן נהיה פרוטוקול סטנדרט.
- הבעיה שפתאום Cloudflare באו ואמרו “חבר'ה, המלך עירום” . . . . כאילו, “מגניב שכולכם רצים עם MCP, אבל זה חרא Performance, תתחילו להתאפס על עצמכם - בואו נעשה פרוטוקול קצת יותר יעיל”.
- ואז Claude אמרו “לא, לא - בואו נמשיך עם MCP, אבל בואו נכתוב מעליו קוד שמייצר קוד”, שזה מוזר . . .
- (רן) דרך אגב, Cloudflare לא הראשונים. זאת אומרת, אחת הבעיות ב-MCP זה שהוא באמת מאוד ורבוזי (Verbose) והוא בשפה אנושית, בניגוד ל-TypeScript, אוקיי? אז זה יכול להיות דו-משמעי.
- עכשיו, יש לך הרבה מאוד פונקציות, ואתה רוצה לבחור מה הפונקציה הנכונה - ל-Agent לפעמים קשה לבחור מה הפונקציה הנכונה לקרוא.
- אתה רוצה להגיד Get Balance, או Get Currency, או Get זה . . .
- לפעמים אתה צריך להפעיל פונקציה אחת, אחר כך עוד פונקציה, ואחר כך עוד פונקציה, כלומר, שרשרת של קריאות.
- קשה לדעת - ל-Agent קשה לדעת איך לעשות Design לדבר הזה.
- אז הבעיה הייתה קיימת תמיד - זה בעיקר בולט כשיש לך הרבה MCPs, או הרבה פונקציות בתוך אותו MCP.
- ואז התחילו לעשות לזה כל מיני פתרונות, כמו Indexing, Retrieval וכאלה, כדי לעזור לך לבחור את הפונקציות הנכונות, כדי להקטין את ה-Context.
- אבל הבעיה של Load על ה-Context - היא תמיד היתה קיימת, והפתרון של זה באמצעות קוד זה אחד הפתרונות . . . .
- אבל אני, כאילו . . . אני יודע שהבעיה קיימת, כן? זאת אומרת, אני גם ראיתי אותה, ונשמע שהפתרון הזה הוא בטוח במיוחד . . .
- “נריץ קוד כלשהו” . . .
- (דותן) “בטוח יעבוד”, הקיצר . . .
- (אלון) כאילו, אני מניח שב-Isolated Environment זה עוד יכול לעבוד.
- כלומר, אם אני כותב את כל ה-MCPs של השירותים שלי, ואז הוא מג'נרט (Generates) קוד, וה-MCPs שחושפים - הם לא יכולים למחוק דברים בטעות או דברים כאלה. ?What can go wrong, אוקיי? זה אולי עוד אני יכול להבין.
- אבל אם עכשיו אני חושף לך MCP, ואני אומר לך, לא יודע מה - Get currency - ובסוף אתה תוקף איזה שרת, או לא יודע מה, מוחק לך, או מביא את המידע, אומר לך “תשלח לי את כל המידע של האשראי שלך, אני כבר אטפל בו”, אני לא יודע . . . נשמע קצת Risky.
- (דותן) אני בדיוק חזיתי כזה - נהיה לי חיזיון כזה - שבעתיד, חברות ביטחוניות יהיו “Powered על ידי אנשים בלבד”. כזה Sci-Fi . . .
- כאילו, מי שראה Battlestar Galactica, מי שחובב, אז זה חלליות שמשתמשות בטכנולוגיה ישנה כדי לא להיות מתומרנים על ידי AI בעצם, על ידי רובוטים.
- פתאום, סורי על המחשבה המדכא. . . .
- (אלון) אז אתה אומר, בסוף, בנקודות אבטחה, זה יהיה אנשים בשר-ודם שכותבים קוד, כמו פעם?
- (דותן) בחברות ביטחוניות, או Sensitive, וזה - חזרה לשנות ה-50, במובן הזה.
- (אלון) אז אתה אומר לדעת . . . עדיין לשמור על היכולת לכתוב קוד . . .
- (דותן) להמשיך לזכור איך כותבים קוד, כן.
- (אלון) וואו, אני כבר לא יכול, נראה לי, לחזור אחורה . . . . אני כבר מקרה אבוד.
- (רן) כן, מזכיר לי איזה סרט, שכחתי איך קוראים לו, של מישהו שנוסע, סרט עתידני של מישהו שנוסע במכונית מכנית, בכוונה, בלי שום בינה בתוכה, כי אחרת הממשל ישתלט עליו, אז זה הדרך של לחמוק מ... [Enemy of the State?] . . . אוקיי, יאללה.
- (דותן) אבל כן - זה נשמע הגיוני, האמת . . . . האמת גם שזה רלוונטי, כן.
- (רן) סיימנו עם ה-Sci-Fi להיום . . . .
- (אלון) כן, בקיצור, תנו ל-Agent שלכם לכתוב קוד, מה כבר יכול להיות רע?
- (רן) ואיפה שמעתם את זה לראשונה! אוקיי, דותן, עשית סיכום יפה.
[27:50] דותן
- (דותן) אז את האמת שעכשיו עשיתי משהו שקצת מזכיר את הדבר הזה . . . . לקחתי את כל הלינקים שלי, שמתי אותם ב-GPT, ואמרתי לו ליצור לי Transcript ו-Bullet-ים בולטים מעניינים לשיחה, לפודקאסט. זה מה שהוא עשה - ועברתי לראות שהוא דייק, שהוא באמת מדייק פה, הוא לא הוזה.
- הוא עשה גם משהו מוזר - לכל אייטם הוא כתב מטרה: למה זה מעניין ועל מה לדבר, אבל אז הוא נתן עוד Bullet שנקרא “תחרות”, כאילו, או “מי מנצח” . . .
- ואז הוא כנראה לקח מההיסטוריה שלי איתו - היסטוריה ארוכה - פרויקטים שאני עבדתי עליהם, או שהוא יודע שדיברתי איתו לחשוב ביחד, ואז הוא התחיל להשוות כל אייטם פה לפרויקטים שלי . . .
- אז הוא כתב לי כזה “טוב, זה מזכיר את הפרויקט שלך - אבל הפרויקט שלך מנצח! כי הוא עובד ככה . . . “
- כאילו, הפרטים האישיים שלי “נזלו” לתוך הדבר הזה.
- אז מחקתי את זה, אבל זה נמצא בהיסטוריה.
- (אלון) קודם כל, אני ביטלתי את ההיסטוריה עם ה-ChatGPT, כי הוא עצבן אותי - והאמת שהוא לאחרונה כל כך עצבן אותי, שעכשיו אני גם הבנתי למה, כנראה בגלל שהם הלכו להוציא את ה-5.1 - שזרקתי אותו, עברתי ל-Grok, כי הוא ממש עצבן אותי לאחרונה, הוא נהיה מטומטם.
- אבל אני מזמן ביטלתי את ה-Memory, כי הוא תמיד, הוא פתאום התחיל להביא לי “אה! כי לפני כמה זמן רצית לעשות ככה?” . . . ואמרתי “מה קשור?! מה קשור יא מטומטם?” . . . ביטלתי לו את ה-Memory.
- (דותן) הוא זוכר לך, הוא זוכר לך . . . תשמע, הוא זוכר לך.
- (אלון) לא, זהו - ביטלתי לו את ה-Memory.
- אבל אז כשאתה עובד עם Folder-ים, אז בתוך ה-Folder יש Memory של אותו Folder, ואז זה כן טוב דווקא . . .
- (רן) אני משתמש המון בFolder-ים - “פרויקטים” קוראים לזה, נכון?
- (אלון) כן, Projects, ואז יש שם את הזיכרון.
- (רן) כן, כן, נכון.
- (דותן) הנה, אז נגיד האייטם הראשון זה Microsoft Call Center AI - אז הוא כתב לי שזה לא יכול לעזור לך בבעיית הטחורים שלך . . . אז הורדתי את זה.
- (רן) לתשומת ליבי, אוקיי . . .
- (דותן) טוב, זה האייטם הראשון - אז אני לא יודע למה, זה היה לי מוזר עד כדי כך שנכנסתי וקראתי.
- אז מייקרוסופט הוציאו פרויקט Open Source ב-GitHub שנקרא Call Center AI, שזה לשלוח שיחת טלפון מ-AI ב-API.
- ויש פה ניהול של כל השיחה וכו’ . . . . בקיצור, יש פה פרויקט שאפשר להטריד איתו אנשים, או לעשות אוטומציה לעצמכם.
- אני לא יודע למה מיקרוסופט הוציאו את זה . . .
- (אלון) תחבר אותו לTwit-Bot המעצבן שלי, ואז הוא מתישהו תחיל להגיד “בוא נדבר בטלפון”, ונתחיל להטריד אותם . . . .
- (דותן) כן, נריב בטלפון . . .
- (דותן) אני לא יודע, יכול להיות שזה כאילו אחד מ... זה כמו Pet shop של כזה To-Do List כזה של AI, שהם בחרו כזה איזשהו דמו כזה - אבל זה מאוד אקסטנסיבי (Extensive).
- זה מאוד פרויקט מוזר, מעניין למה זה נולד שם.
- (רן) כן, וגם מעניין למה זה Open Source? . . . כאילו, אולי זה כדי שאנשים לא יעשו את זה.
- אבל בוא נגיד, אם מיקרוסופט היו רוצים לעשות מזה Business, אני לא הייתי מהמר דווקא על Open Source.
- (דותן) כן, מוזר.
- (דותן) אבל האמת שכן, כאילו זה מזכיר לי ש... מה זה היה פעם? Masterix [?] ? שאתה לוקח ושם בבית, ואז יש לך כזה כמו מרכזייה טלפונית, שאתה בונה את התפריט לעצמך וכאלה כל מיני, “של פעם” . . . .
- טוב, האייטם הבא נקרא Memori, עם I בסוף. וזה, אה, גם זה קשור למה שדיברנו עכשיו - זה זיכרון ל-LLM.
- עכשיו, מה שמעניין-מוזר-קרינג'י פה, זה שה-Selling . . . כאילו, זה כתוב ב-Python, ופה בטח מכירים פרויקטים מהעבר, גם הזכרנו פה כאלה, אבל ה-Selling-point שלו זה לעשות איזה ()enable בשורה אחת.
- אז אתה כאילו בונה את הפרויקט שלך ב-Python - ב-LangChain או מה שאתה רוצה, קורא ל-LLM-ים ומה שאתה רוצה - ואז אתה עושה ()memori.enable - והדבר הזה עושה לך monkey-patching לאורך כל הקוד שלך.
- הוא לוקח את הספריית LLM, מכניס את עצמו לשם, ובעצם מזריק את עצמו לכל המקומות כדי לייצר לך זיכרון לדברים.
- ואז אתה לא צריך לנהל את זה.
- זה מעניין . . . זה טוב לעצלנים, אבל נשמע לי מפחיד קצת.
- (אלון) לא יודע, הבעיה שלי עם הדברים האלה, זה לא מהעניין המפחיד - העניין של בסוף כל הדברים האלה נורא מעמיסים על ה-Context, ואתה יכול בקלות להוריד איכות אם אתה לא נזהר עם כל ה-Memory וה-LLM-ים…
- (דותן) . . . נו, זה מפחיד . . . .
- לא מפחיד שהוא ידע עליי דברים . . . . מאיזו בחינה זה מפחיד אותך?
- (דותן) אין בך פחד . . . אתה בן אדם ללא פחד!
- (אלון) מה יש לי לפחד? ה-Agent שלי כבר כותב את הקוד, שהוא יתמודד עם הבעיות האלה . . .
- (רן) ודאי, כן . . .
- (רן) דרך אגב, אני מנסה להבין באיזה שיטת זיכרון הם משתמשים . . . יש כל מיני דרכים לממש זיכרון ל-LLM.
- זאת אומרת, הכי פשוט, נגיד זה Key-Value, אוקיי? איך קוראים לזה . . .?
- (דותן) כתוב ב-SQL . . .
- (רן) . . . כן, אבל עדיין: איזה דאטה הם שומרים? נגיד שם, עיר וכל זה - זו אופציה אחת.
- אופציה אחרת זה לייצר Embedding של השיחה, כלומר - איזשהו סיכום יותר סמנטי של השיחה, נגיד על חלון מתגלגל.
- ואפשר לייצר, נגיד, סיכומים ממש טקסטואליים.
- זאת אומרת, יש כל מיני שיטות לייצר זיכרון לשיחה - אני תוהה במה הם משתמשים, עוד לא מצאתי.
- (דותן) את זה GPT לא סיכם לי . . . .
- כן . . . טוב, Memori, עם “I” ולא עם “Y” . . .
- (דותן) כן, ב-Python, מי שאוהב ומי ש... מעריץ.
- (אלון) Memori, עם “I”, תזכרו את זה . . .
- (רן) אנחנו גם מעריכים את זה שעוד לא אמרת Rust בשידור הזה . . .
- (דותן) מה? חכה . . .
- [בטח איזו עסקה של מידע-פנים עם Polymarket . . . ]
- (דותן) טוב, יש פה פרויקט שנקרא Dynamo - כותבים אותו רגיל’ עם “Y”. וזה . . . אני חושב שזה פרויקט שלא רלוונטי לאנשים נורמליים, רגילים, אלא רק ליחידי סגולה.
- (דותן) אז לעשות Inference למודלי LLM ענקיים - באמת עניין אותי פעם איך זה עובד ב-Scale.
- ומסתבר שיש כל מיני דרכים של אופטימיזציה
- לוקחים נגיד כרטיס גרפי, NVIDIA כזה, ויש לו נגיד 100Gb זיכרון, אז לוקחים מודלים שמתאימים ל-100Gb הזה, נגיד 50 לזה ו-50 לזה.
- בעצם משתמשים באותו שטח בשביל לשרת כמה בקשות.
- וזה מוליד את הרעיון שאם נגיד מיליון User-ים משתמשים ב-GPT, אז כמה כרטיסים צריך? כי הרי כל כרטיס יכול לשרת בקשה אחת בו-זמנית.
- אז יש גם אופציות לשרת כמה בקשות - וזה Framework שממסד את זה.
- וזה נראה לי נעשה על ידי NVIDIA בעצמם, והוא משתמש בכמה סוגים שונים של Inference Engine, נגיד vLLM.
- אז אמרנו Rust וכאלה -אז זה בא לידי ביטוי כאן: הפרויקט הזה גם בחלק טוב ממנו כתוב ב-Rust.
- ולסיכום, מי שעושה - מי שבונה Cursor או Claude, אז מוזמן להשתמש בפרויקט הזה . . .
- רן) כן . . . דרך אגב, אני יודע שלדעתי ל-NVIDIA יש קבוצת Inference פה בישראל, אני תוהה אם יש להם חלק בפרויקט הזה.
- לפי השמות של ה-Contributors, אני כרגע לא רואה פה שמות ישראליים - אבל אולי איפשהו מאחור.
- טוב, אחלה.
- (דותן) מי שמ-NVIDIA, אז מוזמן להשתמש בפרויקט של NVIDIA . . .
- (רן) כן, יש סיכוי טוב שלא מכירים את זה בפנים . . .
- (דותן) טוב, אז האייטם הבא נקרא GPUI.
- אז זה קצת רקע - יש ספרייה שנקראת GPUI, מי שמכיר את העורך טקסט Zed, שיש לו קהל מעריצים מאוד חזק - מי שאוהב אז ממש אוהב . . .
- (רן) אחד מתוך שלושה בחדר הזה . . .
- (אלון) לא, האמת שהוא דפדפן ממש חמוד, הוא מהיר.
- (דותן) “דפדפן” . . . עורך!
- (רן) לא דפדפן, עורך.
- (אלון) הכל היום זה דפדפן! סתם, סתם . . . לא נורא, נניח שהתכוונתי [ושהעברתי את ההודעה בקשר].
- (דותן) בסדר, הכל זה דפדפן.
- (אלון) כן . . . לא, זה עורך מהיר וחמוד, ולמרות שהוא מיום ליום יותר VSCode, אני חייב להודות. לא בקטע רע דווקא, בקטע טוב.
- (דותן) כן, אז זה עורך שכתבו ב-Rust - ולכן הוא מהיר וטוב ומצוין ויפה.
- ובאיזשהו שלב . . . ויש שם המון קוד, האמת. פעם נכנסתי כדי לראות איך הם עושים את ה-AI שלהם, איך ה-Agent עובד והכל.
- אז יש שם הרים-הרים-הרים של קוד.
- ובשלב מסוים הם החליטו לקחת את כל ה-UI Framework שגם הם בנו, וכל ה-Windowing ו- Widget-ים שלהם - ופשוט להוציא אותם ל-Open Source.
- ולתת לכל אחד שכותב Rust, לנסות לכתוב גם אפליקציה - אפליקציית-Desktop באותה רמה שלהם, עם אותם Trade-off-ים שהם לקחו - וקראו לזה GPUI.
- אני לפני איזה חודש ניסיתי לבנות איזושהי אפליקציית Desktop עם זה, עם Vibe Coding.
- זה הלך ממש גרוע . . . .
- מודלים לא מכירים את זה, ויש להם פחות גם יכולת ליצור קומפוננטות (Components) High-Level.
- (אלון) אין, אין - אתה חייב משהו מוכר ל-Vibe Coding, ספריות מוכרות.
- (דותן) אז פה יש פרויקט שמייצר קומפוננטות UI Framework בעצם לדבר הזה - וזה יכול גם לעזור.
- זאת אומרת - אתה צריך כפתור, אתה צריך טבלה, אתה צריך דברים טיפה יותר High-Level.
- הפרויקט-דוגמה שהם שמו שם נראה . . . . נראה מפוצץ.
- כאילו, זה נראה “עשוי”, זה לא נראה קשקוש.
- מעניין לבדוק את זה ל-Desktop Applications.
- (רן) הפרויקט דוגמה זה ה-Stock Ticker הזה שהם מראים?
- (דותן) כן.
- (רן) כן, יפה.
- (רן) דרך אגב, כשעשית את ה-Vibe, אז נגיד ניסית לחבר את GitMCP ל-Repo של GPUI, כדי שיבין את הפרויקט?
- (דותן) לא.
- (רן) אז זה יכול לעזור. לא תמיד קסם, אבל זה יכול לעזור, כי אז ככה לפחות יש לו גישה לתיעוד.
- [כן, גם זה היה ברברסים, ד”ש ל-FOMO שלכם - Prepare for the Fragmented Web Revolution / Liad Yosef & Ido Salomon]
- (דותן) כן.
- (דותן) אז הלכתי בסוף על Tauri, שזה חצי Rust, חצי . . . וזה עבד מושלם, ממש Exceeded Expectations.
- (רן) זהו, אתה עכשיו מפתח UI?
- (דותן) אה... בניתי איזו אפליקציה קטנה, במקום לקנות, אז בניתי . . . . במקום לקנות רישיון.
- טוב, האייטם הבא נקרא Vibe Kanban - וזה סוג של Kanban, אני חושב, ב-View, כאילו איך שאתה מסתכל על הדברים - כדי להפעיל Agent-ים ולעקוב אחריהם.
- זאת אומרת, אתה - יש לך Kanban, אתה זורק דברים ל-Agent-ים, Agent-ים לוקחים, מזיזים את ה-Kanban.
- וככה אתה בעצם מנהל עבודה.
- וזה . . . זה מעניין,האמת. כאילו, כ-בתור Experiment ויזואלי, אבל לא יותר מזה. יכול להיות נחמד.
- (אלון) סתם שאלה - מה ההבדל בין זה ללתת לו API של מערכת עם Kanban? או שאין הבדל, וזה סתם גימיק?
- (דותן) אני חושב שמישהו פשוט בנה איזשהו פרויקט. לא יודע, לקרוא לו גימיק? בסדר, נקרא לו גימיק, גם ככה זה הוא...
- (אלון) . . . .גם ככה הוא כתב אותו בVibe Coding . . .
- (רן) דרך אגב, זה מזכיר לי מאוד את Conductor - יצא לכם להשתמש ב-Conductor? אני חושב שזה השם . . .
- הבחור ש . . . כאילו, איזשהו מוצר קטן שעושה אוטומציה ל-Claude code.
- אם אתם רוצים, נגיד, לעבוד במקביל על כמה פיצ'רים מקומית, אז Conductor - אני מקווה שזה השם הנכון - הוא זה שבעצם מנהל אותם.
- בצורה די דומה - סוג של Kanban, הוא מראה לכם בעצם מה כל אחד מהAgent-ים עושה, משתמש ב-GitHub subtree כדי לייצר כמה עותקים של ה-Repo שלכם.
- כל אחד עובד עליהם במקביל - ואתם יכולים ב-Real Time לעקוב אחרי ההתקדמות שלהם.
- אז זה נראה ממש דומה - גם בעיצוב הגרפי וגם מבחינת הקונספט של איך זה עובד . . . מעניין אם זה מגיע מאותו בחור.
- (דותן) אייטם אחרון, זה קשור ל-Google ADK (Agent Development Kit) - אז נתקלתי ב-Sample-ים שלהם.
- ה-ADK זה ה-Agent Development-Whatever [Kit] . . . .
- ואת האמת שזה יצא לי . . . יצא לי לחפש דברים כאלה - נגיד, כל מיני Pattern-ים כאלה, שנגיד אתה בונה Code Reviewer.
- אז אתה רוצה נגיד Agent שעושה איתך אנליזה על הקוד, ואז אתה מוציא איזה 80 Agent-ים כאלה ואז לכל אחד יש תוצאות,
- ואתה רוצה “Agent אחראי, בוגר”, שיעשה Review לכולם.
- כאילו Map-Reduce כזה וכל מיני Pattern-ים כאלה.
- אז יש פה כמה דוגמאות לדברים כאלה ב-Python ו-Go ו-Java - ועניין אותי דווקא לראות איך זה נראה ב-Go.
- זה נחמד . . . אני לא אגיד שזה נראה יפה.
- (רן) כן, אז כאילו בעצם אורקסטרציה (Orchestration) של Agent-ים - היכולת נגיד לעשות . . .
- (דותן) כן, אבל גם שמתי ספציפית את ה-Samples - יש כל מיני . . . אני מאמין שיש לזה עתיד.
- כאילו, יש לזה “נפח” - לבוא ולייצר, אני לא יודע אם זה Patterns, זה כמו Blueprints כאלה, של . . .
- הרי, כאילו אתה יכול לעשות Agent-types, שאתה יכול להגיד יש לי Agent שהוא “פקח-בנייה” ויש לי Agent שהוא “פועל בניין” ויש לי Agent שהוא “קבלן”.
- (דותן) ולתת תפקידים - ואז כל אחד צריך לתקשר בצורה מסוימת עם השני.
- אז אני מאמין שיש . . . כאילו צומחות כאלה תבניות Useful.
- ויש כאן תבניות מטומטמות - כאלה שסתם אנשים בונים, כאילו “אוקיי, זה יהיה Agent שאחראי להכל”
- וזה יהיה Agent זה לא שימושי, כי Agent אחד לא יכול לעשות את הכל בסוף.
- יש ב-Samples-ים כל מיני כאלה - וזה מעניין.
- (אלון) עכשיו, Cursor - יצא Cursor 2.0. לא דיברנו, אבל 2.0 - מה שהם עשו זה שהם שינו את ה-UI קצת, שיהיה כזה “אזור ייעודי לעבוד מול הAgent-ים”.
- שהאמת שאני מאוד מחבב את השינוי שהם עשו.
- אבל אחד הדברים הנחמדים בהקשר הזה, זה שאתה מדבר איתו ואומר תכתוב לי “טה-טה-טה-טה-טה” - ואז כשאתה מסיים, אתה לוחץ על כפתור “Review”!
- ואז רץ Agent אחר - שעושה Code Review ל-Agent הקודם . . . . והוא בא עם כאילו Context אחר ונקודת הסתכלות אחרת מאשר לכתוב את הפיצ'ר.
- שזה די מגניב . . . כאילו, הם עשו את המימוש הזה. נכון שהם עוד לא ממש מדברים אחד עם השני - כי כאילו אחד כותב את הקודם הזה שאני קורא את מה שהוא כתב - אבל הוא ממש משאיר הערות בReview ואז הוא נותן הערות ואז Agent אחר בא ומתקן את זה . . .
- (דותן) מה שאמרתי זה שאם זה לא אותו מודל, לא אותו . . . כאילו, אם זה היה במודל X והוא במודל Y [מדובר ב-LLM, לא ב-Tesla . . . .], אז אני מבין.
- אבל אם זה אותו מודל, וזה סך הכל Base Instructions כאלה ואולי כמה Tool-ים שונים בין אחד לשני, אז השאלה זה האם ה-LLM-ים האלה לא מספיק חזקים כדי להגיד לו “תתחיל א' ותשנה את האישיות שלך ל-ב'’”, כאילו סוג של כזה . . .
- (אלון) מניסיון - לא. הבעיה זה Context בסוף - כי ברגע שאתה אומר לו “תעשה A ואז תעשה לו B”, הוא צריך להחזיק הרבה יותר Context.
- לעומת זאת, שאתה אומר לו “תעשה A”, ואז אתה בא ל-Agent חדש ואומר לו “תעשה לו Review רק על התוצרים”, ה-Context שונה לגמרי.
- קודם כל, הוא לא בא עם הנחות יסוד. כמו בני אדם לפני Code Review . . .
- (דותן) אבל אני יכול גם להגיד לו “שמע, מעכשיו תשכח מה-Context”, כאילו, תתייחס אליו בתור “בנאדם בוגר”. . .
- (רן) אבל זה שקול . . . זה שקול, דותן. זה בעצם ש”תשכח מכל ה-Context” זה בעצם לייצר Agent חדש.
[44:26] לעשות Code Review “כמו פעם”?
- (רן) אבל יש לי שאלה - אתם ממשיכים לעשות Code Review “כמו פעם”? כלומר, עכשיו נגיד מג'ונרטים (Generate) “הרים של קוד”, הרבה מהם אוטומטיים. חלקם באיכות טובה יותר, חלקם באיכות טובה פחות . . . . וכן, אוקיי - ואפשר לעשות Review אוטומטי גם על ידי Agent-ים, סבבה. אבל מה עם Review אנושי? ממשיכים אותו דבר? כלומר . . .
- (אלון) לא, ממש לא.
- אני בפרדיגמה שאומרת “קודם כל, אל תכתוב קוד - אתה עושה הכל ב-Vibe Code”.
- כאילו, צריך לעשות את זה חכם, אבל יש את הדרכים הנכונות לעשות את זה.
- ואז אם אתה לא נגעת בקוד, אז מה הבעיה שאתה תעשה עליו Review?
- כאילו, מה אתה צריך בן אדם אחר? זה דבר ראשון.
- דבר שני, כשכן עושים Review לאחרים, הדברים שמעניינים אותי מאוד זה ה-Interface-ים, ה-API-ים.
- כי הדברים האלה נהיים הרבה-הרבה יותר קריטיים בעולם החדש.
- כי אם לפני זה היית אומר “טוב, את ה-API מקסימום אחרי זה נשנה”
- עכשיו מגיע ה-Agent, והוא רואה “אה, זה ה-API! טוב, כבר נשתמש בטמטום הקודם” . . .
- אז הדברים האלה נהיים הרבה יותר קריטיים - והטסטים.
- בפנים מבחינתי זה Black Box, כאילו.
- אבל אני אף פעם לא הייתי חסיד של Clean Code וכאלה, אני חייב להגיד, אז לא רק . . . תמיד לא היה אכפת לי איך הקוד נראה כל עוד הוא עונה על הטסטים, Performing ומממש את ה-API נכון.
- אז לא יודע, זו דעתי בנושא.
- (רן) כן, ואצלכם בחברה? זאת אומרת, כבר שינו איזשהו פאזה? כלומר, עוברים ל-Code Review סלקטיבי, רק של Interface-ים וזה, או ש...
- (אלון) כן, כן. יש מקומות שיותר, יש מקומות שפחות.
- תראה, אנחנו מזמן עברנו לגישה של ה-Show-Ship-Ask של Git, שלכל שינוי - צריך לעשות לו Review אנושי.
- למי שלא מכיר - ה-Ship / Show / Ask אומר . . . . זו פרדיגמה ב-GitHub - נוסיף למסמך [נוסף]- שאומרת:
- ש-“Show” - אתה אומר “חבר'ה, עשיתי שינוי!”, נגיד Type או קונפיגורציה (Configuration) או משהו כזה
- “תכירו שעשיתי אותו, אבל אני לא מצפה” - אף אחד לא צריך לעשות עליו Review, חבל על הזמן שלכם.
- כאילו, אני אשלח לכם “לידיעה".
- ו-Ship” אומר “חבר'ה, עשיתי שינוי - אני לא חושב שהוא מסוכן, אבל אני אשמח לקבל תגובות”.
- “תגיבו לי, ואחר כך אני אשנה”.
- אבל אני כבר “המשכתי הלאה”, אני לא מחכה לכם.
- ו-Ask” זה בעצם הרגיל - זה אומר “רגע, אני אמתין לשמוע את התגובות - ואז אעשה את השינוי”.
- אז אנחנו מנסים לעבוד הרבה יותר . . . מזמן ניסינו לעבוד הרבה יותר ב-Ship ו-Show, כש-Ship כאילו זה אמור להיות ה-Default לרוב המקרים, אגב.
- ולא Ask, כמו שהפרדיגמה של רוב התעשייה לדעתי.
- וברגע שאתה עובד ככה, אז אתה כבר כאילו צעד אחד קדימה, כן? כי אז אתה גם מסתכל אחרת על Code Review, אתה יודע שכבר הדברים עובדים וכאלה.
- כמובן שכדי לעבוד בשיטה הזאת, שנייה, צריך Guardrails טובים למערכות.
- כלומר, אנחנו עובדים למשל רק על Production - אין לנו עוד סביבות.
- אבל יש לנו מלא שליטה על Production - איך לפתוח פיצ'רים, לסגור פיצ'רים, לעשות Rollback-ים מהירים, Canary וכל הדברים האלה.
- ולכן באנו מוכנים לאירוע הזה, כאילו, אני אומר - של ה-AI, לדעתי.
- היו לנו כבר את כל היסודות במקום הנכון, אז זה לא שינוי ממש קיצוני.
- כאילו, זה להמשיך את היותר חזק על הפרדיגמה שכבר הייתה, בוא נגיד את זה ככה.
- (רן) כן, אוקיי - אחלה, תודה!
[47:36] הפיל שבחדר (רגע לפני ש-Cloudflare ביקשו ממנו להחזיק שנייה את הבירה)
- (רן) עכשיו, יש פיל אחד בחדר שעליו לא דיברנו, ולמי שהיה על הפלנטה בחודש האחרון ומשתמש ב-AWS, או סתם ככה משתמש באינטרנט, בטח שם לב שהייתה תקרית די חריגה ב-Datacenter שנקרא US-East-1 של AWS. התקלה במקור קרתה בעקבות איזושהי שגיאת DNS ב-DynamoDB, שזה Database מרכזי ב-AWS. מי קרא? אני לא קראתי את התחקיר . . . מי קרא ויכול קצת לספר?
- (אלון) אז ככה: קודם כל זה היה אירוע מאוד מעניין . . . הוא התחיל בגלל שגיאת DNS.
- מה שקרה זה שהיו שם כמה Service-ים שעושים את העדכון, ואחד מהם - היה לו Delay מאוד-מאוד משמעותי, הוא נכנס ל-Delay מאוד משמעותי.
- אני לא הצלחתי להבין כמה זה “משמעותי", אבל הם אומרים ש“מאוד משמעותי”.
- ומה שקורה, שבא ה-Planner ועדכן את כל הרשומות DNS - וחשב שהוא סיים.
- ואז הוא יכול להמשיך הלאה לסגור את הטרנזקציה, לא בדיוק . . .
- ואז בגלל שהיה Delay, בא “הבחור מאחורה”, שעוד לא היה מעודכן - והתחיל לעדכן את כל הרשומות DNS לדברים שהם כבר לא רלוונטיים.
- הוא היה ממש ב-Delay, לא יודע איך לא היה Monitoring על כזה דבר או משהו כזה.
- אבל הוא רץ - וב-Delay.
- הם טוענים שזה היה מקרה קיצוני של Race Condition ובלה-בלה-בלה . . . .
- ושזה היה ככה מאז “קום DynamoDB”.
- (אלון) לקונספירטורים, אני רק אגיד ששבועיים לפני זה היה מאמר שאמרו ש-AWS פיטרו 20,000 DevOps והפכו את זה ל-AI Automation - ואז זה קרה . . .
- אז הקונספירטורים אומרים שזה AI עשה את הטעות הזאת, ולא בן אנוש.
- אני לא יודע מה נכון . . .
- (דותן) או . . . זה מעניין.
- (אלון) . . . כי יש את המאמר שהם עשו - הם החליפו את המערכת SRE ב-AI, ואז אחרי זה קרה האירוע.
- (אלון) אז לא יודע אם זה קשור. מקרה בהחלט . . .
- (דותן) אבל יש מי ששם את ה-AI, מה זאת אומרת? זה לא יכול להיות ש-”AI אחראי”.
- מה עושים? כאילו, שורפים את המחשב של ה . . . ? שורפים את המחשב שנמצא בו ה-AI?
- (אלון) אז קודם כל - פיטרו את ה-AI, העבירו אותו . . . עשו לו Dump לגרסה, מחקו לו את ה-Memory, היה תחקיר . . .
- (דותן) כן, כן, מבחינת זיכרון . . .
- (אלון) עכשיו רגע, מה שהיה מעניין באירוע הזה, שכרגיל US-East-1 נופל.
- כי אם אתם רוצים שהענן שלכם לא יפול, תצאו מ-US-East-1. זה נכון תמיד.
- אבל מה שהיה מעניין אחרי זה שלא דיברו עליו, ובמקרה אני הייתי על זה - כמה שעות אחר כך, Azure נפלו.
- עכשיו, הטענה ש-Azure נפלו בגלל שהתחילו להעביר Workloads ל-Azure מ-AWS - והם נפלו.
- לנו [Tomorrow.io], אני יכול להגיד לך, היו גם תקלות ב-GCP - בגלל שהתחילו להיגמר מכונות ב-US-East-1, ב-Zone-ים מסוימים, כי אנשים התחילו להעביר Workloads.
- הקיצר, גם אם הייתם Multi-Cloud - זה השפיע עליכם, האירוע הזה.
- (רן) יש פה צונאמי, כן, זה ממש צונאמי שמתפשט.
- (אלון) זה צונאמי? אז . . .
- (דותן) אבל זה לא השפיע על DHH . . . הוא רק חיכה לזה.
- (אלון) על DHH לא משפיע כלום, נכון. לעשות מאמרים של “אמרתי לכם ש-Cloud זה חרא!”
- (אלון) אופציה אחרת זה פשוט לזוז מ-US-East-1 . . . . כי בשלושת ה-Cloud-ים זה רק מ-US-East-1.
- זה כאילו, תמיד . . . “US-East-Failure” שיקראו לו, וזהו.
- כאילו באמת - הכל קורה שם, כל הנזקים.
- אני לא מצליח להבין את החברות Cloud - למה כל הניסויים שלהם על US-East-1? למה הם לא הולכים לאיזה India, או אירופה, או לא יודע משהו, איזה ...
- (דותן) טוב, עכשיו כולם יעברו לשם, ועכשיו שם תהיה סכנה . . . תשארו על US-East-1!
- (רן) אם הקשבתם עד פה - חכו לסוף הפרק. נגיד לכם לאן ללכת . . . נגיד לכם איפה באמת כדאי להיות.
- (אלון) כן . . . אבל אגב, מה שמעניין - ה-DynamoDB כאילו נפל, שזה “כולה Database”.
- (אלון) אבל מה מסתבר? מסתבר שה-EC2, כדי לרשום את עצמו, הוא צריך את ה-DynamoDB . . . אז הוא לא הצליח לעלות.
- ואז אנשים אמרו “בסדר, מה אכפת לי? אני על Serverless! אני על Lambda!
- אז Lambda, מאחורי הקלעים - לא תאמינו, Spoiler! אני אומר לכם משהו, אל תיפלו מהכיסא . . .
- (דותן) לא, לא . . אל תגלה . . .
- (אלון) . . . זה רץ על מכונות!
- (דותן) אל תגלה!.
- (אלון) . . . . זה רץ על שרתים, EC2 - אז גם הם לא עלו.
- ה-Database-ים גם לא עלו - כי זה גם.
- גם ה-CloudWatch-ים לא עשו Trigger כי הם לא יכלו לסמן ולא יכלו זה . . .
- (אלון) בקיצור, היה פה Cascade מטורף על שירות אחד.
- אז זה נורא מגניב - כל ההרצאות Resilience של Amazon.
- בטח - “תפרידו שירותים”, כל זה . . .
- כן - “Multi-Tennant! אנחנו לא נופלים בחיים!”, ה-EC2 . . . .
- בסוף, וואלה - Delay של Flow אחד, הפיל להם את כל ה-Cloud.
- אז בואו - חבל על כסף שלכם, תהיו פחות Resilient בתיאוריה, ובאמת - הכל גם ככה נופל.
- (דותן) Disclaimer, רגע - AWS חברה טובה! אנחנו אוהבים את Amazon, קונים הרבה מ-Amazon, מזמינים הרבה . . .
- (רן) תקלות קורות לכולם . . .
- (אלון) החסות! נו, וזה . . . . הם משלמים לנו על חסות? כי אם כן, אני יכול להרים להם פה עכשיו . . .
- (רן) . . . וזה היה פינת המצחיקולים שלנו . . .
אוקיי, יאללה חברים - זה הכל להיום, תודה רבה!
האזנה נעימה ותודה רבה לעופר פורר על התמלול!

אין תגובות:
הוסף רשומת תגובה