Embeddings איך עובד: המדריך ההנדסי לבונים בעברית

עבור מטריקס דרוש/ה מפתח/ת .NET תיאור תפקיד מתכנת מוביל במערכת מו"ח – יישומים פיתוח שרותים ותהליכים מבססי עולמות מניה חכמה כתיבת פרוצדורות ושירותים מבוססי מסדי נתונים ניסיון בסביבת אורקל ומסדי נתונים הזדמנות להשתלב בפרויקטים משמעותיים ולעבוד עם אנשי SAP מהטובים בתחום אנחנו מחפשים מפתח/ת SAP CRM מוכשר/ת להצטרפות לצוות פיתוח איכותי, מקצועי וטכנולוגי עבודה על מערכות מורכבות, פיתוחים מתקדמים וסביבה מקצועית עם מקום אמיתי ללמוד, להשפיע ולהתפתח הזדמנות להשתלב בפרויקטים משמעותיים ולעבוד עם אנשי SAP מהטובים בתחום משרה קבועה, היברידית ברמת החייל

נקודות למחשבה עבור מנהלי מוצר וארכיטקטים מאת אילון אוריאל

בגיל 9 כבר התקנתי מערכות הפעלה, צרבתי משחקים ומכרתי שירותי מחשוב לילדים בשכונה. אצלי אתה עובד מול בן אדם אחד שמתכנן וגם בונה — לא צוותים מתווכים, לא account-managers, לא העברה מטיקט לטיקט. "למה הוא ענה לא עינינית האם יש כשל בארכיטקטורה?". הארכיטקט AI הוא מנהל מוצר הוא מחבר קוביות לגו (GPT + Tavily + Database) ומתעסק בלוגיקה של השיחה.

בינה מלאכותית בעברית ב-2026: מבט כן על איך מודלי שפה מתמודדים עם עברית — ומה באמת עובד בייצור

72% מהארגונים הבינוניים-גדולים כבר משתמשים באיזשהו Agentic AI. ואם משהו לא עובד, הוא מנסה גישה אחרת. ChatGPT, Gemini, Claude – כלים מדהימים, אבל הם reactive. מקבל משימה, מפרק אותה לתת-משימות, משתמש בכלים, מקבל החלטות ביניים, ומגיע לתוצאה. בגדול, AI שלא רק עונה על שאלות אלא פועל. ההבדל הזה נקרא Agentic AI.

Embeddings הם הבסיס לכל RAG ופרויקט AI ארגוני.

מסדי נתונים וקטוריים: האפשרויות העיקריות

גישה מתקדמת יותר שמשתמשת ב-Embeddings כדי לזהות גבולות טבעיים בטקסט. מתאים למערכות עם עד מיליון וקטורים, ומעבר לזה הביצועים פחות תחרותיים. מסד נתונים וקטורי קוד פתוח שאפשר להריץ על GCP כ-Container או להשתמש בגרסה המנוהלת שלהם (Weaviate Cloud). הבחירה של Vector Database היא החלטה ארכיטקטונית שמשפיעה על ביצועים, עלות ותחזוקה לאורך זמן. הוקטורים נשמרים במסד נתונים וקטורי שמאפשר חיפוש מהיר לפי דמיון סמנטי.

עסקים קטנים ועצמאים שצומחים חכם

גישה זו עובדת מצוין עם מסמכים מובנים כמו חוזים, נהלים ומפרטי מוצר, שבהם לכל סעיף יש כותרת ותוכן ברורים. כשעובדים עם Hugging Face, אז גם הם מציעים Inference-endpoints, שהם עושים בעצם הוסטינג למודל אצלם. אם עובדים עם LangChain, אז גם להפוך את כל החלקים שהם צווארי בקבוק, שזה לרוב הריצה של ה-LLM, להפוך אותם לאסינכרונים זה יחסית פשוט, ואז גם אם יש לנו scale, בדרך כלל השרת הזה יכול לעמוד בו.

עוד רגע

אפשר גם AI MVP development company לשלב, אבל זה מסבך תחזוקה. זה התחום שהכי חסר אצלנו, וזה התחום שהכי מעניין. BestAI ימשיך לפרסם מדריכים הנדסיים בעברית.

מה זה Embedding בעצם, ולמה כולם מדברים עליו

• באנגלית אותו אורך מסמך הוא 1,500 טוקנים.
• BM25 מחזיר ציון שיכול להיות 15, 40 או 100, כתלות באורך המסמך ובתדירות המילה.
• זוהי גישה הנדסית שמשלבת מספר טכניקות כדי לפצות על החולשות של כל שיטה בנפרד.
• אתה עובד ב-Scale עצום (מיליארדי וקטורים).
• חיפוש היברידי הוא הפרקטיקה של שילוב שני עולמות חיפוש שונים לחלוטין כדי לקבל תוצאה אחת מדויקת.
• בשנת 2006, בתור נער, פתחתי את הפרויקט הראשון שלי בתחום השרתים — מכרתי שרתי Counter-Strike ו-SAMP לקהילות גיימרים.

נגיד כשאתם עובדים עם אייג’נטים, אז הרבה פעמים לאייג’נט יש איזשהו תהליך מחשבתי, כן? אני חושב שהיתרון של LangChain זה שאתה יכול לעשות POC ממש מהר, אם זה כבר use-case שהם מימשו, למשל SQL Database Agent שמאפשר לך מטקסט חופשי לעשות שאילתות על הדאטאבייס שלך ולהפוך את התשובה לטקסטואלית גם. אז זה מאוד תלוי מה ה-use-case שלכם, וככה אתם תבינו אם אתם רוצים להשקיע את ה-learning curve הזה וללמוד את הספרייה ולהטמיע דברים כמו שצריך, או שזה סתם POC, דברים כאלה, ואפשר אולי ללכת על כיוונים של… בכלל בלי ספרייה, זה גם אפשרות, כן. זאת אומרת, כשאנחנו אומרים פריימוורק, אז בעצם מה ה-Glue Code, או מה ה-Library שתעשה אורקסטרציה לכל האפליקציה שלכם, ול-LLM כמובן במרכז. ומהצד השני כמובן שיש את המלחמה של AWS, שחברה לכל החברות Close Source, כמו AI21, Tropic וכו’, והם בעצם נותנים גרסאות Close Source על AWS עצמה. WireGuard לעובדים מרוחקים, OpenVPN לאתרים, mTLS בין שירותים.

הכלים המנוהלים מנסים להיות גמישים יותר, והכלים הפתוחים מנסים להיות פשוטים יותר (למשל Milvus Lite שרץ בתוך הפייתון ללא צורך בשרת). תמיד תבדוק את התיעוד של המודל שיצר את הווקטורים – הוא יגיד לך באיזו מטריקה להשתמש. Weaviate ו-Milvus מציעים כלים מובנים לביצוע קוונטיזציה כזו. היתרון הוא שאין צורך לתחזק עוד תשתית. כשאני יושב עם CTOs, השאלה היא תמיד כלכלית לא פחות מאשר טכנולוגית.

כדי להבין באמת מה קורה, צריך לצלול לאיך הכלים האלו מוצאים את המחט בערמת השחת. Prototype שעובד אפשר להעמיד בשבוע. בעוד חצי שנה תרצו לבדוק למה תשובה מסוימת הייתה גרועה, ובלי ID לא תמצאו את המסמך. באנגלית אותו אורך מסמך הוא 1,500 טוקנים.

עסקים שרוצים לגדול חכם — בכל גודל

זיכרון, eval, retrieval ו-agents פנימיים שעובדים על מידע רגיש. בניית מערכות פנימיות מתקדמות לארגון שעובדות בין היתר על מודלים מקומיים — בלי לשלם פר-token לכל ספק חיצוני. העבודה נעשית מול כל סוגי הוירטואליזציה וכל ספקי הענן המובילים — ההחלטה הארכיטקטונית מותאמת לעסק שלך — לא לכלים שמוכרים לך. עם human handoff חכם, זיכרון רב-שכבתי — ובכלל זה גם סוכני Voice שעובדים דרך טלפון (TTS עם Gemini 3.1) לביצוע משימות אמיתיות בשיחה חיה.

המטרה היא לא לענות לשאלה אחת, אלא לייצר "מוח" (קובץ משקולות) שיוכל לענות על מיליוני שאלות בעתיד. בעוד שאצל ה-Agent התהליך הוא לולאת שיחה (כמו צ’אט), אצל מפתח ה-AI התהליך הוא פס ייצור (Pipeline) איטרטיבי. הגרף הזה מכיל את המצב הנוכחי (State) – למשל, רשימת ההודעות שנצברו עד כה. כדי שהסוכן "יזכור" שיחות קודמות או ידע ארגוני, צריך מסד נתונים וקטורי. הוא לא צריך PyTorch או אימון רשתות, אלא כלים שיודעים "להדביק" את המודל לעולם החיצוני ולנהל את השיחה.