שאלות נפוצות
הנדסת AI וענן
17 שאלות ותשובות בנושא הנדסת AI וענן, מאת Muhammad Shahid, מהנדס תוכנה בכיר בתחום ה־AI ומפתח Backend.
הנדסת AI וענן
1. אתה בונה מערכות LLM ו־GenAI לפרודקשן?
כן. אני בונה פיצ׳רים מבוססי LLM ותהליכים אייג׳נטיים שרצים בפרודקשן, כולל ב־Joni (joni.ai), פלטפורמת מוצרי AI שבה אני בונה את שירותי ה־Backend, את תהליכי הסוכנים ואת האינטגרציות.
2. אתה בונה מערכות RAG עם Embeddings?
כן. בניתי צינורות RAG (Retrieval-Augmented Generation) בפרודקשן עם Embeddings וחיפוש וקטורי: מחלק תוכן לקטעים, יוצר Embeddings, שומר אותם לחיפוש וקטורי ושולף את ההקשר הנכון ל־LLM, כך שהתשובות שלו מבוססות על הנתונים שלכם.
3. מה זה תהליך אייג׳נטי, ואתה בונה כאלה?
תהליך אייג׳נטי הוא מערכת AI שמתכננת ומבצעת כמה שלבים בעצמה: קוראת לכלים, קוראת נתונים ומחליטה מה לעשות הלאה. אני בונה אותם עם LangGraph ו־n8n, שומר מצב בין השלבים ומעביר את התוצאות לשאר המערכת.
4. איך אתה מעריך ומנטר פיצ׳רים של LLM?
אני עוקב אחרי פרומפטים, תשובות וקריאות לכלים, מעריך שינויים מול סטים של בדיקות לפני שחרור, ומנטר בפרודקשן את איכות התשובות, את זמני התגובה ואת העלות. זו אותה משמעת שלמדתי ב־QA, מיושמת על AI.
5. אתה משתמש ב־Python?
כן. אני משתמש ב־Python לעבודת AI ולסקריפטים, לצד JavaScript ו־TypeScript ל־Backend ולאפליקציות ווב.
6. אתה משתמש ב־TypeScript?
כן. אני כותב TypeScript ו־JavaScript ל־Backend ב־Node.js ולצד הלקוח בווב.
7. אתה עובד עם AWS ו־Docker?
כן. אני אורז שירותים בקונטיינרים של Docker ופורס ומריץ אותם על AWS, לצד Heroku, שרתי VPS ו־Netlify.
8. אתה מקים צינורות CI/CD?
כן. אני מקים צינורות שבונים, בודקים ופורסים אוטומטית, כך שכל שינוי נבדק לפני שהוא מגיע לפרודקשן. האתר הזה, למשל, נפרס בכל Push ואחר כך שולח את מפת האתר ל־IndexNow.
9. אתה מתכנן מיקרו־שירותים ומערכות מבוססות אירועים?
כן. אני מחלק Backend לשירותים שמתקשרים דרך API, אירועים ותורים, ועבדתי עם הזרמת נתונים. ל־Tomi בניתי שירותים מבוססי אירועים שמאנדקסים אירועי On-chain ושומרים על סנכרון של המצב ה־Off-chain.
10. אתה מתאים לתפקיד Senior AI Software Engineer?
אני משלב עבודת Backend בפרודקשן בקנה מידה גדול (DOP עם יותר מ־300 מיליון משתמשים, CV Maker עם יותר ממיליון), הנדסת GenAI מעשית (LLM, RAG, תהליכים אייג׳נטיים והערכה), ענן ו־DevOps עם AWS, Docker ו־CI/CD, ורקע ב־QA. אני פתוח למשרות מרחוק והיברידיות.
11. אתה עובד עם LangChain או LlamaIndex?
כן. אני בונה עם LangChain ו־LlamaIndex לטעינת נתונים, שליפה ושרשראות, ועם LangGraph, שיש לי בה הסמכה, לסוכני AI ששומרים מצב.
12. אתה יכול לשלב את ה־API של OpenAI ו־Anthropic בפרודקשן?
כן. אני קורא ל־API של OpenAI ושל Anthropic (Claude) מ־Backend בפרודקשן, עם ניסיונות חוזרים, Timeouts, Streaming, טיפול במגבלות קצב ותיעוד השימוש, כך שפיצ׳רי ה־AI נשארים אמינים והעלות שלהם גלויה.
13. אתה מייעל עלות וזמני תגובה של LLM?
כן. אני שומר בקאש תשובות חוזרות, משתמש במודלים קטנים יותר כשהאיכות מאפשרת, מקצר פרומפטים והקשר, מזרים תשובות ומאגד עבודת רקע, ועוקב אחרי העלות וזמן התגובה של כל פיצ׳ר.
14. בנית מערכות מרובות סוכנים?
כן. בניתי מערכות מרובות סוכנים שבהן סוכני AI ייעודיים מחלקים משימה, מעבירים תוצאות זה לזה ומעבירים עבודה, בתיאום עם LangGraph.
15. אתה עושה הנדסת פרומפטים?
כן. אני מתכנן פרומפטים עם הוראות ברורות ופלט מובנה, מנהל להם גרסאות ובודק כל שינוי מול סטים של הערכה לפני שהוא משוחרר.
16. אתה משתמש ב־Tool Calling וב־Function Calling של LLM?
כן. אני מאפשר ל־LLM לקרוא ל־API ולכלים דרך סכמות מוגדרות, ובודק את הארגומנטים לפני שמשהו רץ, כך שסוכנים יכולים לפעול על מערכות אמיתיות בבטחה.
17. ביצעת Fine-tuning ל־LLM?
כן. ביצעתי Fine-tuning למודלים, כולל עם LoRA, במקרים שבהם פרומפטים ו־RAG לא מספיקים, ואני מעריך את המודל המכוונן מול מודל הבסיס לפני שמשתמשים בו.