מהנדס/ת AI

דרוש/ה מהנדס/ת AI לחברה ביטחונית מובילה!
📍 חיפה
תיאור התפקיד:
•    הצטרפות לצוות התשתיות וקידום פיתוח מערכות סביב מודלי שפה (LLM).
•    אחריות מקצה לקצה על תכנון, פיתוח והטמעת שירותים סביב LLM: APIs, פייפליין נתונים.
•    בנייה והאופטימיזציה של RAG (Retrieval-Augmented Generation): קליטת מסמכים, Chunking, אמבדינגס, אינדוקס וקטורי, רה-רנקינג וקאשינג.
•    עבודה עם MCP (Model Context Protocol): סטנדרטיזציה של כלים וקונטקסטים, הגדרת גבולות אבטחה וגישה, וחשיפה של יכולות למודלים.
•    ניהול פרומפטים: וורסיונינג, Guardrails, Safety Filters וארכיטקטורה ידידותית לניסויים.
•    אינטגרציה ואורכסטרציה עם LangChain ו-LiteLLM: נורמליזציה בין ספקי מודלים, Fallbacks, Caching ואופטימיזציה עלות/ביצועים.
•    אבטחה וציות: ניהול סודות, ניהול הרשאות, Rate Limiting.
•    שיתוף פעולה עם צוותי מוצר, דאטה ו-DevOps; כתיבת קוד נקי, בדיקות אוטומטיות, CI/CD ותיעוד ברור.
דרישות:
•    3-6  שנות ניסיון בהנדסת תוכנה, כולל 1-3 שנים בבניית מערכות AI/LLM בפועל.
•    -שליטה ב-Python ו-C/C++, בדיקות, ביצועים ואמינות.
•    ניסיון מעשי עם וקטור-דאטאבייסים  (Pinecone/Weaviate/FAISS/Elasticsearch), אמבדינגס, ריטריברים ורה-רנקרים.
•    ניסיון בהעלאת מערכות RAG או Agentic לפרודקשן.
•    ראייה תצפיתית: לוגים/מטריקות/טרייסים, דאשבורדים.
•    בסיס חזק באבטחה: Authentication/Authorization, ניהול טוקנים.
•    יכולת הובלה ו-Ownership, תקשורת מצוינת ו Delivery עצמאי עם ממשקים ברורים.
יתרון משמעותי:
•    ניסיון ב-MCP: בניית Tools/Resource Servers, עבודה מול מודלים מולטימודליים.
•    ניסיון עם LangChain ו-LiteLLM: אורכסטרציה, מתאמים, קאשינג והפחתת עלויות.
•    ידע בענן Azure ותורים (Kafka/RabbitMQ) 
•    Prompt Engineering מתקדם: Structured Outputs, Tool/Function Calling.
•    שליטה שליטה בעלויות: Token Accounting, Batching, Streaming, LLM Caching.
•    היכרות עם ספקי מודלים מגוונים (OpenAI/Claude/Meta/Google)