עונה 3 פרק 12 -מה זה מודל בינה מלאכותית פתוח - אסף ארבל

בפרק שוחחנו עם אסף מ-IBM Research, ממובילי מודל Granite. הסברנו מהו מודל פתוח: ארכיטקטורה, קוד אימון, משקולות ונתונים, ולמה ברוב המקרים רק שני החלקים הראשונים זמינים. דיברנו על רישיונות שונים, מ-MIT החופשי ועד Llama-License המחייב לשמור את השם. הסברנו שהכסף עבר מאימון יחיד ויקר לאינפרנס מתמשך, ולכן ענקיות בונות חוות GPU ומציעות תשתיות כמו Watsonx, VLLM ו-MCP. ראינו כיצד קהילה יכולה לתרום קוד ו-synthetic data בעזרת InstructLab ולמה תשתיות פתוחות כגון LangChain חשובות. לבסוף נגעו באתגרים: Tool-Calling, פרטיות, פרסומות ממוקדות והצורך הארגוני להריץ מודלים מקומיים. הפרק מדגיש את קצב ההתקדמות המסחרר ומעודד מהנדסים ללמוד לשאול שאלות נכונות ולשמור על גמישות.