AI עם 480GB זיכרון? למה אינטל שמה במאיץ החדש שלה זיכרון של לפטופים

תשכחו מה-SSD שלכם: מפלצת ה-AI החדשה נושמת זיכרון

בעולם הטכנולוגיה, אנחנו רגילים למספרים גדולים. עוד ליבה, עוד גיגה-הרץ, עוד טרה-בייט. אבל מדי פעם מגיע נתון שגורם גם לנו להרים גבה. אינטל הכריזה לאחרונה על ארכיטקטורת האצה לבינה מלאכותית שמציעה תצורות עם נפח זיכרון פנומנלי של 480GB. כדי לשים את זה בפרופורציה, זה יותר מנפח האחסון ברוב המוחלט של המחשבים הניידים שנמכרים היום. רובנו מסתדרים יופי עם 16GB או 32GB של זיכרון RAM, אז למה מכונת AI צריכה פי 15 יותר?

אבל הסיפור האמיתי והמעניין יותר הוא לא רק ה"כמה", אלא ה"איך". במקום להשתמש בזיכרון היקר והאקזוטי ביותר (טכנולוגיית HBM, ומיד נסביר מה זה), אינטל בחרה בגישה אחרת, כזו שמזכירה יותר את הזיכרון שיושב בלפטופ שלכם. אז קדימה, בואו נפרק את המהלך המפתיע הזה ונבין למה הוא עשוי להיות גאוני.

הבעיה: מודלי AI הם זוללי זיכרון כרוניים

כדי להבין את ההחלטה של אינטל, צריך קודם להבין את הבעיה. מודל בינה מלאכותית מודרני, כמו אלו שמפעילים את ChatGPT או יוצרים תמונות מדהימות, הוא בעצם אוסף עצום של מספרים שנקראים "פרמטרים". אפשר לחשוב עליהם כמו על כל הנוירונים והקשרים במוח שלנו. ככל שיש יותר פרמטרים, המודל "יודע" יותר והוא מתוחכם יותר.

העניין הוא, שכל הפרמטרים האלה צריכים לשבת בזיכרון מהיר וזמין למעבד הגרפי (GPU) או למאיץ ה-AI כדי שהוא יוכל לעבוד. אם המודל גדול מדי ולא נכנס כולו לזיכרון המהיר (VRAM), המחשב צריך להתחיל "לגמגם" – להביא חתיכות מהמודל מהאחסון האיטי יותר, לבצע חישוב, להחזיר, להביא חתיכה חדשה, וחוזר חלילה. התהליך הזה הוא צוואר בקבוק אדיר שהורג את הביצועים.

שתי גישות למהירות: פרארי מול משאית ענק

כאן נכנסת לתמונה הבחירה בסוג הזיכרון. בעולם מאיצי ה-AI יש שתי גישות עיקריות:

• HBM (High Bandwidth Memory): זו הפרארי של עולם הזיכרונות. מדובר בשבבי זיכרון שמונחים פיזית ממש ליד שבב המעבד על אותה חתיכת סיליקון. הקרבה הזו מאפשרת רוחב פס מטורף – כמו כביש עם 200 נתיבים. החיסרון? זה יקר מאוד לייצור, מסובך, ובגלל המבנה הפיזי, קיים קושי לייצר נפחים גדולים מאוד. זה מה ששחקניות כמו NVIDIA משתמשות בו בדרך כלל בכרטיסי הדגל שלהן.
• LPDDR (Low Power Double Data Rate): זו המשאית. זהו זיכרון דומה מאוד למה שיש לנו בסמארטפונים ובלפטופים (LPDDR הוא גרסה חסכונית בחשמל של ה-DDR המוכר). רוחב הפס שלו צר משמעותית מ-HBM (נחזור לכביש עם 16 נתיבים), אבל הוא זול משמעותית לייצור, צורך פחות חשמל, והכי חשוב – מאפשר לשים כמויות אדירות ממנו על לוח אחד.

אז למה אינטל מהמרת על "המשאית"?

הבחירה של אינטל בגישה מבוססת LPDDR היא הימור מחושב שמבוסס על הבנה עמוקה של שוק ה-AI. הנה הסיבות המרכזיות:

1. גודל קובע, ובגדול: עבור משימות רבות בעולם ה-AI, בעיקר בתחום ה"הסקה" (Inference - שימוש במודל שכבר אומן), היכולת להכניס מודל ענק *כולו* לתוך הזיכרון חשובה יותר ממהירות הזיכרון עצמו. עדיף לנסוע 80 קמ"ש על כביש רציף מאשר 300 קמ"ש בכביש שנגמר כל קילומטר וצריך לעצור ולחכות. 480GB מאפשרים להריץ מודלי שפה (LLM) מפלצתיים על מערכת אחת, במקום לפצל אותם על פני מספר שרתים יקרים ומסובכים.
2. עלות-תועלת ישראלית: אנחנו תמיד מחפשים את ה"דיל" החכם. HBM הוא רכיב יקר מאוד שמייקר משמעותית את עלות המאיץ. שימוש ב-LPDDR מאפשר לאינטל להציע פתרון עם נפח אדיר בעלות נמוכה יותר, מה שפותח את הדלת ללקוחות נוספים ומוריד את עלות התפעול הכוללת של חוות שרתים.
3. חשבון החשמל: השם LPDDR לא נבחר סתם, ה-LP הוא Low Power. בחוות שרתים שמריצות אלפי שבבים כאלה 24/7, כל וואט חשמל נספר. חיסכון בצריכת החשמל הוא לא רק בונוס אקולוגי, הוא יתרון כלכלי אדיר שמצטבר למיליונים.

ומה זה אומר מבחינתנו?

חשוב להבהיר, אנחנו כנראה לא נראה מאיץ כזה במחשב הגיימינג הבא שלנו. הטכנולוגיה הזו מכוונת לענקיות הענן, לחוקרים ולחברות שמפתחות את הדור הבא של הבינה המלאכותית. אבל ההשפעה של מהלכים כאלה מחלחלת למטה. תחרות בשוק מאיצי ה-AI מביאה לחדשנות, להורדת מחירים, ובסופו של דבר – ליכולות AI מתקדמות וזמינות יותר לכולנו.

המהלך של אינטל מוכיח שלא תמיד צריך את הרכיב הכי מהיר והכי יקר. לפעמים, הפתרון החכם ביותר הוא להסתכל על הבעיה כולה – עלות, צריכת חשמל, ודרישות העולם האמיתי – ולבחור בארכיטקטורה שמספקת את התמורה הטובה ביותר. זו לא רק שאלה של מהירות, זו שאלה של חוכמה הנדסית.

מאמר מאת צוות הבלוג של אלוף המחשבים