מודלי חשיבה (Reasoning models): איך לכתוב להם פרומפטים, ולמה "תחשוב שלב-שלב" כבר לא עובד (2026)

מודל חשיבה (reasoning model) הוא מודל שפה שאומן לחשוב לפני שהוא עונה: הוא מייצר בפנים שרשרת נימוקים סמויה (chain-of-thought), משקיע בה זמן חישוב בזמן הריצה (test-time compute), ורק אז מפיק את התשובה. בגלל התכונה הזאת בדיוק, הטריק הוותיק והאהוב "תחשוב שלב-שלב", שהיה פעם מנוע הזהב של הנדסת הפרומפט, הפך בשנת 2026 למיותר ולעיתים אף פוגע בתוצאה. מודלים כמו OpenAI o-series ‏(o3/o4), Gemini 2.x Thinking, Claude עם extended thinking ו‑DeepSeek‑R1 שינו את הכללים. כאן נסביר למה, ומה לכתוב במקום.

מה זה מודל חשיבה, ובמה הוא שונה ממודל צ'אט רגיל

מודל שפה "רגיל" (כמו GPT-4.1 או מודלי completion קלאסיים) מייצר את התשובה טוקן אחרי טוקן, כמעט ללא "מחשבה" מקדימה גלויה. אם רצית שהוא ינמק, היית צריך לבקש זאת מפורשות, וכאן נכנס לתמונה הטריק ההיסטורי של chain-of-thought: "בוא נחשוב על זה שלב-שלב". הבקשה הזאת אילצה את המודל לפרוס את שרשרת הנימוקים כטקסט גלוי, מה ששיפר דרמטית את הדיוק במשימות מתמטיקה, לוגיקה וקוד.

מודל חשיבה עובד אחרת מהיסוד. לפי התיעוד של Google, מודלי חשיבה "אומנו לייצר את תהליך החשיבה שהמודל עובר כחלק מהתשובה, מה שמוביל ליכולות נימוק חזקות יותר מהמודל הבסיסי המקביל". במילים אחרות: הפירוק לשלבים כבר אפוי בתוך המודל. הוא עושה אותו בעצמו, בתוך שכבה של טוקנים שלרוב לא רואים (או רואים בבלוק חשיבה נפרד).

chain-of-thought פנימי ו‑test-time compute

המונח המקצועי לתופעה הוא test-time compute: במקום להשקיע יותר משאבים רק באימון, המודל מקצה משאבי חישוב נוספים ברגע ההסקה (inference) כדי "לחשוב יותר" לפני שהוא עונה. ככל שהמשימה קשה יותר, כך המודל מקצה יותר טוקני חשיבה. זו הסיבה שמודל חשיבה יכול לפתור בעיה מתמטית מורכבת שמודל רגיל נכשל בה, לא כי הוא "יודע יותר", אלא כי הוא חושב יותר לפני שהוא מדבר.

איך זה שונה מ‑CoT ידני שכתבנו בעצמנו?

זה בדיוק הבידול ממדריך שרשרת החשיבה (chain-of-thought) הקלאסי שלנו. CoT ידני הוא טכניקה שמפעילים על מודל רגיל: מכריחים אותו לנמק בטקסט. מודל חשיבה עושה את אותו הדבר בעצמו, אוטומטית, ולרוב טוב יותר ממה שהיינו מנסחים ידנית. לכן, כשמוסיפים CoT ידני מעל מודל שכבר חושב, במקרה הטוב זה מיותר, ובמקרה הרע זה דורס את תהליך החשיבה הטבעי שלו בתבנית נוקשה משלנו. מי שעובד עם מודלי צ'אט רגילים, מדריך ה‑CoT עדיין רלוונטי לחלוטין; כאן מדובר במחלקה חדשה של מודלים שבה אותו רפלקס פשוט הפוך.

למה "תחשוב שלב-שלב" כבר לא עובד, ולפעמים אפילו מזיק

זו לא דעה, אלא הנחיה רשמית משלושת הספקים הגדולים. OpenAI כותבים במדריך ה‑reasoning best practices שלהם שהמודלים מצטיינים בהבנת הוראות קצרות וברורות, ושבקשה מפורשת "לחשוב שלב-שלב" עלולה לא לשפר את הביצועים ולעיתים אף לפגוע בהם. במדריך ה‑function calling ל‑o3/o4-mini הם מנסחים זאת חד: אין צורך לגרום למודל חשיבה לתכנן או לנמק יותר לפני קריאה לכלי, ובקשה כזאת "עלולה למעשה לפגוע בביצועים".

Anthropic מוסיפים את הזווית המשלימה: בעבודה עם extended thinking, "עדיף להעדיף הוראות כלליות על פני שלבים מוכתבים; פרומפט כמו 'תחשוב ביסודיות' לרוב מפיק נימוק טוב יותר מתוכנית שלב-אחר-שלב שכתב אדם, כי החשיבה של Claude תכופות עולה על מה שאדם היה מכתיב". כלומר: כשכותבים למודל את השלבים בעצמנו, אנחנו מגבילים אותו לרזולוציית החשיבה שלנו, במקום לתת לו את שלו, שהיא לרוב עמוקה יותר.

מה כן לעשות: עקרונות לפרומפט למודל חשיבה

שלושה עקרונות מחליפים את כל הטריקים הישנים. במקום לתאר למודל איך לחשוב, מתארים לו מה צריך ובאילו תנאים.

בקרות מאמץ, אורך ותקציב חשיבה

הנה הבשורה המשמחת: את כל ה"כוונון העדין" שפעם ניסינו להשיג בטריקים לשוניים, היום מקבלים דרך פרמטרים ייעודיים. במקום לכתוב "תחשוב ממש לעומק", פשוט מעלים את רמת המאמץ.

• OpenAI GPT-5 / o-series: פרמטר reasoning_effort עם הערכים minimal / low / medium / high שולט בכמות טוקני החשיבה, ופרמטר verbosity ‏(low/medium/high) שולט באורך התשובה הסופית, בנפרד מ‑max_tokens.
• Anthropic Claude: extended thinking עם ארבע רמות effort (‏low, medium, high שהיא ברירת המחדל, ו‑max), וכן adaptive thinking, שבו המודל מחליט לבד מתי כדאי לחשוב לעומק. תקציב החשיבה המינימלי הוא 1,024 טוקנים; ההמלצה היא להתחיל נמוך ולעלות בהדרגה.
• Google Gemini 2.5: thinking budget נפרד, ברירת מחדל Auto, בטווח 0 עד 24,576 טוקנים ב‑Flash. ההמלצה המעשית: להתחיל סביב 8,000 ולהעלות רק אם האיכות עקבית ונמוכה, כי יותר תקציב לא אומר אוטומטית תשובה טובה יותר.

ההבדלים בין המודלים: מה כל ספק מבקש ממך

גם בתוך מחלקת מודלי החשיבה יש ניואנסים חשובים. השוואה רחבה בין דורות המודלים תמצאו במדריך GPT-5 מול Claude Opus 4; כאן נתמקד בהשלכות על הפרומפט:

• DeepSeek‑R1: הכי רגיש. מומלץ לא להשתמש ב‑system prompt, כל ההוראות צריכות להיות ב‑user prompt. כדאי להימנע מ‑few-shot, ולהחזיק טמפרטורה יציבה סביב 0.5 עד 0.7 ‏(0.6 הוא הנקודה המתוקה); טמפרטורה גבוהה מדי "שוברת" את שרשרת הנימוק.
• OpenAI o-series: מגיב מצוין להוראות קצרות וממוקדות. לא לבקש נימוק נוסף לפני קריאות כלים; לתת מטרה ואילוצים, ולתת לו לתכנן.
• Claude (extended thinking): אוהב הוראות כלליות ("תחשוב ביסודיות") על פני שלבים מוכתבים; תומך ב‑interleaved thinking בין קריאות כלים; חשוב להחזיר את בלוקי החשיבה בשלמותם ל‑API כשעובדים עם כלים.
• Gemini 2.5 Thinking: נשלט בעיקר דרך thinking budget; הוראות "שלב-שלב" מבזבזות אותו.

מתי מודל חשיבה ומתי מודל רגיל: טבלת החלטה

מודל חשיבה חזק יותר, אך גם איטי ויקר יותר (יותר טוקני חשיבה שווים ליותר עלות ולטנציה). הכלל הפשוט: מודל חשיבה למשימות שבהן הדרך לתשובה קשה; מודל רגיל למשימות שבהן התשובה פשוט צריכה להיכתב.

דוגמאות לפני ואחרי בעברית

כך נראה מעבר מפרומפט "בסגנון ישן" לפרומפט שמתאים למודל חשיבה.

דוגמה 1: ניתוח החלטה עסקית

לפני (סגנון מודל רגיל):
"בוא נחשוב על זה צעד אחר צעד. קודם רשום את כל האפשרויות,
אחר כך נתח כל אחת, אחר כך שקלל, ואז תן המלצה. תחשוב לאט
ובזהירות ואל תפספס שום שלב."

אחרי (מודל חשיבה):
"החלט אם להשיק את המוצר ברבעון הזה או להמתין רבעון.
אילוצים: תקציב שיווק 200 אלף ₪, צוות של 3 אנשים,
מתחרה צפוי להשיק בעוד חודשיים.
תשובה טובה = המלצה חד-משמעית + שלושה סיכונים מרכזיים
+ תנאי שבו ההמלצה מתהפכת. עד 250 מילים."

דוגמה 2: באג בקוד

לפני:
"תחשוב שלב-שלב על הקוד הזה. עבור שורה-שורה, הסבר מה כל
שורה עושה, ואז נסה למצוא את הבאג. אל תמהר."

אחרי:
"הפונקציה אמורה להחזיר את סכום המספרים הזוגיים ברשימה,
אבל היא מחזירה 0 עבור [2,4,6]. מצא את הבאג ותקן.
החזר: (1) השורה הבעייתית, (2) התיקון, (3) למה זה קרה."

שאלות נפוצות

האם אסור לחלוטין לכתוב "תחשוב שלב-שלב" למודל חשיבה?

לא "אסור", אבל זה בזבזני ולעיתים מזיק. ההנחיות הרשמיות של OpenAI ו‑Google מציינות שהבקשה מיותרת כי המודל כבר עושה זאת בפנים, ושהיא עלולה לבזבז תקציב חשיבה או לפגוע בביצועים. במקום זה, נסחו מטרה ואילוצים ברורים, ותנו למודל לחשוב לבד.

אם מודלי חשיבה חזקים יותר, למה לא להשתמש בהם תמיד?

כי הם איטיים ויקרים יותר. כל טוקן חשיבה עולה זמן וכסף, ובמשימות פשוטות (סיכום, סיווג, מענה קצר) מודל חשיבה לא ישפר את התוצאה אבל כן יגדיל עלות ולטנציה. למשימות "קלות" מודל רגיל או מודל חשיבה במאמץ נמוך עדיף.

מה ההבדל בין reasoning_effort ל‑verbosity ב‑GPT-5?

‏reasoning_effort קובע כמה המודל חושב בפנים לפני שהוא עונה (minimal/low/medium/high). ‏verbosity קובע כמה ארוכה התשובה הסופית (low/medium/high). הם בלתי תלויים: אפשר מאמץ חשיבה גבוה עם תשובה קצרה, ולהפך. הוראה מפורשת בפרומפט (למשל "כתוב חמש פסקאות") גוברת על הגדרת ה‑verbosity.

האם few-shot תמיד מזיק במודלי חשיבה?

לא תמיד, אבל כדאי להיזהר. ב‑DeepSeek‑R1 ההמלצה הרשמית היא להימנע מדוגמאות כי הן מורידות ביצועים. ב‑Claude אפשר להשתמש בדוגמאות אם עוטפים את הנימוק בתגיות thinking, כדי להדגים סגנון ולא לכפות שלבים. הכלל: אם הדוגמה מכתיבה דרך פתרון, סביר שהיא תזיק; אם היא מדגימה רק פורמט פלט, לרוב היא בטוחה.

איך בוחרים תקציב חשיבה (thinking budget) נכון?

מתחילים נמוך ועולים בהדרגה. Anthropic ממליצים להתחיל מהמינימום (1,024 טוקנים) ולעלות; Google ממליצים להתחיל סביב 8,000 ב‑Gemini Flash ולהעלות רק אם האיכות עקבית ונמוכה. אין קסם ב"תקציב גבוה": יש תשואה פוחתת, ולעיתים גם ירידה באיכות.

מודל חשיבה מבטל את הצורך בהנדסת פרומפט?

להפך, הוא מחדד אותו. במקום להשקיע בטריקים שמכריחים את המודל לנמק, משקיעים בניסוח מדויק של המטרה, האילוצים וקריטריון ההצלחה. זו הנדסת פרומפט ברמה גבוהה יותר: פחות מניפולציה של תהליך, יותר בהירות של כוונה.