מודלי חשיבה (Reasoning models): איך לכתוב להם פרומפטים — ולמה "תחשוב שלב-שלב" כבר לא עובד (2026)

מודל חשיבה (reasoning model) הוא מודל שפה שאומן לחשוב לפני שהוא עונה — הוא מייצר בפנים שרשרת נימוקים סמויה (chain-of-thought), משקיע בה זמן חישוב בזמן הריצה (test-time compute), ורק אז מפיק את התשובה. בגלל התכונה הזאת בדיוק, הטריק הוותיק והאהוב "תחשוב שלב-שלב" — שהיה מנוע הזהב של הנדסת הפרומפט — הפך בשנת 2026 למיותר, ולעיתים אף פוגע בתוצאה. מודלים כמו OpenAI o-series (‏o3/o4), Gemini 2.x Thinking, Claude עם extended thinking ו‑DeepSeek‑R1 שינו את הכללים. במדריך הזה נסביר למה, ומה לכתוב במקום.

מה זה מודל חשיבה, ובמה הוא שונה ממודל צ'אט רגיל

מודל שפה "רגיל" (כמו GPT-4.1 או מודלי completion קלאסיים) מייצר את התשובה טוקן אחרי טוקן, כמעט ללא "מחשבה" מקדימה גלויה. אם רצית שהוא ינמק, היית צריך לבקש זאת מפורשות — וכאן נכנס לתמונה הטריק ההיסטורי של chain-of-thought: "בוא נחשוב על זה שלב-שלב". הבקשה הזאת אילצה את המודל לפרוס את שרשרת הנימוקים כטקסט גלוי, מה ששיפר דרמטית דיוק במשימות מתמטיקה, לוגיקה וקוד.

מודל חשיבה עובד אחרת מהיסוד. לפי התיעוד של Google, מודלי חשיבה "אומנו לייצר את תהליך החשיבה שהמודל עובר כחלק מהתשובה, מה שמוביל ליכולות נימוק חזקות יותר מהמודל הבסיסי המקביל". במילים אחרות: הפירוק לשלבים כבר אפוי בתוך המודל. הוא עושה אותו בעצמו, בתוך שכבה של טוקנים שאתה לרוב לא רואה (או רואה בבלוק חשיבה נפרד).

chain-of-thought פנימי ו‑test-time compute

המונח המקצועי לתופעה הוא test-time compute: במקום להשקיע יותר משאבים רק באימון, המודל מקצה משאבי חישוב נוספים ברגע ההסקה (inference) כדי "לחשוב יותר" לפני שהוא עונה. ככל שהמשימה קשה יותר, כך המודל מקצה יותר טוקני חשיבה. זו הסיבה שמודל חשיבה יכול לפתור בעיה מתמטית מורכבת שמודל רגיל נכשל בה — לא כי הוא "יודע יותר", אלא כי הוא חושב יותר לפני שהוא מדבר.

איך זה שונה מ‑CoT ידני שכתבנו בעצמנו

זה בדיוק הבידול ממדריך שרשרת החשיבה (chain-of-thought) הקלאסי שלנו. CoT ידני הוא טכניקה שאתה מפעיל על מודל רגיל: אתה מכריח אותו לנמק בטקסט. מודל חשיבה עושה את אותו הדבר בעצמו, אוטומטית, ולרוב טוב יותר ממה שהיית מנסח ידנית. לכן, כשאתה מוסיף CoT ידני מעל מודל שכבר חושב, אתה במקרה הטוב מיותר — ובמקרה הרע דורס את תהליך החשיבה הטבעי שלו בתבנית נוקשה משלך. אם אתה עובד עם מודלי צ'אט רגילים, מדריך ה‑CoT עדיין רלוונטי לחלוטין; המדריך הזה עוסק במחלקה חדשה של מודלים שבה אותו רפלקס פשוט הפוך.

למה "תחשוב שלב-שלב" כבר לא עובד — ולפעמים אפילו מזיק

זו לא דעה — זו הנחיה רשמית משלושת הספקים הגדולים. OpenAI כותבים במדריך ה‑reasoning best practices שלהם שהמודלים מצטיינים בהבנת הוראות קצרות וברורות, ושבקשה מפורשת "לחשוב שלב-שלב" עלולה לא לשפר את הביצועים — ולעיתים אף לפגוע בהם. במדריך ה‑function calling ל‑o3/o4-mini הם מנסחים זאת חד: אין צורך לגרום למודל חשיבה לתכנן או לנמק יותר לפני קריאה לכלי, ובקשה כזאת "עלולה למעשה לפגוע בביצועים".

"מודלים מתקדמים של חשיבה כמו Gemini 2.5 כבר חושבים לפני שהם עונים, ולכן הנחיה לחשוב 'שלב-שלב' לא משחררת נימוק סמוי — במקרה הטוב היא מבזבזת תקציב חשיבה שהמודל כבר הקצה." — מתוך הנחיות Gemini 2.5 Thinking

Anthropic מוסיפים את הזווית המשלימה: בעבודה עם extended thinking, "עדיף להעדיף הוראות כלליות על פני שלבים מוכתבים — פרומפט כמו 'תחשוב ביסודיות' לרוב מפיק נימוק טוב יותר מתוכנית שלב-אחר-שלב שכתב אדם, כי החשיבה של Claude תכופות עולה על מה שאדם היה מכתיב". כלומר: כשאתה כותב למודל את השלבים בעצמך, אתה מגביל אותו לרזולוציית החשיבה שלך — במקום לתת לו את שלו, שהיא לרוב עמוקה יותר.

מה כן לעשות: עקרונות לפרומפט למודל חשיבה

1. הגדר מטרה, אילוצים וקריטריון הצלחה — לא נוהל

התפקיד שלך הוא לומר מה אתה רוצה ובאילו תנאים, לא איך להגיע לשם. במקום "קרא את הטקסט, זהה את הבעיות, דרג אותן, ואז כתוב סיכום" — תן למודל את היעד, את המגבלות (אורך, פורמט, טון, מה אסור), ואת ההגדרה של "תשובה טובה". את שרשרת השלבים הוא יבנה בעצמו, ולרוב טוב יותר.

2. היה תמציתי ותן מקום

מודלי חשיבה אוהבים פרומפטים נקיים. הצפה בהוראות מיקרו, אזהרות מיותרות ותזכורות חוזרות רק מוסיפה רעש. נסח ברור, קצר, וללא "תחכומי" הכוונה שכבר לא צריך. אם אתה עובד עם משימות ארוכות מאוד או הקשר עצום, כדאי גם להכיר את כתיבת פרומפטים להקשר ארוך (‏200K טוקנים) — מבנה ומיקום ההוראות משפיעים שם אף יותר.

3. הימנע מ‑few-shot chains שמכתיבים דרך פתרון

אחד ההרגלים הכי מושרשים בהנדסת פרומפט קלאסית הוא לשים כמה דוגמאות פתורות (few-shot) לפני המשימה. במודלי חשיבה זה עלול להתהפך. התיעוד של DeepSeek‑R1 ממליץ במפורש להימנע מדוגמאות, כי "few-shot לרוב מוריד ביצועים — המודל מנסה לחקות את התבנית של הדוגמאות במקום להשתמש ביכולת החשיבה העדיפה שלו לפתור מאפס". ההמלצה: תיאור ברור ומפורט של הבעיה, המשימה ופורמט הפלט — ולתת למודל לחשוב zero-shot. (אם בכל זאת צריך דוגמאות אצל Claude, Anthropic ממליצים לעטוף את הנימוק בדוגמה בתגיות thinking, כדי להדגים סגנון ולא לכפות שלבים.)

בקרות מאמץ, אורך ותקציב חשיבה

הנה הבשורה המשמחת: את כל ה"כוונון העדין" שפעם ניסינו להשיג בטריקים לשוניים, היום מקבלים דרך פרמטרים ייעודיים. במקום לכתוב "תחשוב ממש לעומק" — פשוט מעלים את רמת המאמץ.

• OpenAI GPT-5 / o-series: פרמטר reasoning_effort עם הערכים minimal / low / medium / high שולט בכמות טוקני החשיבה, ופרמטר verbosity (‏low/medium/high) שולט באורך התשובה הסופית — בנפרד מ‑max_tokens.
• Anthropic Claude: extended thinking עם ארבע רמות effort — low, medium, high (ברירת מחדל), max — וכן adaptive thinking, שבו המודל מחליט לבד מתי כדאי לחשוב לעומק. תקציב החשיבה המינימלי הוא 1,024 טוקנים; ההמלצה היא להתחיל נמוך ולעלות בהדרגה.
• Google Gemini 2.5: thinking budget נפרד, ברירת מחדל Auto, בטווח 0–24,576 טוקנים ב‑Flash. ההמלצה המעשית: להתחיל סביב 8,000 ולהעלות רק אם האיכות עקבית ונמוכה — כי יותר תקציב לא אומר אוטומטית תשובה טובה יותר.

שים לב לדפוס החוזר: יותר חשיבה אינה תמיד עדיפה. יש תשואה פוחתת, ולעיתים אף ירידה באיכות ובמהירות. התחל נמוך, מדוד, והעלה רק כשצריך.

ההבדלים בין המודלים — מה כל ספק מבקש ממך

גם בתוך מחלקת מודלי החשיבה יש ניואנסים חשובים. השוואה רחבה בין דורות המודלים תמצא במדריך GPT-5 מול Claude Opus 4; כאן נתמקד בהשלכות על הפרומפט:

• DeepSeek‑R1: הכי רגיש. ממליצים לא להשתמש ב‑system prompt — כל ההוראות צריכות להיות ב‑user prompt. להימנע מ‑few-shot, ולהחזיק טמפרטורה יציבה סביב 0.5–0.7 (‏0.6 הוא הנקודה המתוקה); טמפרטורה גבוהה מדי "שוברת" את שרשרת הנימוק.
• OpenAI o-series: מגיב מצוין להוראות קצרות וממוקדות. לא לבקש נימוק נוסף לפני קריאות כלים; לתת מטרה ואילוצים, ולתת לו לתכנן.
• Claude (extended thinking): אוהב הוראות כלליות ("תחשוב ביסודיות") על פני שלבים מוכתבים; תומך ב‑interleaved thinking בין קריאות כלים; חשוב להחזיר את בלוקי החשיבה בשלמותם ל‑API כשעובדים עם כלים.
• Gemini 2.5 Thinking: נשלט בעיקר דרך thinking budget; הוראות "שלב-שלב" מבזבזות אותו.

מתי מודל חשיבה ומתי מודל רגיל — טבלת החלטה

מודל חשיבה חזק יותר, אך גם איטי ויקר יותר (יותר טוקני חשיבה = יותר עלות ולטנציה). הכלל הפשוט: מודל חשיבה למשימות שבהן הדרך לתשובה קשה; מודל רגיל למשימות שבהן התשובה פשוט צריכה להיכתב.

טיפ מעשי: הרבה מערכות ייצור משלבות — מודל רגיל ומהיר לרוב הבקשות, ומודל חשיבה רק ל"מקרים הקשים" (למשל כשה‑confidence נמוך או כשהמשימה סווגה כמורכבת). זה נותן את מרב הדיוק במינימום עלות.

דוגמאות לפני / אחרי בעברית

הנה איך נראה מעבר מפרומפט "בסגנון ישן" לפרומפט שמתאים למודל חשיבה.

דוגמה 1 — ניתוח החלטה עסקית

לפני (סגנון מודל רגיל):
"בוא נחשוב על זה צעד אחר צעד. קודם רשום את כל האפשרויות,
אחר כך נתח כל אחת, אחר כך שקלל, ואז תן המלצה. תחשוב לאט
ובזהירות ואל תפספס שום שלב."

אחרי (מודל חשיבה):
"החלט אם להשיק את המוצר ברבעון הזה או להמתין רבעון.
אילוצים: תקציב שיווק 200 אלף ₪, צוות של 3 אנשים,
מתחרה צפוי להשיק בעוד חודשיים.
תשובה טובה = המלצה חד-משמעית + שלושה סיכונים מרכזיים
+ תנאי שבו ההמלצה מתהפכת. עד 250 מילים."

דוגמה 2 — באג בקוד

לפני:
"תחשוב שלב-שלב על הקוד הזה. עבור שורה-שורה, הסבר מה כל
שורה עושה, ואז נסה למצוא את הבאג. אל תמהר."

אחרי:
"הפונקציה אמורה להחזיר את סכום המספרים הזוגיים ברשימה,
אבל היא מחזירה 0 עבור [2,4,6]. מצא את הבאג ותקן.
החזר: (1) השורה הבעייתית, (2) התיקון, (3) למה זה קרה."

שים לב שבגרסת ה"אחרי" הורדנו כל הנחיית "תחשוב לאט/שלב-שלב", והוספנו במקום זה קריטריון הצלחה מדויק. זה בדיוק המעבר. לעקרונות הרחבים של ניסוח פרומפט טוב — בכל סוג מודל — ראה את המדריך לכתיבת פרומפט טוב.

שאלות נפוצות

האם אסור לחלוטין לכתוב "תחשוב שלב-שלב" למודל חשיבה?

לא "אסור", אבל זה בזבזני ולעיתים מזיק. ההנחיות הרשמיות של OpenAI ו‑Google מציינות שהבקשה מיותרת כי המודל כבר עושה זאת בפנים, ושהיא עלולה לבזבז תקציב חשיבה או לפגוע בביצועים. במקום זה — נסח מטרה ואילוצים ברורים, ותן למודל לחשוב לבד.

אם מודלי חשיבה חזקים יותר, למה לא להשתמש בהם תמיד?

כי הם איטיים ויקרים יותר. כל טוקן חשיבה עולה זמן וכסף, ובמשימות פשוטות (סיכום, סיווג, מענה קצר) מודל חשיבה לא ישפר את התוצאה אבל כן יגדיל עלות ולטנציה. למשימות "קלות" מודל רגיל או מודל חשיבה במאמץ נמוך עדיף.

מה ההבדל בין reasoning_effort ל‑verbosity ב‑GPT-5?

‏reasoning_effort קובע כמה המודל חושב בפנים לפני שהוא עונה (minimal/low/medium/high). ‏verbosity קובע כמה ארוכה התשובה הסופית (low/medium/high). הם בלתי תלויים: אפשר מאמץ חשיבה גבוה עם תשובה קצרה, ולהפך. הוראה מפורשת בפרומפט (למשל "כתוב חמש פסקאות") גוברת על הגדרת ה‑verbosity.

האם few-shot תמיד מזיק במודלי חשיבה?

לא תמיד, אבל היזהר. ב‑DeepSeek‑R1 ההמלצה הרשמית היא להימנע מדוגמאות כי הן מורידות ביצועים. ב‑Claude אפשר להשתמש בדוגמאות אם עוטפים את הנימוק בתגיות thinking כדי להדגים סגנון ולא לכפות שלבים. הכלל: אם הדוגמה מכתיבה דרך פתרון, סביר שהיא תזיק; אם היא מדגימה רק פורמט פלט, לרוב היא בטוחה.

איך אני בוחר תקציב חשיבה (thinking budget) נכון?

התחל נמוך ועלה בהדרגה. Anthropic ממליצים להתחיל מהמינימום (1,024 טוקנים) ולעלות; Google ממליצים להתחיל סביב 8,000 ב‑Gemini Flash ולהעלות רק אם האיכות עקבית ונמוכה. אין קסם ב"תקציב גבוה" — יש תשואה פוחתת, ולעיתים גם ירידה באיכות.

מודל חשיבה מבטל את הצורך בהנדסת פרומפט?

להפך — הוא מחדד אותו. במקום להשקיע בטריקים שמכריחים את המודל לנמק, אתה משקיע בניסוח מדויק של המטרה, האילוצים וקריטריון ההצלחה. זו הנדסת פרומפט ברמה גבוהה יותר: פחות מניפולציה של תהליך, יותר בהירות של כוונה.

רוצים להפסיק לנחש ולהתחיל לכתוב פרומפטים שעובדים גם על מודלי חשיבה? היכנסו לספריית הפרומפטים של Peroot — תבניות מוכנות, בעברית, עם אילוצים וקריטריוני הצלחה בנויים פנימה.