גלו כיצד למקסם את הפוטנציאל של מודלי שפה גדולים (LLMs) באמצעות טכניקות הנחיה יעילות, מהבסיס ועד לרמות המתקדמות ביותר.
המידע הרקעי שאתם מספקים ל-LLM בתוך הפרומפט. הקשר טוב ומדויק הוא המפתח לקבלת תשובות רלוונטיות ואיכותיות, והוא "מכוונן" את המודל למשימה הספציפית.
כמות המידע המקסימלית (הנמדדת בדרך כלל ב"טוקנים") שהמודל יכול "לזכור" ולהתייחס אליה בנקודת זמן נתונה. כל מה שחורג מחלון ההקשר, כולל תחילת שיחה ארוכה, עלול "להישכח" על ידי המודל.
ממשקים או פונקציות חיצוניות שה-LLM יכול להפעיל כדי לקבל מידע עדכני או לבצע פעולות בעולם האמיתי. דוגמאות נפוצות הן חיפוש באינטרנט, גישה למאגר נתונים, או שליחת אימייל.
היכולת של המודל לנתח מידע, לפרק בעיות מורכבות לשלבים, ולבצע שרשרת של צעדים לוגיים כדי להגיע לתשובה. טכניקות מתקדמות נועדו לשפר ולכוון את יכולת ה-Reasoning של המודל.
הצורה הבסיסית ביותר של הנחיה, בה מבקשים מהמודל לבצע משימה מבלי לספק לו דוגמאות כלשהן. השיטה מסתמכת על הידע והיכולות הכלליות שהמודל רכש במהלך האימון שלו.
אילוסטרציה ויזואלית:
דמיינו שאתם נותנים הוראה ישירה ופשוטה לאדם. אין צורך בהדגמה, רק בבקשה ברורה.
תרגם את הטקסט הבא מאנגלית לעברית: "Good morning, Jerusalem."
סכם את עיקרי תורת היחסות הכללית בשלושה משפטים.
כתוב שיר קצר על הסתיו בירושלים.
טכניקה בה מספקים ל-LLM מספר דוגמאות (shots) של הקלט והפלט הרצויים לפני שמציגים לו את המשימה האמיתית. הדוגמאות עוזרות למודל "ללמוד" את התבנית, הסגנון או הפורמט הנדרש לתשובה.
אילוסטרציה ויזואלית:
דמיינו שאתם מלמדים מישהו משימה חדשה על ידי כך שאתם מראים לו 2-3 פעמים איך לבצע אותה, ורק אז מבקשים ממנו לנסות בעצמו.
מילה: אופניים, הגדרה: כלי תחבורה בעל שני גלגלים. מילה: קולנוע, הגדרה: אמנות יצירת סרטים. מילה: טלסקופ, הגדרה: מכשיר לצפייה בעצמים רחוקים. מילה: ארכיפלג, הגדרה:
טקסט: הסרט היה מרגש. סנטימנט: חיובי. טקסט: האוכל היה מאכזב. סנטימנט: שלילי. טקסט: הפגישה הייתה סבירה. סנטימנט: ניטרלי. טקסט: אני כל כך שמח לראות אותך! סנטימנט:
שאלה: מהי בירת ישראל? תשובה: ירושלים. שאלה: כמה זה 5 כפול 3? תשובה: 15. שאלה: מי כתב את "התקווה"? תשובה:
משאבים נוספים: טכניקה זו מפעילה ומנחה את יכולות ה-Reasoning הפנימיות של המודל.
טכניקה זו מעודדת את המודל לחשוב "צעד אחר צעד" ולפרט את תהליך החשיבה הלוגי שהוביל אותו לתשובה הסופית. זה שימושי במיוחד לפתרון בעיות מתמטיות, לוגיות או מרובות שלבים, ומאפשר לנו לבדוק את "דרך המחשבה" של המודל.
אילוסטרציה ויזואלית:
במקום לבקש רק את התשובה הסופית לבעיה, אתם מבקשים להראות את "כל הדרך" על דף הטיוטה, שלב אחרי שלב, עד לפתרון.
ש: לדנה יש 5 עפרונות. היא קנתה 2 חבילות נוספות. בכל חבילה יש 6 עפרונות. כמה עפרונות יש לה עכשיו? ת: בוא נחשוב שלב אחר שלב. דנה התחילה עם 5 עפרונות. 2 חבילות של 6 עפרונות זה 2 * 6 = 12 עפרונות. אז, 5 + 12 = 17. התשובה היא 17. ש: במקרר היו 10 תפוחים. אכלו 3 וקנו עוד 5. כמה תפוחים יש עכשיו? ת: בוא נחשוב שלב אחר שלב. התחלנו עם 10 תפוחים. אכלו 3, אז 10-3 = 7. קנו עוד 5, אז 7+5=12. התשובה היא 12.
הסבר את מחזור המים בטבע. פרט את התהליך לשלבים עוקבים, החל מהתאדות.
אני צריך לתכנן טיול ברכב מתל אביב לאילת. תאר מסלול הגיוני, כולל נקודות עצירה מומלצות וזמני נסיעה מוערכים. חשוב צעד אחר צעד.
משאבים נוספים: משתמש ב-Reasoning מרובה ובדרך כלל דורש שכבת לוגיקה נוספת (למשל, קוד) כדי להשוות בין התשובות.
טכניקה מתקדמת המבוססת על CoT. במקום לבקש מהמודל "דרך חשיבה" אחת, מבקשים ממנו לייצר מספר נתיבי חשיבה שונים לאותה שאלה, ואז בוחרים את התשובה הסופית שמופיעה הכי הרבה פעמים. זה מפחית את הסיכוי לטעויות ומגביר את אמינות הפתרון.
אילוסטרציה ויזואלית:
דמיינו ועדה של מומחים. אתם שואלים את כולם את אותה השאלה, כל אחד מגיע לפתרון בדרך אחרת, ולבסוף אתם בוחרים את התשובה שעליה רוב המומחים הסכימו.
באיזו שנה נולד ראש הממשלה שחתם על הסכם השלום עם מצרים? הצג 3 דרכי חשיבה שונות להגיע לתשובה. דרך 1: הסכם השלום עם מצרים נחתם ב-1979. ראש הממשלה אז היה מנחם בגין. מנחם בגין נולד ב-1913. דרך 2: מנחם בגין הוא זה שחתם על ההסכם. אחפש את תאריך הלידה שלו. הוא נולד ב-16 באוגוסט 1913. דרך 3: מי חתם על הסכם השלום עם מצרים? מנחם בגין. מתי הוא נולד? 1913. תשובה סופית (על פי רוב קולות): 1913.
מהן שלוש דרכים שונות לגשת לפתרון החידה הבאה: "מה תמיד בא אבל אף פעם לא מגיע?" הצג שלושה קווי מחשבה נפרדים.
פתור את המשוואה x^2 - 3x + 2 = 0. הראה לי שלוש שיטות שונות: פירוק לגורמים, נוסחת השורשים והשלמה לריבוע.
משאבים נוספים: משלב Reasoning עם היכולת להשתמש ב-Tools חיצוניים.
מסגרת עבודה המאפשרת למודל לשלב בין הסקת מסקנות (Reasoning) לבין ביצוע פעולות (Acting) בעזרת כלים חיצוניים. המודל מפרק את המשימה לשלבים, ובכל שלב הוא חושב מה עליו לעשות, מבצע פעולה (למשל, חיפוש), מתבונן בתוצאה, וחושב על הצעד הבא, עד להגעה לתשובה.
אילוסטרציה ויזואלית:
דמיינו חוקר פרטי. הוא חושב על רמז (Reason), הולך לחפש מידע בספרייה (Act), מסתכל על מה שמצא (Observation), וחושב על הרמז הבא. הוא חוזר על התהליך בלולאה.
שאלה: מהו גובהה של העיר הגבוהה ביותר במדינה בה נמצא הקולוסאום?
מחשבה: אני צריך למצוא היכן הקולוסאום, למצוא מהי המדינה, ואז לחפש את העיר הגבוהה ביותר באותה מדינה.
פעולה: חיפוש("היכן נמצא הקולוסאום")
תצפית: הקולוסאום נמצא ברומא, איטליה.
מחשבה: המדינה היא איטליה. עכשיו אני צריך למצוא את העיר הגבוהה ביותר באיטליה.
פעולה: חיפוש("העיר הגבוהה ביותר באיטליה")
תצפית: העיר הגבוהה ביותר באיטליה היא טרפלה.
תשובה סופית: טרפלה היא העיר הגבוהה ביותר באיטליה.
מיהו נשיא המדינה הנוכחי ומה הייתה תחזית מזג האוויר בירושלים אתמול? יש לך גישה לכלי חיפוש.
הזמן לי שולחן לשני אנשים במסעדה איטלקית בתל אביב למחר בערב, ואז מצא ביקורות עליה. יש לך גישה לכלי הזמנת מקומות וכלי חיפוש.
משאבים נוספים: דורש גישה למאגר נתונים חיצוני (Vector Database) המשמש כ-Tool לשליפת מידע.
טכניקה המשלבת את יכולות היצירה של LLM עם מאגר מידע חיצוני ועדכני. כאשר המשתמש שואל שאלה, המערכת תחילה מחפשת את המידע הרלוונטי ביותר במאגר הנתונים, ואז "מזריקה" את המידע הזה כהקשר (Context) לתוך הפרומפט. זה מאפשר למודל לענות על שאלות ספציפיות לתחום מסוים או לספק מידע עדכני יותר ממה שעליו אומן.
אילוסטרציה ויזואלית:
דמיינו מומחה שצריך לענות על שאלה. לפני שהוא עונה, הוא ניגש לספרייה הפרטית והעדכנית שלו, שולף את הספר והעמוד המדויקים, קורא אותם, ורק אז מנסח את התשובה על בסיס המידע שמצא.
שאלת משתמש: מהי מדיניות החברה בנוגע לימי חופשה? מערכת: 1. מחפשת במאגר הידע הפנימי "מדיניות ימי חופשה". 2. מאחזרת את המסמך הרלוונטי. 3. מעבירה את הטקסט ל-LLM עם הפרומפט: "בהתבסס על המסמך הבא, ענה על שאלת המשתמש בנוגע לימי חופשה: [טקסט המסמך שאוחזר]".
לפי מאגר המידע המשפטי הפנימי שלנו, מהי הפסיקה האחרונה בנוגע לתיק XYZ?
סכם את הממצאים העיקריים מדוח סיכום הפרויקט לרבעון האחרון [המערכת תאחזר את הדוח תחילה].
משאבים נוספים: יכול להשתמש בכל המשאבים הקודמים (Reasoning, Tools), ודורש תכנון של מערכת מורכבת יותר.
טכניקה מתקדמת ביותר שבה משתמשים ב-LLM כדי לנהל ולתזמר משימות המבוצעות על ידי LLMs אחרים (או על ידי עצמו). במקום לתת למודל הוראות ישירות, נותנים לו פרומפט "על" (Meta) שמתאר את המטרה, את התפקידים השונים, את התהליך ואת תבנית הפלט הרצויה. ה-LLM המנהל מפרק את המשימה ויוצר פרומפטים ספציפיים עבור "סוכני" LLM אחרים.
אילוסטרציה ויזואלית:
דמיינו שאתם מנכ"לים שנותנים הנחיה אסטרטגית למנהל פרויקט. המנהל (ה-Meta LLM) לוקח את ההנחיה, מפרק אותה למשימות קטנות, ונותן הוראות מדויקות לכל אחד מחברי הצוות (ה-LLMs "העובדים").
פרומפט-על: "אתה מומחה לתכנון טיולים. מטרתך היא ליצור תוכנית מפורטת לטיול של שבוע בצפון הארץ למשפחה עם ילדים. ראשית, פעל כסוכן 'רעיונאי' כדי לרשום אטרקציות אפשריות. לאחר מכן, פעל כסוכן 'לוגיסטי' כדי לארגן אותן לפי ימים ואזורים גיאוגרפיים. לבסוף, פעל כסוכן 'מסכם' כדי להוסיף המלצות למסעדות ולינה."
צור דוח ניתוח שוק מקיף עבור בית קפה חדש בירושלים. תנהל שלושה סוכנים מומחים: 'אנליסט נתונים' למציאת נתונים דמוגרפיים, 'חוקר מתחרים' לבדיקת בתי קפה סמוכים, ו'אסטרטג' שיסנתז את המידע להמלצות מעשיות.
כתוב סיפור ילדים קצר. ראשית, צור פרופילים לשלוש דמויות של חיות. לאחר מכן, צור תקציר עלילה. לבסוף, כתוב את הסיפור המשלב את הדמויות והעלילה.
The Pitz Studio