הנדסת פקודות (Prompt Engineering)

  הנדסת פקודות (Prompt Engineering)

   התוכן מבוסס על פרקטיקות מקובלות בתחום 

תשתית לקורס

  1 מבוא

הנדסת פקודות (Prompt Engineering)

  היא אמנות ניסוח הוראות למודלי בינה מלאכותית

   GPT, Claude, או Geminiכמו  כדי להפיק פלטים מדויקים ורלוונטיים 

תפקיד באינטראקציה עם

 LLMs:

מודלי שפה גדולים (Large Language Models)

פועלים ככלי "סטטיסטי" ללא הבנה אנושית.

הנדסת פקודות מסייעת "לכוון" אותם למשימה הספציפית 

חשיבות הניסוח :

לדוגמה, הפקודה "סיכום מאמר מדעי" עשויה להניב תוצאה כללית, בעוד "סיכום מאמר מדעי ב-3 נקודות עיקריות, בשפה פשוטה, עם דוגמה אחת לכל נקודה" תייצר פלט ממוקד יותר .

  2 עקרונות בסיסיים

הוראות מפורשות vs. מרומזות 

מפורשות: "כתוב רשימת מכולת ל-3 ימים עבור צמחוני"  

מרומזות: "אני מתכנן ארוחות צמחוניות לשלושה ימים." (המודל צריך להסיק שצריך ליצור רשימת מכולת) 

  :Few-shot Learning 

מתן דוגמאות בתוך הפקודה.

למשל :

הקשר: תרגום משפטים לאנגלית עם טון רשמי 

דוגמה: 

קלט: "הפגישה נדחתה למחרת" 

פלט:  

"The meeting has been postponed to tomorrow."

עכשיו תרגם: "הדו"ח יישלח עד סוף היום" 

  :Chain-of-Thought 

פירוק משימה לשלבים.

 לדוגמה 

 "פתור את המשוואה 2x + 5 = 15. הצג כל שלב בחישוב."

  3. טכניקות מתקדמות

 :   Role Prompting 

הקצאת תפקיד למודל משפרת את הרלוונטיות.

 לדוגמה : 

 "הנך כלכלן בכיר. הסבר את השפעת האינפלציה על שוק הנדל"ן בישראל בשנים 2023-2024  "

בקשות לפורמט ספציפי : 

החזר את הנתונים בפורמט JSON עם השדות: שם_מוצר, מחיר, דירוג_לקוחות.

 ניהול הקשר  :   בדיונים ארוכים, יש "להזכיר" למודל את ההקשר.

 לדוגמה  :

 "בשיחה הקודמת דיברנו על סוגי קפה. כעת, המליץ על מכונת אספרסו ביתית במחיר של עד 2000 ₪ "  

   4. יישומים מעשיים

אוטומציה של משימות:  יצירת מיילים אוטומטיים, תיוג תגובות לקוחות, או ניתוח סנטימנט מטקסטים 

ניתוח נתונים :

שאילתות על דאטא-סטים, כמו: 

 "סכם את המגמות במכירות הרכב החשמלי באירופה ב-2024 לפי דגם ורמת פליטת

 CO2" .

צ'אטבוטים :  בניית בוטים עם יכולת להבין הקשר ולספק מענה מותאם (למשל, שירות לקוחות דיגיטלי).

    5 . אתגרים ופתרונות

פלטים לא עקביים : 

פתרון: הוספת הגבלות כמו "השתמש רק במקורות מידע עד 2023" או "אל תכלול מידע היפותטי"  

הזיות  : (Hallucinations) 

מזעור דרך בקשות כמו "הזכר רק עובדות מאומתות" או שימוש ב

     נמוך במודל לשם הפחתת יצירתיות.temperature

אופטימיזציה של אורך הפקודה :

קיצור פקודות מורכבות תוך שמירה על הבהירות, למשל באמצעות ניסוח היררכי 

  6. כלים ומשאבים

פלטפורמות 

OpenAI Playground: לניסוי פקודות עם מודלי GPT.

Kaggle Kernels: להרצת קוד Python עם דאטא-סטים.

ספריות קוד:

LangChain: לחיבור מודלים למקורות נתונים חיצוניים.

Hugging Face Transformers: למודלים מותאמים אישית.

  7. מגמות עתידיות

אינטגרציה עם מערכות החלטה : 

שימוש בפקודות כדי להנחות מערכות אוטונומיות (למשל, ניהול מלאי אוטומטי בחנות) 

מודלים רב-מודאליים : 

פקודות המשולבות עם קלט תמונה/קול, כמו: "תאר את התוכן של הגרף בתמונה וסכם את המגמות "  

התאמה אישית דינמית  : מודלים שילמדו מהאינטראקציה עם משתמש ספציפי כדי לשפר את התגובות לאורך זמן