כך תגרמו ל-AI להבין אתכם טוב יותר לאורך זמן - מאת: גדעון קוך

כתבה שלישית בסידרה על הבינה המלאכותית

הדברים הכתובים כאן הם עבורכם, המקיימים שיחות מעמיקות יותר עם אחד מכלי ה AI.

זמן הפעולה

השימוש החינמי מאפשר כמות קטנה יחסית של  חלקיקי מידע (Token). כשאלו מסתיימים, אנחנו נמצאים במצב של הפוגה, עד שהכלי מאפשר שימוש נוסף.

בעיית ה"שכחה" ואיבוד המיקוד

לכל שיחה עם AI יש "חלון הקשר" (Context Window). ככל שהשיחה מתארכת, המנוע עלול להתחיל "לשכוח" את ההנחיות שנתתם בהתחלה או להתבלבל. בחבילות בתשלום חלון ההקשר קצת יותר גדול ולכן אפשרי לשוחח עם ה-AI יותר זמן.

אחת הבעיות הנפוצות היא “שיכחה” של דרישות, או מידע חשוב שנצבר במהלך שיחה ארוכה. לעיתים המנוע מתחיל לשכוח את הבקשה המקורית והתשובה מתחילה להיות יצירתית בכוונים שלא התכוונו אליהם כלל. אם התשובה מתרחקת ממה שכבר קיבלתם, אל תנסו לתקן אותה בתוך אותה שיחה. כדי להתגבר על סטייה בתשובות, מומלץ לבקש קובץ הגדרות MD (Markdown). הקובץ הינו קובץ טקסט פשוט, השומר את כל הידע שנצבר במנוע ה-AI עד כה. מומלץ להעתיק את הקובץ הזה לשיחה חדשה, ולהמשיך מאותה הנקודה שבה הפסקנו.

עוד סיבה להפסיק את השיחה ולהתחיל חדשה היא הגעה למיכסה היומית ולעצירת הפעילות מול המנוע. כל המנועים פועלים באופן שבו כל חלקיקי מידע (Token) מועברת למנוע, הוא קורא אותה, מפענח, ורק אז עונה לשאלה. כלומר כל המידע הקיים בשיחה בכל שלב, מועבר למנוע ליצירת התשובה המתאימה. דבר זה גורם לכך שכמות המידע המועברת בכל שיחה גדלה, וכתוצאה מכך נוכל לשוחח עם המנוע פחות פעמים. הפתרון: יש לפתוח שיחה ולא להאריך בה יותר מידי, כי אז המנוע יעצור את הפעילות מולנו לזמן מה.

המפתח לעקביות קובץ MD (Markdown)

כדי שלא תצטרכו להסביר כל פעם מחדש שאתם מתנדבים ב"ידיד לחינוך", ושאתם עובדים עם תלמידים, ניתן להשתמש בקובץ הגדרות בפורמטMarkdown  (סיומת  ,(mdללמד את המנוע במגוון נושאים שאתם מעוניינים שיבצע כל פעם. בקשו ממנו לסכם את כל ההנחיות לקובץ MD כך שנוכל לספק אותו שוב בשיחות עתידיות. הקובץ הזה יכיל את ה-EXPECTED ANSWER  (התשובה המצופה) ואת ה- CONSTRAINTS (אילוצים בתהליך ובתשובה). בפעם הבאה שתתחילו שיחה, פשוט הדביקו את הקובץ, והמנוע ידע מי אתם ומה הסגנון שלכם. קובץ זה יכול להכיל סגנון כתיבה רצוי, רמת פירוט, שפה, וכללים קבועים. שימוש בקובץ כזה תורם לקבלת תשובות עקביות יותר.

לולאת המשוב היא המנוע

הטעות הגדולה ביותר שאנשים עושים היא לוותר אחרי תגובה "רעה" אחת. החוכמה: התגובה הראשונה היא טיוטה; השנייה היא חידוד; השלישית (יתכנו הרבה יותר) היא הפתרון. הלקח: התייחסו ל-AI כמו לחבר צוות. ציינו בסוף הבקשה שלכם: "האם יש לך שאלות?" או "האם הכל ברור?". כתוצאה מכך המנוע ישאל שאלות ויוביל אתכם לדרך חדשה מזו שחשבתם. ב-Claude לדוגמא הנושא מאוד מעמיק והתוצאה היא שהמנוע יוביל אתכם לדרכים יצירתיות שלא חשבתם עליהם קודם.

נסו לשאול, "איך אתה היית מעביר חומר כזה או אחר למי שמתקשה בנושא מסוים". "תן דוגמא לשאלה עם תשובה", "האם נראה לך שזה יעזור לתלמיד? כיצד?"

להלן קישורים לכתבות קודמות בנושא:

לכתבה הראשונה : ttps://www.yadidla.org.il/gideon-k-0226
לכתבה השנייה : https://www.yadidla.org.il/gideon-k-0426