תלמיד יכול להגיש עבודה מצוינת בעזרת בינה מלאכותית, ועדיין להתקשות להסביר את הטיעון המרכזי שלה. הפער הזה, בין איכות התוצר לבין עומק ההבנה, הוא בעיניי הסכנה החינוכית המרכזית שעלינו לבחון.

מהסקירות האחרונות על בינה מלאכותית בחינוך עולה שאלה יסודית: מי מבצע את העבודה הקוגניטיבית? כאשר המערכת מנסחת, מנתחת ופותרת, עלינו לבדוק אילו פעולות נשארות בידי התלמיד ואילו יכולות הוא מפתח. תשובה נכונה אינה מספיקה כדי להעיד על למידה.

לצד הסיכון הזה, יש ארבעה מוקדים המחייבים תשומת לב.

ראשית, אמינות המידע. ניסוח משכנע, שפה מקצועית ואפילו הפניות למקורות אינם מבטיחים שהמידע נכון או שהמקור פורש כראוי. האחריות לבדוק חומרי הוראה, משוב והמלצות נשארת בידי אנשי החינוך.

שנית, האמון בכיתה. כללים עמומים וחשד מתמיד להעתקה עלולים לפגוע ביחסי מורים ותלמידים. נדרשת שקיפות: באילו משימות מותר להיעזר ב־AI, כיצד מדווחים על השימוש, ואיך מדגימים הבנה עצמאית.

שלישית, מוגנות ופרטיות. הכיתוב ״מותאם לנוער״ או ״סביבה מוגנת״ אינו מבטיח היעדר סיכון. הערכת הבטיחות האחרונה של Common Sense Media הצביעה על כשלים בהגנות לנוער ב־ChatGPT. זו בדיקת תרחישים, ולא מדידה של היקף הנזק בכלל אוכלוסיית התלמידים, אך היא מחייבת בחינה ביקורתית של הבטחות הספקים.

רביעית, הכשרת המורים. היכולת לכתוב הנחיה טובה למודל אינה מספיקה. מורים זקוקים להכשרה בהערכת מידע, בתכנון למידה, בהגנת פרטיות ובזיהוי מצבים שבהם השימוש בטכנולוגיה אינו משרת את המטרה החינוכית.

אין בכך הוכחה שכל שימוש בבינה מלאכותית פוגע בלמידה. היא יכולה לסייע בהסבר, בתרגול ובמשוב. השאלה היא כיצד מתכננים את השימוש וכיצד בודקים את תוצאותיו.

לדעתי, מערכת החינוך צריכה לאמץ מדד הצלחה ברור: מה התלמיד מסוגל להבין, להסביר ולבצע בעצמו לאחר שנעזר בכלי? לשם כך נדרשים גם טיוטות, נימוקים, שיחה בעל פה ומשימות עצמאיות, לצד התוצר הסופי.

האחריות של מנהלים וקובעי מדיניות היא להבטיח שהטמעת הטכנולוגיה מלווה בהכשרה, בכללי שימוש ובהערכת למידה ממשית.

הסכנה המרכזית היא שנבלבל בין ביצוע משופר בסיוע מכונה לבין התפתחות היכולת האנושית. ההבחנה הזאת צריכה לעמוד בבסיס כל החלטה על בינה מלאכותית בחינוך.