איך ה-AI לומד מהבודקים — הלולאה שבה תיקוני אדם מחדדים את המכונה

שלוש זוויות מבט

נקודות דגש

• שלב 1 — תיעוד (Capture) בכל הכרעה אנושית על כיוון הצעת חוק, המערכת מצלמת רגע ומקפיאה שני דברים זה לצד זה — הניחוש המקורי של ה-AI וההחלטה הסופית של האדם. כל בדיקה, בלי יוצא מן הכלל, הופכת לדוגמה מתויגת.
• שלב 2 — מדידה (Measure) לוח מחוונים מראה כמה פעמים ה-AI הסכים עם בני אדם לאורך זמן — ואת אי-ההסכמות הוא לא זורק לערימה אחת, אלא מקבץ לפי דפוס, כדי שנראה איפה בדיוק המכונה נוטה לפספס.
• שלב 3 — הזנה חזרה (Feed back) אי-ההסכמות, יחד עם הנימוקים הכתובים של הבודקים, מוזרקים חזרה להנחיות של מסווג ה-AI כדוגמאות — וכך בפעם הבאה הוא מיישם את התיקונים על הצעות חוק חדשות ודומות, בלי שאיש צריך להזכיר לו שוב.
• הגבול הכן מודל ה-AI עצמו לא לומד ולא עובר אימון מחדש — שום דבר לא נוגע ב"מוח" שלו, הוא נשאר אותו מוח בדיוק. מה שמשתפר הוא המערכת סביבו: ההנחיות, הכללים והדוגמאות שאנחנו מזינים לו.
• זו למידה ברמת המערכת, לא מודל שנעשה חכם מעצמו — והיא מצטברת: ככל שנאספות יותר הכרעות אנושיות, כך התיקונים עשירים יותר, ולולאה מתגלגלת מהתחלה.
• בני האדם נשארים על ההגה: ה-AI לעולם לא קובע את הציון הציבורי, והשיפוט האנושי הוא זה שמחדד את הכלי לכולם — לולאה מיטיבה שבה שני הצדדים עוזרים זה לזה.

להמחשה

מונחים

דוגמה מתויגת

רשומה שמצמידה את ניחוש ה-AI להכרעת האדם — "AI ניחש X, אדם הכריע Y" — ומשמשת ללימוד המערכת.

תיעוד (Capture)

הקפאת הניחוש המקורי של ה-AI לצד ההחלטה האנושית הסופית, בכל בדיקה.

מדידה (Measure)

לוח מחוונים שמראה את שיעור ההסכמה בין ה-AI לבני אדם לאורך זמן, ומרכז את אי-ההסכמות לפי דפוס.

הזנה חזרה (Feed back)

הזרקת אי-ההסכמות והנימוקים כדוגמאות להנחיות המסווג, כדי לתקן הצעות דומות בעתיד.

מסווג (Classifier)

רכיב ה-AI שמציע לגבי הצעת חוק אם היא רלוונטית ולאיזה כיוון היא נוטה — הצעה בלבד, לא הכרעה.

למידה ברמת המערכת

שיפור ההנחיות, הכללים והדוגמאות סביב המודל — להבדיל מאימון מחדש של המודל עצמו, שאינו קורה.

לולאה מיטיבה

מעגל שבו שיפוט אנושי מחדד את הכלי, והכלי המחודד מקל על השיפוט הבא — וכך הלאה, בהצטברות.