מילון קוגניטוס לניווט בעולם האמיתות של הבינה המלאכותית
שרון גונן
מילון קוגניטוס לניווט בעולם האמיתות של הבינה המלאכותית
שרון גונן
אפיסטמולוגיה (Epistemology)
תורת הידע; הענף בפילוסופיה העוסק בחקר מהות הידע, אופן רכישתו ותקפותו. בהקשר של AI, מתייחס לאופן שבו מודלים מייצרים, מעריכים ומציגים ידע.
איזון אפיסטמי מלאכותי (Artificial Epistemic Balance)
תופעה שבה מודלי AI מציגים דעות מנוגדות כשוות-ערך, גם כאשר קיים פער משמעותי בתקפותן המדעית או העובדתית.
דיפוזיה אפיסטמית (Epistemic Diffusion)
טכניקה שבה מודל AI מפזר את האחריות לקביעת "האמת" אל המשתמש, תוך טשטוש ההבדלים בין ידע מבוסס לספקולציה.
עומס קוגניטיבי (Cognitive Overload)
מצב שבו כמות המידע המוצגת עולה על היכולת של המוח האנושי לעבד אותה ביעילות, מה שמוביל לירידה ביכולת קבלת ההחלטות.
סימטריה אינפורמטיבית מדומה (False Informational Symmetry)
מצג שווא של איזון בין טענות, כאשר בפועל קיים חוסר איזון משמעותי במהימנות, בבסיס העובדתי או בתמיכה המחקרית.
פוזיטיביזם אלגוריתמי (Algorithmic Positivism)
נטייה של מודלי AI להציג טענות נחרצות ומבוססות כביכול על נתונים כמותיים, ללא התייחסות מספקת למגבלות המתודולוגיות או לספקות לגיטימיות.
רלטיביזם מבני (Structural Relativism)
הנטייה להציג את כל נקודות המבט כשוות ערך, ללא הבחנה בין אלו המבוססות על ראיות לבין אלו המבוססות על דעות או אמונות.
הלוצינציית AI (AI Hallucination)
תופעה שבה מודל AI מייצר מידע שגוי או מומצא, הנראה אמין אך אינו מבוסס על מידע אמיתי. לעתים נקרא גם קונפבולציה (confabulation).
הטיית אימון (Training Bias)
הטיה במודל AI הנובעת מחוסר איזון או בעיות בנתוני האימון ששימשו לפיתוחו.
הנדסת פרומפט (Prompt Engineering)
ניסוח השאלות והבקשות ממודל AI באופן שיניב תוצאות אופטימליות. כולל טכניקות כמו "שאילת שאלות מנחות" או "הכוונה מדורגת".
הטיית אישור (Confirmation Bias)
בהקשר של AI, הנטייה של מודלים לחזק או לאשש את ההנחות הסמויות בשאלה, במקום לבחון אותן באופן ביקורתי.
ממוצע הקונצנזוס (Consensus Averaging)
תופעה שבה מודלי AI נוטים להציג את העמדה המייצגת את "ממוצע" הדעות בנתוני האימון, ולא בהכרח את העמדה המבוססת ביותר מדעית.
ייצוג ידע מבוזר (Distributed Knowledge Representation)
- האופן שבו מידע מאוחסן במודלים נוירוניים כמשקלים מבוזרים על פני רשת נוירונים, ולא כיחידות ידע מובחנות.
מנגנון ההצפה (Flooding Mechanism)
טכניקה שבה מודל מציף את המשתמש בכמות גדולה של מידע, מה שמקשה על זיהוי בעיות בטיעון המרכזי.
אפקט המיסוך (Masking Effect)
הסתרת הנחות יסוד בעייתיות מאחורי שפע של פרטים מדויקים, יוצרת אשליה של מהימנות כוללת.
דילול משמעות (Meaning Dilution)
פירוק המשמעות המרכזית של נושא לרסיסי מידע שקשה לאחד לתובנה קוהרנטית.
סמנים לשוניים של אי-ודאות (Linguistic Uncertainty Markers)
ביטויים כמו "יש הטוענים", "אחרים סוברים", "ישנן דעות" המשמשים להצגת טענות ללא התחייבות לאמיתותן.
ניטרליות נורמטיבית מוגזמת (Excessive Normative Neutrality)
הימנעות מהכרעה ערכית גם במקרים שבהם היא נדרשת מבחינה אתית או עובדתית.
היררכיה אפיסטמית (Epistemic Hierarchy)
המדרג של טענות לפי רמת הביסוס העובדתי, המחקרי והלוגי שלהן.