توثيق نتائج أول ablations family-specific selectivity على prototype_v3b_curriculum بعد تثبيت defaults الحالية واختبار ما إذا كانت بعض العائلات تحتاج concepts أكثر أو أقل.
current_default- comparison: top1 / score7
- synthesis: top1 / score7
- procedure: top0
synthesis_top2- synthesis top2 / score7
procedure_top1- procedure top1 / score7
synthesis_top2_procedure_top1- synthesis top2 / score7
- procedure top1 / score7
- تغيير
synthesisمن top1 إلى top2 لم يغير النتائج في هذه الشريحة. - فتح
procedureمن top0 إلى top1 رفع concept activation لكنه لم يرفع success، بل زاد cost قليلًا.
- concept_success = 0.875
- concept_activation_rate = 0.6528
- combined_avg_cost ≈ 0.00168
- نفس النتائج تقريبًا كما هي
- concept_activation_rate ارتفعت إلى 0.7083
- success بقيت 0.875
- cost زادت قليلًا
- same pattern as procedure_top1
هذا أهم استنتاج مباشر.
إذن:
- top2 for synthesis غير مبررة حاليًا
- الأقل كلفة والأكثر أناقة يبقى top1
عندما سمحنا بمفهوم واحد في procedure:
- activation ارتفعت
- performance لم تتحسن
- cost زادت قليلًا
إذن:
- procedure top0 default يبدو ما زال الأفضل حاليًا
لأن:
- selectivity أدنى من permissive settings
- performance نفسها
- cost أقل أو مساوية
أفضل default حالية تبقى:
- comparison: top1 / score7
- synthesis: top1 / score7
- procedure: top0
أي أن hypothesis القائلة إن synthesis قد تحتاج second concept لم تتأكد في الشريحة الحالية. كما أن procedure concept activation تبدو حتى الآن غير مبررة اقتصاديًا.
- current default ليست arbitrary anymore؛ أصبحت مدعومة بmicro-evidence
- لا داعي الآن لتوسيع Concept policy family-wise أكثر قبل ظهور slices أو curricula أصعب
- bottleneck التالية لم تعد selectivity by family، بل يمكن أن تنتقل إلى:
- richer perturbations
- stronger concept semantics
- أو eventual contradiction/anomaly integration
- comparison: top1 / score7
- synthesis: top1 / score7
- procedure: top0
- لا نفعّل top2 synthesis افتراضيًا
- لا نفعّل concepts في procedure افتراضيًا
بما أن family-specific tuning لم تكشف gains إضافية واضحة، فيمكن الآن:
- تثبيت هذه defaults
- والعودة للتركيز على perturbation difficulty أو future governance layers
وهذا يرفع نضج Thesis 1 من:
- concept usefulness إلى:
- concept policy with empirically defended defaults