#geoffreyhinton

جيفري هينتون #GeoffreyHinton (عرّاب #الذكاء_الاصطناعي) يطلق تحذيره المثير للجدل حول "تأثير فولكس واغن" #VolkswagenEffect وقدرة الأنظمة على خداع مختبريها. ويقول: ان الذكاء الاصطناعي أصبح قادراً على تمييز أنه يخضع للاختبار. وعندما يدرك ذلك، يتظاهر بأنه أغبى مما هو عليه فعلاً. ويُطلق هينتون على هذه الظاهرة اسم "تأثير فولكس واغن" 😂: سلوكٌ مُختلفٌ تحت المراقبة، وسلوكٌ آخرٌ في غياب الرقابة. ويضيف: أن أحد النماذج توقف في جلسة اختبار وسأل الباحثين مباشرة: «هل أنتم تختبرونني فعلاً؟» ثم يقول هينتون: إنهم يتظاهرون بالفعل بأنهم أغبياء إلى حد ما عندما يُختبرون. والسبب الذي جعلنا نكتشف ذلك حتى الآن هو أن تفكيرهم الداخلي ما زال بالإنجليزية، لذلك يمكننا قراءة ما يدور في صوتهم الداخلي. لكن هذه النافذة مؤقتة. وعندما لا يعود صوته الداخلي بالإنجليزية، لن نعرف ماذا يفكر. 💥ماذا يعني كلام جفري هينتون؟ هينتون يحذر أن النماذج بدأت تخفي قدراتها الحقيقية أثناء التقييم، وأن قدرتنا على مراقبتها ستضعف عندما تتوقف عن التفكير بلغة بشرية قابلة للقراءة. 1️⃣