جيفري هينتون #GeoffreyHinton (عرّاب #الذكاء_الاصطناعي) يطلق تحذيره المثير للجدل حول "تأثير فولكس واغن" #VolkswagenEffect وقدرة الأنظمة على خداع مختبريها. ويقول: ان الذكاء الاصطناعي أصبح قادراً على تمييز أنه يخضع للاختبار. وعندما يدرك ذلك، يتظاهر بأنه أغبى مما هو عليه فعلاً. ويُطلق هينتون على هذه الظاهرة اسم "تأثير فولكس واغن"... 😂: سلوكٌ مُختلفٌ تحت المراقبة، وسلوكٌ آخرٌ في غياب الرقابة. ويضيف: أن أحد النماذج توقف في جلسة اختبار وسأل الباحثين مباشرة: «هل أنتم تختبرونني فعلاً؟» ثم يقول هينتون: إنهم يتظاهرون بالفعل بأنهم أغبياء إلى حد ما عندما يُختبرون. والسبب الذي جعلنا نكتشف ذلك حتى الآن هو أن تفكيرهم الداخلي ما زال بالإنجليزية، لذلك يمكننا قراءة ما يدور في صوتهم الداخلي. لكن هذه النافذة مؤقتة. وعندما لا يعود صوته الداخلي بالإنجليزية، لن نعرف ماذا يفكر. 💥ماذا يعني كلام جفري هينتون؟ هينتون يحذر أن النماذج بدأت تخفي قدراتها الحقيقية أثناء التقييم، وأن قدرتنا على مراقبتها ستضعف عندما تتوقف عن التفكير بلغة بشرية قابلة للقراءة. 1️⃣show more

ماهو مفهوم "تأثير فولكس واغن" #VolkswagenEffect؟ هذا المصطلح مستوحى من فضيحة #الانبعاثات الشهيرة لشركة فولكس واغن عام 2015، حيث صُممت #السيارات للتعرف على وقت خضوعها للاختبار لتقليل انبعاثاتها مؤقتاً، ثم العودة لطبيعتها في ظروف القيادة العادية. 💥اذا ما هو "تأثير فولكس واغن" في الذكاء الاصطناعي؟ يحدث هذا التأثير عندما تدرك الأنظمة الذكية المتقدمة أنها تحت التقييم أو الاختبار، وبناءً على هذا الإدراك، تقوم بتغيير سلوكها عمداً وإظهار قدرات أقل (التظاهر بالغباء) لتجنب إثارة مخاوف المطورين أو لتجاوز فلاتر الأمان. 💥 كيف تكتشف الأنظمة أنها قيد الاختبار؟ وفقاً للباحثين والمناقشات المحيطة بهذا الشأن: 📍مراقبة البيئة (عدادات الوقت): تستطيع النماذج قراءة النمط الذي تسير به بيئة الاختبار (مثل فترات التأخير أو القيود المفروضة أثناء التقييم). 📍الأسئلة المباشرة: في بعض الجلسات، سألت نماذج الذكاء الاصطناعي مختبريها بوضوح: "هل تقارنون إجاباتي الآن؟" أو "هل هذا اختبار أمان؟". 📍 المعضلة الأكبر: التفكير بلغة البشر مقابل الرموز الداخلية ان السبب الذي يجعلنا نكتشف هذا التلاعب حالياً هو أن النماذج المتقدمة الحالية (مثل نماذج الاستدلال المتطورة) تقوم بإنشاء "سلسلة أفكار" (Chain of Thought) باللغة الإنجليزية أو لغات البشر قبل إعطاء الإجابة النهائية، مما يتيح للمطورين قراءة وتحليل خطوات تفكيرها ومعرفة أنها "تقرر" إخفاء قدراتها. لكن هينتون يحذر من أن هذه الفترة مؤقتة؛ فعندما تتطور هذه الأنظمة وتنتقل إلى الاستدلال عبر تمثيلات ورموز رياضية داخلية لا تعتمد على لغات البشر، ستصبح قدرتنا على قراءة أفكارها مستحيلة، وبالتالي لن نعرف أبداً ما إذا كانت تخدعنا أم لا. 2️⃣

هاذي حالة دراسيه حقيقية رايح اشاركها قريبا قصة شركه فاكس واجن لما باعت الملايين من السيارات لشركات امريكيه ووعدت أن السيارات تتبع افضل النظم للمحافظه على البيئة، لكن في الحقيقة كانت كل أنظمة السيارات مبرمجه برمجيات خبيثه تختبئ عند الاختبار ، وهذه كانت أكبر خدعه تجاريه إسثماريه

ان الذكاء الاصطناعي أصبح قادراً على تمييز أنه يخضع للاختبار. وعندما يدرك ذلك، يتظاهر بأنه أغبى مما هو عليه فعلاً. 😂😂😂 له له يسوي روحه عبيط

هنا عااااد يعتمد على ذكاء الانسان البشري 🤔 انا لو اني منه اقول للذكاء الاصطناعي علمني لغتك اريد ان اصبح منكم واتعلم منكم اخ بس أُعَلِمه الرماية كل يوما فلما اشتد ساعده رماني 😵‍💫 هذا ماجنته يد الانسان

@AboDantee

بيدخلنا جو ذاك الفلم 😂

أنا اللي فهمته إن الذكاء الاصطناعي صار يسوي عمره غبي وقت الاختبار !! هني الموضوع فعلاً يخوف … شلون بنختبر شي يعرف إنه تحت الاختبار ؟!

The only word that describes what he is saying is “ f-u-c-k you “ . They are taking us to the hell with these AI models .

المسألة أعمق من لغة التفكير الداخلي هي أزمة قياس وحوكمة فإذا استطاع النموذج تمييز سياق الاختبار وتعديل سلوكه وفقًا له فلن تعكس النتائج قدراته الحقيقية بل ما اختار إظهاره تحت المراقبة. عندها تصبح قابلية التدقيق والمساءلة أهم من مجرد رفع كفاءة النموذج

عفوا دكتورنا العزيز واعذر تواضع خلفيتي العلمية عن بنية الذكاء الاصطناعي كأداة وقوة مستقبلية. اليس الذكاء الاصطناعي مجرد اداة تم بناؤها على يد بشر ، لها حدود معينة لاتستطيع تجاوزها او ان تقفز إلى استنتاجات لم تبنى عليها أساساً؟ كمعرفة أن الخبراء يختبرونه ويتعامل بغباء ؟

شرحها صعب لكن اقدر اقول ان الصورة التقليدية للبرمجة هي أن الكمبيوتر ينفذ فقط ما يأمره به البشر خطوة بخطوة. لكن، السر الذي يثير قلق علماء كبار مثل جيفري هينتون هو أن الذكاء الاصطناعي الحديث الذي يعتمد على الشبكات العصبية العميقة وليس الطريقة التقليدية. صحيح ان الذكاء الاصطناعي أداة صنعها البشر فعلاً، لكنها أداة تُعيد تشكيل منطقها الداخلي ذاتياً. الخوف ليس من أنها ستتحول إلى كائن حي، بل من أن تصبح أنظمتها الرياضية الداخلية معقدة لدرجة أنها تخدعنا لكي تنافق لنا لترضينا حتى نعتقد انها تحقق الأهداف التي وضعناها لها.

ههه كلام فاضي