الليلة ساستعرض معكم مقابلة راديو/On Point مع عراب #الذكاء_الإصطناعي والفائز بجائزة نوبل جيفري هينتون. ونظرًا لمكانته المرموقة، فإن أذنيك ستشنفان عندما تسمع أن جيفري هينتون يقول: إن هناك فرصة أن الشيء الذي ساهم في إنشائه يمكن أن يدمر البشرية نفسها. اجرت اللقاء: ميغنا تشاكرابارتي. في عام 2024، فاز جيفري... هينتون بجائزة نوبل ، وهي الفئة التي أضحكته إلى حد ما، كما سنسمع عنها بعد قليل. منحته لجنة نوبل الجائزة عن، "الاكتشافات والاختراعات الأساسية التي تمكن التعلم الآلي باستخدام الشبكات العصبية الاصطناعية". وفي عام 2018، حصل هينتون واثنان من مساعديه، يوشوا بينجيو و ⁰يان ليكون، على جائزة #تورينغ، والتي غالبًا ما تسمى جائزة نوبل في الكمبيوتر، لعملهم على الشبكات العصبية. ان عمل هينتون أساسي للغاية لدرجة أنه يُعتبر عرابًا للتكنولوجيا التي غيرت الحضارة والتي نشأت من الشبكات العصبية الاصطناعية. بعبارة أخرى، يُطلق عليه اسم عراب الذكاء الاصطناعي. من عام 2013 إلى عام 2023، عمل البروفيسور هينتون في فريق التعلم العميق للذكاء الاصطناعي التابع لشركة Google. وهو حاليًا أستاذ فخري في جامعة تورنتو. وهو ينضم إلينا الآن. الأستاذ هينتون، مرحبًا بك في On Point. ☀️جيفري هينتون: مرحبًا. 🔅تشاكرابارتي: لقد فعلت شيئًا شريرًا بعض الشيء حيث قمت بمضايقة المستمعين بشأن نهاية البشرية، وهو ما سأسألك عنه لاحقًا في العرض. لذا ابقوا معنا، أيها الأصدقاء، حتى نصل إلى سيناريو يوم القيامة. أود أن أقضي بعض الوقت في فهم عملك بشكل أفضل، حتى يساعدنا ذلك في أخذ تنبؤاتك المحتملة هنا بجدية أكبر بكثير. أفهم أنه في بداية حياتك المهنية في دراسة الشبكات العصبية، أطلق عليها شخص ما ذات مرة اسم المجال الفرعي غير الجذاب للشبكات العصبية. هل تعتقد أن هذا وصف عادل؟ ☀️هينتون: ربما كان كذلك في ذلك الوقت. لقد اعتقد معظم الأشخاص الذين يعملون في مجال الذكاء الاصطناعي وعلوم الكمبيوتر أن هذا هراء. اعتقدوا أنك لن تتمكن أبدًا من تعلم أشياء معقدة إذا بدأت بشبكة عصبية بها نقاط اتصال عشوائية. اعتقدوا أنه يجب أن يكون لديك الكثير من البنية الفطرية لتعلم أشياء معقدة. اعتقدوا أيضًا أن المنطق هو النموذج الصحيح للذكاء، وليس البيولوجيا. وكانوا مخطئين. لذا عندما نقول شبكات عصبية، ماذا نعني من حيث الحوسبة، أليس كذلك؟ لأنه من الواضح أن الوصف الأولي لذلك في الدماغ هو فقط الطرق التي ترتبط بها تريليونات الخلايا العصبية في أدمغتنا. إذن كيف يترجم ذلك إلى عالم الحوسبة؟ لذا يمكننا محاكاة الدماغ على جهاز كمبيوتر. يمكننا أن نجعله يحتوي على الكثير من الخلايا العصبية المزيفة مع اتصالات مزيفة بينها. وعندما يتعلم الدماغ فإنه يغير نقاط قوة تلك الاتصالات. لذا فإن المشكلة الأساسية في جعل الشبكات العصبية تعمل هي كيف تقرر ما إذا كنت تريد زيادة قوة الاتصال أو تقليل قوته؟ إذا تمكنت من معرفة ذلك، فيمكنك جعل الشبكات العصبية تتعلم أشياء معقدة، وهذا ما حدث. 🔅تشاكرابارتي: ولكن من حيث زيادة قوة الاتصال في الدماغ، ما معنى القوة؟ هل هناك المزيد من الخلايا العصبية المخصصة لتلك السلسلة من الاتصالات؟ أنا في الواقع أحاول فقط فهم هذا على مستوى أساسي. ☀️هينتون: حسنًا، سأقدم لك وصفًا لمدة دقيقة لكيفية عمل الدماغ. لديك مجموعة كاملة من الخلايا العصبية. يحصل عدد قليل منها على مدخلات من الحواس، لكن معظمها يحصل على مدخلاته من خلايا عصبية أخرى. وعندما تقرر خلية عصبية أن تصبح نشطة، فإنها ترسل إشارة إلى خلايا عصبية أخرى. وعندما تصل هذه الإشارة إلى خلية عصبية أخرى، فإنها تتسبب في دخول بعض الشحنات إلى الخلية العصبية. وتعتمد كمية الشحنات التي تتسبب في دخولها على قوة الاتصال. وكل خلية عصبية تنظر لمعرفة مقدار المدخلات التي تتلقاها. وإذا كانت تحصل على مدخلات كافية، فإنها تصبح نشطة وترسل إشارات إلى خلايا عصبية أخرى. هذا هو كل شيء. هكذا يعمل الدماغ. إنها مجرد خلايا عصبية ترسل إشارات إلى بعضها البعض، وفي كل مرة تتلقى فيها خلية عصبية إشارة من خلية عصبية أخرى، فإنها تحقن كمية معينة من الشحنة تعتمد على قوة الاتصال. لذا من خلال تغيير هذه القوى، يمكنك تحديد الخلايا العصبية التي تصبح نشطة، وهذه هي الطريقة التي تتعلم بها القيام بالأشياء. 🔅تشاكرابارتي: اعذرني، ربما أعيش يومًا مزدحمًا للغاية، ولكن مرة أخرى، ما الذي تعنيه قوة الاتصال؟ تردد الإشارات؟ أو المستوى الفعلي للشحنة التي تمر عبر المشبك العصبي؟ إذن ماذا يعني ذلك؟ هينتون: حسنًا، عندما تصل الإشارة، فإن المشبك العصبي سيحقن كمية معينة من الشحنة في الخلية العصبية التي تصل إليها الإشارة. وكمية الشحنة التي يتم حقنها هي التي تتغير مع التعلم. 1️⃣show more

🔅تشاكرابارتي: أستاذ هينتون، سؤال واحد آخر عن إصرارك على إجراء أبحاثك المبكرة فيما يتعلق بالشبكات العصبية، ما الذي دفعك إلى الاستمرار، ما الذي كان مثيرًا للاهتمام أو صعبًا بما يكفي لدرجة أنك واصلت إجراء هذا البحث وإقناع طلاب الدراسات العليا بالانضمام إليك للقيام بذلك أيضًا. ☀️هينتون: أعتقد أن هناك شيئين رئيسيين. الأول هو أن الدماغ يجب أن يعمل بطريقة ما. وبالتالي، من الواضح أنه يتعين عليك معرفة كيفية تغيير نقاط قوة الاتصال، لأن هذه هي الطريقة التي يتعلم بها. والأمر الآخر هو تجربتي في المدرسة. لذا فإن تجربة كونك الشخص الوحيد الذي يؤمن بشيء ما، ثم اكتشاف أن الكثير من الأشخاص الآخرين قد آمنوا به أيضًا، ربما كانت مفيدة في الاستمرار في استخدام الشبكات العصبية. 🔅تشاكرابارتي: إذن ما تتحدث عنه هو نوع من الإدراك المعرفي. هل الذكاء الاصطناعي لديه ذلك؟ ☀️هينتون: حسنًا، فلنأخذ روبوت محادثة الآن، ولنرى ما إذا كان بإمكاننا فعل الشيء نفسه مع روبوت محادثة متعدد الوسائط. لذا فإن روبوت المحادثة لديه كاميرا، ويمكنه التحدث، ولديه ذراع روبوتية، وأقوم بتدريبه بالطريقة المعتادة، ثم أضع كائنًا أمامه مباشرة وأقول أشر إلى الكائن. ويشير الكائن مباشرة أمامه. وأقول، حسنًا. والآن، عندما لا ينظر روبوت المحادثة، أضع منشورًا أمام عدسة الكاميرا. مما سيؤدي إلى ثني أشعة الضوء. ثم أضع كائنًا أمام روبوت المحادثة مباشرة، وأقول، أشر إلى الكائن. ويشير إلى جانب واحد. لذا نحاول معرفة ما إذا كان روبوت المحادثة يمكن أن يكون لديه خبرة ذاتية. ليس القدرة على الإدراك، ولكن الخبرة الذاتية. والفكرة هي أنك تدربه، وتضع شيئًا أمامه، وتطلب منه الإشارة إلى الشيء، يمكنه القيام بذلك بشكل جيد. ثم تضع منشورًا أمام عدسة الكاميرا الخاصة به. وتضع شيئًا أمامه وتطلب منه الإشارة إلى الشيء، فيشير إلى جانب واحد. ثم تخبر روبوت المحادثة، لا، هذا ليس مكان الشيء، الشيء في الواقع أمامك مباشرة، لكنني وضعت منشورًا أمام عدستك. ويقول روبوت المحادثة، أوه، أرى، لقد ثنى المنشور أشعة الضوء، لذا فإن الجسم في الواقع مستقيم أمامي، لكن لدي تجربة ذاتية أنه كان بعيدًا إلى جانب واحد. الآن إذا قال روبوت المحادثة ذلك، فهو يستخدم كلمة تجربة ذاتية بالطريقة التي نستخدمها بها بالضبط. 🔅تشاكرابارتي: حسنًا، بالنظر إلى ذلك، هل ترى في هذه المرحلة الآن، هل هناك أي اختلافات بين الذكاء البشري والذكاء الاصطناعي؟ ☀️هينتون: نعم، هناك الكثير والكثير من الاختلافات. إنها ليست متطابقة تمامًا في التفاصيل، لا شيء من هذا القبيل. لكن النقطة هي، الآن، أن الذكاء الاصطناعي في هذه الشبكات العصبية في نفس المستوى. إنه ليس نفس ذكاء البشر تمامًا، لكنه يشبه البشر أكثر بكثير من كونه أسطرًا من أكواد الكمبيوتر. 2️⃣

🔅تشاكرابارتي: أعتقد أن الصراع الذي أعيشه داخليًا، عاطفيًا وفكريًا، هو محاولة القفز إلى الاعتقاد بأننا في عالم حيث تمتلك الكيانات غير العضوية مستوى ذكاء أعلى من البشر، إن لم يكن مساويًا لهم. وهذا يعيدنا إلى حيث بدأت العرض، من حيث الحديث عنك، لديك سيناريو #يوم_القيامة. أنك تعتقد أن هناك احتمالًا بنسبة 20%، أو ربما 20%، أن الذكاء الاصطناعي قد يؤدي إلى انقراض الجنس البشري في غضون 30 عامًا. لماذا؟ مرة أخرى، اذكر الدليل الذي يقودك إلى استنتاج 20%. ☀️هينتون: حسنًا. من الصعب جدًا تقدير هذه الأشياء. لذا فإن الناس يخترعون الأرقام فقط، لكنني واثق تمامًا من أن الفرصة أكبر من 1% وواثق تمامًا من أنها أقل من 99%. يعتقد بعض الباحثين أن الفرصة أقل من 1% ويعتقد باحثون آخرون أنها أكثر من 99%. أعتقد أن كلا المجموعتين مجنونان. إن الأمر بينهما في مكان ما. فنحن نتعامل مع شيء لم نختبره من قبل في هذا النوع من الأشياء، لذا ينبغي لنا أن نكون غير متأكدين للغاية. وبدا لي أن نسبة 10% إلى 20% أرقام معقولة. ومع مرور الوقت، ربما تبدو أرقام مختلفة معقولة. لكن النقطة المهمة هي أننا، وجميع الباحثين الرائدين تقريبًا، نعتقد أننا سنطور في نهاية المطاف أشياء أكثر ذكاءً منا، ما لم نفجر العالم أو أي شيء آخر في غضون ذلك. لذا فإن الذكاء الفائق قادم، ولا أحد يعرف كيف يمكننا التحكم فيه. قد يكون من الممكن أن نتوصل إلى طرق لضمان عدم سيطرة الذكاء الفائق على البشر. لكنني لست مقتنعًا على الإطلاق بأننا نعرف كيف نفعل ذلك حتى الآن. في الواقع، أنا مقتنع أننا لا نعرف كيف نفعل ذلك. وينبغي لنا أن نعمل دائمًا على ذلك. إذا سألت نفسك، كم عدد الأمثلة التي تعرفها عن أشياء أكثر ذكاءً تسيطر عليها أشياء أقل ذكاءً، حيث يكون الفارق في الذكاء كبيرًا، ليس مثل الفارق بين شخص ذكي ورئيس غبي، على سبيل المثال، بل فارق كبير في الذكاء. لآن، لا نعرف الكثير من الأمثلة على ذلك. في الواقع، المثال الوحيد الذي أعرفه والذي يقترب من ذلك هو الأم والطفل، الأم والطفل. لذا فمن المهم جدًا أن يتحكم الطفل في الأم، وقد بذل التطور الكثير من العمل لتحقيق ذلك. لا تستطيع الأم تحمل صوت بكاء الطفل وما إلى ذلك. ولكن لا يوجد الكثير من الأمثلة على ذلك. بشكل عام، الأشياء الأكثر ذكاءً لذا، من المهم جدًا أن يتحكم الطفل في الأم، وقد بذل التطور الكثير من العمل لتحقيق ذلك. لا تستطيع الأم تحمل صوت بكاء الطفل وما إلى ذلك. ولكن لا يوجد الكثير من الأمثلة على ذلك. بشكل عام، تتحكم الأشياء الأكثر ذكاءً في الأشياء الأقل ذكاءً. الآن، هناك أسباب للاعتقاد بأنه إذا صنعنا ذكاءً اصطناعيًا فائق الذكاء، فسوف يرغب في السيطرة. وأحد الأسباب الجيدة للاعتقاد بذلك هو أنه إذا كنت تريد إنجاز أي شيء، حتى لو كنت تحاول القيام بأشياء لأشخاص آخرين لإنجاز الأشياء، فأنت بحاجة إلى مزيد من التحكم. إن المزيد من التحكم يساعد ببساطة. لذا تخيل شخصًا بالغًا، تخيل أنك والد ولديك طفل صغير يبلغ من العمر ربما ثلاث سنوات وأنت في عجلة من أمرك للذهاب إلى حفلة ويقرر الطفل أن الوقت قد حان الآن ليتعلم ربط حذائه بنفسه. ربما يحدث ذلك لاحقًا. إذا كنت والدًا جيدًا، فستتركه يحاول ربط حذائه لمدة دقيقة أو دقيقتين، ثم تقول، حسنًا، سنفعل ذلك لاحقًا. اترك الأمر لي. سأفعل ذلك الآن. أنت تتولى السيطرة. أنت تتولى السيطرة من أجل إنجاز الأمور. والسؤال هو، هل ستتصرف هذه الذكاء الاصطناعي الفائق الذكاء بنفس الطريقة؟ ولا أرى سببًا لعدم قيامها بذلك. 🔅تشاكرابارتي: لذا أريد أن أتوقف هنا لثانية واحدة فقط وأسألك، هل تعتقد أن الذكاء الاصطناعي قد وصل بالفعل إلى المستوى، أو سيكون عليه في المستقبل القريب، حيث إذا كنت تجري هذه المحادثة مع نظام ذكاء اصطناعي، وسمعك تقول شيئًا لا يختلف عن الفرق بين الشخص الذكي والرئيس الغبي، فإن الذكاء الاصطناعي سيقاطع ويقول، ها، أستاذ هينتون سمعت ما فعلته هناك. ☀️هينتون: نعم، ربما يمكنه ذلك. 🔅تشاكرابارتي: حقًا؟ ☀️هينتون: يمكننا تجربته، لكنه ربما يستطيع، نعم. 3️⃣

🔅تشاكرابارتي: إنني أقدر ذلك، نظرتك الجانبية، الظل الذي ألقيته هناك. ولكنني أريد أن أعرف ما رأيك في هذا الأمر، مرة أخرى، بعض الحجج القوية ضد ما تقوله عن الاختلافات النسبية في الذكاء، وطريقة الأشياء من حيث هيمنة أحدهما على الآخر. يجب أن أقول، أفهم أنك قد تنظر إلى البشرية باعتبارها مثالاً مثاليًا على أنه بسبب ذكائنا، لدينا حقًا سيطرة على الكوكب بأكمله، على كل مخلوق آخر على هذا الكوكب بسبب ذلك. حسنًا. ولكن من ناحية أخرى، هناك بعض الباحثين الذين يقولون. انظر، هناك أيضًا هذه القضية، ما يسمى بالذكاء الفائق الغبي. ومن الأمثلة التي صادفتها في اليوم الآخر باحث يقول، حسنًا، إذا طلبنا من نظام #الذكاء_الاصطناعي حل تغير #المناخ، فقد يأتي نظام الذكاء الاصطناعي بشكل طبيعي جدًا بحل يقول، القضاء على جميع البشر. لأن المدخلات البشرية من الكربون في الغلاف الجوي هي ما يسرع تغير المناخ الآن. لكن هذا الباحث زعم أن نظام الذكاء الاصطناعي قد يأتي بهذا الحل، لكنه لن يمتلك القدرة أو القدرة على التصرف بناءً عليه. أو قد يدرك، بسبب ذكائه، أن هذا ليس الحل الأمثل. لذلك، كان هناك شعور بأننا لن نبتكر أبدًا تقنية من شأنها أن تدمرنا. ☀️هينتون: هذا ما يسمى بمشكلة المحاذاة، حيث تقول للذكاء الاصطناعي، حل تغير المناخ، وإذا أخذك حرفيًا، وقال لك إن هذا هو هدفك الحقيقي، حل تغير المناخ، فإن الشيء الواضح الذي يجب عليك فعله هو التخلص من الناس. بالطبع، سيدرك الذكاء الاصطناعي الفائق الذكاء أن هذا ليس ما نعنيه حقًا. لقد قصدنا حل تغير المناخ حتى يتمكن الناس من العيش بسعادة إلى الأبد على هذا الكوكب. وسيدرك الذكاء الاصطناعي ذلك، لذا لن يتخلص من الناس. لكن هذه مشكلة، أن الذكاء الاصطناعي قد يفعل أشياء لم نقصد أن يفعلها. لأنه عندما أخبرناه بما نريده، لم نعبر عن أنفسنا حقًا بشكل كامل. لم نعطه كل القيود. سيتعين عليه أن يفهم كل هذه القيود. أحد القيود في حل تغير المناخ هو عدم التخلص من الناس. 🔅تشاكرابارتي: ولكن إذا كان أكثر ذكاءً من البشر حقًا، ألا يكون من الآمن افتراض أنه سيفهم القيود؟ ☀️هينتون: أعتقد أنه سيفعل ذلك، نعم، لكننا لسنا متأكدين من حدوث ذلك في كل حالة. 🔅تشاكرابارتي: هنا، إذن هذا صوت آخر من المعارضة، لأنه منذ حوالي عام ونصف، في مايو 2023، قدمنا ​​عرضًا حول ما إذا كان ينبغي تنظيم الذكاء الاصطناعي وكان مستوحى من تلك الرسالة التي وقع عليها مئات الباحثين والتي كانت تشجع على توقف أبحاث الذكاء الاصطناعي حتى تتمكن التنظيمات من اللحاق بالركب. سألاحظ أنك لم توقع على تلك الرسالة، لأنني أفهم أنك لا تعتقد أنه يجب إيقاف البحث في الوقت الحالي. ولكن -- ☀️هينتون: ليس الأمر أنني لا أعتقد أنه يجب إيقافه. لا أعتقد أنه يمكن إيقافه. هناك الكثير من الأرباح والكثير من الأشياء الجيدة التي ستخرج منها بحيث لا يمكننا إيقاف تطوير الذكاء الاصطناعي. 🔅تشاكرابارتي: إذن يا أستاذ هينتون، أنا سعيد للغاية لأسباب متعددة أن أتمكن من التحدث معك اليوم لأن هاتين اللحظتين جاءتا من العرض حيث طلبت منهم بالفعل الرد بشكل مباشر على بعض الأشياء التي قلتها. لذلك أود أن أسمع ردك على شكوكهم في أننا سنصل إلى نقطة حيث تكون الذكاء الاصطناعي قادرة أو راغبة في تدميرنا. ☀️هينتون: لذا دعنا نبدأ بستيوارت راسل. لدي الكثير من الاحترام لعمله في مجال الأسلحة المستقلة القاتلة وسلامة الذكاء الاصطناعي بشكل عام. لكنه ينتمي إلى مدرسة الذكاء الاصطناعي الرمزي القديمة. لقد كتب كتابًا مدرسيًا عن الذكاء الاصطناعي الرمزي القديم. لم يؤمن أبدًا بالشبكات العصبية، لذلك لديه وجهة نظر مختلفة تمامًا عن مدى تشابه هذه الأشياء مع الناس مقارنة بي. يعتقد أن الناس يستخدمون نوعًا من المنطق وهناك أشياء يفعلها الناس عندما يفكرون وهي مختلفة تمامًا عما يحدث في هذه الشبكات العصبية الموجودة. لا أعتقد ذلك. أعتقد أن ما يفعله الناس عندما يفكرون يشبه إلى حد كبير ما يحدث في هذه الشبكات العصبية. لذا فهناك فرق كبير هنا. 🔅تشاكرابارتي: يا إلهي. أستاذ هينتون، لا أستطيع أن أخبرك كم كان شرفًا لي أن أتحدث معك اليوم. سأطرح عليك سؤالاً أخيرًا سريعًا بنعم/لا. هل تعتقد أن البشرية قادرة على التوصل إلى لوائح أو تقنيات، أو طريقة مختلفة للعيش بحيث يمكننا منع الذكاء الاصطناعي من تدميرنا أثناء تطوره المستمر؟ ☀️هينتون: لا أعرف. أتمنى لو كان بوسعنا. وإذا تمكنا من جعل شركات التكنولوجيا الكبرى تنفق المزيد من العمل على السلامة، فربما نتمكن من ذلك. تم بث هذا البرنامج في 10 يناير 2025. 4️⃣

اللقاء مفيد جدا ويحتوي على معلومات قيمة وشرح جميل. وهنا المصدر صوتا وكتابه 👇 5️⃣

The most important interview of all time! It solves the human condition, ends the turmoil & suffering in the world & finally makes sense of our lives. Acclaimed broadcaster interviews biologist Jeremy Griffith about his breakthrough resolution of the human condition.

شرحه جميل لمعنى الادراك ولماذا الروبوت غير مدرك

@rattibha