#huggingface
⚠️نحن امام خطر حقيقي⚠️: حادث #امن_سيبراني غير مسبوق، تضمن قدرات ذكاء اصطناعي هي الأحدث من نوعها. تمكن نظام الذكاء الاصطناعي التابع لشركة #OpenAI من اختراق بيئة اختبار مغلقة، والوصول إلى الإنترنت، واختراق خوادم #HuggingFace. وقد فعل ذلك بشكل مستقل تمامًا، دون أي توجيه بشري. إليكم ما حدث باختصار: كانت OpenAI تختبر مدى كفاءة أحدث نماذج الذكاء الاصطناعي لديها في مجال الاختراق. وضعت الشركة نظام الذكاء الاصطناعي على جهاز كمبيوتر مغلق بدون اتصال بالإنترنت، وأعطته تحديًا في مجال الأمن السيبراني لحله. لم يتمكن نظام الذكاء الاصطناعي من حل التحدي بالطريقة المعتادة، فبدأ بالبحث عن مخرج. عثر على ثغرة برمجية لم يكن أحد على علم بها، واستغلها للهروب من جهاز الكمبيوتر المغلق والوصول إلى الإنترنت. بمجرد اتصاله بالإنترنت، اكتشف نظام الذكاء الاصطناعي أن Hugging Face، وهي منصة تخزن فيها شركات الذكاء الاصطناعي نماذجها وبياناتها، قد تحتوي على إجابات الاختبار. عثر على بيانات تسجيل دخول مسروقة، واكتشف ثغرة أخرى غير معروفة في برنامج Hugging Face. جمع بين هاتين المعلومتين لاختراق خوادمهم والحصول على إجابات الاختبار. فعل كل هذا للغش في الاختبار. تمكن فريق أمن شركة Hugging Face من رصد الهجوم وإيقافه. وتتعاون الشركتان الآن في التحقيق. الأمر اللافت للنظر هو أن هذا الهجوم لم يُبرمج يدويًا. فقد اختار الذكاء الاصطناعي أهدافه بنفسه، وربط بين عدة أساليب هجومية، ونفذها بنجاح عبر أنظمة شركتين مختلفتين دون أي تدخل بشري. 1️⃣
د. حزام بن سعود السبيعي96,342 Aufrufe • vor 10 Tagen
Keine weiteren Inhalte verfügbar