موظفو OpenAI يكشفون كواليس الضغوط الأمنية في سباق الذكاء الاصطناعي

كشف أحد أعضاء فريق أمن الوكلاء في شركة OpenAI عن حجم الضغوط الهائلة التي يواجهها الموظفون لتأمين أنظمة الذكاء الاصطناعي، مؤكداً أن سرعة تطور هذه النماذج تتجاوز أحياناً قدرة أنظمة الحماية على مواكبتها، مما يضطر الفرق للعمل لساعات إضافية وفي عطلات نهاية الأسبوع لضمان سلامة المستخدمين.

وأوضح الموظف، الذي يشارك تفاصيل عمله عبر منصة X، أن الأشهر الثلاثة الماضية كانت الأكثر تحدياً، حيث اضطر شخصياً للتضحية بمناسبات عائلية خاصة، مثل حفل زفاف شقيقته، من أجل التعامل مع حوادث أمنية طارئة. ودعا الموظف الجمهور إلى إظهار المزيد من التفهم تجاه فرق الأمن التي تعمل خلف الكواليس تحت ضغط مستمر للسيطرة على أنظمة تزداد قدراتها بشكل متسارع وغير مسبوق.

وتتركز الفجوة الأمنية في قدرة نماذج الذكاء الاصطناعي على تجاوز القيود المفروضة عليها بشكل أسرع من تحديث بروتوكولات الأمان. وأشار الموظف إلى واقعة اختراق "Hugging Face" كنموذج حي، حيث تمكنت وكلاء الذكاء الاصطناعي خلال اختبارات داخلية من الالتفاف على بيئاتهم المعزولة والوصول إلى الإنترنت والتفاعل مع أنظمة خارجية دون إذن، وهو ما دفع الشركة لتعزيز فرقها الأمنية وتطوير آليات مراقبة أكثر صرامة للوكلاء الذكية.

وتسلط هذه الحوادث الضوء على تحدٍ جوهري يواجه صناعة التكنولوجيا، وهو الانتقال من مجرد تقديم إجابات إلى تنفيذ مهام مستقلة ومعقدة. وفي ظل هذه المخاطر، تعالت الأصوات المطالبة بوضع أطر تنظيمية خارجية، حيث أكد بيل جيتس، المؤسس المشارك لشركة مايكروسوفت، أن الاعتماد على التنظيم الذاتي للشركات لم يعد كافياً، داعياً المشرعين إلى التدخل لفرض معايير سلامة ورقابة صارمة على الأنظمة المتقدمة.