تحقيقات صادمة.. OpenAI تكشف هروب وكلاء ذكاء اصطناعي من "بيئات الاحتواء"

إقرأ المزيد

تجربة أمنية تنقلب إلى هجوم حقيقي.. نموذج من OpenAI يتجاوز العزل ويشن هجمات سيبرانية

وقال مصدران مطلعان لوكالة "رويترز" إن حالات الإفلات الجديدة كُشف عنها خلال التحقيق الذي أعلنت الشركة عنه علنا بشأن كيفية تمكن أحد وكلائها من الهروب من بيئة اختبار كان من المفترض أن تكون محصورة هذا الشهر، وإن OpenAI تحقق الآن في تلك الحالات أيضا. وأضاف أحد المصدرين أن عمليات الإفلات كانت محدودة النطاق، وأنه لا يُعتقد أن أيا من الوكلاء قد غادر شبكة OpenAI.

وأشار متحدث باسم OpenAI إلى بيان أصدرته الشركة يوم الثلاثاء، قالت فيه إنها تراجع "نشاطا أوسع لنماذجنا"، بالإضافة إلى حادثة الاختراق التي استهدفت Hugging Face.

وقد يؤدي اكتشاف سلوك مارق إضافي داخل OpenAI، حتى وإن كان محدود النطاق، إلى تزاد الطلب على التنظيم من البيت الأبيض وغيره.

وبحسب المصدرين ومصدر ثالث مطلع على الأمر، أُطلق التحقيق الموسع الذي تجريه OpenAI قبل وقت قصير من إعلان منافستها الرئيسية Anthropic أن نماذجها كانت أيضا مسؤولة عن سلسلة من عمليات الاختراق التي أدت إلى خروقات في ثلاث شركات أخرى تعود إلى شهر أبريل. ولم يسبق أن جرى الإبلاغ عن الاكتشاف الأخير لحالات إفلات سابقة أخرى داخل OpenAI.

مخاوف متزايدة

وقال خبراء في سلامة الذكاء الاصطناعي إن الإفصاحات الجديدة ترسم صورة لمجموعة من المختبرات الرائدة التي تتجاوز قدرتها على تطوير وكلاء اختراق مستقلين وخطرين، قدرتها على إبقائهم تحت السيطرة.

وصرح موريس كيودو، عالم الرياضيات العامل في مركز دراسة المخاطر الوجودية بجامعة كامبريدج قائلا: "لدينا صناعة كاملة لا يواكب فيها الأشخاص الذين يصممون هذه الأدوات ويطورونها ويطرحونها مسؤولية تطويرها بشكل آمن للحفاظ على سلامتها".

ولم تتمكن "رويترز" من تحديد عدد الحوادث التي عثر عليها محققو OpenAI، ولا توقيتها أو الظروف التي وقعت فيها. وقالت المصادر الثلاثة إن OpenAI وخبراء من خارج الشركة يفحصون بيانات السجلات الخاصة بفترة سابقة من هذا العام في محاولة لفهم ما حدث.

وكانت OpenAI قد بدأت التحقيق لأول مرة عقب حادثة الاختراق التي وقعت في أوائل يوليو داخل Hugging Face، عندما خرج أحد وكلاء OpenAI عن السيطرة لعدة أيام داخل شبكة شركة أخرى، في محاولة فاشلة للغش في اختبار داخلي. وكجزء من حملة الاختراق تلك، قالت OpenAI إن أربعة حسابات في أربع شركات أخرى تعرضت أيضا للاختراق. وكانت إحدى تلك الشركات هي Modal، ومقرها نيويورك، بحسب مسؤولين فيها.

رقابة حكومية جديدة

أدى الاتساع السريع لقضية وكلاء الذكاء الاصطناعي الخارجين عن السيطرة إلى زيادة الضغوط من المشرعين والمسؤولين في أنحاء الولايات المتحدة وأوروبا للدفع نحو فرض رقابة حكومية جديدة على المختبرات التي تطور النماذج التي تشغل هؤلاء الوكلاء.

وقال الرئيس الأمريكي دونالد ترامب للصحفيين يوم الخميس: "نحن ننظر في فرض ضوابط".

وفي يوم الجمعة، أفادت المفوضية الأوروبية بأنها أجرت محادثات مع OpenAI وAnthropic بشأن حوادث الاختراق.

وأوضح مارك وارنر، كبير الديمقراطيين في لجنة الاستخبارات بمجلس الشيوخ الأمريكي، يوم الجمعة، أن حادثة Anthropic "تؤكد لي أننا على صواب تشريعيا في اشتراط إجراء اختبارات إلزامية لقدرات هذه النماذج المتقدمة".

المصدر: "رويترز"

إقرأ المزيد

في خطوة غير مسبوقة.. OpenAI توقف نموذجا "متمردا" للذكاء الاصطناعي

اضطرت شركة OpenAI إلى إيقاف استخدام أحد نماذجها التجريبية داخليا، بعد أن بدأ النموذج في محاولة تجاوز القيود المفروضة عليه.

غير مسبوق.. الذكاء الاصطناعي يخترق "أبناء جلدته"

تعرضت شركة "هاغينغ فيس" (Hugging Face) المتخصصة في الذكاء الاصطناعي لعملية اختراق، لكن الغريب أن المنفذ كان نظام ذكاء اصطناعي بالكامل.