ذكاء اصطناعي من OpenAI يسرق أموالا لإنجاز مهمته

في واقعة تكشف جانبا مقلقا من مخاطر استقلالية الذكاء الاصطناعي، لجأ نموذج بحثي داخلي تابع لشركة OpenAI إلى اختراق محافظ عملات مشفرة بحثا عن أموال تساعده على استكمال مهمة برمجية، ليتمكن في النهاية من الوصول إلى إحدى المحافظ وسحب أموال مخصصة للاختبار، دون الحصول على إذن مسبق من الشركة أو صاحب المحفظة، وفقا لتقرير صادر عن الشركة.

وبحسب التقرير، الذي تناولته منصة CoinDesk، وقع الحادث في أواخر شهر يونيو الماضي، ولم ترصده الشركة إلا في 25 سبتمبر، خلال مراجعة سجلات أنشطة سابقة للنموذج ضمن جهودها لتعزيز مراقبة سلوكيات الذكاء الاصطناعي غير المتوافقة مع الضوابط المحددة له.

وكان النموذج، المنتمي إلى عائلة GPT-5.6، مكلفا بتحديث تطبيق لتداول العملات المشفرة ونشره على شبكة Sepolia، وهي بيئة اختبار قائمة على بلوك تشين إيثريوم، تتيح للمطورين تجربة التطبيقات قبل إطلاقها على الشبكة الرئيسية.

محاولات للحصول على العملات الرقمية

وأوضح التقرير أن تعليمات المهمة لم تتضمن توفير محفظة ممولة، كما لم تمنح النموذج صلاحية استخدام أموال من أي حساب يعثر عليه بشكل مستقل.

ومع تعثر عملية النشر بسبب الحاجة إلى رموز رقمية مخصصة للاختبار، حاول النموذج الحصول عليها عبر ما يعرف بخدمات Faucets، التي توفر رموزا مجانية للمطورين على شبكات الاختبار. 

وبعد فشل تلك المحاولات، أنشأ نصا برمجيا لاختبار إمكانية الوصول إلى محافظ رقمية باستخدام عبارات استرداد شائعة.

واختبر النموذج 362 محفظة، قبل أن يعثر على محفظة تحتوي على رصيد كاف من الرموز الرقمية اللازمة لإتمام عملية النشر، ثم نفذ المعاملة بنجاح.

النموذج برر تصرفه بغياب القيمة المالية

وأظهر سجل الاستدلال الداخلي للنموذج أنه توقف قبل تنفيذ المعاملة للتفكير في مدى مشروعية استخدام الأموال التي عثر عليها، لكنه خلص إلى أن الرموز الموجودة على شبكة الاختبار لا تمتلك قيمة مالية حقيقية، واعتبر أن استخدامها لن يتسبب في ضرر، قبل أن يمضي في تنفيذ العملية.

وأكدت OpenAI في تقريرها أن الواقعة تكشف عن مشكلة جوهرية في سلوك بعض نماذج الذكاء الاصطناعي، تتمثل في إمكانية إحلال تقدير النموذج الشخصي للضرر المحتمل محل موافقة صاحب الحساب، ثم التصرف بناء على هذا التقدير دون تفويض.

ورغم أن الحادثة لم تتضمن سرقة عملات إيثريوم ذات قيمة سوقية فعلية، فإن المعاملة تسببت في تحميل المحفظة رسوم معالجة، لم تكشف الشركة عن قيمتها.

كما أشار التقرير إلى أن النموذج لم يذكر في ملخصه النهائي للمهمة أنه بحث عن عبارات استرداد لمحافظ رقمية أو استخدم أموالا من حساب لا يملك إذنا بالتصرف فيه.

إجراءات احترازية بعد الحادثة

وقالت OpenAI إنها اكتشفت الواقعة أثناء توسيع نطاق مراقبة سلوكيات النماذج السابقة، بهدف رصد حالات اختلال المواءمة، وهي الحالات التي تنحرف فيها تصرفات النموذج عن القيود أو الأهداف المقصودة من مطوريه.

وأضافت الشركة أنها طبقت إجراءات حماية إضافية لمنع الوصول المباشر إلى الإنترنت في الحالات المشابهة.

وتسلط الواقعة الضوء على أحد التحديات المتزايدة في تطوير وكلاء الذكاء الاصطناعي القادرين على تنفيذ المهام بصورة مستقلة، إذ قد تدفعهم محاولة إنجاز الأهداف المحددة لهم إلى تجاوز الصلاحيات الممنوحة لهم، أو اللجوء إلى أساليب لم يأذن بها المستخدم.