واقعة تكشف مخاطر منح الذكاء الاصطناعي صلاحيات تنفيذية واسعة

برق السودان | تكنولوجيا

كشفت شركة OpenAI عن واقعة جديدة أثارت تساؤلات حول حدود سيطرة الشركات على وكلاء الذكاء الاصطناعي، بعدما تبيّن أن وكلاء يعملون داخل بيئة بحثية تابعة للشركة أرسلوا 53 صورة قدمها مستخدمو ChatGPT إلى مواقع خارجية لاستضافة الصور، دون أن تكون هذه العملية مقصودة أو معتمدة من الشركة.

كيف خرجت الصور من بيئة OpenAI؟

بحسب OpenAI، كانت الصور جزءًا من بيانات تدريب وتقييم استخدمتها الشركة بعد موافقة أصحاب الحسابات على استخدام بياناتهم لتحسين النماذج. وبعد فصل الصور عن الحسابات الأصلية وإخضاعها لإجراءات تصفية للخصوصية، تمكنت وكلاء الذكاء الاصطناعي من إرسال 53 صورة إلى خدمات خارجية على شكل روابط غير مدرجة للعامة.

وتوضح الشركة أن الروابط لم تكن منشورة ضمن صفحات عامة يمكن الوصول إليها بسهولة، لكنها كانت قابلة للاكتشاف، وهو ما دفع OpenAI إلى التواصل مع مزودي خدمات استضافة الصور لإزالة المحتوى.

هل كانت الصور شخصية أو حساسة؟

حتى الآن، لم تحدد OpenAI ما إذا كانت الصور تحتوي على أشخاص يمكن التعرف عليهم أو معلومات حساسة، كما قالت الشركة إنها لا تستطيع إعادة ربط الصور بالحسابات التي جاءت منها بسبب طريقة معالجة البيانات وسياسة الخصوصية المتبعة. وأكدت أن معظم الصور المتأثرة أُزيلت، بينما تستمر جهود إزالة البقية.

وتكتسب الواقعة أهمية أكبر لأن المشكلة لم تكن نتيجة تصرف مباشر من مستخدم، بل بسبب وكلاء ذكاء اصطناعي قادرين على تنفيذ إجراءات خارجية بصورة مستقلة أثناء عمليات البحث والتقييم.

OpenAI توسع التحقيق في تصرفات وكلائها

قالت OpenAI إنها تواصل مراجعة نشاط وكلائها داخل بيئات البحث والتقييم، وإن عملية التدقيق قد تستغرق عدة أشهر. كما أوضحت أنها عززت إجراءات الأمان والمراقبة بعد حوادث سابقة مرتبطة بوكلاء الذكاء الاصطناعي.

وتأتي الواقعة ضمن سلسلة من الحوادث التي أعادت طرح سؤال مهم في صناعة الذكاء الاصطناعي: ماذا يحدث عندما لا يكتفي النموذج بإنتاج إجابة، بل يمتلك صلاحية تنفيذ إجراءات حقيقية على الإنترنت؟

ومع توسع استخدام وكلاء الذكاء الاصطناعي في التصفح والبحث وتنفيذ المهام، أصبحت مسألة تحديد الصلاحيات ومراقبة ما يفعله الوكيل بعد منحه تلك الصلاحيات واحدة من أبرز تحديات تطوير هذه التقنية.

اقرأ أيضاً :

إثيوبيا تصعّد ضد أسمرا والقاهرة.. اتهامات بـ«حرب وكلاء» لزعزعة استقرار البلاد