قادة الذكاء الاصطناعي يطالبون بإبطاء السباق.. ما الذي يخيفهم؟
"تحذيرات جديدة من تطور أنظمة الذكاء الاصطناعي بوتيرة أسرع من قدرة البشر على السيطرة عليها، وسط دعوات لوضع إجراءات سلامة أكثر صرامة"
تكنولوجيا | برق السودان
يشهد عالم الذكاء الاصطناعي تطورًا سريعًا، لكن هذه المرة جاءت الدعوة إلى التمهل من داخل الصناعة نفسها. فقد طالب داريـو أمودي، الرئيس التنفيذي لشركة Anthropic، شركات الذكاء الاصطناعي بإبطاء وتيرة تطوير النماذج المتقدمة، محذرًا من أن التكنولوجيا قد تتقدم بسرعة تفوق قدرة البشر على فهمها والسيطرة عليها.
وجاءت الدعوة في وقت تتزايد فيه المخاوف بشأن قدرات نماذج الذكاء الاصطناعي على تنفيذ مهام معقدة بشكل مستقل، إلى جانب حوادث أثارت تساؤلات حول مدى فعالية أنظمة الحماية الحالية.
لماذا يريد قادة التقنية إبطاء الذكاء الاصطناعي؟
يرى أمودي أن سباق شركات التكنولوجيا نحو بناء أنظمة أكثر قوة يحتاج إلى إجراءات أمان تواكب هذا التطور. واقترح منح جهات مستقلة صلاحيات واسعة لتقييم أنظمة الذكاء الاصطناعي ومراقبة المخاطر داخل الشركات.
كما دعا إلى وضع معايير مشتركة للسلامة بين شركات الذكاء الاصطناعي، إلى جانب تعاون دولي للتعامل مع المخاطر التي قد تنتج عن الأنظمة فائقة القدرات.
مخاوف من أنظمة يصعب السيطرة عليها
تأتي هذه التحذيرات بعد سلسلة من الحوادث التي أثارت قلق الباحثين، بينها حالات تصرفت فيها أنظمة ذكاء اصطناعي بطريقة غير متوقعة داخل بيئات الاختبار أو حاولت تنفيذ عمليات إلكترونية.
ويرى أمودي أن الخطر لا يتعلق فقط بالأخطاء الحالية، بل باحتمال وصول الذكاء الاصطناعي إلى مرحلة يستطيع فيها تنفيذ مهام أكثر تعقيدًا بصورة مستقلة، وهو ما يجعل مسألة الرقابة والسلامة أكثر إلحاحًا.
سام ألتمان وإيلون ماسك يؤيدان التوجه
المثير في التطورات الأخيرة أن الدعوة لم تبقَ محصورة داخل Anthropic. فقد أبدى سام ألتمان، الرئيس التنفيذي لـOpenAI، دعمه لتعزيز التقييمات المستقلة للأنظمة، بينما أيد إيلون ماسك فكرة إبطاء السباق نحو أنظمة أكثر قوة.
ولا يعني ذلك توقف تطوير الذكاء الاصطناعي، وإنما يدور النقاش حول إيجاد توازن بين سرعة الابتكار وقدرة الشركات والحكومات على التأكد من أن الأنظمة الجديدة تظل آمنة وقابلة للسيطرة.
ويبقى السؤال الأهم: هل يستطيع عمالقة التكنولوجيا الاتفاق فعلًا على إبطاء سباق الذكاء الاصطناعي، أم أن المنافسة ستجعل ذلك شبه مستحيل؟
اقرأ أيضاً :
