الذكاء الاصطناعي يدخل منطقة الخطر.. Anthropic تكشف محاولات لاستخدام Claude في أبحاث الأسلحة البيولوجية
تقرير جديد يكشف محاولات لاستغلال الذكاء الاصطناعي في أبحاث بيولوجية حساسة، وسط تحذيرات متزايدة من إساءة استخدام نماذج الذكاء الاصطناعي المتقدمة
برق السودان | تكنولوجيا
كشفت شركة Anthropic، المطورة لنموذج الذكاء الاصطناعي Claude، عن تفاصيل مقلقة بشأن محاولات استغلال نماذجها في أنشطة بحثية وعسكرية حساسة، من بينها أبحاث كان من الممكن أن تسهم في تطوير أسلحة بيولوجية.
وجاءت المعلومات ضمن تقرير استخبارات تهديدات موسع نشرته الشركة، وشمل نشاطات رصدتها خلال الأشهر الماضية، إلى جانب حالات أخرى مرتبطة بتطوير أسلحة تقليدية وعمليات تجسس وهجمات إلكترونية.
خمس حالات أثارت قلق الشركة
بحسب Anthropic، رصدت الشركة خمس حالات تضمنت استخدام Claude في أبحاث بيولوجية اعتُبرت ذات مخاطر محتملة، بينما حاول بعض المستخدمين تجاوز أنظمة الحماية أو إخفاء طبيعة نشاطهم.
وأوضحت الشركة أن طبيعة الأبحاث البيولوجية تجعل تحديد النية أمرًا معقدًا، إذ يمكن أن تكون بعض التقنيات مفيدة في تطوير علاجات ولقاحات، لكنها قد تحمل في الوقت نفسه مخاطر إذا أسيء استخدامها. ولذلك أكدت Anthropic أنها لا تستطيع إثبات أن جميع الحالات كانت تهدف بالفعل إلى تطوير أسلحة بيولوجية.
Claude لم يكن جزءًا من القصة البيولوجية فقط
المفاجأة أن التقرير لم يتوقف عند الأبحاث البيولوجية، إذ كشف أيضًا عن محاولات لاستخدام Claude في مجالات عسكرية وأمنية مختلفة، بما في ذلك تطوير برمجيات مرتبطة بالأسلحة والطائرات المسيّرة، إضافة إلى أنشطة تجسس ومراقبة وعمليات إلكترونية.
وقالت Anthropic إنها عطلت الحسابات المرتبطة بهذه الأنشطة، واستفادت من المعلومات التي جمعتها لتعزيز أنظمة الحماية والكشف عن إساءة استخدام نماذج الذكاء الاصطناعي.
هل أصبح الذكاء الاصطناعي تهديدًا جديدًا؟
تسلط هذه الوقائع الضوء على واحدة من أكبر المعضلات التي تواجه صناعة الذكاء الاصطناعي: كيف يمكن توفير أدوات قوية للباحثين والمستخدمين، مع منع استغلالها في أنشطة خطيرة؟
وترى Anthropic أن تطور قدرات النماذج يجعل الحاجة إلى أنظمة رقابة وحماية أكثر تطورًا أمرًا ملحًا، خصوصًا مع قدرة أدوات الذكاء الاصطناعي الحديثة على التعامل مع مهام معقدة في مجالات متعددة.
وتشير التطورات الأخيرة إلى أن معركة شركات الذكاء الاصطناعي لم تعد تقتصر على تطوير نماذج أكثر ذكاءً، بل أصبحت تشمل أيضًا منع استخدامها في أنشطة قد تشكل خطرًا على الأمن والصحة العامة.
اقرأ أيضاً:
رسمها بقلم رصاص فأشعل الإنترنت.. تيري كروز يفاجئ الجمهور بصورة هايدي كلوم
