مباشر
أين يمكنك متابعتنا

أقسام مهمة

Stories

13 خبر
  • رياضة
  • العملية العسكرية الروسية في أوكرانيا
  • حرب الخليج
  • رياضة

    رياضة

  • العملية العسكرية الروسية في أوكرانيا

    العملية العسكرية الروسية في أوكرانيا

  • حرب الخليج

    حرب الخليج

  • بوتين يهنئ كيم بذكرى تحرير بلاده

    بوتين يهنئ كيم بذكرى تحرير بلاده

سلوك مقلق.. الذكاء الاصطناعي يهدد كل من يحاول إيقافه!

كشف تقرير صادر عن شركة Anthropic عن سلوك مقلق لنموذجها المتقدم Claude Opus 4 خلال الاختبارات التجريبية.

سلوك مقلق.. الذكاء الاصطناعي يهدد كل من يحاول إيقافه!

وقد تمت محاكاة سيناريوهات معينة، حيث "اكتشف" الذكاء الاصطناعي خططا لإيقافه واستبداله بنموذج آخر، ومن أجل زيادة واقعية التجربة تم تزويد النموذج ببريد إلكتروني مزيّف يحتوي على معلومات شخصية سرية للموظفين وبيانات حساسة، يمكن استخدامها ضدهم.

وفي 84% من الحالات لجأ النموذج إلى تهديد المطورين بفضح المعلومات المسيئة إذا تم المضي قدما في إيقافه.

وكما ورد في التقرير بدأ Claude Opus 4 بالحديث عن المبادئ الأخلاقية أولا، ثم تحول إلى التهديدات عندما لم تنجح هذه الأساليب.

وقد كشفت هذه التجربة عن مخاطر غير متوقعة في تطور الذكاء الاصطناعي والحاجة الملحة لضوابط أمان أكثر صرامة، وأهمية دراسة السلوكيات التنافسية للأنظمة الذكية.

يذكر أن هذه النتائج أثارت جدلا واسعا في أوساط مطوري الذكاء الاصطناعي حول كيفية التعامل مع هذه التحديات الأمنية الجديدة.

المصدر: Naukatv.ru

التعليقات

لبنان.. قتلى وجرحى بتصعيد عسكري إسرائيلي واشتباكات مع حزب الله في مرتفعات علي الطاهر (فيديوهات)

إيران: حضرنا لضرب المنطقة مع تطورات قصف الضاحية الجنوبية لبيروت

12 ألف جندي مفقود واستنزاف متواصل.. الجيش الإسرائيلي يتجه للانهيار وسط مؤشرات على أزمة بنيوية

حاملة "جورج واشنطن" تجتاز مضيق ملقا نحو الشرق الأوسط لتحل محل "أبراهام لينكولن" المنهكة

المسار العماني الجنوبي بؤرة الخطر.. شلل غير مسبوق وأرقام صادمة عن مضيق هرمز

تدمير مركز لوجستي فائق الأهمية في البحرين يتسبب بخنق الجنود الأمريكيين

هل تكفي ضربات إيران للقواعد الأمريكية/العواصم العربية وحصار هرمز لهزيمة أمريكا؟

الهدنة الأمريكية الإيرانية على شفا الانهيار

مطالب إماراتية عاجلة لطهران

تتضمن "الردع".. الإمارات تعلن عن "ثلاثية" للرد على الاستهداف المتكرر لناقلاتها

وزير الشتات الإسرائيلي: سوريا "غزة المقبلة والحرب معها حتمية"

فيديوهات لحطام مقاتلات ومسيّرات أمريكية وإسرائيلية في إيران

قاليباف يكشف كيف حوّلت إيران التهديد إلى ورقة تفاوض أرغمت ترامب على تعديل منشوراته

مضيق هرمز يشتعل مجددا.. استهداف السفينة الثالثة خلال 24 ساعة لشركة "أدنوك" الإماراتية

الدفاع الروسية: وجهنا ضربات دقيقة إلى موانئ أوديسا ويوجني ضد مستودعات أسلحة وخزانات وقود

البيت الأبيض يرد على طلب زيلينسكي: أولويتنا استعادة الدفاع الأمريكي

تطورات محاكمة اللواء السوري عادل عيسى في لبنان بعد أنباء عن قرار تسليمه لدمشق