الباحثون في مجال الأمن السيبراني ليسوا سعداء بشأن حواجز الحماية في Anthropic’s Fable

أصدرت Anthropic أحدث طراز لها من Fable يوم الثلاثاء، ووصفته بأنه نسخة عامة ومحدودة من نموذج الأمن السيبراني القوي والمثير للجدل Mythos.

ولكن ليس الجميع سعداء بالقيود، وقد قام عدد من الباحثين والمتخصصين في مجال الأمن السيبراني بنشر شكاوى عبر الإنترنت.

يقول كات وو من Anthropic أنه في المستقبل، سوف يتوقع الذكاء الاصطناعي احتياجاتك قبل أن تعرف ما هي: يقول كات وو من Anthropic أنه في المستقبل، سوف يتوقع الذكاء الاصطناعي احتياجاتك قبل أن تعرف ما هي

“[Fable] يرفض أي طلب يمكن أن يكون ذا صلة سيبرانية بشكل عرضي. وقالت فالنتينا “تشومبي” بالميوتي، وهي باحثة أمنية معروفة تعمل في شركة IBM X-Force: “حتى المهام غير الضارة مثل قراءة منشور على مدونة”.

عندما تقوم إحدى الرسائل بتشغيل حواجز الحماية الخاصة بها، تقوم Fable بإيقاف الدردشة مؤقتًا وتقول إن “إجراءات السلامة الخاصة بها حددت هذه الرسالة لموضوعات الأمن السيبراني أو البيولوجيا”.

تم وضع حواجز الحماية للحد من مخاطر استخدام Fable لتطوير برامج ضارة أو برامج اختراق – وهو مصدر قلق طويل الأمد داخل Anthropic. وتأتي القيود المفروضة على علم الأحياء من مخاوف مماثلة بشأن تطوير الأسلحة البيولوجية.

تجاوزت إيرادات Glean الأعلى 300 مليون دولار حيث أصبح خفض ميزانية الذكاء الاصطناعي نقطة البيع الرئيسية لها: تجاوزت إيرادات Glean الأعلى 300 مليون دولار حيث أصبح خفض ميزانية الذكاء الاصطناعي نقطة البيع الرئيسية لها

عندما أصدرت شركة الذكاء الاصطناعي العملاقة Mythos في أبريل، قامت بتقييد النموذج على عدد محدود من الشركات والمؤسسات فيما أسمته مشروع Glasswing، وهو جهد لنشر النموذج لتأمين البرامج والبنية التحتية الحيوية. في الأسبوع الماضي، قامت Anthropic بتوسيع نطاق الوصول إلى Mythos ليشمل مئات المنظمات في 15 دولة.

ولكن على الرغم من النوايا الحسنة، لا يزال العديد من خبراء الأمن السيبراني منزعجين من الطبيعة العشوائية للقيود. قال Matt Suiche، الخبير المخضرم في مجال الأمن السيبراني، لموقع TechCrunch: “إذا طلبت منه كتابة تعليمات برمجية آمنة، فإنه يفترض أن هذا عمل متعلق بالأمن السيبراني بدلاً من أفضل ممارسات هندسة البرمجيات، ويتم تخفيض رتبتك”. تمت برمجة Fable للرجوع إلى Claude Opus 4.8 إذا اصطدمت بحاجز الحماية. “يبدو أنها تعتمد على الكلمات الرئيسية، لذا فإن أي شيء في المجال المعجمي لـ “الأمن السيبراني” يؤدي إلى إطلاق حواجز الحماية.”

اتصل بنا هل لديك المزيد من المعلومات حول كيفية استخدام المتسللين للذكاء الاصطناعي؟ أو كيف تستخدم شركات الأمن السيبراني الذكاء الاصطناعي؟ نحن نحب أن نسمع منك. من جهاز وشبكة خارج العمل، يمكنك الاتصال بـ Lorenzo Franceschi-Bicchierai بشكل آمن على Signal على الرقم +1 917 257 1382، أو عبر Telegram وKeybase @lorenzofb، أو البريد الإلكتروني.

ترى Bain أن سوق SaaS بقيمة 100 مليار دولار أمريكي في أتمتة الذكاء الاصطناعي الوكيل: ترى Bain أن سوق SaaS بقيمة 100 مليار دولار أمريكي في أتمتة الذكاء الاصطناعي الوكيل

وقال سويش، وهو عضو في الطاقم الفني في شركة Tolmo، وهي شركة ناشئة للأمن السيبراني تعمل بالذكاء الاصطناعي: “لكن الأمر مفهوم لأننا مازلنا في الأيام الأولى وما زالوا يكيفون حواجز الحماية الخاصة بهم. أنا متأكد من أنهم سوف يتطورون بمرور الوقت حيث ستتعاون شركات Anthropic وغيرها من الشركات النموذجية بشكل أكبر مع الجيل الجديد الحالي من شركات الأمن السيبراني”. “من الأفضل القبض على عدد أكبر من الأشخاص بدلاً من عدم القبض على عدد كافٍ عند القيام بمثل هذا الإصدار وإرخاء حواجز الحماية بمرور الوقت.”

تمسك باحث آخر بـ X قائلاً إن “حتى طلب مراجعة الكود” يؤدي إلى تشغيل حواجز الحماية الخاصة بـ Fable.

ولم تستجب الأنثروبيك على الفور لطلب التعليق.

وبصرف النظر عن حواجز الحماية الموجودة داخل نماذجها، تطلب Anthropic من متخصصي الأمن السيبراني التقدم إلى برنامج التحقق السيبراني. إذا حصلوا على الموافقة، سيكون لدى المتقدمين قيود أقل على استخدام كلود في أعمال الأمن السيبراني. لدى OpenAI برنامج مشابه يسمى Trusted Access for Cyber.

عندما تقوم بالشراء من خلال الروابط الموجودة في مقالاتنا، قد نكسب عمولة صغيرة. هذا لا يؤثر على استقلالنا التحريري.

المصدر