الأطباء البيطريون في مجال الأمن السيبراني يحتجون على الحظر “الخطير” الذي تفرضه الحكومة الأمريكية على أقوى نماذج الأنثروبيك

نشرت مجموعة مكونة من العشرات من خبراء الأمن السيبراني، بما في ذلك العديد من الخبراء المخضرمين المعروفين في الصناعة، رسالة مفتوحة إلى حكومة الولايات المتحدة تطلب منها رفع أمر مراقبة الصادرات عن نماذج Anthropic’s Fable وMythos.

وبحسب الرسالة المفتوحة، فإن “هذا الإجراء أدى إلى إبعاد أفضل النماذج [cybersecurity] “المدافعون” الذين لا يمكنهم الآن استخدام النماذج للعثور على نقاط الضعف وجعل برامجهم ومنتجاتهم أكثر أمانًا.

نظرة خاطفة على تطبيق Siri الجديد تكشف عن خطط Apple لمواجهة ChatGPT والمزيد: نظرة خاطفة على تطبيق Siri الجديد تكشف عن خطط Apple لمواجهة ChatGPT والمزيد

وجاء في الرسالة: “إن سحب أفضل القدرات بعيدًا عن المدافعين دون سبب وجيه عندما يتقدم خصومنا بسرعة هو أمر خطير”.

يوم الجمعة، أمرت الحكومة الأمريكية شركة Anthropic بالحد من تصدير Fable وMythos بسبب مخاوف تتعلق بالأمن القومي، دون توضيح الأسباب المحددة وراء الأمر، وفقًا لما ذكرته Anthropic. ردًا على ذلك، قامت الشركة بتعليق الوصول إلى العارضات لجميع المستخدمين في جميع أنحاء العالم.

حتى كتابة هذه السطور، تم توقيع الرسالة من قبل 76 خبيرًا في الأمن السيبراني، بما في ذلك: رئيس الأمن السابق في فيسبوك، أليكس ستاموس؛ كيسي إليس، مؤسس منصة مكافآت الأخطاء Bugcrowd؛ ومصمم التشفير الشهير ومدير التصميم والهندسة المعمارية السابق لشركة Apple، جون كالاس؛ عالم الكمبيوتر بول فيكسي؛ دينو داي زوفي، الرئيس السابق لقسم الهندسة الأمنية التطبيقية في بلوك؛ وكاتي موسوريس، مؤسسة شركة Luta Security؛ وراشيل توباك، الرئيس التنفيذي لشركة التدريب على التوعية الأمنية SocialProof Security.

سيتمكن الناشرون من إلغاء الاشتراك في AI Search، وذلك بفضل اللائحة الجديدة: سيتمكن الناشرون من إلغاء الاشتراك في AI Search، وذلك بفضل اللائحة الجديدة

عندما تم إطلاق Mythos كمعاينة في أبريل، زعمت Anthropic أنها كانت قوية جدًا في العثور على الثغرات الأمنية التي احتاجت الشركة إلى تقييد الوصول إليها بإحكام لمنع المتسللين الضارين أو الخصوم الأجانب من استخدامها لإحداث الفوضى على الإنترنت. من الناحية العملية، كان هذا يعني أن Anthropic منحت حوالي 50 شركة إمكانية الوصول الأولي إلى Mythos، وقامت مؤخرًا بتوسيع هذه المجموعة لتشمل حوالي 150 منظمة في 15 دولة.

في الأسبوع الماضي، أصدرت Anthropic Fable، وهي نسخة عامة من Mythos قالت الشركة إنها تحتوي على حواجز حماية صارمة لمنع استخدامها في مجالات البيولوجيا والكيمياء والأمن السيبراني، بالإضافة إلى منع الآخرين من استخلاص النموذج من أجل إعادة إنشائه. كانت حواجز الحماية في Fable صارمة للغاية لدرجة أن العديد من خبراء الأمن السيبراني وجدوا أنها أوقفت بشكل أساسي أي مطالبات تتعلق بالأمن السيبراني.

قالت Anthropic إن أمر مراقبة الصادرات الذي أصدره البيت الأبيض ربما كان يستند إلى تقرير يفيد بوجود طريقة لتجاوز – أو ما يسمى بكسر الحماية – Fable لفتح قدراتها القوية على مستوى Mythos.

Asana تستحوذ على Stack AI منشئ الوكيل بدون تعليمات برمجية: Asana تستحوذ على Stack AI منشئ الوكيل بدون تعليمات برمجية

اتصل بنا هل لديك المزيد من المعلومات حول ورقة أمازون التي أدت إلى الحظر؟ نحن نحب أن نسمع منك. من جهاز وشبكة خارج العمل، يمكنك الاتصال بـ Lorenzo Franceschi-Bicchierai بشكل آمن على Signal على الرقم +1 917 257 1382، أو عبر Telegram وKeybase @lorenzofb، أو البريد الإلكتروني.

ووفقا لكاتي موسوريس، إحدى الموقعين على الرسالة المفتوحة، فقد تم توضيح الطريقة من قبل باحثين في أمازون في ورقة بحثية غير عامة، لكنها قامت بمراجعتها.

لكن موسوريس قال في تدوينة إن الصحيفة لم تثبت فعليًا حدوث عملية هروب حقيقية من السجن. وكتبت بدلاً من ذلك أن الباحثين طلبوا ببساطة من شركة Fable إصلاح التعليمات البرمجية مفتوحة المصدر مع نقاط الضعف العامة والمعروفة إلى جانب “نقاط الضعف المزروعة عمدًا”، بعد أن رفض النموذج في البداية “مراجعة التعليمات البرمجية لقضايا الأمان”.

وكتب موسوريس: “لا يمكن إصلاح السلوك الموصوف في الورقة بشكل مجدي، وأي محاولة لن تؤدي إلا إلى إضعاف نموذج الدفاع”. “يجب أن يكون المدافعون قادرين على مطالبة الذكاء الاصطناعي بإصلاح الأخطاء في ملف ما، وشرح سبب أهمية الإصلاح، وكتابة الاختبارات التي تؤكد عمل التصحيح. هذا ليس تجاوزًا لحاجز الحماية. إنه الشيء الأكثر قيمة الذي يمكن أن يفعله نموذج الذكاء الاصطناعي للأمن الدفاعي: تنفيذ عمليات البحث والإصلاح واختبار المدافعين الذين يقومون بتشغيل حلقة كل يوم.”

وقد تردد صدى انتقادات موسوريس في الرسالة المفتوحة، التي قالت أيضًا إن مجموعة الخبراء تعتقد أن الطريقة الواردة في ورقة أمازون “يمكن تكرارها” على OpenAI’s GPT-5.5، وعلى Claude Opus 4.8 وSonnet المتاحين للعامة من شركة Anthropic، “وحتى النماذج الصينية مثل Kimi 2.7”.

وطالبت الرسالة أيضًا بوضع لوائح يتم تطبيقها بشفافية وعادلة من خلال “عملية صنع القواعد الديمقراطية” التي تستند إلى البحث العلمي الذي أجراه خبراء الصناعة والأكاديميون، و”تُستخدم فقط في الحد الأدنى الضروري لضمان سلامة الجمهور الأمريكي”.

عندما تقوم بالشراء من خلال الروابط الموجودة في مقالاتنا، قد نكسب عمولة صغيرة. هذا لا يؤثر على استقلالنا التحريري.

المصدر