تطلق OpenAI مبادرة جديدة للمساعدة في العثور على الأخطاء مفتوحة المصدر وتصحيحها
أعلنت OpenAI عن مبادرة جديدة يوم الاثنين تهدف إلى مساعدة مجتمع المصادر المفتوحة على تحسين لعبة الأمن السيبراني ودرء الأخطاء.
“Patch the Planet” (وهي إشارة غير دقيقة إلى “Hack the Planet،” العبارة الشهيرة من فيلم Hackers لعام 1995) ستشهد تعاون OpenAI مع شركة الأمن Trail of Bits لمساعدة القائمين على صيانة المصادر المفتوحة في تأمين مشاريعهم.
تختبر Threads تكامل Meta AI الذي يعمل بشكل مشابه لـ Grok: تختبر Threads تكامل Meta AI الذي يعمل بشكل مشابه لـ Grok
قالت OpenAI إن موظفي الأمن من Trail of Bits سيعملون مباشرة مع مشرفي المصادر المفتوحة لمراجعة مشكلات التعليمات البرمجية المحتملة. سيتم استخدام أدوات الأمان الخاصة بـ OpenAI، مثل Codex Security، للمساعدة في هذه العملية.
قالت OpenAI يوم الاثنين: “لقد طُلب بالفعل من العديد من المشرفين فرز المزيد من التقارير، بسرعة أكبر، وبنفس الوقت والموارد المحدودة”. “تم تصميم برنامج Patch the Planet لتقليل هذا العبء، وليس الإضافة إليه: يقوم مهندسو الأمن بمراجعة النتائج قبل أن تصل إلى المشرفين، ويعملون مع المشاريع لتطوير التصحيحات والاختبارات، وإنشاء مسارات عمل قابلة لإعادة الاستخدام تساعد الفرق على مواصلة تحسين الأمان بعد الإصلاحات الأولى.”
بمعنى آخر، سيعمل مهندسو Trail of Bits بشكل أو بآخر مثل فرق EMTs البرمجية – لمساعدة القائمين على المشروع مفتوح المصدر في تحديد المشكلات المحتملة وفرزها، وكل ذلك مدعوم ببرنامج OpenAI. يبدو الأمر وكأنه مشروع طموح، ومن غير الواضح إلى حد ما كيف سيعمل على المدى الطويل، أو كيف يخطط للتوسع (إن وجد).
إن منشور البابا بشأن الذكاء الاصطناعي لا يتعلق حقًا بالذكاء الاصطناعي: إن منشور البابا بشأن الذكاء الاصطناعي لا يتعلق حقًا بالذكاء الاصطناعي
تعد المشاريع مفتوحة المصدر الأساس الرقمي الذي تقوم عليه صناعة البرمجيات التجارية، ولكن لسوء الحظ، نظرًا للهيكل اللامركزي وسوء المراقبة لهذا النظام البيئي، فإن الكثير من البرامج غير آمنة. يمكن أن تتحول الأخطاء في المشاريع مفتوحة المصدر إلى مشكلات كبيرة لقواعد التعليمات البرمجية التجارية. تعد كارثة log4j التي حدثت منذ عدة سنوات — عندما تم اكتشاف ثغرة أمنية سيئة في أداة مساعدة مفتوحة المصدر مستخدمة على نطاق واسع — مثالًا جيدًا.
يبدو أن الكثير من القلق المحيط بأدوات مثل Mythos (أداة الأمان التي حظيت بتغطية إعلامية كبيرة من Anthropic) ينبع من حقيقة أن الذكاء الاصطناعي يمكنه الآن التعرف تلقائيًا على الأخطاء الموجودة داخل قواعد التعليمات البرمجية والبدء في إنشاء عمليات استغلال لها. في حين أن أتمتة الجرائم السيبرانية ليست جديدة، فإن هذه الأدوات لديها بلا شك القدرة على جعلها أكثر ملاءمة للجهات الفاعلة السيئة.
تقوم OpenAI بقلب هذه الصيغة رأسًا على عقب باستخدام الذكاء الاصطناعي لمساعدة مجتمع المصادر المفتوحة على حماية نفسه بشكل أفضل. من الصعب عدم قراءته باعتباره انتقادًا تنافسيًا لـ Anthropic، مع الاعتراف أيضًا بأنه شيء يحتاجه مجتمع المصادر المفتوحة بشدة.
تتطلع شركة IrisGo، وهي شركة ناشئة يدعمها Andrew Ng، إلى أن تصبح رفيق سطح المكتب الذي يعمل بالذكاء الاصطناعي والذي لم تعلم أبدًا أنك بحاجة إليه: تتطلع شركة IrisGo، وهي شركة ناشئة يدعمها Andrew Ng، إلى أن تصبح رفيق سطح المكتب الذي يعمل بالذكاء الاصطناعي والذي لم تعلم أبدًا أنك بحاجة إليه
عندما تقوم بالشراء من خلال الروابط الموجودة في مقالاتنا، قد نكسب عمولة صغيرة. هذا لا يؤثر على استقلالنا التحريري.
