تقنية

Meta تدرس إيقاف تطوير أنظمة الذكاء الاصطناعي المحفوفة بالمخاطر

القاهرة: «السفير»

تعهد الرئيس التنفيذي لشركة Minta ، Meta ، بجعل الذكاء الاصطناعي العام (AGI) – الذي يُعرّف تقريبًا بأنه ذكاء اصطناعي يمكنه إنجاز أي مهمة يمكن أن ينجزها الشخص – مفتوحًا في يوم من الأيام.

ولكن في وثيقة سياسية جديدة ، يلاحظ Meta أن هناك سيناريوهات معينة لا يمكن فيها إطلاق نظام ذكاء اصطناعي قادر للغاية داخليًا.

تحدد المستند ، الذي يطلق عليه Meta Frontiere AI ، نوعين من أنظمة الذكاء الاصطناعي التي تعتبرها الشركة مخاطرة كبيرة بحيث لا يمكن إصدارها ، وهي “المخاطر العالية” و “المخاطر الحرجة” ، لأنها تحدد MITA ، كلاهما ، كلاهما من الأنظمة. يمكن للمخاطر العالية “و” المخاطر الحرجة “مساعدة الأمن السيبراني والهجمات الكيميائية والبيولوجية ، والفرق هو أن أنظمة” المخاطر الحرجة “يمكن أن تؤدي إلى” نتيجة كارثية.

على العكس من ذلك ، قد تجعل الأنظمة عالية المخاطر تنفيذ الهجوم أسهل ولكن غير موثوق أو موثوق بها مثل نظام المخاطر الحرج.

ذكرت Meta نوع الهجمات الخطرة ، مثل “التسوية التلقائية الشاملة لبيئة مؤسسية محمية من قبل أفضل الممارسات” و “انتشار الأسلحة البيولوجية المؤثرة للغاية” ، وتعترف الشركة بأن قائمة الكوارث المحتملة في وثيقة ميتة هي ليس شاملاً ، ولكنه يشمل أولئك الذين تعتقد ميتا أنهم “الأكثر إلحاحًا”.

وفقًا للوثيقة ، تصنف META مخاطر النظام لا تستند إلى أي اختبار تجريبي واحد ، ولكن بناءً على مدخلات الباحثين الداخليين والخارجيين الذين يخضعون للمراجعة من قبل “صانعي القرار على مستوى عالٍ”.

يعتقد Meta أنه لا يعتقد أن علم التقييم قوي بما يكفي لتوفير معايير محددة ، لتحديد مدى خطر النظام ، وإذا قرر Meta أن النظام مخاطر عالية ، تقول الشركة إنها ستقتصر على الوصول إلى النظام داخليًا ولن يطلقه حتى إجراءات التخفيف “لتقليل المخاطر إلى المستويات المعتدلة”.

من ناحية أخرى ، إذا كان النظام يعتبر خطيرًا للغاية ، فإن Meta تقول إنها ستنفذ تدابير حماية الأمان غير محددة لمنع النظام وتخزينه.

اعتمدت Meta استراتيجية لجعل تكنولوجيا الذكاء الاصطناعي مفتوحة – على الرغم من أنها ليست مفتوحة المصدر وفقًا لتعريف المفهوم بشكل عام – على عكس شركات مثل Openai ، التي تختار بوابة أنظمةها وراء واجهة برمجة API (API).

لمطالعة المزيد: موقع السفير وللتواصل تابعنا علي فيسبوك السفير و يوتيوب السفير .

مقالات ذات صلة

زر الذهاب إلى الأعلى