معظم الشركات الكبرى حول العالم (مثل: قوقل، أمازون، ميكروسوفت، أوبر وغيرها) تعرضت أنظمتها للذكاء الاصطناعي والتعلم الآلي للخداع أو التهرب أو التضليل عن غير قصد.
وعلى الرغم من هذه الإخفاقات الخطيرة فإن معظم قادة هذه الشركات لا يدركون بشكل كبير المخاطر التي قد يتعرضون لها عند إنشاء واستخدام تقنيات الذكاء الاصطناعي والتعلم الآلي. والخطأ لا يقع على عاتق الشركات بالكامل.
فحتى الآن لم يتم انشاء الأدوات الفنية اللازمة للحد من مثل هذه الأضرار ومعالجتها بالسرعة نفسها التي يتم فيها بناء مثل هذه التقنيات. ولا يغطي التأمين الالكتروني الحالي بشكل عام أنظمة الذكاء الاصطناعي والتعلم الآلي.
وحتى اللوائح القانونية (على سبيل المثال: قوانين حقوق النشر والمسؤولية وقوانين مكافحة القرصنة) قد لا تغطي الضرر المتعلق باستخدام هذه الأنظمة. أحد الحلول الناشئة لتغطية مثل هذه المخاطر هو إنشاء تأمين خاص بالذكاء الاصطناعي والتعلم الآلي لكن من سيحتاجها وما الذي ستغطيه بالضبط لا تزال أسئلة مفتوحة.
استيعاب المخاطر
أظهرت الأحداث الأخيرة أن الذكاء الاصطناعي والتعلم الآلي أنظمة هشة ويمكن أن يؤدي فشلها إلى كوارث في العالم الواقعي. وهي قد تفشل بطريقتين بقصد ومن غير قصد.
يقوم الخصم النشط في حالة الهجمات المتعمدة بمحاولة تخريب نظام الذكاء الاصطناعي لتحقيق أهدافه المتمثلة في استنتاج بيانات التدريب الخاصة أو سرقة الخوارزمية الأساسية أو الحصول على أي بيانات مرغوب فيها من أنظمة الذكاء الاصطناعي.
أما في حالات الفشل غير المقصود تفشل انظمة الذكاء الاصطناعي والتعلم الآلي من تلقاء نفسها دون أي تلاعب عدائي. ومن الأسباب الرئيسية للفشل غير المقصود هي الافتراضات الخاطئة من قبل مطوري هذه الأنظمة التي تنتج نتيجة صحيحة رسمياً ولكنها غير آمنة عملياً.
ونظراً لأن أسباب فشل أنظمة الذكاء الاصطناعي والتعلم الآلي لا تزال في موضع بحث نشط ، فلا يمكن توفير وسائل تخفف وقوع مثل هذه الأضرار مثل التأمين الخاص بمثل هذه الأنظمة في الوقت الحالي.
ولكن نظراً لأن الطريقة الأساسية التي تعمل من خلالها بيانات أنظمه الذكاء الاصطناعي والتعلم الآلي هي الكود والبرمجيات فإن بعض حالات الفشل في مثل هذه الأنظمة قد يتم تغطيتها من خلال نظام التأمين الإلكتروني المتعارف عليه حالياً ولكن البعض الآخر قد لا يتم تغطيتها.
الفرق بين التأمين الإلكتروني وتأمين الذكاء الاصطناعي
بشكل عام يغطي التأمين الإلكتروني أمن المعلومات ومسؤولية الخصوصية وانقطاع الأعمال. على سبيل المثال: من المرجح ان يتم تغطية حالات فشل نظام الذكاء الاصطناعي التي تؤدي إلى انقطاع العمل واختراق المعلومات الخاصة من خلال التأمين الإلكتروني الحالي.
ولكن من غير المحتمل أن تتم تغطية إخفاقات الذكاء الاصطناعي التي تؤدي إلى تلف العلامة التجارية والأذى الجسدي وتلف الممتلكات من خلال التأمين الإلكتروني. لأن التأمين الإلكتروني عادةً لا يغطي الأضرار التي تمتد للحياة الحقيقة (على الرغم من أنه قد يغطي الخسائر الناجمة عن توقف الأعمال الناتجة عن مثل هذه الأحداث).
اضافه تعليق