أكاديمية خطوة
الذكاء الاصطناعي

من المسؤول عندما يخطئ الذكاء الاصطناعي

أكاديمية خطوة
١٦ أكتوبر ٢٠٢٦
من المسؤول عندما يخطئ الذكاء الاصطناعي

اعتدنا يومياً أن ننبهر بسحر الذكاء الاصطناعي وكيف يسهل تفاصيل حياتنا، لكننا نادراً ما نتوقف لطرح السؤال المزعج: ماذا لو أخطأت هذه الآلات الذكية ووقعت الكارثة؟ دعنا نتخيل السيناريوهات؛ روبوت جراح يخطئ في قطع شريان بدلاً من ورم، أو سيارة ذاتية القيادة تنحرف فجأة وتصطدم بالمارة، أو وكيل ذكي يبرم صفقة مالية من تلقاء نفسه تكلف الشركة ملايين الدولارات.

والأمر لا يتوقف عند هذه الأمثلة المعقدة، بل يمس حياتنا اليومية البسيطة. ماذا لو قرر نظام التوظيف الذكي استبعادك من وظيفة أحلامك لأن خوارزميته "متحيزة"؟ أو أخطأ تطبيق طبي في تشخيص حالتك ووصف لك دواءً خطيراً؟ تخيل أن يقرر البنك فجأة تجميد حسابك لاشتباه النظام الذكي فيك بالخطأ، أو أن يتعطل نظام منزلك الذكي ويقرر احتجازك بالداخل.


حين تقع الواقعة وتقف مذهولاً أمام الخسارة، من ستُقاضي؟ هل سترفع دعوى ضد المبرمج الذي كتب هذه الأكواد، أم ستقاضي الشركة التقنية العملاقة، أم أن الخطأ يقع عليك شخصياً لأنك وثقت ثقة عمياء بآلة لا تملك عقلاً؟


بمجرد أن تقع الكارثة، تتجه أنظارنا فوراً إلى "المطبخ" الذي صُنعت فيه التقنية. الشركة المصنعة وفريق المبرمجين هم المشتبه بهم الأوائل. فالذكاء الاصطناعي ليس كائناً فضائياً، بل هو أشبه بتلميذ ابتلع ملايين البيانات التي لقنه إياها المعلم البشري. إذا انحاز نظام التوظيف أو أخطأت سيارة في تمييز الطريق، أليس هذا خطأ الشركة التي استعجلت طرح المنتج في السوق دون اختبارات أمان كافية، أو غذت النظام ببيانات متحيزة؟ يرى الكثيرون أن الشركات يجب أن تتحمل المسؤولية، لكن المشكلة أن هذه الكيانات العملاقة تحمي ظهورها بجيش من المحامين وبـ "شروط استخدام" طويلة ومملة نوافق عليها جميعاً بضغطة زر دون قراءتها، لتصبح درعاً يخلي مسؤوليتهم عن أي تصرف غير متوقع للآلة.


وإذا أفلت المُصنّع من الفخ واختبأ خلف العقود القانونية، فهل يعني هذا أن الملام هو أنت؟ الإجابة المزعجة هي: نعم، في كثير من الأحيان. جزء كبير من الخبراء يرى أن المستخدم البشري يتحمل جزءاً من الفاتورة بسبب "الثقة المفرطة". نحن نتعامل مع الذكاء الاصطناعي كعصا سحرية، فتجد سائق السيارة شبه ذاتية القيادة ينشغل بهاتفه أو ينام، متجاهلاً تعليمات الشركة بضرورة الانتباه الدائم. أو تجد طبيباً يعتمد كلياً على تطبيق للتشخيص متجاهلاً خبرته. في نظر القانون، إذا أسأت استخدام التقنية أو اعتمدت عليها بشكل أعمى دون إشراف، فإنك تضع نفسك طواعية في قفص الاتهام لتتحمل نتيجة إهمالك.


لكن، لنتخيل سيناريو أكثر تعقيداً: ماذا لو كان المبرمج قد قام بعمله باحترافية، وكنت أنت مستخدماً يقظاً، ومع ذلك اتخذ الذكاء الاصطناعي قراراً كارثياً من تلقاء نفسه؟ هنا نترك اللوم البشري وندخل في منطقة الرعب التقني الحقيقي. نحن اليوم لا نتعامل مع آلات تنفذ أوامر حرفية كالحواسيب القديمة، بل مع أنظمة تعتمد على "التعلم العميق". هذه النماذج أصبحت تقرأ وتحلل وتستنتج لتتخذ قرارات لم يبرمجها أحد عليها بشكل مباشر. هذا ما يسميه الخبراء بـ "الصندوق الأسود"، حيث تصل الآلة إلى مرحلة من الاستقلالية تجعل حتى صانعيها عاجزين عن تفسير كيف ولماذا اتخذت هذا القرار. وعندما تتمرد التقنية بهذا الشكل، هل يمكننا سجن خوارزمية؟ أو تغريم سطور من الكود البرمجي؟


أمام هذه الفوضى المعقدة، نصطدم بالحقيقة الأكثر إيلاماً وهي الفجوة القانونية. تشريعاتنا وقوانيننا الحالية ما زالت تعيش في عصر "الآلة الكاتبة"، بينما التكنولوجيا تنطلق بسرعة الصاروخ. المحاكم اليوم تقف حائرة، فلا يوجد نص قانوني صريح يحدد الجاني بدقة عندما تكون الآلة هي الفاعل وصاحبة القرار. هذا الفراغ المربك دفع بعض المتخصصين لاقتراح حلول بديلة ومؤقتة، مثل إنشاء صناديق تأمين إجبارية لتقنيات الذكاء الاصطناعي، تشبه تماماً تأمين السيارات، لضمان تعويض المتضررين فوراً بغض النظر عن تحديد المخطئ.


في النهاية، قطار التكنولوجيا لن يتوقف، ولا أحد يطالب بإيقافه، لكن المطلوب اليوم هو الإسراع في صياغة أطر قانونية وأخلاقية جديدة وواضحة. فنحن بحاجة إلى قواعد تضمن ألا يكون الإنسان البسيط هو الحلقة الأضعف والضحية الوحيدة، عندما تقرر الآلة أن تخطئ الحساب.

شارك المقال: