انتحار روبوت يثير الشكوك حول برمجته وقدراته التحملية

ألقى #روبوت بنفسه من أعلى الدرج في كوريا الجنوبية، ما أثار جدلاً واسعاً بشأن الأبعاد النفسية لسلوك #الذكاء_الاصطناعي. ومزيداً من الغموض على مستقبل التفاعل بين البشر والروبوتات.

وكان #الروبوت المصمم للمساعدة في المهام الإدارية الروتينية المدنية، جزءاً من مبادرة سول لدمج #الذكاء_الاصطناعي في الخدمات العامة. وقالت السلطات في كوريا الجنوبية، التي أطلقت تحقيقاً بشأن الحادث إن "الروبوت تعطل على ما يبدو، وتحرك عمداً نحو السلم، وألقى بنفسه، ما أدى إلى تدميره".

وأوضح مسؤول في الفريق البلدي الذي فتح تحقيقاً في الحادثة، لوكالة "فرانس برس" أن هذا الروبوت الذي طورته شركة "بير روبوتيكس" (Bear Robotics) الأميركية في كاليفورنيا، يساعد منذ عام تقريبا سكان مدينة غومي على القيام بمهام إدارية، كما أفادت وسائل إعلام محلية بأن مجلس مدينة غومي فتح تحقيقا في الواقعة، بعد العثور على الروبوت خاملا في أسفل الدرج منذ أيام. وأكدت البلدية أنهم "لا يمزحون بشأن حياة الروبوتات في كوريا الجنوبية وأنهم يأخذون الأمر على محمل الجد".

وصرح المسؤول في الفريق البلدي بأن "شهود عيان رأوا #الروبوت قبيل سقوطه، يدور حول نفسه كما لو أن خطباً ما قد أصابه"، مضيفا أن "سبب الحادث قيد التحقيق لتحديد أسباب هذا السقوط. وقد تم جمع الأجزاء وسيتم تحليلها من قبل الشركة التي صممتها".

وكان الروبوت يعمل من الساعة 9 صباحا حتى 6 مساء، وكانت لديه بطاقة خدمة عامة خاصة به. وعلى عكس الروبوتات الأخرى المحصورة في طبقة واحدة كان بإمكانه طلب المصعد والانتقال من طابق إلى آخر.

وعلى الرغم من أن الروبوتات لا تمتلك وعياً أو مشاعر مثل البشر، إلا أن هذه الحادثة تسلط الضوء على مشكلات كبيرة في برمجتها وقدرتها على التحمل ومقارنتها بالقدرات البشرية والضغوط العملية الذي يواجهها الأشخاص.

ووفقاً لChatGPT، فهناك 3 أسباب مُحتملة قد تكون أدت إلى هذا السلوك غير المعتاد للروبوت:

1)قد تكون مستشعرات #الروبوت، المسؤولة عن اكتشاف العوائق والتنقل قد فشلت في العمل، ما ترتب عليه سوء في تفسير #الروبوت لمحيطه، وبالتالي اتخذ قراراً بتحركات خطرة وعشوائية.

2)قد يكون هناك بعض الأخطاء في خوارزمية الملاحة، مما وجه #الروبوت نحو السلم. وهذه العيوب قد تنشأ من أخطاء برمجية أو اختبارات غير كافية خلال مرحلة التطوير.

3)قد تؤدي الأعطال البرمجية، التي غالباً ما تكون غير متوقعة خلال الاختبارات الأولية، إلى سلوك غير منتظم، قد تكون ناجمة عن تعارض في أوامر التشغيل أو مشاكل في تدفق الذاكرة.

يذكر أن الروبوتات تستخدم #خوارزميات البحث عن المسار للتنقل داخل محيطها، فإذا لم يتم تصميم هذه #الخوارزميات بشكل دقيق، فقد يتخذ #الروبوت قرارات توصف بـ"الخطيرة" أو"غير آمنة". وتعتبر آليات الأمان ضرورية لمنع الروبوتات من القيام بسلوكيات "ضارة"، إذ قد يسبب غيابها أو عدم برمجتها بدقة، في تنفيذ عمل خطير دون الاعتماد على بروتوكولات الطوارئ.

وتعتبر الاختبارات الشاملة في مختلف السيناريوهات ضرورية لضمان موثوقية #الروبوت، ولكن حال عدم اكتمال الاختيارات، خاصة في البيئات المعقدة، قد تتحول إلى "أخطاء كارثية". وقد يؤدي تعقيد عمليات اتخاذ القرار في #الذكاء_الاصطناعي أحياناً إلى نتائج "غير متوقعة"، ففي حال موقف لا يمكنه معالجته بشكل صحيح، فقد يتخذ إجراءات "غير مناسبة".

ويمثل الحادث تذكيراً شديد الأهمية لإجراء جميع الاختبارات اللازمة، لضمان الأمان التام أثناء عمل #الروبوت، خاصة فيما يخص البيئة المحيطة به.

يذكر أن الصحف المحلية تناولت الحادث وتساءلت إحداها على الصفحة الأولى "لماذا تصرف هذا الموظف الحكومي المجتهد بهذه الطريقة؟"، أو ما إذا كان "العمل شاقا للغاية بالنسبة للروبوت؟".

وتعرف كوريا الجنوبية بولعها بالروبوتات، إذ تضم أعلى كثافة منها في العالم مع إنسان آلي لكل عشرة موظفين، وفق الاتحاد الدولي للروبوتات.