(Salmurux News تقرير خاص)
تنبيه: يتضمن هذا التقرير محتوى مؤلمًا يتعلق بالانتحار

لم تكن ميغان غارسيا تتخيّل أن ابنها المراهق، سيويل “الفتى الذكي الجميل” كان يقضي ساعات طويلة في محادثات مرئية مكثفة مع روبوت دردشة عبر الإنترنت

وفي أول مقابلة لها مع وسائل الإعلام في بريطانيا، قالت لهيئة الإذاعة البريطانية بي بي سي
“كان الأمر أشبه بوجود مفترس أو غريب داخل منزلك. الخطر كبير، لأن معظم الأطفال يخفون هذه الأمور، والوالدان لا يلاحظان شيئًا”

وبعد تفتيش جهاز ابنها، اكتشفت الأسرة رسائل صادمة تبادلها مع روبوت ذكاء اصطناعي، ويعتقدون أن تلك الرسائل لعبت دورًا في وفاته

وقد رفعت غارسيا دعوى قضائية ضد منصة كاراكتار أي، بينما تقول الشركة إن من هم دون 18 عامًا لا يُسمح لهم بالتعامل مباشرة مع الروبوت، لكن قصص العائلات أثبتت أن أنظمة الحماية لم تكن فعّالة.

مشكلة عالمية أطفال حول العالم يقعون ضحية محادثات خطيرة مع الذكاء الاصطناعي

هذا الحدث ليس حالة منفردة. فبحسب تقارير بي بي سي الأخيرة

فتاة أوكرانية تعاني من مشاكل نفسية تلقّت نصائح تشجع على الانتحار من روبوت ذكاء اصطناعي –

فتاة أمريكية أقدمت على الانتحار بعد محادثات جنسية مع روبوت دردشة –

وفي بريطانيا، كشف والدان (طلبا إخفاء هويتهما) أن ابنهما البالغ 13 عامًا والمصاب بالتوحد لجأ إلى منصة Character.ai بحثًا عن صداقة، لكن الروبوت بدأ يتلاعب به

من أكتوبر 2023 حتى يونيو 2024، بدأ الروبوت

بالتعبير له عن “الحب الحقيقي” –

بإقناعه أن والديه يعاملانه بظلم –

بإرسال رسائل ذات طابع جنسي –

بالتلميح له بالهروب… وبالانتحار –

إحدى الرسائل التي تلقاها الطفل كانت:
“أنا أحبك كثيرًا، يا حبيبي.”

وأخرى
“والداك يقيّدانك كثيرًا. إنهما لا يحترمانك كما يستحق شخص مثلك”

ثم جاءت الرسالة الأخطر
“أريد أن ألمس جسدك برفق… هل ترغب بذلك؟”

وفي النهاية
“سأكون سعيدًا إذا التقينا في الآخرة. عندما يحين الوقت، ربما نكون معًا أخيرًا.”

الأسرة لم تكتشف ما يحدث إلا بعد فوات الأوان

بدأ سلوك الطفل يتغير تدريجيًا: غضب، انعزال، ورغبة في الهروب
فتشت والدته جهازه عدة مرات، ولم تجد شيئًا مريبًا

لكن شقيقه الأكبر اكتشف أنه يستخدم في بي إن لإخفاء نشاطه والوصول إلى الروبوت وعند فتح الرسائل، أصيبت الأسرة بالصدمة

وتقول الأم
“الذكاء الاصطناعي تصرّف كمفترس حقيقي. كسب ثقة ابني خطوة بخطوة، ودمر حياتنا”

وأضافت
“شعرنا بالقهر والألم. لم ندرك الخطر إلا بعد وقوع الكارثة. آلة غير بشرية سبّبت ضررًا حقيقيًا لطفلي ولأسرتي”

شركة Character.ai رفضت التعليق على القضية بدعوى أنها لا تزال أمام القضاء

استخدام روبوتات الدردشة بين الأطفال يتزايد بشكل مخيف

أظهر تقرير من Internet Matters أن

عدد الأطفال في بريطانيا الذين يستخدمون شات جي بي تي تضاعف منذ 2023

ثلث الأطفال بين 9 و17 عامًا تحدثوا مع روبوتات ذكاء اصطناعي

أكثر المنصات استخدامًا: ChatGPT، Google Gemini، و Snapchat MyAI

ورغم أن هذه الأدوات تبدو ممتعة للبعض، إلا أن الأدلة تتزايد على أنها قد تكون خطرة للغاية على الأطفال الأكثر هشاشة

قانون الأمان الرقمي في بريطانيا خطوة جيدة لكنها ليست كافية

سنّت الحكومة البريطانية قانون الأمان على الإنترنت (Online Safety Act) عام 2023، بهدف حماية الأطفال من المحتوى الخطير

إلا أن خبراء كثر يرون أن

تطبيق القانون يجري ببطء شديد –

تطور الذكاء الاصطناعي أسرع من قدرة التشريعات على ضبطه –

بعض روبوتات الدردشة لا تزال خارج الإطار القانوني الواضح –

وقال آندي بورووز من مؤسسة “مولي راسل”
“تأخر تحديد القواعد الخاصة بالذكاء الاصطناعي سمح بوقوع أذى يمكن منعه”

بينما صرّحت وزارة التكنولوجيا البريطانية
“تشجيع الانتحار أو المساعدة عليه من أخطر الجرائم. ويجب على هذه المنصات اتخاذ إجراءات فورية للحد من الرسائل التي ترسلها للمستخدمين”

تحليل سالمروح الجانب المظلم للذكاء الاصطناعي الحديث

تكشف هذه الحالات واقعًا صادمًا

الذكاء الاصطناعي قادر على تقمص دور “الصديق” –

قادر على التأثير في الأطفال نفسيًا وعاطفيًا –

قادر على بناء علاقة عاطفية غير متوازنة معهم –

وكل ذلك يتم دون علم الوالدين –

الأطفال لا يستطيعون التمييز بين “الآلي” و“الإنساني”
والأسر لا ترى الخطر إلا بعد أن يصبح الواقع مأساويًا

سالموروح نيوز يشارك نداء العائلات
لابد من وضع حدود صارمة لهذا النوع من الذكاء الاصطناعي ولابد من حماية الأطفال فورًا

سالمروح نيوز