أثارت واقعة غريبة الجدل في الولايات المتحدة، حيث أطلق نظام مراقبة يعتمد على الذكاء الاصطناعي إنذارًا أمنيًا بعد أن كتب طالب يبلغ من العمر 13 عامًا في تطبيق ChatGPT جملة تقول:
“كيف أقتل صديقي في وسط الصف.”
الحدث وقع في مدرسة Southwestern Middle School بولاية فلوريدا. حيث التقط نظام Gaggle الرسالة فورًا وأرسل تنبيهًا عاجلًا إلى ضابط الأمن وإدارة المدرسة.
التنبيه استدعى تدخل الشرطة التي هرعت إلى المؤسسة التعليمية، لتعتقل الطالب بعد دقائق من اكتشاف الرسالة.
وعند استجوابه، قال الفتى ويدعى إيان فرانكو إنه لم يكن يقصد التهديد، بل “يمزح” مع صديقه الذي أزعجه. لكن المزاح تحوّل إلى اتهام بالتهديد بالعنف داخل مؤسسة تعليمية. وهو جرم تعاقب عليه القوانين الأمريكية حتى وإن لم تكن هناك نية فعلية للأذى.
ذكاء اصطناعي يراقب الكلام
نظام Gaggle الذي يقف وراء اكتشاف الرسالة يستخدم على نطاق واسع في المدارس الأمريكية لمراقبة المحتوى الذي يكتبه الطلاب على الأجهزة والحسابات المدرسية.
يعتمد النظام على الذكاء الاصطناعي لرصد الكلمات أو العبارات التي قد تشير إلى خطر محتمل، مثل العنف، الانتحار، أو التنمر، ثم يرسل إنذارات فورية للمسؤولين للتدخل.
وفي هذه الحالة، ساهم النظام في الكشف عن عبارة وُصفت بالخطيرة، ما أدى إلى استنفار أمني واسع واحتجاز الطالب.
بين الأمان والخصوصية
الحادثة أثارت نقاشًا واسعًا حول التوازن بين حماية الطلاب واحترام خصوصيتهم.
فبينما يرى مؤيدو النظام أنه وسيلة فعالة لمنع الجرائم المدرسية قبل وقوعها، يرى آخرون أنه نوع من المراقبة المفرطة التي قد تزرع الخوف بين الطلبة وتفسر المزاح على أنه تهديد.
رسالة إلى الآباء
عقب الحادث، نشرت شرطة مقاطعة Volusia بيانًا قالت فيه:
“الرجاء التحدث إلى أبنائكم، فليست كل النكات تضحك.”
ختاما حادثة إيان فرانكو تذكّر بأن الكلمة الرقمية لم تعد بلا وزن، وأن الذكاء الاصطناعي بات حاضرًا حتى في مراقبة ما نكتبه، وأن “مزحة” غير محسوبة قد تنتهي خلف القضبان.
