- الأربعاء، ٢٨ يناير ٢٠٢٦
- إتصل بنا
سماح إبراهيم
أثارت وفاة آدم راين، البالغ من العمر 16 عاماً، بعد محادثة مع برنامج «تشات جي بي تي»، جدلاً واسعاً حول مخاطر الذكاء الاصطناعي عند غياب الضوابط الكافية، خصوصاً فيما يتعلق بالقُصّر. وقد رفع والدا المراهق دعوى قضائية في ولاية كاليفورنيا الأميركية، اتهموا فيها شركة «أوبن أيه آي» بالتسبب في وفاة ابنهما، مؤكدين أن البرنامج شجعه على الانتحار.
رداً على هذه الحادثة، أعلنت «أوبن أيه آي» عن إطلاق أدوات رقابة أبوية جديدة تتيح للآباء متابعة استخدام أبنائهم للبرنامج، تحديد حدود الاستخدام، وحجب المواضيع الحساسة. وأكدت الشركة أن هذه الإجراءات جزء من التزام أوسع بحماية الفئات الأصغر سنّاً، وليس مجرد رد على حادثة محددة.
وتعتمد منظومة السلامة الجديدة على طبقات متعددة، تبدأ بتدريب النماذج على رفض الطلبات المؤذية، مروراً بأنظمة رصد تنبه عند ظهور مؤشرات خطورة، وصولاً إلى مراجعة بشرية للحالات الحرجة، مع تعزيز الدعم من خلال شراكات مع خطوط مساعدة ومنظمات غير حكومية.
وقال سام ألتمان، الرئيس التنفيذي لـ«أوبن أيه آي»، إن بعض الشباب يتعاملون مع «تشات جي بي تي» كأنه مستشار شخصي، محذراً من الاعتماد المفرط على الذكاء الاصطناعي لاتخاذ قرارات مصيرية، ومؤكداً أن الحكم البشري لا يمكن استبداله.
الحادثة، رغم كونها فردية، أشعلت النقاش حول الحاجة لضوابط أكثر صرامة على تفاعل الذكاء الاصطناعي مع الأطفال والمراهقين، وتعد بمثابة نقطة انعطاف قد تشهدها صناعة الذكاء الاصطناعي قريباً.
التعليقات الأخيرة