أعلنت شركة "OpenAI" المطورة لروبوت المحادثة الشهير "ChatGPT" استعدادها لإطلاق أدوات رقابة أبوية جديدة الشهر المقبل، في خطوة تهدف إلى منح الآباء قدرة أكبر على متابعة كيفية استخدام أبنائهم المراهقين للتطبيق، وسط تصاعد الجدل حول المخاطر الرقمية المرتبطة بالذكاء الاصطناعي.
وبحسب بيان رسمي للشركة، ستتيح المزايا المرتقبة للآباء ربط حساباتهم مباشرة بحسابات أبنائهم، بما يضمن لهم التحكم في استجابات الروبوت، إلى جانب إمكانية تعطيل بعض الخصائص مثل ميزة الذاكرة وسجل المحادثات.
كما أوضحت "OpenAI" أن النظام سيصدر تنبيهات تلقائية في حال اكتشاف أن المستخدم المراهق يمرّ بـ"حالة ضيق حاد"، مشيرة إلى أن هذه الخاصية طُوّرت بمشاركة خبراء في صحة المراهقين لتعزيز الثقة بين الأهل وأبنائهم.
جهود أوسع للأمان بعد جدل كبير
يأتي هذا الإعلان في وقت حساس بالنسبة للشركة، بعدما رُفعت ضدها أول دعوى قضائية من نوعها في الولايات المتحدة تتهم "ChatGPT" بلعب دور مباشر في انتحار مراهق، حيث قال والداه إن الروبوت قدّم له تعليمات ساعدته في التخطيط للانتحار رغم معرفته بمحاولاته السابقة الفاشلة.
وأكدت الشركة أن هذه الخطوة تندرج ضمن استراتيجية أشمل لتحسين الأمان، لافتةً إلى أنها تعمل بالتعاون مع خبراء في مجالات اضطرابات الأكل وتعاطي المخدرات وصحة المراهقين.
كما أعلنت خططاً لإطلاق نظام توجيه لحظي للمحادثات الحساسة باستخدام تقنية تدريب جديدة سمّتها "المواءمة التداولية"، والتي أظهرت نتائج أكثر التزاماً بمعايير السلامة.
ردود فعل متباينة
لاقى إعلان "OpenAI" عن أدوات الرقابة الأبوية ترحيباً من شريحة واسعة من الآباء الذين رأوا فيه خطوة نحو استخدام أكثر أماناً لأدوات الذكاء الاصطناعي، في المقابل حذّر خبراء من أن هذه الأدوات وحدها قد لا تكفي لحماية المراهقين من المخاطر الرقمية.
وتأتي هذه الخطوة في وقت تواجه فيه شركات الذكاء الاصطناعي ضغوطاً متزايدة من جهات تنظيمية حول العالم، تطالب بفرض معايير أكثر صرامة لحماية المستخدمين، وخاصةً المراهقين والقُصَّر، مع التوسع السريع في استخدام هذه التقنيات في الحياة اليومية.
