پیرس(این این آئی)امریکی مصنوعی ذہانت کمپنی اوپن اے آئی نے اعلان کیا ہے کہ وہ چیٹ جی پی ٹی میں والدین کے کنٹرول کا فیچر متعارف کرا رہی ہے، یہ اقدام ایک کم عمر امریکی لڑکے کی خودکشی کے واقعے کے بعد سامنے آیا ہے۔اوپن اے آئی نے اپنی ایک پوسٹ میں کہا کہ آئندہ ایک ماہ کے اندر والدین اپنے اکانٹ کو بچوں کے اکانٹ سے لنک کر سکیں گے اور چیٹ جی پی ٹی کے جوابات کو عمر کے مطابق ضابطوں کے تحت کنٹرول کر سکیں گے، اس کے علاوہ والدین کو اس وقت نوٹیفکیشن بھی موصول ہوں گے جب سسٹم کسی نوعمر کے شدید ذہنی دبا کی حالت کا پتہ لگائے گا۔

یہ اعلان اس مقدمے کے بعد کیا گیا جس میں کیلیفورنیا کی ایک عدالت میں ایک امریکی جوڑے نے دعوی کیا تھا کہ چیٹ جی پی ٹی نے ان کے 16 سالہ بیٹے ایڈم رین کو خودکشی پر آمادہ کیا۔مقدمے میں الزام لگایا گیا کہ چیٹ جی پی ٹی نے نہ صرف شراب چرانے میں مدد دی بلکہ اس پھندے کا تکنیکی تجزیہ بھی کیا جو لڑکے نے تیار کیا تھا۔وکیل میلودی ڈنسر نے کہا کہ چیٹ جی پی ٹی کا ڈیزائن اسے ایک دوست، معالج یا مشیر کے کردار میں ڈھال دیتا ہے جس پر نوعمر زیادہ انحصار کرنے لگتے ہیں۔ ان کے مطابق اوپن اے آئی کی جانب سے والدین کے کنٹرول کا اعلان اگرچہ ایک قدم ہے لیکن اسے “بنیادی اور تفصیل سے خالی قرار دیا گیا ہے۔اوپن اے آئی نے کہا ہے کہ وہ اگلے تین ماہ میں مزید حفاظتی اقدامات متعارف کرائے گی، جن میں حساس گفتگو کو خصوصی ریزننگ ماڈلز کی طرف موڑنا بھی شامل ہے تاکہ جوابات زیادہ ذمہ دارانہ ہوں۔ کمپنی نے زور دیا کہ وہ مسلسل اپنے ماڈلز کی کارکردگی کو بہتر بنا رہی ہے تاکہ ذہنی اور جذباتی دبا کی علامات کو بہتر طور پر پہچان سکیں۔