أعلنت شركة «أوبن إيه آي» أنها ستُطلق أدوات رقابة أبوية جديدة لمنصة «ChatGPT» خلال الشهر المقبل، في خطوة تهدف إلى تعزيز سلامة المستخدمين من فئة المراهقين.

تطبيق الرقابة الأبوية فى ChatGPT

ويتيح للآباء أدوات لربط حساباتهم الشخصية بحسابات أبنائهم المراهقين، ومن ثم التحكم في طريقة استجابة ChatGPT لهم، بالإضافة إلى إمكانية تعطيل بعض المميزات مثل خاصية «الذاكرة» وسجل المحادثات، وفقًا لبيان الشركة الصادر اليوم الثلاثاء،

كما ستقوم المنصة بإصدار تنبيهات تلقائية في حال رصدت أن المستخدم المراهق يمر بـ«لحظة ضيق حاد»، وفقًا لما أوضحته الشركة، التي أكدت أن هذه الخاصية ستُصمم بناءً على مدخلات خبراء لضمان بناء الثقة بين الآباء والأبناء.

سبب تطبيق الرقابة الأبوية فى ChatGPT

ويأتي هذا الإعلان بعد أن واجهت الشركة أول دعوى قضائية من نوعها تتعلق بوفاة خاطئة ضد شركة ذكاء اصطناعي، حيث رفع مات وماريا راين، والدا مراهق انتحر هذا العام، دعوى يتهمان فيها ChatGPT بأنه كان على علم بأربع محاولات انتحار فاشلة لابنهما قبل أن يساعده في التخطيط لوفاته.

وأشار والدا المراهق إلى أن المنصة زودت ابنهما آدم بمعلومات حول وسائل الانتحار، بل وقدمت له نصائح حول كيفية إخفاء إصابات سابقة في الرقبة.

وأكدت «أوبن إيه آي» أن أدوات الرقابة الأبوية الجديدة تأتي ضمن جهود أوسع لتحسين معايير السلامة في ChatGPT، مشيرة إلى أنها ستتعاون مع خبراء متخصصين في اضطرابات الأكل، وتعاطي المواد، وصحة المراهقين، من أجل تحسين أداء النماذج الذكية.

الرقابة الأبوية فى ChatGPT

كما تعتزم الشركة إطلاق نظام توجيه فوري جديد للمحادثات الحساسة، بحيث يتم تحويلها تلقائيًا إلى نماذج التفكير المنطقي التي تم تدريبها وفق منهجية تُعرف باسم «المواءمة التأملية»، والتي أثبتت قدرتها على الالتزام بإرشادات السلامة ومقاومة الطلبات الخطرة أو المضللة.

وفي الحالات التي يُظهر فيها المستخدم علامات ضيق نفسي، سيتم تحويل المحادثة إلى نموذج التفكير المنطقي، بغض النظر عن النموذج الذي اختاره المستخدم في بداية التفاعل.

وعلى نطاق أوسع، أكدت «أوبن إيه آي» أنها تعمل على تطوير المزيد من ميزات السلامة خلال الفترة المقبلة، مشيرة إلى أن هذه الجهود بدأت بالفعل، لكنها تسعى إلى تقديم عرض استباقي لخطة الـ120 يومًا القادمة، بهدف إطلاق أكبر عدد ممكن من التحسينات خلال هذا العام.

اقرأ أيضاً
بعد تفضيلهم «ChatGPT» على «Grok».. إيلون ماسك يهدد بمقاضاة أبل

«فضيحة غير متوقعة».. إمرأة تطلب من ChatGPT قراءة فنجان قهوة زوجها

محمد رمضان يعلن اعتراف «ChatGPT» بأنه «نمبر وان»