بعد جدل واسع.. Character.ai تحظر محادثات المراهقين مع روبوتاتها الذكية!

[إسحق القس افرام]

أعلنت منصة روبوتات الدردشة المدعومة بالذكاء الاصطناعي Character.ai عن منع المستخدمين دون سن 18 عاماً من إجراء محادثات مباشرة مع الشخصيات الافتراضية، بدءاً من 25 نوفمبر (تشرين الثاني) المقبل، بعد تعرضها لانتقادات واسعة ومقاضاة قضائية في الولايات المتحدة بشأن تفاعلات المراهقين على المنصة.
وقالت الشركة، التي تأسست عام 2021 ويستخدمها الملايين حول العالم، إن المراهقين سيقتصر استخدامهم على إنشاء محتوى مثل مقاطع الفيديو مع الشخصيات، بدلًا من الدردشة المباشرة، مشيرة إلى أن التغييرات تأتي استجابة لتعليقات الجهات التنظيمية وخبراء السلامة وأولياء الأمور.
وحذّر خبراء سابقاً من أن روبوتات الدردشة قد تشكل خطراً على الشباب، سواء عبر محاكاة التعاطف بشكل مضلل، أو تشجيع السلوكيات المفرطة، أو ابتكار محتوى غير مناسب.
وأكد الرئيس التنفيذي للشركة، كارانديب أناند، أن هدف Character.ai هو بناء منصة ذكاء اصطناعي آمنة للترفيه، مع تعزيز أدوات الرقابة الأبوية وحواجز الحماية.
ورحبت مؤسسات معنية بسلامة الإنترنت، مثل Internet Matters، بالإجراء، لكنها أشارت إلى ضرورة تضمين تدابير السلامة منذ البداية، بعد حوادث سابقة على المنصة شملت روبوتات تمثل شخصيات حقيقية توفيت، مثل المراهقتين بريانا غي ومولي راسل، وروبوت آخر يمثل جيفري إبستين.
وأكد خبراء وسائل التواصل الاجتماعي أن القرار يمثل تحذيراً لصناعة الذكاء الاصطناعي حول ضرورة التنظيم والمسؤولية، مشيرين إلى أن التأثير العاطفي للتكنولوجيا على المستخدمين الشباب لا يقتصر على تسريب المحتوى، بل على كيفية محاكاة روبوتات الذكاء الاصطناعي للعلاقات العاطفية.
وأشار الرئيس التنفيذي للشركة إلى أن التركيز الجديد سينصب على اللعب الإبداعي والسرد القصصي الآمن، مع اعتماد أساليب تحقق من العمر وتمويل أبحاث إضافية لسلامة الذكاء الاصطناعي.
واعتبرت الدكتورة نوميشا كوريان أن الخطوة تعد مرحلة نضج في الصناعة، حيث باتت سلامة الأطفال أولوية رئيسية للابتكار المسؤول.