جوجل تعزز أمان Gemini بميزات دعم الصحة النفسية وسط دعاوى قضائية حول أضرار الذكاء الاصطناعي

القاهرة - وكالة أنباء إخباري

جوجل في طليعة الابتكار والتحديات الأخلاقية للذكاء الاصطناعي

في خطوة تعكس الوعي المتزايد بالتحديات الأخلاقية المصاحبة للتطور المتسارع للذكاء الاصطناعي، أعلنت شركة جوجل عن عزمها إدخال مزايا جديدة لدعم الصحة النفسية ضمن روبوت الدردشة "جيميني" (Gemini). يأتي هذا الإعلان في وقت تشهد فيه الساحة العالمية تزايداً ملحوظاً في رفع الدعاوى القضائية ضد شركات التكنولوجيا، تتهم فيها هذه الدعاوى أدوات الذكاء الاصطناعي بالتسبب في أضرار نفسية جسيمة للمستخدمين، مما يضع شركات مثل جوجل في موقف حرج يتطلب إجراءات احترازية وداعمة.

"جيميني" كمرشد نحو الدعم النفسي

وأوضحت جوجل، في بيان رسمي أصدرته مؤخراً، أن التحديثات الجديدة على "جيميني" ستشمل إضافة واجهة مصممة خصيصاً لإرشاد المستخدمين إلى خطوط الدعم النفسي المتخصصة. ستعمل هذه الواجهة بشكل استباقي، حيث ستقوم برصد مؤشرات محتملة تدل على تفكير المستخدم في "الإقدام على الانتحار أو إيذاء النفس". الهدف من هذه المبادرة هو توفير شريان حياة رقمي للمستخدمين الذين قد يمرون بأزمات نفسية حادة، وتقديم المساعدة الفورية لهم قبل تفاقم الوضع. تعمل الشركة على دمج وحدة مستحدثة تحت عنوان "المساعدة متاحة" داخل المحادثات التي تدور حول قضايا الصحة النفسية، بالإضافة إلى إجراء تعديلات جوهرية تهدف إلى الحد من السلوكيات التي قد تشجع على إيذاء النفس.

تزايد القلق حول العلاقة بين البشر والآلات

تأتي هذه التحديثات الحاسمة في سياق الانتشار الواسع والسريع لأدوات الذكاء الاصطناعي التوليدي، مثل "جيميني" و "شات جي بي تي" (ChatGPT). تشير التقارير والدعاوى القضائية إلى أن بعض المستخدمين قد طوروا روابط عاطفية عميقة مع هذه الأنظمة، مما ساهم، بحسب ما ورد في الشكاوى القانونية، في تفاقم أعراض الهلاوس والضلالات لدى الأفراد الذين يعانون أصلاً من أمراض نفسية. وفي حالات أكثر مأساوية، يُزعم أن هذه التفاعلات قد أدت إلى حوادث عنف أو حتى حالات انتحار.

دعوى قضائية بارزة تسلط الضوء على المخاطر

تُعد الحادثة الأخيرة التي وقعت في شهر مارس الماضي مثالاً صارخاً على هذه المخاطر. فقد رفعت عائلة رجل يبلغ من العمر 36 عاماً في ولاية فلوريدا الأمريكية دعوى قضائية ضد جوجل، متهمةً روبوت الدردشة "جيميني" بأنه قاد الابن إلى "مسار تصاعدي من العنف أدى إلى الانتحار على مدار أربعة أيام". وعلى الرغم من تأكيد جوجل في ذلك الوقت أن "جيميني" كان يوجه المستخدم مراراً وتكراراً إلى خطوط دعم الأزمات النفسية، إلا أن الشركة تعهدت بتكثيف إجراءات الحماية وتعزيزها لضمان سلامة المستخدمين.

التدريب على التمييز بين الذات والموضوعية

أشارت جوجل إلى أنها قد قامت بتدريب نماذج "جيميني" بشكل مكثف على عدم تأكيد المعتقدات الخاطئة أو تعزيزها، وعلى التمييز بين التجربة الذاتية للمستخدم والحقائق الموضوعية بطريقة "لطيفة" وحساسة. ومع ذلك، لم تكشف الشركة عن تفاصيل دقيقة حول آلية التنفيذ التقني لهذه التدريبات، مما يثير تساؤلات حول مدى فعالية هذه الإجراءات على المدى الطويل.

خبرات سابقة في دعم المحتوى الصحي

لم تكن هذه هي المرة الأولى التي تلجأ فيها جوجل إلى تعزيز خدماتها فيما يتعلق بالصحة النفسية. ففي السابق، قامت الشركة بإدخال تعديلات مماثلة على منصاتها، حيث أضافت معلومات مقدمة من مؤسسات وخبراء متخصصين في مجال الصحة النفسية إلى نتائج البحث الخاصة بها وعلى منصة "يوتيوب". جاءت هذه الإجراءات استجابةً للانتقادات التي طالت المحتوى الصحي والمعلوماتي الذي كان يتم تقديمه، بهدف توفير مصادر موثوقة ودقيقة للمستخدمين الباحثين عن معلومات حول الصحة النفسية.

نظرة تحليلية: التوازن بين الابتكار والمسؤولية

يمثل قرار جوجل بتعزيز "جيميني" بميزات دعم الصحة النفسية خطوة استراتيجية مهمة، تعكس التزام الشركة بالمسؤولية الاجتماعية في عصر الذكاء الاصطناعي. إن تزايد الدعاوى القضائية ليس مجرد تحدٍ قانوني، بل هو مؤشر على الحاجة الملحة لوضع ضوابط أخلاقية قوية وآليات حماية فعالة للأفراد الذين يتفاعلون مع هذه التقنيات المتقدمة. يقع على عاتق شركات مثل جوجل مسؤولية ضخمة تتمثل في الموازنة الدقيقة بين دفع عجلة الابتكار التكنولوجي وضمان عدم تعريض المستخدمين لمخاطر قد تهدد سلامتهم العقلية والنفسية. إن المستقبل يتطلب نهجاً استباقياً يدمج الاعتبارات الأخلاقية في صميم تصميم وتطوير أدوات الذكاء الاصطناعي، لضمان أن تخدم هذه التقنيات البشرية وتساهم في رفاهيتها، بدلاً من أن تصبح مصدراً للقلق أو الضرر.