حذر باحثون من جامعة كامبريدج من أن ما يسمى بـ "روبوتات الحزن" أو "روبوتات الموت"، التى تحيى ذكرى أحد أحبائك المتوفين رقميا، يمكن أن تسبب ضررًا نفسيًا، حيث قال الدكتور توماس هولانيك، الباحث المشارك: "تخاطر هذه الخدمات بالتسبب في معاناة كبيرة للأشخاص إذا تعرضوا لمطاردات رقمية، انصح المستخدمين أن يفكروا مرتين قبل استخدام الذكاء الاصطناعى لإحياء أحبائهم المتوفين رقميا.
ووفقا لما ذكرته صحيفة "ديلى ميل" البريطانية، فحص علماء الأخلاق في مركز ليفرهولم لمستقبل الذكاء في كامبريدج ثلاثة سيناريوهات افتراضية من المحتمل أن تظهر كجزء من "النسخ الرقمية للمتوفين" سريعة النمو.
يحذر الباحثون من أنه يمكن استخدام الروبوتات للإعلان خلسة عن منتجات، ويمكن أن يضايقوا الأطفال من خلال الإصرار على أن أحد الوالدين المتوفى لا يزال "معك"، وكذلك يمكن استخدام نسخة المتوفيين لإرسال رسائل غير مرغوب فيها إلى أفراد العائلة والأصدقاء الباقين على قيد الحياة من خلال رسائل تذكير وتحديثات حول الخدمات التي يقدمونها، وهو سيناريو يصفونه بأنه "مطاردة من قبل الموتى الرقميين".
ويضيفون أن الراحة الأولية للوجه المألوف للشخص المحبوب قد تصبح مرهقة عاطفياً، تشمل المنصات الحالية التي تقدم خدمة نسخ المتوفين الرقمية Project Dec وHereafter.
وحصلت مايكروسوفت، في يناير 2021، على براءة اختراع لروبوت الدردشة الذي يمكنه استخدام بيانات الشخص "للرد مثل شخص تعرفه".
وقالت الدكتورة كاتارزينا نوفاكزيك باسينسكا، الباحثة المشاركة في الدراسة: "التقدم السريع في الذكاء الاصطناعي التوليدي يعني أن أي شخص تقريبًا لديه إمكانية الوصول إلى الإنترنت وببعض المعرفة الأساسية يمكنه إحياء أحد أحبائه المتوفين".
وأضافت باسينسكا، "هذا المجال من الذكاء الاصطناعي هو حقل ألغام أخلاقي، من المهم إعطاء الأولوية لكرامة المتوفى، والتأكد من عدم المساس بها من خلال الدوافع المالية لخدمات الموت الرقمية".
وفي الوقت نفسه، قد يترك الشخص محاكاة الذكاء الاصطناعي كهدية وداع لأحبائه الذين ليسوا على استعداد لمعالجة حزنهم بهذه الطريقة.
أجمع الخبراء على أنه يجب حماية حقوق كل من الجهات المانحة للبيانات وأولئك الذين يتفاعلون مع خدمات الذكاء الاصطناعي بشكل متساوٍ.
ومن جانبه، قال الدكتور هولانيك: "قد يطور الناس روابط عاطفية قوية مع مثل هذه المحاكاة، الأمر الذي سيجعلهم عرضة بشكل خاص للتلاعب".
وأضاف، "نوصي ببروتوكولات التصميم التي تمنع استخدام النسخ الرقمية للموتى بطرق غير محترمة، مثل الإعلان أو التواجد النشط على وسائل التواصل الاجتماعي."