يتعامل عمالقة التكنولوجيا، ومنهم Google ، مع طوفان متزايد من مقاطع الفيديو والصور اللاأخلاقية المتعلقة بالإساءة للأطفال على منصاتهم. كما اكتشفت Apple مؤخراً، من الصعب حل هذه المعضلة الأخلاقية. حيث يتم التضحية بخصوصية المستخدمين مقابل حماية الأطفال من تحولهم لسلعة والمتاجرة بصورهم بطرق دنيئة. وفقاً لـ Forbes فإن أكبر شركات وادي السيليكون تحاول العثور على الصور ومقاطع الفيديو الفاضحة و رسوم كاريكاتير المسيئة للأطفال دون السن القانونية ومحوها من خوادمها.
يؤدي انتشار جمع البيانات ومعالجتها ونشرها إلى مخاوف على خصوصية الأفراد. قد يتسبب تسرب المعلومات بضرر مادي أو نفسي على الأفراد. كاستغلال هذه المعلومات عن طريق شركات الإعلان لبناء ملفات التعريف والتأثير على المستخدمين. أو إذا تحدثنا على نطاق واسع ، يمكن استخدام هذه المعلومات للتأثير على المجتمع ككل. أحد الأمثلة الهامة على الجهود للحفاظ على الخصوصية هو المبادئ والقواعد المرتبطة بـالتشريع الأوروبي لحماية البيانات GDPR.
دائماً جدل بين المدافعين عن الخصوصية و منفذي القانون. السبب هو فكرة إضافة أبواب خلفية backdoors لتسهيل إنفاذ القانون. إن هذه الأبواب تضعف أمن أنظمة الحفاظ على الخصوصية حيث يمكن استغلالها من قبل الجهات الخبيثة لتقويض حقوق المستخدمين.
خصوصية و مسؤولية
هذا النوع من المحتوى المتعلق بالأطفال غير قانوني بموجب قانون الولايات المتحدة ويمكن اكتشافه بواسطة أنظمة Google للمواد المسيئة للأطفال. أقرت Google منذ فترة طويلة أن الكود الخاص بها يمكن أن يبحث عن إساءة معاملة الأطفال باستخدام تقنيتين. الأول هي استخدام برنامج من تصميم YouTube يبحث عن “hashes” المحتوى غير القانوني المعروف سابقاً. مما يعني أنه يتم فحص الملفات داخل بريد Gmail الإلكتروني مثلاً. و من ثم ستتم وضع علامة إذا كان هناك ملف به نفس الـ hashes مثل الصورة أو الفيديو الغير مشروع. وتستخدم Google أيضاً أدوات التعلم الآلي للنظر في الملفات وتحليلها بحثًا عن أي علامة تشير إلى أن الأطفال تعرضوا لسوء المعاملة.
ليس من الواضح أي من هاتين التقنيتين تم استخدامه في أواخر عام 2020 في Kansas. حينها اكتشفت Google “فناً رقمياً أو رسوماً متحركة تصور أطفالأً بوضعية لا أخلاقية داخل حساب Drive. وفقًا لمتطلباتها القانونية ، سلمت Google معلومات حول ما وجدته ، بالإضافة إلى عناوين IP المستخدمة للوصول إلى الصور ، إلى المركز الوطني للأطفال المفقودين والمستغلين. والذي قام بعد ذلك بنقل النتائج إلى وزارة الأمن الداخلي.استخدم المحققون عناوين IP التي قدمتها Google للتعرف على المشتبه به على أنه المالك المزعوم للرسوم المتحركة. ثم فتشوا حسابه على Google ، وتلقوا معلومات حول رسائل البريد الإلكتروني من وإلى المدعى عليه.
Google على خطى Apple
لكن القانون المتعلق بالصور الكارتونية -cartoon- تمت صياغته لتوفير بعض الحماية لأي شخص يشارك الرسوم المتحركة لأطفال يمارسون سلوكاً فاضحاً من أجل الفن أو العلم. يجب على المدعي العام الذي يحاول إدانة أي شخص يمتلك مثل هذه المواد إثبات أن الصور ذات الصلة كانت “فاحشة” أو تفتقر إلى “القيمة الأدبية أو الفنية أو السياسية أو العلمية الجادة”.
دائماً ما تثار حول خطط Apple لمسح صور iPhone بحثًا عن محتوى مسيء للأطفال. أعتبر البعض هذه الخطوة تعرض خصوصية المستخدم للخطر. وتم تسليط الضوء على كيفية تعامل عمالقة التكنولوجيا الآخرين مع هذه المشكلة. إن Google لا تقوم بتشفير أدوات اتصالاتها من طرف إلى طرف مثل Gmail أو تقنية تخزين الملفات مثل Drive. لذلك، لا يزال بإمكان شركة التكنولوجيا البحث عن محتوى غير قانوني. نظراً لعدم وجود خطط لإدخال هذه الميزات ، لا يزال بإمكان السلطات الاعتماد على Google لتحذيرها عند حدوث إساءة استخدام على خوادمها.
يعتقد روبودين أن جهود Google في فحص حسابات الأشخاص هي مهمة جداً حتى يتمكن من المساعدة في العثور على المعتدين على الأطفال. و لكن هناك من يريد تحسين الخصوصية من خلال التشفير من طرف إلى طرف بدلاً من ذلك. و بالتالي سيصبح إيجاد المحتوى المسيء و ردع أصحابه صعباً إن لم نقل مستحيلاً.
