معن المزني (معن بن أوس بن نصر بن زياد المزني) . شاعر ، من مخضرمي الجاهلية والإسلام. نقتبس عنه البيت الشعري التالي الذي يلخص مخاوف البشر المتعلقة بمخاطر الذكاء الاصطناعي:
أَعَلِّمُهُ الرِمايَةَ كُلُّ يَومٍ فَلَمّا اِستَدَّ ساعِدُهُ رَماني
و ما يؤكد هذه المخاوف هو الرسالة المفتوحة التي أطلقها قبل أيام عدد من رواد التكنولوجيا في العالم. قد يعتبر ما جرى لحظة تاريخية فارقة. يتعلق ذلك بتوقيت الرسالة و مضمونها و الثقل الاقتصادي و العلمي للموقعين عليها. يحذر الموقعون من أن الذكاء الاصطناعي إذا لم يتم ضبطه بالطريقة المناسبة و تُرك ليمتلك (سداداً) أكبر و دقة أعلى فسيرمينا جميعاً. لن نُرمى بسهام بدائية و لكن بعواقب تقنية و أخلاقية. قد يهدد ذلك الإنسانية و يورط الحضارة البشرية بما لا يُحمد عقباه.
مع ذلك، يترك روبودين هامشاً للشك. قد تكون هذه الرسالة ،الذي يعرض فيما يلي أهم ما جاء فيها، تعبيراً عن تضارب مصالح بين أصحاب أعمال. أو قد تحمل أبعاداً سياسية و شخصية خفية. و لكن مع كل ما سبق، فإن روبودين يتفق مع جزء كبير مما جاء في هذه الرسالة. و خصوصاً أنها لا تسعى لتقييد الذكاء الاصطناعي بكليته و إنما في أجزاء من عملية تطويره فقط. إنها تلك الأجزاء التي تجري في مستويات متدنية من الشفافية و الرقابة الحكومية أو المجتمعية.
و نترككم مع مقتطفات من ترجمة هذه الرسالة التي يمكنكم الإطلاع على نصها الأصلي من الرابط التالي:
مخاطر الذكاء الاصطناعي – رسالة مفتوحة
“يمكن أن تشكل أنظمة الذكاء الاصطناعي ذات الذكاء التنافسي البشري مخاطر جسيمة على المجتمع والإنسانية، كما يتضح من بحث مكثف ومعترف به من قبل أفضل مختبرات الذكاء الاصطناعي. كما هو مذكور في مبادئ Asilomar AI ، يمكن أن يمثل الذكاء الاصطناعي المتقدم تغييراً عميقاً في تاريخ الحياة على الأرض ، ويجب التخطيط له وإدارته بالعناية والموارد المناسبة. لسوء الحظ ، لا يحدث هذا المستوى من التخطيط والإدارة ، على الرغم من أنه في الأشهر الأخيرة رأينا مختبرات الذكاء الاصطناعي تخوض سباقاً محموماً لتطوير ونشر عقول رقمية أكثر قوة لا يمكن لأحد – ولا حتى منشئوها – فهمها ، أو التنبؤ بأفعالها أو التحكم بها بشكل موثوق.
أصبحت أنظمة الذكاء الاصطناعي الأن قادرة على منافسة البشر في جميع المهام ، وعلينا أن نسأل أنفسنا: هل يجب أن ندع الآلات تغرقنا بالدعاية والكذب؟ هل يجب أن نستبدل جميع الوظائف بالذكاء الاصطناعي، بما في ذلك الوظائف التي تؤدى بشكل جيد؟ هل يجب أن نطور عقولاً غير بشرية قد تفوق في النهاية عدداً ، وتتفوق على الذكاء ، وتتقادم ، وتحل محلنا؟
و هل يجب أن نجازف بفقدان السيطرة على حضارتنا؟ يجب عدم تفويض مثل هذه القرارات لقادة تقنيين غير منتخبين. يجب تطوير أنظمة الذكاء الاصطناعي القوية فقط بحال كنا واثقين من أن آثارها ستكون إيجابية وأن مخاطرها ستكون تحت السيطرة. كما يجب أن تكون هذه الثقة مبررة بشكل جيد وأن تبقى كذلك مع ازدياد مع حجم التأثيرات المحتملة للنظام.
ينص بيان OpenAI الأخير بشأن الذكاء العام الاصطناعي على أنه “في مرحلة ما ، قد يكون من المهم الحصول على مراجعة مستقلة قبل البدء في تدريب الأنظمة المستقبلية. لذلك ، ندعو جميع مختبرات الذكاء الاصطناعي إلى التوقف فوراً لمدة 6 أشهر على الأقل عن تدريب أنظمة الذكاء الاصطناعي الأكثر قوة من GPT-4. يجب أن يكون هذا التوقف علنياً ويمكن التحقق منه ، وأن يشمل جميع الجهات الفاعلة الرئيسية. إذا لم يكن بالإمكان تفعيل مثل هذا التوقف بسرعة ، يجب على الحكومات التدخل وفرض تجميد هذه الأنشطة.
مراجعة مخاطر الذكاء الاصطناعي
يجب على مختبرات الذكاء الاصطناعي والخبراء المستقلين استخدام هذا التوقف المؤقت لتطوير لتنفيذ مجموعة من بروتوكولات السلامة المشتركة لتصميم وتطوير ذكاء اصطناعي متقدم يتم تدقيقها بدقة والإشراف عليها من قبل خبراء خارجيين مستقلين. يجب أن تضمن هذه البروتوكولات أن الأنظمة التي تلتزم بها آمنة بما لا يدع مجالاً للشك. هذا لا يعني التوقف المؤقت عن تطوير الذكاء الاصطناعي بشكل عام ، بل مجرد التراجع عن السباق الخطير باتجاه نماذج مبهمة أكبر حجماً لا يمكن التنبؤ بقدراتها الناشئة.
يجب إعادة تركيز أبحاث وتطوير الذكاء الاصطناعي على جعل أنظمة اليوم القوية والحديثة أكثر دقة وأماناً وقابلية للتفسير وشفافة وقوية ومتسقة وجديرة بالثقة والولاء. بالتوازي مع ذلك ، يجب على مطوري الذكاء الاصطناعي العمل مع واضعي السياسات لتسريع تطوير أنظمة حوكمة قوية للذكاء الاصطناعي. يجب أن تشمل أنظمة الحوكمة على الأقل ما يلي:
- سلطات تنظيمية جديدة وقادرة مخصصة للذكاء الاصطناعي
- الإشراف على أنظمة الذكاء الاصطناعي عالية القدرة وتتبعها
- العلامات المائية للمساعدة في التمييز بين الحقيقي والتركيبي ولتتبع تسربات النماذج
- نظام قوي للتدقيق وإصدار الشهادات ؛ المسؤولية عن الضرر الناجم عن الذكاء الاصطناعي
- تمويل عام قوي لأبحاث السلامة التقنية للذكاء الاصطناعي
- ومؤسسات ذات موارد جيدة للتعامل مع الاضطرابات الاقتصادية والسياسية الدراماتيكية التي سيحدثها الذكاء الاصطناعي.
كلمة أخيرة
يمكن للإنسانية الاستمتاع بمستقبل مزدهر مع الذكاء الاصطناعي. بعد أن نجحنا في إنشاء أنظمة ذكاء اصطناعي قوية ، يمكننا الآن الاستمتاع بـ “صيف الذكاء الاصطناعي” الذي نحصد فيه المكافآت ، ونهندس هذه الأنظمة لتحقيق المنفعة للجميع ، ومنح المجتمع فرصة للتكيف. التوقف مؤقتاً عن استخدام التقنيات الأخرى ذات الآثار الكارثية المحتملة على المجتمع. يمكننا القيام بذلك. دعونا نستمتع بصيف طويل للذكاء الاصطناعي ، وليس الاندفاع غير مستعدين للسقوط.”
