طرأ تحول دراماتيكي على مشهد الذكاء الاصطناعي في المؤسسات، حيث تضاعفت نسبة استخداماته بشكل مذهل. لم يؤد هذا الارتفاع إلى إعادة تشكيل العديد من الصناعات فحسب، بل أشعل أيضاً نقاشات عالمية حول تنظيم تقنيات الذكاء الاصطناعي. وفقاً لمنظمة التعاون والتنمية الاقتصادية (OECD)، هناك أكثر من 1000 تنظيم ومبادرة تتعلق بالذكاء الاصطناعي قيد النظر حالياً في 69 دولة. إن هذا الاعتماد السريع على الذكاء الاصطناعي يقدم تحديات كبيرة للمشرعين، ومجالس الإدارة، ومديري المخاطر، الذين يجب عليهم تحقيق التوازن بين الحاجة إلى سياسات تعزز تطوير الذكاء الاصطناعي والضرورة لضمان أن هذه الأنظمة موثوقة وعادلة وشفافة وآمنة.
الذكاء الاصطناعي – فرص و تحديات
يقدم دمج الذكاء الاصطناعي في العمليات التجارية العديد من الفوائد، خاصة في تعزيز الكفاءة واتخاذ القرارات. ومع ذلك، فإنه يثير أيضاً مخاوف جمة، خاصة فيما يتعلق بالأمان وخصوصية البيانات. تسلط نظرة عامة حديثة من Lakera الضوء على أنه بينما يعتقد 93% من محترفي الأمن أن الذكاء الاصطناعي يمكن أن يعزز الأمن السيبراني، فإن 77% من المؤسسات تشعر بعدم الاستعداد للدفاع ضد التهديدات المتعلقة بالذكاء الاصطناعي.
يبرز هذا الانفصال درجات الثقة المتفاوتة التي يمتلكها صناع القرار في المؤسسات تجاه تقنيات الذكاء الاصطناعي. على سبيل المثال، في تقرير ABBYY حول قياس ثقة الذكاء الاصطناعي، أشار 50% من المستجيبين الذين لا يثقون في الذكاء الاصطناعي إلى مخاوف تتعلق بالأمن السيبراني وانتهاكات البيانات، بينما أعرب 47% و38% ، على التوالي، عن قلقهم بشأن دقة تفسيرات ونماذج الذكاء الاصطناعي.
نظراً لهذه التحديات، فإن تنظيم تقنيات الذكاء الاصطناعي لتحقيق الثقة والموثوقية أمر أساسي للشركات والحكومات والمؤسسات في جميع أنحاء العالم. يواجه قادة المؤسسات مهمة شاقة تتمثل في التوازن بين الاستفادة من إمكانات الذكاء الاصطناعي وإدارة المخاطر الكامنة فيه. لمعالجة هذه التعقيدات، يمكن للمؤسسات أخذ أربعة الاعتبارات الرئيسة التالية بعين الاعتبار، لضمان أن تكون سياسات وممارسات الذكاء الاصطناعي لديها موثوقة ومتوافقة مع المعايير التنظيمية.
تنظيم تقنيات الذكاء الاصطناعي – بيانات عالية الجودة
يعتمد الذكاء الاصطناعي بشكل كبير على بيانات التدريب، التي يتم إنشاؤها في كثير من الأحيان دون إشراف بشري. يمكن أن يؤدي هذا الاعتماد إلى ثغرات كبيرة، خاصة عندما يتم إدخال معلومات قديمة أو غير منظمة في نماذج اللغة الكبيرة (LLMs). تؤدي هذه الممارسات إلى تحيزات، وعدم دقة، وحتى فرص لسرقة البيانات والتحيز.
لتخفيف هذه المخاطر، فإن تنظيم تقنيات الذكاء الاصطناعي يفرض على منظمات الأعمال البدء بتدقيق مستودعات بياناتها لتحديد الفجوات وعدم الدقة. إن إنشاء بروتوكولات واضحة لتنظيف البيانات وتنظيمها أمر ضروري لضمان أن المدخلات ذات جودة عالية. لا تعزز البيانات المتسقة والمنظمة بشكل جيد فقط فعالية نماذج الذكاء الاصطناعي، بل تدعم أيضاً تنفيذ تقنيات مثل “التوليد المعزز بالاسترجاع” (RAG). يكتسب RAG زخماً كطريقة فعالة من حيث التكلفة لتعزيز نماذج اللغة الكبيرة بالبيانات التنظيمية، مما يحسن من فائدتها وموثوقيتها.
التركيز على الشفافية
يمكن أن تؤدي القرارات المدفوعة بالذكاء الاصطناعي إلى تحيزات ضمن البيانات، مما قد يؤدي إلى التمييز وعدم المساواة. لمواجهة ذلك، يجب على منظمات الأعمال إعطاء الأولوية لتطوير أنظمة ذكاء اصطناعي قابلة للتفسير وشفافة. يتضمن ذلك تجميع فرق متنوعة لتقدم مجموعة واسعة من وجهات النظر خلال تصميم ونشر تقنيات الذكاء الاصطناعي.
لدعم تنظيم تقنيات الذكاء الاصطناعي، يعد تنفيذ فرق متعددة التخصصات لخدمة أخلاقيات الذكاء الاصطناعي، بما في ذلك إدارة مخاطر الخوارزميات وحوكمة البيانات، أمراً حيوياً. يجب على الشركات الاستثمار في أدوات تعزز الشفافية في الذكاء الاصطناعي، وتقليل التحيز، وإنشاء سجلات تدقيق، مما يمكّن أصحاب المصلحة من الثقة في حلول الذكاء الاصطناعي والتحقق من الامتثال. على سبيل المثال، يجب أن يكون المطورون قادرين على إنشاء واجهات تسمح للمستخدمين بفهم قرارات الذكاء الاصطناعي، خاصة في القطاعات الحساسة مثل الرعاية الصحية والمالية.
علاوة على ذلك، يمكن للمؤسسات تعزيز المساءلة من خلال إنشاء أطر لتحديد وتخفيف التحيز، وإجراء تدقيقات منتظمة. وقد أصبحت التدقيقات الخارجية، مثل تلك التي تجريها ForHumanity، وسيلة شائعة لتقديم تقييمات محايدة لأنظمة الذكاء الاصطناعي وفقاً لمعايير إدارة المخاطر الصارمة.
تنظيم تقنيات الذكاء الاصطناعي – الإشراف البشري
يجب أن يكمل الذكاء الاصطناعي القدرات البشرية بدلاً من استبدالها، خاصة في المجالات الحرجة مثل إدارة الأمن. يعد الإشراف البشري أمراً أساسياً لضمان توافق أنظمة الذكاء الاصطناعي مع المعايير الأخلاقية والقيم المجتمعية. بدون تدخل بشري، يمكن أن ترتكب أنظمة الذكاء الاصطناعي أخطاءاً، وتظهر تحيزات، ويُساء استخدامها، مما يؤدي إلى مشكلات خطيرة في الأمان والخصوصية.
يجمع ” (HITL) -Human-in-the-Loop، تضمين الإنسان، بين المدخلات البشرية والتعلم الآلي لتحسين دقة وموثوقية أنظمة الذكاء الاصطناعي. يمكن للمنظمات دمج HITL في مراحل مختلفة، بما في ذلك التدريب، حيث يقوم البشر بتحديد بيانات التدريب لضبط الخوارزميات، والاختبار، حيث يقدم البشر تعليقات على أداء النموذج، أو اتخاذ القرار، حيث يقوم البشر بمراجعة وتأكيد المحتوى الذي تم الإشارة إليه بواسطة الذكاء الاصطناعي.
لتنفيذ (HITL) بشكل فعال، يجب على المنظمات دمج الإشراف البشري في مراحل التدريب والاختبار والنشر والصيانة. تحتاج الفرق إلى تحديد بيانات التدريب، وتوفير تعليقات مستمرة، والتحقق من مخرجات الذكاء الاصطناعي لتعزيز دقة النظام وموثوقيته.
من الضروري أيضاً تعليم الموظفين حول أخلاقيات الذكاء الاصطناعي، والمتطلبات التنظيمية، وأفضل الممارسات. يجب على قادة الأعمال توفير جلسات تدريب مستمرة لإبلاغ الموظفين بالتغييرات في تنظيمات الذكاء الاصطناعي واستراتيجيات الامتثال. سيساعد استخدام البشر للإشراف على الممارسات الأخلاقية في إعطاء الأولوية للخصوصية من خلال التصميم، مما يضمن أن جمع البيانات ومعالجتها وتخزينها يتبع ممارسات آمنة وشفافة.
التقييم المستمر
تمثل التهديدات الناشئة وتغيرات المشهد التنظيمي تحدياً للأعمال، لكن يمكن أن يساعد الذكاء الاصطناعي في تخفيف العبء من خلال أتمتة مراقبة الامتثال. كما يمكن أن تحلل أدوات مثل “ذكاء العمليات” (PI) سير العمل ومجموعات البيانات الكبيرة لتحديد مشكلات الامتثال المحتملة، مما يضمن الالتزام باللوائح مع تقليل التغييرات اليدوية.
من خلال استخدام مقاييس الثقة المحددة مسبقاً، يمكن للبرمجيات اكتشاف ومعالجة المخاطر مبكراً، مما يمنع التهديدات السيبرانية في مرحلة أبكر ، أي قبل أن تؤدي إلى انتهاكات للبيانات. يوفر ذلك تنبيهات عند كسر قواعد أو الانحراف عن العمليات، مما يمكّن الشركات من معالجة التباينات بشكل استباقي وضمان الامتثال. تشمل الأمثلة على ذلك، التدقيق المستمر للعمليات وفقاً لقواعد GDPR أو تحسين نماذج اكتشاف الاحتيال لتقليل الإيجابيات الكاذبة واكتشاف أنماط احتيال جديدة. يمكن لمنظمات الأعمال استخدامه أيضاً لضمان أن الموظفين المصرح لهم فقط يمكنهم الوصول إلى البيانات الحساسة من خلال تتبع تسجيل الدخول.
كلمة أخيرة
لقد أدى الاعتماد السريع على الذكاء الاصطناعي إلى ثورة في الصناعات وإشعال نقاشات حاسمة حول التنظيم والثقة. بينما تختبر المؤسسات تعقيدات تنفيذ الذكاء الاصطناعي، فإن إعطاء الأولوية لإطارات الذكاء الاصطناعي الموثوقة أصبح ضرورة ملحة. من خلال التركيز على البيانات عالية الجودة، وضمان الشفافية، ودمج الإشراف البشري، وإجراء تقييمات مستمرة، يمكن للشركات تعزيز الثقة بين أصحاب المصلحة وضمان النمو المستدام في عالم يزداد اعتماداً على الذكاء الاصطناعي. إن تبني هذه المبادئ لا يخفف فقط من مخاطر المؤسسات، بل يعزز أيضاً الولاء للعلامة التجارية والحفاظ على العملاء، مما يزيد فرص المؤسسات في العبور بنجاح نحو المستقبل.
