Ehabقامت شركة أي بي إم (IBM)، والتي تعتبر إحدى الشركات العملاقة في مجال إنتاج الأدوات السحابية، بإطلاق أداة تستخدم للتعرف على علامات التحيز في قرارات أنظمة الذكاء الاصطناعي (AI)، بالإضافة إلى تحديد توصيات بالتعديلات اللازمة بها. ومن خلال تلك الأداة، تسعى IBM إلى التقليل من تحيز أنظمة الذكاء الاصطناعي عن طريق فهم كيفية قيام الخوارزميات بصنع قرارات سريعة ومعرفة العوامل التي يتم الاعتماد عليها أثناء تقديم تلك الأنظمة للتوصيات النهائية للشركات على لوحات المعلومات الخاصة بها.
ووفقاً لما أعلنته الشركة، فإن تحيز أنظمة الذكاء الاصطناعي في صنع القرارات يعتبر أحد المشاكل الخطيرة. بالإضافة إلى أن الخوارزميات التي تستخدمها الشركات العملاقة في مجال التكنولوجيا، والعديد من الشركات الأخرى، قد لا تكون منصفة دائماً في صنع القرارات. وأوضحت شركة IBM أن هناك اعتماد متزايد من الشركات على القرارات الآلية بشأن مجموعة كبيرة من القضايا مثل الحفاظ على النظام، والتأمين، وغيرها من القضايا. كما أن التداعيات المترتبة على توصيات تلك الخوارزميات قد تكون سلبية.
وتقول الشركة أن إطلاق تلك الأداة سيوفر إيضاحات متعمقة بشأن كيفية اتخاذ أنظمة الذكاء الاصطناعي للقرارات. وستساعد الأداة المفتوحة المصدر المستخدمين من خلال لوحة معلومات بصرية تقوم بتعقب سجل نموذج الذكاء الاصطناعي للتأكد من دقته، وأداء مهامه، وإنصافه في اتخاذ القرارات السريعة.
وبالحديث عن عملية الإطلاق، صرح ديفيد كيني (David Kenny)، النائب الأول لرئيس قسم الحلول المعرفية في شركة IBM قائلاً: أن الشركة تسيطر حالياً على هذه الصناعة لإرساء مبادئ الثقة والشفافية من أجل تطوير تقنيات جديدة في مجال الذكاء الاصطناعي. لقد آن الأوان لتحويل تلك المبادئ النظرية إلى واقع ملموس. فنحن نوفر وسائل جديدة للشفافية وأساليب تحكم حديثة للشركات التي تستخدم أنظمة الذكاء الاصطناعي وتواجه أكثر المخاطر المحتملة والتي قد تنتج عن اتخاذ أي قرار خاطئ.
كما كشفت الشركة النقاب عن مجموعة أدوات فيرنيس 360 (Kit Fairness 360) التي تضم مكتبة تحتوي على عدد من الخوارزميات، والأكواد البرمجية، والبرامج التعليمية التي توضح طرق كشف التحيز في نماذج الذكاء الاصطناعي. وعلقت أليكساندرا موسيلوفيتش (Aleksandra Mojsilovic)، رئيسة منظومة الذكاء الاصطناعي في قسم الأبحاث بشركة IBM، قائلة: إن مسألة الثقة بتقنية الذكاء الاصطناعي تعتبر على رأس أوليات الشركة، بالإضافة للعديد من الشركات الأخرى المطورة لتلك التكنولوجيا والموردة لها.
ويجدر الإشارة إلى أن الأنظمة التي تعتمد في عملها على الذكاء الاصطناعي تمتلك إمكانات هائلة لتغيير أسلوب حياتنا وطريقة عملنا، ولكنها أيضا تحتوي على بعض الثغرات، مثل احتمالية اتخاذها قرارات متحيزة، وعدم قدرتها على الشرح، وقابلية تعرضها لهجمات عدائية.
وبالتالي، يجب معالجة هذه المشاكل بطريقة صحيحة وفي الوقت المناسب حتى يتم الوثوق بخدمات الذكاء الاصطناعي. وسيكون من المثير للاهتمام أن نرى كيف سيتطور هذا القطاع من خلال مجموعة الأدوات التي أصدرتها شركة IBM في نفس الوقت الذي أطلقت فيه منصة جوجل السحابية (Google Cloud) مركز اتصال خاص بأنظمة الذكاء الاصطناعي.
اضف تعليق