أخلاقيات الذكاء الاصطناعي والمساءلة: الشفافية والقابلية للتفسير في الذكاء الاصطناعي

Name: أخلاقيات الذكاء الاصطناعي والمساءلة: الشفافية والقابلية للتفسير في الذكاء الاصطناعي
Author: Briana Brownell

تعرف على المبادئ المتعلقة بالشفافية وقابلية التفسير لأنظمة الذكاء الاصطناعي

شاهد الدرس الأول مجانًا — احصل على وصول كامل إلى جميع الدروس الـ5.

اطلب عرضًا توضيحيًا تسجيل الدخول

دورة تدريبية: عند الطلب

عندما نفكر في الشفافية كمبدأ لبناء نظام الذكاء الاصطناعي، فإن معظمنا لديه بالفعل فكرة عما يعنيه ذلك. الشفافية تسمح بالرقابة (الإشراف). وذلك لأن النظام الشفاف يمكن فحصه بحكم شفافيته. لذا فإن مبدأ الشفافية يشير إلى أن الرقابة على نظام الذكاء الاصطناعي ينبغي أن تكون ممكنة. هناك عدة طرق يجب أن يكون بها نظام الذكاء الاصطناعي شفافًا في تصميمه وتنفيذه. فيما يتعلق بالتصميم، يجب أن يكون هناك إفصاح كامل حول أي بيانات مستخدمة لتدريب نموذج التعلم الآلي. بما في ذلك كيفية جمع البيانات، خطوات ما قبل المعالجة، معلمات النموذج، والخوارزمية المستخدمة لإنشاء النموذج. تنطبق الشفافية أيضًا على أنظمة الذكاء الاصطناعي التي لا تستخدم التعلم الآلي للكشف عن مدى خبرتها أو يتم استخدام المعرفة لإبلاغ تصميم نظام القرار. ومن المهم ملاحظة هذا القلق بشأن الشفافية تركز على إجراءات النظام وكذلك على تصميمه. يجب أن تكون هذه الإجراءات ممكنة للإشراف. من المغري التفكير في الشفافية باعتبارها سمة نعم أو لا لنظام الذكاء الاصطناعي. إما أن يكون النظام شفافا أم لا. ولكن في الواقع، هناك العديد من التدرجات بين الشفافية الكاملة والعتامة. قد يكون هيكل القرار في النظام شفافًا من حيث كيفية اتخاذ القرار، لكن البيانات المستخدمة في إنشائها قد لا تكون شفافة بسبب خطوات جمع البيانات ومعالجتها ربما لم يتم الكشف عنها بشكل صحيح. خذ بعين الاعتبار نظام الذكاء الاصطناعي المبني حول شجرة القرار. تعد أشجار القرار إحدى طرق التعلم الآلي الشائعة الخاضعة للإشراف والتي تقوم بشكل أساسي بإنشاء مخطط انسيابي يعتمد على بيانات التدريب المدخلة. بمجرد إنشائها، قد تكون شجرة القرار واضحة تمامًا وسهلة المتابعة، ولكن مبرر قاعدة البيانات لسبب إنشاء شجرة القرار بهذه الطريقة يعتمد كليًا على البيانات المستخدمة لإنتاج النموذج في المقام الأول. ومن الممكن أن يؤدي استخدام مجموعة بيانات غير مكتملة أو متحيزة إلى اتخاذ قرارات تتسم بالشفافية الكاملة من حيث كيفية اتخاذ النظام للقرارات، ولكن ليس من حيث الأسباب وما إذا كانت هذه القرارات تعكس المشهد الذي يتم فيه نشر هذا النظام. قارن ذلك بنموذج التعلم الآلي الذي تم تدريبه على مجموعة بيانات موحدة مثل المعهد الوطني المعدل للمعايير والتكنولوجيا، أو مجموعة بيانات MNIST. تحتوي مجموعة البيانات هذه على صور للأرقام المكتوبة بخط اليد المستخدمة في مهمة التعلم الخاضعة للإشراف للتعرف على الحروف، وتم توفيرها من قبل فرق البحث الأكاديمي. يمكن لممارسي الذكاء الاصطناعي استخدام خوارزمية التعلم الآلي الخاصة بهم لإنشاء نظام خاضع للإشراف نموذج التعلم الآلي بناءً على مجموعة البيانات هذه. ونتيجة لذلك، تم استخدام العديد من الأساليب المختلفة لمعالجة هذه البيانات مسبقًا، وتم تطبيق العديد من تقنيات النمذجة المختلفة. على هذا النحو، فإن قرار التصنيف لمدخل معين ودقته يتراوح على نطاق واسع. والآن، لدينا مثال لحالة قد تكون فيها مجموعة البيانات شفافة تمامًا ولكن قد لا يكون إنشاء النموذج. قد يبدأ الممارسون مع تقنيات المعالجة المسبقة المختلفة، يستخدمون خوارزميات مختلفة، وبخلاف ذلك يقومون ببناء عملية بناء النماذج الخاصة بهم بشكل مختلف. كل هذه القرارات مهمة بالنسبة لشفافية النظام النهائي. الشفافية مهمة في تصميم أي نظام للذكاء الاصطناعي، لكنها مهمة بشكل خاص عندما يكون للقرارات تأثير كبير على مستخدمي النظام. أي حالة يمكن أن تؤثر فيها نتيجة النظام بشكل كبير على سبل العيش ويجب أن تتوقع فرصة المتأثرين بها درجة عالية من الرؤية. ولكن على الرغم من أننا قد نرغب في توقع ذلك كمستهلكين ومستخدمين لهذه الأنظمة، ولم تكن الشفافية تاريخياً هي القاعدة. أنظمة مثل تسجيل الائتمان وتلك التي تحاول التنبؤ بالاحتمالية نادرًا ما تكون حالات السلوك الانتكاسي أو الإجرامي لشخص ما شفافة. في بعض الحالات، تكون معتمة عن عمد. وفي سياق الأعمال التجارية، قد تتعارض الشفافية مع القيم الأخرى بما في ذلك حفظ الأسرار التجارية والملكية الفكرية. قد لا ترغب الشركات في مشاركة خلطتها السرية مع الغرباء أو حتى داخل الشركة نفسها. وفي نهاية المطاف، يجب أن يكون هناك توازن بين توقعات الشفافية وتأثير النظام.

متوسط مقدِّم الخدمة : Briana Brownell 5 الدروس · 14m باللغات: العربية, الألمانية, الإنجليزية, الإسبانية, الفرنسية, البرتغالية, Chinese

وصف الدورة

في هذه الدروس حول الشفافية وقابلية الشرح في الذكاء الاصطناعي، ستتعرف على قابلية الشرح وقابلية التفسير وتقاطعها مع مفهومي الصندوق الأسود والصندوق الزجاجي للذكاء الاصطناعي. ستراجع مزايا وعيوب البرامج مفتوحة المصدر في تطوير نظام الذكاء الاصطناعي. ستتعرف أيضًا على مبادئ الإخطار بالقرار والتفاعل وأهميتها مع الأنظمة التي تستخدم اللغة الطبيعية أو التعرف على الوجه.

ويشير مبدأ الشفافية إلى أن الرقابة الفعالة على أنظمة الذكاء الاصطناعي ينبغي أن تكون ممكنة. ستعمل هذه الدروس على تطوير فهمك لمفهوم الشفافية في أنظمة القرار، بما في ذلك مستويات مختلفة من العتامة، والمفاهيم الأساسية حول الشفافية بما في ذلك إمكانية الشرح، وقابلية التفسير، والصندوق الأسود والصندوق الزجاجي، والذكاء الاصطناعي باستخدام أنظمة الإنسان في الحلقة.

تعد قابلية الشرح أحد مبادئ أخلاقيات الذكاء الاصطناعي. تعد قابلية الشرح عاملاً رئيسيًا يسمح للبشر بتحليل أداء نظام الذكاء الاصطناعي. سيقدم لك هذا القسم مفاهيم الصندوق الأسود والصندوق الزجاجي للذكاء الاصطناعي، وكيف يمكن استخدام هذه النماذج لتحليل وشرح عملية صنع القرار في الذكاء الاصطناعي. ستكتسب أيضًا نظرة ثاقبة حول كيفية استخدام نموذج الصندوق الأسود في سياق قابلية التفسير.

ستراجع مفاهيم الشفافية والتحقق من الأخطاء وإرساء الديمقراطية والوصول حيث يرتبط كل منها بالبرامج مفتوحة المصدر. بعد ذلك، ستكتشف مبادئ الإخطار بالقرار والتفاعل، وأهميتها عند التفاعل مع الأنظمة التي تستخدم اللغة الطبيعية، مثل برامج الدردشة الآلية، أو التعرف على الوجه المستخدمة في الأماكن العامة.

ما ستتعلمه

وصف مبدأ الشفافية وعلاقته بأنظمة الصندوق الأسود والصندوق الزجاجي
تحديد سبب أهمية القابلية للتفسير في الذكاء الاصطناعي
شرح مزايا وعيوب البرمجيات مفتوحة المصدر في تطوير الذكاء الاصطناعي
التمييز بين القابلية للتفسير والقابلية للتأويل وتقاطعهما مع الذكاء الاصطناعي بنظام الصندوق الأسود والصندوق الزجاجي
التعرف على مبادئ الإشعار بالقرار والتفاعل للأنظمة التي تستخدم اللغة الطبيعية أو التعرف على الوجه
فحص الشفافية والتحقق من الأخطاء والديمقراطية والوصول فيما يتعلق بالبرمجيات مفتوحة المصدر

النقاط الرئيسية

يشير مبدأ الشفافية إلى إمكانية تحقيق إشراف فعال على أنظمة الذكاء الاصطناعي.
تعد القابلية للتفسير أحد مبادئ أخلاقيات الذكاء الاصطناعي وعاملاً رئيسياً يسمح للبشر بتحليل عمل نظام الذكاء الاصطناعي.
تتضمن الشفافية في أنظمة اتخاذ القرار مستويات مختلفة من العتامة ومفاهيم أساسية مثل القابلية للتفسير والقابلية للتأويل والذكاء الاصطناعي بنظام الصندوق الأسود والصندوق الزجاجي باستخدام أنظمة وجود العنصر البشري في الحلقة.
يمكن استخدام نماذج الصندوق الأسود والصندوق الزجاجي لتحليل وشرح عملية اتخاذ القرار في الذكاء الاصطناعي، ويُستخدم نموذج الصندوق الأسود في سياق القابلية للتأويل.
يعد الإشعار بالقرار والتفاعل أمراً مهماً عند التفاعل مع الأنظمة التي تستخدم اللغة الطبيعية، مثل روبوتات الدردشة، أو تقنية التعرف على الوجه المستخدمة في الأماكن العامة.

الأسئلة الشائعة

ما الموضوعات التي تغطيها هذه الدورة؟

تغطي الشفافية والقابلية للتفسير في الذكاء الاصطناعي، بما في ذلك القابلية للتفسير والقابلية للتأويل، والذكاء الاصطناعي بنظام الصندوق الأسود والصندوق الزجاجي، ومزايا وعيوب البرمجيات مفتوحة المصدر، ومبادئ الإشعار بالقرار والتفاعل.

ما الذي سأتعلمه عن البرمجيات مفتوحة المصدر في هذه الدورة؟

ستستعرض مزايا وعيوب البرمجيات مفتوحة المصدر في تطوير نظام ذكاء اصطناعي، بما في ذلك مفاهيم الشفافية، والتحقق من الأخطاء، والديمقراطية، والوصول في سياق ارتباط كل منها بالبرمجيات مفتوحة المصدر.

كيف تتناول الدورة أنظمة اللغة الطبيعية والتعرف على الوجه؟

تغطي مبادئ الإشعار بالقرار والتفاعل وأهميتها عند التفاعل مع الأنظمة التي تستخدم اللغة الطبيعية، مثل روبوتات الدردشة، أو تقنية التعرف على الوجه المستخدمة في الأماكن العامة.

ما الدروس المشمولة في هذه الدورة؟

الدروس هي الشفافية والإشراف، والقابلية للتفسير والقابلية للتأويل، والمساءلة في الصندوق الأسود والصندوق الزجاجي، والمصدر المفتوح وقيمة الخوارزميات المشتركة، والإشعار بالقرار والتفاعل.

ما المهارات التي تساعد هذه الدورة في تطويرها؟

تطور مهارات في أنظمة الذكاء الاصطناعي، والذكاء الاصطناعي، وتطوير الذكاء الاصطناعي، والذكاء الاصطناعي القابل للتفسير XAI، والشفافية في التفاعل بين الإنسان والحاسوب.