فوزووز · سفير الذكاء الاصطناعي الحكيم
المواءمة مع المعايير الدوليةالمنهج، بندًا بندًا.
أين تتناول وحدات البرنامج بنود ISO/IEC 27001 وISO/IEC 42001 وISO 45003، ومبادئ اليونسكو وIEEE في أخلاقيات الذكاء الاصطناعي.
- ٣ معايير ISO
- UNESCO · IEEE مبادئ الأخلاقيات
- ٦١ بندًا ومبدأً
أين تتناول وحدات البرنامج بنود ثلاثة معايير دولية، ومبادئ اليونسكو وIEEE في أخلاقيات الذكاء الاصطناعي. هذه مواءمة منهج، لا شهادة توافق ولا اعتماد: المعايير تخاطب أنظمة الإدارة في المؤسسات، والمبادئ تخاطب الدول والمصمّمين، والبرنامج يُعدّك لتفهمها وتطبّقها في جهتك.
ISO/IEC 27001:2022أمن المعلومات١٨ بندًا
يقوم البرنامج على منطق هذا المعيار: تبدأ الدرجة الرابعة من ثلاثية أمن المعلومات، وتطبّق الوحدة ٥.٣ المعيار على الفرق الصغيرة.
| البند أو الضابط | موضوعه | الوحدات | ما تتعلّمه |
|---|---|---|---|
| 4–10 | دورة نظام إدارة أمن المعلومات | ٥.٣ | تطبيق منطق ISO 27001 على فريق صغير بلا بيروقراطية، بستة ضوابط تكفي فريقًا من خمسة |
| 6.1.2 | تقييم مخاطر أمن المعلومات | ٤.١٤.٣ | السرّية والسلامة والتوافر وما يُضاف إليها في أنظمة الذكاء الاصطناعي، والطبقات الخمس، وترتيب المخاطر بالأثر |
| 9.1 | الرصد والقياس | ٥.٥ | قياس النضج بأربعة أبعاد وخمسة مستويات وعشرين بندًا |
| A.5.7 | استخبارات التهديدات | ٤.٢٤.٤ | خمس هجمات على النماذج (الحقن بنوعيه، والتسميم، والاستخراج، وإساءة الأدوات)، ومراحل الهجوم الإدراكي الأربع |
| A.5.10 | الاستخدام المقبول للمعلومات | ١.٢٣.٢ | لا بيانات سرّية في نظام عام، قاعدةً بلا استثناء |
| A.5.12 | تصنيف المعلومات | ٣.٢٥.١ | أن تسأل قبل أي استخدام: هل في المدخل بيانات حسّاسة؟ |
| A.5.14 | نقل المعلومات | ٤.٤٤.٥ | التحقّق بقناة ثانية وكلمة متّفق عليها قبل أي طلب حسّاس |
| A.5.23 | أمن استخدام الخدمات السحابية | ١.٢٣.٢ | التمييز بين نظام عام ونظام مؤسسي، وحجب الحسّاس قبل الإدخال |
| A.5.24–A.5.26 | إدارة الحوادث | ٤.٥ | إجراء حادثة للتزييف العميق، ضمن أربعة ضوابط إجرائية |
| A.5.29–A.5.30 | الأمن أثناء الاضطراب وجاهزية الاستمرارية | ٥.٦ | الصمود بالاحتياطي والتنوّع والتعلّم |
| A.5.31 | المتطلبات القانونية والتنظيمية | ٥.٤ | مستويات الخطر الأربعة في التنظيم، والبناء على الأشدّ |
| A.5.34 | الخصوصية وحماية البيانات الشخصية | ٥.١ | الخصوصية مبدأً يُسأل عنه قبل الفعل |
| A.6.3 | التوعية والتعليم والتدريب | ٤.٤ | خمس عادات للأمن الإدراكي، والطبقة المنسيّة: الإنسان |
| A.8.2 | الصلاحيات المميّزة | ٣.٣ | أقلّ صلاحية للوكيل، ونقاط توقّف، ومفتاح إيقاف |
| A.8.11–A.8.12 | إخفاء البيانات ومنع تسرّبها | ٣.٢٥.٣ | حجب الحسّاس عادةً مهنية، وخطر تسرّب الفكرة في العمل الإبداعي |
| A.8.15–A.8.16 | التسجيل والمراقبة | ٣.٣٤.٢ | سجلّ لكل وكيل، ولماذا يبدو الهجوم عملًا عاديًا في السجل |
| A.8.24 | استخدام التشفير | ٤.٦ | الحوسبة الكمّية والتشفير ما بعد الكمّي |
| A.8.29 | اختبار الأمن في التطوير والقبول | ٤.٣ | الاختبار الهجومي للنماذج بست مراحل، وتقريره في صفحة (مُخرَج البوابة الرابعة) |
ما لا يغطيه البرنامج: الضوابط المادية (A.7)، وفحص العاملين وشروط التوظيف (A.6.1–A.6.2)، ومعظم الضوابط التقنية للشبكات والأجهزة، والتدقيق الداخلي ومراجعة الإدارة (9.2–9.3).
ISO/IEC 42001:2023نظام إدارة الذكاء الاصطناعي١٥ بندًا
تتناول الوحدة ٥.٢ «ISO 42001 عمليًا» المعيار كله، ومُخرَج البوابة الخامسة تطبيقه في جهة المتدرب: سجلّ لأنظمة الذكاء الاصطناعي، وسياسة استخدام أقرّتها مؤسسته.
| البند أو الضابط | موضوعه | الوحدات | ما تتعلّمه |
|---|---|---|---|
| 5.2 · A.2 | سياسة الذكاء الاصطناعي | ٥.٢ | سياسة في صفحتين: مسموح، وممنوع، ويحتاج موافقة (مُخرَج البوابة الخامسة) |
| 5.3 · A.3.2 | الأدوار والمسؤوليات | ٥.١٦.٣ | «الإنسان في الحلقة» يحتاج وقتًا ومعلومة وسلطة ومسؤولية مسمّاة؛ يُفوَّض للأداة الإنتاج، ويبقى للإنسان الحكم |
| A.3.3 | الإبلاغ عن المخاوف | ٦.٥ | الصمت اختيار، وتسجيل الاعتراض أقلّ الواجب |
| 6.1.2 · 8.2 | تقييم مخاطر الذكاء الاصطناعي | ٣.٣٤.١٤.٢ | «ما الذي يستطيع فعله لو أخطأ؟»، وهل يُردّ الفعل؟ ومتى يظهر الخطأ؟ والهجمات الخمس |
| 6.1.4 · 8.4 · A.5 | تقييم أثر أنظمة الذكاء الاصطناعي | ٥.١٦.٥ | أربعة أسئلة قبل الفعل: حقّ إنسان، وبيانات حسّاسة، وظهور الخطأ، وقابلية الشرح؛ و«من يدفع الثمن؟» |
| 7.2 · 7.3 | الكفاءة والوعي | ١.٣٦.٣ | ست درجات من الصفر حتى القيادة، وفي آخر كل درجة عمل تراجعه فوزووز |
| 7.5 | المعلومات الموثّقة | ٥.٢ | ست وثائق لا غنى عنها، أولها سجلّ الأنظمة |
| 9.1 | الرصد والقياس | ٥.٢٥.٥ | تُقاس السياسة بما يفعله الناس لا بما وُقّع عليه، ويُقاس النضج بنموذج UCSMM |
| 10 | التحسين | ٥.٢٥.٥ | الدورة الرباعية: خطّط، نفّذ، راقب، حسّن؛ والارتقاء مستوى واحدًا في بُعد واحد كل دورة |
| A.4 | موارد أنظمة الذكاء الاصطناعي | ٣.٤٦.٣ | جودة المصادر في المساعد المعرفي، وبناء كفاءة المبتدئين في الفريق |
| A.6.2.4 | التحقّق والمصادقة | ٢.٢٣.٤٣.٦ | «قِستَه على ماذا؟» أمام أي رقم دقّة، واختبار المساعد بأسئلة تعرف أجوبتها، والتحقّق قبل التوقيع |
| A.6.2.6 · A.6.2.8 | التشغيل والرصد وسجلّات الأحداث | ٣.٣ | خمسة قيود للوكيل: أقلّ صلاحية، وسقف حلقة، ونقاط توقّف، وسجلّ، ومفتاح إيقاف |
| A.7 | بيانات أنظمة الذكاء الاصطناعي | ٢.٢٣.٤ | البيانات هي المعلّم، ونقصها وميلها يصيران صفة في النظام |
| A.8 | المعلومات للأطراف المعنية | ٦.٥ | الإفصاح حين يُغيّر تقدير المتلقّي، ولا يُنسَب إليك ما ليس منك |
| A.9 | استخدام أنظمة الذكاء الاصطناعي | ١.١٣.١٣.٥ | تُفوَّض المهمة لا العاقبة، والتكليف بخمس طبقات، وخطّ أحمر في كل مجال |
ما لا يغطيه البرنامج: سياق المؤسسة ونطاق النظام (4.1–4.4)، وعلاقات الموردين والعملاء (A.10)، والتدقيق الداخلي (9.2).
ISO 45003:2021الصحة النفسية والسلامة في العمل٨ بنود
ISO 45003 إرشادات لا متطلبات، ويُبنى على هيكل ISO 45001. ويتناول البرنامج منه المخاطر النفسية التي يحملها دخول الذكاء الاصطناعي إلى العمل: الخوف على الوظيفة، وتغيّر الأدوار، والضغط والتلاعب.
| البند أو الضابط | موضوعه | الوحدات | ما تتعلّمه |
|---|---|---|---|
| 5 | القيادة ومشاركة العاملين | ٦.٢٦.٣ | إزالة «عقوبة المُجرِّب»، وأن يُظهر القائد استخدامه للأداة بدل أن يُخفيه |
| 6.1 | المخاطر النفسية: تنظيم العمل والتغيير | ١.١٦.٣٦.٤ | تُزاح المهامّ لا المهن، وينتقل التقييم من الكمّ إلى الحكم، وتُعاد صياغة الأدوار حول ما لا يُؤتمت |
| 6.1 | المخاطر النفسية: الأمان الوظيفي | ١.٢٦.٤ | نصف الحقيقة في أسطورة الإزاحة، وأربع مهارات تصمد |
| 6.1 | المخاطر النفسية: العوامل الاجتماعية والتطوّر المهني | ٦.٣ | حماية تكوين المبتدئ: يُنتج، ثم يُقارن، ثم يُفسّر؛ والانتباه للصامتين في الفريق |
| 6.1 | المخاطر النفسية: الضغط والتلاعب | ٤.٤٤.٥ | التباطؤ عند الضغط، والتحقّق من المصدر، ومواجهة انتحال الهوية بضوابط إجرائية |
| 7.2 · 7.3 | الكفاءة والوعي | ١.٣١.٤ | تقييم تشخيصي في أربعة أبعاد يبدأ بالإنسان، وخطّة صعود من أضعفها |
| 7.4 | التواصل | ٦.٣٦.٥ | الإفصاح عن استخدام الأداة، وتسجيل الاعتراض بدل الصمت |
| 8.1 | إدارة التغيير | ٦.١ | معيار خروج لكل مرحلة، وشرط إيقاف يُكتب قبل البدء |
ما لا يغطيه البرنامج: إعادة التأهيل والعودة إلى العمل، والاستعداد للطوارئ، وقياس عبء العمل باستبيانات العاملين.
UNESCO 2021توصية اليونسكو بشأن أخلاقيات الذكاء الاصطناعي١٢ بندًا
توصية اعتمدتها الدول الأعضاء في اليونسكو عام ٢٠٢١، بعشرة مبادئ ومجالات للسياسات. ويتناول البرنامج تسعة من المبادئ العشرة، وثلاثة من مجالات السياسات.
| المبدأ أو المجال | موضوعه | الوحدات | ما تتعلّمه |
|---|---|---|---|
| Proportionality and do no harm | التناسب وعدم الإضرار | ٣.٣٣.٥ | هل يُردّ الفعل؟ ومتى يظهر الخطأ؟ وخطّ أحمر في كل مجال لا يُعبَر |
| Safety and security | السلامة والأمن | ٤.١٤.٢٤.٣ | الطبقات الخمس وضوابطها، والهجمات الخمس، والاختبار الهجومي للنماذج |
| Privacy and data protection | الخصوصية وحماية البيانات | ١.٢٣.٢٥.١ | لا بيانات سرّية في نظام عام، وحجب الحسّاس قبل الإدخال، والخصوصية مبدأً يُسأل عنه قبل الفعل |
| Multi-stakeholder and adaptive governance | الحوكمة التشاركية المتكيّفة | ٥.٢٥.٤ | نظام إدارة بدورة رباعية، ومشهد التنظيم في أوروبا والخليج، والبناء على الأشدّ |
| Responsibility and accountability | المسؤولية والمساءلة | ١.١٥.١ | تُفوَّض المهمة لا العاقبة، والمساءلة واحد من أربعة مبادئ يُسأل عنها قبل الفعل |
| Transparency and explainability | الشفافية وقابلية الشرح | ٥.١٦.٥ | هل يمكن شرح القرار؟ والإفصاح حين يُغيّر تقدير المتلقّي |
| Human oversight and determination | الإشراف البشري وحقّ القرار للإنسان | ٣.٦٥.١٦.٣ | «الإنسان في الحلقة» بوقت ومعلومة وسلطة ومسؤولية مسمّاة، والتحقّق قبل التوقيع، ويبقى للإنسان الحكم |
| Fairness and non-discrimination | العدل وعدم التمييز | ١.٢٢.٢٥.١ | النظام لا يحيَد بذاته بل يرث ما في بياناته، ونقص البيانات وميلها يصيران صفة فيه |
| Awareness and literacy | الوعي ومحو الأمية بالذكاء الاصطناعي | ٢.١٢.٣٢.٦ | ما الذكاء الاصطناعي وكيف تتعلّم الآلة، ولماذا تهلوس النماذج، وحدود الآلة الثلاثة |
| Policy area: Ethical impact assessment | مجال السياسات: تقييم الأثر الأخلاقي | ٥.١٦.٥ | أربعة أسئلة قبل الفعل، و«من يدفع الثمن؟ وماذا لو فعله الجميع؟» |
| Policy area: Communication and information | مجال السياسات: الاتصال والمعلومات | ٤.٤٤.٥ | الهجوم الإدراكي يستهدف ما تصدّقه، والتزييف العميق، وأن الخطر الأكبر إنكار الصدق |
| Policy area: Economy and labour | مجال السياسات: الاقتصاد والعمل | ٦.٤ | تُزاح المهامّ لا المهن، وأربع مهارات تصمد، وأربع فجوات محلية |
ما لا يغطيه البرنامج: مبدأ الاستدامة ومجال البيئة والنظم البيئية، ومجالات المساواة بين الجنسين والصحة والثقافة.
IEEE EAD (2019)التصميم المواءم أخلاقيًا من IEEE٨ بنود
وثيقة مبادئ من IEEE للأنظمة الذاتية والذكية، طبعتها الأولى عام ٢٠١٩، بثمانية مبادئ عامة. ويتناول البرنامج المبادئ الثمانية كلها من جهة من يستخدم هذه الأنظمة ويقودها.
| المبدأ | موضوعه | الوحدات | ما تتعلّمه |
|---|---|---|---|
| Human Rights | حقوق الإنسان | ٥.١ | السؤال الأول قبل الفعل: هل يمسّ القرار حقّ إنسان؟ |
| Well-being | الرفاه | ١.٢٦.٣٦.٤ | الخوف على الوظيفة ونصف الحقيقة فيه، وحماية تكوين المبتدئ، والمهارات التي تصمد |
| Data Agency | تحكّم الإنسان في بياناته | ٣.٢٥.١ | ادفع ما يلزم لا ما تملك، واحجب الحسّاس، والخصوصية مبدأً قبل الفعل |
| Effectiveness | الفاعلية | ٢.٢٣.٤٣.٦ | «قِستَه على ماذا؟» أمام أي رقم دقّة، واختبار المساعد بأسئلة تعرف أجوبتها، والتحقّق قبل التوقيع |
| Transparency | الشفافية | ٣.٣٥.١٦.٥ | سجلّ لكل وكيل، وقابلية الشرح، والإفصاح عن استخدام الأداة |
| Accountability | المساءلة | ١.١٥.١٦.٣ | تُفوَّض المهمة لا العاقبة، ومسؤولية مسمّاة، ويبقى للإنسان الحكم والمسؤولية |
| Awareness of Misuse | الوعي بإساءة الاستخدام | ٢.٥٤.٢٤.٥ | تقنية التوليد هي نفسها تقنية التزييف، والهجمات الخمس، وضوابط التزييف العميق |
| Competence | الكفاءة | ١.٣٣.٥٦.٣ | تقييم تشخيصي في البداية، والاستخدامات الناضجة في كل مجال وخطّه الأحمر، وقيادة فريق يعمل مع الأداة |
ما لا يغطيه البرنامج: يتناول البرنامج المبادئ من جهة المستخدم والقائد، لا من جهة مهندس التصميم: فلا يدخل في توصيات التصميم الهندسي التفصيلية ولا في سلسلة معايير IEEE 7000.