When AI makes decisions about people
Most AI mistakes in an office cost time. Some cost people: a loan refused, a customer misled, private details exposed. Responsible AI is the set of habits and safeguards that stop those harms, and it is now part of every professional's job, not only IT's.
This course follows Hadba Microfinance, a lender to small businesses in Mosul with 14,000 active borrowers and 160 staff. Muna, Head of Risk and Compliance, is asked to make the company's use of AI fair, safe and trustworthy. She works with Firas (IT and data), Aseel (customer service), Shaima (HR) and the CEO, Mr. Nizar.
حين يتخذ الذكاء الاصطناعي قرارات عن الناس
معظم أخطاء الذكاء الاصطناعي في المكتب تكلّف وقتاً، وبعضها يكلّف الناس: قرض مرفوض، أو عميل مُضلَّل، أو تفاصيل خاصة مكشوفة. والذكاء الاصطناعي المسؤول مجموعة من العادات والضمانات التي تمنع هذه الأضرار، وقد أصبح جزءاً من عمل كل مهني لا قسم تقنية المعلومات وحده.
تتابع هذه الدورة شركة الحدباء للتمويل الأصغر، وهي جهة تقرض المشاريع الصغيرة في الموصل ولديها 14 ألف مقترض نشط و160 موظفاً. وقد كُلّفت منى، رئيسة المخاطر والامتثال، بجعل استخدام الشركة للذكاء الاصطناعي عادلاً وآمناً وجديراً بالثقة، وتعمل مع فراس (تقنية المعلومات والبيانات) وأسيل (خدمة العملاء) وشيماء (الموارد البشرية) والمدير العام الأستاذ نزار.
Video: why responsible AI matters
ISHTAR Academy explainer.
فيديو: لماذا يهم الذكاء الاصطناعي المسؤول
فيديو توضيحي من أكاديمية عشتار.
The complaint that started it
Sahar runs a tailoring business from her home in Mosul. For three years she repaid every group loan on time. In February 2026 she applied for her first individual loan, and within two minutes the online pre-screen told her she did not qualify. No reason was given.
She complained, and her complaint reached Muna. When Muna asked how the pre-screen worked, nobody in the company could fully explain it. The score came from a vendor, it had been switched on a year earlier, and nobody had checked how it treated different groups of applicants.
الشكوى التي بدأت كل شيء
تدير سحر مشروع خياطة من منزلها في الموصل، وقد سددت كل قروضها الجماعية في موعدها طوال ثلاث سنوات. وفي شباط 2026 تقدّمت لأول قرض فردي، فأخبرها الفرز الأولي الإلكتروني خلال دقيقتين أنها غير مؤهلة، دون أي سبب.
قدّمت شكوى وصلت إلى منى. وحين سألت منى عن طريقة عمل الفرز الأولي، لم يستطع أحد في الشركة شرحه بالكامل: فالدرجة من مورّد خارجي، وقد شُغّلت قبل عام، ولم يتحقق أحد من طريقة تعاملها مع الفئات المختلفة من المتقدمين.
Six kinds of harm
These harms often arrive together. An unfair score that nobody explains is also a transparency failure and, when customers find out, a loss of trust.
ستة أنواع من الضرر
كثيراً ما تأتي هذه الأضرار معاً. فالدرجة غير العادلة التي لا يشرحها أحد هي أيضاً إخفاق في الشفافية، وحين يكتشفها العملاء تصبح فقداناً للثقة.
Six principles
Similar people get similar outcomes. Differences between groups must have a valid, explainable reason.
Personal data is collected only when needed, used only for its purpose, protected and deleted on time.
The system works reliably, resists misuse and cannot easily be tricked into causing harm.
People know when AI is involved and can get a meaningful explanation of decisions that affect them.
A person with the right information and authority can check, correct and stop the system.
A named person or team owns each AI use and answers for its results. "The computer decided" is never an answer.
ستة مبادئ
الأشخاص المتشابهون يحصلون على نتائج متشابهة، وأي فرق بين الفئات يجب أن يكون له سبب مقبول يمكن شرحه.
لا تُجمع البيانات الشخصية إلا عند الحاجة، ولا تُستخدم إلا لغرضها، وتُحمى وتُحذف في موعدها.
يعمل النظام بموثوقية، ويقاوم سوء الاستخدام، ولا يسهل خداعه لإحداث ضرر.
يعرف الناس متى يكون الذكاء الاصطناعي حاضراً، ويمكنهم الحصول على شرح مفهوم للقرارات التي تخصهم.
شخص لديه المعلومات والصلاحية المناسبة يستطيع مراجعة النظام وتصحيحه وإيقافه.
لكل استخدام للذكاء الاصطناعي شخص أو فريق مسمّى يملكه ويُسأل عن نتائجه، و«الحاسوب قرّر» ليست إجابة أبداً.
Everyone has a part
Hadba did not build the score, but it chose to use it on its customers. Under most laws and in the eyes of customers, the organisation that uses AI is responsible for how it is used. Buying a tool does not buy away the responsibility.
لكل طرف دوره
لم تبنِ الحدباء الدرجة، لكنها اختارت استخدامها مع عملائها. ووفق معظم القوانين وفي نظر العملاء، فإن المؤسسة التي تستخدم الذكاء الاصطناعي مسؤولة عن طريقة استخدامه. وشراء الأداة لا يعني شراء التخلص من المسؤولية.
Exercise: map the AI around you
- List every AI tool or feature used in your team, including ones built into email, phones and software you already have.
- For each one, write who it affects: you, colleagues, customers or the public.
- Mark any use that influences a decision about a person (hiring, credit, discipline, service).
- Write the name of the person who owns each use. Where there is no owner, note it as a gap.
تمرين: ارسم خريطة الذكاء الاصطناعي حولك
- اذكر كل أداة أو ميزة ذكاء اصطناعي يستخدمها فريقك، ومنها المدمجة في البريد والهواتف والبرامج الموجودة لديك.
- اكتب لكل منها من تؤثر فيه: أنت أو الزملاء أو العملاء أو الجمهور.
- ضع علامة على أي استخدام يؤثر في قرار يخص شخصاً (التوظيف أو الائتمان أو التأديب أو الخدمة).
- اكتب اسم المسؤول عن كل استخدام، وحيث لا يوجد مسؤول سجّل ذلك ثغرةً.
Hadba bought its loan score from a vendor. Who is responsible for how it treats Hadba's customers?
The organisation that deploys AI answers for its use. Buying a tool does not transfer that responsibility.
Which principle means a named person or team owns an AI use and answers for its results?
Accountability means someone owns the outcome. "The computer decided" is never an answer.
اشترت الحدباء درجة القروض من مورّد. من المسؤول عن طريقة تعاملها مع عملاء الحدباء؟
المؤسسة التي تستخدم الذكاء الاصطناعي تُسأل عن استخدامه، وشراء الأداة لا ينقل هذه المسؤولية.
أي مبدأ يعني أن لكل استخدام للذكاء الاصطناعي شخصاً أو فريقاً مسمّى يملكه ويُسأل عن نتائجه؟
المساءلة تعني أن هناك من يملك النتيجة، و«الحاسوب قرّر» ليست إجابة أبداً.
