القدرة بلا تحكّم ليست تقدّماً.
ضوابط الحماية والتقييم والإشراف البشري مدمجة في أبحاثنا منذ تجربتها الأولى.
السلامة ليست فريقاً منفصلاً يراجع العمل بعد اكتماله، بل جزء من كل تجربة: ما المسموح للنظام بفعله، وكيف يُختبر، ومن يستطيع إيقافه، وكيف تُسجَّل قراراته. وحوكمتنا متوائمة مع معيار ISO/IEC 42001.
الأسئلة التي نبحث فيها
- أيّ التقييمات تكشف بموثوقية السلوك غير الآمن أو المتحيّز قبل النشر؟
- كيف تصمد ضوابط الحماية أمام حقن التعليمات وسوء الاستخدام، بالعربية والإنجليزية؟
- كيف يبدو الإشراف البشري الفعّال على أنظمة تتصرّف ولا تكتفي بالإجابة؟
منهجنا
- ضوابط الحماية
- ضوابط للمدخلات والمخرجات، وحجب للبيانات الشخصية، وتطبيق للسياسات على كل نظام.
- التقييم واختبارات الفريق الأحمر
- تُختبر الأنظمة من حيث الدقة والتحيّز وسوء الاستخدام قبل الإصدار وبعده.
- الإشراف البشري
- يستطيع الأشخاص مراجعة القرارات ذات الأثر وتجاوزها وإيقافها.
- الخصوصية
- تُقلَّل البيانات الشخصية إلى الحد الأدنى وتُحمى وفق قانون حماية البيانات الشخصية الإماراتي وقانون حماية البيانات في مركز دبي المالي العالمي.