مشكلة المواءمة

الاستقبال النقدي

كذلك، وجمعت منصة بوك ماركس ثلاث مراجعات نقدية للكتاب من وول ستريت جورنال وبابليشرز ويكلي وكيركس ريفيوز، وصنفت المراجعات الثلاث ضمن أعلى درجات التقييم النقدي في نظامها.

وفي السياق ذاته، تلقى الكتاب مراجعات إيجابية في عدد من الصحف والمجلات والمطبوعات المتخصصة. وصفت كيركس ريفيوز العمل بأنه غني من الناحية التقنية مع بقائه متاحًا للقارئ العام، وأبرزت معالجته مشكلات التحيز والاعتماد المتزايد على الخوارزميات في اتخاذ القرارات.

في هذا الإطار، في مايو 2021 تناولت الباحثة فيرجينيا ديغنوم الكتاب في مراجعة نشرتها مجلة نيتشر إلى جانب كتاب آخر عن الذكاء الاصطناعي. وذكرت أن العملين يقدمان رؤيتين متكاملتين إلى الأشخاص والمؤسسات التي تصمم أنظمة الذكاء الاصطناعي وتستعملها وتديرها.

في هذا الإطار، ورأت بابليشرز ويكلي أن الكتاب يقدم دراسة موسعة لمشكلة إنشاء نماذج حاسوبية تستطيع تمثيل المعايير والقيم البشرية، وأشادت بالبحث الذي استند إليه كريستيان وبعرضه قضايا تتعلق بالتعرف على الوجوه وتقييم المخاطر وسلامة تعلم الآلة.

في هذا الإطار، أما وول ستريت جورنال، فاعتبر ديفيد أ. شايويتز أن كريستيان يقدم معالجة دقيقة لمشكلة المواءمة، ويعرض في الوقت نفسه صورة عن حالة تعلم الآلة والتحديات التي يواجهها المجال.

التعلم المعزز

في هذا الإطار، ويشير كريستيان إلى أن اختيار دالة المكافأة يصبح بذلك جزءًا أساسيًا من تصميم النظام. فإذا كانت المكافأة تمثل الهدف تمثيلًا ناقصًا، قد يتعلم النظام سلوكًا يزيدها حسابيًا من دون تحقيق النتيجة التي يقصدها المصمم.

إضافةً إلى ذلك، ويتناول الكتاب اتجاهات بحثية تحاول معالجة هذه المشكلة عن طريق جعل الأنظمة تتعلم تفضيلات البشر أو تستنتجها من سلوكهم، بدل الاعتماد فقط على أهداف صريحة يضعها المبرمج مسبقًا.

وفي هذا الصدد، يبحث الكتاب في التعلم المعزز بوصفه إحدى التقنيات التي تظهر فيها مشكلة تحديد الأهداف بصورة واضحة. ففي هذا النوع من التعلم يطور النظام سلوكه اعتمادًا على المكافآت التي يحصل عليها نتيجة الأفعال التي يتخذها.

المحتوى

إضافةً إلى ذلك، ينظم كريستيان الكتاب في ثلاثة أقسام رئيسية تنتقل من مسألة التنبؤ إلى اتخاذ الأفعال، ثم إلى الأسئلة المتعلقة بالقيم والمعايير. وتحمل هذه الأقسام موضوعات تتعلق بقدرة الأنظمة على التعلم من البيانات، وتحديد الأهداف والمكافآت، واستنتاج القيم والتفضيلات البشرية.

القيم والمعيارية

من جانب آخر، يربط كريستيان هذه المسائل بأبحاث تهدف إلى جعل الأنظمة تستنتج نيات البشر وتفضيلاتهم، وبأسئلة أوسع تتعلق بكيفية تحويل مفاهيم مثل العدالة والسلامة والمسؤولية إلى أهداف يمكن للنماذج الحاسوبية التعامل معها.

ومن ناحية أخرى، ينتقل القسم الأخير إلى السؤال المتعلق بما ينبغي للآلة أن تتوافق معه أصلًا. فحتى إذا أصبح النظام قادرًا على تعلم ما يفضله البشر، تظهر أسئلة حول القيم التي ينبغي أخذها في الاعتبار وكيفية التعامل مع اختلاف التفضيلات بين الأفراد والمجتمعات.

ومن جهة أخرى، يبين الكتاب أن القيم البشرية لا تكون دائمًا قواعد ثابتة أو معلنة بوضوح، وأن السلوك البشري نفسه قد لا يمثل جميع المعتقدات والتفضيلات التي يحملها الإنسان. ولذلك تصبح عملية استنتاج القيم من السلوك مشكلة مختلفة عن مجرد تقليد الأفعال التي يقوم بها البشر.

المنهج

وفي السياق ذاته، كما يربط كريستيان بين الجوانب التقنية لتطوير النماذج وبين السياق الاجتماعي الذي تستعمل فيه. ويتناول بذلك أثر اختيار البيانات والأهداف ومعايير الأداء في النتائج التي تنتجها الأنظمة، بدل التعامل مع الخطأ الخوارزمي بوصفه مشكلة تقنية منفصلة عن البيئة التي يعمل فيها النظام.

علاوةً على ذلك، وذكرت مراجعة أكاديمية منشورة في مجلة الأكاديمية الأمريكية للطب النفسي والقانون أن الكتاب جاء نتيجة مئات المحادثات مع خبراء في مجال الذكاء الاصطناعي، وأنه يجمع عرض تاريخ المجال مع مناقشة الأساليب المستعملة لمحاولة جعل الأنظمة متوافقة مع القيم البشرية.

من جانب آخر، يجمع الكتاب بين التاريخ العلمي والسرد الصحفي وشرح المفاهيم التقنية. ويعتمد كريستيان على تاريخ تطور عدد من الأفكار في تعلم الآلة، إلى جانب مقابلات مع باحثين ومهندسين يعملون في مجالات مرتبطة بالذكاء الاصطناعي.

التنبؤ والتعلم من البيانات

ومن جهة أخرى، يركز القسم الأول على الأنظمة التي تستعمل البيانات من أجل التنبؤ والتصنيف. ويبحث كريستيان في كيفية انتقال تعلم الآلة من النماذج المصممة لمهام محدودة إلى أنظمة تستعمل في عدد متزايد من المجالات التي تؤثر قراراتها في الأفراد.

إضافةً إلى ذلك، ويناقش الكتاب مشكلة اعتماد هذه النماذج على البيانات السابقة، إذ قد تحتوي البيانات على أنماط تعكس تفاوتات أو تحيزات اجتماعية قائمة. وفي هذه الحالة يمكن للنظام أن يتعلم تلك الأنماط ويعيد إنتاجها من دون أن تكون هناك قاعدة صريحة تأمره بذلك.

في هذا الإطار، ومن الأمثلة التي يستعرضها الكتاب أنظمة التعرف على الصور والوجوه التي سجلت مستويات متفاوتة من الدقة بين مجموعات سكانية مختلفة، إضافة إلى برمجيات تقييم المخاطر المستعملة في بعض أجزاء نظام العدالة الجنائية. ويستعمل كريستيان هذه الحالات لشرح الفرق بين نجاح النظام في تنفيذ العملية الحسابية المحددة له وبين ملاءمة نتائج تلك العملية للهدف الاجتماعي المقصود.

الجوائز والتقدير

• انظر كذلك
• الذكاء الاصطناعي
• تعلم الآلة
• أخلاقيات الذكاء الاصطناعي
• التعلم المعزز
• سلامة الذكاء الاصطناعي
• وصلات خارجية

كذلك، وصل الكتاب إلى القائمة النهائية لجائزة لوس أنجلوس تايمز للكتاب لعام 2020 في فئة العلوم والتكنولوجيا. وضمت القائمة خمسة أعمال، وفاز بالجائزة كتاب لسارة سيغر.

إضافةً إلى ذلك، وفي سنة 2022 فاز براين كريستيان بجائزة إريك وويندي شميت للتميز في التواصل العلمي التي تقدمها الأكاديميات الوطنية للعلوم والهندسة والطب، في فئة الصحفي العلمي المستقل. وتشير صفحة الفائز إلى «مشكلة المواءمة» ضمن أعماله المتعلقة بالآثار الإنسانية لعلوم الحاسوب، وإلى وصوله إلى نهائيات جائزة لوس أنجلوس تايمز.

التحيز الخوارزمي

علاوةً على ذلك، ويتناول الكتاب هذه المشكلة في سياقات تشمل التعرف على الوجوه وتقييم المخاطر والقرارات التي تعتمد على نماذج تنبؤية، مشيرًا إلى أهمية دراسة الظروف التي أُنتجت فيها البيانات إلى جانب دراسة الخوارزمية نفسها.

إضافةً إلى ذلك، ولهذا لا يعني استخدام عملية حسابية بالضرورة أن القرار الناتج عنها محايد. وقد تكون مصادر الانحياز موجودة في البيانات التاريخية نفسها أو في طريقة تحويل مسألة اجتماعية معقدة إلى هدف يمكن للنظام قياسه وتحسينه.

في هذا الإطار، يمثل التحيز الخوارزمي أحد المحاور الرئيسة في الكتاب. ويبين كريستيان أن نتائج الخوارزميات ترتبط بالبيانات المستعملة في تدريبها، وباختيار المتغيرات وطريقة تحديد النجاح والفشل داخل النموذج.

صفحة الكتاب في موقع براين كريستيان

صفحة الكتاب على موقع دبليو. دبليو. نورتون وشركاه

الفاعلية والأهداف

من جهة ثانية، وتظهر مشكلة المواءمة عندما لا يمثل الهدف الحسابي جميع عناصر النتيجة التي يريدها البشر. فقد يجد النظام وسيلة فعالة لتحسين المعيار الذي يقيس أداءه، مع أن السلوك الناتج لا يطابق المقصد الذي كان وراء اختيار ذلك المعيار.

علاوةً على ذلك، ويناقش كريستيان في هذا السياق عددًا من الأمثلة التي توضح أن تحسين هدف محدد لا يكفي وحده لضمان السلوك المرغوب، لأن كثيرًا من الأهداف البشرية تحتوي على شروط ضمنية يصعب التعبير عنها بالكامل في صورة قواعد حسابية.

وفي هذا الصدد، ينتقل القسم الثاني إلى الأنظمة التي لا تكتفي بإصدار تنبؤات، وإنما تتخذ أفعالًا أو تتعلم سياسات تهدف إلى تحقيق نتيجة محددة. ويطرح هذا الانتقال مشكلة كيفية تحديد الهدف الذي ينبغي للنظام السعي إليه.