قابلية التفسير الميكانيكي

الخلفية التاريخية

علاوةً على ذلك، وجاء التيار الثالث من أبحاث سلامة الذكاء الاصطناعي. احتاج الباحثون إلى طرق تكشف ما تمثله الشبكات العصبونية داخليًا، خصوصًا مع صعود التعلم العميق والنماذج اللغوية الكبيرة. وعكس برنامج «إكس إيه آي» ، الذي أطلقته داربا اهتمامًا مؤسسيًا بالنماذج القابلة للفهم.

كذلك، جاء التيار الثاني من الرؤية الحاسوبية، ومن الشبكات العصبونية الالتفافية. ففي سنة 2014 درس ماثيو زايلر وروب فيرغس في جامعة نيويورك الطبقات الداخلية للشبكات البصرية. بيّن البحث كيف تستجيب بعض الوحدات للحواف، والألوان، والأشكال، والأنسجة.

في هذا الإطار، وفي سنة 2020 نشر كريس أولاه ونيك كاماراتا وغابرييل غوه ومايكل بيتروف ولودفيغ شوبرت مقالة «التقريب: مدخل إلى الدوائر» في «ديستِل» . عرضت المقالة فكرة مركزية. فالسمات داخل الشبكات لا تعمل منفردة، بل تتصل معًا في «دوائر» تؤدي وظائف محددة.

وعلى صعيد آخر، نشأت القابلية التفسيرية الميكانيكية من ثلاثة تيارات رئيسية. جاء التيار الأول من الذكاء الاصطناعي القابل للتفسير، وهو تعريب للمصطلح الإنجليزي ، وتنقحر عبارته اختصارًا إلى «إكس إيه آي» . حاول هذا التيار فهم أسباب قرارات نماذج تعلم الآلة. وظهر مثال واضح سنة 2016 في عمل ماركو توليو ريبيرو، وسمير سينغ، وكارلوس غسترين عن «لايم» ، التفسيرات المحلية المستقلة عن النموذج . يشرح هذا الأسلوب قرار النموذج عبر تفسير محلي مبسط.

إضافةً إلى ذلك، وفي سنة 2022 ظهر عمل «نماذج مصغرة للتراكب» . درس البحث ظاهرة التراكب، أي قدرة النموذج على تمثيل سمات كثيرة داخل عدد محدود من الأبعاد. ساعد هذا العمل في تفسير سبب حمل الوحدة الواحدة أكثر من معنى.

إضافةً إلى ذلك، وفي سنة 2021 نقلت سلسلة «دوائر المحولات» هذه الفكرة إلى معالجة اللغات الطبيعية ونماذج اللغة. درس باحثو أنثروبيك بنية المحولات، ورؤوس الانتباه، ومسارات انتقال المعلومة داخل النموذج.

علاوةً على ذلك، وفي سنة 2024 نشرت أنثروبيك عمل «توسيع أحادية المعنى» عن نموذج «كلود 3 سونِت» . استخرج الباحثون ملايين السمات القابلة للتفسير من نموذج إنتاجي كبير. مثّل هذا العمل انتقال المجال من النماذج الصغيرة إلى نماذج كبيرة مستعملة في المنتجات.

إضافةً إلى ذلك، بدأت الصياغة الحديثة للمجال مع كريس أولاه وزملائه. ففي سنة 2017 نشر أولاه وألكسندر موردفينتسيف ولودفيغ شوبرت مقالة «تصوير السمات» في مجلة «ديستِل» . شرحت المقالة طريقة تصور السمات التي تبحث عنها الشبكة.

من جهة ثانية، وفي سنة 2023 نشرت أنثروبيك عمل «نحو أحادية المعنى» . استعمل الباحثون التعلم القاموسي، وهو تعريب ، والمشفرات الذاتية المتناثرة، وهي تعريب ، لاستخراج سمات أوضح من تنشيطات النموذج. نقل هذا العمل التركيز من العصبون المفرد إلى السمة القابلة للتفسير.

التعلم المعزز من ردود الفعل البشرية

• هلوسة (ذكاء اصطناعي)
• سلامة الذكاء الاصطناعي
• مشكلة التحكم في الذكاء الاصطناعي
• الخطر الوجودي من الذكاء الاصطناعي
• تحيز خوارزمي
• سببية
• جبر خطي
• مصفوفة
• متجهة
• نظرية المعلومات
• خوارزمية
• علوم الحاسوب
• علم الأعصاب

نموذج لغوي كبير

• محول (تعلم الآلة)
• محول مولد مسبق التدريب
• نموذج الأساس
• معالجة اللغة الطبيعية
• تعليم ذاتي الإشراف

البنية التقنية

في هذا الإطار، تتعامل القابلية التفسيرية الميكانيكية مع النموذج اللغوي الكبير مثل آلة رقمية كبيرة. تدخل الكلمة أو الصورة أو الرمز إلى النموذج. تتحول إلى رقم. ثم يتحول الرقم إلى متجه. يدخل هذا المتجه إلى طبقات كثيرة. كل طبقة تغيّر المتجه قليلًا. وتستعمل الطبقة مصفوفات وأوزانًا وقيمًا عددية. لذلك يعتمد المجال على الجبر الخطي والاحتمال والإحصاء والتعلم العميق.

في نموذج اللغة ينتج النموذج احتمالًا للكلمة التالية:

وفي هذا الصدد، يعني هذا أن النموذج يحسب: ما الكلمة المناسبة بعد الكلمات السابقة؟ ثم يعطي لكل كلمة احتمالًا. كلمة قد تحصل على احتمال عال. وكلمة أخرى تحصل على احتمال منخفض. ويحاول الباحث معرفة الجزء الداخلي الذي رفع احتمال الكلمة الصحيحة.

ومن جهة أخرى، في نماذج اللغة الحديثة توجد آلية مهمة تسمى الانتباه. الانتباه يجعل كل كلمة تنظر إلى كلمات أخرى في الجملة. لذلك يستطيع النموذج ربط الضمير بالاسم. ويستطيع نسخ كلمة سابقة. ويستطيع معرفة علاقة بين موضعين في النص. تبدأ آلية الانتباه من ثلاث مصفوفات: الاستعلامات، والمفاتيح، والقيم:

ومن جهة أخرى، الوزن رقم يحدد قوة العلاقة بين جزء وجزء. والتنشيط رقم يوضح نشاط جزء داخل النموذج. والطبقة مرحلة من مراحل المعالجة. وفي النهاية يظهر الناتج في صورة كلمة أو جواب أو تصنيف أو توقع.

وعلى صعيد آخر، يمثل الكلمة الصحيحة. ويمثل كلمة منافسة. فإذا انخفض بعد تعطيل جزء معين، فهذا الجزء ساعد في اختيار الكلمة الصحيحة. وإذا ارتفع بعد تقوية اتجاه معين، فهذا الاتجاه يحمل معلومة مفيدة.

وفي هذا الصدد، يعتمد البحث على السببية. يختار الباحث سلوكًا واضحًا. مثل نسخ كلمة أو إكمال نمط أو اختيار جواب. ثم يشغل النموذج ويسجل التنشيطات الداخلية. لاحقًا يتدخل داخل النموذج. قد يعطل رأس انتباه. وقد يستبدل تنشيطًا. وقد يضيف اتجاهًا معينًا إلى المتجه. فإذا تغيّر الجواب، يصبح هذا الجزء مهمًا. وإذا انخفض احتمال الكلمة الصحيحة، يصبح الجزء مرشحًا لدور سببي. تسمى هذه الطريقة ترقيع التنشيط أو التتبع السببي.

ومن جهة أخرى، يعني مصفوفة الأوزان. ويعني الانحياز. والمصفوفة تغيّر المتجه. والانحياز يضيف زحزحة عددية. ثم تمر النتيجة عبر دالة تفعيل:

وفي هذا الصدد، توجد مشكلة مهمة اسمها التراكب. تعني أن العصبون الواحد قد يحمل أكثر من معنى. قد يستجيب العصبون لمفهومين أو أكثر. يحدث ذلك لأن النموذج يحاول ضغط معلومات كثيرة داخل أبعاد محدودة. لذلك يميز الباحثون بين العصبون والسمة. العصبون وحدة عددية داخل الشبكة. أما السمة فهي معنى أو نمط داخلي. وقد تتوزع السمة على عصبونات كثيرة. وقد تظهر كاتجاه داخل فضاء المتجهات. وقد تستخرجها أدوات مثل التعلم القاموسي والمشفرات الذاتية المتناثرة.

وفي هذا الصدد، تعني هذه الصيغة أن كل كلمة تعطي وزنًا مختلفًا للكلمات الأخرى. كلمة مهمة تأخذ وزنًا عاليًا. وكلمة أقل أهمية تأخذ وزنًا أقل. لذلك يدرس الباحث رأس الانتباه كأنه طريق لنقل المعلومة داخل النموذج.

في هذا الإطار، يعني حالة النموذج في الطبقة رقم . ويعني عدد الأبعاد. وكل بعد خانة صغيرة تحمل جزءًا من المعنى. ثم تغيّر الطبقة هذه الحالة بالصيغة:

يمكن تمثيل حالة طبقة معينة بالرمز:

كذلك، يمثل ما تبحث عنه الكلمة. ويمثل ما تعرضه الكلمات الأخرى. ويمثل المعلومة التي تنتقل. ثم يحسب النموذج الانتباه بهذه الصيغة:

وفي هذا الصدد، تجعل دالة التفعيل بعض القيم أقوى وبعضها أضعف. وبهذا تنتقل المعلومة من طبقة إلى طبقة.

يمكن قياس ذلك عبر فرق اللوغيت:

التعريف

وفي السياق ذاته، يستعمل الباحثون في هذا المجال ألفاظًا مثل فتح الصندوق الأسود، والدوائر، والتروس الرقمية، والمسارات السببية، واتجاهات المتجهات، والتمثيلات الداخلية، والهندسة العكسية. تحمل هذه الألفاظ وظيفة اصطلاحية. فهي تجعل النموذج أقرب إلى آلة عددية ذات أجزاء ووظائف ومسارات. ويصبح السلوك الظاهر نتيجة لمسار داخلي. ويصبح التفسير الجيد وصفًا لهذا المسار. لذلك يرتبط المجال بالتعلم الآلي، ومعالجة اللغات الطبيعية، وعلم الدلالة، والإحصاء، والاحتمال، وتضمين الكلمات، وتقليص الأبعاد. وتظهر أهميته في النماذج اللغوية الكبيرة لأن هذه النماذج تحول اللغة الطبيعية إلى تمثيلات عددية، ثم تعالجها عبر طبقات متتابعة، ثم تنتج كلمة أو حكمًا أو تصنيفًا.

علاوةً على ذلك، تتعامل القابلية التفسيرية الميكانيكية مع النموذج اللغوي الكبير أو الشبكة العصبونية الاصطناعية بوصفه نظامًا حسابيًا ذا بنية داخلية قابلة للفك والتحليل. يقوم هذا المجال على الطبقة، والوزن، والتنشيط، والتمثيل، والاتجاه، والمتجه، والمصفوفة، والدائرة، والمسار السببي، والخوارزمية الداخلية. تشير الطبقة إلى مستوى من المعالجة داخل الشبكة. ويشير الوزن إلى قيمة عددية تضبط قوة العلاقة بين الوحدات. ويشير التنشيط إلى الحالة العددية التي تظهر داخل الوحدة بعد استقبال الإشارة. ويشير التمثيل إلى الصورة العددية التي يحمل بها النموذج معلومة عن كلمة أو معنى أو علاقة. ويشير اتجاه المتجه إلى محور دلالي أو وظيفي داخل فضاء التمثيل. وتعمل المصفوفات وعمليات الجبر الخطي على نقل هذه التمثيلات بين الطبقات.

كذلك، تبدأ القابلية التفسيرية الميكانيكية من الوحدات الصغيرة داخل التعلم العميق. تشمل هذه الوحدات العصبونات الاصطناعية، والأوزان، والتنشيطات، ورؤوس الانتباه، واتجاهات المتجهات. ثم تنتقل إلى وحدات تفسيرية أوسع. تشمل هذه الوحدات السمة، والدائرة، والمسار، والتمثيل الداخلي، والخوارزمية الكامنة. تعني السمة خاصية يتعرف عليها النموذج داخل البيانات. وتعني الدائرة مجموعة أجزاء تتعاون لإنتاج وظيفة محددة. ويعني المسار السببي طريق انتقال المعلومة من جزء إلى آخر داخل النموذج. ويعني التفسير الميكانيكي ربط جزء داخلي من النموذج بسلوك ظاهر عبر علاقة سببية قابلة للفحص.

نقد

• انظر كذلك
• ذكاء اصطناعي
• ذكاء اصطناعي قابل للتفسير
• تعلم الآلة
• تعلم عميق
• شبكة عصبونية اصطناعية

وفي هذا الصدد، يدفع هذا النقد المجال نحو معايير أوضح. تشمل هذه المعايير القدرة على التنبؤ بأثر تدخل جديد، والقدرة على تعميم التفسير على أمثلة جديدة، والقدرة على ضغط السلوك في فرضية أبسط، والقدرة على قياس درجة كفاية الدائرة المكتشفة. وتظهر أعمال مثل التجريد السببي والحك السببي في هذا السياق لأنها تحاول جعل الاختبار أكثر صرامة.

في هذا الإطار، يتعرض المجال لعدة انتقادات. يرى بعض الباحثين أن التفاسير الميكانيكية قد تصبح وصفية أكثر من كونها تنبؤية إذا لم تقترن باختبارات قوية. ويرى آخرون أن التركيز على دوائر صغيرة قد لا يكفي لفهم سلوك واسع يظهر من تفاعل ملايين المكونات. كما يشير بعض النقاد إلى أن تسمية السمات قد تعتمد على حدس الباحث، وأن التفسيرات الجميلة قد تخفي تعقيدًا متبقيًا.