شركة Anthropic، وهي شركة بحثية رائدة في مجال الذكاء الاصطناعي (AI) تأسست من قبل باحثين سابقين في OpenAI، قد نشرت ورقة تفصيلية توضح طريقة جديدة لتفسير العمل الداخلي لنموذجها الكبير للغة، Claude. وقد سمحت هذه الطريقة الابتكارية، المسماة “تعلم القاموس”، للباحثين بتحديد الملايين من الاتصالات، التي يطلقون عليها “الميزات”، داخل شبكة عصبية لكلود، كل منها يمثل مفهومًا معينًا يفهمه الذكاء الاصطناعي.
تمكنت Anthropic من ترويج بعض هذه الميزات للعامة. يمكن لـ Claude إنشاء اتصالات لأشياء مثل جسر Golden Gate إلى مفاهيم مجردة مثل “الصراعات والمعارك الداخلية”، أسماء أشخاص مشهورين مثل ألبرت أينشتاين. هذه القدرة على تلاعب الميزات لإنتاج نتائج مختلفة تشبه تعديل الإعدادات على جهاز معقد أو تنويم شخص. هذا يؤدي في النهاية إلى نموذج أكثر مرونة وطريقة أسهل للقيام بالصيانة التصحيحية عندما يتم العثور على خطأ.
فريق البحث في Anthropic بصدد إيجاد وسيلة جديدة لفك رموز نموذجه الكبير للغة Claude، وهذا البحث يعد خطوة هامة نحو فك شفرة الذكاء الاصطناعي وإلقاء نظرة عميقة على العمليات الإدراكية المعقدة لهذه النماذج المتقدمة. شركة Anthropic قامت بمشاركة النتائج على Claude لأن الشركة تمتلك أوزانه، ولكن يمكن للباحثين المستقلين استخدام الأوزان المفتوحة لأي نموذج آخر وتكييف هذه الطريقة لعمل ضبط دقيق على نموذج جديد أو فهم كيفية معالجة هذه النماذج معلومات.
تقنية تعلم القاموس هي تقنية تكسر عمليات النموذج إلى العديد من الأجزاء السهلة المفهوم باستخدام نوع خاص من الشبكة العصبية المسمى بالبيت المفقود. يساعد هذا الأمر الباحثين على تحديد وفهم “الميزات” أو المكونات الرئيسية داخل النموذج، مما يجعل من الواضح كيف يعمل النموذج وكيف يمثل أفكارًا مختلفة.
وقد أوضحت Anthropic أن هذه القدرة على التلاعب بالميزات لإنتاج نتائج مختلفة تشبه تعديل الإعدادات على جهاز معقد أو تنويم شخص. على سبيل المثال، إذا كان نموذج اللغة مفرطًا في الصحة السياسية، فيمكن تعزيز الميزات التي قد تنشط جانبه الأكثر حماسة بفعالية تحوله إلى نموذج لغة آخر تمامًا، كما لو كان قد تم تدريبه من جديد. ويؤدي ذلك في النهاية إلى نموذج أكثر مرونة، وطريقة أسهل للقيام بالصيانة التصحيحية عند العثور على خلل.
