القاهرة – فاطمة محمد:
وفقًا لدراسة جديدة، يمكن لنماذج اللغات الكبيرة أن تخطئ أحيانًا في تعلم الدروس. بدلًا من الإجابة على استفسار قائم على معرفة المجال، قد تجيب نماذج اللغات الكبيرة بالاستفادة من الأنماط النحوية التي تعلمتها أثناء التدريب. وقد أظهرت تجارب الباحثين أنه حتى أقوى نماذج اللغات الكبيرة قد ترتكب هذا الخطأ.قد يُقلل هذا العيب من موثوقية نماذج اللغات الكبيرة التي تُؤدي مهامًا مثل التعامل مع استفسارات العملاء، وتلخيص الملاحظات السريرية، وإعداد التقارير المالية.كما قد ينطوي على مخاطر تتعلق بالسلامة. يمكن لمُجرمٍ استغلال هذا الأمر لخداع نماذج اللغات الكبيرة لإنتاج محتوى ضار، حتى عندما تكون النماذج مُزودة بضمانات لمنع مثل هذه الاستجابات.بعد تحديد هذه الظاهرة واستكشاف آثارها، طوّر الباحثون إجراءً معياريًا لتقييم اعتماد النموذج على هذه الارتباطات غير الصحيحة. يمكن أن يُساعد هذا الإجراء المُطورين على التخفيف من حدة المشكلة قبل نشر نماذج اللغات الكبيرة.تقول مرزيه قاسمي، الأستاذة المُشاركة في قسم الهندسة الكهربائية وعلوم الحاسوب بمعهد ماساتشوستس للتكنولوجيا، المؤلفة الرئيسية للدراسة: “هذا نتيجة ثانوية لكيفية تدريب النماذج، ولكن تُستخدم النماذج الآن عمليًا في مجالات بالغة الأهمية للسلامة”.عالقة في بناء الجملةتتدرب نماذج اللغات الكبيرة على كم هائل من النصوص من الإنترنت. خلال عملية التدريب هذه، يتعلم النموذج فهم العلاقات بين الكلمات والعبارات، وهي المعرفة التي يستخدمها لاحقًا عند الرد على الاستفسارات.في عمل سابق، وجد الباحثون أن نماج اللغات الكبيرة تلتقط أنماطًا في أجزاء الكلام التي تظهر معًا بشكل متكرر في بيانات التدريب. ويطلقون على هذه الأنماط الخاصة بأجزاء الكلام اسم “القوالب النحوية”.
