أكثر سوء فهم ذو تأثير حول نماذج اللغة الكبيرة هو الاعتقاد بأنها "تعرف" الأشياء بالطريقة التي يعرف بها محرك بحث أو قاعدة بيانات. إنها لا تفعل ذلك. فهم ما تفعله فعلاً — التنبؤ بالكلمة التالية الأكثر احتمالاً إحصائياً، مراراً وتكراراً — يفسّر تقريباً كل شيء غريب تفعله: الإجابات الخاطئة الواثقة، والتناقض بين سؤالين شبه متطابقين، ولماذا يوصلك أمر من خمس كلمات وأمر من خمس فقرات إلى نفس النتيجة أحياناً.
إنه إكمال تلقائي، لكن أكبر بكثير
لقد استخدمت نسخة أضعف من هذه التقنية بالفعل: النص التنبؤي في هاتفك الذي يقترح الكلمة التالية أثناء الكتابة. اكتب "عاصمة فرنسا هي" وسيقترح على الأرجح "باريس" — ليس لأن هاتفك "يعرف" الجغرافيا، بل لأن هذه الكلمة تتبع تلك العبارة باستمرار في النصوص التي تعلّم منها. يفعل نموذج اللغة الكبير الشيء نفسه، لكن بمقياس يصعب مقارنته بأي شيء آخر: مُدرَّب على شريحة ضخمة من النصوص المتاحة للعموم، ومصمم ليزن ليس فقط الكلمة الأخيرة بل صلة كل ما كتبته حتى الآن، القريب والبعيد، عند التنبؤ بما يأتي بعده.
هذا كل ما في الأمر. هذه هي الآلية. لا يوجد بحث يحدث، ولا قاعدة بيانات يُستعلَم عنها، ولا خطوة للتحقق من الحقائق. كل إجابة هي فعل معقّد جداً من نوع "ما الكلمة الأكثر ترجيحاً أن تأتي بعد ذلك، بالنظر لكل شيء سبق".
لماذا يفسّر هذا الإخفاقات الغريبة
اسأل نموذج لغة عن موضوع موثّق جيداً — حدث تاريخي كبير، مفهوم برمجي شائع، كيف يعمل التمثيل الضوئي — وسيكون محقاً غالباً، لأن الاستمرار المعقول والاستمرار الصحيح يكونان نفس الشيء تقريباً دائماً عندما يكون الموضوع ممثَّلاً بكثافة في بيانات تدريبه. اسأله عن قضية قانونية محددة، أو تاريخ تاريخي نادر، أو ورقة أكاديمية متخصصة، ونمط الفشل يختلف: لن يقول "لا تتوفر لدي معلومات كافية". سينتج استمراراً يبدو معقولاً على أي حال — اسم قضية يبدو حقيقياً، تاريخاً يبدو محدداً — لأن "الشيء الذي يبدو معقولاً" هو الشيء الوحيد الذي صُمم لإنتاجه أصلاً. إنه لا يكذب، لأن الكذب يتطلب معرفة الحقيقة وقول شيء آخر. إنه يفعل بالضبط ما يفعله في كل مكان آخر؛ الفرق هنا أن "المعقول" و"الصحيح" قد افترقا.
لماذا يبدو ذكياً رغم ذلك
هذا ليس سبباً لتجاهل هذه الأدوات — نفس الآلية التي تنتج اختلاقات واثقة تنتج أيضاً كتابة وشرحاً وتفكيراً مفيداً حقاً، لأن النصوص التي كتبها البشر مليئة بأمثلة على التفكير الجيد والشرح الواضح والحجة الدقيقة، والتنبؤ بـ"كيف يبدو شرح دقيق لهذا" غالباً ما ينتج شرحاً دقيقاً فعلاً. الحيلة هي معرفة أي وضع أنت فيه: بالنسبة للمواضيع الممثَّلة بعمق ووضوح في المعرفة العامة، يتوافق التنبؤ مع الصحة جيداً. أما أي شيء محدد أو حديث أو رقمي أو نادر، فلا يتوافقان.
النموذج الذهني الذي يساعد فعلاً
توقف عن تخيل أمين مكتبة يبحث عن الأشياء. تخيّل بدلاً من ذلك كاتباً قرأ كماً يصعب تخيله، وينتج فوراً الإجابة التي تبدو الأقرب لما سيقوله شخص مطّلع — دون أي خطوة تتحقق مما إذا كانت صحيحة فعلاً. هذا النموذج يخبرك بالضبط متى تثق به كما هو (كتابة المسودات، العصف الذهني، إعادة الصياغة، شرح مفهوم معروف جيداً) ومتى تتحقق مرتين قبل الاعتماد عليه (الاستشهادات، التواريخ، الإحصائيات، وأي شيء قد لا يكون فيه "يبدو صحيحاً" و"هو صحيح" نفس الجملة).