وجد Kaplan وزملاؤه (2020) أن خسارة النموذج اللغوي تنخفض وفق قانون قوة سلس بحسب حجم النموذج وحجم مجموعة البيانات والقدرة الحاسوبية — ما يتيح للباحثين التنبؤ بالأداء قبل التدريب. ثم صقل Hoffmann وزملاؤه (2022)، في ورقة «Chinchilla»، هذه النتيجة، فأظهروا أن معظم النماذج الكبيرة لم تكن مدرَّبة بما يكفي، وأن عدد المعاملات ورموز التدريب ينبغي أن يزدادا معًا تقريبًا ضمن ميزانية حوسبة معيّنة.
تفسّر قوانين التوسّع سعي هذا المجال إلى نماذج أكبر فأكبر ومجموعات بيانات أكبر فأكبر — وكيفية توزيع الميزانية بينهما.