Закон уплотнения LLM: способности на один параметр удваиваются каждые 3,5 месяца
Новая метрика «плотности способностей» показывает, что эффективность больших языковых моделей растёт экспоненциально: максимум удваивается примерно раз в 3,5 месяца. Это меняет стратегию разработки — от наращивания параметров к «плотностно-оптимальному» обучению.