miniaturadaimagem|Verificação da Lei de Heaps em Guerra e Paz, bem como uma versão embaralhada aleatoriamente. Ambos os casos se ajustam bem à Lei de Heaps com expoentes β muito semelhantes, mas K diferentes. miniaturadaimagem|Um diagrama esquemático da lei de Heaps. O eixo x representa o tamanho do texto e o eixo y representa o número de elementos de vocabulário distintos presentes no texto. Compare os valores dos dois eixos. A Lei de Heaps, também chamada de Lei de Herdan, é uma lei empírica que descreve o crescimento do número de palavras distintas em função do tamanho de um texto. A relação entre o número de tipos e o número de ocorrências de palavras em um corpus é conhecida como relação tipo-token.
Origem e relação com a Lei de Zipf A formulação é frequentemente atribuída a Harold Stanley Heaps, mas foi apresentada originalmente por Gustav Herdan em 1960. Sob certas condições, a lei de Herdan-Heaps é assintoticamente equivalente à lei de Zipf, que descreve a distribuição de frequências de palavras. A lei é preservada mesmo quando um texto é embaralhado aleatoriamente, indicando que ela depende apenas das frequências de ocorrência e não da ordem das palavras. Essa característica é usada como evidência para derivar a lei de Heaps da lei de Zipf.
Definição e formulação A lei pode ser expressa como
,
onde VR é o número de palavras distintas em um texto de comprimento n, e K e β são parâmetros determinados empiricamente. Em corpora de língua inglesa, K costuma variar entre 10 e 100, e β entre 0,4 e 0,6.
Implicações e aplicações A lei de Heaps também se aplica a contextos fora da linguística. Em amostras de pessoas, por exemplo, os tipos podem corresponder a países de origem: a maioria aparece rapidamente, mas torna-se cada vez mais difícil cobrir todos apenas aumentando a amostra. Na biologia, a lei foi observada em transcriptomas de células únicas, considerando os genes como os termos distintos do vocabulário.
Textos gerados por LLMs, como GPT-Neo, seguem a Lei de Heaps, mas com vocabulário crescendo mais rápido que em textos humanos. Modelos maiores se aproximam mais do padrão humano, mostrando que a lei é útil para analisar tanto linguagem natural quanto sintética.
Categoria:Teoria linguística