GloVe, від (глобальні вектори), — це одна з моделей для розподіленого представлення слів. Ця модель є алгоритмом некерованого навчання для отримування векторних представлень слів. Це досягається відображенням слів до змістовного простору, в якому відстань між словами пов'язано з семантичною подібністю. Тренування виконується на агрегованій глобальній статистиці попарної слів корпусу, а отримувані в результаті представлення демонструють цікаві лінійні підструктури векторного простору слів. Її розроблюють як відкритий проєкт у Стенфорді.GloVe: Global Vectors for Word Representation (pdf) «Ми використовуємо наші ідеї для побудови нової моделі для представлення слів, яку ми називаємо GloVe, від (глобальні вектори), оскільки ця модель безпосередньо фіксує глобальну статистику корпусу.» Як логарифмічно-білінійна регресійна модель для некерованого навчання представлень слів, вона поєднує властивості двох сімейств моделей, а саме, методів глобального розкладу матриць, та локального контекстного вікна.
Застосування
GloVe можливо використовувати, щоби знаходити зв'язки між словами, такі як синоніми, відношення «компанія — продукт», поштових індексів та міст тощо. Її також використовує модель spaCy, щоби будувати семантичні вкладення слів/вектори ознак під час обчислення найкращих відповідних слів за такими мірами відстані як косинусна подібність та підхід евклідової відстані. Її також використовували як систему представлення слів для онлайнових та автономних систем, розроблених для виявляння психічних розладів в опитуваннях пацієнтів.
Історія Її було запущено 2014 року.
Див. також Word2vec fastText Обробка природної мови
Примітки
Посилання GloVe Deeplearning4j GloVe