Некоторый контент в этом руководстве аналогичен тому, который я поделился в разделе Краткий обзор учебного пособия по NeurIPS 2021 | Самоконтролируемое обучение: самопрогнозирование и контрастное обучение . Оба учебника содержат исчерпывающие обновления по обучению с самостоятельным наблюдением и контрастному обучению, а этот учебник NAACL 2022 больше фокусируется на применении контрастного обучения в НЛП. Пожалуйста, ознакомьтесь с моим последним постом, так как я не буду подробно..

Что такое контрастное обучение? Сравнительное обучение — это тип обучения без учителя, при котором изучаются представления данных путем сравнения похожих и непохожих примеров. Цель состоит в том, чтобы научиться представлять данные таким образом, чтобы похожие экземпляры располагались близко друг к другу в пространстве представления, а разнородные экземпляры находились далеко друг от друга. Как работает контрастное обучение? Это похоже на то, как люди познают окружающий мир. Когда..