Глоссарий терминов

Компромисс между смещением и дисперсией модели: снижение одного параметра ведёт к росту другого, а оптимальная сложность минимизирует общую ошибку.

Dropout - метод регуляризации нейронных сетей, при котором во время обучения случайно отключается часть нейронов, чтобы предотвратить переобучение и улучшить обобщающую способность…

Метод регуляризации в машинном обучении, добавляющий к функции потерь штраф за сумму абсолютных значений весов, что обнуляет часть параметров и создаёт разреженные…

Метод регуляризации, который добавляет к функции потерь штраф за большие веса, пропорциональный сумме их квадратов. Снижает переобучение, заставляя модель использовать признаки более…

Метод регуляризации в машинном обучении, который заменяет жёсткие one-hot метки на «мягкие» вероятностные распределения, снижая переобучение и повышая калибровку модели.

Функция активации, преобразующая вектор вещественных чисел в распределение вероятностей. Используется в нейросетях для многоклассовой классификации.

Метод регуляризации в обучении нейросетей, при котором веса модели штрафуются за большие значения, чтобы предотвратить переобучение.

Автоматизация - это выполнение задач без участия человека за счёт технологий, скриптов или ИИ. В AI-контексте - передача рутинных операций нейросетям и…

Функция, применяемая к взвешенной сумме входов нейрона для введения нелинейности в нейронную сеть. Без неё сеть любой глубины эквивалентна одному линейному преобразованию.

Специализированные базы данных для хранения и поиска векторных представлений (эмбеддингов) данных, обеспечивающие семантический поиск для приложений на базе ИИ.

Подпространство размерности n−1 в n-мерном пространстве, которое делит его на две половины и используется как граница принятия решений в линейных классификаторах.

Метод машинного обучения, использующий многослойные нейронные сети для автоматического извлечения признаков из данных.

Итеративный алгоритм оптимизации, который находит минимум функции потерь, делая шаги в направлении, противоположном градиенту.

Метод обучения, при котором компактная модель-ученик перенимает поведение крупной модели-учителя, сохраняя точность при меньших вычислительных затратах.

Метод оценки модели, при котором данные разбиваются на k частей, и модель поочерёдно обучается на k-1 частях и тестируется на оставшейся.

Метрика из теории информации, измеряющая различие между двумя распределениями вероятностей. В машинном обучении используется как функция потерь для задач классификации.

Метод машинного обучения, при котором объекты разделяются на классы с помощью линейной функции — прямой, плоскости или гиперплоскости в пространстве признаков.

Свойство набора данных, при котором классы можно разделить одной прямой (в 2D), плоскостью (в 3D) или гиперплоскостью в пространстве большей размерности.

Статистический метод и алгоритм машинного обучения для бинарной классификации, который предсказывает вероятность принадлежности объекта к одному из двух классов с помощью логистической…

Алгоритм машинного обучения с учителем, который строит разделяющую гиперплоскость с максимальным зазором между классами для классификации и регрессии.