Раздел: Нейросети
- Эпоха обучения
Один полный проход всего набора обучающих данных через нейросеть, после которого происходит обновление весов модели.
- Температура
Параметр генерации, управляющий степенью случайности выбора следующего токена языковой моделью. Чем выше значение, тем более разнообразным и «креативным» будет ответ, чем ниже…
- Функция активации
Математическая функция, определяющая выход нейрона на основе взвешенной суммы входов и вносящая нелинейность в нейросеть.
- Нейронная сеть
Математическая модель, состоящая из связанных между собой простых вычислительных элементов (нейронов), которая обучается находить закономерности в данных.
- Нейрон
Вычислительная единица искусственной нейросети, которая суммирует взвешенные входные сигналы, добавляет смещение и передаёт результат через функцию активации.