Обучение

Лекции по машинному обучению. Разбираем по-человечески: простая модель, её математика, где она ломается и что приходит на смену.

Однослойный перцептрон

От биологической идеи до глубокого обучения: модель, правило обучения, теорема сходимости, проблема XOR и скрытые слои, работающий код.

читать →

Математический аппарат линейного внимания

Что нужно знать, чтобы понять линейное внимание (Kimi DeltaNet): векторы и скалярное произведение, сложность O(n) и O(n²), ворота, рекуррентное состояние, поэлементное умножение.