LassoLarsIC

класс sklearn.linear_model.LassoLarsIC(критерий='aic', *, fit_intercept=True, verbose=False, precompute='auto', max_iter=500, eps=np.float64(2.220446049250313e-16), copy_X=True, положительный=False, дисперсия_шума=None)

Модель Lasso, обученная с помощью Lars с использованием BIC или AIC для выбора модели.

Целевая функция оптимизации для Lasso:

(1 / (2 * n_samples)) * ||y - Xw||^2_2 + alpha * ||w||_1

AIC — это информационный критерий Акаике [2] и BIC - это байесовский информационный критерий [3]. Такие критерии полезны для выбора значения параметра регуляризации, делая компромисс между качеством подгонки и сложностью модели. Хорошая модель должна хорошо объяснять данные, оставаясь простой.

Подробнее в Руководство пользователя.

Параметры:

критерий{‘aic’, ‘bic’}, по умолчанию=’aic’

Тип критерия для использования.

fit_interceptbool, по умолчанию=True

Вычислять ли свободный член для этой модели. Если установлено false, свободный член не будет использоваться в вычислениях (т.е. ожидается, что данные центрированы).

verbosebool или int, по умолчанию=False

Устанавливает уровень подробности вывода.

precomputebool, 'auto' или array-like, по умолчанию='auto'

Использовать ли предварительно вычисленную матрицу Грама для ускорения вычислений. Если установлено в 'auto' пусть мы решим. Матрица Грама также может быть передана в качестве аргумента.

max_iterint, по умолчанию=500

Максимальное количество итераций для выполнения. Может использоваться для ранней остановки.

epsfloat, по умолчанию=np.finfo(float).eps

Регуляризация с машинной точностью в вычислении диагональных факторов Холецкого. Увеличьте это для очень плохо обусловленных систем. В отличие от tol параметр в некоторых итеративных алгоритмах на основе оптимизации, этот параметр не контролирует допуск оптимизации.

copy_Xbool, по умолчанию=True

Если True, X будет скопирован; иначе, он может быть перезаписан.

положительныйbool, по умолчанию=False

Ограничить коэффициенты быть >= 0. Учтите, что вы можете захотеть удалить fit_intercept, который по умолчанию установлен в True. При положительном ограничении коэффициенты модели не сходятся к решению обычного метода наименьших квадратов для малых значений alpha. Только коэффициенты до наименьшего значения alpha (alphas_[alphas_ > 0.].min() когда fit_path=True) достигаемые пошаговым алгоритмом Lars-Lasso обычно соответствуют решению оценщика Lasso с координатным спуском. Следовательно, использование LassoLarsIC имеет смысл только для задач, где ожидается и/или достигается разреженное решение.

дисперсия_шумаfloat, по умолчанию=None

Оцененная дисперсия шума данных. Если None, несмещённая оценка вычисляется с помощью модели OLS. Однако это возможно только в случае, когда n_samples > n_features + fit_intercept.

Добавлено в версии 1.1.

Атрибуты:

coef_массивоподобный формы (n_features,)

вектор параметров (w в формуле)

intercept_float

независимый член в функции принятия решений.

alpha_float

параметр alpha, выбранный информационным критерием

alphas_array-like формы (n_alphas + 1,) или список таких массивов

Максимум ковариаций (по абсолютному значению) на каждой итерации. n_alphas является либо max_iter, n_features или количество узлов в пути с alpha >= alpha_min, в зависимости от того, что меньше. Если список, он будет длины n_targets.

n_iter_int

количество итераций, выполненных lars_path для поиска сетки альфа.

criterion_array-like формы (n_alphas,)

Значение информационных критериев ('aic', 'bic') для всех альфа. Альфа с наименьшим информационным критерием выбирается, как указано в [1].

noise_variance_float

Оцененная дисперсия шума из данных, используемых для вычисления критерия.

Добавлено в версии 1.1.

n_features_in_int

Количество признаков, замеченных во время fit.

Добавлено в версии 0.24.

feature_names_in_ndarray формы (n_features_in_,)

Имена признаков, наблюдаемых во время fit. Определено только когда X имеет имена признаков, которые все являются строками.

Добавлено в версии 1.0.

Смотрите также

lars_path

Вычислить путь регрессии наименьших углов или Lasso с использованием алгоритма LARS.

lasso_path

Вычислить путь Lasso с координатным спуском.

Lasso

Линейная модель, обученная с априорным распределением L1 в качестве регуляризатора (также известная как Lasso).

LassoCV

Лассо линейная модель с итеративной подгонкой вдоль пути регуляризации.

LassoLars

Модель Lasso, обученная с использованием метода наименьших углов, также известного как Lars.

LassoLarsCV

Лассо с кросс-валидацией, использующий алгоритм LARS.

sklearn.decomposition.sparse_encode

Разреженное кодирование.

Примечания

Число степеней свободы вычисляется как в [1].

Для получения более подробной информации относительно математической формулировки критериев AIC и BIC, пожалуйста, обратитесь к Руководство пользователя.

Ссылки

[1] (1,2)

Zou, Hui, Trevor Hastie, and Robert Tibshirani. "On the degrees of freedom of the lasso." The Annals of Statistics 35.5 (2007): 2173-2192.

[2]

Запись в Википедии об информационном критерии Акаике

[3]

Запись в Википедии о байесовском информационном критерии

Примеры

>>> from sklearn import linear_model
>>> reg = linear_model.LassoLarsIC(criterion='bic')
>>> X = [[-2, 2], [-1, 1], [0, 0], [1, 1], [2, 2]]
>>> y = [-2.2222, -1.1111, 0, -1.1111, -2.2222]
>>> reg.fit(X, y)
LassoLarsIC(criterion='bic')
>>> print(reg.coef_)
[ 0.  -1.11]

Подробный пример использования этого класса см. в Выбор модели Lasso с помощью информационных критериев.

fit(X, y, copy_X=None)

Обучите модель, используя X, y в качестве обучающих данных.

Параметры:

Xarray-like формы (n_samples, n_features)

Обучающие данные.

yarray-like формы (n_samples,)

Целевые значения. Будут приведены к типу данных X при необходимости.

copy_Xbool, по умолчанию=None

Если предоставлен, этот параметр переопределит выбор copy_X, сделанный при создании экземпляра. Если True, X будет скопирован; иначе, он может быть перезаписан.

Возвращает:

selfobject

Возвращает экземпляр self.

6332()

Получить маршрутизацию метаданных этого объекта.

Пожалуйста, проверьте Руководство пользователя о том, как работает механизм маршрутизации.

Возвращает:

маршрутизацияMetadataRequest

A MetadataRequest Инкапсуляция информации о маршрутизации.

get_params(глубокий=True)

Получить параметры для этого оценщика.

Параметры:

глубокийbool, по умолчанию=True

Если True, вернет параметры для этого оценщика и вложенных подобъектов, которые являются оценщиками.

Возвращает:

paramsdict

Имена параметров, сопоставленные с их значениями.

predict(X)

Прогнозирование с использованием линейной модели.

Параметры:

Xмассивоподобный или разреженная матрица, форма (n_samples, n_features)

Образцы.

Возвращает:

Cмассив, формы (n_samples,)

Возвращает предсказанные значения.

score(X, y, sample_weight=None)

Возвращает коэффициент детерминации на тестовых данных.

Коэффициент детерминации, \(R^2\), определяется как \((1 - \frac{u}{v})\), где \(u\) является остаточной суммой квадратов ((y_true - y_pred)** 2).sum() и \(v\) является общей суммой квадратов ((y_true - y_true.mean()) ** 2).sum()Лучший возможный результат - 1.0, и он может быть отрицательным (потому что модель может быть сколь угодно хуже). Постоянная модель, которая всегда предсказывает ожидаемое значение y, игнорируя входные признаки, получит \(R^2\) оценка 0.0.

Параметры:

Xarray-like формы (n_samples, n_features)

Тестовые выборки. Для некоторых оценщиков это может быть предварительно вычисленная матрица ядра или список общих объектов вместо этого с формой (n_samples, n_samples_fitted), где n_samples_fitted — это количество образцов, использованных при обучении оценщика.

yarray-like формы (n_samples,) или (n_samples, n_outputs)

Истинные значения для X.

sample_weightarray-like формы (n_samples,), по умолчанию=None

Веса выборок.

Возвращает:

scorefloat

\(R^2\) of self.predict(X) относительно y.

Примечания

The \(R^2\) оценка, используемая при вызове score на регрессоре использует multioutput='uniform_average' с версии 0.23 для сохранения согласованности со значением по умолчанию r2_score. Это влияет на score метод всех многомерных регрессоров (кроме MultiOutputRegressor).

set_fit_request(*, copy_X: bool | None | str = '$UNCHANGED$') → LassoLarsIC

Настроить, следует ли запрашивать передачу метаданных в fit метод.

Обратите внимание, что этот метод актуален только тогда, когда этот оценщик используется как под-оценщик внутри мета-оценщик и маршрутизация метаданных включена с помощью enable_metadata_routing=True (см. sklearn.set_config). Пожалуйста, проверьте Руководство пользователя о том, как работает механизм маршрутизации.

Варианты для каждого параметра:

• True: запрашиваются метаданные и передаются fit если предоставлено. Запрос игнорируется, если метаданные не предоставлены.

• False: метаданные не запрашиваются, и мета-оценщик не передаст их в fit.

• None: метаданные не запрашиваются, и мета-оценщик выдаст ошибку, если пользователь предоставит их.

• str: метаданные должны передаваться мета-оценщику с этим заданным псевдонимом вместо исходного имени.

По умолчанию (sklearn.utils.metadata_routing.UNCHANGED) сохраняет существующий запрос. Это позволяет изменять запрос для некоторых параметров, но не для других.

Добавлено в версии 1.3.

Параметры:

copy_Xstr, True, False или None, по умолчанию=sklearn.utils.metadata_routing.UNCHANGED

Маршрутизация метаданных для copy_X параметр в fit.

Возвращает:

selfobject

Обновленный объект.

set_params(**params)

Установить параметры этого оценщика.

Метод работает как на простых оценщиках, так и на вложенных объектах (таких как Pipeline). Последние имеют параметры вида __ чтобы можно было обновить каждый компонент вложенного объекта.

Параметры:

**paramsdict

Параметры оценщика.

Возвращает:

selfэкземпляр estimator

Экземпляр оценщика.

set_score_request(*, sample_weight: bool | None | str = '$UNCHANGED$') → LassoLarsIC

Настроить, следует ли запрашивать передачу метаданных в score метод.

Обратите внимание, что этот метод актуален только тогда, когда этот оценщик используется как под-оценщик внутри мета-оценщик и маршрутизация метаданных включена с помощью enable_metadata_routing=True (см. sklearn.set_config). Пожалуйста, проверьте Руководство пользователя о том, как работает механизм маршрутизации.

Варианты для каждого параметра:

• True: запрашиваются метаданные и передаются score если предоставлено. Запрос игнорируется, если метаданные не предоставлены.

• False: метаданные не запрашиваются, и мета-оценщик не передаст их в score.

• None: метаданные не запрашиваются, и мета-оценщик выдаст ошибку, если пользователь предоставит их.

• str: метаданные должны передаваться мета-оценщику с этим заданным псевдонимом вместо исходного имени.

По умолчанию (sklearn.utils.metadata_routing.UNCHANGED) сохраняет существующий запрос. Это позволяет изменять запрос для некоторых параметров, но не для других.

Добавлено в версии 1.3.

Параметры:

sample_weightstr, True, False или None, по умолчанию=sklearn.utils.metadata_routing.UNCHANGED

Маршрутизация метаданных для sample_weight параметр в score.

Возвращает:

selfobject

Обновленный объект.

Примеры галереи

Выбор модели Lasso с помощью информационных критериев

Выбор модели Lasso с помощью информационных критериев

Выбор модели Lasso: AIC-BIC / перекрёстная проверка

Выбор модели Lasso: AIC-BIC / перекрёстная проверка