KNeighborsClassifier#

класс sklearn.neighbors.KNeighborsClassifier(n_neighbors=5, *, веса='uniform', алгоритм='auto', leaf_size=30, p=2, метрика='minkowski', metric_params=None, n_jobs=None)[источник]#

Классификатор, реализующий голосование k ближайших соседей.

Подробнее в Руководство пользователя.

Параметры:
n_neighborsint, по умолчанию=5

Количество соседей для использования по умолчанию для kneighbors запросы.

веса{‘uniform’, ‘distance’}, вызываемый или None, по умолчанию=’uniform’

Функция веса, используемая в предсказании. Возможные значения:

  • ‘uniform’ : равномерные веса. Все точки в каждом соседстве взвешиваются одинаково.

  • 'distance' : взвешивать точки обратно пропорционально их расстоянию. в этом случае ближайшие соседи точки запроса будут иметь большее влияние, чем соседи, находящиеся дальше.

  • ndarray типа float формы=(len(list(cv)),)

См. пример под названием Классификация методом ближайших соседей показывая влияние weights параметр на границе принятия решения.

алгоритм{‘auto’, ‘ball_tree’, ‘kd_tree’, ‘brute’}, по умолчанию=’auto’

Алгоритм, используемый для вычисления ближайших соседей:

  • 'ball_tree' будет использовать BallTree

  • 'kd_tree' будет использовать KDTree

  • 'brute' будет использовать поиск методом грубой силы.

  • 'auto' попытается определить наиболее подходящий алгоритм на основе значений, переданных в fit метод.

Примечание: обучение на разреженных входных данных переопределит настройку этого параметра, используя метод грубой силы.

leaf_sizeint, по умолчанию=30

Размер листа, передаваемый в BallTree или KDTree. Это может влиять на скорость построения и запросов, а также на память, требуемую для хранения дерева. Оптимальное значение зависит от характера задачи.

pfloat, по умолчанию=2

Параметр степени для метрики Минковского. При p = 1 это эквивалентно использованию manhattan_distance (l1), а при p = 2 - euclidean_distance (l2). Для произвольного p используется minkowski_distance (l_p). Ожидается, что этот параметр будет положительным.

метрикаstr или callable, по умолчанию='minkowski'

Метрика для вычисления расстояния. По умолчанию “minkowski”, что дает стандартное евклидово расстояние при p = 2. См. документацию scipy.spatial.distance и метрики, перечисленные в distance_metrics для допустимых значений метрик.

Если метрика "precomputed", X считается матрицей расстояний и должна быть квадратной во время подгонки. X может быть разреженный граф, в этом случае только "ненулевые" элементы могут считаться соседями.

Если metric - вызываемая функция, она принимает два массива, представляющих 1D векторы, в качестве входных данных и должна возвращать одно значение, указывающее расстояние между этими векторами. Это работает для метрик Scipy, но менее эффективно, чем передача имени метрики в виде строки.

metric_paramsdict, по умолчанию=None

Дополнительные именованные аргументы для метрической функции.

n_jobsint, default=None

Количество параллельных задач для поиска соседей. None означает 1, если только не в joblib.parallel_backend контекст. -1 означает использование всех процессоров. См. Глоссарий для получения дополнительных подробностей. Не затрагивает fit метод.

Атрибуты:
classes_массив формы (n_classes,)

Метки классов, известные классификатору

effective_metric_str или callable

Используемая метрика расстояния. Она будет такой же, как metric параметр или его синоним, например, 'euclidean', если metric Параметр установлен в ‘minkowski’ и p параметр установлен в 2.

effective_metric_params_dict

Дополнительные ключевые аргументы для функции метрики. Для большинства метрик будут такими же, как в metric_params параметр, но также может содержать p значение параметра, если effective_metric_ атрибут установлен в ‘minkowski’.

n_features_in_int

Количество признаков, замеченных во время fit.

Добавлено в версии 0.24.

feature_names_in_ndarray формы (n_features_in_,)

Имена признаков, наблюдаемых во время fit. Определено только когда X имеет имена признаков, которые все являются строками.

Добавлено в версии 1.0.

n_samples_fit_int

Количество образцов в обученных данных.

outputs_2d_bool

False, когда yформа (n_samples,) или (n_samples, 1) во время обучения, иначе True.

Смотрите также

RadiusNeighborsClassifier

Классификатор на основе соседей в пределах фиксированного радиуса.

KNeighborsRegressor

Регрессия на основе k ближайших соседей.

RadiusNeighborsRegressor

Регрессия на основе соседей в пределах фиксированного радиуса.

NearestNeighbors

Неконтролируемый обучающийся для реализации поиска соседей.

Примечания

См. Ближайшие соседи в онлайн-документации для обсуждения выбора algorithm и leaf_size.

Предупреждение

Что касается алгоритмов ближайших соседей, если обнаружено, что два соседа, сосед k+1 и k, имеют одинаковые расстояния но разные метки, результаты будут зависеть от порядка обучающих данных.

https://en.wikipedia.org/wiki/K-nearest_neighbor_algorithm

Примеры

>>> X = [[0], [1], [2], [3]]
>>> y = [0, 0, 1, 1]
>>> from sklearn.neighbors import KNeighborsClassifier
>>> neigh = KNeighborsClassifier(n_neighbors=3)
>>> neigh.fit(X, y)
KNeighborsClassifier(...)
>>> print(neigh.predict([[1.1]]))
[0]
>>> print(neigh.predict_proba([[0.9]]))
[[0.666 0.333]]
fit(X, y)[источник]#

Обучите классификатор k-ближайших соседей на обучающем наборе данных.

Параметры:
X{array-like, sparse matrix} формы (n_samples, n_features) или (n_samples, n_samples) если metric='precomputed'

Обучающие данные.

y{array-like, sparse matrix} формы (n_samples,) или (n_samples, n_outputs)

Целевые значения.

Возвращает:
selfKNeighborsClassifier

Обученный классификатор k ближайших соседей.

6332()[источник]#

Получить маршрутизацию метаданных этого объекта.

Пожалуйста, проверьте Руководство пользователя о том, как работает механизм маршрутизации.

Возвращает:
маршрутизацияMetadataRequest

A MetadataRequest Инкапсуляция информации о маршрутизации.

get_params(глубокий=True)[источник]#

Получить параметры для этого оценщика.

Параметры:
глубокийbool, по умолчанию=True

Если True, вернет параметры для этого оценщика и вложенных подобъектов, которые являются оценщиками.

Возвращает:
paramsdict

Имена параметров, сопоставленные с их значениями.

kneighbors(X=None, n_neighbors=None, return_distance=True)[источник]#

Найти K ближайших соседей точки.

Возвращает индексы и расстояния до соседей каждой точки.

Параметры:
X{array-like, sparse matrix}, shape (n_queries, n_features), или (n_queries, n_indexed) если metric == 'precomputed', default=None

Точка или точки запроса. Если не указано, возвращаются соседи каждой индексированной точки. В этом случае точка запроса не считается своим собственным соседом.

n_neighborsint, default=None

Количество соседей, требуемых для каждого образца. По умолчанию используется значение, переданное конструктору.

return_distancebool, по умолчанию=True

Возвращать ли расстояния.

Возвращает:
neigh_distndarray формы (n_queries, n_neighbors)

Массив, представляющий длины до точек, присутствует только если return_distance=True.

neigh_indndarray формы (n_queries, n_neighbors)

Индексы ближайших точек в матрице популяции.

Примеры

В следующем примере мы создаем класс NearestNeighbors из массива, представляющего наш набор данных, и спрашиваем, какая точка ближе всего к [1,1,1]

>>> samples = [[0., 0., 0.], [0., .5, 0.], [1., 1., .5]]
>>> from sklearn.neighbors import NearestNeighbors
>>> neigh = NearestNeighbors(n_neighbors=1)
>>> neigh.fit(samples)
NearestNeighbors(n_neighbors=1)
>>> print(neigh.kneighbors([[1., 1., 1.]]))
(array([[0.5]]), array([[2]]))

Как видите, он возвращает [[0.5]] и [[2]], что означает, что элемент находится на расстоянии 0.5 и является третьим элементом выборок (индексы начинаются с 0). Вы также можете запросить несколько точек:

>>> X = [[0., 1., 0.], [1., 0., 1.]]
>>> neigh.kneighbors(X, return_distance=False)
array([[1],
       [2]]...)
kneighbors_graph(X=None, n_neighbors=None, mode='connectivity')[источник]#

Вычислить (взвешенный) граф k-ближайших соседей для точек в X.

Параметры:
X{array-like, sparse matrix} формы (n_queries, n_features), или (n_queries, n_indexed) если metric == ‘precomputed’, default=None

Точка или точки запроса. Если не предоставлено, возвращаются соседи каждой индексированной точки. В этом случае точка запроса не считается своим собственным соседом. Для metric='precomputed' форма должна быть (n_queries, n_indexed). В противном случае форма должна быть (n_queries, n_features).

n_neighborsint, default=None

Количество соседей для каждой выборки. По умолчанию используется значение, переданное конструктору.

mode{'connectivity', 'distance'}, по умолчанию='connectivity'

Тип возвращаемой матрицы: 'connectivity' вернет матрицу связности с единицами и нулями, в 'distance' ребра являются расстояниями между точками, тип расстояния зависит от выбранного параметра metric в классе NearestNeighbors.

Возвращает:
Aразреженная матрица формы (n_queries, n_samples_fit)

n_samples_fit это количество образцов в подогнанных данных. A[i, j] дает вес ребра, соединяющего i to j. Матрица имеет формат CSR.

Смотрите также

NearestNeighbors.radius_neighbors_graph

Вычислить (взвешенный) граф соседей для точек в X.

Примеры

>>> X = [[0], [3], [1]]
>>> from sklearn.neighbors import NearestNeighbors
>>> neigh = NearestNeighbors(n_neighbors=2)
>>> neigh.fit(X)
NearestNeighbors(n_neighbors=2)
>>> A = neigh.kneighbors_graph(X)
>>> A.toarray()
array([[1., 0., 1.],
       [0., 1., 1.],
       [1., 0., 1.]])
predict(X)[источник]#

Предсказать метки классов для предоставленных данных.

Параметры:
X{array-like, sparse matrix} формы (n_queries, n_features), или (n_queries, n_indexed) если metric == ‘precomputed’, или None

Тестовые образцы. Если None, предсказания для всех индексированных точек возвращаются; в этом случае точки не считаются своими собственными соседями.

Возвращает:
yndarray формы (n_queries,) или (n_queries, n_outputs)

Метки классов для каждого образца данных.

predict_proba(X)[источник]#

Возвращает оценки вероятностей для тестовых данных X.

Параметры:
X{array-like, sparse matrix} формы (n_queries, n_features), или (n_queries, n_indexed) если metric == ‘precomputed’, или None

Тестовые образцы. Если None, предсказания для всех индексированных точек возвращаются; в этом случае точки не считаются своими собственными соседями.

Возвращает:
pndarray формы (n_queries, n_classes) или список из n_outputs таких массивов, если n_outputs > 1.

Вероятности классов входных образцов. Классы упорядочены по лексикографическому порядку.

score(X, y, sample_weight=None)[источник]#

Возвращает среднюю точность на предоставленных тестовых данных и метках.

В многометочной классификации это точность подмножества, которая является строгой метрикой, поскольку требует для каждого образца правильного предсказания каждого набора меток.

Параметры:
Xмассивоподобный объект формы (n_samples, n_features) или None

Тестовые образцы. Если None, предсказания для всех индексированных точек используются; в этом случае точки не считаются своими собственными соседями. Это означает, что knn.fit(X, y).score(None, y) неявно выполняет процедуру перекрестной проверки с исключением по одному и эквивалентно cross_val_score(knn, X, y, cv=LeaveOneOut()) но обычно намного быстрее.

yarray-like формы (n_samples,) или (n_samples, n_outputs)

Истинные метки для X.

sample_weightarray-like формы (n_samples,), по умолчанию=None

Веса выборок.

Возвращает:
scorefloat

Средняя точность self.predict(X) относительно y.

set_params(**params)[источник]#

Установить параметры этого оценщика.

Метод работает как на простых оценщиках, так и на вложенных объектах (таких как Pipeline). Последние имеют параметры вида __ чтобы можно было обновить каждый компонент вложенного объекта.

Параметры:
**paramsdict

Параметры оценщика.

Возвращает:
selfэкземпляр estimator

Экземпляр оценщика.

set_score_request(*, sample_weight: bool | None | str = '$UNCHANGED$') → KNeighborsClassifier[источник]#

Настроить, следует ли запрашивать передачу метаданных в score метод.

Обратите внимание, что этот метод актуален только тогда, когда этот оценщик используется как под-оценщик внутри мета-оценщик и маршрутизация метаданных включена с помощью enable_metadata_routing=True (см. sklearn.set_config). Пожалуйста, проверьте Руководство пользователя о том, как работает механизм маршрутизации.

Варианты для каждого параметра:

  • True: запрашиваются метаданные и передаются score если предоставлено. Запрос игнорируется, если метаданные не предоставлены.

  • False: метаданные не запрашиваются, и мета-оценщик не передаст их в score.

  • None: метаданные не запрашиваются, и мета-оценщик выдаст ошибку, если пользователь предоставит их.

  • str: метаданные должны передаваться мета-оценщику с этим заданным псевдонимом вместо исходного имени.

По умолчанию (sklearn.utils.metadata_routing.UNCHANGED) сохраняет существующий запрос. Это позволяет изменять запрос для некоторых параметров, но не для других.

Добавлено в версии 1.3.

Параметры:
sample_weightstr, True, False или None, по умолчанию=sklearn.utils.metadata_routing.UNCHANGED

Маршрутизация метаданных для sample_weight параметр в score.

Возвращает:
selfobject

Обновленный объект.