ndcg_score#
- sklearn.metrics.ndcg_score(y_true, y_score, *, k=None, sample_weight=None, ignore_ties=False)[источник]#
Вычислить нормализованный дисконтированный кумулятивный выигрыш.
Суммировать истинные оценки, ранжированные в порядке, индуцированном предсказанными оценками, после применения логарифмического дисконтирования. Затем разделить на наилучшую возможную оценку (Ideal DCG, полученную для идеального ранжирования), чтобы получить оценку между 0 и 1.
Эта метрика ранжирования возвращает высокое значение, если истинные метки имеют высокий ранг по
y_score.- Параметры:
- y_truearray-like формы (n_samples, n_labels)
Истинные цели многоклассовой классификации или истинные оценки объектов для ранжирования. Отрицательные значения в
y_trueможет привести к выходному значению, которое не находится между 0 и 1.- y_scorearray-like формы (n_samples, n_labels)
Целевые оценки, которые могут быть либо вероятностными оценками, значениями достоверности, либо немасштабированными мерами решений (как возвращаемые “decision_function” в некоторых классификаторах).
- kint, default=None
Учитывайте только k наивысших оценок в ранжировании. Если
None, использовать все выходы.- sample_weightarray-like формы (n_samples,), по умолчанию=None
Веса выборок. Если
None, всем образцам присваивается одинаковый вес.- ignore_tiesbool, по умолчанию=False
Предположим, что в y_score нет совпадений (что вероятно, если y_score непрерывен) для повышения эффективности.
- Возвращает:
- normalized_discounted_cumulative_gainfloat в [0., 1.]
Усреднённые оценки NDCG для всех образцов.
Смотрите также
dcg_scoreДисконтированный кумулятивный выигрыш (не нормализованный).
Ссылки
Запись в Википедии о дисконтированном кумулятивном выигрыше
Jarvelin, K., & Kekalainen, J. (2002). Cumulated gain-based evaluation of IR techniques. ACM Transactions on Information Systems (TOIS), 20(4), 422-446.
Wang, Y., Wang, L., Li, Y., He, D., Chen, W., & Liu, T. Y. (2013, May). A theoretical analysis of NDCG ranking measures. In Proceedings of the 26th Annual Conference on Learning Theory (COLT 2013)
McSherry, F., & Najork, M. (2008, March). Computing information retrieval performance measures efficiently in the presence of tied scores. In European conference on information retrieval (pp. 414-421). Springer, Berlin, Heidelberg.
Примеры
>>> import numpy as np >>> from sklearn.metrics import ndcg_score >>> # we have ground-truth relevance of some answers to a query: >>> true_relevance = np.asarray([[10, 0, 0, 1, 5]]) >>> # we predict some scores (relevance) for the answers >>> scores = np.asarray([[.1, .2, .3, 4, 70]]) >>> ndcg_score(true_relevance, scores) 0.69 >>> scores = np.asarray([[.05, 1.1, 1., .5, .0]]) >>> ndcg_score(true_relevance, scores) 0.49 >>> # we can set k to truncate the sum; only top k answers contribute. >>> ndcg_score(true_relevance, scores, k=4) 0.35 >>> # the normalization takes k into account so a perfect answer >>> # would still get 1.0 >>> ndcg_score(true_relevance, true_relevance, k=4) 1.0... >>> # now we have some ties in our prediction >>> scores = np.asarray([[1, 0, 0, 0, 1]]) >>> # by default ties are averaged, so here we get the average (normalized) >>> # true relevance of our top predictions: (10 / 10 + 5 / 10) / 2 = .75 >>> ndcg_score(true_relevance, scores, k=1) 0.75 >>> # we can choose to ignore ties for faster results, but only >>> # if we know there aren't ties in our scores, otherwise we get >>> # wrong results: >>> ndcg_score(true_relevance, ... scores, k=1, ignore_ties=True) 0.5...