[МУЗЫКА] [МУЗЫКА]

[МУЗЫКА] В

прошлый раз мы рассмотрели с вами различные меры сходства,

которые используются в кластерном анализе, основанные на метриках — так называемые

меры расстояния — и сегодня мы переходим к рассмотрению мер сходства, которые

основаны на корреляции между наблюдениями, а также рассмотрим меры ассоциативности,

которые используются в том случае, когда мы работаем с бинарными переменными.

Наиболее популярной мерой сходства,

основанной на корреляции между наблюдениями,

является уже хорошо известный нам коэффициент корреляции Пирсона.

Как вы помните, когда мы считали с вами коэффициент корреляции Пирсона,

у нас было две выборки, x и y,

и мы считали корреляцию между наблюдениями в этих выборках,

чтобы определить, есть ли между ними линейная зависимость.

В данном случае подход несколько другой: мы берем два наблюдения и

считаем корреляцию уже между признаками этих наблюдений.

Можно увидеть, что в данном случае у нас коэффициент корреляции выглядит следующим

образом: в качестве меры расстояния у нас берутся признаки i-того

и j-того наблюдений, и здесь m — это у нас количество признаков,

которое мы используем для описания объектов.

Коэффициент корреляции Пирсона как мера сходства в

кластерном анализе является достаточно популярной мерой сходства, но,

тем не менее, следует помнить про некоторые его особенности.

Например, в отличие от мер расстояния,

нулевое значение указывает нам на несхожесть объектов.

Если мы вспомним, как у нас было в мерах расстояния,

— расстояние равно нулю у нас для абсолютно идентичных объектов,

— то здесь ситуация противоположная: если у нас коэффициент

корреляции равен нулю, то это говорит нам, наоборот, о несхожести объектов.

И, соответственно, чем больше у нас были меры расстояния,

тем дальше друг от друга были объекты, а здесь ситуация наоборот: чем больше у нас

получается коэффициент корреляции, тем более схожими становятся у нас объекты.

Про эту особенность следует помнить.

Также следует помнить, что так как это коэффициент корреляции,

то, в принципе, у нас два объекта могут быть несхожими,

но, например, их признаки линейно зависят друг от друга.

И так как коэффициент корреляции Пирсона, собственно, показывает нам линейную

зависимость, то мы можем получить очень высокое значение меры расстояния

вида коэффициента корреляции между двумя объектами, но при этом

они будут несхожими, просто их признаки будут линейно зависеть друг от друга.

Про это тоже следует помнить.

Также следует помнить, что коэффициент корреляции Пирсона не является метрикой.

Если мы вспомним особенности метрик, там было четыре условия,

которым должно удовлетворять расстояние, чтобы являться метрикой.

Так вот, коэффициент корреляции Пирсона, например,

не удовлетворяет неравенству треугольника.

Ну, в принципе,

это тоже может где-то повлиять на результаты кластерного анализа.

На самом деле по поводу использования коэффициент корреляции Пирсона

в таком виде существует много споров, потому что можно сказать,

что это не имеет особого статистического смысла, потому что в классическом

коэффициенте корреляции мы считаем отклонения от средних значений объектов,

а здесь мы считаем отклонения от среднего значения,

посчитанного по разнотипным переменным, а не по совокупности объектов.

Но несмотря на все эти, возможно,

недостатки или особенности, коэффициент корреляции

Пирсона очень часто используется как мера расстояния в кластерном анализе.

Еще одним расстоянием, которое тоже основывается на

корреляции между наблюдениями, является так называемое

расстояние Махаланобиса, еще его называют обобщенным расстоянием.

Данное расстояние было предложено индийским статистиком Махаланобисом

еще в 1936 году, и, на самом деле, оно представляет собой обобщение евклидова

расстояния, которое учитывает корреляцию между наблюдениями.

Данное расстояние выглядит следующим образом.

Здесь так же у нас xi и xj — это два объекта,

между которыми мы считаем расстояние,

а Σ представляет собой ковариационную матрицу этих объектов.

Иными словами, если у нас корреляция между объектами отсутствует,

то расстояние Махаланобиса просто сходится к обычному евклидову расстоянию.

Это расстояние очень эффективно и много где используется в кластерном анализе,

но, к сожалению, далеко не везде оно реализовано.

Мы говорили про то,

что у нас бывают количественные признаки, но также следует помнить,

что мы можем описывать наши объекты с помощью бинарных данных и,

соответственно, мы должны уметь считать расстояние между двумя объектами,

описанными в том числе бинарными признаками.

Когда мы работаем с бинарными признаками,

в качестве мер сходства считают так называемые коэффициенты ассоциативности.

Их, на самом деле, существует огромное количество самых различных видов,

но мы рассмотрим самый популярный из них — это так называемый φ-коэффициент,

или еще его называют условной корреляцией или четырехточечной корреляцией Пирсона.

По сути своей это аналог коэффициента корреляции Пирсона для

случая бинарных данных.

Выглядит он следующим образом.

Когда мы работаем с бинарными признаками,

мы имеем табличку 2х2 соответствия признаков у объектов,

и коэффициент φ у нас считается следующим образом: это сумма по всем ячейкам,

где f0 — это, собственно, само значение в каждой из ячеек,

nr — это у нас суммарное значение по соответствующей строке,

nc — это суммарное значение по соответствующему столбцу.

В следующий раз мы уже перейдем к рассмотрению

кластерных методов, и начнем мы с иерархического кластерного анализа.

3.3. Корреляционные меры сходства и меры ассоциативности

Сравнение и создание групп

Rencontrer les enseignants