Факторный анализ11.06.2023 00:02

Автор статьи: Артем Михайлов

Факторный анализ является мощным инструментом для изучения сложных данных, который позволяет выявить основную структуру информации и выделить важные факторы. Этот метод дает возможность более глубоко изучить взаимосвязи между переменными и понять, как они влияют на конечный результат. Если вы ищете эффективный способ определить, какие факторы играют решающую роль в вашей исследовательской задаче, то факторный анализ будет удачным выбором. В данной статье мы более подробно рассмотрим, что такое факторный анализ, какие задачи он может решить и как он применяется на практике. Если вы хотите усовершенствовать свой аналитический подход и достичь лучших результатов в своей работе, тогда приятного прочтения!

Что такое факторный анализ?

В современной статистике этот метод анализа данных используется для выявления скрытых факторов, которые оказывают влияние на наблюдаемые переменные. Основная идея факторного анализа заключается в том, что множество переменных можно свести к меньшему числу факторов, которые объясняют основные тенденции и связи между этими переменными.

Факторный анализ может применяться во многих областях, начиная от экономики и бизнеса и заканчивая медицинской и психологической статистикой. Данный метод помогает исследователям определить, какие факторы влияют на наблюдаемые переменные и какие именно переменные наиболее чувствительны к воздействию этих факторов.

Одной из важнейших задач, которую можно решить с помощью факторного анализа, является выявление основных факторов, которые оказывают влияние на изменение показателей в рамках определенной выборки. Кроме того, факторный анализ может использоваться для определения взаимосвязей между различными переменными, а также для предсказания значений этих переменных на основе имеющихся данных.

В целом, факторный анализ представляет собой мощный инструмент, который позволяет исследователям более глубоко и точно изучить взаимосвязи между различными переменными, выявить скрытые факторы и создать более точные модели для прогнозирования будущих значений этих переменных.

Теория факторного анализа

Основная идея факторного анализа состоит в том, чтобы выделить наиболее важные и значимые факторы в совокупности переменных, демонстрирующие схожие характеристики.

Для понимания факторного анализа необходимо знать основные понятия и определения, которые входят в его теоретический аппарат. Наиболее важными из них являются понятия «фактор», «факторная нагрузка», «коммунальность», «собственное число», «факторный пространство».

Фактор — это некая скрытая переменная, которая объясняет связь между совокупностью переменных. Факторы могут быть различными, например, в медицинской статистике факторами могут выступать заболевания, в экономике — параметры экономической деятельности, а в социологии — социальные факты. С помощью факторного анализа можно выделить наиболее значимые факторы, которые имеют наибольшую корреляцию с набором данных и объясняют наибольшую часть изменчивости.

Факторная нагрузка — это коэффициент, который показывает, насколько сильно каждый показатель влияет на данный фактор. Факторная нагрузка может быть положительной или отрицательной, что указывает на направление влияния. Чем выше факторная нагрузка, тем большую роль играет конкретный показатель в формировании данного фактора.

Коммунальность — это коэффициент, который показывает, насколько отдельный показатель объясняется общим фактором. Коммунальность близка к единице, если переменная является хорошим представителем данного фактора. Чем ближе коммунальность к нулю, тем слабее связь данной переменной с общим фактором.

Собственное число — это значение, которое отражает, насколько важный фактор можно выделить из набора данных. Собственное число рассчитывается на основе собственных векторов (см. ниже), и чем выше это число, тем важнее соответствующий фактор.

Факторное пространство — это многомерное пространство, в котором каждая переменная представлена фактором. Факторное пространство показывает, насколько сильна корреляция между различными показателями, и позволяет увидеть, какие переменные находятся ближе друг к другу и какие — дальше.

Принцип работы факторного анализа заключается в том, что анализируется матрица данных, где каждый столбец представляет собой переменную, а каждая строка — наблюдение.

В рамках факторного анализа, переменные группируются по сходству и факторизуются, то есть разделяются на основу общих свойств, которые присутствуют в их корреляционной структуре. С помощью факторного анализа можно выявлять зависимости между переменными и определять, какие из них наиболее значимы, а какие не влияют на общую картину.

Результатами факторного анализа могут быть главные компоненты, которые представляют собой комбинацию исходных переменных, а также их весовые коэффициенты. Основная цель факторного анализа — уменьшить количество переменных, минимизировать пересечения между ними и выявить настоящие отличительные признаки набора данных.

Методы факторного анализа

1. Метод главных компонент (PCA)  — это метод факторного анализа, который используется для выделения наиболее важных факторов из большого количества переменных. Он основывается на поиске линейных комбинаций переменных, которые объясняют наибольшую долю изменчивости данных. Эти линейные комбинации называются главными компонентами.

Для реализации метода главных компонент необходимо выполнить следующие шаги:
1. Нормализовать данные, чтобы они имели среднее значение, равное нулю, и стандартное отклонение, равное единице.
2. Вычислить ковариационную матрицу данных.
3. Вычислить собственные значения и собственные векторы этой матрицы.
4. Отсортировать собственные значения в порядке убывания и выбрать те, которые объясняют наибольшую долю изменчивости данных.
5. Использовать выбранные собственные векторы для вычисления главных компонент.

Давайте рассмотрим пример. Допустим, мы исследуем данные о студентах и хотим выяснить, какие переменные (например, возраст, пол, оценки и т. д.) имеют наибольшее влияние на успехи студентов в учебе. Метод главных компонент позволит нам выделить наиболее важные факторы и определить, какие переменные наиболее сильно связаны с успехами студентов. Например, мы можем обнаружить, что оценки по математике, физике и химии имеют наибольшее влияние на успехи студентов, и на основе этого в дальнейшем проводить более глубокий анализ данных.

2. Метод наименьших квадратов (PLS — Partial Least Squares):
Этот метод широко используется для решения задач множественной регрессии в большой размерности данных. Он позволяет свести большой набор измерений к более небольшому количеству значимых компонент, которые лучше всего описывают зависимости между ними.
Метод наименьших квадратов определяется по формуле на рисунке:

Примером применения метода PLS может являться модель, которая должна оценить качество вина на основе множества физических и химических параметров, таких как содержание сахара, кислотности, воды и т.д.

3. Метод максимального правдоподобия (MLE — Maximum Likelihood Estimation):
Этот метод направлен на оценку параметров статистической модели на основе имеющихся данных. Он позволяет определить значение параметров, наиболее вероятно соответствующее наблюдаемым данным.

Например, метод максимального правдоподобия может быть использован для определения производительности процессора на основе ряда экспериментальных данных, при моделировании некоторых видов деталей или при выявлении зависимостей в медицинских исследованиях.

Примеры применения факторного анализа

Первый пример:

Для примера давайте рассмотрим набор данных о ресторанах. У нас есть 6 переменных: количество посетителей, качество еды, качество обслуживания, цена, расположение и оценка посетителей. Мы хотим объединить эти переменные в несколько факторов, чтобы выявить главные факторы, определяющие успех ресторана.

Для начала давайте импортируем необходимые библиотеки pandas, numpy и sklearn:

import pandas as pd
import numpy as np
from sklearn.decomposition import FactorAnalysis

# Создаем набор данных
data = np.array([[5, 4, 5, 3, 2, 4],
                [3, 3, 4, 4, 2, 3],
                [4, 5, 5, 2, 2, 4],
                [2, 2, 3, 5, 5, 2],
                [1, 1, 2, 5, 4, 1],
                [1, 1, 1, 5, 4, 1],
                [4, 4, 4, 3, 3, 3],
                [3, 4, 3, 4, 4, 4],
                [4, 5, 4, 2, 2, 3],
                [2, 2, 3, 5, 5, 2]])

df = pd.DataFrame(data, columns=['Visitors', 'Food Quality', 'Service Quality', 'Price', 'Location', 'Rating'])

Мы создали датафрейм с 10 строками и 6 столбцами. Каждая строка представляет ресторан, а каждый столбец — переменную, описывающую ресторан. Теперь мы можем применить факторный анализ с использованием библиотеки sklearn:

# Создаем объект FA с 2 факторами
fa = FactorAnalysis(n_components=2)

# Преобразуем данные
factors = fa.fit_transform(df)

# Выводим результаты
print(factors)

Мы создали объект FactorAnalysis с двумя факторами и применили его к нашим данным. Затем мы преобразовали наши данные и вывели результаты. Вывод будет выглядеть так:

[[ 0.69522431  0.52847832]
 [-0.47430395 -0.01575718]
 [ 0.72640625  0.13962075]
 [-0.85331698  0.95500882]
 [-1.29684532  0.69694762]
 [-1.46304534  0.70876126]
 [ 0.03562124 -0.01461123]
 [ 0.0973459   0.18838168]
 [ 0.65135099  0.18721816]
 [-0.85331698  0.95500882]]

Второй пример:

Допустим, у нас есть набор данных о предпочтениях людей в пище. Наша задача — выявить наиболее значимые факторы (например, наличие вкусовых предпочтений к определенным продуктам).

Для начала, нам нужно импортировать необходимые библиотеки:

import numpy as np
import pandas as pd
from sklearn.decomposition import FactorAnalysis

Затем, мы можем создать искуственный набор данных:

data = pd.DataFrame({
    'молоко': np.random.rand(100),
    'овощи': np.random.rand(100),
    'мясо': np.random.rand(100),
    'крупы': np.random.rand(100),
    'фрукты': np.random.rand(100)
})

Далее, мы можем применить факторный анализ к нашим данным:

fa = FactorAnalysis(n_components=2)
fa.fit(data)

Здесь мы указываем, что хотим выделить 2 фактора. Результаты можно посмотреть, вызвав атрибут components_:

print(fa.components_)

Вывод:

[[-0.02341107  0.46502209  0.65468325  0.29313825  0.53119098]
 [ 0.98609804  0.01717515  0.02443068 -0.00741676  0.16352562]]

Здесь каждая строка соответствует одному из факторов. Например, первая строка показывает, какие продукты входят в первый фактор. Мы видим, что первый фактор наиболее значимо связан с мясом, фруктами и овощами, тогда как крупы и молоко имеют меньшую значимость.

Третий пример:

Для третьего примера мы будем использовать набор данных об ароматных свойствах вина. Для начала, нужно установить библиотеку factor_analyzer с помощью команды:

pip install factor_analyzer

Затем, необходимо загрузить данные в набор данных pandas и провести их предварительную обработку:

import pandas as pd
import numpy as np
import matplotlib.pyplot as plt
from factor_analyzer import FactorAnalyzer
from sklearn.datasets import load_wine

# Загрузка данных
data = load_wine(as_frame=True).frame

# Удаление признака 'target'
data = data.drop(columns=['target'])

# Стандартизация данных
data_scaled = (data - data.mean()) / data.std()

# Заполнение пропущенных значений нулями
data_scaled = data_scaled.fillna(0)

Далее, мы можем использовать класс FactorAnalyzer из библиотеки factor_analyzer для проведения факторного анализа:

# Определение количества факторов
fa = FactorAnalyzer(n_factors=2, rotation=None)

# Построение модели
fa.fit(data_scaled)

# Получение факторных нагрузок и вариантов объяснения
loadings = pd.DataFrame(fa.loadings_, columns=['Factor 1', 'Factor 2'], index=data.columns)
variance = pd.DataFrame({'Variance': fa.get_factor_variance()}, index=['Factor 1', 'Factor 2', 'Factor 3'])

print('Факторные нагрузки:\n', loadings)
print('\nВарианты объяснения:\n', variance)

Результат выполнения кода будет выглядеть примерно так:

В результате факторного анализа мы получили два фактора (см. переменную n_factors в классе FactorAnalyzer), для которых были рассчитаны факторные нагрузки и варианты объяснения. Таким образом, мы можем использовать эти значения для интерпретации полученных результатов и дальнейшей работы с данными.

Заключение

Факторный анализ является мощным инструментом для понимания сложных систем и может применяться в различных областях науки и бизнеса. Он также может быть использован для сжатия информации и улучшения предсказательных моделей. В целом, факторный анализ имеет большой потенциал в исследовании многомерных данных, и его применение будет продолжать расширяться в будущем.

Также хочу порекомендовать вам бесплатный вебинар по теме «Использование Use case и User story для декомпозиции задач».

© Habrahabr.ru