DataFrame 피봇과 그룹

피봇테이블

피봇테이블(pivot table)이란 데이터 열 중에서 두개의 열을 각각 행 인덱스, 열 인덱스로 사용하여 데이터를 조회하여 펼쳐놓은 것을 말한다.

Pandas는 피봇테이블을 만들기 위한 pivot 매서드를 제공한다. 첫번째 인수로는 행 인덱스로 사용할 열 이름, 두뻔째 인수로는 열 인덱스로 사용할 열 이름, 그리고 마지막으로 데이터로 사용할 열 이름을 넣는다.

Pandas는 지정된 두 열을 각각 행 인덱스와 열 인덱스로 바꾼 후 행 인덱스 라벨 값이 첫번째 키의 값과 같고 열 인덱스의 라벨 값이 두번째 키의 값과 같은 데이터를 찾아서 해당 칸에 넣는다. 만약 주어진 데이터가 존재하지 않으면 해당 칸에 NaN 값을 넣는다.

다음 데이터는 각 도시의 연도별 인구를 나타낸 것이다.

import pandas as pd
data = {
    "도시": ["서울", "서울", "서울", "부산", "부산", "부산", "인천", "인천"],
    "연도": ["2015", "2010", "2005", "2015", "2010", "2005", "2015", "2010"],
    "인구": [9904312, 9631482, 9762546, 3448737, 3393191, 3512547, 2890451, 263203],
    "지역": ["수도권", "수도권", "수도권", "경상권", "경상권", "경상권", "수도권", "수도권"]
}
columns = ["도시", "연도", "인구", "지역"]
df1 = pd.DataFrame(data, columns=columns)
df1

이 데이터를 도시 이름이 열 인덱스가 되고 연도가 행 인덱스가 되어 행과 열 인덱스만 보면 어떤 도시의 어떤 시점의 인구를 쉽게 알수 있도록 피봇테이블로 만들어 보자. pivot 명령으로 사용하고 행 인덱스 인수로는 도시, 열 인덱스 인수로는 연도, 데이터 이름으로 인구를 입력하면 된다.

df1.pivot("도시", "연도", "인구")

이 피봇테이블의 값 3512547은 "도시"가 부산이고 "연도"가 2005년인 데이터를 "인구"열에서 찾은 값이다. 2005년 인천의 인구는 데이터에 없기 때문에 NaN으로 표시된다.

피봇테이블은 다음과 같이 set_index 명령과 unstack 명령을 사용하서 만들 수도 있다.

df1.set_index(["도시","연도"])[["인구"]].unstack()

행 인덱스나 열 인덱스를 리스트로 주는 경우에는 다중 인덱스 피봇 테이블을 생성한다.

df1.pivot(["지역","도시"], "연도", "인구")

행 인덱스와 열 인덱스는 데이터를 찾는 키(key)의 역할을 한다. 따라서 키 값으로 데이터가 단 하나만 찾아져야 한다. 만약 행 인덱스와 열 인덱스 조건을 만족하는 데이터가 2개 이상인 경우에는 에러가 발생한다. 예를 들어 위 데이터프레임에서 ("지역", "연도")를 키로 하면 ("수도권", "2015")에 해당하는 값이 두개 이상이므로 다음과 같이 에러가 발생한다.

try:
    df1.pivot("지역", "연도", "인구")
except ValueError as e:
    print("ValueError:", e)

ValueError: Index contains duplicate entries, cannot reshape

그룹분석

만약 키가 지정하는 조건에 맞는 데이터가 하나 이상이라서 데이터 그룹을 이루는 경우에는 그룹의 특성을 보여주는 그룹분석(group analysis)을 해야 한다.

그룹분석은 피봇테이블과 달리 키에 의해서 결정되는 데이터가 여러개가 있을 경우 미리 지정한 연선을 통해 그 그룹 데이터의 대표값을 계산한다. Pandas에서는 groupby 매서드를 사용하여 다음처럼 그룹분석을 한다.

> 1. 분석하고자 하는 시리즈나 데이터프레임에 groupby 매서드를 호출하여 그룹화를 한다.
> 2. 그룹 객체에 대해 그룹연산을 수행한다.

그룹연산 매서드

groupby 결과, 즉 GroupBy 클래스 객체의 뒤에 붙일 수 있는 그룹연산 매서드는 다양하다. 다음은 자주 사용되는 그룹연산 매서드들이다.

• size, count : 그룹 데이터의 개수
• mean, median, min, max : 그룹 데이터의 평균, 중앙값, 최소, 최대
• sum, prod, std, var, quantile : 그룹 데이터의 합계, 곱, 표준편차, 분산, 사분위수
• first, last : 그룹 데이터중 가장 첫번째 데이터와 가장 나중 데이터와

이 외에도 많이 사용되는 것으로는 다음과 같은 그룹 연산이 있다.

• agg, aggregate
  • 만약 원하는 구릅연산이 없는 경우 함수를 만들고 이 함수를 agg에 전달한다.
  • 또는 여러가지 그룹연산을 동시에 하고 싶은 경우 함수 이름 문자열의 리스트를 전달한다.
• describe
  • 하나의 그룹 대표값이 아니라 여러개의 값을 데이터프레임으로 구한다.
• apply
  • describe 처럼 하나의 대표값이 아닌 데이터프레임을 출력하지만 원하는 그룹연산이 없는 경우에 사용한다.
• transform
  • 그룹에 대한 대표값을 만드는 것이 아니라 그룹별 계산을 통해 데이터 자체를 변형한다.

예를 들어 다음과 같은 데이터가 있을 때 key1의 값(A 또는 B)에 따른 data1의 평균은 어떻게 구할까?

import numpy as np
np.random.seed(0)
df2 = pd.DataFrame({
    'key1': ['A', 'A', 'B', 'B', 'A'],
    'key2': ['one', 'two', 'one', 'two', 'one'],
    'data1': [1, 2, 3, 4, 5],
    'data2': [10, 20, 30, 40, 50]
})
df2

groupby 명령을 사용하여 그룹 A와 그룹 B로 구분한 그룹 데이터를 만든다.

groups = df2.groupby(df2.key1)
groups

<pandas.core.groupby.generic.dataframegroupby 0x000002b5de8ddac0="" at="" object="">

이 GroupBy 클래스 객체에는 각 그룹 데이터의 인덱스를 저장한 groups 속성이 있다.

groups.groups
 
{'A': [0, 1, 4], 'B': [2, 3]}

A그룹과 B그룹 데이터의 합계를 구하기 위해 sum이라는 그룹연산을 한다.

groups.sum()

GroupBy클래스 객체를 명시적으로 얻을 필요가 없다면 groupby 매서드와 그룹연산 메서드를 연속으로 호출한다. 다음 예제는 열 data1에 대해서만 그룹연산을 하는 코드 이다.

df2.data1.groupby(df2.key1).sum()

key1
A 8
B 7
Name: data1, dtype: int64

데이터를 그룹으로 나눈 GroupBy 클래스 객체 또는 그룹분석한 결과에서 data1만 뽑아도 된다.

df2.groupby(df2.key1)["data1"].sum() # 'GroupBy' 클래스 객체에서 data1만 선택하여 분석

key1
A 8
B 7
Name: data1, dtype: int64

df2.groupby(df2.key1).sum()["data1"]  # 전체 데이터를 분석한 후 data1만 선택한 경우

key1
A 8
B 7
Name: data1, dtype: int64

이번에는 복합 키 (key1, key2) 값에 따른 data1의 합계를 구하자. 분석하고자 하는 키가 복수이면 리스트를 사용한다.

df2.data1.groupby([df2.key1, df2.key2]).sum()

key1 key2
A one 6
two 2
B one 3
two 4
Name: data1, dtype: int64

이 결과를 unstack 명령으로 피봇 테이블 행태로 만들수도 있다.

df2.data1.groupby([df2['key1'], df2['key2']]).sum().unstack('key2')

그룹분석 기능을 사용하면 위의 인구 데이터로부터 지역별 합계를 구할 수도 있다.

df1

df1['인구'].groupby([df1['지역'], df1['연도']]).sum().unstack('연도')

다음 데이터는 150 송이의 붓꽃(iris)에 대해 붓꽃 종(species)별로 꽃받침길이(sepal_langth), 꽃받침폭(sepal_width), 꽃잎길이(tetal_length), 꽃잎폭(petal_width)을 측정한 데이터이다.

import seaborn as sns
iris = sns.load_dataset("iris")
iris

각 붓꽃 종별로 가장 큰 값과 가장 작은 값의 비율을 구해보자. 이러한 계산을 하는 그룹연산 매서드는 없으므로 직접 함수로 만들고 agg 매서드를 이용해야 한다.

def peak_to_peak_ratio(x):
    return x.max() / x.min()
 
iris.groupby(iris.species).agg(peak_to_peak_ratio)

describe 매서드를 사용하면 다양한 기술 통계(descriptive statistics)값을 한 번에 구한다. 그룹별로 하나의 스칼라 값이 아니라 하나의 데이터프레임이 생성된다는 점에 주의하자.

iris.groupby(iris.species).describe().T

apply 매서드를 사용하면 describe 매서드처럼 하나의 그룹에 대해 하나의 대표값(스칼라 값)을 구하는게 아니라 데이터프레임을 만들 수 있다. 예를 들어 다음처럼 각 붓꽃 종별로 가장 꽃잎길이(petal length)가 큰 3개의 데이터를 뽑아낼 수도 있다.

def top3_petal_length(df):
    return df.sort_values(by="petal_length", ascending=False)[:3]
 
iris.groupby(iris.species).apply(top3_petal_length)

transform 매서드는 그룹별 대표값을 만드는 것이 아니라 그룹별 계산을 통해 데이터프레임 자체를 변화시킨다. 따라서 만들어진 데이터프레임의 크기는 원래 데이터프레임과 같다. 예를 들어 다음처럼 각 붓꽃 꽃잎길이가 해당 종 내에서 대/중/소 어느 것에 해당되는지에 대한 데이터프레임을 만들 수도 있다.

def q3cut(s):
    return pd.qcut(s, 3, labels=["소", "중", "대"]).astype(str)
 
iris["petal_length_class"] = iris.groupby(iris.species).petal_length.transform(q3cut)
iris[["petal_length", "petal_length_class"]].tail(10)

pivot_table

Pandas는 pivot 명령과 groupby 명령의 중간 성격을 가지는 pivot_table 명령도 제공한다.

pivot_table 명령은 groupby 명령처럼 그룹분석을 하지만 최종적으로는 pivot 명령처럼 피봇테이블을 만든다. 즉 groupby 명령의 결과에 unstack을 자동 적용하여 2차원적인 형태로 변형한다. 사용 방법은 다음과 같다.

• pivot_table(data, values=None, index=None, columns=None, aggfunc='mean', fill_value=None, margins=False, margins_name='All')
• data: 분석할 데이터프레임 (메서드일 때는 필요하지 않음)
• values: 분석할 데이터프레임에서 분석할 열
• index: 행 인덱스로 들어갈 키 열 또는 키 열의 리스트
• columns: 열 인덱스로 들어갈 키 열 또는 키 열의 리스트
• aggfunc: 분석 메서드
• fill_value: NaN 대체 값
• margins: 모든 데이터를 분석한 결과를 오른쪽과 아래에 붙일지 여부
• margins_name: 마진 열(행)의 이름

만약 조건에 따른 데이터가 유일하게 선택되지 않으면 그룹연산을 하며 이 때 aggfunc 인수로 정의된 함수를 수행하여 대표값을 계산한다.

pivot_table를 메서드로 사용할 때는 객체 자체가 데이터가 되므로 data 인수가 필요하지 않다.

예를 들어 위에서 만들었던 피봇테이블은 pivot_table 명령으로 다음과 같이 만들 수도 있다. 인수의 순서에 주의해야 한다.

df1.pivot_table("인구", "도시", "연도")

margins=True 인수를 주면 aggfunc로 주어진 분석 방법을 해당 열의 모든 데이터, 해당 행의 모든 데이터 그리고 전체 데이터에 대해 적용한 결과를 같이 보여준다. aggfunc가 주어지지 않았으면 평균을 계산한다.

df1.pivot_table("인구", "도시", "연도", margins=True, margins_name="평균")

이 결과에서 가장 오른쪽 합계 열의 첫번째 값 3451492은 모든 부산 인구 데이터의 평균, 두번째 값 9766113은 모든 서울 인구 데이터의 평균이다. 가장 아래의 합계 행의 첫번째 값은 2005년 데이터의 평균값, 두번째 값은 2010년 데이터의 평균값이다. 가장 오른쪽 아래의 값 5350809는 전체 데이터의 평균값이다. 다음 계산을 통해 이를 확인할 수 있다.

df1["인구"].mean()

5350808.625

행 인덱스나 열 인덱스에 리스트를 넣으면 다중 인덱스 테이블을 만든다.

df1.pivot_table("인구", index=["연도", "도시"])

식당에서 식사 후 내는 팁(tip)과 관련된 데이터를 이용하여 좀더 구체적으로 그룹분석 방법을 살펴본다. 우선 Seaborn 패키지에 설치된 샘플 데이터를 로드한다. 이 데이터프레임에서 각각의 컬럼은 다음을 뜻한다.

• total_bill: 식사대금
• tip: 팁
• sex: 성별
• smoker: 흡연/금연 여부
• day: 요일
• time: 시간
• size: 인원

tips = sns.load_dataset('tips')
tips.tail()

분석의 목표는 식사 대금 대비 팁의 비율이 어떤 경우에 가장 높아지지는 찾는 것이다. 우선 식사대금와 팁의 비율을 나타내는 tip_pct를 추가하자.

tips["tip_pct"] = tips["tip"] / tips["total_bill"]
tips.tail()

다음으로 각 열의 데이터에 대해 간단히 분포를 알아본다.

tips.describe()

우선 성별로 나누어 데이터 갯수를 세어보자

tips.groupby('sex').count()

데이터 갯수의 경우 NaN 데이터가 없다면 모두 같은 값이 나올 것이다. 이 때는 size 명령을 사용하면 더 간단히 표시된다. size 명령은 NaN이 있어도 상관하지 않는다.

tips.groupby('sex').size()

sex
Male 157
Female 87
dtype: int64

이번에는 성별과 흡연유무로 나누어 데이터 갯수를 알아보자.

tips.groupby(["sex", "smoker"]).size()

sex smoker
Male Yes 60
No 97
Female Yes 33
No 54
dtype: int64

좀더 보기 좋게 피봇 테이블 형태로 바꿀 수도 있다.

tips.pivot_table("tip_pct", "sex", "smoker", aggfunc="count", margins=True)

이제 성별과 흡연 여부에 따른 평균 팁 비율을 살펴보자

tips.groupby("sex")[["tip_pct"]].mean()

tips.groupby("smoker")[["tip_pct"]].mean()
 

pivot_table 명령을 사용할 수도 있다.

tips.pivot_table("tip_pct", "sex")

tips.pivot_table("tip_pct", ["sex", "smoker"])

tips.pivot_table("tip_pct", "sex", "smoker")

여성 혹은 흡연자의 팁 비율이 높은 것을 볼 수 있다. 하지만 이 데이터에는 평균을 제외한 분산(variance) 등의 다른 통계값이 없으므로 describe 명령으로 여러가지 통계값을 한 번에 알아본다.

tips.groupby("sex")[["tip_pct"]].describe()

tips.groupby("smoker")[["tip_pct"]].describe()

tips.groupby(["sex", "smoker"])[["tip_pct"]].describe()

이번에는 각 그룹에서 가장 많은 팁과 가장 적은 팁의 차이를 알아보자. 이 계산을 해 줄 수 있는 그룹연산 함수가 없으므로 함수를 직접 만들고 agg메서드를 사용한다.

def peak_to_peak(x):
    return x.max() - x.min()
 
tips.groupby(["sex", "smoker"])[["tip"]].agg(peak_to_peak)

만약 여러가지 그룹연산을 동시에 하고 싶다면 다음과 같이 리스트를 이용한다.

tips.groupby(["sex", "smoker"]).agg(["mean", peak_to_peak])[["total_bill"]]

만약 데이터 열마다 다른 연산을 하고 싶다면 열 라벨과 연산 이름(또는 함수)를 딕셔너리로 넣는다.

tips.groupby(["sex", "smoker"]).agg({'tip_pct': 'mean', 'total_bill':peak_to_peak})

다음은 pivot_table 명령으로 더 복잡한 분석을 한 예이다.

tips.pivot_table(['tip_pct', 'size'], ['sex', 'day'], 'smoker')

tips.pivot_table('size', ['time', 'sex', 'smoker'], 'day', aggfunc='sum', fill_value=0)

피봇테이블과 그룹연산에 대해 알아 보았다. 분석 연습을 해보기 위해 자주 사용되는 타이타닉 승객데이터를 이용해서 연습 해보면 좋을 것 같다.

titanic = sns.load_dataset("titanic")

출처 : 데이터사이언스 스쿨(http://datascienceschool.net)