DataStore 집계 함수

from pathlib import Path
Path("sales.csv").write_text("""\
region,product,category,amount,quantity,price,date,order_id
East,Widget,Electronics,5200,10,120,2024-01-15,1001
West,Gadget,Electronics,800,5,160,2024-02-20,1002
East,Gizmo,Home,6500,3,100,2024-03-10,1003
North,Widget,Electronics,4500,6,150,2024-06-18,1004
West,Gadget,Electronics,2000,8,250,2024-09-14,1005
""")

from chdb import datastore as pd

ds = pd.read_csv("sales.csv")

# 단일 컬럼 집계
total = ds['amount'].sum()
average = ds['amount'].mean()
count = ds['amount'].count()

# 모든 집계
print(ds['amount'].sum())    # 합계
print(ds['amount'].mean())   # 평균
print(ds['amount'].std())    # 표준 편차
print(ds['amount'].median()) # 중앙값
print(ds['amount'].nunique()) # 고유값 개수

# 그룹화 및 집계
result = ds.groupby('category')['amount'].sum()
result = ds.groupby('region')['sales'].mean()

# 딕셔너리 구문
result = ds.groupby('category').agg({
    'amount': 'sum',
    'quantity': 'mean',
    'order_id': 'count'
})

# 컬럼별 집계 목록
result = ds.groupby('category').agg({
    'amount': ['sum', 'mean', 'max'],
    'quantity': ['sum', 'count']
})

# 이름 지정 집계(pandas 스타일)
result = ds.groupby('region').agg(
    total_amount=('amount', 'sum'),
    avg_quantity=('quantity', 'mean'),
    order_count=('order_id', 'count'),
    max_price=('price', 'max')
)

# 여러 컬럼으로 그룹화
result = ds.groupby(['region', 'category']).agg({
    'amount': 'sum',
    'quantity': 'sum'
})

# 분위수
q50 = ds['amount'].quantile(0.5)  # 중앙값
q95 = ds['amount'].quantile(0.95) # 95번째 백분위수

# 다중 분위수
quantiles = ds['amount'].quantile([0.25, 0.5, 0.75])

# 컬럼 간 상관관계
correlation = ds[['sales', 'marketing_spend']].corr()

from chdb.datastore import F, Field

# 고액 주문만 합산
high_value_sum = F.sum_if(Field('amount'), Field('amount') > 1000)

# 활성 사용자 수 집계
active_count = F.count_if(Field('status') == 'active')

# groupby 컨텍스트에서 사용
result = ds.groupby('region').agg({
    'total': ('amount', 'sum'),
    'high_value': ('amount', F.sum_if(Field('amount') > 1000)),
})

from chdb.datastore import F, Field

# 범주별 모든 태그 수집
result = ds.groupby('category').agg({
    'all_tags': ('tag', F.group_array()),
    'unique_tags': ('tag', F.group_uniq_array())
})

# 지역별 상위 5개 제품 조회
result = ds.groupby('region').agg({
    'top_products': ('product_id', F.top_k(5))
})

from chdb.datastore import F, Field

# 행 번호 추가
ds['row_num'] = F.row_number().over(order_by='date')

# 그룹 내 순위
ds['rank'] = F.rank().over(
    partition_by='category',
    order_by='sales'
)

# 밀집 순위 (gaps 없음)
ds['dense_rank'] = F.dense_rank().over(
    partition_by='region',
    order_by=('revenue', 'desc')
)

# 사분위수로 분할
ds['quartile'] = F.ntile(4).over(order_by='score')

# 이전 값과 다음 값
ds['prev_price'] = F.lag('price', 1).over(order_by='date')
ds['next_price'] = F.lead('price', 1).over(order_by='date')

# 파티션 내 첫 번째 값과 마지막 값
ds['first_order'] = F.first_value('amount').over(
    partition_by='customer_id',
    order_by='date'
)

# 누적 계산
ds['running_total'] = ds['amount'].cumsum()
ds['running_max'] = ds['amount'].cummax()

# 그룹화 적용
ds['group_cumsum'] = ds.groupby('category')['amount'].cumsum()

# 기간 대비 변화
ds['daily_diff'] = ds['sales'].diff(1)
ds['pct_change'] = ds['sales'].pct_change(1)

# 롤링 윈도우 집계
ds['rolling_avg'] = ds['price'].rolling(window=7).mean()
ds['rolling_sum'] = ds['amount'].rolling(window=30).sum()
ds['rolling_std'] = ds['value'].rolling(window=10).std()

# 확장 윈도우
ds['expanding_max'] = ds['price'].expanding().max()
ds['expanding_sum'] = ds['amount'].expanding().sum()

from chdb.datastore import F, Field

# 집계
F.sum(Field('amount'))
F.avg(Field('price'))
F.count(Field('id'))

# 통계
F.quantile(Field('value'), 0.95)
F.stddev_pop(Field('score'))
F.corr(Field('x'), Field('y'))

# 조건부
F.sum_if(Field('amount'), Field('status') == 'completed')
F.count_if(Field('is_active'))

# 문자열
F.length(Field('name'))
F.upper(Field('text'))

# 날짜/시간
F.to_year(Field('date'))
F.date_diff('day', Field('start'), Field('end'))

# 배열
F.array_sum(Field('values'))
F.array_avg(Field('scores'))

# 수학
F.abs(Field('delta'))
F.round(Field('price'), 2)
F.floor(Field('value'))
F.ceil(Field('value'))

# 윈도우 프레임 정의
window = F.window(
    partition_by='category',
    order_by='date',
    rows_between=(-7, 0)  # 현재 행과 이전 7개 행
)

ds['rolling_avg'] = F.avg(Field('price')).over(window)

# 카테고리별 판매량 상위 3개 제품
result = (ds
    .assign(rank=F.row_number().over(
        partition_by='category',
        order_by=('sales', 'desc')
    ))
    .filter(ds['rank'] <= 3)
)

# 판매 누적 합계
ds['running_total'] = F.sum('amount').over(
    order_by='date',
    rows_between=(None, 0)  # 현재 행까지의 모든 행
)

# 7일 이동 평균
ds['ma_7'] = F.avg('price').over(
    order_by='date',
    rows_between=(-6, 0)
)

# 전년 대비 비교
ds['prev_year_sales'] = F.lag('sales', 12).over(
    partition_by='product_id',
    order_by='month'
)
ds['yoy_growth'] = (ds['sales'] - ds['prev_year_sales']) / ds['prev_year_sales']

# 총 지출액 기준으로 고객 순위 산정
ds['spend_percentile'] = F.percent_rank().over(order_by='total_spend')