Files
auto-stock/backend/app/api/endpoints/ml_ensemble.py
shuim 43b4b1a7aa fix(ml): ML 앙상블 전면 미작동 — 시계열 역방향 + 시퀀스 워밍업 NaN 크래시
9/23~9/28 닷새간 stock_analysis.ml_score 가 200/200 NULL 이었고 로그는 0줄이었다.
원인 3건이 겹쳐 있었다.

1. 시계열 역방향 (추론 ≠ 학습)
   market_analyzer 는 chart_data 를 oldest-first 로 정규화해 넘기는데
   chart_data_to_dataframe() 은 "입력은 최신순" 가정으로 무조건 뒤집는다.
   → ML 피처가 역방향 시계열에서 계산됐다. 학습은 db_data_to_dataframe
   (trade_date ASC, 정방향)이므로 추론이 학습과 정반대 방향이었다.
   ensemble_score 관측 범위가 18~50 에 갇혀 ML BUY 가 0건이던 것의 직접 원인.
   → chart_data_to_dataframe_v2(): stck_bsop_date 오름차순 정렬로 방향 의존성 제거.

2. LSTM 시퀀스 워밍업 NaN → int(nan) ValueError
   탭뷸러는 NaN 검사를 받지만 시퀀스는 검사되지 않았다. 시퀀스 피처
   volatility_20d 의 첫 유효 인덱스가 20 이므로 요구 봉수는 60+20=80 인데
   게이트가 <61 이어서 61~79 구간이 크래시 밴드였다.
   NaN → LSTM 이 [nan,nan,nan] 반환(예외 아님) → 가중평균 전체 NaN
   → ml_ensemble.py int(prob_up*100) 에서 ValueError.
   → MIN_BARS_FOR_PREDICT=80 + 시퀀스 유한성 검사. NaN 을 0 으로 채우지 않고
     사유를 담은 error 로 반환한다.
   prepare_training_data 도 idx 60~79 샘플 시퀀스에 NaN 을 넣고 있었다
   (valid_mask[:60]=False 만 존재) → X_seq.mean 이 NaN → seq_mean/std 오염.

3. except Exception: pass 가 1·2 를 조용히 삼켰다
   → _run_ml_ensemble() 분리 + 사유별 집계(get/reset_ml_skip_stats,
     log_ml_skip_summary). 최초 1건 + 이후 50건마다 warning, 사이클 종료 시
     사유별 1줄 요약. batch_daily_analysis 에 배선.

부수 수정
- 네이버 ML 차트 80일창(75봉) → 200일창(154봉). 룰 입력은 _trim_to_legacy_window
  로 기존 창과 동일 배열로 절단 — adx_wilder 는 Wilder 재귀라 배열 길이에
  민감하므로 절단 없이는 SIDEWAYS 히스테리시스 판정이 바뀐다(실측 14.21→14.55).
  전 지표 동일성 확인: rsi/ma/bb/atr/adx/stochastic 모두 일치.
- predict() 가 어떤 입력에도 예외를 던지지 않도록 얇은 가드 + _predict_impl 분리.
  비유한 확률을 내는 모델은 warning 과 함께 앙상블에서 제외(degraded_models).
- training_metrics 가 항상 {} 였던 원인: self.training_metrics = metrics 가
  _save_models() 뒤에 있어 직전 값이 기록됨. 순서 정정 + per-class 지표 추가
  ("전부 HOLD" 모델을 정확도만으로 판별 못하는 문제 대응).
- endpoints/ml_ensemble.py: get_daily_chart 는 output2 를 채우는데 output 을
  읽어 항상 400 이었다. 게이트 61→MIN_BARS_FOR_PREDICT, async 핸들러의
  동기 predict() → predict_async().

미변경: 모델 파일, 아키텍처·하이퍼파라미터, 임계값(60/0.3/0.7, 가중치
0.4/0.35/0.25), torch.load(weights_only=True), 지표 계산식, KIS 호출량.

검증: 579 passed / 0 failed (소켓·KIS 차단 하, 기준선 559 + 신규 20).
신규 tests/test_ml_feature_direction.py 는 결함 역주입으로 검출력 증명 —
방향 역전 2건 + 크래시 밴드 61/70/79 3건 + 게이트 1건 = 6건 실패 확인.

Co-Authored-By: Claude Opus 5 (1M context) <noreply@anthropic.com>
2026-09-28 11:51:36 +09:00

183 lines
6.2 KiB
Python

"""
ML 앙상블 API 엔드포인트
- POST /train: 모델 학습
- GET /predict/{stock_code}: 개별 종목 예측
- GET /status: 모델 상태 조회
- GET /backtest: 백테스트 결과
"""
from fastapi import APIRouter, Depends, HTTPException, Query, BackgroundTasks
from app.core.security import require_api_key
import logging
import asyncio
from app.services.ml_ensemble import get_ensemble
from app.services.feature_engineering import MIN_BARS_FOR_PREDICT
from app.services.korea_investment_api import korea_investment_api
from app.core.config import settings
router = APIRouter()
logger = logging.getLogger(__name__)
@router.get("/status")
async def get_model_status():
"""앙상블 모델 상태 조회"""
ensemble = get_ensemble()
status = ensemble.get_status()
status["config"] = {
"enabled": settings.ML_ENSEMBLE_ENABLED,
"rule_weight": settings.ML_ENSEMBLE_RULE_WEIGHT,
"ml_weight": settings.ML_ENSEMBLE_ML_WEIGHT,
"buy_threshold": settings.ML_ENSEMBLE_BUY_THRESHOLD,
"confidence_min": settings.ML_ENSEMBLE_CONFIDENCE_MIN,
}
return status
@router.get("/predict/{stock_code}")
async def predict_stock(stock_code: str):
"""개별 종목 ML 앙상블 예측"""
ensemble = get_ensemble()
if not ensemble.is_trained:
raise HTTPException(
status_code=503,
detail="모델이 학습되지 않았습니다. POST /ml-ensemble/train 으로 학습을 먼저 실행하세요."
)
try:
chart_resp = await korea_investment_api.get_daily_chart(stock_code, "D")
# get_daily_chart 는 페이지네이션 결과를 output2 에 담는다.
# (과거 이 핸들러는 "output" 을 읽어 항상 빈 리스트 → 400 이었다. 2026-09-28)
chart_data = chart_resp.get("output2") or chart_resp.get("output") or []
if len(chart_data) < MIN_BARS_FOR_PREDICT:
raise HTTPException(
status_code=400,
detail=(
f"차트 데이터 부족: {len(chart_data)}봉 "
f"(최소 {MIN_BARS_FOR_PREDICT}봉 필요 — "
f"LSTM 시퀀스 + 지표 워밍업)"
),
)
# async 핸들러에서 동기 predict() 를 호출하면 이벤트 루프를 막는다.
result = await ensemble.predict_async(chart_data)
result["stock_code"] = stock_code
return result
except HTTPException:
raise
except Exception as e:
logger.error(f"예측 실패 ({stock_code}): {e}")
raise HTTPException(status_code=500, detail=str(e))
async def _train_task(limit: int):
"""백그라운드 학습 작업"""
import numpy as np
from app.services.feature_engineering import (
chart_data_to_dataframe, extract_features, prepare_training_data
)
from app.services.korea_investment_api import KoreaInvestmentAPI
kis_api = KoreaInvestmentAPI()
# 종목 조회
stocks = []
try:
kospi = await kis_api.get_volume_rank("J")
if kospi and kospi.get("output"):
for item in kospi["output"]:
name = item.get("hts_kor_isnm", "")
skip = ["ETF", "레버리지", "인버스", "KODEX", "선물", "TIGER", "ARIRANG"]
if not any(k in name for k in skip):
stocks.append((item["mksc_shrn_iscd"], name))
except Exception as e:
logger.error(f"종목 조회 실패: {e}")
await asyncio.sleep(3)
try:
kosdaq = await kis_api.get_volume_rank("Q")
if kosdaq and kosdaq.get("output"):
for item in kosdaq["output"]:
name = item.get("hts_kor_isnm", "")
skip = ["ETF", "레버리지", "인버스", "KODEX", "선물", "TIGER", "ARIRANG"]
if not any(k in name for k in skip):
stocks.append((item["mksc_shrn_iscd"], name))
except Exception as e:
logger.error(f"종목 조회 실패: {e}")
stocks = stocks[:limit]
logger.info(f"학습 대상: {len(stocks)}개 종목")
# 데이터 수집
all_X_tab, all_X_seq, all_y = [], [], []
for i, (code, name) in enumerate(stocks):
try:
chart_resp = await kis_api.get_daily_chart(code, "D")
chart_data = chart_resp.get("output", [])
if not chart_data or len(chart_data) < 80:
continue
df = chart_data_to_dataframe(chart_data)
feat = extract_features(df)
X_tab, X_seq, y, _ = prepare_training_data(df, feat)
if len(X_tab) > 0:
all_X_tab.append(X_tab)
all_X_seq.append(X_seq)
all_y.append(y)
logger.info(f"[{i+1}/{len(stocks)}] {code}: {len(X_tab)}개 샘플")
except Exception as e:
logger.warning(f"[{i+1}] {code} 실패: {e}")
await asyncio.sleep(3)
if not all_X_tab:
logger.error("학습 데이터 없음")
return
X_tabular = np.vstack(all_X_tab)
X_seq = np.vstack(all_X_seq)
y = np.concatenate(all_y)
logger.info(f"총 {len(X_tabular)}개 샘플로 학습 시작")
ensemble = get_ensemble()
metrics = ensemble.train(X_tabular, X_seq, y)
logger.info(f"학습 완료: {metrics}")
@router.post("/train", dependencies=[Depends(require_api_key)])
async def train_model(
background_tasks: BackgroundTasks,
limit: int = Query(50, description="학습 종목 수"),
):
"""앙상블 모델 학습 (백그라운드 실행)"""
background_tasks.add_task(_train_task, limit)
return {
"message": f"학습이 백그라운드에서 시작되었습니다 ({limit}개 종목)",
"status": "training_started",
}
@router.get("/backtest")
async def get_backtest():
"""모델 학습 메트릭 및 백테스트 결과 조회"""
ensemble = get_ensemble()
if not ensemble.is_trained:
raise HTTPException(status_code=503, detail="모델이 학습되지 않았습니다")
return {
"is_trained": True,
"metrics": ensemble.training_metrics,
"weights": {
"lgbm": ensemble.weights[0],
"lstm": ensemble.weights[1],
"rf": ensemble.weights[2],
},
}