9/23~9/28 닷새간 stock_analysis.ml_score 가 200/200 NULL 이었고 로그는 0줄이었다.
원인 3건이 겹쳐 있었다.
1. 시계열 역방향 (추론 ≠ 학습)
market_analyzer 는 chart_data 를 oldest-first 로 정규화해 넘기는데
chart_data_to_dataframe() 은 "입력은 최신순" 가정으로 무조건 뒤집는다.
→ ML 피처가 역방향 시계열에서 계산됐다. 학습은 db_data_to_dataframe
(trade_date ASC, 정방향)이므로 추론이 학습과 정반대 방향이었다.
ensemble_score 관측 범위가 18~50 에 갇혀 ML BUY 가 0건이던 것의 직접 원인.
→ chart_data_to_dataframe_v2(): stck_bsop_date 오름차순 정렬로 방향 의존성 제거.
2. LSTM 시퀀스 워밍업 NaN → int(nan) ValueError
탭뷸러는 NaN 검사를 받지만 시퀀스는 검사되지 않았다. 시퀀스 피처
volatility_20d 의 첫 유효 인덱스가 20 이므로 요구 봉수는 60+20=80 인데
게이트가 <61 이어서 61~79 구간이 크래시 밴드였다.
NaN → LSTM 이 [nan,nan,nan] 반환(예외 아님) → 가중평균 전체 NaN
→ ml_ensemble.py int(prob_up*100) 에서 ValueError.
→ MIN_BARS_FOR_PREDICT=80 + 시퀀스 유한성 검사. NaN 을 0 으로 채우지 않고
사유를 담은 error 로 반환한다.
prepare_training_data 도 idx 60~79 샘플 시퀀스에 NaN 을 넣고 있었다
(valid_mask[:60]=False 만 존재) → X_seq.mean 이 NaN → seq_mean/std 오염.
3. except Exception: pass 가 1·2 를 조용히 삼켰다
→ _run_ml_ensemble() 분리 + 사유별 집계(get/reset_ml_skip_stats,
log_ml_skip_summary). 최초 1건 + 이후 50건마다 warning, 사이클 종료 시
사유별 1줄 요약. batch_daily_analysis 에 배선.
부수 수정
- 네이버 ML 차트 80일창(75봉) → 200일창(154봉). 룰 입력은 _trim_to_legacy_window
로 기존 창과 동일 배열로 절단 — adx_wilder 는 Wilder 재귀라 배열 길이에
민감하므로 절단 없이는 SIDEWAYS 히스테리시스 판정이 바뀐다(실측 14.21→14.55).
전 지표 동일성 확인: rsi/ma/bb/atr/adx/stochastic 모두 일치.
- predict() 가 어떤 입력에도 예외를 던지지 않도록 얇은 가드 + _predict_impl 분리.
비유한 확률을 내는 모델은 warning 과 함께 앙상블에서 제외(degraded_models).
- training_metrics 가 항상 {} 였던 원인: self.training_metrics = metrics 가
_save_models() 뒤에 있어 직전 값이 기록됨. 순서 정정 + per-class 지표 추가
("전부 HOLD" 모델을 정확도만으로 판별 못하는 문제 대응).
- endpoints/ml_ensemble.py: get_daily_chart 는 output2 를 채우는데 output 을
읽어 항상 400 이었다. 게이트 61→MIN_BARS_FOR_PREDICT, async 핸들러의
동기 predict() → predict_async().
미변경: 모델 파일, 아키텍처·하이퍼파라미터, 임계값(60/0.3/0.7, 가중치
0.4/0.35/0.25), torch.load(weights_only=True), 지표 계산식, KIS 호출량.
검증: 579 passed / 0 failed (소켓·KIS 차단 하, 기준선 559 + 신규 20).
신규 tests/test_ml_feature_direction.py 는 결함 역주입으로 검출력 증명 —
방향 역전 2건 + 크래시 밴드 61/70/79 3건 + 게이트 1건 = 6건 실패 확인.
Co-Authored-By: Claude Opus 5 (1M context) <noreply@anthropic.com>
183 lines
6.2 KiB
Python
183 lines
6.2 KiB
Python
"""
|
|
ML 앙상블 API 엔드포인트
|
|
|
|
- POST /train: 모델 학습
|
|
- GET /predict/{stock_code}: 개별 종목 예측
|
|
- GET /status: 모델 상태 조회
|
|
- GET /backtest: 백테스트 결과
|
|
"""
|
|
|
|
from fastapi import APIRouter, Depends, HTTPException, Query, BackgroundTasks
|
|
from app.core.security import require_api_key
|
|
import logging
|
|
import asyncio
|
|
|
|
from app.services.ml_ensemble import get_ensemble
|
|
from app.services.feature_engineering import MIN_BARS_FOR_PREDICT
|
|
from app.services.korea_investment_api import korea_investment_api
|
|
from app.core.config import settings
|
|
|
|
router = APIRouter()
|
|
logger = logging.getLogger(__name__)
|
|
|
|
|
|
@router.get("/status")
|
|
async def get_model_status():
|
|
"""앙상블 모델 상태 조회"""
|
|
ensemble = get_ensemble()
|
|
status = ensemble.get_status()
|
|
status["config"] = {
|
|
"enabled": settings.ML_ENSEMBLE_ENABLED,
|
|
"rule_weight": settings.ML_ENSEMBLE_RULE_WEIGHT,
|
|
"ml_weight": settings.ML_ENSEMBLE_ML_WEIGHT,
|
|
"buy_threshold": settings.ML_ENSEMBLE_BUY_THRESHOLD,
|
|
"confidence_min": settings.ML_ENSEMBLE_CONFIDENCE_MIN,
|
|
}
|
|
return status
|
|
|
|
|
|
@router.get("/predict/{stock_code}")
|
|
async def predict_stock(stock_code: str):
|
|
"""개별 종목 ML 앙상블 예측"""
|
|
ensemble = get_ensemble()
|
|
|
|
if not ensemble.is_trained:
|
|
raise HTTPException(
|
|
status_code=503,
|
|
detail="모델이 학습되지 않았습니다. POST /ml-ensemble/train 으로 학습을 먼저 실행하세요."
|
|
)
|
|
|
|
try:
|
|
chart_resp = await korea_investment_api.get_daily_chart(stock_code, "D")
|
|
# get_daily_chart 는 페이지네이션 결과를 output2 에 담는다.
|
|
# (과거 이 핸들러는 "output" 을 읽어 항상 빈 리스트 → 400 이었다. 2026-09-28)
|
|
chart_data = chart_resp.get("output2") or chart_resp.get("output") or []
|
|
|
|
if len(chart_data) < MIN_BARS_FOR_PREDICT:
|
|
raise HTTPException(
|
|
status_code=400,
|
|
detail=(
|
|
f"차트 데이터 부족: {len(chart_data)}봉 "
|
|
f"(최소 {MIN_BARS_FOR_PREDICT}봉 필요 — "
|
|
f"LSTM 시퀀스 + 지표 워밍업)"
|
|
),
|
|
)
|
|
|
|
# async 핸들러에서 동기 predict() 를 호출하면 이벤트 루프를 막는다.
|
|
result = await ensemble.predict_async(chart_data)
|
|
result["stock_code"] = stock_code
|
|
|
|
return result
|
|
|
|
except HTTPException:
|
|
raise
|
|
except Exception as e:
|
|
logger.error(f"예측 실패 ({stock_code}): {e}")
|
|
raise HTTPException(status_code=500, detail=str(e))
|
|
|
|
|
|
async def _train_task(limit: int):
|
|
"""백그라운드 학습 작업"""
|
|
import numpy as np
|
|
from app.services.feature_engineering import (
|
|
chart_data_to_dataframe, extract_features, prepare_training_data
|
|
)
|
|
from app.services.korea_investment_api import KoreaInvestmentAPI
|
|
|
|
kis_api = KoreaInvestmentAPI()
|
|
|
|
# 종목 조회
|
|
stocks = []
|
|
try:
|
|
kospi = await kis_api.get_volume_rank("J")
|
|
if kospi and kospi.get("output"):
|
|
for item in kospi["output"]:
|
|
name = item.get("hts_kor_isnm", "")
|
|
skip = ["ETF", "레버리지", "인버스", "KODEX", "선물", "TIGER", "ARIRANG"]
|
|
if not any(k in name for k in skip):
|
|
stocks.append((item["mksc_shrn_iscd"], name))
|
|
except Exception as e:
|
|
logger.error(f"종목 조회 실패: {e}")
|
|
|
|
await asyncio.sleep(3)
|
|
|
|
try:
|
|
kosdaq = await kis_api.get_volume_rank("Q")
|
|
if kosdaq and kosdaq.get("output"):
|
|
for item in kosdaq["output"]:
|
|
name = item.get("hts_kor_isnm", "")
|
|
skip = ["ETF", "레버리지", "인버스", "KODEX", "선물", "TIGER", "ARIRANG"]
|
|
if not any(k in name for k in skip):
|
|
stocks.append((item["mksc_shrn_iscd"], name))
|
|
except Exception as e:
|
|
logger.error(f"종목 조회 실패: {e}")
|
|
|
|
stocks = stocks[:limit]
|
|
logger.info(f"학습 대상: {len(stocks)}개 종목")
|
|
|
|
# 데이터 수집
|
|
all_X_tab, all_X_seq, all_y = [], [], []
|
|
for i, (code, name) in enumerate(stocks):
|
|
try:
|
|
chart_resp = await kis_api.get_daily_chart(code, "D")
|
|
chart_data = chart_resp.get("output", [])
|
|
if not chart_data or len(chart_data) < 80:
|
|
continue
|
|
|
|
df = chart_data_to_dataframe(chart_data)
|
|
feat = extract_features(df)
|
|
X_tab, X_seq, y, _ = prepare_training_data(df, feat)
|
|
if len(X_tab) > 0:
|
|
all_X_tab.append(X_tab)
|
|
all_X_seq.append(X_seq)
|
|
all_y.append(y)
|
|
logger.info(f"[{i+1}/{len(stocks)}] {code}: {len(X_tab)}개 샘플")
|
|
except Exception as e:
|
|
logger.warning(f"[{i+1}] {code} 실패: {e}")
|
|
await asyncio.sleep(3)
|
|
|
|
if not all_X_tab:
|
|
logger.error("학습 데이터 없음")
|
|
return
|
|
|
|
X_tabular = np.vstack(all_X_tab)
|
|
X_seq = np.vstack(all_X_seq)
|
|
y = np.concatenate(all_y)
|
|
|
|
logger.info(f"총 {len(X_tabular)}개 샘플로 학습 시작")
|
|
|
|
ensemble = get_ensemble()
|
|
metrics = ensemble.train(X_tabular, X_seq, y)
|
|
logger.info(f"학습 완료: {metrics}")
|
|
|
|
|
|
@router.post("/train", dependencies=[Depends(require_api_key)])
|
|
async def train_model(
|
|
background_tasks: BackgroundTasks,
|
|
limit: int = Query(50, description="학습 종목 수"),
|
|
):
|
|
"""앙상블 모델 학습 (백그라운드 실행)"""
|
|
background_tasks.add_task(_train_task, limit)
|
|
return {
|
|
"message": f"학습이 백그라운드에서 시작되었습니다 ({limit}개 종목)",
|
|
"status": "training_started",
|
|
}
|
|
|
|
|
|
@router.get("/backtest")
|
|
async def get_backtest():
|
|
"""모델 학습 메트릭 및 백테스트 결과 조회"""
|
|
ensemble = get_ensemble()
|
|
if not ensemble.is_trained:
|
|
raise HTTPException(status_code=503, detail="모델이 학습되지 않았습니다")
|
|
|
|
return {
|
|
"is_trained": True,
|
|
"metrics": ensemble.training_metrics,
|
|
"weights": {
|
|
"lgbm": ensemble.weights[0],
|
|
"lstm": ensemble.weights[1],
|
|
"rf": ensemble.weights[2],
|
|
},
|
|
}
|