- 스윙 체결가 확인 전 executed_price NULL + fill_sweep, 진입가 resolve(ActiveTrade↔Portfolio), 0체결/부분체결 매수 장부 원복 - DT 고아 감지(근거 한정)·0체결 매도 복원·stale 점검 확대, 시간손절 -0.3% 원복 - 폴백 손절 ATR 캐시, 거래량부족-차단 신호 매수 차단, 현금 5% 유보 재적용, MDD peak/reset 수정 - KIS 서킷브레이커 청산 우회·경보, db_worker 재큐잉 순서, heartbeat·health-watch 사이드카 - 실시간 WS 재구독·41건 우선순위·다건 프레임 분할, 차트 샘플 제거·당일봉 합성, WS 서브프로토콜 인증 - 프론트: 미관리 그룹·확인 모달·차트 실시간 반영·예수금 표시 정정 - 전문가 에이전트 6종 추가(.claude/agents) - 유닛 스위트 2667 passed (소켓 차단 하), tsc OK Co-Authored-By: Claude Opus 5.5 <noreply@anthropic.com> Claude-Session: https://claude.ai/code/session_01Y83Za98XsNw9zuA4FTUytN
2248 lines
107 KiB
Python
2248 lines
107 KiB
Python
"""Background DB Writer Worker
|
||
|
||
ARCHITECTURE (CLAUDE.md 3.2):
|
||
- 실시간/콜백 스레드에서는 절대 DB 세션을 직접 열지 않는다.
|
||
- 모든 DB 쓰기 작업은 이 모듈의 db_task_queue 로 위임한다.
|
||
- 워커가 큐를 소비하며 단일 세션에서 순차 처리 → 락 경합 제거.
|
||
|
||
Supported task types:
|
||
- insert_trade_history : dict → TradeHistory INSERT
|
||
- update_trade_history : dict → TradeHistory UPDATE by id (체결 확인 후 슬리피지/수량 반영)
|
||
- update_trade_history_by_order_id : dict → TradeHistory UPDATE by order_id (KIS 주문번호 기준)
|
||
- upsert_stock_analysis : dict → StockAnalysis single UPSERT
|
||
- bulk_upsert_stock_analysis : list → StockAnalysis batch UPSERT
|
||
- upsert_stock_ban : dict → StockBan UPSERT (loss_tracker)
|
||
- insert_news : dict → News INSERT (뉴스 감성 분석 결과 저장)
|
||
- log_mcp_deny : dict → MCP 거부 이벤트 로그 (DB 저장 없이 로그만)
|
||
- upsert_portfolio : dict → Portfolio INSERT/UPDATE (strategy_type 포함)
|
||
- upsert_active_trade : dict → ActiveTrade UPSERT (strategy_name 포함)
|
||
- close_active_trade : dict → ActiveTrade 상태를 'closed'로 변경
|
||
- upsert_stock_ban_v2 : dict → StockBanV2 UPSERT (user_id, stock_code 스코프 — 멀티테넌트)
|
||
|
||
멀티테넌트(사용자 스코프) 확장 (docs/multi_tenant_design.md §3.4):
|
||
- insert_trade_history / update_trade_history(_by_order_id) / upsert_portfolio /
|
||
upsert_active_trade / close_active_trade / insert_trade_journal 는 payload
|
||
data["user_id"] 가 있으면 조회 필터·생성 컬럼에 반영하고, 없으면(None) 기존과
|
||
100% 동일하게 동작한다(하위 호환). 새 task 타입을 추가하지 않는다.
|
||
- stock_bans 는 PK가 stock_code 단일이라 사용자 스코프로 확장 불가 → 신규 테이블
|
||
stock_bans_v2(user_id, stock_code UNIQUE 쌍) + 신규 task upsert_stock_ban_v2 사용.
|
||
"""
|
||
import asyncio
|
||
import json
|
||
from app.core.json_helpers import _dumps
|
||
import logging
|
||
import time
|
||
import uuid
|
||
from datetime import date, datetime, timedelta
|
||
from pathlib import Path
|
||
|
||
from sqlalchemy import or_, select
|
||
|
||
from app.core.database import AsyncSessionLocal
|
||
from app.models.models import TradeHistory
|
||
from app.core.timeutil import now_kst
|
||
|
||
logger = logging.getLogger(__name__)
|
||
|
||
# ─────────────────────────────────────────────────────────────────────────────
|
||
# 전략명 상수 / 필터 헬퍼 (CLAUDE.md §8.5 항목 3·6)
|
||
#
|
||
# DT_STRATEGY_NAMES 는 mdd_manager.DT_STRATEGY_NAMES 와 **동일 목록**이어야 한다.
|
||
# 여기(db_worker)를 정본으로 두는 이유:
|
||
# - db_worker 는 어떤 서비스 모듈도 모듈 수준에서 import 하지 않아 순환 참조가 없다.
|
||
# - ActiveTrade 를 실제로 쓰는 계층이므로 필터 표현을 한 곳에 모을 수 있다.
|
||
# mdd_manager 쪽은 담당 에이전트가 달라 이번에 수정하지 않는다(후속 과제).
|
||
# ─────────────────────────────────────────────────────────────────────────────
|
||
DT_STRATEGY_NAMES: tuple[str, ...] = ("day_trade", "daytrading")
|
||
|
||
|
||
def not_dt_strategy_clause(column):
|
||
"""DT 계열 전략을 제외하는 SQL 3값 논리 안전 필터.
|
||
|
||
`column != "day_trade"` 는 column IS NULL 인 legacy 행까지 함께 탈락시킨다
|
||
(SQL 3값 논리: NULL != 'x' → UNKNOWN → WHERE 에서 거짓 취급).
|
||
→ NULL 행을 명시적으로 포함시킨 뒤 DT 계열만 NOT IN 으로 제외한다.
|
||
|
||
Args:
|
||
column: ActiveTrade.strategy_name 등 비교 대상 컬럼
|
||
|
||
Returns:
|
||
SQLAlchemy boolean expression
|
||
"""
|
||
return or_(column.is_(None), column.notin_(DT_STRATEGY_NAMES))
|
||
|
||
|
||
# upsert_active_trade payload 중 ORM 컬럼이 아닌 '메타' 키 (setattr/생성 인자 제외 대상)
|
||
_ACTIVE_TRADE_META_KEYS = (
|
||
"remaining_pct_multiply",
|
||
"strategy_names",
|
||
"strategy_name_not",
|
||
# [M-A 2026-10-02] 멱등화 마커 — 워커가 처리 중에 채운다(ORM 컬럼 아님, 호출부는 넣지 않는다).
|
||
"_target_id",
|
||
"_applied_remaining_pct",
|
||
# [2026-10-08] 스윙 진입가 정합 — 추가매수 가중평균 / 체결가 보정 (ORM 컬럼 아님)
|
||
"accumulate_entry",
|
||
"entry_fill_adjust",
|
||
"_applied_entry_price",
|
||
"_applied_quantity",
|
||
"_retried_exec", # [2026-10-09] 재시도 실행 표식(경고용, ORM 컬럼 아님)
|
||
)
|
||
# 정상 경로 재시도·DLQ 저장 전에 지우는 마커. `_applied_remaining_pct` 는 "이번 실행이
|
||
# 계산한 절대값"이라, 실패 후 재시도(큐 뒤로 재등록 → 그 사이 다른 multiply 가 먼저 적용될 수
|
||
# 있음)에서 재사용하면 그 갱신을 덮어쓴다. `_target_id`(close 대상 고정)는 유지한다 —
|
||
# 재시도도 처음 고른 행을 닫는 것이 맞다.
|
||
_RETRY_STRIP_MARKERS: tuple[str, ...] = (
|
||
"_applied_remaining_pct", "_applied_entry_price", "_applied_quantity",
|
||
)
|
||
_PINNED_TASK_TYPES: tuple[str, ...] = ("close_active_trade", "upsert_active_trade")
|
||
|
||
|
||
def _strip_retry_markers(task: dict) -> None:
|
||
data = task.get("data")
|
||
if isinstance(data, dict):
|
||
for k in _RETRY_STRIP_MARKERS:
|
||
data.pop(k, None)
|
||
|
||
|
||
def _apply_strategy_name_filter(query, data: dict, column):
|
||
"""payload 의 전략명 필터 키를 SELECT 쿼리에 적용.
|
||
|
||
지원 키 (우선순위 순 — 상위 키가 있으면 하위 키는 무시):
|
||
1) strategy_name : str → column == value (기존 동작, 무변경)
|
||
2) strategy_names : list → column IN (...)
|
||
3) strategy_name_not : str | list → column IS NULL OR column NOT IN (...)
|
||
|
||
세 키가 모두 없거나 비어 있으면 query 를 **그대로** 반환하므로,
|
||
새 키를 쓰지 않는 기존 호출부의 동작은 수정 전과 완전히 동일하다.
|
||
"""
|
||
strategy_name = data.get("strategy_name")
|
||
if strategy_name:
|
||
return query.where(column == strategy_name)
|
||
|
||
names = data.get("strategy_names")
|
||
if names:
|
||
_names = [n for n in names if n]
|
||
if _names:
|
||
return query.where(column.in_(_names))
|
||
return query
|
||
|
||
excluded = data.get("strategy_name_not")
|
||
if excluded:
|
||
if isinstance(excluded, str):
|
||
excluded = [excluded]
|
||
_excluded = [n for n in excluded if n]
|
||
if _excluded:
|
||
return query.where(or_(column.is_(None), column.notin_(_excluded)))
|
||
return query
|
||
|
||
|
||
# ─────────────────────────────────────────────────────────────────────────────
|
||
# DLQ (Dead Letter Queue) — 3회 재시도 실패 시 파일로 백업
|
||
# ─────────────────────────────────────────────────────────────────────────────
|
||
DLQ_DIR = Path.home() / ".cache" / "auto-stock" / "dlq"
|
||
|
||
|
||
# 종료 drain 시간 예산(초). 초과분은 커밋을 포기하고 DLQ 로 보관한다.
|
||
DRAIN_DEADLINE_SECONDS = 20
|
||
# DLQ 재처리 완료 파일 이동 위치 — 재처리 무한루프 방지
|
||
DLQ_PROCESSED_DIR = DLQ_DIR / "processed"
|
||
# [C2 2026-09-30] 나이·충돌로 재큐잉하지 않은 파일 격리 위치 (증거 보존 — 삭제하지 않는다)
|
||
DLQ_EXPIRED_DIR = DLQ_DIR / "expired"
|
||
# [M-B 2026-10-02] 자동 재큐잉하면 안 되고 사람이 판단해야 하는 파일 (커밋 여부 불명 + 검증 불가)
|
||
DLQ_MANUAL_DIR = DLQ_DIR / "manual"
|
||
|
||
# [C2] 나이 제한 — replay_dlq() 가 failed_at 을 읽지 않아 **재기동마다 오래된 상태를
|
||
# 되살렸다.** 예: 9/25 drain 으로 빠진 upsert_active_trade 가 그 사이 전량 청산돼
|
||
# status='closed' 가 된 뒤 9/30 기동에 재큐잉되면, 핸들러가 active 행을 못 찾고
|
||
# 필수 키가 다 있으니 **새 active 행을 INSERT** 한다 → §8.4.1 의 "9/23 유령 행 129개"와
|
||
# 같은 실패 모드가 자동화된다. upsert_portfolio 는 이미 매도된 종목의 Portfolio 행을
|
||
# 재생성해 스윙 청산이 없는 수량을 팔려 한다(주문거부·과다매도).
|
||
#
|
||
# 타입별 차등: 위험의 성질이 다르기 때문이다.
|
||
# - **상태 덮어쓰기**(active_trade/portfolio): payload 가 '그때의 현재 상태'다. 시간이
|
||
# 지나면 진실이 아니라 거짓이 되므로 짧게 잡는다. DT 포지션은 당일 청산(15:20 EOD)이
|
||
# 원칙이라 두 시간이면 이미 다른 국면이다.
|
||
# - **기록 추가**(trade_history/journal/analysis/ban/news): 늦게 들어가도 '없던 기록이
|
||
# 생기는' 것이라 상태를 거짓으로 만들지 않는다. 다만 무한정 허용하면 과거 시각 행이
|
||
# 집계(get_uncovered_trades(days=7)·누적 실현손익)를 오염시키므로 24시간으로 끊는다.
|
||
# 상태 덮어쓰기 계열 — payload 가 '그때의 현재 상태'라 오래되면 거짓이 된다.
|
||
# [M-4 2026-09-30] close_active_trade 를 **여기서 뺐다.** 성격이 다르다: "닫아라"는
|
||
# 지시는 시간이 지나도 거짓이 되지 않는다(이미 닫혀 있으면 no-op, 아직 열려 있으면
|
||
# 닫는 것이 맞다). 오히려 격리하는 쪽이 **반대 방향의 유령 행**을 만든다 — 야간
|
||
# 재기동으로 close 가 격리되면 이미 청산된 포지션의 ActiveTrade 가 active 로 영구
|
||
# 잔존하고(§8.4.1 '유령 행 129개'와 같은 형태), 그 잔량이 다른 안전장치(유입 잔고
|
||
# 격리의 '시스템 보유' 하한)로 흘러든다. portfolio.py 의 정합 루프도 active 행이
|
||
# 2개 이상이면 continue 하므로 자동 복구되지 않는다.
|
||
_DLQ_STATE_TASK_TYPES: tuple[str, ...] = (
|
||
"upsert_active_trade",
|
||
"upsert_portfolio",
|
||
)
|
||
# 현재 상태와의 충돌을 확인할 타입 (나이 분류와 별개 — close 는 충돌 확인만 받는다)
|
||
_DLQ_CONFLICT_CHECK_TYPES: tuple[str, ...] = (
|
||
"upsert_active_trade",
|
||
"upsert_portfolio",
|
||
"close_active_trade",
|
||
# [M-B 2026-10-02] 같은 order_id 행이 이미 있으면 중복 INSERT
|
||
"insert_trade_history",
|
||
)
|
||
# 상태 덮어쓰기 계열: 같은 날(로컬 날짜) + 2시간 이내만 재큐잉
|
||
DLQ_REPLAY_MAX_AGE_STATE_SECONDS: float = 2 * 3600
|
||
# 기록 추가 계열: 24시간 이내만 재큐잉
|
||
DLQ_REPLAY_MAX_AGE_RECORD_SECONDS: float = 24 * 3600
|
||
# [M-4] close_active_trade: 대폭 완화(7일). 무제한으로 두지 않는 이유는 충돌 판정이
|
||
# 불가한 상황(DB 미가동 → M-2 단락)에서 '새 포지션을 닫을' 위험이 남기 때문이다.
|
||
# 충돌 판정이 불가하면 아래에서 기록 계열 상한(24시간)으로 되돌린다.
|
||
DLQ_REPLAY_MAX_AGE_CLOSE_SECONDS: float = 7 * 24 * 3600
|
||
|
||
# [M-2 2026-09-30] 충돌 판정 단락 플래그. replay_dlq() 는 lifespan 에서 await 되므로
|
||
# 기동을 막는다. DB 가 아직 안 뜬 상태에서 파일마다 접속을 재시도하면 기동 지연이
|
||
# (파일 수 × 접속 타임아웃)까지 늘어난다 → 첫 실패 후에는 충돌 판정을 건너뛰고
|
||
# **나이 제한만** 적용한다(나이 제한은 단락 후에도 계속 적용된다).
|
||
_dlq_conflict_check_available: bool = True
|
||
# 한 번의 기동에서 재큐잉할 최대 DLQ 파일 수 (큐 폭주 방지)
|
||
DLQ_REPLAY_MAX_FILES = 500
|
||
|
||
|
||
# [M5 2026-09-28] DLQ 재처리 시 타입 복원.
|
||
# _save_to_dlq 는 _dumps(..., default=str) (내부적으로 json.dumps) 를 쓰므로 Decimal → "1234.5",
|
||
# datetime/date → ISO 문자열로 **열화**된다. 그 dict 를 그대로 큐에 되돌리면
|
||
# `TradeHistory(**data)` 같은 ORM 대입에서 asyncpg 가 DateTime 컬럼의 str 을 거부해
|
||
# 3회 재시도 후 **새 DLQ 파일로 다시 쌓인다**(기동마다 증식). 재큐잉 전에 모델 컬럼
|
||
# 타입을 보고 되돌린다.
|
||
_DLQ_TASK_MODELS: dict[str, str] = {
|
||
"insert_trade_history": "TradeHistory",
|
||
"update_trade_history": "TradeHistory",
|
||
"update_trade_history_by_order_id": "TradeHistory",
|
||
"upsert_portfolio": "Portfolio",
|
||
"upsert_active_trade": "ActiveTrade",
|
||
"close_active_trade": "ActiveTrade",
|
||
"upsert_stock_analysis": "StockAnalysis",
|
||
"bulk_upsert_stock_analysis": "StockAnalysis",
|
||
"insert_trade_journal": "TradeJournal",
|
||
"upsert_stock_ban": "StockBan",
|
||
"upsert_stock_ban_v2": "StockBanV2",
|
||
"insert_news": "News",
|
||
}
|
||
|
||
|
||
def _coerce_value_for_column(value, col_type):
|
||
"""컬럼 타입에 맞춰 문자열을 원래 타입으로 되돌린다. 실패 시 원본 그대로."""
|
||
if not isinstance(value, str) or not value:
|
||
return value
|
||
try:
|
||
from sqlalchemy import DateTime, Date, Numeric, Float, Integer, Boolean
|
||
if isinstance(col_type, DateTime):
|
||
return datetime.fromisoformat(value)
|
||
if isinstance(col_type, Date):
|
||
return date.fromisoformat(value)
|
||
if isinstance(col_type, Numeric) and not isinstance(col_type, Float):
|
||
from decimal import Decimal
|
||
return Decimal(value)
|
||
if isinstance(col_type, Float):
|
||
return float(value)
|
||
if isinstance(col_type, Integer):
|
||
return int(value)
|
||
if isinstance(col_type, Boolean):
|
||
return value.lower() in ("true", "1", "yes")
|
||
except (ValueError, TypeError, ArithmeticError):
|
||
# 되돌리지 못하면 원본을 유지 — 핸들러가 판단하게 한다(조용히 버리지 않는다)
|
||
logger.warning("[DLQ] 타입 복원 실패 — 원본 유지: %r (%s)", value, col_type)
|
||
return value
|
||
|
||
|
||
def _restore_dlq_task_types(task: dict) -> dict:
|
||
"""[M5] DLQ 파일에서 읽은 task 의 payload 타입을 모델 스키마 기준으로 복원."""
|
||
model_name = _DLQ_TASK_MODELS.get(task.get("type", ""))
|
||
if not model_name:
|
||
return task
|
||
try:
|
||
from app.models import models as _m
|
||
model = getattr(_m, model_name, None)
|
||
if model is None:
|
||
return task
|
||
cols = {c.key: c.type for c in model.__table__.columns}
|
||
except Exception as e:
|
||
logger.warning("[DLQ] 모델 스키마 조회 실패 (%s): %s", model_name, e)
|
||
return task
|
||
|
||
def _fix(d):
|
||
if not isinstance(d, dict):
|
||
return d
|
||
return {
|
||
k: (_coerce_value_for_column(v, cols[k]) if k in cols else v)
|
||
for k, v in d.items()
|
||
}
|
||
|
||
data = task.get("data")
|
||
if isinstance(data, list):
|
||
task["data"] = [_fix(row) for row in data]
|
||
elif isinstance(data, dict):
|
||
task["data"] = _fix(data)
|
||
# update 계열은 갱신 필드를 별도 키에 담는다
|
||
if isinstance(task.get("updates"), dict):
|
||
task["updates"] = _fix(task["updates"])
|
||
return task
|
||
|
||
|
||
def _dlq_max_age_seconds(task_type: str) -> float:
|
||
"""타입별 재큐잉 허용 나이(초).
|
||
|
||
close_active_trade 는 충돌 판정이 **가능할 때만** 7일까지 허용한다. 판정이 단락된
|
||
상태(DB 미가동)에서는 '새 포지션을 닫을' 위험이 남으므로 기록 계열 상한으로 내린다.
|
||
"""
|
||
if task_type in _DLQ_STATE_TASK_TYPES:
|
||
return DLQ_REPLAY_MAX_AGE_STATE_SECONDS
|
||
if task_type == "close_active_trade":
|
||
if _dlq_conflict_check_available:
|
||
return DLQ_REPLAY_MAX_AGE_CLOSE_SECONDS
|
||
return DLQ_REPLAY_MAX_AGE_RECORD_SECONDS
|
||
return DLQ_REPLAY_MAX_AGE_RECORD_SECONDS
|
||
|
||
|
||
def _dlq_age_verdict(entry: dict, task_type: str) -> tuple[bool, str]:
|
||
"""[C2] failed_at 기준 나이 판정. (재큐잉 허용?, 사유) 반환.
|
||
|
||
``failed_at`` 은 ``_save_to_dlq`` 가 ``datetime.now().isoformat()`` (naive 로컬)로
|
||
쓴다. 같은 시계로 비교해야 하므로 여기서도 ``datetime.now()`` 를 쓴다
|
||
(``now_kst()`` 와 섞으면 컨테이너 TZ 에 따라 9시간 오차가 난다).
|
||
|
||
나이를 알 수 없으면: 상태 덮어쓰기 계열은 **격리**(보수적), 기록 계열은 허용.
|
||
"""
|
||
raw = entry.get("failed_at")
|
||
failed_at = None
|
||
if isinstance(raw, str) and raw:
|
||
try:
|
||
failed_at = datetime.fromisoformat(raw)
|
||
except ValueError:
|
||
failed_at = None
|
||
|
||
if failed_at is None:
|
||
if task_type in _DLQ_STATE_TASK_TYPES:
|
||
return False, f"failed_at 없음/파싱불가({raw!r}) — 상태 덮어쓰기 계열은 보수적 격리"
|
||
# close_active_trade 는 나이를 몰라도 허용한다(닫으라는 지시는 늦어도 유효).
|
||
# 새 포지션을 닫는 위험은 충돌 판정(created_at > failed_at)이 막는다.
|
||
return True, "failed_at 없음 — 기록/close 계열이라 허용"
|
||
|
||
if failed_at.tzinfo is not None:
|
||
failed_at = failed_at.replace(tzinfo=None)
|
||
now = datetime.now()
|
||
age = (now - failed_at).total_seconds()
|
||
limit = _dlq_max_age_seconds(task_type)
|
||
if age > limit:
|
||
return False, (
|
||
f"나이 {age / 3600:.1f}시간 > 상한 {limit / 3600:.1f}시간 "
|
||
f"(failed_at={failed_at.isoformat()})"
|
||
)
|
||
if task_type in _DLQ_STATE_TASK_TYPES and failed_at.date() != now.date():
|
||
# 2시간 이내라도 날짜가 다르면 다른 세션이다(자정 전후 기동)
|
||
return False, (
|
||
f"상태 덮어쓰기 계열인데 날짜가 다름 "
|
||
f"(failed_at={failed_at.date()}, today={now.date()})"
|
||
)
|
||
return True, f"나이 {age / 60:.0f}분"
|
||
|
||
|
||
async def _dlq_state_conflict(task: dict, entry: dict) -> tuple[bool, str]:
|
||
"""[C2] 상태 덮어쓰기 계열이 **현재 상태와 충돌**하는지 읽기 전용으로 확인.
|
||
|
||
나이 제한을 통과해도(≤2시간) 그 사이 청산·재진입이 있었으면 유령 행을 만든다.
|
||
여기서는 SELECT 만 수행하고 ``commit()`` 을 호출하지 않는다 — 기동 시 1회,
|
||
실시간 계층이 아니다(CLAUDE.md §3.2 허용예외③ 와 동일한 성격). **쓰기는 여전히
|
||
큐 경유**다.
|
||
|
||
판정 실패(DB 미가동 등)는 '충돌 아님'으로 돌려 나이 제한만 적용한다 — 여기서
|
||
예외로 죽으면 기동이 막힌다.
|
||
|
||
Returns:
|
||
tuple[bool, str]: (충돌인가?, 사유)
|
||
"""
|
||
global _dlq_conflict_check_available
|
||
|
||
task_type = task.get("type", "")
|
||
data = task.get("data") or {}
|
||
stock_code = data.get("stock_code") if isinstance(data, dict) else None
|
||
if not stock_code or task_type not in _DLQ_CONFLICT_CHECK_TYPES:
|
||
return False, ""
|
||
# [M-2] 이미 판정 불가로 확인됐으면 더 시도하지 않는다(기동 지연 유계화).
|
||
# 로그도 남기지 않는다 — 첫 실패에서 한 번만 남겼다.
|
||
if not _dlq_conflict_check_available:
|
||
return False, ""
|
||
|
||
try:
|
||
from app.models.models import ActiveTrade, Portfolio
|
||
|
||
if task_type == "insert_trade_history":
|
||
dup = await _dlq_trade_history_exists(data, entry)
|
||
if dup:
|
||
return True, f"{stock_code}: 같은 order_id 의 TradeHistory 가 이미 있음 → 중복 INSERT 위험"
|
||
return False, ""
|
||
|
||
async with AsyncSessionLocal() as session:
|
||
active = (
|
||
await session.execute(
|
||
select(ActiveTrade)
|
||
.where(
|
||
ActiveTrade.stock_code == stock_code,
|
||
ActiveTrade.status == "active",
|
||
)
|
||
.order_by(ActiveTrade.id.desc())
|
||
.limit(1)
|
||
)
|
||
).scalars().first()
|
||
pf = (
|
||
await session.execute(
|
||
select(Portfolio).where(Portfolio.stock_code == stock_code).limit(1)
|
||
)
|
||
).scalars().first()
|
||
pf_qty = int(getattr(pf, "quantity", 0) or 0) if pf is not None else 0
|
||
|
||
if task_type == "upsert_active_trade":
|
||
# active 행도 없고 보유 수량도 0 → 재큐잉하면 유령 active 행이 생긴다
|
||
if active is None and pf_qty <= 0:
|
||
return True, (
|
||
f"{stock_code}: active 행 없음 + 보유수량 0 → 유령 ActiveTrade 생성 위험"
|
||
)
|
||
elif task_type == "upsert_portfolio":
|
||
# Portfolio 행이 없으면 이미 정리된 종목이다. sync_portfolio() 가 KIS
|
||
# 잔고에서 매 주기 재생성하므로 스킵해도 실보유는 복구된다.
|
||
if pf is None:
|
||
return True, f"{stock_code}: Portfolio 행 없음 → 매도된 종목 재생성 위험"
|
||
elif task_type == "close_active_trade":
|
||
# failed_at 이후에 생긴 active 행이면 '새 포지션'이다 — 그걸 닫으면 안 된다
|
||
raw = entry.get("failed_at")
|
||
try:
|
||
_fa = datetime.fromisoformat(raw) if isinstance(raw, str) else None
|
||
except ValueError:
|
||
_fa = None
|
||
if _fa is not None and _fa.tzinfo is not None:
|
||
_fa = _fa.replace(tzinfo=None)
|
||
_created = getattr(active, "created_at", None) if active is not None else None
|
||
if _created is not None and _fa is not None:
|
||
if _created.tzinfo is not None:
|
||
_created = _created.replace(tzinfo=None)
|
||
if _created > _fa:
|
||
return True, (
|
||
f"{stock_code}: 현재 active 행이 failed_at 이후 생성"
|
||
f"(created_at={_created.isoformat()}) → 새 포지션을 닫을 위험"
|
||
)
|
||
except Exception as e:
|
||
# [M-2] 첫 실패에서 단락한다 — 이후 파일은 접속을 재시도하지 않는다.
|
||
_dlq_conflict_check_available = False
|
||
logger.warning(
|
||
"[DLQ] 상태 충돌 확인 실패 (%s/%s): %s — 이후 파일은 충돌 판정을 건너뛰고 "
|
||
"나이 제한만 적용한다(기동 지연 방지). close_active_trade 허용 나이도 "
|
||
"%.0f시간으로 내려간다.",
|
||
task_type, stock_code, e, DLQ_REPLAY_MAX_AGE_RECORD_SECONDS / 3600,
|
||
)
|
||
return False, ""
|
||
return False, ""
|
||
|
||
|
||
def _parse_dt(value) -> datetime | None:
|
||
if isinstance(value, datetime):
|
||
return value.replace(tzinfo=None) if value.tzinfo else value
|
||
if isinstance(value, str) and value:
|
||
try:
|
||
v = datetime.fromisoformat(value)
|
||
return v.replace(tzinfo=None) if v.tzinfo else v
|
||
except ValueError:
|
||
return None
|
||
return None
|
||
|
||
|
||
def _dlq_ref_day_bounds(data: dict, entry: dict) -> tuple[datetime, datetime]:
|
||
"""[L2] 주문번호 중복 확인 기준일의 [00:00, 다음날 00:00) — `_order_id_ref_date` 와 같은 우선순위.
|
||
|
||
payload 에 날짜 단서(order_date/created_at/executed_at)가 없으면 DLQ failed_at 날짜를 쓴다
|
||
(`_order_id_ref_date` 의 '오늘' 폴백은 다음 날 재처리 때 날짜를 틀리게 잡는다).
|
||
"""
|
||
if any(data.get(k) not in (None, "") for k in ("order_date", "created_at", "executed_at")):
|
||
day = _order_id_ref_date(data)
|
||
else:
|
||
day = (_parse_dt(entry.get("failed_at")) or now_kst()).date()
|
||
start = datetime(day.year, day.month, day.day)
|
||
return start, start + timedelta(days=1)
|
||
|
||
|
||
async def _dlq_trade_journal_exists(data: dict, entry: dict) -> bool | None:
|
||
"""[L3] 커밋 여부 불명 TradeJournal 이 이미 저장됐는가. True/False, 판정 불가면 None.
|
||
|
||
- trade_id 가 있으면 그 trade_id 의 일지 존재 여부
|
||
- order_id 만 있으면 같은 날 TradeHistory 로 trade_id 를 해소한 뒤 존재 여부.
|
||
해소되지 않으면 None — 핸들러가 trade_id=None 일지를 새로 만들어 중복을 막을 수 없다.
|
||
예외는 호출자에게 넘긴다(호출자가 manual 격리).
|
||
"""
|
||
from app.models.models import TradeJournal
|
||
|
||
trade_id = data.get("trade_id") or None
|
||
async with AsyncSessionLocal() as session:
|
||
if not trade_id and data.get("order_id"):
|
||
start, end = _dlq_ref_day_bounds(data, entry)
|
||
trade_id = (
|
||
await session.execute(
|
||
select(TradeHistory.id)
|
||
.where(
|
||
TradeHistory.order_id == str(data["order_id"]),
|
||
TradeHistory.created_at >= start,
|
||
TradeHistory.created_at < end,
|
||
)
|
||
.order_by(TradeHistory.id.desc())
|
||
.limit(1)
|
||
)
|
||
).scalar_one_or_none()
|
||
if not trade_id:
|
||
return None
|
||
row = (
|
||
await session.execute(
|
||
select(TradeJournal.id).where(TradeJournal.trade_id == trade_id).limit(1)
|
||
)
|
||
).first()
|
||
return row is not None
|
||
|
||
|
||
async def _dlq_trade_history_exists(data: dict, entry: dict) -> bool:
|
||
"""[M-B] order_id 가 같은 TradeHistory 행이 이미 있는가 (SELECT 전용, commit 없음).
|
||
|
||
KIS 주문번호는 **날마다 재사용**되므로 종목·주문유형·기준일(±1일) 로 범위를 좁힌다.
|
||
기준일은 payload created_at(M-7 이후 항상 있음) → 없으면 DLQ failed_at.
|
||
order_id 가 없으면 False (판정 불가 — 호출자가 사유에 따라 처리).
|
||
예외는 호출자(_dlq_state_conflict)의 단락 처리로 넘긴다.
|
||
"""
|
||
order_id = data.get("order_id") if isinstance(data, dict) else None
|
||
if not order_id:
|
||
return False
|
||
start, end = _dlq_ref_day_bounds(data, entry)
|
||
query = select(TradeHistory.id).where(
|
||
TradeHistory.order_id == str(order_id),
|
||
TradeHistory.created_at >= start,
|
||
TradeHistory.created_at < end,
|
||
)
|
||
if data.get("stock_code"):
|
||
query = query.where(TradeHistory.stock_code == data["stock_code"])
|
||
if data.get("order_type"):
|
||
query = query.where(TradeHistory.order_type == data["order_type"])
|
||
async with AsyncSessionLocal() as session:
|
||
row = (await session.execute(query.limit(1))).first()
|
||
return row is not None
|
||
|
||
|
||
def _dlq_commit_unknown_requeue_basis(task: dict) -> str | None:
|
||
"""[M-B] 커밋 여부 불명 INSERT 를 재큐잉해도 되는 근거. 없으면 None (→ manual/ 격리).
|
||
|
||
- insert_trade_history: order_id 가 있어 _dlq_state_conflict 가 중복을 확인할 수 있을 때
|
||
- insert_trade_journal: trade_id 또는 order_id — 재큐잉 전에 `_dlq_trade_journal_exists` 로
|
||
실제 존재를 확인한다(L3). 해소 불가면 manual.
|
||
- insert_news: url 이 있으면 핸들러가 URL 중복을 건너뛴다
|
||
"""
|
||
task_type = task.get("type")
|
||
data = task.get("data") if isinstance(task.get("data"), dict) else {}
|
||
if task_type == "insert_trade_history" and data.get("order_id"):
|
||
return "order_id 중복 확인"
|
||
if task_type == "insert_trade_journal" and (data.get("order_id") or data.get("trade_id")):
|
||
return "trade_id/order_id 기준 일지 존재 확인"
|
||
if task_type == "insert_news" and data.get("url"):
|
||
return "핸들러의 URL 중복 스킵"
|
||
return None
|
||
|
||
|
||
# [M-3] 직전 replay_dlq() 가 재큐잉한 태스크 타입 — 기동 시 밴 재로드 판단용
|
||
last_replay_requeued_types: set[str] = set()
|
||
|
||
|
||
def _count_json(d: Path) -> int:
|
||
try:
|
||
return sum(1 for f in d.glob("*.json") if f.is_file()) if d.exists() else 0
|
||
except OSError:
|
||
return -1
|
||
|
||
|
||
async def dlq_status_counts() -> dict[str, int]:
|
||
"""[L1] DLQ 파일 건수 (대기/수동확인/격리). 내용은 노출하지 않는다 — /health·알림용."""
|
||
def _counts() -> dict[str, int]:
|
||
return {
|
||
"pending": _count_json(DLQ_DIR),
|
||
"manual": _count_json(DLQ_MANUAL_DIR),
|
||
"expired": _count_json(DLQ_EXPIRED_DIR),
|
||
}
|
||
|
||
return await asyncio.to_thread(_counts)
|
||
|
||
|
||
async def replay_dlq() -> int:
|
||
"""기동 시 DLQ 파일을 읽어 db_task_queue 에 재큐잉. 재큐잉한 건수 반환.
|
||
|
||
[F4 2026-09-28] DLQ 는 지금까지 **쓰기 전용**이었다(읽는 코드 0건). 3회 재시도
|
||
실패분과 종료 drain 미커밋분이 파일로만 남아 유실이 영구화되고, 복구 수단은
|
||
수동 psql 뿐이었다.
|
||
|
||
CLAUDE.md §3.2 에 따라 **직접 DB 쓰기를 하지 않고 반드시 큐를 경유**한다.
|
||
파일은 재큐잉 **전에** ``processed/`` 로 옮긴다 — 옮긴 뒤 큐 투입이 실패해도
|
||
파일은 보존되고(수동 복구 가능), 다음 기동에서 같은 태스크를 두 번 큐에 넣지
|
||
않는다(insert_trade_history 는 멱등이 아니므로 중복이 더 위험하다).
|
||
|
||
손상된 JSON 은 건너뛰고 warning 을 남긴다(파일은 그대로 두어 사람이 본다).
|
||
|
||
[C2 2026-09-30] **나이 제한 + 상태 충돌 확인**을 거친다. 초기 판은 failed_at 을
|
||
읽지 않아 재기동마다 오래된 상태를 되살렸다(유령 ActiveTrade/Portfolio 생성).
|
||
재큐잉하지 않은 파일은 삭제하지 않고 ``expired/`` 로 격리하고 사유를 warning 으로
|
||
남긴다. 정책 근거는 위 상수 주석 참조.
|
||
"""
|
||
def _list_files() -> list:
|
||
if not DLQ_DIR.exists():
|
||
return []
|
||
return sorted(f for f in DLQ_DIR.glob("*.json") if f.is_file())
|
||
|
||
files = await asyncio.to_thread(_list_files)
|
||
if not files:
|
||
return 0
|
||
|
||
if len(files) > DLQ_REPLAY_MAX_FILES:
|
||
logger.error(
|
||
"❌ [DLQ] 파일 %d건이 상한 %d건을 초과 — 앞의 %d건만 재처리하고 나머지는 남긴다",
|
||
len(files), DLQ_REPLAY_MAX_FILES, DLQ_REPLAY_MAX_FILES,
|
||
)
|
||
files = files[:DLQ_REPLAY_MAX_FILES]
|
||
|
||
logger.warning("[DLQ] 재처리 시작: %d건", len(files))
|
||
# [M-2] 이번 기동의 충돌 판정 가용성 초기화 (이전 호출의 단락을 물려받지 않는다)
|
||
global _dlq_conflict_check_available
|
||
_dlq_conflict_check_available = True
|
||
requeued = 0
|
||
skipped = 0
|
||
expired = 0
|
||
manual = 0
|
||
last_replay_requeued_types.clear()
|
||
for f in files:
|
||
try:
|
||
raw = await asyncio.to_thread(f.read_text, encoding="utf-8")
|
||
entry = json.loads(raw)
|
||
task = entry.get("task") if isinstance(entry, dict) else None
|
||
if not isinstance(task, dict) or not task.get("type"):
|
||
logger.warning("[DLQ] 건너뜀(형식 불량): %s", f.name)
|
||
skipped += 1
|
||
continue
|
||
|
||
task_type = task.get("type", "unknown")
|
||
|
||
def _move_to(dest, path=f):
|
||
dest.mkdir(parents=True, exist_ok=True)
|
||
path.rename(dest / path.name)
|
||
|
||
# [M-B 2026-10-02] 종료 시 처리 중이던 비멱등 INSERT(커밋 여부 불명)는
|
||
# 중복 여부를 확인할 근거가 있을 때만 재큐잉한다. 근거가 없거나 DB 확인이
|
||
# 불가하면 manual/ 로 격리한다(자동 재큐잉은 TradeHistory/Journal 중복을 만든다).
|
||
if entry.get("error") == _DLQ_COMMIT_UNKNOWN_REASON and task_type == "log_mcp_deny":
|
||
# [L4] 로그 전용 이벤트 — 재실행하면 중복 기록일 뿐 상태에 영향이 없다 → 재큐잉 안 함
|
||
await asyncio.to_thread(_move_to, DLQ_EXPIRED_DIR)
|
||
logger.warning("[DLQ] 격리(로그 전용, 커밋 여부 불명): %s", f.name)
|
||
expired += 1
|
||
continue
|
||
if entry.get("error") == _DLQ_COMMIT_UNKNOWN_REASON and task_type == "insert_trade_journal":
|
||
# [L3] 재큐잉 전 실제 존재 확인 — 이미 있으면 격리, 판정 불가(해소 실패·DB 장애)면 manual
|
||
try:
|
||
_jexists = await _dlq_trade_journal_exists(task.get("data") or {}, entry)
|
||
except Exception as _je:
|
||
logger.warning("[DLQ] 일지 존재 확인 실패: %s — %s", f.name, _je)
|
||
_jexists = None
|
||
if _jexists is True:
|
||
await asyncio.to_thread(_move_to, DLQ_EXPIRED_DIR)
|
||
logger.warning("[DLQ] 격리(같은 trade_id 일지 이미 존재): %s", f.name)
|
||
expired += 1
|
||
continue
|
||
if _jexists is None:
|
||
await asyncio.to_thread(_move_to, DLQ_MANUAL_DIR)
|
||
logger.error(
|
||
"❌ [DLQ] 수동 확인 필요(커밋 여부 불명 일지, 존재 확인 불가): %s → %s",
|
||
f.name, DLQ_MANUAL_DIR,
|
||
)
|
||
manual += 1
|
||
continue
|
||
if entry.get("error") == _DLQ_COMMIT_UNKNOWN_REASON:
|
||
_basis = _dlq_commit_unknown_requeue_basis(task)
|
||
_needs_db = task_type == "insert_trade_history"
|
||
if _basis is None or (_needs_db and not _dlq_conflict_check_available):
|
||
await asyncio.to_thread(_move_to, DLQ_MANUAL_DIR)
|
||
logger.error(
|
||
"❌ [DLQ] 수동 확인 필요(커밋 여부 불명, 중복 확인 근거 %s): %s | type=%s | "
|
||
"failed_at=%s → %s",
|
||
"없음" if _basis is None else "확인 불가(DB)", f.name, task_type,
|
||
entry.get("failed_at"), DLQ_MANUAL_DIR,
|
||
)
|
||
manual += 1
|
||
continue
|
||
|
||
# [C2] ① 상태 충돌 확인 (읽기 전용) — 유령 행 생성 차단.
|
||
# 나이 판정보다 **먼저** 한다: close_active_trade 의 허용 나이가 '충돌 판정
|
||
# 가능 여부'에 달려 있어(M-4), 판정을 먼저 해야 첫 파일이 blind 로 통과하는
|
||
# 창이 생기지 않는다. DB 장애 시에는 여기서 한 번만 시도하고 단락된다(M-2).
|
||
_conflict, _creason = await _dlq_state_conflict(task, entry)
|
||
if _conflict:
|
||
await asyncio.to_thread(_move_to, DLQ_EXPIRED_DIR)
|
||
logger.warning(
|
||
"[DLQ] 격리(현재 상태와 충돌): %s | type=%s | failed_at=%s | 사유=%s",
|
||
f.name, task_type, entry.get("failed_at"), _creason,
|
||
)
|
||
expired += 1
|
||
continue
|
||
# [M-B] 커밋 여부 불명 trade_history 인데 방금 중복 확인이 DB 장애로 단락됐다면
|
||
# '충돌 아님'은 확인된 결과가 아니다 → 재큐잉 금지
|
||
if (
|
||
entry.get("error") == _DLQ_COMMIT_UNKNOWN_REASON
|
||
and task_type == "insert_trade_history"
|
||
and not _dlq_conflict_check_available
|
||
):
|
||
await asyncio.to_thread(_move_to, DLQ_MANUAL_DIR)
|
||
logger.error(
|
||
"❌ [DLQ] 수동 확인 필요(커밋 여부 불명 + 중복 확인 불가): %s | failed_at=%s → %s",
|
||
f.name, entry.get("failed_at"), DLQ_MANUAL_DIR,
|
||
)
|
||
manual += 1
|
||
continue
|
||
|
||
# [C2] ② 나이 제한 — 오래된 상태 재생이 유실보다 위험하다
|
||
_ok, _why = _dlq_age_verdict(entry, task_type)
|
||
if not _ok:
|
||
await asyncio.to_thread(_move_to, DLQ_EXPIRED_DIR)
|
||
logger.warning(
|
||
"[DLQ] 격리(재큐잉 안 함): %s | type=%s | failed_at=%s | 사유=%s",
|
||
f.name, task_type, entry.get("failed_at"), _why,
|
||
)
|
||
expired += 1
|
||
continue
|
||
|
||
await asyncio.to_thread(_move_to, DLQ_PROCESSED_DIR)
|
||
# 재시도 카운터를 초기화해 재큐잉분도 3회 재시도를 받게 한다
|
||
task.pop("_retry_count", None)
|
||
# [M5] default=str 로 열화된 Decimal/datetime/date 를 되돌린다
|
||
task = _restore_dlq_task_types(task)
|
||
await enqueue_db_write(task)
|
||
last_replay_requeued_types.add(task_type)
|
||
logger.info(
|
||
"[DLQ] 재큐잉: %s | type=%s | %s", f.name, task_type, _why,
|
||
)
|
||
requeued += 1
|
||
except json.JSONDecodeError as e:
|
||
logger.warning("[DLQ] 건너뜀(JSON 손상): %s — %s", f.name, e)
|
||
skipped += 1
|
||
except Exception as e:
|
||
logger.error("❌ [DLQ] 재처리 실패: %s — %s", f.name, e, exc_info=True)
|
||
skipped += 1
|
||
|
||
logger.warning(
|
||
"[DLQ] 재처리 완료: 재큐잉 %d건 / 격리 %d건 / 수동확인 %d건 / 건너뜀 %d건 "
|
||
"(처리분→%s, 격리분→%s, 수동→%s)",
|
||
requeued, expired, manual, skipped, DLQ_PROCESSED_DIR, DLQ_EXPIRED_DIR, DLQ_MANUAL_DIR,
|
||
)
|
||
return requeued
|
||
|
||
|
||
# [2026-10-09] 런타임 DLQ 적재/워커 적체 경보. 같은 키는 이 간격(초)에 1회만 텔레그램 발송.
|
||
DLQ_ALERT_INTERVAL_SEC = 300.0
|
||
WORKER_QUEUE_ALERT_DEPTH = 200 # qsize 가 이 값 이상이면 경보
|
||
DLQ_RUNTIME_REPLAY_INTERVAL_SEC = 300.0 # 런타임 pending DLQ 재처리 주기
|
||
CIRCUIT_OPEN_FAILURES = 5 # 연속 실패 이 횟수 이상이면 DB 장애로 간주(회로 열림)
|
||
CIRCUIT_RETRY_DELAY_SEC = 8.0
|
||
CIRCUIT_MAX_HOLD_SEC = 120.0 # 회로 열림 상태로 재시도 횟수를 아끼는 최대 시간
|
||
_alert_tasks: set = set()
|
||
# 워커 상태 스냅샷 (/health·경보용). 워커가 갱신한다.
|
||
_worker_state: dict = {"consecutive_failures": 0, "circuit_open": False, "last_success_ts": None}
|
||
|
||
|
||
async def _send_alert_impl(category: str, message: str) -> None:
|
||
try:
|
||
from app.services.telegram_notifier import telegram_notifier
|
||
await asyncio.wait_for(telegram_notifier.notify_system_warning(category, message), timeout=10)
|
||
except Exception as e:
|
||
logger.warning("[DBWorker] 텔레그램 경보 전송 실패(%s): %s", category, e)
|
||
|
||
|
||
def _alert_throttled_v2(key: str, category: str, message: str,
|
||
interval: float = DLQ_ALERT_INTERVAL_SEC) -> bool:
|
||
"""throttle 된 비차단 텔레그램 경보. 이벤트 루프가 없으면 로그만 남긴다."""
|
||
from app.core.log_throttle import should_log
|
||
ok, suppressed = should_log(key, interval)
|
||
if not ok:
|
||
return False
|
||
if suppressed:
|
||
message = f"{message} (+{suppressed}건 억제)"
|
||
try:
|
||
fut = asyncio.ensure_future(_send_alert_impl(category, message))
|
||
except RuntimeError as e:
|
||
logger.warning("[DBWorker] 경보 태스크 생성 실패: %s", e)
|
||
return False
|
||
_alert_tasks.add(fut)
|
||
fut.add_done_callback(_alert_tasks.discard)
|
||
return True
|
||
|
||
|
||
QUEUE_DEPTH_CHECK_INTERVAL_SEC = 30.0 # 성공 경로 적체 점검 주기
|
||
SLOW_TASK_ALERT_SEC = 5.0 # 단일 쓰기가 이 시간 이상 걸리면 느린 DB 로 간주
|
||
_depth_check_state: dict = {"last": 0.0}
|
||
|
||
|
||
def _check_queue_backlog_v2(queue: asyncio.Queue, task_elapsed: float | None = None,
|
||
now: float | None = None) -> bool:
|
||
"""[2026-10-09] 성공 경로 적체 점검. 쓰기가 실패 없이 느린 경우에도 qsize 경보를 낸다.
|
||
|
||
QUEUE_DEPTH_CHECK_INTERVAL_SEC 마다 1회만 평가(핫패스 비용 최소). 경보는 실패 경로와
|
||
같은 키로 throttle 되어 중복 발송되지 않는다.
|
||
"""
|
||
t = time.monotonic() if now is None else now
|
||
if t - _depth_check_state["last"] < QUEUE_DEPTH_CHECK_INTERVAL_SEC:
|
||
return False
|
||
_depth_check_state["last"] = t
|
||
depth = queue.qsize()
|
||
if depth < WORKER_QUEUE_ALERT_DEPTH:
|
||
return False
|
||
slow = f", 직전 쓰기 {task_elapsed:.1f}s" if task_elapsed is not None else ""
|
||
return _alert_throttled_v2(
|
||
"db_worker:queue_depth", "DB_WORKER",
|
||
f"DB 쓰기 큐 적체 qsize={depth} (실패 없음{slow}). DB 지연 확인 필요.",
|
||
)
|
||
|
||
|
||
def get_worker_health_v2() -> dict:
|
||
"""큐 적체·회로 상태 (동기, DB 접근 없음). /health 노출용."""
|
||
q = _db_task_queue
|
||
return {
|
||
"qsize": q.qsize() if q is not None else 0,
|
||
"consecutive_failures": _worker_state["consecutive_failures"],
|
||
"circuit_open": _worker_state["circuit_open"],
|
||
"last_success_ts": _worker_state["last_success_ts"],
|
||
}
|
||
|
||
|
||
async def _save_to_dlq(task: dict, error: str) -> None:
|
||
"""3회 재시도 실패한 task를 DLQ 파일로 저장.
|
||
|
||
저장 위치: ~/.cache/auto-stock/dlq/{timestamp}_{task_type}_{uuid}.json
|
||
파일 I/O는 asyncio.to_thread로 감싸 이벤트 루프 블로킹을 방지한다.
|
||
"""
|
||
try:
|
||
task_type = task.get("type", "unknown")
|
||
filename = (
|
||
f"{datetime.now().strftime('%Y%m%d_%H%M%S')}"
|
||
f"_{task_type}"
|
||
f"_{uuid.uuid4().hex[:8]}.json"
|
||
)
|
||
dlq_entry = {
|
||
"task": task,
|
||
"error": str(error),
|
||
"failed_at": datetime.now().isoformat(),
|
||
"retry_count": task.get("_retry_count", 0),
|
||
}
|
||
|
||
def _write():
|
||
DLQ_DIR.mkdir(parents=True, exist_ok=True)
|
||
(DLQ_DIR / filename).write_text(
|
||
_dumps(dlq_entry, default=str),
|
||
encoding="utf-8",
|
||
)
|
||
|
||
await asyncio.to_thread(_write)
|
||
logger.critical(
|
||
"[DLQ] Task saved to DLQ: %s | type=%s | error=%s",
|
||
filename, task_type, error,
|
||
)
|
||
_alert_throttled_v2(
|
||
"db_worker:dlq_saved", "DLQ",
|
||
f"DB 쓰기 {task_type} 가 재시도 실패로 DLQ 에 적재됨 "
|
||
f"(ActiveTrade·밴 등 DB 상태가 어긋날 수 있음). 주기 재처리가 복구를 시도한다.",
|
||
)
|
||
except Exception as e:
|
||
logger.critical(
|
||
"[DLQ] Failed to save to DLQ: %s | task_type=%s",
|
||
e, task.get("type", "unknown"),
|
||
)
|
||
_alert_throttled_v2(
|
||
"db_worker:dlq_save_failed", "DLQ",
|
||
f"DLQ 파일 저장 자체가 실패 — 태스크 유실 (type={task.get('type', 'unknown')}): {e}",
|
||
)
|
||
|
||
|
||
# ─────────────────────────────────────────────────────────────────────────────
|
||
# 전역 큐 — 앱 어디서나 import 하여 put() 호출
|
||
# [이슈8 수정] asyncio.Queue()를 모듈 로드 시점에 생성하면 이벤트 루프가 없는
|
||
# 환경(pytest, 스크립트 임포트 등)에서 RuntimeError가 발생할 수 있음.
|
||
# _db_task_queue를 None으로 두고, 첫 접근 시 lazy 초기화하는 패턴으로 변경.
|
||
# 외부 코드는 기존처럼 db_task_queue 이름으로 접근 가능 (get_db_task_queue() 내부 참조).
|
||
# ─────────────────────────────────────────────────────────────────────────────
|
||
_db_task_queue: asyncio.Queue | None = None
|
||
# [M-D] 워커가 종료 drain 을 끝낸 큐에 다는 표식 (큐 인스턴스 단위 — 테스트가 큐를 갈아끼우면 함께 사라진다)
|
||
_QUEUE_CLOSED_ATTR = "_autostock_worker_closed"
|
||
|
||
|
||
def get_db_task_queue() -> asyncio.Queue:
|
||
"""이벤트 루프 기동 후 최초 호출 시 Queue를 생성(lazy init)하여 반환."""
|
||
global _db_task_queue
|
||
if _db_task_queue is None:
|
||
_db_task_queue = asyncio.Queue()
|
||
return _db_task_queue
|
||
|
||
|
||
# 하위 호환: 기존 코드가 `db_task_queue.put()` 형태로 직접 참조하는 경우를 위해
|
||
# 프록시 객체 대신 get_db_task_queue()를 통해 접근하도록 모듈 수준 alias 제공.
|
||
# 단, 모듈 임포트 시점에 이벤트 루프가 없어도 오류가 발생하지 않음.
|
||
class _QueueProxy:
|
||
"""asyncio.Queue를 lazy init으로 감싸는 투명 프록시."""
|
||
|
||
def __getattr__(self, name):
|
||
return getattr(get_db_task_queue(), name)
|
||
|
||
async def put(self, item):
|
||
q = get_db_task_queue()
|
||
# [M-D 2026-10-02] 워커가 종료 drain 을 마친 뒤의 투입은 아무도 소비하지 않는다
|
||
# (shield 된 청산 마무리·백그라운드 태스크가 종료 중에 늦게 enqueue). 큐에 넣으면
|
||
# 프로세스 종료와 함께 사라지므로 DLQ 파일로 직접 보관한다 → 다음 기동 replay_dlq.
|
||
if getattr(q, _QUEUE_CLOSED_ATTR, False):
|
||
logger.error(
|
||
"❌ [DBWorker] 워커 종료 후 enqueue — DLQ 로 직접 보관 (type=%s)",
|
||
item.get("type", "unknown") if isinstance(item, dict) else type(item).__name__,
|
||
)
|
||
await _save_to_dlq(item if isinstance(item, dict) else {"type": "unknown", "data": item},
|
||
"enqueued_after_worker_shutdown")
|
||
return
|
||
await q.put(item)
|
||
|
||
async def get(self):
|
||
return await get_db_task_queue().get()
|
||
|
||
def task_done(self):
|
||
get_db_task_queue().task_done()
|
||
|
||
def qsize(self):
|
||
return get_db_task_queue().qsize()
|
||
|
||
def empty(self):
|
||
return get_db_task_queue().empty()
|
||
|
||
|
||
db_task_queue: asyncio.Queue = _QueueProxy() # type: ignore[assignment]
|
||
|
||
|
||
# ─────────────────────────────────────────────────────────────────────────────
|
||
# 편의 함수 — 호출 측에서 dict 구성 없이 바로 사용
|
||
# ─────────────────────────────────────────────────────────────────────────────
|
||
async def enqueue_trade_history(data: dict) -> None:
|
||
"""매매일지 INSERT 를 큐에 등록.
|
||
|
||
[M-7 2026-10-02] payload 에 created_at 이 없으면 **큐 투입 시각**으로 채운다.
|
||
이전에는 모델 기본값(now_kst)이 INSERT 시점에 적용돼, DLQ 재처리분은 created_at 이
|
||
재처리 시각(다음 기동)이 됐다 → 당일 판정(`created_at >= 오늘`)·일별 집계가 어긋났다.
|
||
호출자 dict 는 변경하지 않는다(복사).
|
||
"""
|
||
if isinstance(data, dict) and data.get("created_at") is None:
|
||
data = {**data, "created_at": now_kst()}
|
||
await db_task_queue.put({"type": "insert_trade_history", "data": data})
|
||
|
||
|
||
async def enqueue_update_trade_history(trade_id: int, updates: dict) -> None:
|
||
"""기존 TradeHistory 레코드 UPDATE 를 큐에 등록.
|
||
|
||
주로 체결 확인(verify_and_sync) 후 executed_price/quantity/status/slippage 반영 시 사용.
|
||
|
||
Args:
|
||
trade_id: 업데이트할 TradeHistory.id
|
||
updates: 업데이트할 필드 dict (예: {"executed_quantity": 10, "status": "COMPLETED"})
|
||
"""
|
||
await db_task_queue.put({
|
||
"type": "update_trade_history",
|
||
"data": {"id": trade_id, **updates},
|
||
})
|
||
|
||
|
||
async def enqueue_upsert_analysis(row: dict) -> None:
|
||
"""단건 StockAnalysis UPSERT 를 큐에 등록."""
|
||
await db_task_queue.put({"type": "upsert_stock_analysis", "data": row})
|
||
|
||
|
||
async def enqueue_bulk_upsert_analysis(rows: list[dict]) -> None:
|
||
"""다건 StockAnalysis batch UPSERT 를 큐에 등록."""
|
||
if rows:
|
||
await db_task_queue.put({"type": "bulk_upsert_stock_analysis", "data": rows})
|
||
|
||
|
||
async def enqueue_db_write(task: dict) -> None:
|
||
"""범용 DB 쓰기 태스크를 큐에 등록.
|
||
|
||
task 는 반드시 'type' 키를 포함해야 하며, 워커가 지원하는 task type 중 하나여야 한다.
|
||
예: {"type": "log_mcp_deny", "reason": "...", "trade_plan": {...}}
|
||
"""
|
||
await db_task_queue.put(task)
|
||
|
||
|
||
async def enqueue_trade_journal_raw(data: dict) -> None:
|
||
"""TradeJournal INSERT 를 큐에 등록 (순수 dict 전달용)."""
|
||
await db_task_queue.put({"type": "insert_trade_journal", "data": data})
|
||
|
||
|
||
async def enqueue_stock_ban_upsert(stock_code: str, consecutive_losses: int, ban_until) -> None:
|
||
"""StockBan UPSERT 를 큐에 등록 (loss_tracker에서 호출)."""
|
||
await db_task_queue.put({
|
||
"type": "upsert_stock_ban",
|
||
"data": {
|
||
"stock_code": stock_code,
|
||
"consecutive_losses": consecutive_losses,
|
||
"ban_until": ban_until,
|
||
}
|
||
})
|
||
|
||
|
||
async def enqueue_stock_ban_upsert_v2(
|
||
user_id: int, stock_code: str, consecutive_losses: int, ban_until
|
||
) -> None:
|
||
"""[v2] StockBanV2 UPSERT 를 큐에 등록 (사용자 스코프 loss_tracker에서 호출).
|
||
|
||
stock_bans(PK=stock_code, 단일 계정 전제)와 달리 stock_bans_v2 는
|
||
UNIQUE(user_id, stock_code) 이므로 동일 종목을 사용자별로 독립 추적한다.
|
||
"""
|
||
await db_task_queue.put({
|
||
"type": "upsert_stock_ban_v2",
|
||
"data": {
|
||
"user_id": user_id,
|
||
"stock_code": stock_code,
|
||
"consecutive_losses": consecutive_losses,
|
||
"ban_until": ban_until,
|
||
}
|
||
})
|
||
|
||
|
||
async def enqueue_portfolio_upsert(data: dict) -> None:
|
||
"""Portfolio INSERT/UPDATE 를 큐에 등록.
|
||
|
||
data 필수 키: stock_code, quantity, average_price
|
||
data 선택 키: stock_name, current_price, profit_loss, profit_loss_rate,
|
||
market, strategy_type ('swing' | 'daytrading')
|
||
"""
|
||
await db_task_queue.put({"type": "upsert_portfolio", "data": data})
|
||
|
||
|
||
async def enqueue_active_trade_upsert(data: dict) -> None:
|
||
"""ActiveTrade UPSERT 를 큐에 등록.
|
||
|
||
data 필수 키: stock_code, quantity, entry_price
|
||
data 선택 키: strategy_name ('swing' | 'day_trade'), stop_loss,
|
||
take_profit, entry_reason, highest_since_entry
|
||
data 선택 키(조회 필터 전용, ORM 컬럼 아님 — _ACTIVE_TRADE_META_KEYS):
|
||
strategy_names(list → IN),
|
||
strategy_name_not(str|list → NOT IN + strategy_name IS NULL 포함)
|
||
우선순위: strategy_name > strategy_names > strategy_name_not
|
||
"""
|
||
await db_task_queue.put({"type": "upsert_active_trade", "data": data})
|
||
|
||
|
||
async def enqueue_close_active_trade(stock_code: str, strategy_name: str | None = None) -> None:
|
||
"""ActiveTrade 를 'closed' 상태로 변경하는 태스크를 큐에 등록.
|
||
|
||
전략명 부정 조건(strategy_name_not) 등 확장 필터가 필요하면
|
||
시그니처 변경 없이 enqueue_db_write() 로 payload 를 직접 넘긴다:
|
||
await enqueue_db_write({
|
||
"type": "close_active_trade",
|
||
"data": {"stock_code": code, "strategy_name_not": DT_STRATEGY_NAMES},
|
||
})
|
||
"""
|
||
await db_task_queue.put({
|
||
"type": "close_active_trade",
|
||
"data": {"stock_code": stock_code, "strategy_name": strategy_name},
|
||
})
|
||
|
||
|
||
async def enqueue_close_active_trade_v2(
|
||
user_id: int, stock_code: str, strategy_name: str | None = None
|
||
) -> None:
|
||
"""[v2] 사용자 스코프 ActiveTrade 를 'closed' 상태로 변경하는 태스크를 큐에 등록.
|
||
|
||
close_active_trade 와 동일 task type("close_active_trade")을 재사용한다 —
|
||
핸들러가 data.get("user_id")로 필터를 추가하므로 새 타입이 필요 없다.
|
||
"""
|
||
await db_task_queue.put({
|
||
"type": "close_active_trade",
|
||
"data": {"stock_code": stock_code, "strategy_name": strategy_name, "user_id": user_id},
|
||
})
|
||
|
||
|
||
async def enqueue_update_trade_history_by_order_id(order_id: str, updates: dict) -> None:
|
||
"""KIS 주문번호(order_id)로 TradeHistory UPDATE 를 큐에 등록.
|
||
|
||
trade_id 대신 order_id 로 레코드를 조회하여 업데이트한다.
|
||
enqueue_trade_history() 로 INSERT 한 레코드의 id 를 모르는 경우 사용.
|
||
|
||
Args:
|
||
order_id: KIS 주문번호 (TradeHistory.order_id)
|
||
updates: 업데이트할 필드 dict (예: {"executed_quantity": 10, "status": "COMPLETED"})
|
||
"""
|
||
await db_task_queue.put({
|
||
"type": "update_trade_history_by_order_id",
|
||
"data": {"order_id": order_id, **updates},
|
||
})
|
||
|
||
|
||
async def enqueue_trade_journal(trade, content: str) -> None:
|
||
"""TradeJournal INSERT 를 큐에 등록 (main.py post_market_scheduler 용).
|
||
|
||
CLAUDE.md 3.2: 스케줄러(실시간 계층)에서 직접 DB 커밋 금지 → 큐 경유.
|
||
"""
|
||
from datetime import datetime
|
||
from app.services.trade_analyzer import _to_float, _parse_strategy, _parse_exit_type
|
||
|
||
pl_rate = _to_float(trade.profit_loss_rate)
|
||
# [2026-10-01] strategy_type 컬럼(swing/daytrading/manual)을 넘겨야 한다. 빠져 있어
|
||
# entry_reason 키워드만 보다 16:00 배치 일지가 전부 'unknown' 이 됐다
|
||
# (create_journal_record 는 넘기고 있었다 — 같은 거래가 경로에 따라 다른 전략명).
|
||
strategy = _parse_strategy(trade.entry_reason, getattr(trade, "strategy_type", None))
|
||
exit_type = _parse_exit_type(trade.exit_reason)
|
||
mood = "positive" if pl_rate > 0 else ("neutral" if pl_rate > -3.0 else "negative")
|
||
tags = [strategy, exit_type]
|
||
if abs(pl_rate) > 5.0:
|
||
tags.append("significant")
|
||
|
||
await db_task_queue.put({
|
||
"type": "insert_trade_journal",
|
||
"data": {
|
||
"trade_id": trade.id,
|
||
"stock_code": trade.stock_code,
|
||
"stock_name": trade.stock_name,
|
||
"journal_date": trade.executed_at or trade.created_at or now_kst(),
|
||
"content": content,
|
||
"strategy_name": strategy,
|
||
"mood": mood,
|
||
"tags": tags,
|
||
},
|
||
})
|
||
|
||
|
||
# ─────────────────────────────────────────────────────────────────────────────
|
||
# 포지션 추적 계열 핸들러 (공통 종단)
|
||
#
|
||
# [F3 2026-09-28] 종료 drain 이 insert_trade_history 만 커밋하고
|
||
# upsert_portfolio / upsert_active_trade / close_active_trade 는 DLQ 로 보냈다
|
||
# → "체결 기록은 남는데 포지션 추적 행은 사라지는" 비대칭이 설계에 내장돼 있었다
|
||
# (재기동 시 restore_from_db 가 복원할 행이 없어 포지션이 고아가 된다).
|
||
# 정상 경로와 drain 이 **같은 구현**을 쓰도록 여기로 추출한다. 두 곳에 복제하면
|
||
# 한쪽만 바뀌어 더 나쁜 불일치가 된다(CLAUDE.md §3.3 과 동일한 취지).
|
||
# ─────────────────────────────────────────────────────────────────────────────
|
||
|
||
|
||
async def _handle_insert_trade_journal(session, data: dict) -> None:
|
||
"""TradeJournal INSERT — 정상 경로와 종료 drain 이 공유하는 단일 구현.
|
||
|
||
[2026-09-29 B3] 주문 직후 백그라운드로 만드는 일지는 `TradeHistory.id` 를
|
||
모르기 때문에 `trade_id=0` 을 넣고 있었다. `get_uncovered_trades()` 가
|
||
`TradeJournal.trade_id` 로 커버 판정을 하므로 그 일지는 **아무 거래도 커버하지
|
||
못하고**, 실제 TradeHistory 행이 영구 uncovered 로 남아 16:00 배치가 같은 매도에
|
||
두 번째 일지를 만들었다(실측 중복 13건).
|
||
|
||
호출부는 `order_id`(KIS 주문번호)를 알고 있으므로, 여기(이미 DB 세션 안 —
|
||
CLAUDE.md §3 위반 없음)에서 `order_id → TradeHistory.id` 로 해소한다.
|
||
해소 실패 시 `trade_id` 는 **None** 으로 남는다(0 이 아니다 — 0 은 존재하지 않는
|
||
PK 를 가리키는 거짓 값이다).
|
||
"""
|
||
from app.models.models import TradeJournal
|
||
|
||
payload = dict(data)
|
||
# order_id 는 TradeJournal 컬럼이 아니다 — 해소용 입력이므로 반드시 분리한다.
|
||
order_id = payload.pop("order_id", None)
|
||
|
||
if not payload.get("trade_id") and order_id:
|
||
try:
|
||
result = await session.execute(
|
||
select(TradeHistory.id)
|
||
.where(TradeHistory.order_id == str(order_id))
|
||
.order_by(TradeHistory.id.desc())
|
||
.limit(1)
|
||
)
|
||
resolved = result.scalar_one_or_none()
|
||
if resolved:
|
||
payload["trade_id"] = resolved
|
||
# 해소된 trade_id 로 이미 일지가 있으면 중복 생성 금지 (장중 태스크·16:00 배치와
|
||
# 즉시 생성 경로의 경합). 명시 trade_id 경로는 조회하지 않는다(기존 계약).
|
||
dup = await session.execute(
|
||
select(TradeJournal.id).where(TradeJournal.trade_id == resolved).limit(1)
|
||
)
|
||
if dup.scalar_one_or_none() is not None:
|
||
logger.info(
|
||
"[Worker] TradeJournal skip — trade_id=%s 일지 이미 존재", resolved
|
||
)
|
||
return
|
||
else:
|
||
logger.warning(
|
||
"⚠️ [Worker] TradeJournal trade_id 미해소 (order_id=%s, %s) — "
|
||
"uncovered 판정에서 제외됨",
|
||
order_id, payload.get("stock_code", "?"),
|
||
)
|
||
except Exception as resolve_err:
|
||
logger.warning(
|
||
"⚠️ [Worker] trade_id 해소 실패 (order_id=%s): %s", order_id, resolve_err
|
||
)
|
||
|
||
# 0 은 과거 호출부의 플레이스홀더였다 — 거짓 커버 판정을 만들지 않도록 None 으로.
|
||
if payload.get("trade_id") == 0:
|
||
payload["trade_id"] = None
|
||
|
||
session.add(TradeJournal(**payload))
|
||
await session.commit()
|
||
logger.debug(
|
||
"✅ [Worker] TradeJournal saved: %s (trade_id=%s)",
|
||
payload.get("stock_code", "?"), payload.get("trade_id"),
|
||
)
|
||
|
||
|
||
async def _handle_upsert_portfolio(session, data: dict) -> None:
|
||
"""Portfolio UPSERT — 정상 경로와 종료 drain 이 공유하는 단일 구현."""
|
||
from app.models.models import Portfolio
|
||
|
||
stock_code = data.get("stock_code")
|
||
user_id = data.get("user_id")
|
||
query = select(Portfolio).where(Portfolio.stock_code == stock_code)
|
||
if user_id is not None:
|
||
query = query.where(Portfolio.user_id == user_id)
|
||
result = await session.execute(query)
|
||
record = result.scalar_one_or_none()
|
||
|
||
if record is None:
|
||
record = Portfolio(**data)
|
||
session.add(record)
|
||
else:
|
||
for key, val in data.items():
|
||
if key != "stock_code" and val is not None:
|
||
setattr(record, key, val)
|
||
|
||
await session.commit()
|
||
logger.debug(
|
||
"✅ [Worker] Portfolio upsert: %s (strategy=%s)",
|
||
stock_code,
|
||
data.get("strategy_type", "swing"),
|
||
)
|
||
|
||
|
||
# [2026-10-01] update_trade_history_by_order_id 의 식별·필터 전용 키 — setattr 대상이 아니다.
|
||
# strategy_type/order_type 은 중복 행을 좁히는 데만 쓴다(좁히기에 실패해 다른 전략 행이
|
||
# 선택됐을 때 그 행의 전략 구분을 덮어쓰지 않도록).
|
||
_ORDER_ID_UPDATE_META_KEYS: frozenset = frozenset(
|
||
{"order_id", "order_date", "strategy_type", "order_type"}
|
||
)
|
||
|
||
|
||
def _norm_kis_order_id(value) -> str:
|
||
"""KIS 주문번호 정규화(앞자리 0 제거). 저장 형식은 응답 ODNO 원문(0 패딩)이다."""
|
||
s = str(value or "").strip()
|
||
return s.lstrip("0")
|
||
|
||
|
||
def _order_id_ref_date(data: dict) -> date:
|
||
"""조회 기준일(KST). 우선순위: order_date(메타) > created_at > executed_at > 오늘.
|
||
|
||
executed_at 은 체결 확인 시각(주문 후 수 초)이라 주문일과 같다. DLQ 재처리로 다음 날
|
||
실행돼도 payload 의 원래 날짜를 쓰므로 당일 필터가 행을 놓치지 않는다.
|
||
"""
|
||
for key in ("order_date", "created_at", "executed_at"):
|
||
v = data.get(key)
|
||
if v is None or v == "":
|
||
continue
|
||
try:
|
||
if isinstance(v, datetime):
|
||
return v.date()
|
||
if isinstance(v, date):
|
||
return v
|
||
if isinstance(v, str):
|
||
return datetime.fromisoformat(v).date() if "T" in v or " " in v else date.fromisoformat(v)
|
||
except (TypeError, ValueError):
|
||
logger.warning("⚠️ [Worker] order_id 갱신 기준일 파싱 실패 %s=%r — 다음 후보 사용", key, v)
|
||
return now_kst().date()
|
||
|
||
|
||
async def _handle_update_trade_history_by_order_id(session, data: dict) -> None:
|
||
"""TradeHistory UPDATE by KIS 주문번호 — 정상 경로 단일 구현.
|
||
|
||
[2026-10-01] KIS ODNO 는 **일별 순번**이라 날짜가 바뀌면 같은 번호가 반복된다. 예전 구현
|
||
(`order_id == X` + `scalar_one_or_none()`)은 과거 행과 겹치면 MultipleResultsFound →
|
||
단일 워커가 1+2+4초 재시도로 큐 전체를 멈추고 DLQ 로 보냈고, 당일 INSERT 가 유실된
|
||
상태면 **과거 행을 덮어써** 원장을 오염시켰다.
|
||
- 기준일(KST 00:00~다음날 00:00) created_at 범위로 한정한다(_order_id_ref_date).
|
||
- order_id 는 원문 일치 OR 앞자리 0 제거 일치.
|
||
- 그래도 여러 행이면 payload 의 strategy_type·order_type 으로 좁히고 created_at desc
|
||
첫 행만 갱신 + warning (예외 없음 → 큐 정체 없음).
|
||
- 0건이면 warning 후 종료(재시도·DLQ 없음 — 기존 동작 유지).
|
||
"""
|
||
from datetime import timedelta
|
||
from sqlalchemy import func
|
||
|
||
order_id = data.get("order_id")
|
||
if not order_id:
|
||
return
|
||
user_id = data.get("user_id")
|
||
ref = _order_id_ref_date(data)
|
||
start = datetime.combine(ref, datetime.min.time())
|
||
end = start + timedelta(days=1)
|
||
|
||
raw = str(order_id).strip()
|
||
norm = _norm_kis_order_id(raw)
|
||
id_cond = TradeHistory.order_id == raw
|
||
if norm:
|
||
id_cond = or_(id_cond, func.ltrim(TradeHistory.order_id, "0") == norm)
|
||
|
||
query = select(TradeHistory).where(
|
||
id_cond,
|
||
TradeHistory.created_at >= start,
|
||
TradeHistory.created_at < end,
|
||
)
|
||
if user_id is not None:
|
||
query = query.where(TradeHistory.user_id == user_id)
|
||
query = query.order_by(TradeHistory.created_at.desc(), TradeHistory.id.desc())
|
||
rows = list((await session.execute(query)).scalars().all())
|
||
|
||
if not rows:
|
||
logger.warning(
|
||
"⚠️ [Worker] TradeHistory not found for order_id=%s (기준일 %s KST) — 갱신 생략",
|
||
order_id, ref.isoformat(),
|
||
)
|
||
return
|
||
|
||
if len(rows) > 1:
|
||
narrowed = rows
|
||
for key in ("strategy_type", "order_type"):
|
||
want = data.get(key)
|
||
if want is None:
|
||
continue
|
||
cand = [r for r in narrowed if getattr(r, key, None) == want]
|
||
if cand:
|
||
narrowed = cand
|
||
logger.warning(
|
||
"⚠️ [Worker] order_id=%s 기준일 %s 에 TradeHistory %d건 중복 — "
|
||
"strategy_type/order_type 으로 좁힌 %d건 중 최신 1건(id=%s)만 갱신",
|
||
order_id, ref.isoformat(), len(rows), len(narrowed), narrowed[0].id,
|
||
)
|
||
rows = narrowed
|
||
|
||
trade = rows[0]
|
||
for key, val in data.items():
|
||
if key in _ORDER_ID_UPDATE_META_KEYS or val is None or not hasattr(trade, key):
|
||
continue
|
||
setattr(trade, key, val)
|
||
await session.commit()
|
||
logger.info(
|
||
"✅ [Worker] TradeHistory updated by order_id=%s (id=%s) status=%s",
|
||
order_id, trade.id, data.get("status", "?"),
|
||
)
|
||
|
||
|
||
def _apply_entry_price_adjustments_v2(record, data: dict) -> frozenset:
|
||
"""[2026-10-08] 기존 active 행의 진입가·수량을 '누적 원가' 기준으로 갱신한다.
|
||
|
||
- ``accumulate_entry=True`` (추가매수): quantity = 기존 + 신규, entry_price = 수량 가중평균,
|
||
highest_since_entry = max(기존, 신규). 이전에는 신규 매수 수량·주문가로 **덮어써**
|
||
스윙 진입가가 마지막 추가매수가로 바뀌었다(스윙 손익·손절선 왜곡).
|
||
- ``entry_fill_adjust={"order_price","filled_price","filled_qty"}`` (체결 확인 후):
|
||
entry_price += (체결가 − 주문가) × 체결수량 / 행 수량. 신규 진입(행 수량 == 체결수량)이면
|
||
정확히 체결가가 된다. 추가매수였다면 그 매수분의 원가 차이만 반영된다.
|
||
|
||
둘 다 비멱등이라 계산한 절대값을 payload 에 고정한다(`_applied_*` + `_target_id`,
|
||
remaining_pct_multiply 와 같은 규약). 정상 재시도에서는 `_strip_retry_markers` 가 지운다.
|
||
|
||
Returns:
|
||
일반 setattr 루프에서 건너뛸 키 집합.
|
||
"""
|
||
skip: set = set()
|
||
_rid = getattr(record, "id", None)
|
||
_pinned = (
|
||
data.get("_applied_entry_price") is not None
|
||
and _rid is not None
|
||
and data.get("_target_id") == _rid
|
||
)
|
||
|
||
if data.get("accumulate_entry"):
|
||
# [2026-10-09] remaining_pct 도 함께 재계산한다(불변식: 실보유 = quantity × remaining_pct).
|
||
# 호출부가 넘긴 remaining_pct 는 무시한다(옛 스냅샷 값이 재계산을 덮어쓰는 것을 방지).
|
||
skip.update({"quantity", "entry_price", "highest_since_entry", "remaining_pct"})
|
||
if _pinned:
|
||
record.entry_price = float(data["_applied_entry_price"])
|
||
if data.get("_applied_quantity") is not None:
|
||
record.quantity = int(data["_applied_quantity"])
|
||
if data.get("_applied_remaining_pct") is not None:
|
||
record.remaining_pct = float(data["_applied_remaining_pct"])
|
||
else:
|
||
old_q = int(getattr(record, "quantity", 0) or 0)
|
||
old_p = float(getattr(record, "entry_price", 0) or 0)
|
||
add_q = int(data.get("quantity") or 0)
|
||
add_p = float(data.get("entry_price") or 0)
|
||
new_q = old_q + add_q
|
||
# 가중치는 '현재 보유분' = 원본 수량 × remaining_pct (분할 익절 후 추가매수 시
|
||
# 이미 판 물량의 원가가 평단에 섞이지 않게). quantity 컬럼은 원본 누적 규약 유지.
|
||
try:
|
||
_rp = float(getattr(record, "remaining_pct", 1.0) or 1.0)
|
||
except (TypeError, ValueError):
|
||
_rp = 1.0
|
||
_rp = min(1.0, max(0.0, _rp))
|
||
held_q = old_q * _rp
|
||
if add_q > 0 and add_p > 0 and held_q > 0 and old_p > 0:
|
||
new_p = (held_q * old_p + add_q * add_p) / (held_q + add_q)
|
||
elif add_q > 0 and add_p > 0:
|
||
new_p = add_p
|
||
else:
|
||
new_p = old_p
|
||
record.quantity = new_q
|
||
record.entry_price = round(float(new_p), 2) # Numeric(15,2)
|
||
# 분할 익절 뒤 추가매수: 원본 누적(quantity)이 늘었으므로 remaining_pct 를
|
||
# (현재 보유 + 추가) / (원본 + 추가) 로 맞춘다. 안 맞추면 실보유/remaining_pct 로
|
||
# 역산한 원본이 부풀어 다음 분할매도 수량이 과대(과다매도)가 된다.
|
||
_rp_changed = add_q > 0 and new_q > 0 and _rp < 1.0
|
||
if _rp_changed:
|
||
record.remaining_pct = round(min(1.0, (held_q + add_q) / new_q), 6)
|
||
if _rid is not None:
|
||
data["_applied_entry_price"] = float(record.entry_price)
|
||
data["_applied_quantity"] = int(record.quantity)
|
||
if _rp_changed:
|
||
data["_applied_remaining_pct"] = float(record.remaining_pct)
|
||
data["_target_id"] = _rid
|
||
_new_high = data.get("highest_since_entry")
|
||
if _new_high is not None:
|
||
_old_high = float(getattr(record, "highest_since_entry", 0) or 0)
|
||
record.highest_since_entry = max(_old_high, float(_new_high))
|
||
return frozenset(skip)
|
||
|
||
adj = data.get("entry_fill_adjust")
|
||
if isinstance(adj, dict):
|
||
skip.add("entry_price")
|
||
if _pinned:
|
||
record.entry_price = float(data["_applied_entry_price"])
|
||
return frozenset(skip)
|
||
try:
|
||
o = float(adj.get("order_price") or 0)
|
||
f = float(adj.get("filled_price") or 0)
|
||
q = int(adj.get("filled_qty") or 0)
|
||
except (TypeError, ValueError):
|
||
logger.warning("⚠️ [Worker] entry_fill_adjust 파싱 실패 — 진입가 보정 생략: %r", adj)
|
||
return frozenset(skip)
|
||
rec_q = int(getattr(record, "quantity", 0) or 0)
|
||
cur = float(getattr(record, "entry_price", 0) or 0)
|
||
try:
|
||
_rp2 = min(1.0, max(0.0, float(getattr(record, "remaining_pct", 1.0) or 1.0)))
|
||
except (TypeError, ValueError):
|
||
_rp2 = 1.0
|
||
# 평단은 '현재 보유분' 가중이므로 분모도 실보유(원본 × remaining_pct)로 맞춘다.
|
||
held_q2 = rec_q * _rp2
|
||
if o > 0 and f > 0 and q > 0 and held_q2 >= 1 and cur > 0:
|
||
q_eff = min(q, held_q2)
|
||
new_p = cur + (f - o) * q_eff / held_q2
|
||
if new_p > 0:
|
||
record.entry_price = round(float(new_p), 2) # Numeric(15,2)
|
||
if _rid is not None:
|
||
data["_applied_entry_price"] = float(record.entry_price)
|
||
data["_target_id"] = _rid
|
||
else:
|
||
logger.warning(
|
||
"⚠️ [Worker] ActiveTrade 체결가 보정 조건 불충족 — 생략 "
|
||
"(order=%s filled=%s qty=%s row_qty=%s row_entry=%s)", o, f, q, rec_q, cur,
|
||
)
|
||
return frozenset(skip)
|
||
|
||
|
||
async def _handle_upsert_active_trade(session, data: dict) -> None:
|
||
"""ActiveTrade UPSERT — 정상 경로와 종료 drain 이 공유하는 단일 구현."""
|
||
from app.models.models import ActiveTrade
|
||
|
||
stock_code = data.get("stock_code")
|
||
strategy_name = data.get("strategy_name")
|
||
user_id = data.get("user_id")
|
||
|
||
query = select(ActiveTrade).where(
|
||
ActiveTrade.stock_code == stock_code,
|
||
ActiveTrade.status == "active",
|
||
)
|
||
# [§8.5 항목6] strategy_name(동등) / strategy_names(IN) /
|
||
# strategy_name_not(NOT IN + NULL 포함) — 새 키 미사용 시 무변경.
|
||
query = _apply_strategy_name_filter(query, data, ActiveTrade.strategy_name)
|
||
if user_id is not None:
|
||
query = query.where(ActiveTrade.user_id == user_id)
|
||
# [2026-09-27 §8.5 후속] legacy 경로와 동일하게 '가장 최근 행' 우선.
|
||
# scalar_one_or_none() 은 한 사용자가 같은 종목에 비-DT active 행을
|
||
# 2건 이상 보유하면 MultipleResultsFound → 3회 재시도 후 DLQ 로 빠진다.
|
||
# (멀티테넌트 플래그 ON 전제조건)
|
||
query = query.order_by(ActiveTrade.id.desc()).limit(1)
|
||
result = await session.execute(query)
|
||
record = result.scalars().first()
|
||
else:
|
||
# legacy(user_id=None) 경로: 사용자 다중화로 동일 종목 active
|
||
# 행이 2건 이상 존재할 수 있어 scalar_one_or_none() 이
|
||
# MultipleResultsFound 를 던질 수 있음 → 가장 최근 행 우선.
|
||
query = query.order_by(ActiveTrade.id.desc()).limit(1)
|
||
result = await session.execute(query)
|
||
record = result.scalars().first()
|
||
|
||
if record is None and data.get("entry_fill_adjust"):
|
||
# 체결가 보정 전용 payload(수량·진입가 없음) — 대상 행이 없으면(이미 청산 등) 할 일이 없다.
|
||
logger.info(
|
||
"ℹ️ [Worker] ActiveTrade 체결가 보정 생략: %s active 행 없음 (strategy=%s)",
|
||
stock_code, strategy_name,
|
||
)
|
||
return
|
||
|
||
if record is None:
|
||
# remaining_pct_multiply·전략명 필터 키는 신규 생성 시 무시
|
||
create_data = {
|
||
k: v for k, v in data.items()
|
||
if k not in _ACTIVE_TRADE_META_KEYS
|
||
}
|
||
# 필수 컬럼(quantity/entry_price) 없이 신규 생성 요청이 오면
|
||
# IntegrityError로 3회 재시도만 낭비 → 경고 후 스킵
|
||
_missing = [k for k in ("quantity", "entry_price") if create_data.get(k) is None]
|
||
if _missing:
|
||
logger.warning(
|
||
"⚠️ [Worker] ActiveTrade upsert 스킵: %s active 행 없음 + 필수 키 누락 %s (keys=%s)",
|
||
stock_code, _missing, sorted(create_data.keys()),
|
||
)
|
||
return
|
||
if data.get("_retried_exec"):
|
||
logger.warning(
|
||
"⚠️ [Worker] ActiveTrade 신규 생성이 재시도 실행에서 발생: %s (strategy=%s) — "
|
||
"순서 역전/유령 행 가능성, KIS 잔고와 대조 필요",
|
||
stock_code, strategy_name,
|
||
)
|
||
record = ActiveTrade(**create_data)
|
||
session.add(record)
|
||
else:
|
||
# remaining_pct_multiply: 기존 remaining_pct에 비율을 곱함
|
||
# (MDD 축소 시 기존 분할매도 이력 반영)
|
||
# data.get() 사용 — pop()으로 task dict를 파괴적으로 변경하면
|
||
# 재시도 시 이 키가 사라져 no-op으로 성공 처리되는 버그 방지
|
||
multiply_ratio = data.get("remaining_pct_multiply")
|
||
if multiply_ratio is not None:
|
||
# [M-A 2026-10-02] 곱셈은 비멱등이다 — 같은 실행이 계산한 절대값을 payload 에
|
||
# 고정해, 커밋 여부 불명으로 재실행(종료 drain)돼도 두 번 곱하지 않는다.
|
||
# 정상 재시도에서는 이 마커를 지운다(_strip_retry_markers).
|
||
_applied = data.get("_applied_remaining_pct")
|
||
_rid = getattr(record, "id", None)
|
||
if _applied is not None and _rid is not None and data.get("_target_id") == _rid:
|
||
record.remaining_pct = float(_applied)
|
||
else:
|
||
current_remaining = getattr(record, "remaining_pct", 1.0) or 1.0
|
||
record.remaining_pct = float(current_remaining) * float(multiply_ratio)
|
||
if _rid is not None:
|
||
data["_applied_remaining_pct"] = record.remaining_pct
|
||
data["_target_id"] = _rid
|
||
# [2026-10-08] 추가매수(accumulate_entry) / 체결가 보정(entry_fill_adjust) 은 진입가·수량을
|
||
# **기존 행 기준으로 계산**해야 하므로 아래 일반 setattr 루프에서 해당 키를 제외한다.
|
||
_skip_keys = _apply_entry_price_adjustments_v2(record, data)
|
||
for key, val in data.items():
|
||
if key in _skip_keys:
|
||
continue
|
||
# [C1 2026-09-28] 반드시 continue — return 이면 'stock_code' 가 모든 payload 의
|
||
# 첫 키라서 기존 active 행에 대한 모든 upsert 가 첫 이터레이션에서 빠져나가
|
||
# commit() 에 도달하지 못한다(예외가 없어 성공 처리되고 DLQ 에도 안 남는다).
|
||
# 파급: 분할매도 잔량 갱신·remaining_pct_multiply·highest_since_entry 트레일링
|
||
# 갱신이 전부 무효 → 2026-09-23 '4주 보유 중 7주 매도' 재발 경로.
|
||
if key == "stock_code" or key in _ACTIVE_TRADE_META_KEYS:
|
||
continue
|
||
if val is not None:
|
||
setattr(record, key, val)
|
||
|
||
await session.commit()
|
||
logger.debug(
|
||
"✅ [Worker] ActiveTrade upsert: %s (strategy=%s)",
|
||
stock_code,
|
||
strategy_name,
|
||
)
|
||
|
||
|
||
async def _handle_upsert_stock_ban(session, data: dict) -> None:
|
||
"""StockBan UPSERT — 정상 경로와 종료 drain 이 공유 (M-3 2026-10-02: 멱등이라 drain 커밋 대상)."""
|
||
from app.models.models import StockBan
|
||
from app.core.dt_utils import to_naive_utc
|
||
|
||
stock_code = data.get("stock_code")
|
||
consecutive_losses = data.get("consecutive_losses")
|
||
# stock_bans.ban_until은 tz-naive 컬럼 — tz-aware 값이 들어와도 안전하게 저장.
|
||
# [시각 규약 — 의도적] ban_until 은 naive-**UTC** (loss_tracker 가 to_aware_utc 로 읽는다).
|
||
# 같은 행의 updated_at 등 다른 테이블 시각은 KST-naive 라 SQL 에서 `ban_until > localtimestamp`
|
||
# 처럼 직접 비교하면 9시간 어긋난다 -> `(ban_until AT TIME ZONE 'UTC') > now()` 를 쓸 것.
|
||
# 저장만 KST 로 바꾸면 기존 활성 밴이 9시간 지연 해제되고(load 도 같이 바꿔야 함) 마이그레이션이
|
||
# 필요하므로 규약을 유지한다(테스트로 고정: test_db_worker_stock_ban_tz_20261010).
|
||
ban_until = to_naive_utc(data.get("ban_until"))
|
||
|
||
result = await session.execute(select(StockBan).where(StockBan.stock_code == stock_code))
|
||
record = result.scalar_one_or_none()
|
||
|
||
if record is None:
|
||
record = StockBan(
|
||
stock_code=stock_code,
|
||
consecutive_losses=consecutive_losses,
|
||
ban_until=ban_until,
|
||
)
|
||
session.add(record)
|
||
else:
|
||
record.consecutive_losses = consecutive_losses
|
||
record.ban_until = ban_until
|
||
|
||
await session.commit()
|
||
logger.debug(
|
||
"✅ [Worker] StockBan upsert: %s (losses=%d, ban_until=%s)",
|
||
stock_code,
|
||
consecutive_losses,
|
||
ban_until.isoformat() if ban_until else "None",
|
||
)
|
||
|
||
|
||
async def _handle_upsert_stock_ban_v2(session, data: dict) -> None:
|
||
"""StockBanV2 UPSERT (ON CONFLICT DO UPDATE) — 정상 경로와 종료 drain 이 공유."""
|
||
from app.models.models import StockBanV2
|
||
from sqlalchemy.dialects.postgresql import insert as pg_insert
|
||
from app.core.dt_utils import to_naive_utc
|
||
|
||
user_id = data.get("user_id")
|
||
stock_code = data.get("stock_code")
|
||
consecutive_losses = data.get("consecutive_losses")
|
||
# stock_bans_v2.ban_until도 tz-naive 컬럼 — tz-aware 값이 들어와도 안전하게 저장.
|
||
ban_until = to_naive_utc(data.get("ban_until"))
|
||
|
||
# PostgreSQL INSERT ... ON CONFLICT DO UPDATE — 여러 워커/사용자
|
||
# 사이클이 동시에 같은 (user_id, stock_code)를 갱신해도 경쟁 안전.
|
||
stmt = pg_insert(StockBanV2).values(
|
||
user_id=user_id,
|
||
stock_code=stock_code,
|
||
consecutive_losses=consecutive_losses,
|
||
ban_until=ban_until,
|
||
)
|
||
stmt = stmt.on_conflict_do_update(
|
||
constraint="uq_stock_bans_v2_user_stock",
|
||
set_={
|
||
"consecutive_losses": stmt.excluded.consecutive_losses,
|
||
"ban_until": stmt.excluded.ban_until,
|
||
"updated_at": now_kst(),
|
||
},
|
||
)
|
||
await session.execute(stmt)
|
||
await session.commit()
|
||
logger.debug(
|
||
"✅ [Worker] StockBanV2 upsert: user=%s %s (losses=%s, ban_until=%s)",
|
||
user_id, stock_code, consecutive_losses,
|
||
ban_until.isoformat() if ban_until else "None",
|
||
)
|
||
|
||
|
||
async def _handle_close_active_trade(session, data: dict) -> None:
|
||
"""ActiveTrade close — 정상 경로와 종료 drain 이 공유하는 단일 구현."""
|
||
from app.models.models import ActiveTrade
|
||
from datetime import datetime as _dt
|
||
|
||
stock_code = data.get("stock_code")
|
||
strategy_name = data.get("strategy_name")
|
||
user_id = data.get("user_id")
|
||
|
||
# [M-A 2026-10-02] 멱등화: 한 번 대상 행을 고르면 payload 에 그 id 를 고정한다.
|
||
# "가장 최근 active 행을 닫아라"는 재실행할 때마다 **다음** 행을 닫는다 — 커밋 직후
|
||
# cancel 된 태스크를 종료 drain 이 다시 돌리면 같은 종목의 다른 포지션(DT↔스윙)까지
|
||
# 닫혔다(9/23 유령 행 계열). 고정된 id 가 이미 closed 면 no-op 이다.
|
||
pinned_id = data.get("_target_id")
|
||
if pinned_id is not None:
|
||
if pinned_id < 0: # 처음 실행 때 대상 없음 → 재실행도 no-op
|
||
return
|
||
result = await session.execute(
|
||
select(ActiveTrade).where(
|
||
ActiveTrade.id == pinned_id, ActiveTrade.status == "active"
|
||
)
|
||
)
|
||
record = result.scalars().first()
|
||
else:
|
||
query = select(ActiveTrade).where(
|
||
ActiveTrade.stock_code == stock_code,
|
||
ActiveTrade.status == "active",
|
||
)
|
||
# [§8.5 항목6] strategy_name(동등) / strategy_names(IN) /
|
||
# strategy_name_not(NOT IN + NULL 포함) — 새 키 미사용 시 무변경.
|
||
query = _apply_strategy_name_filter(query, data, ActiveTrade.strategy_name)
|
||
if user_id is not None:
|
||
query = query.where(ActiveTrade.user_id == user_id)
|
||
# [2026-09-27 §8.5 후속] '가장 최근 행' 우선 — scalar_one_or_none() 은 같은 종목
|
||
# active 행이 2건 이상이면 MultipleResultsFound 로 3회 재시도 후 DLQ 로 빠진다.
|
||
query = query.order_by(ActiveTrade.id.desc()).limit(1)
|
||
result = await session.execute(query)
|
||
record = result.scalars().first()
|
||
# id 를 알 수 없으면(None) 고정하지 않는다 — 기존 동작으로 폴백
|
||
data["_target_id"] = getattr(record, "id", None) if record is not None else -1
|
||
|
||
if record:
|
||
record.status = "closed"
|
||
record.updated_at = now_kst()
|
||
await session.commit()
|
||
logger.debug(
|
||
"✅ [Worker] ActiveTrade closed: %s (strategy=%s)",
|
||
stock_code,
|
||
strategy_name,
|
||
)
|
||
else:
|
||
logger.warning(
|
||
"⚠️ [Worker] ActiveTrade close 대상 0건: %s (strategy=%s, pinned=%s, retried=%s)",
|
||
stock_code, strategy_name, pinned_id, bool(data.get("_retried_exec")),
|
||
)
|
||
|
||
|
||
# ─────────────────────────────────────────────────────────────────────────────
|
||
# 워커 본체
|
||
# ─────────────────────────────────────────────────────────────────────────────
|
||
async def _execute_db_task_impl(task: dict) -> None:
|
||
"""[H-5 2026-10-02] 단일 태스크 실행 (워커 본체에서 분리 — 로직 무변경).
|
||
|
||
예외는 호출자(db_writer_worker)가 재시도/DLQ 로 처리한다.
|
||
"""
|
||
task_type = task.get("type")
|
||
# [M-A] 멱등화 마커를 payload 에 쓰는 타입은 호출자 dict 와 분리한다(최초 1회 복사).
|
||
if task_type in _PINNED_TASK_TYPES and isinstance(task.get("data"), dict) and not task.get("_data_owned"):
|
||
task["data"] = dict(task["data"])
|
||
task["_data_owned"] = True
|
||
data = task.get("data")
|
||
if task_type in _PINNED_TASK_TYPES and isinstance(data, dict) and task.get("_requeued"):
|
||
data["_retried_exec"] = True
|
||
|
||
async with AsyncSessionLocal() as session:
|
||
# ── 1. 매매일지 INSERT ─────────────────────────────────────
|
||
if task_type == "insert_trade_history":
|
||
session.add(TradeHistory(**data))
|
||
await session.commit()
|
||
logger.info(
|
||
"✅ [Worker] TradeHistory saved: %s",
|
||
data.get("stock_code", "?"),
|
||
)
|
||
|
||
# ── 2. TradeHistory UPDATE (체결 확인 후 슬리피지/수량 반영) ──
|
||
elif task_type == "update_trade_history":
|
||
trade_id = data.get("id")
|
||
user_id = data.get("user_id")
|
||
if trade_id:
|
||
query = select(TradeHistory).where(TradeHistory.id == trade_id)
|
||
if user_id is not None:
|
||
query = query.where(TradeHistory.user_id == user_id)
|
||
row = await session.execute(query)
|
||
trade = row.scalar_one_or_none()
|
||
if trade:
|
||
for key, val in data.items():
|
||
if key != "id" and val is not None and hasattr(trade, key):
|
||
setattr(trade, key, val)
|
||
await session.commit()
|
||
logger.info(
|
||
"✅ [Worker] TradeHistory updated: id=%s status=%s",
|
||
trade_id,
|
||
data.get("status", "?"),
|
||
)
|
||
|
||
# ── 2b. TradeHistory UPDATE by order_id (KIS 주문번호 기준) ──
|
||
elif task_type == "update_trade_history_by_order_id":
|
||
await _handle_update_trade_history_by_order_id(session, data)
|
||
|
||
# ── 3. 단건 StockAnalysis UPSERT ──────────────────────────
|
||
elif task_type == "upsert_stock_analysis":
|
||
from app.services.analysis_db_service import _execute_upsert
|
||
await _execute_upsert(session, [data])
|
||
await session.commit()
|
||
logger.debug(
|
||
"✅ [Worker] StockAnalysis upsert: %s",
|
||
data.get("stock_code", "?"),
|
||
)
|
||
|
||
# ── 3. 다건 StockAnalysis batch UPSERT ────────────────────
|
||
elif task_type == "bulk_upsert_stock_analysis":
|
||
from app.services.analysis_db_service import _execute_upsert
|
||
await _execute_upsert(session, data) # data = list[dict]
|
||
await session.commit()
|
||
logger.info(
|
||
"✅ [Worker] Bulk StockAnalysis upsert: %d rows", len(data)
|
||
)
|
||
|
||
# ── 4. StockBan UPSERT ────────────────────────────────────────
|
||
elif task_type == "upsert_stock_ban":
|
||
await _handle_upsert_stock_ban(session, data)
|
||
|
||
# ── 4v2. StockBanV2 UPSERT (user_id, stock_code 스코프) ────────
|
||
elif task_type == "upsert_stock_ban_v2":
|
||
await _handle_upsert_stock_ban_v2(session, data)
|
||
|
||
# ── 4b. News INSERT (중복 URL 무시) ────────────────────────────
|
||
elif task_type == "insert_news":
|
||
from app.models.models import News
|
||
|
||
news_url = data.get("url")
|
||
is_dup = False
|
||
# URL 기반 중복 방지 (동일 URL은 skip)
|
||
if news_url:
|
||
dup_result = await session.execute(
|
||
select(News.id).where(News.url == news_url).limit(1)
|
||
)
|
||
if dup_result.scalar_one_or_none() is not None:
|
||
is_dup = True
|
||
logger.debug(
|
||
"⏭️ [Worker] News skip (dup URL): %s",
|
||
(data.get("title") or "?")[:40],
|
||
)
|
||
|
||
if not is_dup:
|
||
session.add(News(**data))
|
||
await session.commit()
|
||
logger.debug(
|
||
"✅ [Worker] News saved: %s",
|
||
(data.get("title") or "?")[:40],
|
||
)
|
||
|
||
# ── 5. MCP 거부 이벤트 로그 ───────────────────────────────────
|
||
elif task_type == "log_mcp_deny":
|
||
# DB 저장 없이 로그만 기록 (필요 시 별도 테이블 확장 가능)
|
||
logger.warning(
|
||
"🛑 [Worker] MCP DENY logged: reason=%s, trade_plan=%s",
|
||
task.get("reason", "unknown"),
|
||
task.get("trade_plan"),
|
||
)
|
||
|
||
# ── 6. Portfolio UPSERT ────────────────────────────────────────
|
||
elif task_type == "upsert_portfolio":
|
||
await _handle_upsert_portfolio(session, data)
|
||
|
||
# ── 7. ActiveTrade UPSERT ──────────────────────────────────────
|
||
elif task_type == "upsert_active_trade":
|
||
await _handle_upsert_active_trade(session, data)
|
||
|
||
# ── 8. ActiveTrade close ───────────────────────────────────────
|
||
elif task_type == "close_active_trade":
|
||
await _handle_close_active_trade(session, data)
|
||
|
||
# ── 9. TradeJournal INSERT ────────────────────────────────────
|
||
elif task_type == "insert_trade_journal":
|
||
await _handle_insert_trade_journal(session, data)
|
||
|
||
else:
|
||
logger.warning("⚠️ [Worker] Unknown task type: %s", task_type)
|
||
|
||
|
||
|
||
# 처리 중 cancel 됐을 때 **커밋 여부를 알 수 없는** 비멱등 INSERT 계열.
|
||
# 종료 drain 에서 다시 커밋하면 중복 행이 생길 수 있어 DLQ 로 보관한다.
|
||
# replay_dlq 는 이 사유(_DLQ_COMMIT_UNKNOWN_REASON)를 **검증 후에만** 재큐잉한다(M-B).
|
||
# close_active_trade / upsert_active_trade(multiply) 는 핸들러가 대상 id·절대값을 payload 에
|
||
# 고정하므로(M-A) 재실행이 멱등이다 → 여기 넣지 않고 drain 에서 재실행한다.
|
||
_DLQ_COMMIT_UNKNOWN_REASON = "shutdown_inflight_cancelled_commit_unknown"
|
||
_NON_IDEMPOTENT_TASK_TYPES: tuple[str, ...] = (
|
||
"insert_trade_history",
|
||
"insert_trade_journal",
|
||
"insert_news",
|
||
# [L4] 로그만 남기는 타입 — 재실행하면 같은 거부 이벤트가 두 번 기록된다
|
||
"log_mcp_deny",
|
||
)
|
||
|
||
|
||
# 종료 drain 에서 커밋까지 시도하는 타입 (나머지는 세션을 열지 않고 바로 DLQ)
|
||
_DRAIN_COMMIT_TYPES: tuple[str, ...] = (
|
||
"insert_trade_history",
|
||
"upsert_portfolio",
|
||
"upsert_active_trade",
|
||
"close_active_trade",
|
||
"insert_trade_journal",
|
||
# [M-3 2026-10-02] 연패 밴은 **재생성되지 않는다**(3연패 이력은 다시 계산되지 않음). 이전에는
|
||
# '분석 계열'로 분류돼 DLQ 직행 → 3연패 직후 배포하면 42일 밴이 사라질 수 있었다. 멱등 upsert.
|
||
"upsert_stock_ban",
|
||
"upsert_stock_ban_v2",
|
||
)
|
||
# 분석 계열은 다음 배치/기동 시 재생성되므로 커밋하지 않고 DLQ 보관 (F4 replay_dlq 가 재큐잉)
|
||
_DRAIN_DLQ_ONLY_TYPES: tuple[str, ...] = (
|
||
"update_trade_history",
|
||
"update_trade_history_by_order_id",
|
||
"upsert_stock_analysis",
|
||
"bulk_upsert_stock_analysis",
|
||
)
|
||
|
||
|
||
async def _drain_commit_impl(drain_type: str, drain_data) -> None:
|
||
async with AsyncSessionLocal() as drain_session:
|
||
if drain_type == "insert_trade_history":
|
||
drain_session.add(TradeHistory(**drain_data))
|
||
await drain_session.commit()
|
||
# [F3 2026-09-28] 포지션 추적 계열도 커밋한다.
|
||
# 이전에는 insert_trade_history 만 커밋하고 아래 3종을 DLQ 로
|
||
# 보내서 "체결 기록은 남는데 포지션 추적 행은 사라지는" 비대칭이
|
||
# 있었다 → 재기동 시 restore_from_db 가 복원할 행이 없어
|
||
# 포지션이 고아가 되고 손절·EOD 청산이 적용되지 않았다.
|
||
elif drain_type == "upsert_portfolio":
|
||
await _handle_upsert_portfolio(drain_session, drain_data)
|
||
elif drain_type == "upsert_active_trade":
|
||
await _handle_upsert_active_trade(drain_session, drain_data)
|
||
elif drain_type == "close_active_trade":
|
||
await _handle_close_active_trade(drain_session, drain_data)
|
||
elif drain_type == "insert_trade_journal":
|
||
await _handle_insert_trade_journal(drain_session, drain_data)
|
||
elif drain_type == "upsert_stock_ban":
|
||
await _handle_upsert_stock_ban(drain_session, drain_data)
|
||
elif drain_type == "upsert_stock_ban_v2":
|
||
await _handle_upsert_stock_ban_v2(drain_session, drain_data)
|
||
|
||
|
||
async def _drain_one_impl(drain_task: dict, drain_started: float) -> None:
|
||
"""종료 drain 1건 처리 — 커밋 또는 DLQ. 예외를 밖으로 내지 않는다.
|
||
|
||
[M1 2026-10-02] 예산을 항목 **시작 전에만** 확인하면, DB 다운 시 세션 열기(asyncpg connect
|
||
timeout ≈60초)가 항목 하나로 예산을 넘겨 stop_grace 를 초과 → SIGKILL 로 남은 큐가 DLQ 에도
|
||
남지 않았다. 이제 세션 열기+커밋 전체를 **남은 예산**으로 `wait_for` 한다.
|
||
"""
|
||
drain_type = drain_task.get("type", "unknown") if isinstance(drain_task, dict) else "unknown"
|
||
try:
|
||
drain_data = drain_task.get("data")
|
||
# [F3 2026-09-28] 시간 예산 초과분은 커밋을 시도하지 않고 DLQ 로 보낸다.
|
||
budget = DRAIN_DEADLINE_SECONDS - (time.monotonic() - drain_started)
|
||
if budget <= 0:
|
||
logger.error(
|
||
"❌ [DBWorker] Drain 시간 예산 %.0f초 초과 — DLQ 로 보관 (type=%s)",
|
||
DRAIN_DEADLINE_SECONDS, drain_type,
|
||
)
|
||
await _save_to_dlq(drain_task, "shutdown_drain_deadline_exceeded")
|
||
return
|
||
if drain_type in _DRAIN_DLQ_ONLY_TYPES:
|
||
logger.error(
|
||
"❌ [DBWorker] Drain 미커밋 → DLQ (type=%s) — 기동 시 replay_dlq() 로 재처리",
|
||
drain_type,
|
||
)
|
||
await _save_to_dlq(drain_task, "shutdown_drain")
|
||
return
|
||
if drain_type not in _DRAIN_COMMIT_TYPES:
|
||
logger.error("❌ [DBWorker] Drain 미지원 type → DLQ (type=%s)", drain_type)
|
||
await _save_to_dlq(drain_task, "shutdown_drain_unknown_type")
|
||
return
|
||
try:
|
||
await asyncio.wait_for(_drain_commit_impl(drain_type, drain_data), timeout=budget)
|
||
except asyncio.TimeoutError:
|
||
# 커밋 도중 끊겼을 수 있다 — 비멱등 INSERT 는 '커밋 여부 불명' 사유로 보관해
|
||
# replay_dlq 가 중복 확인 후에만 재큐잉하게 한다(M-B).
|
||
_reason = (
|
||
_DLQ_COMMIT_UNKNOWN_REASON if drain_type in _NON_IDEMPOTENT_TASK_TYPES
|
||
else "shutdown_drain_deadline_exceeded"
|
||
)
|
||
logger.error(
|
||
"❌ [DBWorker] Drain 커밋이 남은 예산 %.1f초 안에 끝나지 않음 — DLQ 로 보관 (type=%s, 사유=%s)",
|
||
budget, drain_type, _reason,
|
||
)
|
||
await _save_to_dlq(drain_task, _reason)
|
||
except Exception as drain_err:
|
||
logger.error(f"[DBWorker] Drain 실패: {drain_err}")
|
||
try:
|
||
await _save_to_dlq(drain_task, str(drain_err))
|
||
except Exception as _swallowed:
|
||
logger.warning("[DBWorker] Drain 실패 건의 DLQ 저장도 실패 — 태스크 유실 가능: %s", _swallowed)
|
||
|
||
|
||
async def _drain_on_shutdown_impl(
|
||
queue: asyncio.Queue,
|
||
inflight: dict | None,
|
||
backoff: list[dict],
|
||
pending_saves: set,
|
||
drain_started: float | None = None,
|
||
) -> int:
|
||
"""[H-5] 종료 drain. 처리 순서: 진행 중 DLQ 저장 완료 대기 → in-flight → 백오프 대기분 → 큐 잔여.
|
||
|
||
- in-flight: 처리 중 cancel 됐다. 비멱등 INSERT 는 커밋 여부를 모르므로 DLQ, 나머지는 재실행.
|
||
- 백오프 대기분: 실패 후 재시도 대기 중이었다(큐 밖) — 이전에는 drain 대상에서 빠져 유실됐다.
|
||
- 이 둘은 이미 queue.task_done() 이 호출됐으므로 여기서 다시 부르지 않는다.
|
||
- drain_started: 같은 종료에서 두 번째 호출이면 첫 호출의 시작 시각을 넘긴다(예산 공유, M1).
|
||
"""
|
||
if drain_started is None:
|
||
drain_started = time.monotonic()
|
||
remaining = 0
|
||
|
||
# 0) 백오프 전에 시작된 DLQ 저장(최대 재시도 초과분)이 끝나기를 기다린다
|
||
for fut in list(pending_saves):
|
||
try:
|
||
budget = max(0.0, DRAIN_DEADLINE_SECONDS - (time.monotonic() - drain_started))
|
||
await asyncio.wait_for(asyncio.shield(fut), timeout=budget)
|
||
except Exception as e:
|
||
logger.error("❌ [DBWorker] 종료 중 DLQ 저장 대기 실패: %s", e)
|
||
|
||
# 1) in-flight
|
||
if inflight is not None:
|
||
_itype = inflight.get("type", "unknown")
|
||
if _itype in _NON_IDEMPOTENT_TASK_TYPES:
|
||
logger.error(
|
||
"❌ [DBWorker] 처리 중 종료 — 커밋 여부 불명 → DLQ 보관 (type=%s, 중복 가능성 확인 필요)",
|
||
_itype,
|
||
)
|
||
try:
|
||
await _save_to_dlq(inflight, _DLQ_COMMIT_UNKNOWN_REASON)
|
||
except Exception as _swallowed:
|
||
logger.warning("[DBWorker] in-flight DLQ 저장 실패 — 태스크 유실 가능: %s", _swallowed)
|
||
else:
|
||
await _drain_one_impl(inflight, drain_started)
|
||
remaining += 1
|
||
|
||
# 2) 백오프 대기분 (실패 이력이 있어 아직 커밋되지 않았음이 확실하다)
|
||
for t in list(backoff):
|
||
await _drain_one_impl(t, drain_started)
|
||
remaining += 1
|
||
|
||
# 3) 큐 잔여
|
||
while not queue.empty():
|
||
try:
|
||
drain_task = queue.get_nowait()
|
||
except asyncio.QueueEmpty:
|
||
# get_nowait()이 실패해 아이템을 꺼내지 못했으므로 task_done() 호출 금지
|
||
break
|
||
try:
|
||
await _drain_one_impl(drain_task, drain_started)
|
||
remaining += 1
|
||
finally:
|
||
queue.task_done()
|
||
return remaining
|
||
|
||
|
||
def _task_order_keys_v2(task: dict) -> frozenset:
|
||
"""[2026-10-09] 쓰기 순서 보장 키 — 같은 종목(stock_code)/주문(order_id)의 쓰기는 순서를 지킨다."""
|
||
keys = set()
|
||
data = task.get("data") if isinstance(task, dict) else None
|
||
if isinstance(data, dict):
|
||
if data.get("stock_code"):
|
||
keys.add(("s", data["stock_code"]))
|
||
if data.get("order_id"):
|
||
keys.add(("o", data["order_id"]))
|
||
return frozenset(keys)
|
||
|
||
|
||
class _OrderGateV2:
|
||
"""지연 재투입 중인 태스크와 같은 키의 뒤 태스크를 보류해 쓰기 순서를 유지한다.
|
||
|
||
재시도가 큐 꼬리로 재투입되면 그 사이 뒤 태스크(close 등)가 먼저 실행돼, 실패했던 진입
|
||
upsert 가 나중에 '행 없음 → 신규 생성' 으로 이미 청산된 포지션의 유령 active 행을 만든다.
|
||
"""
|
||
|
||
def __init__(self) -> None:
|
||
self._deferred: dict[int, frozenset] = {} # id(task) -> keys (재시도 대기)
|
||
self._released: dict[int, frozenset] = {} # id(task) -> keys (풀려났으나 아직 미완료)
|
||
self._held: list[dict] = []
|
||
|
||
def defer(self, task: dict) -> None:
|
||
task["_requeued"] = True
|
||
self._released.pop(id(task), None)
|
||
self._deferred[id(task)] = _task_order_keys_v2(task)
|
||
|
||
def should_hold(self, task: dict) -> bool:
|
||
tid = id(task)
|
||
if tid in self._deferred:
|
||
return False
|
||
keys = _task_order_keys_v2(task)
|
||
if not keys:
|
||
return False
|
||
if tid in self._released:
|
||
# 풀려난 태스크: 앞선 같은 키 태스크가 다시 재시도 대기에 들어갔다면 앞지르지 않도록 보류
|
||
blocked = any(keys & k for k in self._deferred.values())
|
||
if blocked:
|
||
self._released.pop(tid, None)
|
||
return blocked
|
||
# 재시도 대기 중이거나 풀려났으나 아직 끝나지 않은 같은 키 태스크가 있으면 그 뒤로 보류
|
||
return (any(keys & k for k in self._deferred.values())
|
||
or any(keys & k for k in self._released.values()))
|
||
|
||
def hold(self, task: dict) -> None:
|
||
self._held.append(task)
|
||
|
||
def held_tasks(self) -> list:
|
||
return list(self._held)
|
||
|
||
def resolve(self, task: dict) -> list:
|
||
"""태스크가 성공/DLQ 로 끝났을 때 호출. 이제 막힌 곳이 없는 보류 태스크를 순서대로 반환.
|
||
|
||
반환된 태스크는 실행이 끝날 때까지 '진행 중' 키로 남아, 큐 꼬리에 뒤따라 들어온
|
||
같은 키의 후속 태스크가 앞지르지 못한다.
|
||
"""
|
||
a = self._deferred.pop(id(task), None)
|
||
b = self._released.pop(id(task), None)
|
||
if a is None and b is None:
|
||
return []
|
||
released, still = [], []
|
||
for h in self._held:
|
||
hk = _task_order_keys_v2(h)
|
||
blocked = (any(hk & k for k in self._deferred.values())
|
||
or any(hk & k for k in self._released.values()))
|
||
if blocked:
|
||
still.append(h)
|
||
else:
|
||
released.append(h)
|
||
self._released[id(h)] = hk
|
||
self._held = still
|
||
return released
|
||
|
||
|
||
async def _requeue_after_v2(queue: asyncio.Queue, task: dict, delay: float, backoff: list) -> None:
|
||
"""워커를 막지 않는 지연 재투입. 취소되면 task 는 backoff 목록에 남아 종료 drain 이 처리한다."""
|
||
await asyncio.sleep(delay)
|
||
# remove + put_nowait 사이에 await 가 없어 drain 과 경합하지 않는다
|
||
if task in backoff:
|
||
backoff.remove(task)
|
||
queue.put_nowait(task)
|
||
# [R5] 실패 시 task_done() 을 미뤄 unfinished 를 유지했다 — 재투입분이 +1 이므로 원래 몫을 여기서 상쇄
|
||
queue.task_done()
|
||
|
||
|
||
def _release_held_v2(queue: asyncio.Queue, task: dict) -> None:
|
||
"""보류분 재투입. 보류 시 task_done() 을 미뤘으므로 재투입 +1 을 상쇄해 join() 이 보류 중 풀리지 않게 한다."""
|
||
queue.put_nowait(task)
|
||
queue.task_done()
|
||
|
||
|
||
async def _dlq_runtime_replay_loop_v2(queue: asyncio.Queue) -> None:
|
||
"""[2026-10-09] 런타임 DLQ 주기 재처리. 재기동 전까지 DLQ 가 방치되던 것을 막는다.
|
||
|
||
DB 가 살아 있음을 SELECT 1 로 확인하고, 회로가 열려 있거나 큐가 많이 적체되면 건너뛴다.
|
||
재큐잉 자체는 replay_dlq (큐 경유, 충돌·나이 판정 포함)에 맡긴다.
|
||
"""
|
||
from sqlalchemy import text
|
||
while True:
|
||
try:
|
||
await asyncio.wait_for(asyncio.Event().wait(), timeout=DLQ_RUNTIME_REPLAY_INTERVAL_SEC)
|
||
except asyncio.TimeoutError:
|
||
pass
|
||
try:
|
||
if _worker_state["circuit_open"] or queue.qsize() > WORKER_QUEUE_ALERT_DEPTH:
|
||
continue
|
||
counts = await dlq_status_counts()
|
||
if counts.get("pending", 0) <= 0:
|
||
continue
|
||
# DB-READ-EXCEPTION: 헬스 프로브 SELECT 1 (db_worker 소유, 쓰기 없음)
|
||
async with AsyncSessionLocal() as _s:
|
||
await _s.execute(text("SELECT 1"))
|
||
n = await replay_dlq()
|
||
logger.warning("[DLQ] 런타임 재처리: pending=%d → 재큐잉 %d건", counts["pending"], n)
|
||
except asyncio.CancelledError:
|
||
raise
|
||
except Exception as e:
|
||
logger.warning("[DLQ] 런타임 재처리 건너뜀(DB 미복구 또는 오류): %s", e)
|
||
|
||
|
||
async def db_writer_worker() -> None:
|
||
"""lifespan 에서 asyncio.create_task() 로 실행되는 영구 백그라운드 워커.
|
||
|
||
큐에서 task 를 꺼내 단일 AsyncSession 안에서 처리한 뒤
|
||
commit / rollback 을 자동 관리한다.
|
||
|
||
[H-5 2026-10-02] cancel 처리를 루프 **전체**로 넓혔다. 이전에는 CancelledError 를
|
||
태스크 처리 try 의 형제 except 로만 잡아서
|
||
(a) 재시도 백오프 sleep 중 cancel → drain 을 건너뛰고 큐 전체 유실,
|
||
(b) 처리 중이던 태스크는 drain/DLQ 어디에도 남지 않음,
|
||
(c) queue.get() 대기 중 cancel → drain 없이 종료
|
||
가 발생했다.
|
||
"""
|
||
logger.info("🛠️ Background DB Writer Worker started")
|
||
queue = get_db_task_queue() # 워커 진입 시 큐 인스턴스 고정
|
||
setattr(queue, _QUEUE_CLOSED_ATTR, False)
|
||
inflight: dict | None = None
|
||
backoff: list[dict] = []
|
||
pending_saves: set = set()
|
||
timers: set = set()
|
||
circuit_since: float | None = None
|
||
_worker_state.update(consecutive_failures=0, circuit_open=False)
|
||
gate = _OrderGateV2()
|
||
replay_task = asyncio.ensure_future(_dlq_runtime_replay_loop_v2(queue))
|
||
try:
|
||
while True:
|
||
task = await queue.get()
|
||
if gate.should_hold(task):
|
||
# 같은 종목/주문의 앞선 쓰기가 재시도 대기 중 — 순서 보장을 위해 그 뒤로 보류
|
||
# task_done() 을 미룬다(unfinished 유지) — 재투입 시 _release_held_v2 가 상쇄
|
||
gate.hold(task)
|
||
continue
|
||
inflight = task
|
||
_deferred_retry = False
|
||
try:
|
||
_t0 = time.monotonic()
|
||
await _execute_db_task_impl(task)
|
||
inflight = None
|
||
for _rel in gate.resolve(task):
|
||
_release_held_v2(queue, _rel)
|
||
_worker_state.update(
|
||
consecutive_failures=0, circuit_open=False, last_success_ts=time.time(),
|
||
)
|
||
circuit_since = None
|
||
_check_queue_backlog_v2(queue, time.monotonic() - _t0)
|
||
except asyncio.CancelledError:
|
||
raise
|
||
except Exception as exc:
|
||
inflight = None
|
||
retry_count = task.get("_retry_count", 0)
|
||
max_retries = 3
|
||
task_type = task.get("type", "unknown")
|
||
|
||
_strip_retry_markers(task) # [M-A] 실패 실행의 절대값 마커는 재사용 금지
|
||
_worker_state["consecutive_failures"] += 1
|
||
if _worker_state["consecutive_failures"] >= CIRCUIT_OPEN_FAILURES:
|
||
if circuit_since is None:
|
||
circuit_since = time.monotonic()
|
||
logger.error(
|
||
"❌ [Worker] 연속 %d회 실패 — DB 장애로 간주(회로 열림), 재시도 횟수 소모 보류",
|
||
_worker_state["consecutive_failures"],
|
||
)
|
||
_worker_state["circuit_open"] = True
|
||
_circuit_hold = (
|
||
circuit_since is not None
|
||
and time.monotonic() - circuit_since < CIRCUIT_MAX_HOLD_SEC
|
||
)
|
||
if queue.qsize() >= WORKER_QUEUE_ALERT_DEPTH:
|
||
_alert_throttled_v2(
|
||
"db_worker:queue_depth", "DB_WORKER",
|
||
f"DB 쓰기 큐 적체 qsize={queue.qsize()} (연속 실패 "
|
||
f"{_worker_state['consecutive_failures']}회). DB 상태 확인 필요.",
|
||
)
|
||
if _circuit_hold:
|
||
# 장애 구간: 재시도 횟수를 소모하지 않고 일괄 대기 후 재투입(DLQ 조기 유실 방지)
|
||
delay = CIRCUIT_RETRY_DELAY_SEC
|
||
logger.warning(
|
||
"⚠️ [Worker] 회로 열림 — type=%s 재시도 횟수 유지(%d), %.0fs 후 재투입: %s",
|
||
task_type, retry_count, delay, exc,
|
||
)
|
||
gate.defer(task)
|
||
_deferred_retry = True
|
||
_t = asyncio.ensure_future(_requeue_after_v2(queue, task, delay, backoff))
|
||
backoff.append(task)
|
||
timers.add(_t)
|
||
_t.add_done_callback(timers.discard)
|
||
elif retry_count < max_retries:
|
||
task["_retry_count"] = retry_count + 1
|
||
delay = min(2 ** retry_count, 8) # 1, 2, 4초 지수 백오프
|
||
logger.warning(
|
||
"⚠️ [Worker] DB task retry %d/%d (type=%s): %s — %ds 후 재시도",
|
||
retry_count + 1, max_retries, task_type, exc, delay,
|
||
)
|
||
# 워커를 막지 않고 지연 재투입 — 그 사이 다른 태스크 계속 처리.
|
||
# backoff 목록: 취소 시 drain 이 이 목록을 먼저 처리
|
||
backoff.append(task)
|
||
gate.defer(task)
|
||
_deferred_retry = True
|
||
_t = asyncio.ensure_future(_requeue_after_v2(queue, task, delay, backoff))
|
||
timers.add(_t)
|
||
_t.add_done_callback(timers.discard)
|
||
else:
|
||
logger.error(
|
||
"❌ [Worker] DB task DROPPED after %d retries (type=%s): %s",
|
||
max_retries, task_type, exc, exc_info=True,
|
||
)
|
||
# DLQ: 최종 실패 task를 파일로 백업하여 데이터 손실 방지.
|
||
# shield — 저장 도중 cancel 돼도 파일 쓰기는 끝까지 가고 drain 이 완료를 기다린다.
|
||
fut = asyncio.ensure_future(_save_to_dlq(task, str(exc)))
|
||
pending_saves.add(fut)
|
||
fut.add_done_callback(pending_saves.discard)
|
||
await asyncio.shield(fut)
|
||
for _rel in gate.resolve(task):
|
||
_release_held_v2(queue, _rel)
|
||
finally:
|
||
if not _deferred_retry:
|
||
queue.task_done()
|
||
except asyncio.CancelledError:
|
||
# 큐 drain: 종료 전 남은 태스크 처리하여 데이터 손실 방지
|
||
for _t in list(timers):
|
||
_t.cancel()
|
||
replay_task.cancel()
|
||
_drain_started = time.monotonic()
|
||
remaining = await _drain_on_shutdown_impl(
|
||
queue, inflight, backoff + [h for h in gate.held_tasks() if h not in backoff],
|
||
pending_saves, drain_started=_drain_started,
|
||
)
|
||
# [M-D] 이후 투입은 DLQ 직행. drain 과 표식 사이에 들어온 건은 아래에서 한 번 더 비운다.
|
||
setattr(queue, _QUEUE_CLOSED_ATTR, True)
|
||
if not queue.empty():
|
||
remaining += await _drain_on_shutdown_impl(
|
||
queue, None, [], set(), drain_started=_drain_started
|
||
)
|
||
if remaining:
|
||
logger.info(f"[DBWorker] 종료 시 {remaining}건 drain 완료")
|
||
logger.info("⏹️ DB Writer Worker stopped")
|
||
finally:
|
||
replay_task.cancel()
|