주식 매매기법이 장기적으로 안 통하는 이유 3가지, 그리고 개인투자자의 대처법

솔직히 고백하면, 저는 한때 주식 매매기법 '수집가'였어요. 이동평균선 골든크로스, 스토캐스틱, RSI 다이버전스, 일목균형표, 눌림목 매수, 돌파 매매까지. 유튜브에서 "승률 80% 기법"이라는 영상이 뜨면 밤새 정리하고, 다음 날 바로 계좌에 적용했죠.

그렇게 5년 넘게 주식 매매기법을 갈아탄 결과가 어땠을까요? 계좌는 제자리였고, 수수료와 세금만 차곡차곡 쌓였어요. 반면 그 기간에 그냥 지수 ETF를 사서 묻어둔 지인의 계좌는 조용히 불어나 있더라고요.

이 글에서는 제가 직접 깨지면서 알게 된 것들을 정리해볼게요. 왜 그 수많은 주식 매매기법이 장기적으로는 소용이 없는지, 그 구조적인 이유 3가지와 함께, 그럼 개인투자자는 뭘 해야 하는지 현실적인 대처방안까지 풀어보겠습니다.

왜 세상에는 주식 매매기법이 이렇게 많을까

먼저 이상하지 않으세요? 정말 통하는 기법이 있다면 하나만 있으면 될 텐데, 왜 세상에는 수백 가지 기법이 넘쳐날까요.

제가 공부하면서 알게 된 핵심은 생존편향이에요. 동전 던지기로 예를 들어볼게요. 1,024명이 모여서 "10번 연속 앞면 맞히기" 대회를 하면, 확률상 평균 1명은 10연속으로 맞힙니다. 그 사람이 방송에 나와서 "제 동전 던지기 비법은..."이라고 말하면 어떨까요? 실력처럼 보이지만 사실은 그냥 확률이 만들어낸 생존자예요.

주식 시장도 비슷해요. 수십만 명이 제각각의 기법으로 매매하면, 그중 일부는 반드시 몇 년 연속 대박이 납니다. 우리는 그 생존자의 기법만 보게 되고, 같은 기법으로 깨진 수천 명은 조용히 사라져서 보이지 않아요. 그래서 "검증된 기법"이 끝없이 새로 등장하는 거죠.

이유 1: 통하는 기법은 알려지는 순간 힘을 잃는다

첫 번째 구조적인 이유는 시장이 '경쟁 게임'이라는 거예요.

어떤 기법이 정말로 초과수익을 낸다고 해볼게요. 그 기법이 책이나 유튜브로 퍼지면 무슨 일이 생길까요? 수많은 사람이 같은 신호에 같은 방향으로 주문을 넣습니다. 그러면 그 기법이 잡아내던 가격의 빈틈이 메워지면서 수익의 원천 자체가 사라져요. 금융에서는 이걸 '알파의 소멸'이라고 부르더라고요.

실제 사례가 있어요. 한때 유명했던 '1월 소형주 효과'(1월에 소형주가 유독 강하다는 현상)는 학계에 발표되고 널리 알려진 뒤 효과가 눈에 띄게 약해졌어요. 저평가 우량주를 기계적으로 사는 '마법공식'도 책이 베스트셀러가 된 이후의 성과는 책에 실린 과거 성과에 한참 못 미쳤고요.

더 냉정한 데이터도 있어요. 제가 공부하면서 본 SPIVA 보고서(지수 대비 액티브 펀드 성과를 추적하는 자료)에 따르면, 2023년 말 기준 최근 15년 동안 미국 대형주 액티브 펀드의 약 88%가 S&P500 지수보다 낮은 수익률을 기록했어요. 최고의 인력과 데이터로 무장한 프로들이 이 정도예요. 개인이 유튜브에서 배운 기법으로 시장을 꾸준히 이기는 게 얼마나 어려운 게임인지 감이 오시죠.

이유 2: 백테스트의 함정 — 과거에 맞춘 기법은 미래에 깨진다

두 번째 이유는 과최적화, 흔히 '커브 피팅'이라고 부르는 문제예요.

제 실제 경험인데요. 2021년에 저는 이동평균선과 거래량 조건을 조합한 전략을 백테스트로 다듬었어요. 조건을 이리저리 바꿔가며 과거 5년 데이터에 돌려보니 연 20% 수익이 나오는 조합을 찾았죠. "이거다!" 싶어서 실전에 투입했는데, 반년 만에 마이너스 8%였습니다.

뭐가 문제였을까요? 저는 미래에 통할 규칙을 찾은 게 아니라, 과거 데이터에 우연히 잘 맞는 조합을 찾을 때까지 조건을 바꿨던 거예요. 조건 조합을 수백 개 돌리면 그중 몇 개는 반드시 과거 성적이 좋게 나옵니다. 동전 던지기 대회에서 10연속 앞면이 나오는 사람이 반드시 나오는 것과 똑같은 원리죠.

골든크로스가 대표적이에요. 단기 이동평균선이 장기 이동평균선을 뚫고 올라가면 사는 이 유명한 기법은, 상승 추세가 길게 이어진 구간을 백테스트하면 꽤 그럴듯해 보여요. 근데 횡보장에 넣어보면 거짓 신호가 반복되면서 사고팔기만 반복하다가 수수료와 슬리피지(원하는 가격보다 불리하게 체결되는 비용)만 쌓입니다. 과거의 특정 구간에서 통했다는 것과, 앞으로 통한다는 건 전혀 다른 얘기더라고요.

이유 3: 시장 국면이 바뀌면 기법도 무너진다 — 그리고 비용은 확실하다

세 번째 이유는 시장의 성격 자체가 계속 바뀐다는 거예요.

2020년 유동성 장세를 기억하시나요? 그때는 '눌림목 매수'(오르던 종목이 잠깐 조정받을 때 사는 기법)가 마법처럼 통했어요. 돈이 계속 밀려들어오니 웬만한 조정은 다 반등했거든요. 근데 똑같은 기법을 2022년 금리 인상장에서 쓰면 어땠을까요? 눌림목인 줄 알고 샀는데 그게 하락 추세의 시작이었던 경우가 반복됐어요. 기법은 그대로인데 시장이 바뀌니 결과가 정반대가 된 거죠.

그리고 여기에 확실한 게 하나 얹어집니다. 바로 비용이에요. 수익은 불확실하지만 매매할 때마다 나가는 수수료, 세금, 슬리피지는 100% 확실하게 나갑니다. 매매가 잦은 기법일수록 이 확실한 마이너스가 누적돼요.

이걸 대규모로 확인한 연구도 있어요. 제가 인상 깊게 본 대만 주식시장 전체 데이터를 분석한 연구(Barber와 Odean 연구진)에서는, 데이트레이딩을 하는 개인 중에서 비용을 제하고도 지속적으로 수익을 내는 사람은 1%가 채 안 됐어요. 기법이 가끔 맞아도, 확실한 비용이 불확실한 수익을 갉아먹는 구조인 거예요.

그런데 왜 우리는 계속 새로운 기법을 찾을까

여기까지 읽으면 "그걸 알면서도 왜 다들 기법을 찾지?"라는 의문이 들 거예요. 저도 그랬으니까요. 돌아보면 심리적인 이유가 컸어요.

• 통제 착각: 차트에 선을 긋고 지표를 띄우면 시장을 통제하고 있다는 느낌이 들어요. 그냥 사서 기다리는 건 불안하고요.
• 간헐적 성공의 중독성: 기법이 가끔 크게 맞으면 그 기억이 강렬하게 남아요. 열 번 중 일곱 번 틀려도 세 번의 성공만 기억나는 거죠.
• 손실 복구 심리: 물리고 나면 "빨리 복구해야 한다"는 조급함에 더 자극적인 기법을 찾게 돼요. 제가 딱 이 악순환에 빠졌었어요.

오해는 마세요. 기법 자체가 사기라는 게 아니에요. 문제는 "기법만 찾으면 시장을 이길 수 있다"는 기대예요. 그 기대가 우리를 기법에서 기법으로 떠돌게 만들고, 그 사이 계좌는 비용으로 새어나갑니다.

개인투자자의 현실적인 대처방안 4가지

그럼 개인은 뭘 해야 할까요. 제가 기법 수집을 그만두고 정착한 방법을 4가지로 정리할게요.

1. 시장 수익률을 '기본값'으로 깔기

프로의 88%가 지수에 지는 게임이라면, 발상을 바꿔서 지수 수익률 자체를 내 것으로 만드는 게 가장 합리적인 출발점이에요. 저는 계좌의 중심을 SPY, VOO 같은 S&P500 지수 ETF와 국내 상장 지수 ETF로 옮겼어요. 미국 시장은 그 온갖 폭락을 다 겪고도 장기로는 연평균 10% 안팎으로 우상향해왔거든요.

▲ SPY 가격 추이 (10y)

여기서 중요한 데이터 하나만 볼게요. 2003년부터 2022년까지 20년간 S&P500에 계속 투자했다면 연 9.8% 정도였는데, 그 20년 중 가장 많이 오른 딱 10일을 놓쳤다면 수익률은 연 5.6% 수준으로 반토막 나요. 문제는 그 '최고의 10일'이 대부분 폭락장 한복판에 숨어 있다는 거예요. 기법으로 들락날락하다가 그 며칠을 놓치는 순간 장기 수익의 절반이 날아가는 구조인 거죠. 그래서 저는 '언제 살까'보다 '얼마나 오래 들고 있을까'를 고민하게 됐어요.

2. 예측 대신 '규칙'으로 투자하기

기법과 규칙은 달라요. 기법은 시장을 예측하려 하고, 규칙은 내 행동을 통제해요. 제가 쓰는 규칙은 단순합니다.

• 매달 같은 날, 같은 금액을 자동으로 적립 매수한다
• 주식과 채권·현금 비중을 정해두고(예: 70:30), 1년에 한두 번만 원래 비율로 리밸런싱한다
• 이 두 가지 외의 매매는 하지 않는다

이렇게 하면 시장이 폭락해도 할 일이 정해져 있어요. "지금 팔아야 하나?"가 아니라 "다음 리밸런싱 날짜가 언제지?"만 생각하면 되니까 감정이 끼어들 틈이 줄어요.

표를 보면 알 수 있듯이, 두 방식의 진짜 차이는 수익률 이전에 **'성공 조건'**이에요. 기법 매매는 계속 맞혀야 이기고, 규칙 기반 투자는 버티기만 하면 시장의 몫을 가져갑니다. 본업이 있는 개인에게 어느 쪽이 현실적인지는 명확하다고 생각해요.

3. 그래도 기법을 쓰고 싶다면 '위성'으로만

솔직히 저도 매매의 재미를 완전히 끊지는 못했어요. 그래서 타협한 게 코어·위성 전략이에요. 계좌의 80%는 지수 ETF와 자산배분으로 묶어두고(코어), 20% 이내에서만 개별 종목이나 기법 매매를 합니다(위성).

대신 조건이 있어요. 위성 계좌는 매매 일지를 쓰고 6개월마다 코어와 수익률을 비교해요. 저는 2년 넘게 비교해봤는데 위성이 코어를 이긴 반기가 딱 한 번이었어요. 이 기록이 쌓이니까 자연스럽게 위성 비중이 줄더라고요. 기법을 억지로 끊는 것보다, 성적표를 직접 확인하는 게 훨씬 효과적이었어요.

4. 확실한 것부터 챙기기 — 비용과 세금

마지막은 제일 재미없지만 제일 확실한 방법이에요. 수익은 시장에 달렸지만 비용은 내가 통제할 수 있거든요.

• 같은 지수를 추종한다면 총보수(운용보수)가 낮은 ETF를 고르기
• 매매 횟수 자체를 줄여서 수수료와 세금 이연 효과 챙기기
• 연금저축·IRP·ISA 같은 절세 계좌부터 채우기

연 0.5%의 비용 차이는 작아 보여도 20년 복리로는 최종 금액에서 10% 가까운 차이를 만들어요. 기법을 찾는 노력의 10분의 1만 비용 절감에 써도 기대값은 훨씬 확실합니다.

내 자산배분 비율, 과거 수익률로 직접 시뮬레이션 → etfsim.kr 주식과 채권 비중을 바꿔가며 폭락장에서 계좌가 어떻게 버티는지 확인해볼 수 있어요.

이것만 기억하세요

1. 기법이 넘쳐나는 이유는 생존편향 — 성공한 1명만 보이고 실패한 999명은 안 보여요
2. 통하는 기법은 알려지면 사라져요 — 프로 펀드의 88%도 15년 지수를 못 이깁니다
3. 백테스트 성적은 미래를 보장하지 않아요 — 과거에 맞춘 조합일 가능성부터 의심하세요
4. 비용은 100% 확실한 마이너스 — 매매가 잦을수록 확실하게 잃습니다
5. 대안은 단순해요 — 지수 코어 + 자동 적립 + 리밸런싱, 기법은 20% 이내 위성으로만

결국 주식 매매기법의 문제는 기법이 아니라 구조예요. 알려지면 소멸하고, 과거에 과최적화되고, 국면이 바뀌면 무너지는 게임에서 개인이 이길 확률은 낮아요. 반대로 시장에 오래 머무르는 쪽은 구조가 내 편입니다. 저는 기법 수집을 그만둔 뒤에야 계좌가 자라기 시작했어요.

리밸런싱 시뮬레이션 직접 해보기 → etfsim.kr 에서 내 비중대로 과거 수익률을 확인해보세요. 적립식 복리가 궁금하면 복리 계산기 → etfsim.kr 도 이어서 써보세요 →

⚠️ 투자 유의사항: 이 글은 개인적인 경험과 공부를 바탕으로 작성된 것으로, 특정 종목이나 ETF에 대한 투자 권유가 아닙니다. 모든 투자의 책임은 투자자 본인에게 있으며, 투자 전 반드시 본인의 상황과 리스크를 검토하시기 바랍니다.