매매 기술 노트 · 13 · 매매 신호 설계

좋은 매매 신호는
많이 맞히는 신호가 아니다

자동매매를 처음 만들면 가장 먼저 욕심나는 것이 있다. 바로 "정확한 매수 신호"다. RSI가 내려오면 사고, MACD가 골든크로스를 만들면 사고, 볼린저밴드 하단에 닿으면 사고, 거래량까지 증가하면 매수하는 식으로 조건을 계속 추가한다. 조건이 많아질수록 왠지 더 정교하고 똑똑한 전략처럼 보인다. 하지만 실제 시장에서는 정반대의 결과가 나올 수도 있다. 좋은 매매 신호란 모든 상승을 맞히는 신호가 아니라, 손실을 제한하면서 반복적으로 유리한 상황을 찾아내는 신호에 가깝다.

SIGNAL

신호의 명확성

FILTER

불필요한 진입 제거

CONFIRM

추가 확인 조건

RISK

손실 관리

매매 신호를 많이 넣는다고 좋은 전략이 될까?

자동매매를 처음 개발할 때 가장 흔하게 하는 실수가 있다. 바로 "조건을 하나 더 넣으면 승률이 올라갈 것"이라고 생각하는 것이다.

RSI가 낮으면 매수한다. 그런데 이것만으로는 부족해 보인다. 그래서 볼린저밴드 하단 조건을 추가한다. 그래도 불안하다. 거래량 조건을 넣고, 이동평균선 조건을 넣고, MACD까지 추가한다. 마지막에는 "최근 3개 캔들 중 2개가 상승했을 때만 매수" 같은 조건까지 들어간다.

처음에는 백테스트 결과가 좋아진다. 승률도 올라가고 손실 거래도 줄어드는 것처럼 보인다. 그런데 이상하게 실제 시장에서는 신호가 거의 발생하지 않는다. 발생하더라도 이미 가격이 상당 부분 올라간 뒤인 경우가 많다.

이것은 신호가 좋아진 것이 아니라 시장에 들어갈 수 있는 기회를 지나치게 좁혀버린 것일 수 있다.

좋은 신호와 나쁜 신호의 가장 큰 차이

좋은 신호는 시장의 특정한 상황을 설명할 수 있어야 한다. 단순히 "RSI가 30보다 낮다"는 것은 사실 하나일 뿐이다. 그보다 중요한 것은 왜 RSI가 낮아졌는가다.

강한 하락 추세에서 RSI가 30 아래로 내려가는 것과, 상승하던 종목이 일시적으로 조정을 받으면서 RSI가 30 아래로 내려가는 것은 완전히 다른 상황이다. 숫자는 같지만 시장의 맥락은 다르다.

따라서 좋은 매매 신호를 만들려면 지표 → 가격 움직임 → 거래량 → 시장 환경을 함께 살펴봐야 한다.

좋은 신호는 하나의 보조지표가 아니라 시장 상황과 가격 위치, 기술 지표를 함께 해석하는 구조에 가깝다.

1. RSI 하나만 믿고 매수하면 안 되는 이유

RSI는 자동매매에서 매우 인기 있는 지표다. 특히 RSI가 낮아지면 "많이 떨어졌으니 이제 반등하지 않을까?"라는 생각을 하기 쉽다. 하지만 RSI가 낮다는 사실만으로 가격이 곧바로 반등한다는 보장은 없다.

강한 하락장에서는 RSI가 과매도 영역에 오랫동안 머물 수 있다. RSI가 25라고 해서 반드시 바닥이라는 뜻도 아니고, RSI가 20이라고 해서 추가 하락이 끝났다는 의미도 아니다.

오히려 중요한 것은 RSI가 낮아진 이후의 움직임이다. 예를 들어 RSI가 25 아래까지 내려갔다가 다시 상승하기 시작하고, 가격도 이전 저점에서 더 이상 크게 밀리지 않으며, 거래량까지 회복된다면 단순한 과매도보다 훨씬 의미 있는 신호가 될 수 있다.

2. "떨어졌으니까 산다"와 "반등을 확인하고 산다"는 다르다

자동매매에서 가장 위험한 문장 중 하나가 "많이 떨어졌으니까 이제 오르겠지"다.

사람은 차트를 보면 가격이 크게 떨어진 뒤에는 자연스럽게 반등을 기대한다. 하지만 시장에는 더 떨어지는 종목도 많다. 따라서 매수 신호를 만들 때는 단순히 하락했다는 사실보다 하락이 멈추고 방향이 바뀌기 시작했는지를 확인하는 편이 훨씬 안전하다.

개인적으로 자동매매 시스템을 수정하면서 이 부분을 상당히 많이 느꼈다. 처음에는 RSI가 특정 값 아래로 내려가면 바로 매수하는 방식도 테스트했다. 백테스트에서는 분명히 괜찮은 구간이 있었지만, 실시간 시장에서는 RSI가 낮은 상태로 계속 떨어지는 종목을 잡는 경우가 있었다.

그때부터 단순 과매도보다 "과매도 → 반등 확인"이라는 흐름을 중요하게 보기 시작했다. 신호가 조금 늦어지는 단점은 있었지만, 아무 이유 없이 떨어지는 칼날을 잡는 거래가 줄어드는 효과가 있었다.

3. 볼린저밴드 하단이라고 무조건 매수할 수 없는 이유

볼린저밴드 역시 과매도 구간을 찾는 데 많이 사용된다. 가격이 하단 밴드에 가까워지면 반등 가능성을 생각할 수 있다. 하지만 여기에도 함정이 있다.

강한 하락 추세에서는 가격이 볼린저밴드 하단을 계속 타고 내려가는 이른바 "밴드 워크" 현상이 나타날 수 있다. 이때 하단에 닿았다는 이유만으로 매수하면 계속 떨어지는 종목을 반복해서 잡을 수 있다.

따라서 볼린저밴드는 "매수 버튼"이 아니라 가격이 어느 위치에 있는지를 알려주는 위치 정보로 사용하는 편이 좋다.

4. 거래량은 신호의 "확신 정도"를 판단하는 데 유용하다

가격만 보면 반등처럼 보이는데 거래량이 전혀 따라오지 않는 경우가 있다. 반대로 가격이 조금만 움직였는데 거래량이 갑자기 크게 증가하는 경우도 있다.

거래량은 단독으로 매수 신호를 만드는 것보다는 가격 움직임이 실제 참여자들의 관심을 받고 있는지 확인하는 보조 조건으로 사용하는 것이 유용하다.

예를 들어 가격이 이전 저점 근처에서 반등하면서 평소보다 거래량이 증가한다면 단순한 호가 움직임보다 의미 있는 수급 변화일 가능성을 생각해볼 수 있다. 물론 거래량 증가가 항상 상승을 의미하는 것은 아니다. 대량 매도 때문에 거래량이 증가할 수도 있기 때문이다.

5. 시장 전체 분위기를 무시하면 개별 신호가 무너진다

좋은 매수 신호를 만들면서 놓치기 쉬운 것이 시장 전체의 방향이다. 개별 코인의 RSI가 좋아 보이더라도 비트코인이 급락하고 시장 전체가 위험 회피 분위기라면 알트코인의 반등 신호가 쉽게 실패할 수 있다.

그래서 자동매매에서는 개별 종목 분석뿐 아니라 시장 상태를 별도로 판단하는 것이 중요하다.

하나의 지표값만 보는 것보다 시장 전체의 추세와 변동성을 함께 고려하면 불필요한 진입을 줄일 수 있다.

6. 신호를 점수화하면 훨씬 유연해진다

조건을 전부 AND로 묶어버리는 방법 외에 각 조건에 점수를 부여하는 방식도 있다.

예를 들어 RSI 과매도에 2점, RSI 반등에 2점, 볼린저밴드 하단 접근에 1점, 거래량 증가에 1점, 시장 환경에 2점을 부여할 수 있다. 그리고 일정 점수 이상일 때만 매수 후보로 판단하는 것이다.

이 방식의 장점은 시장 상황에 따라 전략을 조정하기 쉽다는 것이다. 예를 들어 하락장에서는 필요한 최소 점수를 높이고, 횡보장에서는 조금 낮추는 방식으로 운용할 수 있다.

물론 점수제를 사용한다고 무조건 좋은 전략이 되는 것은 아니다. 점수와 기준값을 과도하게 세밀하게 조정하면 결국 과적합 문제로 다시 돌아갈 수 있다. 따라서 점수제 역시 단순하게 유지하고, 실제 백테스트와 포워드 테스트를 통해 효과를 확인해야 한다.

7. 신호의 품질보다 중요한 것은 신호 이후의 결과다

매매 신호를 평가할 때 "몇 번 맞혔는가"만 보면 안 된다. 승률이 80%인 전략이라도 20%의 손실 거래가 너무 크다면 계좌는 결국 감소할 수 있다.

반대로 승률이 45%밖에 되지 않는 전략도 평균 이익이 평균 손실보다 충분히 크다면 장기적으로 수익을 낼 수 있다.

매매 전략의 성능은 승률 하나로 판단할 수 없다. 평균 수익, 평균 손실, 거래 빈도와 MDD를 함께 봐야 한다.

8. 결국 중요한 것은 기대값(Expected Value)이다

자동매매 전략을 평가할 때 매우 중요한 개념이 기대값이다. 단순화하면 한 번의 거래에서 장기적으로 얼마를 기대할 수 있는지를 나타내는 값이다.

이 전략은 모든 거래에서 이길 필요가 없다. 오히려 상당수 거래에서 손실이 발생하더라도 장기적으로 이익이 남을 수 있다.

자동매매에서 중요한 것은 한 번의 완벽한 진입이 아니라 동일한 조건이 수십 번, 수백 번 반복되었을 때 통계적으로 유리한가 하는 것이다.

9. 개인적으로 가장 크게 느낀 부분은 "신호가 없는 것도 신호"라는 점이었다

자동매매를 직접 돌려보면서 생각보다 어려웠던 부분은 매수 신호를 만드는 것이 아니라 매수하지 않을 상황을 정의하는 것이었다.

처음에는 봇이 아무것도 하지 않고 있으면 괜히 불안했다. 시장에 움직이는 코인이 많은데 내 봇은 계속 "관망"이라고 표시되니 조건을 조금 완화하고 싶은 마음이 생겼다.

하지만 지나고 보면 그 관망 구간이 오히려 중요했다. 신호가 없는 날에는 거래를 하지 않는 것이 손실을 피하는 가장 확실한 방법이었기 때문이다.

특히 급락장에서는 여러 지표가 동시에 과매도 영역에 들어오기 때문에 겉으로 보기에는 오히려 매수 신호가 많이 발생한다. 그때 무조건 매수하도록 만들면 봇은 가장 위험한 순간에 가장 열심히 거래하게 된다.

그래서 지금은 좋은 신호를 만드는 것만큼 "지금은 아무것도 하지 않는다"라는 판단도 전략의 중요한 기능이라고 생각한다.

10. 좋은 매매 신호를 만드는 실전 체크리스트

• 시장 환경: 현재 상승장인지 횡보장인지 하락장인지 구분한다.
• 가격 위치: 고점 추격인지 조정 후 반등인지 확인한다.
• 과매도 여부: RSI 등으로 단기적인 과매도 상태를 확인한다.
• 방향 전환: 단순히 떨어졌다는 이유가 아니라 실제 반등이 시작되는지 확인한다.
• 거래량: 가격 움직임에 충분한 거래 참여가 발생하는지 확인한다.
• 손익비: 진입 전에 손절과 목표 수익 구간을 함께 계산한다.
• 거래 빈도: 지나치게 많은 신호가 발생하지 않는지 확인한다.
• 과적합: 파라미터를 계속 수정해서 백테스트 수익률만 높이고 있지는 않은지 확인한다.
• 검증: 과거 데이터뿐 아니라 사용하지 않은 데이터와 실시간 모의매매에서도 확인한다.

매수 신호보다 먼저 정해야 하는 것

좋은 매매 신호를 만들기 전에 먼저 정해야 할 것이 있다. 바로 "이 전략은 어떤 상황에서 돈을 벌려고 하는가?"라는 질문이다.

예를 들어 추세 추종 전략이라면 상승 방향이 강한 시장에서 움직임을 따라가는 것이 목적이다. 반대로 평균회귀 전략이라면 가격이 과도하게 움직인 뒤 평균으로 돌아오는 상황을 노릴 수 있다.

두 전략은 서로 정반대의 논리를 가지고 있다. 추세가 강하게 발생하는 시장에서는 평균회귀 전략이 계속 손절할 수 있고, 횡보장에서는 추세 추종 전략이 가짜 돌파에 계속 당할 수 있다.

따라서 "좋은 매매 신호"라는 절대적인 정답은 없다. 전략이 기대하는 시장 환경과 신호가 일치하는가가 훨씬 중요하다.

마무리: 좋은 신호는 복잡한 신호가 아니다

좋은 매매 신호를 만들기 위해 수십 개의 지표를 사용할 필요는 없다. 오히려 핵심은 단순한 조건 몇 가지가 반복적으로 의미 있는 결과를 만들어내는지 확인하는 것이다.

RSI 하나만으로 모든 저점을 맞힐 필요도 없고, 볼린저밴드 하나로 모든 반등을 잡을 필요도 없다. 시장 환경을 확인하고, 가격이 어느 위치에 있는지 보고, 반등이나 추세 전환이 실제로 나타나는지 확인하고, 거래량과 위험관리 조건을 함께 적용하는 것만으로도 훨씬 탄탄한 구조를 만들 수 있다.

그리고 무엇보다 중요한 것은 매매 신호가 발생하지 않는 시간을 실패로 생각하지 않는 것이다. 자동매매의 목적은 하루 종일 거래하는 것이 아니다. 좋은 기회가 왔을 때만 정해진 규칙에 따라 거래하고, 그렇지 않은 시간에는 자본을 지키는 것이다.

결국 좋은 신호란 "내일 오를 종목을 정확하게 맞히는 신호"가 아니다. 수많은 불확실성이 존재하는 시장에서 내가 감당할 수 있는 위험 안에서 장기적으로 기대값이 플러스가 되는 상황을 반복해서 찾아내는 규칙이다.