본 연구는 주식시장의 대표적인 행태적 편의(behavioral biases)인 투자자의 자기과신(overconfidence)과 처분효과(disposition effect)를 거래량과 수익률의 관계를 통해 분석하였다. 1980년 1월부터 2011년 12월까지 유가증권시장에 상장된 종목을 대상으로 수익률과 거래량의 관계를 벡터자기회귀모형 (VAR)을 이용하여 분석한 결과를 요약하면 다음과 같다. 첫째, 과거의 시장수익률은 현재의 거래량과 양의 관계를 가지는 것으로 나타나 투자자들의 자기과신 가설을 지지하였다. 투자자들은 시장 전체적으로 수익률이 상승하면 자기과신의 정도가 높아져서 이후 거래를 늘리는 것으로 해석된다. 둘째, 과거의 주식수익률은 현재의 거래량과 양의 관계를 보여 투자자들의 처분효과가 존재하는 것으로 드러났다. 이는 개별주식 수익률이 상승하면 투자자들의 포트폴리오 역시 이익이 생기고 이를 실현하려는 경향이 높아지는 것으로 해석된다. 그러나 자기과신과 처분효과는 투자자들의 투자의사결정에 미치는 방향이 서로 다르다. 자기과신 가설은 투자자들의 매수의사결정과 관계가 있는 반면, 처분효과는 매도의사 결정에 영향을 미친다. 셋째, 보다 정확한 분석을 위해 개인투자자의 매수거래량과 매도거래량으로 나누어 분석한 결과 시장수익률은 개인투자자의 매수의사결정에 미치는 영향이 크게 나타났고, 주식수익률은 개인투자자의 매도의사결정에 큰 영향을 미치는 것으로 확인되었다. 이는 투자자의 자기과신과 처분효과가 동시에 존재할 수 있음을 시사하는 결과이다.
이 연구는 주식시장의 대표적인 행태적 편의인 투자자의 자기과신과 처분효과를 거래량과 수익률의 관계를 통해 분석했다. 투자자들은 시장 전체적으로 수익률이 상승하면 자기과신의 정도가 높아져서 이후 거래를 늘리는 것으로 해석된다.