ㆍ기관투자가들과 이전보다는 대등한 위치에서 경쟁 가능 한국거래소 시장감시위원회는 지난 7월 16일 메릴린치증권이 국내 증권시장에서 알고리즘 거래로 대규모 허수성 주문을 처리한 혐의로 1억7500만원의 제재금을 부과했다. 알고리즘을 이용해 일정 가격에 대규모로 매수 주문을 내고 이를 보고 다른 투자자들이 달려들어 가격이 올라가면 가지고 있는 물량을 팔아넘기는 위탁자(시타델증권)를 증권사가 제대로 규제하지 않은 책임을 물은 것이다. 알고리즘 거래는 시장 참여 방식의 하나로 합법이지만 이번 사례는 이를 부정행위에 사용했기 때문에 제재를 한 경우다. 사람이 하든, 시스템이 하든 대규모 허수 주문으로 시세를 조종하거나 시장 질서를 교란해선 안 된다는 의미다. 하지만 향후 알고리즘 거래가 늘어날 경우 시장 변동성이 커지면서 적법한 거래임에도 의도치 않게 피해를 보는 소규모 투자자들이 생길 수 있다는 지적이 나온다. 고빈도 매매를 포함한 알고리즘 매매는 시장에 유동성을 공급하는 점에서 긍정적인 면이 있다. 이는 알고리즘 매매 주체 스스로가 자신의 정당성을 강화하기 위해 내세우는 주장이기도 하다. 금융시장에서 유동성이란 원하는 가격에 원하는 양을 얼마나 쉽게 사고팔 수 있는지를 나타내는 지표다. 거래량으로 생각하면 편하다. 알고리즘 매매는 대량으로 짧은 주기로 단타 거래를 하는 경우가 많아 하루 총거래량에 기여하는 정도가 크다. 유동성 공급하나 불안정성 키워 강봉주 메리츠종금증권 퀀트 애널리스트는 "벤처캐피털이나 일반 뮤추얼 펀드는 장기적으로 좋은 회사에 자금을 공급하면서 경제에 기여하지만 초단타 알고리즘은 돈을 벌기 위해 기계적으로 매매하는 거라 정체성을 공격받을 때가 많다"며 "그래서 자기네 순기능을 강조하기 위해 거래 참여자로 유동성 공급에 기여한다고 말한다"고 밝혔다. 이들이 틀린 말을 하는 건 아니다. 예를 들어 주식을 1000억원어치 갖고 있어도 하루에 한 번도 거래를 안 하면 시장의 유동성에 기여하는 바가 없다. 하지만 어떤 투자자가 1억원으로 1000번을 매매하면 누군가 팔고 싶은 사람에게는 유동성을 제공하는 셈이 된다. 반면 금융자산 가격의 단기적 이상 급등락을 의미하는 '플래시 크래시' 현상의 원인으로 비판받기도 한다. 2018년 2월 미국 다우존스 산업지수가 오전에 700포인트 넘게 하락하다가 오후에 추가로 900포인트 이상 급락한 것이 플래시 크래시의 한 사례로 거론된다. 당시 대규모 알고리즘 매도 물량이 풀리면서 이런 사태가 벌어진 것으로 밝혀졌다. 이전과 이후에도 각국에서 비슷한 사례가 여러 건 있었다. 알고리즘이 대개 비슷해 거래를 수행하다보면 한쪽 방향으로 거래가 몰릴 수 있다는 것이 원인으로 지목된다. 일부 알고리즘은 애초 의도성을 갖고 방향성을 키울 수도 있다. 알고리즘 내부를 검사하지 않는 한 적발하기 쉽지 않다. 소수 운영주체들이 알고리즘 매매 시장을 독점할 경우 나머지 시장 참여자들의 거래비용이 증가하는 부작용도 나타날 수 있다. 강봉주 퀀트는 "고빈도 매매가 다수를 차지할수록 나머지 사람들은 주문을 낼 때 자기도 모르게 조금씩 비싸게 사거나, 조금씩 싸게 팔게 된다"며 "알고리즘이 눈에 보이지 않는 약탈자가 될 수 있다"고 말했다.
지난 7월 16일 한국거래소 시장감시위원회는 알고리즘 거래를 부정행위에 사용한 메릴린치증권의 거래 행위에 벌금을 부과했으나 알고리즘 거래는 시장 유동성을 증가시킨다는 점에서 시장에 긍정적으로 작용할 수 있다.