본 논문에서는 방송국 그린 스튜디오에 서 있는 연기자와 CG로 표현되는 스페셜 이펙트(물, 불, 연기 등)와의 상호작용을 제공하는 시스템을 제안한다. 기존의 가상 스튜디오는 주로 CG 배경과 연기자 촬영 영상을 정합하는 방법에 초점을 맞추고 있다. 기존의 연구와 달리 본 논문에서는 실제 연기자와 상호작용하는 비주얼 이펙트를 시뮬레이션하는데 집중함으로써 TV 화면에서 새로운 영역을 표현하고자 한다. 연기자 동작에 비주얼 이펙트를 연동하기 위하여 깊이 카메라를 이용하여 연기자 동작을 추출한다. 이를 3차원 벡터 필드로 변환하고 Navier Stokes 방정식의 외력으로 적용하여 물, 불, 연기의 유체를 시뮬레이션한다. 특히, 물의 상호작용을 사실적으로 표현하기 위하여 물에 연동되는 스플레쉬의 상호작용도 함께 시뮬레이션하여 물이 등장하는 비주얼 이펙트의 사실감을 극대화시켰다. TV의 실시간 녹화를 지원하기 위하여 GPU 프로그래밍을 도입하여 VFX의 실시간 상호작용을 지원하는 기능도 추가하였다. 제안된 방법의 유용성은 물, 불, 연기, 바다 속 물고기 떼 등의 VFX 시뮬레이션과 연기자와의 상호작용 실험을 통하여 확인할 수 있었다.
이 논문은 방송국 그린 스튜디오에 서 있는 연기자와 CG로 표현되는 스페셜 이펙트(물, 불, 연기 등)와의 상호작용을 제공하는 시스템을 제안한다.