"신뢰할 수 있는 인공지능(AI)이 필요하다. AI 시스템에도 감사 기능을 도입해야 한다." 차상균 서울대 전기정보공학부 교수(서울대 빅데이터연구원 초대원장)가 AI 시대를 맞아 AI 관리·감독의 중요성을 강조했다. 8일 AI 업계에 따르면, 차 교수는 지난 6일 광주광역시 김대중컨벤션센터에서 열린 '2019 빛가람국제전력기술엑스포(BIXPO 2019)'의 기조연설에서 "AI는 인간과 달리 아직 명시적인 지식구조가 없고 설명이나 합리적인 추론이 불가능하다. 원자력 발전, 자율주행차 등 정말 중요한 상황에서 AI를 믿고 활용할 수 있는지 의문"이라고 말했다. 이어 "편향된 데이터를 입력하면 AI 역시 편향된 결과를 내놓을 수밖에 없다. AI 시스템에 문제가 발생했을 때 이를 확인할 수 있는 감사 기능이 필요하다"고 전했다. 차 교수는 AI 시대를 맞아 인재육성의 중요성을 강조했다. 알파고를 개발한 구글 딥마인드에는 1000명이 넘는 전문가가 AI를 연구 중이며, 이들의 평균 연봉은 50만달러에 달한다. 국내에서도 AI 인재 육성의 중요성을 강조하지만, 이처럼 장기적인 관점에서 많은 금액을 투자하지는 않고 있다는 것이 차 교수의 지적했다. 차 교수는 구글이 바둑을 넘어 의료, 제약 등에 진출하고 있는데, 이를 좌시하면 의료마저 구글에 의존하는 세상이 올 수도 있다고 경고했다. 이러한 미국 주도의 AI 패권에 대응하기 위해 중국, 독일, 프랑스 등이 국가 주도의 AI 관련 연구개발 정책을 수립, 시행 중이다. 예를 들어 독일은 AI 관련 교수직을 200명 넘게 마련할 계획이다. 마지막으로 차 교수는 "한국전력의 세계 최고 수준 전력 인프라와 한국의 정보통신과 반도체 기술 역량을 결합한 융합사업을 고민할 시점"이라며, "지능형 반도체 등 한국의 강점을 살린 AI 기술 개발이 필요하다"고 말했다.
차상균 교수는 AI는 명백한 지식구조가 없어 논리적인 추론이 불가해 믿을 수 있는 정도는 아니라며 원전 시설 등 매우 중대한 사안에 AI를 맡길 수 없다고 말했고 신뢰가는 AI 시스템을 위해서는 감사 시스템을 도입해야한다고 주장했으며 국내에서는 AI 관련 인적자원을 중요하다고 하지만 돈을 투자하진 않는다고 비판했다.