한편 막연하게 매우 발전한 인공지능이 인간과 평화롭게 공존할 것이라는 전망을 하기도 쉽지 않다. 인간보다 우월해진 인공지능이 과연 우리에게 어떤 태도를 취할 것인지는 추측하기조차 어렵기 때문이다. 어쩌면 우리가 멸종 위기종을 보호하듯 인간이 자신만의 ‘독특한’ 지적생활을 즐길 수 있도록 미래의 ‘자비로운’ 인공지능이 우리를 보호해 줄지도 모른다. 혹은 인간과 전혀 다른 가치를 가진 인공지능에 의해 인간이(우리가 개미를 대하듯) 무심결에 제거될 수도 있다. 이 모든 사안은 결국 가상적으로 가정된 미래의 뛰어난 인공지능이 얼마나 인간과 가치를 공유하는지에 달려 있을 것이다. 그런 이유로 몇몇 미래학자들은 지금부터라도(우리 인간의 미래를 위해) 공감 능력이나 상호 신뢰, 복지 개념처럼 인간에게 중요한 개념을 인공지능에게 주입하자고 제안한다.
미래학자들은 미래에 인공지능이 인간을 해칠지도 모르는 문제를 예방하기 위해 공감, 신뢰, 복지 등 인간에게 중요한 개념을 인공지능에 심어주어야 한다고 주장한다.