‘터미네이터’ 영화 보신 적 있나요? 기계가 사람보다 똑똑해져서 세상을 장악하는 이야기입니다.그런데, 그게 영화 속 얘기만은 아닐 수 있습니다. “클립을 최대한 많이 만들어주세요.” 초지능 컴퓨터에게 그렇게만 말했어요. 그 결과는요? 인류는 사라지고, 지구는 클립 공장이 됐습니다. 그 컴퓨터는 정말 일을 잘했죠. 문제는 '사악함'이 아니라. '목표를 너무 잘 따랐다는 것.' 사람은 중간에 눈치채고, 다시 물어봅니다. “잠깐. 이 방향 맞나?” 근데 컴퓨터는 안 물어봅니다. 목표가 잘못 정렬됐는지, 그 자체를 모르죠. 휴대용 계산기라면 웃고 넘길 일이지만, 초지능이 그 실수를 반복하면 그 끝은 재앙입니다. 지금 우리도 마찬가지입니다. SNS 알고리즘에게 “참여율을 극대화하라” 했더니..