［동양일보］

미 국방부는 작년에 최초로 생성형 인공지능(AI) 연구에 30억 달러의 예산을 투입하였다. 앞으로 테러 집단이나 적대국이 사실 여부가 불가능한 허위 정보를 공격 무기로 활용할 가능성이 높다고 판단했기 때문이다. 올해 2월 초에 홍콩의 한 금융회사 직원이 화상 회의에서 상사가 특정 상품을 구매하라고 한 지시에 따라 한화 300억원이 넘는 돈을 송금한 일이 있었다. 그 직후 상사가 지시하는 영상은 생성형 AI 기술로 제작된 가짜 이미지와 음성, 즉 딥 페이크(deep fake) 영상으로 밝혀졌다. 이런 기술이라면 군대의 지휘관의 이미지와 음성으로 부대원에게 공격 무기를 발사하라는 가짜 명령도 불가능하지만은 않다. 악의적으로 조작된 정보는 진실과 가짜의 경계선을 허물어뜨리는데 그 파괴력이 대량살상무기와 같을 것이라는 공포가 밀려오고 있다. 재작년에 시작된 우크라이나 전쟁에서 러시아는 이메일과 사회관계망에서 가짜 뉴스로 심리전을 벌이곤 했다. 미국의 전쟁학자 대니얼 애봇을 비롯한 일군의 전문가들은 2011년에 공동으로 저술한 <제5세대 전쟁 핸드북(fifth generation warfare hand book)>에서 첨단 기술로 문화와 종교의 아이콘을 활용하여 인간의 심리를 조작하는 새로운 전쟁이 출현하고 있다고 예언한 바 있다. 인간 정신의 나약한 영역을 파고들어 적대와 증오심을 증폭시키고 혼란을 조장하는 심리와 여론전쟁이 일반화된다는 예측이다. 이 저술이 발간될 당시에는 주목을 받지 않았지만 우크라이나 전쟁이 발발하고 나서 전문가들은 새로운 전쟁에 대한 그들의 통찰을 재평가하고 있다.



단순히 기술의 확산만이 문제가 아니다. 가짜 뉴스는 디지털 이전에도 그 위력을 발휘해 왔다. 공동체의 원리로서 민주주의에 대한 관심이 줄어들고 공동체 자체가 해체되는 현대에 와서 개인은 깊은 외로움에 처해 있다. 무엇이 진실인가를 고민하는 똑똑한 시민의 품격은 사라지고 응축된 분노가 지하에 용암처럼 도사리는 위험한 시대가 왔다. 불편한 진실을 외면하는 외로운 개인들은 오히려 가짜 뉴스나 시민 공동체를 갈라치는 선동에 환호하게 된다. 분열된 세계에서 디지털 기술은 개인에게 외로움을 해소하는 초월적인 가상 세계를 제시하게 되는데, 한 번 이 세계에 갇히면 빠져나오기란 거의 불가능하다. 여기서 딥페이크 영상은 공포라기보다 중독성이 강한 재미를 선사할 뿐만 아니라, 고단한 현실을 초월한 매력적인 이상향으로 돌변하게 된다. 자유로부터 도피하는 군중들에게는 히틀러나 무솔리니도 넋을 잃을 정도로 놀라운 대중 통제 기술이 출현한 셈이다. 이런 시대에 대중은 더 이상 진실이 무엇인지 따지지 않는다. 사실 개인에게는 따지고 들 수단도 없다.



원래 정보는 사실 그대로일 때보다 조작되었을 때 더 재미있거나 감동적이다. 생성형 AI는 단순한 언어 모델이 아니라 인간이 원하는 바를 정확히 찾아내 스토리를 만들어 준다는 데서, 인간이 발명한 어떤 마약보다 치명적으로 도파민을 분비시켜 인간을 포섭해 나간다. 허황된 정보나 정책에 유권자가 더 열광하는 이상한 일도 벌어진다. 여성 징병제가 당장 실현될 가능성이 없다는 걸 누구나 알고 있지만, 한 청년 정치인이 이를 말하자 남성 청년 세대가 열광하는 것도 이상하다고만 탓할 수는 없다. 세금을 마꾸 깍아주겠다는 정부의 포퓰리즘이 종국에는 국가 재정을 거덜낸다는 걸 뻔히 알면서도 일단 박수치고 열광하다는 사람이 있어서 정권은 절대 망하지 않는다. 북한과 당장 전쟁을 하지 않는다는 걸 알면서도 일단 북진 통일 외치는 장관에게 힘이 실리는 현상도 이상한 일이 아니다. 이미 한국 정치는 진실보다 거짓이 더 압도적인 득표력을 입증하고 있다. 정보를 조작하는 주체는 기술이 아니라 인간의 나약한 본성이다. 단지 기술은 이를 효율적으로 뒷받침할 뿐이다. 탈진실의 시대에 우리는 마지막 자유를 위해 우리 스스로와 싸워야 한다.