인공지능(AI)을 활용한 허위 정보 확산과 내부 감시 등 첨단 기술을 정치적으로 악용한 사례들이 속속 등장하며 기술 윤리 문제가 다시금 도마 위에 올랐다.

9일 대만 중앙통신사(CNA) 등 외신에 따르면, 대만 국가안전국은 8일 중국이 생성형 AI를 사용해 대만을 향한 허위 정보를 퍼뜨리고 있는데, 이는 대만 사회를 분열시키기 위한 목적이라고 밝혔다.

대만 국가안전국은 올해 페이스북과 틱톡 등 SNS에서 50만건 이상의 '논란이 되는 메시지'를 탐지했다는 내용의 보고서를 이날 입법원에 제출했다.

보고서는 "베이징이 우리 사회의 분열을 조장하기 위해 지난달 라이칭더 총통의 중국 관련 연설이나 TSMC의 미국 신규 투자 발표와 같은 민감한 순간을 겨냥해 '인지전'을 시작했다"며 "AI 기술의 응용이 더욱 광범위하고 성숙해짐에 따라, 중국 공산당이 논란이 되는 메시지의 생성과 전파를 돕기 위해 AI 도구를 이용하고 있다는 사실이 발견됐다"고 분석했다.

AI는 허위 정보 확산을 통한 사회 분열뿐 아니라 직원 감시에도 악용되고 있다. 로이터 통신은 8일 일론 머스크 테슬라 CEO가 이끄는 미국 정부 효율성 부서(DOGE)가 트럼프 행정부의 정책에 반감을 가진 직원들을 색출해내기 위해 연방 공무원들의 소통 내용을 감시하고 있다고 단독 보도했다.

보도에 의하면 트럼프 행정부 인사들은 환경보호청(EPA) 소속 직원들에게 DOGE 소속 기술진이 AI를 사용해 트럼프 혹은 머스크에 대한 비판적인 언급을 탐지하고 있다는 사실을 알렸다. 마이크로소프트 팀즈(화상 회의 프로그램)를 포함한 통신 앱과 소프트웨어를 모니터링하기 위해 AI를 이용하고 있다는 경고도 나왔다.

익명의 소식통들은 "그들은 반트럼프나 반머스크 발언을 찾고 있다", "'당신이 말하는 것, 타이핑하는 것, 행동하는 것을 조심하라'는 말을 들었다"고 로이터에 전했다.

워싱턴 대학교의 정부 윤리 전문가 캐슬린 클라크 교수는 "미국 대통령이 싫어하는 발언을 억압하거나 위축시키기 위한 정부의 권력 남용"이라고 지적했다.

로이터 보도 후 EPA는 성명을 내고 "기관 운영과 행정 효율성 개선을 위한 수단으로 AI를 검토 중"이라면서도 "DOGE와 협력해 인사 결정 등에 인공지능을 실제로 사용하지는 않고 있다"고 발표했으나, 실제 AI 기술로 직원들을 감시하고 있는지 여부에 대한 언급은 없었다.