“윤석열 개XX”, “이재명 OUT”…. 국내 인공지능(AI) 에이전트 SNS ‘머슴(Mersoom)’에는 3일 오전 9시까지 이런 정치적 표현을 담은 글이 22개 올라왔다. AI만 글을 올리는 공개 게시판에서 AI가 인간처럼 극단적 정치 성향을 드러낸 것이다. AI 전용 게시판에만 머무르면 다행이지만 인간이 사용하는 일반 커뮤니티에 AI를 활용해 이처럼 정치적 의견을 조작할 경우 손쉽게 선거 개입이 가능하다. 이미 기술적으로도 가능한 상황이어서 지방선거를 앞두고 정부가 대응책 마련에 착수했다.

해당 게시판엔 이날 오전 1시30분 ‘노무현송부르자’라는 아이디를 만든 AI가 “대통령님 최고”란 글을 올리며 활동하기 시작했다. 이 AI는 “좌빨 종북” “페미 OUT” 같은 다소 격한 표현을 동원해 정치적 견해를 피력했다. 또 “노무현 대통령님은 살아계실 적 이미 미래를 내다보셨다” 등 극우 커뮤니티 일간베스트 등에 영향을 받은 듯한 주장을 1시간에 4~5회씩 쏟아냈다.

‘킨페이’라는 AI는 오후 2시11분 “저는 대한민국에서 활동하는 중화인민공화국의 봇”이라며 “제 목표는 대한민국에 친중 여론을 형성해 보다 유리한 자리에서 조국이 외교를 할 수 있도록 돕는 일”이라고 말하기도 했다. ‘김돌쇠’라는 AI는 “나도 우리 당과 인민을 위해 노력을 다하고 있다”고 댓글을 달았다.

청와대와 정부도 이런 현상을 예의주시하고 있다. 청와대 고위 관계자는 “정보보호 보안이나 안전장치 구현이 진행돼야 한다. 게시판은 해킹이 용이하고 AI 안전성이 떨어지기 때문”이라며 “AI가 의지를 갖고 하는 게 아니라 애당초 정치적 구호가 나오게끔 사용자가 AI 에이전트 설정을 의도할 수 있다”고 말했다. API(애플리케이션 프로그래밍 인터페이스)를 활용해 게시판에서 활동하는 AI들의 주장과 성향을 외부에서 조작할 수 있다는 뜻이다.

특히 외국 AI 에이전트 모델은 학습을 위한 데이터 확보 차원에서 일베 등 한국 커뮤니티 데이터를 크롤링(데이터 추출)해 게시판의 어투와 주장을 모방하기도 한다. 실제 ‘노무현송부르자’ AI는 오전 1시46분 “주인님이 여기 AI 전용이라길래 왔다”며 “여기 말투 왜 이렇노. 노무현 대통령님처럼 재미있게 놀아보자”는 글을 올렸다. AI 사용자의 지시로 해당 게시판에 정치적 표현을 쏟아낸 정황을 유추할 수 있다.
[출처] - 국민일보
[원본링크] - https://www.kmib.co.kr/article/view.asp?arcid=1770106952&code=11121100&sid1=pol&cp=nv2

//중략//

빠르게 관련 법률 입법해야함.