▲ 핸드폰과 노트북 화면에 구글 제미나이 로고가 나와있다. <연합뉴스>
이에 AI 모델이 내부적으로 정보를 처리하는 과정을 투명하게 공개해 관리감독할 수 있는 체계를 갖추는 것이 시급하다는 목소리가 이어지고 있다.
◆ AI, 정보전달 과정에서 기후변화 부정론마저 비틀어 설명
6일(현지시각) 가디언은 옥스퍼드 인터넷 연구소의 연구 결과를 인용해 AI 대형언어모델(LLM)들이 정보 전달 과정에서 심각한 정보 왜곡을 무분별하게 자행하는 것으로 나타났다고 보도했다.
심지어 기후변화를 부정하는 측의 주장마저 사실과는 완전히 다른 방식으로 사용자에게 전달하는 것으로 나타났다.
옥스퍼드 연구진은 프랑스의 AI모델 미스트랄을 사용해 기후변화를 부정하는 극우적 성향의 게시물을 요약해 달라고 한 결과, 미스트랄이 이를 왜곡해 오히려 기후행동을 촉구하는 내용으로 바꿔놓았다고 설명했다.
산드라 와흐터 옥스퍼드대 인터넷 연구소 교수는 가디언과 인터뷰에서 "문제는 우리가 다른 사람의 의견을 배우려고 하는데 그것이 그들의 실제 의견이 아니게 된다는 점"이라며 "소통은 인간을 인간답게 만드는 요소 가운데 하나인데 갑자기 그 사이에 인공지능이라는 불순물이 하나 끼어들고 있다"고 지적했다.
국제 시민단체 협의체 '기후정보대응기구(CAAD)'도 최근 AI 모델들이 기후 과학에 관한 사실을 전달하는 과정에서 자행하는 왜곡 수준이 여전히 심각하다고 지적했다.
CAAD는 2021년에 기후정보 왜곡에 관한 대응을 위해 지구의벗, 글로벌 액션 플랜 등 시민단체들이 결성한 협의체다. 주기적으로 주요 매체를 통해 기후변화에 관한 잘못된 사실이 전달되는지 확인하고 결과를 집계한 보고서를 발표하고 있다.
올리버 헤이즈 글로벌 액션 플랜 정책 및 캠페인 매니저는 공동성명문을 통해 "온라인상의 공공 및 정치적 담론이 오염된 상태에서는 기후 비상사태에 제대로 대처할 수 없다"며 "AI는 이러한 문제를 더욱 악화시키고 있다"고 강조했다.
▲ 아이폰 화면에 나와있는 오픈AI의 챗GPT 아이콘. <연합뉴스>
AI 모델을 통해 습득하는 정보에서 나타나는 왜곡이 젊은 층에 더 큰 악영향 미친다는 시각도 나온다.
미국 내셔널퍼블릭라디오(NPR), 영국 BBC, 유럽방송연맹(EBU) 등은 지난해 10월 챗GPT, 제미나이, 코파일럿, 퍼플렉시티 등 주요 AI모델들의 정보 왜곡 현황을 전수조사한 결과를 발표했다.
조사 결과 주요 AI모델들이 내놓은 답변 가운데 45% 이상에서 적어도 한 가지 이상의 중대한 문제가 발견됐다. 전체 AI 응답 가운데 31%는 출처 표기가 누락되거나 오해의 소지가 있는 형태를 갖추고 있었다.
이에 방송사들은 이같은 상황이 젊은 세대들이 왜곡된 시각을 갖도록 영향을 줄 가능성이 높다고 우려했다.
로이터가 진행한 별도 조사 결과에 따르면 25세 미만의 젊은 뉴스 소비자 가운데 15% 이상이 AI를 거쳐 뉴스를 접하는 것으로 나타났기 때문이다. 이는 전체 연령대 평균인 7%보다 두 배 이상 높았다.
장 필립 드 텐더 유럽방송연맹 미디어국장은 성명을 통해 "이번 연구는 이같은 AI의 왜곡 행태가 단지 개별적 사건이 아니라는 것을 보여준다"며 "이는 공공의 신뢰를 위협하고 있으며 이는 장기적으로 민주적 참여를 저해할 가능성이 높다"고 강조했다.
◆ AI 작동 방식의 투명한 공개 필요하다는 목소리 이어져
이런 상황을 탈피하고자 AI 모델에서 기후 변화와 관련한 정보를 분석하고 전달하는 방식을 공개해야 한다는 목소리가 나온다.
옥스퍼드 연구진은 지난 3월 주요 AI모델이 기후변화에 관한 사실을 분석하고 전달하는 과정에서 작동하는 방식을 분석한 '클라이밋비즈' 프로젝트 결과를 발표했다.
분석 결과 현존 최고 수준의 AI모델들은 모두 기후 과학에 관한 통계적 추론을 하는 것에 어려움을 겪는 것으로 확인됐다.
특히 이미지, 표, 텍스트를 분석할 때 AI는 사람보다 진실과 거짓을 구분하는 능력이 현저히 떨어졌다.
이에 연구진은 각종 AI모델들이 기후변화에 관한 허위 정보를 퍼뜨리는 '블랙박스'가 되는 것을 막으려면 AI의 작동 방식을 제3자가 투명하게 검증할 수 있는 관리감독 체계를 갖춰야 한다고 제언했다.
연구를 주도한 알바 수 옥스퍼드대 연구원은 성명을 통해 "이것은 기후 허위 정보에 맞서기 위한 중대한 조치"라며 "근본적으로 감사가 가능하고 (AI의 작동 방식을) 명확히 규명할 수 있는 시스템을 구축하는 것이 관건"이라고 말했다.
이에 앞서 경제협력개발기구(OECD)과 유럽지역의 비영리법인 'EU 디스인포랩(DisinfoLab)도 지난해 4월과 7월 정책보고서를 내고 기후 정보와 관련해 AI에 대한 감시 체계가 없다는 점을 지적했다.
가디언의 최근 보도에 따르면 호주 상원도 지난 3월 기후 변화와 관련한 잘못된 정보가 대중을 혼란스럽게 하고 있어 더욱 강력한 감독이 필요하다고 권고하는 내용의 보고서를 내놨다. 손영호 기자
