“챗GPT 등 생성형 AI, ‘감시 데이터’로 학습…거짓 정보를 사실처럼 제공”
“인류가 인공지능(AI) 의존도를 높일수록 빅테크들에 일상생활과 제도상의 ‘초법적인 영향력’을 주게 된다.” 구글 출신의 미국 AI 전문가 메러디스 휘태커(Meredith Whittaker) ‘시그널(Signal)’ 대표가 한국을 비롯한 글로벌 ICT 강국들에 강력한 경고음을 내기 시작했다. 구글과 마이크로소프트(MS), 아마존 등 거대 테크 기업들이 AI 산업을 독과점하고, 전 세계 사람들로부터 나온 ‘감시(surveillance)’ 데이터를 통해 배를 불리며 개인의 프라이버시를 위협하고 있다는 지적이다. 휘태커는 전 세계적으로 AI 기술의 주목도를 높인 챗GPT 등 생성형 AI 역시 감시 데이터를 학습한 결과물이며 여러 부작용이 있다고 비판한다. 세계 최대 테크 기업인 구글 출신의 AI 전문가가 이처럼 반대편에서 목소리를 높이고 있는 이유는 뭘까.
휘태커가 지난해 9월부터 이끌고 있는 시그널은 개인 프라이버시 보호를 제1의 목표로 하는 비영리단체다. 메시징(messaging) 애플리케이션 시그널을 운영하고, 자신들이 개발한 암호화 프로토콜을 다른 메시징 앱들에 제공하고 있다. 페이스북·왓츠앱 등이 시그널의 암호화 기술을 이용한다. 시사저널은 4월4일 서울 여의도 모처에서 방한 중이던 휘태커 대표를 직접 만나 빅테크의 AI 산업 독과점 등에 대한 그의 견해를 들었다.
“미·중 패권 경쟁은 빅테크 간 힘의 경쟁”
먼저 한국 독자들에게 시그널을 소개해 달라.
“시그널은 비영리로 운영된다. 따라서 우리는 다른 영리 목적의 어떠한 테크 기업과도 다르다. 또한 우리의 오직 한 가지 사명은 모든 사람이 감시나, 정보 유출과 같은 그들의 존엄성과 프라이버시를 위협하는 그 어떠한 것들로부터 벗어나 자유롭게 서로 소통할 수 있도록 만드는 것이다. 이를 위해 우리는 현재 전 세계 수백만 명이 사용하고 있는 시그널 메신저를 개발했고, 다른 기관이나 기업들이 고객들의 통신 프라이버시를 지킬 수 있도록 하는 핵심 기술을 개발해 제공하고 있다.”
휘태커는 2만 명 넘는 직원이 구글의 성적 위법행위 및 시민 감시에 항의하며 들고일어났던 2018년 구글 파업 사태의 핵심 주동자 중 한 명이다. 미국 국방부와 구글이 계약을 맺은 ‘프로젝트 메이븐(Maven)’에 반대하는 청원서 초안을 작성하기도 했다.
당신이 현재 시그널에서 하고 있는 일들과 2018년 구글 파업을 통해 문제 제기했던 내용 간에 연관성이 있나.
“물론이다. 시그널에서 하고 있는 일들과 구글에서 파업했던 것은 모두 나의 양심 그리고 내 신념과 연관돼 있다. 과거 구글에서 인공지능의 역할에 대한 여러 연구를 맡았다. 연구하면서 여러 가지 위험 요소에 대한 걱정들이 있었고 직접 조사에 나섰다. 그러다 2017년에 구글과 미 국방부 간 비밀 군사계약을 발견하게 됐다. 미국이 드론 전쟁을 벌일 수 있도록 하는 AI 기술을 구글에서 개발해 주는 걸 의미하는 계약이었다. 정말 화가 났다. 그 기술 자체도 부정확할 뿐만 아니라 드론 전쟁은 모든 인권단체들이 불법으로 규정한다는 사실을 알고 있었다. 민간인을 표적으로 삼고, 아무런 이유 없이 죄 없는 사람들에게 해를 끼칠 수 있기 때문이다. 나뿐만 아니라 회사 내 많은 사람도 알고 있었다. 그게 우리가 2018년에 들고일어났던 이유 중 하나였다.”
미국 정부는 군사적인 부분뿐만 아니라 중국과의 패권 경쟁을 위해 빅테크 기업과 정부의 협력은 불가피하다는 논리를 펴는데.
“사실 이러한 대규모의 AI 시스템, 챗GPT와 같은 거대 언어 모델(LLM) 등을 개발해 독점하고 있는 테크 기업들이 있는 국가는 미국과 중국뿐이다. 미국과 중국의 패권 경쟁은 겉으로 보기엔 국가 간 경쟁으로 보이지만 실제로는 세계 테크 기업들 간 힘의 경쟁이라고 생각한다. 세계를 감시하는 엔진과, 또 전 세계 곳곳에 있는 데이터들을 수집하고 추출하는 인프라를 제공하는 것을 누가 독점하느냐의 경쟁이다. 이러한 부분이 현재 미국 대중의 두려움과 지지를 이끌어내는 데 매우 효과적이면서도 익숙한 냉전 혹은 군사적인 은유를 통해 설명되고 있다고 본다.”
군사적 이용에 관한 문제 제기뿐 아니라 기고 등을 통해 “인류가 AI 의존도를 높일수록 빅테크에 일상생활과 제도상의 ‘초법적인 영향력’을 주게 된다”고 지적한 바 있다. 어떤 의미인가.
“미국에서는 거대 테크 기업들이 IT 시스템을 운영하는 대부분의 대기업에 서버 인프라, 즉 클라우드 시스템과 같은 부분을 제공한다. 기업들만 대상이 아니다. 아마존은 CIA에 서버 인프라를 제공하고, MS나 구글 등은 대다수 정부 기관의 IT 시스템을 위한 인프라를 제공한다. 즉 철저히 매출과 성장의 확장이라는 목표에 의해 지배되는 기업들이 우리의 정치·경제·사회 그리고 일상생활에서의 중요한 인프라들을 통제하고 있는 것이다. 그러한 과정을 통해 미국에서 누구는 의료 서비스를 받고 누구는 받지 못하는지, 누가 학교에 입학하고 누구는 하지 못하는지, 누가 용의자로 의심되고 그렇지 않은지 등을 알려주는 자동화된 의사결정 시스템이 만들어지는데, 정작 여기에 대해 영향을 받는 사람들은 대기업이나 테크 기업들이 만든 시스템이 자신의 삶에 매우 깊이 영향을 미치고 있다는 사실을 모르는 경우가 많다. 이는 투명성과 책임성의 결여라는 매우 중대한 문제를 내포하고 있다.”
테크 기업들이 실제로 고객 데이터를 수집해 정부 기관들이 사용할 수 있도록 제공하고 있다는 것인가.
“그렇게 직접적으로 얘기하긴 어렵지만, 빅테크들은 인프라뿐만이 아니라 API(Application Programming Interface)와 일종의 AI 시스템을 제공한다. 예를 들어, 아마존은 ‘리코그니션(Rekognition)’이라는 안면 인식 서비스를 제공하는데, 법을 집행하는 기관들의 경우엔 해당 서비스의 데이터를 용의자를 찾을 때 사용할 수도 있다. 그러나 우린 이러한 부분들에 대해 직접 알기 어렵다. 모든 계약이 비밀로 이뤄지기 때문이다.”
계약이라는 게 당연히 비밀을 보장해야 하는 부분이 있지 않나.
“물론 상법상으로는 그렇다. 하지만 만약 그들이 사람들에게 해를 끼치고, 수백만 명의 삶에 영향을 미치는 결정을 내리고, 이러한 중요한 결정을 감독해야 할 민주적 절차를 무너뜨린다면, 이윤이라는 명목으로 기업의 기밀 유지 권리가 공익보다 우선해야 하는지에 대해 의문을 제기할 수 있다고 생각한다.”
“챗GPT, 언론인과 작가 등 가치 잃게 할 것”
최근 전 세계적으로 AI 기술에 대한 주목도를 높인 챗GPT에 대해선 어떻게 보고 있나. 이를 개발한 오픈AI는 인류에 대한 이익을 추구한다고 밝히고 있는데.
“챗GPT는 매우 흥미로운 실험이라고 생각한다. 그러나 그것은 MS의 매우 영리한 마케팅 행위였다고 본다. 나는 현재 MS의 일부인 오픈AI가 구글과 같은 기존의 빅테크들과 큰 차이가 없다고 본다. 오픈AI가 그들 스스로 MS의 일부가 된 것은 애저(Azure)와 같은 MS의 클라우드 기술 때문이다. GPT(텍스트 생성 딥러닝 AI)와 같은 시스템을 구축하기 위해선 엄청난 비용과 방대한 양의 데이터가 필요하며 이를 통해 수익을 창출하려면 클라우드 인프라가 필수적이다. 그렇기에 AI 비즈니스 모델은 미국과 중국의 소수 기업만이 접근할 수 있는 집중된 자원과 힘을 기반으로 하는 것이다.”
MS는 지난 1월 오픈AI와의 파트너십을 공식 발표했다. 투자액은 100억 달러(약 13조원)로 투자가 완전히 종료되면 MS가 오픈AI의 지분 49%를 갖게 될 것으로 알려졌다.
챗GPT와 같은 생성형 AI 기술 역시 앞서 제기한 문제들과 같은 우려의 지점이 있다고 보나.
“그렇다. 그것들은 전 세계 사람에 대한 ‘감시’ 데이터를 학습했다. 무엇보다 우리 모두가 사용해본 챗GPT를 운영하는 데 드는 비용이 연간 5억 달러(약 6500억원)에서 10억 달러(약 1조3000억원) 사이다. 엄청난 비용이다. 그렇다면 MS는 왜 그 비용을 지불할까. 기업·정부·기관에 GPT 라이선스를 제공하고, 그에 대한 막대한 수익을 거둘 수 있기 때문이다. 그다음으로 정부·기업·기관이 이것을 가지고 무엇을 할 수 있을까. 그들은 무엇을 위해 챗GPT를 사용할까. 사실 챗GPT는 잘못된 정보를 그럴듯하게 만드는 데 매우 효과적인 도구다. 우리는 정부와 여러 기관이 자신들의 이익을 위해 미디어 생태계를 오염시키는 것에 매우 관심이 많다는 사실을 잘 알고 있다. 또한 GPT와 이러한 생성 모델들의 또 다른 잠재적 용도는 노동자의 가치를 낮춘다는 것이다.”
좀 더 구체적으로 말해 달라.
“앞서 말했던 것처럼 우리는 챗GPT가 사실만을 제공하지 않는다는 것을 알고 있다. 신뢰할 수 없는 거짓과 정보들을 생성한다는 점이다. 하지만 매우 빠르게, 사실인 것처럼 보이는 정보를 만들어낸다. 따라서 이것은 언론인, 작가, 콘텐츠를 제작하는 사람들의 가치를 잃게 할 것이다. 창의성을 발휘하는 직업이 아닌 챗GPT를 돌보는 편집자 정도로 분류될 것이다. 그들의 급여를 줄이고, 가치를 줄이는 것을 정당화하는 데 사용될 거라 생각한다. 실제론 챗GPT가 그 일을 대체할 수 없는데도 말이다.”
오히려 우리가 그것을 잘 활용한다면 더욱 편하게 일하게 될 수 있지 않을까.
“AI가 우리에게 어떤 혜택을 줄 수 있는지에 대해 대화를 나누기 전에 지금까지 얘기해온 빅테크의 비즈니스 모델 등 사회의 여러 부분에 대한 재구성이 필요하다고 본다. 또한 우리가 전 세계에 자원을 배분하는 방식도 수정돼야 할 것이다. 단순히 회사에서 얼마나 많은 일을 하느냐가 아닌 다른 무언가에 기반하도록 말이다. 또한 GPT를 구동하기 위해 보이지 않는 많은 사람의 노동력이 필요하다. 수천, 수만 명의 사람이 뒤에서 학습 데이터를 분류하고, 시스템을 훈련시켜야 한다. 자동화는 인간으로부터 자유롭지 않다. 작업을 다른 곳으로 옮기고 숨길 뿐이다.”
생성형 AI들이 학습을 위해 뉴스 콘텐츠 등 방대한 자료들을 무단으로 사용하는 것도 큰 쟁점이다. 이와 관련해 오픈AI의 샘 알트먼 CEO는 “추후 과학 등 특정 영역의 고품질 데이터에 대해서는 고액을 지불할 의향도 있다”고 밝혔다.
생성형 AI의 저작권 침해 이슈에 대한 논쟁도 있다. 오픈AI는 추후 고품질 콘텐츠에 대해 대가를 지불할 용의도 있다는 입장인데.
“진지하게 들리진 않는다. 데이터를 수집해 챗GPT 학습에 사용하기 전에 먼저 돈을 지불하는 것부터 시작했다면 좋지 않았을까. 그들은 이미 그것을 세상에 내놨다. 앞으로 지불할 수 있다고 하지만 계약서는 없다. 궁극적으로 그 지불은 MS가 서명해야 할 것이기에 CEO 사티아 나델라가 동의했는지도 물어보고 싶다. 또한 알려진 주체의 콘텐츠와 메시지뿐만 아니라 익명의 수백만 명의 온라인 댓글 등에 대해선 어떻게 할 것이며 실제로 얼마를 지불할지도 궁금하다.”
이번에 한국, 일본, 대만 등 아시아 국가들을 방문한 목적은 무엇인가.
“시그널의 목적은 전 세계 모든 사람이 시그널에 접속해 진정한 프라이버시가 보장된 디지털 소통을 할 수 있는 혜택을 누리도록 하는 것이다. 우리는 미국 그리고 유럽에 대해 알고 있다. 하지만 우리의 목표는 그 이상이다. 전 세계 모든 사람이 프라이버시를 누려야 한다. 그래서 한국을 비롯해 미국 외 다른 지역에 대해 더 많이 배우려고 노력하고 있다. 그곳에서 어떻게 시그널을 구축해 사람들이 즐겁고 유용하게 사용할 수 있을지 알고, 또 시그널을 알리기 위해서다.”
비영리라고 했는데 어떤 방식으로 사업을 유지하고 있나.
“기부다. 우리를 후원하는 많은 고액 기부자가 있다. 흥미롭게도 빅테크 기업에 종사했던 이가 많다. 또한 수백만 명의 소액 기부자도 우리를 지탱해 주고 있다.”
한국의 AI 산업 시장에 대해선 어떻게 평가하나. 비슷한 문제점들을 갖고 있다고 보나.
“아직은 한국 시장에 대해 완전히 숙지되진 않았기에 그 이후에 의견을 낼 수 있을 것 같다. 다만 한국에서 카카오톡을 많이 사용하는 것을 안다. 나와 리서치 디렉터를 비롯한 여러 시그널 구성원도 카카오톡을 이용해 보고 있다. 카카오톡과 같은 한국의 메신저들이 우리 기술을 사용한다면 기쁠 것 같다.”
“시그널, 사용자의 어떤 정보도 저장 안 해”
시그널의 기술에 대해 설명해 달라.
“페이스북과 왓츠앱 등이 시그널 프로토콜을 사용하고 있다. 그렇기에 그들은 자신 있게 프라이버시에 대해 얘기할 수 있다. 시그널의 기술은 메시징 프라이버시를 위한 일종의 토대라고 볼 수 있다. 또 우리는 메타데이터를 보호하기 위한 매우 획기적인 암호화 방식을 개발했다. 이 기술을 통해 메시지의 내용뿐 아니라 프로필 정보, 즉 이름과 사진, 연락처 목록, 사용자가 누구와 대화하는지, 그룹 채팅에 참여한 사람의 정보 등 모든 부분을 보호한다. 그리고 이러한 정보에 대해 누군가 내 머리에 총을 들이대더라도 알려줄 수 없다. 우리는 그러한 데이터들을 갖고 있지 않기 때문이다.”
범죄 해결 등 데이터 수집의 긍정적 측면도 있지 않나.
“요즘과 같은 기술이 없던 50년 전에도 디지털 통신에 대한 감시 없이 많은 범죄를 해결했다. 감시와 범죄 해결 사이에 인과관계가 있는지 여부는 불분명하다. 사법기관들은 둘 사이에 인과관계가 있다고 주장하며 감시를 정당화한다. 범죄 해결을 위한 다른 도구들은 얼마든지 많다. 역사를 그다지 많이 거슬러 올라가지 않아도 알 수 있다.”
이렇게 담대한 활동을 해나갈 수 있는 동력이 무엇인지 궁금하다.
“나는 필연성을 믿지 않는다. 어떤 것도 이미 이뤄졌다고 생각하지 않는다. 나는 무시받고 억압받는 대중의 존엄성을 믿는다. 항상 그들의 편이 될 것이다. 사람들을 억압하거나 감시해 사회적 통제를 자행하는 데 사용될 수 있는 거대 기업들이 구축한 시스템에 맞서 싸우는 것이 중요하다고 생각한다. 정직하게 살아갈 수 있는 조직에서 일하고 있어 정말 운이 좋다고 생각한다. 시그널은 이익에 따라 움직이는 회사가 아니기에 홍보 담당 이사가 2분 전에 건넨 자료를 읽을 필요도 없고, 너무 정직하다고 지적할 이사회도 없다.”
최종적인 목표는 무엇인가.
“우리의 궁극적인 목표는 5년, 10년 후엔 전 세계 어디서든 누구나 부담 없이 프라이버시를 지키며 소통할 수 있으며 그게 일상이 되는 것이다. 북한, 이란, 우크라이나, 쿠바 등지에서도 말이다.”
■메러디스 휘태커는 누구
2018년 구글 파업 사태 중심에서 활동… 백악관·유럽의회 등에도 자문
메러디스 휘태커 시그널 대표는 2006년부터 13년간 구글에 재직하며 구글의 오픈 리서치그룹을 설립하는 등 AI 전문가로서 요직에서 일했다. 2018년 구글 파업 사태의 중심에 있었으며, 이듬해 7월 구글에서 나왔다. 이후 뉴욕대학교(NYU)의 마인더루(Minderoo) 연구교수를 역임했으며, AI 연구기관인 ‘AI나우(AI now)’를 설립하고 이사를 지냈다. 그는 백악관, 유럽의회 등 여러 정부 기관 및 시민단체 등에 AI, 개인정보 보호 및 보안에 대한 자문을 제공해 왔다. 2021년부터 미국연방거래위원회(FTC) 위원장 AI 수석 고문으로 일하기도 했다.
그는 2018년 월드 서밋 AI의 연사로 참여하기도 했으며 2019년 알고리즘에 편향된 AI가 유색인종의 얼굴을 읽지 못한다고 주장해 주목을 받기도 했다. 그는 2020년 1월 미 하원 감독위원회에서 이와 관련해 증언하기도 했다. 그는 AI를 ‘감시 파생상품(surveillance derivatives)’이라고 설명한다. 대규모 AI를 생성하려면 상당한 데이터와 컴퓨팅 인프라가 필요한데, 이러한 자원은 감시 비즈니스 모델을 기반으로 성장한 빅테크 기업에 집중돼 있다는 사실에 집중한다.
