가짜뉴스·사기 우려…워터마크 등 표준 개발 예정
조 바이든 미국 대통령은 30일(현지 시각) 자신의 딥페이크(인공지능을 이용한 특정 인물의 이미지 합성기술) 영상을 본 경험을 공개하면서 인공지능(AI)에 대한 규제의 필요성을 역설했다.
바이든 대통령은 이날 백악관에서 AI 규제 등의 내용을 포함한 행정명령에 서명하기에 앞서 연설을 진행했다.
“사람들을 속이기 위해 AI 장치들이 이미 사용되고 있다”면서 “딥페이크는 사람들의 평판을 훼손하고 가짜뉴스를 퍼트리는 한편 사람들에게 사기를 치기 위해 AI가 만든 오디오와 영상을 사용한다”고 바이든 대통령은 설명했다.
이어 “AI 사기꾼들은 여러분의 목소리를 3초 동안 녹음하고 여러분의 가족은 물론 여러분을 속이기에 충분한 것을 만들어 낼 수 있다”면서 “사기꾼들은 여러분이 사랑하는 사람들이 여러분이 곤경에 빠졌다고 생각해 돈을 보내도록 사기를 치는 데 이를 활용할 수 있다”고 지적했다.
바이든 대통령은 “나도 내 것(딥페이크)을 본 적이 있다”고 소개하면서 “나는 ‘내가 도대체 언제 저렇게 발언했지’라고 (스스로) 말하기도 했다”고 언급했다.
이어 “(딥페이크를) 한번 보세요. 그것은 정말 놀랍다”고 말했다.
바이든 대통령은 “모든 사람은 오디오나 영상이 AI로 만들어졌을 때 이를 알 권리가 있다”면서 이번 행정명령에 따라 상무부가 AI 생성 자료에 워터마크 등의 레벨을 삽입하도록 표준을 개발할 계획이라고 안내했다.
바이든 대통령은 또 행사에 참석한 민주당 척 슈머 상원 원내대표를 거론한 뒤 “저는 내일 슈머 원내대표 및 초당파 의원그룹을 백악관에서 만나 (AI 관련) 의회 차원의 조치가 필요하다는 점을 강조할 수 있기를 바란다”고 말했다.
이어 “우리는 빅테크(거대 정보기술기업)가 온라인에서 어린이와 청소년의 개인 데이터를 수집하는 것을 막고 어린이를 타깃으로 한 광고를 금지하기 위한 초당적 법안을 통과시킬 것을 계속 의회에 촉구할 것”이라고 설명했다.
바이든 대통령은 또한 “AI로 인한 도전과 기회는 국제적”임을 언급하며 미국이 최첨단 기술을 유지할 수 있도록 “미국이 혁신 분야에서 세계를 선도하고 최고의 인재를 유치할 것이며 미국의 리더십을 계속 진전시킬 것”이라고 강조했다.
