캐나다 토론토 CN 타워 화재를 촬영한 가짜 영상이 이번 주 페이스북에 급속도로 퍼졌으며, 전문가들은 이 사건이 소셜 미디어 플랫폼이 인공지능(AI)이 생성한 콘텐츠에 명확한 라벨을 붙여야 하는 이유를 다시 한번 강조한다고 말합니다.

일부 전문가들은 심지어 영상 제작자가 대중의 공포를 조장할 목적으로 고의로 허위 정보를 퍼뜨린 혐의로 체포되어 기소되어야 한다고 말하기도 했습니다.

CN타워 홍보팀은 토론토의 상징적인 건물에서 화재가 발생하지 않았다고 밝혔습니다. 하지만 해당 영상은 2천만 회 이상 조회되었습니다.

월요일에 Facebook Reels에 게시된 24초 분량의 영상은 사람들이 멀리서 CN 타워를 촬영하는 모습을 보여주는 것으로 보이는데, 타워의 윗층에는 레스토랑과 전망대가 있다.

“도대체 이게 뭐야?” 영상 속에서 누군가가 묻는다.

이미지 출처: CBC

카메라는 시점을 바꿔, 다른 사람들이 도심 거리에서 TV 타워를 촬영하는 모습을 담았습니다. “불길”은 이제 더욱 거세졌고, 불길과 검은 연기가 선명하게 보였고, 도로 위 운전자들은 경적을 울렸습니다.

“맙소사!” 또 다른 사람이 소리쳤다.

영상의 마지막 부분은 캐나다 국립 타워의 꼭대기가 “불에 타 무너져” 폐허가 된 모습을 보여주는 공중 사진입니다.

CN타워 미디어팀은 수요일 발표한 성명에서 “이 영상은 딥페이크이며 완전히 허구입니다.”라고 밝혔습니다. “화재는 발생하지 않았으며, CN타워는 안전하고 보안이 유지되며 정상적으로 운영되고 있습니다.”

성명서는 “안타깝게도 AI가 생성한 콘텐츠나 시각 효과를 이용해 CN 타워의 오해의 소지가 있는 이미지를 만든 것은 이번이 처음이 아니다”라고 덧붙였다.

전문가: 기술 발전 속도가 입법 과정을 넘어섰다

험버 폴리테크닉의 응용 과학 및 기술 부학장인 프랜시스 심스는 “잘못된 정보가 난무하는 시대”에 사람들이 그러한 영상의 가짜 정보를 즉시 알아차리지 못하면 상처를 받거나 당황할 수 있다고 말했습니다.

심스는 “우리가 해야 할 일은 이런 영상이 제작될 때 퍼블리셔가 ‘AI 생성’이라는 라벨을 붙이는 것입니다.”라고 말했습니다. “이건 꽤 쉬운 일입니다.”

그는 이러한 라벨링이 소셜 미디어 사용자들에게 가짜 영상을 경고할 수 있으며, 연방 정부가 AI 생성 콘텐츠에 라벨링을 의무화하는 법안을 쉽게 통과시킬 수 있다고 덧붙였습니다. 문제는 새로운 기술 도구를 규제하는 데 필요한 법안보다 기술이 더 빠르게 발전하고 있다는 점이라고 그는 지적했습니다.

“우리는 아직 ‘회색 지대’에 있습니다. 누군가 소셜 미디어에 가짜 영상을 올리면 이론적으로는 먼저 일반 뉴스 채널을 통해 정보를 확인해야 합니다. 하지만 현실은 사람들이 이러한 영상을 직접 공유하고, 심지어 소셜 미디어에서 직접 뉴스를 접하기도 한다는 것입니다.”라고 심스는 말했습니다.

“법 집행 기관이 이러한 상황을 어떻게 처리해야 할지 알기 어렵습니다. 소셜 미디어 플랫폼에 연락하여 해당 영상에 ‘AI 생성’이라는 라벨을 붙여 달라고 요청하는 것 외에는 별다른 방법이 없습니다.”

CBC는 캐나다 연방 인공지능부 장관실에 논평을 요청했지만 아직 답변을 받지 못했습니다. CBC는 또한 페이스북에 자사 플랫폼 콘텐츠에 이러한 라벨을 추가할 의향이 있는지 문의했습니다.

Facebook의 모회사인 Meta는 자사 웹사이트에서 “업계 표준을 충족하는 AI 이미지 식별이 감지되거나 사용자가 AI가 생성한 콘텐츠를 업로드했다고 적극적으로 신고하는 경우, 더 많은 유형의 비디오, 오디오 및 이미지 콘텐츠에 ‘AI 정보’ 라벨을 추가할 예정입니다.”라고 밝혔습니다.

토론토 경찰: 현재 조사는 진행 중이 아니다

하지만 심스는 “AI가 생성한” 라벨에만 의존하는 것은 잘못된 정보의 확산을 막기에 충분하지 않다고 생각합니다.

그는 실용적인 팁을 하나 주었습니다. 소셜 미디어에서 보는 모든 영상이나 이미지는 가짜일 수 있다고 생각하고, 항상 신뢰할 수 있는 뉴스 출처를 통해 정보를 확인하라는 것입니다.

토론토 대학교 매시 칼리지의 수석 연구원인 제프리 드보르킨은 해당 영상이 “명백히 거짓”이며, 캐나다 왕립기마경찰이 캐나다 형법 372조에 따라 영상 제작자를 기소해야 한다고 말했습니다. 이 조항은 다른 사람에게 해를 끼치거나 공포를 조성하기 위해 의도적으로 거짓 정보를 퍼뜨리는 것을 범죄로 규정하고 있습니다.

드보르킨은 그렇게 하면 가짜 영상을 만들고 거짓 정보를 퍼뜨리는 사람들을 막을 수 있을 뿐만 아니라, 그런 영상이 해롭고 영상 제작 자체가 매우 무책임하다는 명확한 신호를 보낼 수 있다고 말했습니다.

그는 이 영상 제작이 “완전히” 불법이라고 강조했습니다. “공포심을 조장할 목적으로 허위 정보를 고의로 유포하는 사람은 최대 2년의 징역형에 처해질 수 있습니다. 캐나다 왕립기마경찰은 제작자를 파악하고 관련 규정에 따라 기소해야 합니다. 이러한 행위는 지나치며, ‘사소한 부적절함’ 정도로 단순하게 처벌할 수 없습니다.”

하지만 토론토 경찰은 해당 영상 제작에 대한 조사 계획이 없다고 밝혔다.

토론토 경찰청 대변인 섀넌 이임스는 수요일에 보낸 이메일에서 “이 사건에 대한 규정은 없습니다. 이는 단순히 합성 영상일 뿐입니다.”라고 밝혔습니다.

영상 퍼블리셔는 자신을 “인기 콘텐츠 크리에이터”라고 부른다.

이 가짜 영상을 게시한 사람은 에이드리언 지(Adrian Gee)입니다. 그는 소셜 플랫폼에서 “2014년부터 인기 콘텐츠 제작에 집중해 왔다”고 주장하며, 페이스북 개인 홈페이지에서는 “현재 AI 기반 예술 및 콘텐츠라는 미래 트렌드를 가르치고 있다”고 밝혔습니다.

지는 이 영상이 AI에 의해 생성되었다고 명확하게 밝히지는 않았지만, 이를 뒷받침하는 증거가 많이 있습니다. 예를 들어, 영상 속 연기가 부자연스럽게 움직이는 궤적, 차량에 번호판이 없는 점, 그리고 영상의 질감이 전반적으로 어색한 점 등이 있습니다.

CBC 뉴스는 페이스북과 인스타그램을 통해 지에게 의견을 요청했지만 아직 답변을 받지 못했습니다.

전문가들은 미디어 리터러시를 개선하고 허위 콘텐츠 확산을 거부할 것을 촉구합니다.

토론토 메트로폴리탄 대학교 소셜 미디어 랩의 공동 책임자인 필립 마이는 영상 아래의 댓글을 보면 대부분 사람이 가짜 영상에 속지 않은 것이 분명하다고 말했습니다.

하지만 그는 소셜 미디어 사용자가 거짓 영상을 퍼뜨려서는 안 되며, 플랫폼은 AI가 생성한 콘텐츠에 라벨을 붙이기를 거부하는 제작자를 금지해야 한다고 지적했습니다. 더불어 사람들이 정보의 진위를 독립적으로 구별할 수 있도록 대중의 미디어 리터러시를 개선하는 것이 필요하다고 덧붙였습니다.

“현재 우리 사회가 이런 종류의 허위 정보 확산을 막기 위해 할 수 있는 유일한 일은 ‘속도를 늦추는 것’뿐입니다. 안타깝게도 이 문제는 전적으로 우리 각자에게 달려 있습니다. 우리는 스스로를 자제하고 이런 종류의 콘텐츠를 마음대로 퍼뜨리지 않도록 주도적으로 행동해야 합니다.”라고 필립 마이는 말했습니다.