최근 소셜 미디어에는 캐나다에서 일자리를 구하는 것이 얼마나 어려운지에 대해 불평하는 백인 남성의 영상이 잇따라 올라왔습니다.

대부분의 영상에는 “조쉬”라는 20대 백인 남성이 등장하는데, 그는 카메라를 향해 말을 걸고 이민자와 그들의 취업 시장에서의 역할을 비판하는 인종적 발언을 합니다.

그러나 캐나다 CBC 뉴스 영상 조사팀의 조사 결과, 해당 영상은 모두 가짜이며 AI가 생성한 것으로 밝혀졌습니다.

한 영상에서 백인 남성은 인디언들이 모든 일자리를 빼앗아가기 때문에 일자리를 구할 수 없다고 불평했습니다. 특히 팀 호튼스에서 그랬습니다.

그는 캐나다 커피숍에서 일자리를 지원했지만 인도 펀자브어를 할 줄 아는지 물었다고 주장했습니다.

영상 속 남성은 인도 이민자들이 자신의 일자리를 빼앗아가기 때문에 일자리를 구할 수 없다고 불평합니다. 하지만 영상은 가짜이며, 그가 실존 인물이 아니라는 미묘한 단서들이 있습니다. 커피잔을 든 손은 부자연스러운 표정을 하고 있으며, 다른 손과 색깔이 다릅니다. 또한 모서리에는 Google Veo AI 소프트웨어의 작은 로고가 있습니다.

영상이 인공지능에 의해 제작되었다는 다른 단서로는 거리 표지판에 글자가 전혀 없고, 남자 왼쪽에 있는 포스터에 “채용 박람회”라는 글 외에 다른 글이 없다는 점이 있습니다.

팀 호튼스는 성명을 통해 이러한 AI가 생성한 영상은 회사에 엄청난 좌절감과 우려를 안겨주며, 이를 삭제하는 것도 어렵다고 덧붙였다.

또 다른 영상에서는 “조쉬”라는 백인 남성이 캐나다의 이민 정책을 비판하며, 캐나다에 일자리가 충분한데도 왜 그렇게 많은 사람들이 입국을 허용하는지 의문을 제기했습니다.

이는 “가짜 인플루언서”로 알려진 트렌드로, 기업들이 인공지능을 사용하여 실제 사람이 제품이나 서비스를 홍보하는 것처럼 보이도록 가짜 페르소나를 만드는 것입니다.

문제의 회사는 넥사(Nexa)라는 인공지능 회사로, 다른 회사가 신입 직원을 채용하는 데 사용하는 소프트웨어를 개발합니다.

일부 영상에는 넥사의 로고가 등장했는데, 창립자이자 CEO인 디비 나이아르는 이를 “무의식적” 광고라고 불렀습니다.

CBC 뉴스와의 인터뷰에서 그는 일부 사람들이 “인디언들이 일자리 시장을 장악하고 있다”고 생각한다는 생각을 “조롱”하고 싶었다고 말했습니다. 그는 “조쉬”라는 캐릭터를 만든 것은 비슷한 견해를 가진 사람들, 즉 갓 학교를 졸업하고 일자리를 찾고 있는 젊은이들과 소통하기 위해서라고 설명했습니다.

그러나 마케팅 전문가들은 이런 페르소나는 기만적이고 비윤리적이라고 말한다.

요크 대학교의 마케팅 교수인 마르쿠스 기슬러는 “이런 종류의 콘텐츠와 극도로 양극화된 이야기는 극우 단체에서 예상할 수 있는 내용입니다.”라고 말했습니다.

“기업이 그런 어조로 소비자를 서비스로 끌어들이는 것은 매우 문제가 많고 비윤리적인 일인데, 전에는 본 적이 없습니다.”

하지만 일부 틱톡 사용자들은 속지 않았습니다. 댓글에서 해당 영상을 AI가 생성했다고 주장했습니다. 하지만 다른 사용자들은 인종차별적이라고 주장하는 댓글에 실제 사람을 보고 있다고 생각하며 반응했습니다. 어떤 경우에는 가상 캐릭터 “조쉬”가 댓글에서 자신을 변호하며 자신이 실제 사람이라고 주장하기도 했습니다.

맥마스터 대학교의 마케팅학과 조교수인 마빈 라이더는 처음에는 속았다고 말했습니다.

그는 “이 캐릭터는 단 8초 분량의 영상으로 실제 이야기를 전달하려는 실제 인물이라고 확신합니다.”라고 말했습니다.

라이더는 앞으로 몇 년 안에 허위 정보를 감지할 수 없는 지경에 이를 수도 있다고 말했습니다. “소셜 미디어 소비자로서, 설령 오락을 위한 것이라 하더라도, 사실과 허구를 어떻게 구분할 수 있을까요?”

TikTok은 이 영상들에 담긴 선동적이고 논란의 여지가 있는 내용에 대해서는 언급하지 않았습니다. 하지만 TikTok은 AI가 생성한 현실적인 장면이나 등장인물 영상에는 라벨, 자막, 워터마크 또는 스티커를 명확하게 표시해야 한다는 규정 때문에 해당 영상들이 삭제되었다고 밝혔습니다.

TikTok은 Nexa의 “Josh” 영상을 검토한 후, 영상 라벨링이 충분히 명확하지 않다고 밝혔습니다. 영상 오른쪽 하단에 Google Veo 워터마크가 있는데, TikTok은 워터마크를 더 명확하게 하거나 게시물에 AI 라벨을 추가해야 한다고 밝혔습니다. 라벨을 추가한 후 “크리에이터가 AI 생성으로 표시되었습니다.”라는 메시지가 나타납니다.

TikTok이 정책을 얼마나 엄격하게 시행하는지는 불분명합니다. 플랫폼의 일부 AI 생성 영상에는 라벨이 붙어 있고 다른 영상에는 #ai 태그가 붙어 있지만, 많은 영상이 명확하게 식별되지 않습니다.

요크 대학교의 마커스 기슬러 교수는 인공지능 덕분에 증오 표현으로 가득 찬 실제와 같은 영상을 제작하고 소셜 미디어에서 청중을 끌어들이는 것이 그 어느 때보다 쉬워지면서 문제가 더 악화될 것이라고 말했습니다.

기슬러는 “이것은 감정적 브랜딩 전략을 무책임하게 이용하는 것이며, 우리는 이를 묵인해서는 안 된다”고 말했다.