[BBC] 영국이 딥페이크 총선 준비가 되지 않은 것에 대한 우려

BBC 기사를 번역기로 번역한 포스팅입니다.
원문 기사는 아래의 링크를 확인하세요.
https://www.bbc.co.uk/news/uk-politics-67518511

---

• 작성자 : Brian Wheeler & Gordon Corera
• 작성일 : Thu, 21 Dec 2023 00:00:10 GMT

 

인공지능(AI)은 이미 전 세계의 선거를 방해하는 데 사용되었습니다. 그리고 고위 정치인들과 보안 서비스 사이에서는 영국이 다음에 올 것이라는 두려움이 있습니다.

로버트 버클리 전 법무장관은 영국 민주주의에 대한 "명백하고 현재의 위험"이라고 생각하는 것을 해결하기 위해 정부가 더 많은 일을 해야 한다고 촉구했습니다.

현재 북아일랜드 선정위원회 위원장을 맡고 있는 보수당 의원은 특히 정치인들이 자신들이 말하지 않은 말을 하는 것처럼 보이는 사실적인 오디오와 비디오 영상 등 가짜 뉴스의 증가에 대해 우려하고 있습니다.

728x90

그는 AI가 생성한 잘못된 정보가 민주주의에 가하는 위협은 미래에 대한 디스토피아적 비전에 속하지 않는다고 주장합니다.

"미래가 여기에 있습니다. 일어나고 있습니다.

"[영국의] 정책 입안자들이 강력하고 효과적인 국내 가드레일의 필요성과 더불어 국제적인 업무에 대해 어느 정도의 리더십을 보여주지 않는 한, 우리는 그 곡선 뒤에 있을 것입니다."

그는 2025년 1월까지 치러져야 하는 다음 총선이 2017년 맨체스터 아레나 폭파 사건 이후 투표일을 일주일도 앞두고 선거운동이 중단된 것과 같은 혼란에 직면할 수 있다고 우려합니다.

영국 정부는 지난해 출범해 톰 투겐하트 내무장관이 의장을 맡고 있는 '민주주의 방어 태스크포스(TF)'를 통해 외국의 간섭으로부터 선거를 보호하기 위한 조치를 취하고 있다고 밝혔습니다.

그것이 목표로 하고 있는 많은 위협들은 새로운 것이 아닙니다. 잘못된 정보와 더러운 속임수는 오랫동안 전세계 선거 운동의 특징이었습니다. 포토샵된 이미지와 밈, 그리고 심지어 정치인들의 음성 녹음도 수십 년 동안 있어왔습니다.

GCHQ의 한 계열사인 국가 사이버 보안 센터(NCSC)가 연례 보고서에서 지적했듯이 새로운 것은 설득력 있는 가짜를 만드는 데 사용될 수 있는 강력하고 생성적인 AI 도구의 쉬운 가용성입니다.

일부 사람들은 ChatGPT, 텍스트에서 speech, 또는 텍스트에서 비디오, 소프트웨어와 같은 대형 언어 모델의 붐을 침실 기반의 장난꾸러기 제작자에서 악의적인 국가 행위자에 이르기까지 선거를 방해하는 데 전념하는 사람들에게 주는 선물로 보고 있습니다.

"대규모 언어 모델은 조작된 콘텐츠를 생성하는 데 거의 확실하게 사용될 것이고, 인공지능이 만든 초현실적인 봇은 허위 정보의 확산을 더 쉽게 만들 것이며, 딥페이크 캠페인에 사용하기 위한 미디어 조작은 더 발전할 것입니다."라고 NCSC는 보고서에서 경고합니다.

노동당은 지난 9월 당 대회에서 키어 스타머 경 지도자가 보좌관들에게 폭언을 한 것으로 보이는 음성 동영상이 소셜미디어에 뜨면서 앞으로 어떤 일이 일어날지를 알게 되었습니다. 이 동영상은 순식간에 가짜라고 비난을 받았지만, 150만 건이 시청되었습니다.

11월, 사디크 칸 런던 시장이 친팔레스타인 행진으로 인해 정전협정일의 일정을 다시 잡을 것을 요구하는 가짜 오디오 클립이 소셜 미디어에 널리 퍼졌습니다.

칸 씨는 메트 폴리스가 범죄를 저지르지 않았다고 결정한 후에, 만약 제대로 규제되지 않는다면, 딥 페이크는 민주주의를 위한 "미끄러운 경사"라고 경고했습니다.

로버트 버클랜드 경을 비롯한 다른 사람들이 이 문제에 대해 우려하는 악몽 같은 시나리오는, 한 정당의 지도자가 투표일 직전에 등장하는 아슬아슬한 선거전의 모습을 담은 깊은 가짜 동영상입니다.

지난 9월 슬로바키아 총선에서 진보 성향의 진보 성향 슬로바키아당 대표 미할 시메치카가 선거 조작 방안을 논의하는 것으로 보이는 가짜 음성 동영상이 등장한 것이 바로 이 같은 사실입니다.

시메치카 씨는 계속해서 선거에서 포퓰리즘적인 친모스크바 스머-SSD 정당에게 패배했습니다.

"얼마나 많은 표가 바뀌었는지, 혹은 얼마나 많은 표가 투표하지 않겠다고 확신했는지 누가 알겠습니까?"라고 톰 투겐하트는 최근 연설에서 말했습니다.

AI가 생성한 이미지와 오디오는 우파 자유주의자 하비에르 마일리가 승리한 아르헨티나를 포함한 전 세계의 다른 최근 선거와 국민 투표에서 한 요인이 되었습니다.

로버트 버클랜드 경은 이번 선거는 적절한 법이 마련되어 있지 않을 경우 어떤 일이 벌어질 수 있는지를 보여주는 것이라고 말했습니다. 그는 정부에게 규제당국인 오프콤의 잘못된 정보에 대한 감시를 강화하기 위한 계획을 계속 추진할 것을 요구하고 있습니다.

그리고 그는 미쉘 도넬란 과학부 장관에게 서한을 보내 소셜 미디어 회사들이 최근 통과된 외국의 간섭을 막기 위한 국가 보안법을 준수할 수 있도록 보다 명확한 지침을 요구했습니다.

지난 주, 도넬란 씨는 노동당, 토리, SNP 의원 그룹에 정부가 AI 위협을 "극도로 심각하게" 받아들이고 있다고 말했습니다.

'민주주의 수호 태스크포스(TF)' 위원장인 도넬란 씨는 새로운 법을 배제하면서도 영국은 소셜미디어 기업, 미국을 비롯한 국제 동맹국들과 협력해 위협에 맞서고 있다고 말했습니다.

"저는 다음 총선까지 우리가 이러한 주제들을 다룰 수 있는 강력한 메커니즘을 갖출 것으로 기대합니다," 라고 그녀가 과학 기술 위원회에서 말했습니다.

그렇다면 깊은 가짜가 민주주의를 훼손하는 것을 막기 위해 무엇을 할 수 있을까요?

어떤 사람들은 이것들을 단순히 불법으로 만들어야 한다고 주장했습니다. (정부는 이미 잉글랜드와 웨일즈에서 음란한 딥페이크의 공유를 금지하는 법안을 제정했습니다.).

Ms Donelan과 같은 다른 사람들은 가짜를 탐지하고 무력화하는 기술이 답의 일부라고 주장했습니다.

하지만 이 동영상이 가짜라는 것을 증명할 수 있을까요?

민주주의 보고 국제 싱크탱크의 연구 조정자인 얀 니콜라 베이어(Jan Nicola Beyer)는 이를 "고양이와 쥐 게임"이라고 설명합니다.

"감지 메커니즘은 개선되지만, 개선되는 순간, 생성 인공지능 모델은 훨씬 더 설득력 있고 더 어려운 콘텐츠를 생성하기 위해 개선됩니다."

오디오는 특히 풀기 어려웠다고 그는 덧붙였습니다.

사실 확인자들과 언론이 가짜일 가능성이 있는 사람들을 불러내고 그들의 판단에 대한 증거를 제공하는 것도 중요하지만, 그들이 바이러스로 확산되는 것을 막는 것도 중요하다고 그는 주장했습니다.

대부분의 거대 기술 기업들은 2024년에 전 세계에서 실시되는 선거를 보호하기 위한 시스템을 연구하고 있습니다.

그러나 Beyer씨는 신뢰할 수 있는 출처의 자료만이 사용자에게 권장되고 신뢰할 수 없는 출처는 "비화폐화"되어야 한다고 말했습니다.

하지만 딥페이크가 진짜 문제는 아닐 수도 있습니다.

지난 10월, 정부와 함께 외국 선거 간섭에 맞서고 있는 MI5의 켄 맥컬럼 국장은 한 가지 형태의 위험에 대해 "약간의 위험"이 있다고 말했습니다.

"그리고 나서 창의적인 적들이 있다면, 그들은 그 카드를 사용하지 않기로 결정하고 상당히 다른 것을 합니다"라고 그는 기자들에게 말했습니다.

"그래서 저는 [딥페이크]가 다가오는 선거에 등장할 것이라는 일종의 강력한 예측을 하고 싶지 않지만, 만약 우리가 그 가능성을 제대로 고려하지 않았다면 우리는 우리의 일을 제대로 하지 못했을 것입니다."

한 보안 소식통은 BBC에 딥페이크가 장기적인 위협이 될 수도 있지만, 더 즉각적인 문제는 사람들이 컴퓨터가 손상되는 링크를 클릭하도록 장려하는 더 효과적인 "스페이싱" 이메일을 만들기 위해 AI를 사용하는 것일 가능성이 높다고 말했습니다.

이 기술은 2016년까지 러시아 정보국이 힐러리 클린턴의 대선 선거 운동 의장의 이메일을 입수하기 위해 사용한 것인데, 그 이메일들은 그녀가 낙선하기 위해 치열한 선거 기간 동안 온라인으로 유출되었습니다.

내년 11월 미국 선거도 마찬가지로 치열하게 치러질 것으로 예상되는 가운데, 영국의 일부 보안 관리들은 외국 스파이들과 그들의 조력자들이 그곳의 사건에 너무 집중해서 거의 동시에 치러질 수 있는 영국 선거에 개입할 능력이 줄어들 것이라고 개인적으로 바라고 있습니다.

국가안보 고위 인사들이 표현한 또 다른 두려움은 딥페이크와 AI가 정치에 간섭할 위험성을 너무 강조하면 그 자체로 공포가 확산되고 정치 과정에 대한 신뢰가 훼손될 것이라는 점입니다.

하지만 딥페이크가 큰 문제가 되든 안 되든, 생성 AI 지니는 병에서 나왔습니다.

만약 소셜 미디어가 합성 이미지와 텍스트로 넘쳐날 경우 - 비록 그것이 분명히 그렇게 분류된다 할지라도 - 일부 전문가들은 유권자들이 더 이상 무엇이 진짜인지 아닌지를 모르는 지경에 이를 수 있다고 우려합니다.

그러한 환경에서, 부도덕한 정치인들은 연구자들이 "거짓말쟁이의 배당금"이라고 부르는 가짜를 진짜라고 부르는 것이 더 쉽다는 것을 발견할 수 있습니다.

다음 선거에서 당국, 언론, 거대 기술 기업 및 정당의 과제는 그러한 일이 발생하지 않도록 하는 것입니다.