AI는 포토샵이 결코 할 수 없었던 방식으로 가짜 사진과 허위 정보를 강화합니다.
1980년대 후반 Adobe Photoshop과 같은 디지털 이미지 편집 도구가 등장한 이후, 사진이 신뢰할 수 있는지에 대한 우려가 커졌습니다. 이러한 오래된 걱정은 인공지능(AI)의 열렬한 옹호자들 사이에서 점점 더 일반적인 주장으로 부상했지만, 이는 AI에 대한 비판에 대한 효과적인 방어가 되지 않습니다.
가짜 사진은 포토샵보다 오래되었습니다
"가짜 사진"은 19세기 사진이 발명된 이래로 사회에서 일반적인 문제로 여겨졌습니다. 사기꾼과 거짓말쟁이들은 오랫동안 조작된 사진을 사용하여 신화와 거짓을 퍼뜨려 왔습니다. 이는 포토샵이나 컴퓨터보다 훨씬 더 오래된 일입니다.
사실과 사진에 대한 걱정은 사람들을 속이기 쉬운 이미지를 만들어내는 새로운 혁신이 등장할수록 증가합니다. 새로운 혁신이 세상에 등장할 때마다 흥분, 의구심, 우려가 뒤섞인 반응이 오기 마련입니다. 이러한 순환은 사진에만 국한되지 않으며 포토샵이나 인공지능에만 해당되는 것이 아닙니다.
그러나 사람들이 생성적 AI 기술을 사용해 설득력 있는 포토리얼리스틱한 가짜 사진을 쉽게 만들 수 있다는 우려가 제기될 때마다 나타나는 무시하는 태도는 최악의 경우 매우 위험한 오해로, AI의 안전에 대한 진정한 우려와 그것이 사회에 미치는 위험을 불신하도록 만듭니다.
AI 생성 허위 정보와 디지털 사진 편집의 혼동
기본적인 주장은 이렇습니다: 만약 사람들이 30년 이상 전에 포토샵 때문에 사진을 신뢰할 수 없게 되었다고 걱정했다면, 사회는 무너지지 않았습니다. 따라서 생성적 AI에 대한 우려는 그리 심각하게 고려할 필요가 없다는 것입니다. 이는 일종의 "그렇게 해 본 적이 있다"는 시각입니다.
또 다른 주장은: 사진을 통한 허위 정보는 생성적 AI와 함께 새로워진 것이 아닙니다. 포토샵이 발명된 이후로 가짜 사진을 만드는 것은 가능했습니다.
그리고 두 주장은 어느 정도 매력이 있습니다. 이미지가 진짜인지 여부에 대한 핵심 우려는 사진이 발명된 이후로 존재해왔습니다. 오랫동안 사람들은 오해의 소지가 있는 사진을 만들어왔습니다. 또한, 포토샵이 전보다 쉽게 허위 정보를 만드는 것을 가능하게 만들었고, 해가 지남에 따라 소프트웨어가 진화함에 따라 접근성이 높아졌다는 점은 분명합니다. 약간의 시간, 빛과 색상, 톤에 대한 이해, 그리고 악의적인 의도가 있는 사람은 사진 조작으로 피해를 줄 수 있습니다.
그러나 포토샵과 생성적 AI 간의 의미 있는 동등성을 두 주장 중 어느 하나를 바탕으로 만드는 것은 제 견해로는 어리석습니다. 포토샵에서 허위 정보를 창작하는 것과 생성적 AI를 사용하는 것 사이에는 실질적인 차이가 있으며, 각기 잠재적인 피해의 규모가 매우 다르기 때문에 같은 영역에 있는 것이라고 할 수 없습니다.
허위 정보의 규모와 용이성에서의 중요한 차이
생성적 AI를 사용하여 원하는 무엇이든 생성하는 데는 진입 장벽이 없습니다. 일반적으로 포토샵을 사용할 때는 기술, 시간, 돈이 필요합니다. 마지막 제약을 피할 방법이 있을 수 있지만, 기술과 시간이라는 두 가지 제약은 여전히 존재합니다.
포토샵에서 '가짜' 사진을 포토리얼리스틱하게 만들려면, 현재 소프트웨어에 포함된 Firefly AI 도구를 사용하지 않고는 기존의 사진 자료, 정교한 컷팅과 마스킹, 그리고 모든 것을 의혹을 불러일으키지 않도록 조합할 수 있는 기술이 필요합니다. 나쁘게 작업된 포토샵은 누구에게도 설득력 있게 다가가지 않겠지만, 여전히 AI 이미지 생성기에서 텍스트 프롬프트 하나를 입력하는 것보다 훨씬 더 많은 시간과 노력이 필요합니다. 좋은 포토샵 작업은 훨씬 더 긴 시간이 걸립니다.
요구되는 시간은 악의적이든 아니든 허위 정보 캠페인을 만들기 위해 포토샵을 사용하는 데 내재된 장벽입니다. 이는 규모에 극적인 영향을 미칩니다. 100명의 사람에게 AI 이미지 생성기를 주고 이들이 얼마나 많은 이미지를 기술 없이 만들 수 있을지 상상해 보십시오. 100명의 재능 있는 디지털 아티스트가 1분 안에 무언가를 스크래치에서 만들 수 있을까요? 아무것도 또는 거의 아무것도 아닙니다.
생성적 AI는 여전히 완벽하지 않지만, 많은 사람들을 속일 수 있는 포토리얼리스틱 이미지를 빈 공기에서 만들 수 있는 능력에 도달했습니다. 특히 소셜 미디어에서 대부분의 콘텐츠가 상대적으로 작은 형태로 제공될 때 더욱 그렇습니다. 이동 시간은 몇 초에 불과합니다.
하지만 가짜 이미지를 생성할 수 있는 능력은 새롭지 않습니다. AI가 속임수 사진의 개념을 발명한 것은 아니지만, AI는 포토샵이 할 수 없었던 방식으로 사진을 변형했으며, AI는 증가하는 콘텐츠의 시대에 등장했습니다. 이 콘텐츠는 거의 규제 없이 빠르고 간단하게 확산됩니다.
하지만 사진에 대한 신뢰 부족을 확산시키고 이후에 더욱 심화시킨 포토샵의 역할을 인정하는 것이 여전히 중요합니다. 의심의 씨앗은 인공지능이 등장하기 훨씬 전에 심어졌습니다. 포토샵은 당신이 “보는 것”이 “진짜” 또는 “진실”이 아닐 수 있다는 개념을 대중화했습니다.
하지만 포토샵이 존재하는 동안 가짜 사진은 일반적으로 예외였습니다.
이제는 더 이상 그렇지 않으며, 이는 포토샵과는 관계가 없고 AI 이미지 생성기, 생성 방식, 이를 규제할 수 있는 능력이나 의지 부족, 그리고 이미지가 공유되고 소비되는 방식과 관련이 있습니다.
AI 기술의 보급은 사람들이 미디어를 신뢰하지 않는 시기에 이루어졌다
저는 이미지가 어떻게 생성되고 공유되는지 뿐만 아니라, 누가 공유하는지도 언급하지 않을 수 없습니다. 이는 AI와 가짜 사진의 위험에 대한 논의에서 매우 중요합니다.
미국인들의 대중 매체에 대한 신뢰는 지난 50년 동안 꾸준히 감소해 왔습니다. 포토샵이 대중적으로 알려진 이름이 되기 수십 년 전의 일입니다. 1976년, 72%의 미국인이 미디어를 신뢰했고, 신뢰하지 않는 사람은 단 4%에 불과했습니다.
2023년, 미디어를 신뢰하지 않는 사람은 39%에 달했고, “매우 신뢰함” 또는 “적당히 신뢰함”은 단 32%로 감소했습니다. 미디어를 그리 신뢰하지 않는 사람은 지난해 29%였습니다.
이것은 중요합니다. 왜냐하면 확립된 미디어 조직은 기준과 윤리 규정에 얽매여 있기 때문입니다. 그들은 이름 없는 사용자들이 소셜 미디어에서 가짜 사진을 쉽게 게시할 수 있는 것과는 달리, 가짜 사진을 게시할 수 없습니다. 그리고 이런 행동은 반드시 결과를 동반하게 됩니다.
그동안 이 기준을 위반한 상대적으로 몇 안 되는 사진 기자들은 대부분 신속하게 블랙리스트에 올라 뉴스계에서 퇴출되었습니다. 사람들의 경력은 오늘날 기준에서 보면 무해한 포토샵 수정으로 인해 파괴되었습니다.
누구나 생성할 수 있는 가짜 이미지는 자신이 만들고 싶은 헛소리를 입력하는 것만큼 빠르게 생성될 수 있으며, 이러한 misleading 포스트는 “허위 정보” 레이블이 붙거나, 극단적인 경우에는 계정이 차단될 수 있습니다. 이런 일이 발생할 때는 그리 큰 결과를 초래하지 않습니다.
만일 사람들이 미디어에 대한 깊은 불신을 가지고 있지 않았다면, Larry Liarson이나 Debbie Deception이 소셜 미디어에 게시하는 것에 대해 그리 중요하게 여기지 않았을 것입니다. 하지만 우리는 그런 세상에 살고 있지 않으며 AI가 태어난 세상도 아닙니다.
두려움이 비슷하게 들린다고 해서 위험이 동일하다는 것을 의미하지 않는다
어떤 면에서, 뉴스와 정보의 민주화는 사회 전체에 이득이 되었습니다. 몇몇 가치 있는 이야기는 사람들이 정보를 공유하는 것이 그 어느 때보다 쉬워졌기 때문에 세상에 나올 수 있었습니다. 그러나 그 칼날은 양면성 있습니다.
변화에 대한 두려움이 본질적으로 인간 조건에 보편적이기 때문에 AI에 대한 불안이 근거가 없다고 할 수는 없습니다. 하지만 나는 이해합니다. 그것은 두려움을 조장하는 것처럼 느껴질 수 있습니다. 반복적이고 지겨울 수 있습니다.
“아, 우리는 이 이야기를 예전에 들었네,” 라고 말할 수 있을 것입니다.
가장 기본적인 수준에서 이야기는 같을 수 있지만, 포토샵과 생성적 AI가 그것을 전달하는 방식은 상당히 다르며, 규모 또한 엄청나게 다릅니다.
사진은 특정한 이유가 없다면 현실의 정확한 표현으로 여겨져 왔습니다. 가짜 이미지가 150년 이상 존재해 왔음에도 불구하고 그렇습니다. "사진 증거"를 가지는 것은 중요한 의미가 있었습니다. 대부분의 사진이 진짜였기 때문이며, 허위 지침을 만들려면 시간, 노력 및 능력이 필요했습니다.
포토샵은 확실히 사람들이 사진의 진실성에 대한 믿음을 약화시켰습니다. 무엇을 보더라도 진짜처럼 보이는 것이 거짓일 수도 있다는 생각의 문을 열어 놓았습니다. 그런데 이 문은 포토샵이 나타나기 훨씬 이전에 이미 조금 열려 있었습니다.
이제 AI가 나타나서 그 문을 완전히 열어 밀어버리고, 주변 벽을 무너뜨리고, 모든 기름 파이프를 부수고, 모든 것을 박살내고 건물을 날려버렸습니다. 그 문은 단순히 열려 있는 것이 아닙니다. 사라졌습니다. 이제 사진에서 진실과 허구의 경계는 파괴되었습니다. 사진은 더 이상 과거와 같은 신뢰를 받지 못할 것입니다.
이제 사진이 진짜라는 것을 증명해야 하는 책임이 누군가에게 있습니다. "이것은 진짜처럼 보인다"는 전혀 영향력이 없습니다. 대부분의 사람들에게 기본적인 관점은 그들이 보는 것에 대한 신뢰할 수 없다는 것입니다. 불행하게도 사진이 진짜임을 증명하기 위한 노력은 AI를 사용하여 가짜 사진을 만들고 소셜 미디어에 공유하는 데 필요한 것보다 훨씬 더 많은 노력이 요구됩니다. 더 나쁘게도, 그 포스트는 신문보다 더 큰 신뢰성을 가질 수 있습니다. 이는 포토샵이 출시되었을 때는 없던 현상입니다.
이미지 출처: 헤더 사진은 Depositphotos에서 라이선스한 자료를 사용하여 생성되었습니다.
위의 내용은 AI로 번역하여 일부 고유 명사/회사명/브랜드 혹은 특정 지역을 잘못 표기할 수 있습니다. 정확한 내용은 출처를 통해 확인하세요.
