아이디어그램 2.0, 위험하게도 당신이 무엇이든 포토리얼리스틱 AI 이미지를 생성할 수 있게 해줍니다.
AI 이미지가 사회에 위험을 초래한다는 널리 퍼진 믿음이 있습니다. 이 기술은 진짜처럼 보이는 가짜 이미지를 만들어내어 악의적인 행위자들이 잘못된 정보를 퍼뜨릴 수 있는 기회를 제공합니다.
이제 출현한 Ideogram이라는 스타트업이 있습니다. 이 회사는 1,650만 달러를 모금하였으며, 최신 모델인 Ideogram 2.0은 "진짜 사진처럼 설득력 있게 보이는 이미지를 생성"하겠다고 약속합니다.
하지만 대부분의 AI 이미지 생성기와 달리, Ideogram 2.0은 실제 인물의 타협적인 모습의 사진 실감나는 이미지를 생성하는 데 아무런 제한이 없는 것 같습니다.
가입한 지 몇 초 만에 PetaPixel은 카말라 해리스와 도널드 트럼프가 손을 잡고 있는 사진과 "Swifties for Trump" 티셔츠를 입은 테일러 스위프트 팬들의 사진을 생성할 수 있었습니다.
같은 프롬프트를 입력했을 때, Midjourney는 이러한 이미지 생성을 거부했습니다. 심지어 일론 머스크의 Grok 이미지 생성기도 초기 혼란스러운 출시 이후 부드럽게 조정되었습니다.
Ideogram 2.0을 소개합니다 — 우리의 가장 진보된 텍스트-투-이미지 모델이 이제 모든 사용자에게 무료로 제공됩니다.
오늘의 이정표 소식에는 Ideogram iOS 앱 출시, Ideogram API의 베타 버전, Ideogram Search가 포함됩니다.
새로운 내용은 다음과 같습니다… 🧵 pic.twitter.com/nvD0ogRh2J
— Ideogram (@ideogram_ai) 2024년 8월 21일
Ideogram은 캐나다의 스타트업으로, 마케팅 자료에서 자신의 능력에 대해 솔직합니다.
“Ideogram 2.0의 리얼리스틱 스타일은 진짜 사진처럼 보이는 이미지를 생성할 수 있게 해줍니다,”라고 Ideogram 2.0에 대한 발표는 적고 있습니다. “텍스처가 상당히 향상되었으며, 인간의 피부와 머리카락이 생동감 있게 보입니다.”
대통령 선거가 코앞에 다가온 지금, 악의적인 행위자들이 명백히 조작할 수 있는 이처럼 강력한 도구를 아무런 안전 장치 없이 출시하는 것은 어리석고, 무모하며, 정말 위험합니다.
발행 시점에서 Ideogram은 PetaPixel의 논평 요청에 응답하지 않았습니다.
무책임한 AI
Ideogram 2.0이 인상적인 도구라는 것은 의심의 여지가 없습니다. 이 도구를 사용하는 사람들은 대체로 선의로 사용하고 무해한 AI 아트를 생성할 것입니다.
그러나 제약이 없는 AI 이미지 생성기는 악의적인 수단으로 사용될 수 있다는 것은 분명합니다.
Ideogram뿐만 아니라 어제 PetaPixel의 편집장 자론 슈나이더는 구글의 Pixel 9 Pro에 있는 AI 도구들에 대해 썼습니다.
“구글은 이러한 이미지가 생성될 때 AI가 사용되었다는 투명성을 추가할 것 같지 않습니다,”라고 그는 AI를 사용하여 새 객체와 요소를 생성하여 현실 사진을 조작할 수 있는 전화의 새로운 Magic Editor에 대해 썼습니다.
이 막 태동한 AI 이미지 산업은 책임감 있게 투명하게 움직일 필요가 있습니다. 최소한 이러한 도구들은 어느 정도의 안전 장치가 있어야 합니다.
이미지 출처: 모든 이미지는 Ideogram 2.0에서 생성되었습니다.
위의 내용은 AI로 번역하여 일부 고유 명사/회사명/브랜드 혹은 특정 지역을 잘못 표기할 수 있습니다. 정확한 내용은 출처를 통해 확인하세요.
