OpenAI, 이미지 생성 규제 완화로 창작의 자유 확대

챗GPT-4o 업데이트 통해 유명인 이미지 생성 허용

OpenAI가 최신 인공지능 모델인 챗GPT-4o에 이미지 생성 기능을 통합하면서, 콘텐츠 생성에 대한 정책을 대폭 변경했다. 이번 업데이트는 사용자가 생성할 수 있는 이미지의 범위를 넓히고, 표현의 자유를 보다 폭넓게 보장하려는 방향으로 이루어졌다. 기존의 이미지 생성 도구는 DALL·E 기술을 기반으로 운영되었으며, 특정 인물이나 역사적으로 민감한 상징물에 대한 생성은 엄격하게 제한되어 왔다. 그러나 이번 변화로 이러한 제한이 완화되면서, 사용자들은 보다 자유롭게 창작 활동을 할 수 있는 기회를 얻게 되었다.

이번 정책 변화의 핵심은 단순히 콘텐츠를 사전에 차단하는 검열 방식에서 벗어나, 실제로 발생할 수 있는 피해를 사후적으로 방지하는 방식으로 접근 방식을 전환한 것이다. 이와 관련하여 OpenAI의 모델 행동 총괄인 조앤 장은 “우리의 목표는 표현을 억압하는 것이 아니라, AI 기술이 악용되어 실제 세상에 해를 끼치는 것을 막는 데 있다”고 설명했다. 이는 AI가 콘텐츠를 생성한 이후, 그 내용이 유해하거나 정책에 위반될 경우 사용자가 신고하거나 OpenAI 시스템이 자체적으로 검토해 조치를 취하는 구조로 변화되었음을 의미한다.

이러한 변화 중 특히 눈에 띄는 점은 유명인의 이미지를 생성할 수 있게 되었다는 것이다. 이전 정책에서는 연예인이나 공직자, 정치인 등의 얼굴이나 외모를 묘사하는 이미지 생성을 전면적으로 금지했지만, 새 정책에서는 ‘옵트아웃’ 방식을 도입했다. 즉, 해당 인물이 자신의 초상이 AI 이미지에 사용되는 것을 원하지 않을 경우, OpenAI에 거부 의사를 명확히 전달해야만 이미지 생성을 제한할 수 있게 되었다. 이 방식은 창작자의 자유를 존중하는 동시에, 이미지 대상이 되는 개인에게도 일정한 통제권을 부여하려는 시도로 해석된다.

또한, 과거 나치 독일의 상징으로 사용되어 논란의 대상이 된 하켄크로이츠 문양에 대한 생성 제한도 완화되었다. 이 문양은 혐오나 차별을 조장하는 목적이 아닌, 역사 교육, 다큐멘터리, 예술 작품 등 특정 맥락에서 필요한 경우에는 생성이 허용될 수 있다. OpenAI는 문양의 생성 여부를 판단할 때 단순히 그 모양이 아니라, 해당 콘텐츠의 사용 목적과 문맥을 함께 고려하여 결정하는 자동 필터링 시스템을 운영하고 있다고 밝혔다. 예를 들어, 불교나 힌두교에서 수천 년 동안 길상의 상징으로 사용된 만(卍)자 문양은 시각적으로 하켄크로이츠와 유사하지만, 역사적 의미와 맥락이 전혀 다르기 때문에 차단 대상에서 제외된다.

이러한 정책 변화는 창작의 자유를 확대하는 긍정적인 면과 함께, AI 윤리와 관련된 복잡한 문제를 동반한다. 특히 유명인의 초상권 침해, 가짜 정보 생성, 딥페이크 콘텐츠 제작 등 부정적인 활용 가능성에 대한 우려가 커지고 있다. 이에 대해 OpenAI는 사용자 신고 기능을 강화하고, 내부 콘텐츠 검토 시스템을 지속적으로 발전시키는 동시에, AI 모델의 안전성 평가를 정기적으로 수행해 그 결과를 정책에 반영하겠다고 밝혔다. 이는 자유로운 창작 환경을 조성하는 한편, 그로 인해 발생할 수 있는 부작용을 최소화하기 위한 장치 마련에 집중하겠다는 입장이다.

기술적 측면에서도 이번 업데이트는 의미 있는 발전을 보여준다. 챗GPT-4o에 통합된 이미지 생성 기능은 기존 DALL·E 모델보다 더 향상된 성능을 자랑한다. 생성된 이미지는 인물의 표정이나 복잡한 배경 묘사에서 더욱 사실적이고 정교한 결과를 보여주며, 단순한 사진과 유사한 이미지 생성에 그치지 않고, 영화의 한 장면처럼 극적인 표현이나 독창적인 예술 창작까지 가능하게 한다. 사용자는 보다 구체적이고 세밀한 요구를 통해 자신이 원하는 시각적 결과물을 쉽게 얻을 수 있게 되었다.

OpenAI는 이러한 기술 발전과 함께 '책임 있는 개방'이라는 원칙을 내세우고 있다. 이는 기술의 활용 가능성을 넓히는 동시에, 그에 따른 책임 있는 운영을 함께 추구하겠다는 방침이다. 이를 실현하기 위해 OpenAI는 관련 정책 문서를 투명하게 공개하고, 외부 전문가나 기관이 AI 시스템을 감시하고 평가할 수 있는 제3자 감시 체계를 강화하겠다고 약속했다. 앞으로도 사용자 피드백과 윤리적 논의 결과를 반영해 정책을 유연하게 조정해 나가겠다는 계획이다.

이번 정책 변화는 단순한 기능 업데이트를 넘어, 생성형 AI 기술이 사회와 어떻게 조화를 이루어야 할지에 대한 중요한 논의를 불러일으킨다. 기술의 발전 속도가 빨라지는 만큼, 그에 맞는 윤리적 기준과 사회적 책임 역시 함께 고민해야 할 시점이다. OpenAI의 이번 결정은 AI 기술의 방향성과 규제에 대한 전 세계적인 논의에 있어서 중요한 전환점이 될 수 있다.