오픈AI Sora 딥페이크 대응 강화 얼굴·음성 제한 절차 신설

오픈AI Sora, 딥페이크 대응 강화: 얼굴·목소리 사용 제한과 신고 절차의 변화

"내 얼굴이 허락 없이 AI 영상에 등장한다면?"
이런 걱정, 이제 현실적인 문제입니다. 실제로 배우 브라이언 크랜스턴이나 고(故) 로빈 윌리엄스의 가족처럼, 유명인의 초상과 음성이 무단으로 사용되는 사례가 불거지면서 ‘AI 딥페이크’는 엔터테인먼트 업계의 최대 이슈로 떠올랐죠.
이에 오픈AI가 Sora 2와 Sora 앱을 중심으로 본격적인 대응에 나섰습니다.

SAG-AFTRA와 협력해 딥페이크 규제 강화

오픈AI는 미국 배우·방송인 노동조합인 SAG-AFTRA와 주요 에이전시(UTA, CAA 등) 및 배우 브라이언 크랜스턴과 협력해, AI 생성 영상에서 인물의 얼굴과 목소리를 보호하기 위한 규제를 대폭 강화했습니다.
이 협력은 단순한 기술 차원이 아니라, 할리우드에서 제기된 저작권 및 인격권 침해에 대한 직접적인 대응이라는 점에서 의미가 큽니다.

새로운 정책의 핵심은 “명시적 사전 동의(opt-in)” 원칙입니다.
즉, Sora 또는 Sora 2에서 누군가의 얼굴이나 음성을 사용하기 위해서는本人 혹은 공식 대리인의 사전 승인이 반드시 필요합니다.

오픈AI Sora의 주요 정책 변화

다음은 OpenAI가 새롭게 시행한 딥페이크 방지 장치와 제재 조치의 핵심입니다.

이 조치는 2023년 10월 3일부로 적용된 새로운 AI 생성물 관리 정책의 연장선에 있습니다.
특히, 마틴 루터 킹 목사나 로빈 윌리엄스 관련 딥페이크 영상이 유포되자 OpenAI는 즉각 차단 조치를 취했습니다.
이런 빠른 대응이 ‘노 페이크(NO FAKES)’ 움직임의 중심이라 할 만합니다.

Sora 앱 내부의 신고 및 보호 절차

OpenAI는 누구나 쉽게 딥페이크 피해를 접수할 수 있도록 Sora 앱 안에서 즉각 신고 기능을 마련했습니다.
신고는 다음과 같은 단계로 진행됩니다.

1. 문제 영상 우측 메뉴에서 “AI 생성물 신고” 선택
2. 얼굴·목소리 도용, 저작권 침해, 기타 사유 중 하나 체크
3. 관련 인물의 공식 인증 여부 검토
4. 검토 후 24시간 내 조치 결과 통보

이 절차는 과거보다 훨씬 투명하게 작동하며, 법적 분쟁 가능성을 최소화하는 방향으로 설계되었습니다.

윤리적 고민 속에서도 나아가는 Sora

Sora는 단순한 AI 영상 앱이 아닙니다.
아이폰 전용으로 출시된 이 앱은 사용자가 자신을 닮은 AI 카메오(Cameo)를 만들어 콘텐츠를 제작하고 공유하는 기능을 제공합니다.
하지만, 편리함 뒤에는 딥페이크 오남용 우려가 늘 존재하죠.

오픈AI는 이에 대응해,

• 청소년 보호 기능 강화(부모 통제 시스템 연동)
• 위험 콘텐츠 자동 감지 및 차단 기술 적용
• 합법적 창작 생태계 지원(저작권자 중심 구조)

이 세 가지를 Sora 플랫폼의 핵심 윤리 기준으로 삼고 있습니다.

전문가 시각: “AI 윤리의 기준을 세운 조치”

AI 전문가들은 이번 오픈AI의 조치를 “할리우드 수준의 윤리 기준을 생성 AI에 적용한 첫 사례”로 평가합니다.
샘 알트먼 CEO가 직접 지지한 ‘노 페이크 법안’은 결국, AI가 인간의 창의성을 대체하는 것이 아니라 존중하는 기술 생태계를 만들자는 움직임의 결과라 할 수 있습니다.

맺으며

오픈AI의 Sora 딥페이크 대응 강화는 단순한 기능 개선을 넘어, AI 시대의 "디지털 초상권" 규칙을 새롭게 정립하는 의미를 가집니다.
사용자가 창의적으로 즐길 수 있는 환경을 마련하면서도, 자신의 얼굴과 목소리가 남용되지 않도록 보호하는 것 — 바로 이것이 앞으로의 AI 윤리의 핵심 방향일 것입니다.

IPSK

잇맹 서울시 강서구 마곡로 01021246121

IT 테크 소식을 전달하는 IPSG 입니다. 5년째 해외 테크 소식을 누구보다 빨리 가져와서 한국에 전달하고 있습니다.

이런 글은 어때요? 👉  갤럭시 Z 플립6 One UI 8.0 초기 테스트 포착

IT Tech 스마트폰 AI

전화/방문

작성자 글 더보기