O VASA-1 최신 AI입니다 Microsoft, 인물 사진이나 그림 한 장으로 초현실적인 딥페이크를 만들도록 설계되었습니다. 이 도구는 얼굴 표정과 머리 움직임을 정확하게 재현하는 능력이 인상적이며, 사진 속 사람이 실제로 무언가를 표현하고 있는 것 같은 착각을 불러일으킵니다. 시연에서 Microsoft또는 VASA-1 오디오와 동기화된 입술 움직임을 복제하고 원본 사진에는 없는 표정을 만들어내는 것에 감동하여 매우 사실적인 비디오를 만들어 냈습니다.
새로운 도구는 입력 정보가 거의 없이 사실적인 동영상을 만드는 능력이 잠재적으로 가짜 뉴스, 명예 훼손 동영상, 심지어 사기까지 만드는 데 사용될 수 있기 때문에 딥페이크 기술의 윤리적 사용에 대한 우려를 불러일으킵니다. 그러므로, Microsoft 을 보장하기 위해 노력하고 있습니다. VASA-1 책임감 있고 윤리적으로 사용되어야 합니다.
VASA-1은 무엇이며 어떻게 작동하나요?
맞는 것 같지만 위 영상은 딥 페이크. VASA-1 인공 지능을 통해 사실적인 말하는 얼굴을 생성하는 데 있어 상당한 발전을 나타냅니다. 영형 VASA-1 개인의 사진이나 그림, 음성 오디오 클립 등 단일 정지 이미지에서 말하는 얼굴의 비디오를 생성할 수 있습니다. 이러한 결과 비디오에는 오디오와 동기화된 입술 움직임뿐만 아니라 광범위한 자연스러운 얼굴 역학 및 머리 움직임이 포함되어 높은 수준의 현실감과 생생함을 구현합니다.
이전 방법과는 달리, VASA-1 표정, 눈 움직임, 눈 깜박임 등 가능한 모든 얼굴 움직임을 고유한 잠재 변수로 고려하여 말하는 얼굴 생성을 전체적으로 접근합니다. 더욱이, VASA-1 기본 시선 방향, 머리 거리, 정서적 오프셋과 같은 선택적 조건 단서를 학습 과정에 통합합니다. 이를 통해 복잡한 분포의 생성적 모델링을 보다 쉽게 제어할 수 있고 생성 계산이 향상됩니다. 예를 들어 아래 동영상에서는 VASA-1 딥페이크에서 다양한 시선 방향 옵션을 시연했습니다.
가장 인상적인 부분 중 하나는 VASA-1 말하는 얼굴을 실시간으로 생성할 수 있는 능력이 있어 대화형 커뮤니케이션 애플리케이션에 이상적입니다. 비디오 생성 품질과 계산 효율성의 균형을 유지함으로써 VASA-1 이는 기존 방법을 훨씬 뛰어넘어 AI 기반 디지털 아바타가 실제 인간과 상호 작용하는 것처럼 자연스럽고 직관적으로 우리와 상호 작용할 수 있는 미래에 더 가까워집니다.
대표 VASA-1 외모, 머리의 3차원 위치 및 얼굴 역학을 변경할 수 있으므로 속성을 별도로 제어하고 생성된 콘텐츠를 편집할 수 있습니다. 즉, 단일 입력 사진으로도 다양한 동작 시퀀스로 말하는 얼굴의 비디오를 생성하거나 동일한 동작 시퀀스에 다양한 사진을 적용할 수 있어 생성된 콘텐츠에 대한 다양한 사용자 정의 가능성과 제어가 가능합니다.
딥페이크의 위험성
O VASA-1, 긍정적인 적용 가능성에도 불구하고 딥페이크 생성과 관련된 상당한 위험을 제시합니다. 이 기술은 한 사람이 결코 일어나지 않은 일을 하거나 말하는 모습을 묘사하는 매우 설득력 있는 가짜 비디오를 만드는 데 오용될 수 있습니다. 이러한 딥페이크는 잘못된 정보 유포, 여론 조작, 개인의 명예 훼손, 심지어 사회적, 정치적 갈등 조장 등 심각한 피해를 초래할 가능성이 있습니다.
특히 선거 기간 동안 이 기술은 정치적 딥페이크 생성과 같은 악의적인 사용으로 인해 문제를 일으킬 수 있습니다. 이 기술을 사용하면 정치인이나 공인이 허위 발언을 하거나 타협적인 행동을 하는 영상을 만드는 것이 가능합니다. 이러한 비디오는 선거에 영향을 미치고, 지도자와 기관에 대한 대중의 신뢰를 훼손하고, 정치적 불안정을 조성하는 데 사용될 수 있습니다.
Deepfakes의 사용은 전 세계 여러 정부의 관심과 우려를 불러일으켰습니다. 브라질에서는 TSE 선거에서 딥페이크 사용을 금지하다, 올해 2월에 이 법안이 승인되었습니다. 이러한 금지 조치는 정보 조작을 방지하고 선거 과정의 무결성을 보호하여 허위 비디오 및 오디오가 후보자에게 해를 끼치거나 유리하게 사용되는 것을 방지하는 것을 목표로 합니다. 딥페이크를 부적절하게 사용하면 후보자 등록이나 위임장이 취소될 수 있습니다.
특히 중국은 이러한 기술의 사용에 대한 포괄적인 규제를 선도했습니다. 일부 서구 정부가 채택한 것보다 더 광범위한 법안은 사회 안정을 유지하기 위한 도구로 간주됩니다. 이는 동의 없이 딥페이크를 생성하는 것을 명시적으로 금지하고 AI 생성 콘텐츠에 대한 명확한 식별을 요구합니다.
러시아의 우크라이나 침공 이후에 놀라운 사례가 발생했습니다., 딥페이크 동영상이 소셜 미디어에 널리 유포되었을 때. 이 영상에서는 볼로디미르 젤렌스키 우크라이나 대통령이 군대에게 항복을 명령하는 것처럼 보였지만 실제로는 그런 일이 일어나지 않았습니다. 더욱이 딥페이크는 연예인, 친구, 가족의 가짜 동영상을 만들어 혼란을 야기하고 관련된 사람들의 평판을 훼손하는 등 일상적인 상황에서 더욱 광범위하게 사용될 수 있습니다.
출시 예측
A Microsoft 관련된 위험을 인식합니다. VASA-1 그리고 이 도구가 책임감 있게 개발되고 사용되도록 최선을 다하고 있습니다. 잠재적인 윤리적, 개인 정보 보호 및 보안 문제로 인해 VASA-1 을 생성할 수 있습니다 Microsoft 아직 일반 대중용 출시일은 없습니다.
회사는 기술 오용의 위험을 완화하는 데 도움이 되는 보안 및 제어 조치를 구현하기 위해 적극적으로 노력하고 있습니다. 개발자들은 일반 대중에게 공개하기 전에 생성된 비디오의 진위성을 개선하고 기술 오용을 방지하는 데 도움이 되는 딥페이크 탐지 방법을 개발하기 위해 노력하고 있습니다.
Showmetech TRIO에서 이 뉴스와 기타 뉴스를 확인하세요.
참조 :
검토자 글라우콘 바이탈 22년 4월 24일.
쇼메텍에 대해 자세히 알아보세요.
최신 뉴스를 이메일로 받아보시려면 등록하세요.
