Deep Fake란 무엇인가?
딥페이크(Deepfake)는 인공지능의 한 분야인 '딥러닝(deep learning)'과 '가짜(fake)'의 합성어로, 실제와 구별하기 어려운 가짜 이미지나 영상을 생성하는 기술을 말합니다. 이 기술은 특히 얼굴, 목소리 등 인간의 특징을 정교하게 모방하여 실제 인물이 한 행동이나 말을 한 것처럼 보이게 합니다.
딥페이크 기술의 기원은 Reddit에서 'deepfakes'라는 닉네임을 사용한 한 회원이 Gal Gadot 배우의 얼굴을 합성한 포르노 비디오가 인터넷에 게재하면서 시작되었습니다. 이로 인해 딥페이크라는 용어가 널리 퍼지기 시작했으며, 디지털 콘텐츠 조작에 대한 전례 없는 시대의 시작을 알렸습니다.
Deep Fake의 영향
생성형 AI가 급격히 발달함에 따라 다양한 산업분야에서 Deepfake가 영향을 미치기 시작했습니다.
소셜 미디어 및 엔터테인먼트
유명인의 얼굴을 다른 사람의 몸에 합성하여 부적절한 이미지나 비디오 생성 공개적인 인물을 대상으로 한 조롱이나 풍자 목적으로 사용될 수 있으며, 이는 명예훼손으로 이어질 수 있습니다포르노그래피
동의 없는 포르노 콘텐츠로 명예 및 사생활 침해 협박 및 강요로 인한 정서적, 사회적 피해금융 및 경제
사기 및 시장 조작을 위한 투자자 속임수 가짜 발표로 시장 조작사이버 보안 및 개인 정보
소셜 엔지니어링 공격으로 정보 탈취 보안 시스템 우회를 위한 음성/영상 조작정치 및 선거
정치인의 가짜 발언 비디오로 여론 조작 가짜 뉴스 생성으로 사회 혼란 유발법 집행 및 법적 문제
증거로 사용될 수 있는 비디오나 오디오 기록을 조작하여 법적 과정을 방해eKYC에서의 Deep Fake 가능성
eKYC의 과정에서 본인확인용으로 매우 광범위 하게 사용되는 방법은 Selfie 인증입니다.
이 방법은 사용자 UX 관점에서 friendly하며, 대부분의 디바이스에서 활용할 수 있다는 큰 장점이 있습니다. 이를 통해 신분증의 사진과 Selfie의 얼굴을 비교함으로써 신원정보의 실 소유자 인증으로 활용하고 있습니다.
예전에 사기꾼은 Gen AI가 나타나기 이전에는 Seflie를 촬영하는 과정에서 플랫폼을 속이는게 어려웠지만, 이제는 아래의 예시와 Deepfake를 이용하여 같이 너무나 쉽게 진짜 같은 사람을 만들어 낼 수 있습니다.
사용 이미지 : 배우 “크리스찬 베일”
•
사용 AI Method : Image to image
•
Model : DreamShaper 8
•
Prompt : Use image reference at 75% similarity as “ethnic [variable]”, “age [variable]”
•
제작 시간 : 1분
크리스찬 베일 원본
생성 이미지 1
생성 이미지 2
생성 이미지 3
생성 이미지 4
생성 이미지 5
이외에도 eKYC의 과정에서는 Deep fake 이외에 아래와 같은 다양한 유형의 사기를 시도가 있습니다.
•
인쇄된 사진을 이용한 공격
•
디스플레이를 이용한 공격
•
2D mask를 이용한 공격
•
실리콘 마스크를 이용한 공격
이러한 모든 사기의 유형은 본인 인증에 있어서 매우 심각한 문제를 일으킬 수 있고, 이미 사기를 통한 수백만 달러의 송금이 발생한 경우도 있습니다.
“Audio and visual deep fakes represent the fascinating development of 21st century technology yet they are also potentially incredibly dangerous posing a huge threat to data, money and businesses,” - Jake Moore, a former police officer with the Dorset Police Department in the U.K.
ARGOS가 DeepFake를 막는 방법
ARGOS는 One-stop eKYC 솔루션을 제공하고 있습니다. 정확한 고객 확인뿐 아니라 사기꾼을 막는 다양한 장치 또한 제공합니다. 이제 어떻게 ARGOS가 DeepFake를 막는지 알아보겠습니다.
생성형 AI를 이용한 Deepfake는 대부분 ‘디지털 환경’으로 전달 됩니다. Deepfake로 가짜 영상이나 이미지를 만들고 난 후 아래의 과정을 통해 인증을 시도해야 합니다.
a.
만들어진 이미지를 업로드하여 전달
b.
만들어진 이미지를 디스플레이 장치나 출력물을 통해 표기하여 전달
1. Real Time base
ARGOS는 ‘Liveform’ 을 통하여 고객이 별도의 개발 과정 없이 단 2분만에 런칭 할 수 있는 웹 브라우저 기반의 화면을 제공합니다. Deepfake와 같은 기술이 웹브라우저 상에서 가장 많이 사용된다는 사실은 이미 잘 알려져 있습니다. 특히, 소셜미디어와 같이 자유로운 파일 업로드 환경에서는 더욱 빠르게 확산 됩니다.
ARGOS는 라이브폼 제공 시 업로드 기능을 차단하고, 실시간 카메라 촬영만으로 사용해야 하도록 설정하는 옵션을 제공하고 있습니다.
고객사는 ‘Liveform live camera recording only’ 기능을 통해 업로드 기반의 인증을 차단함으로써 만들어진 이미지 또는 영상을 전달할 수 없도록 만들어 보다 안전한 인증 환경을 제공할 수 있습니다.
ARGOS의 대시보드에서 설정 화면
•
Liveform live camera recording only
ARGOS의 Liveform의 진행 화면
•
옵션을 설정하면 브라우저 카메라 또는 Native 카메라를 실시간 기반으로만 촬영할 수 있도록 동작하게 됩니다.
2. Passive Liveness
업로드를 할 수 있는 경로가 차단 되었으니 이제 사기꾼은 해당 생성된 이미지나 영상을 디스플레이 장치와 같은 별도의 ‘표시된 형태’로 사기를 시도해야 합니다.
ARGOS 시스템에서 실시간 카메라 촬영만으로 진행해야 한다면, 사기꾼은 테블릿이나 다른 모바일 디스플레이에 미리 만들어진 영상을 통하여 인증을 시도할 것 입니다.
일반적으로 이때 솔루션 사업자들이 제공하는 방식은 Active Liveness 입니다. 얼굴 끄덕이기, 눈 깜빡이기, 입벌리기 등 무작위로 지정된 행동을 요구하고, 이 행동을 인식하여 Liveness를 확인하는 방식 입니다.
Active liveness의 핵심
•
사전에 만들어진 영상 또는 이미지는 실시간으로 요구되는 행동을 따라할 수 없을 것입니다.
표정으로 active liveness를 진행하는 경우 나타날 수 있는 예시
지정된 행동을 요구하는 행위는 사용자가 단계를 완료함에 있어서 반드시 추가 시간을 요구하게 됩니다. 또한 요구하는 ‘행동의 패턴’이 표기됨으로 리버스 엔지니어링을 통해 사전에 준비 할 수 있다는 취약점에 노출 됩니다.
ARGOS는 ‘사용자의 입장’을 항상 중요하게 생각합니다.
Deepfake와 같은 사기꾼이 큰 위협을 가하고 있지만, 이러한 위협을 막기 위해 정상 사용자에게 불편함을 줘서는 안됩니다.
비지니스를 고려할 때 사용자 입장에서는 간단하고, 쉽고 빠른 프로세스가 좋습니다. 이것이 ARGOS가 Passive liveness를 제공하는 이유 입니다. 복잡한 프로세스는 사용자 이탈과 직결됩니다.
ARGOS는 아래와 같이 옵션을 통해 고객사가 언제든 Passive Liveness를 사용할 수 있도록 제공합니다. ISO 30107-3 기반의 Level 2인증을 받은 제품으로 전세계 최고의 정확도를 자랑합니다.
Passive liveness의 핵심
•
정상적인 사용자의 프로세스가 바뀌지 않은 상태에서 사기꾼을 찾아 낼 수 있어야 합니다.
ARGOS의 Passive Liveness의 장점은 다음과 같습니다.
Fast•
1초도 채 걸리지 않습니다. 독특한 단일 이미지 접근 방식은 얼굴 인식을 위해 촬영한 것과 동일한 셀카를 사용하여 생동감을 판단합니다.
Frictionless•
단일 이미지 접근 방식은 더 나은 사용자 경험을 위해 참여가 전혀 필요하지 않습니다. 자동화 비율을 높이고 고객 이탈을 줄입니다.
Accurate•
iBeta/NIST 레벨 1 및 레벨 2 PAD를 준수하며 만점을 받았습니다. 이 소프트웨어는 매달 수백만 건의 활성 상태 검사를 수행합니다.
Works for Everyone, Everywhere•
인종, 성별, 연령 등 인구통계 전반에 걸쳐 편견 없는 결과를 제공하는 알고리즘을 만드는 것에 투자를 하고 있습니다.
Cost Efficient•
비디오를 처리하기 위해 고대역폭 인터넷 연결과 대규모 서버 배포가 필요한 다른 솔루션과 달리 인프라 비용이 절감됩니다.
아래는 Passive liveness와 Active liveness의 비교표입니다.
Category | Passive liveness | Active liveness |
User interaction | Operate without user action | Requirese direct user participation (e.g look up, nodding, blinking) |
User awareness. | Unrecognizable during liveness. | Recognizable during liveness. |
Algorithm | Facial features or the texture of the captured image. | Analyze behavior |
Process | No additional processes. Concurrently happening in the backend in the process of taking a selfie. | Requires additional layers to be installed to require behavior and measure behavior. |
ARGOS의 2023년 Liveness를 통한 사기 시도 검출
ARGOS는 Deepfake가 유행하기 전부터 Liveness의 중요성을 감지하고 지속적으로 고객에게 라이브니스 서비스를 제공해왔습니다. 아래는 2023년에 ARGOS가 감지한 Passive liveness의 검출 트렌드 입니다.
사기를 시도하는 자는 한번의 시도가 아니라 여러번의 시도를 진행한다는 것을 고려할 때 전체의 많게는 약 1%정도의 사기시도가 있음을 알 수 있습니다.
ARGOS는 이러한 사기 시도를 검출하여 고객에게 안전한 서비스를 제공하기 위해 지속적으로 노력하고 있습니다.
One-stop solution을 위한 ARGOS의 노력
ARGOS는 Deepfake를 막기 위한 기능 이외에도 정확한 eKYC, 사기 방지 등 One-stop solution으로 고객이 사용할 수 있도록 하기 위한 다양한 기능을 구비하고 편리하게 제공하고 있습니다.
아래의 링크에서 ARGOS에서 제공하는 다양한 eKYC의 기능을 만나보실 수 있습니다.
ARGOS와 함께하는 eKYC의 여정
ARGOS eKYC의 무료 이용이 마음에 드셨나요?
더 많은 eKYC 인증이 필요하시거나 서비스에 대해 궁금한 점이 있으시다면, 언제든지 연락주세요.
ARGOS는 앞으로도 사용자의 인증 여정을 더욱 편리하고 안전하게 만들기 위해 노력할 것입니다.
여러분의 온라인 세상이 더욱 안전하고 편리해질 수 있도록, ARGOS와 함께하세요!
이메일 : sales@argosidentity.com 유선전화 : +82 10-2477-5701 홈페이지 : www.argosidentity.com