Tiktok의 Bold Glamour 뷰티 필터는 AI 전문가의 현실에 대해 걱정합니다.

Nov 18, 2023

최근 몇 주 동안 실시간 특수 효과가 TikTok에 넘쳐났습니다. 턱을 깎고, 입술을 도톰하게 만들고, 스마트폰을 사용하는 모든 사람에게 Kardashian 스타일 메이크업 윤곽을 제공하는 것입니다. AI 연구자들은 이 필터가 매우 설득력 있는 뷰티 필터로 선전되고 있지만, 이 효과가 존재에 대한 단서를 남기지 않으며 전 세계 정부의 조사를 이끌어낸 앱 내부와 외부의 사람들을 조종할 수 있는 전례 없는 능력을 제공한다고 말합니다.

지난달 출시 이후 1,600만 번 이상 다운로드된 Bold Glamour는 스마트폰을 사용하는 사람이라면 누구나 실시간으로 자신의 향상된 버전이나 아바타를 만드는 데 사용할 수 있는 가장 설득력 있는 효과 중 하나를 제공한다고 독립 필터 제작자가 말합니다. , 연구원 및 창의적인 기술자.

다른 사진 필터와 달리 Bold Glamour는 움직임이 너무 많거나 사용자의 얼굴 앞으로 손이 지나갈 때에도 흔들리지 않습니다. 실시간으로 얼굴이 바뀌고, 흩어진 가짜 속눈썹이 없습니다. 사용자들은 자신이 보고 있는 내용이 믿기지 않아 볼을 당기고 눈썹을 당기고 있습니다.

TikTok 대변인 Alexa Youssefian은 필터 뒤에 숨은 기술에 대한 논의를 거부했지만 사용자와 연구자들은 필터가 사람들의 피부색, 인지된 성별 및 머리 색깔을 판독한 다음 특정 SoCal에 적용할 메이크업 양, 입술 필러 및 피부 조임량을 결정한다고 말합니다. 인플루언서 룩. 그리고 AI가 그 과정을 주도할 수도 있습니다.

소셜 미디어 필터 제작자인 Laura Gouillon은 The Washington Post에 "필터가 Kylie Jenner의 얼굴을 기계 학습 알고리즘의 모델로 사용한 다음 그녀의 얼굴을 내 얼굴과 혼합한 것 같습니다"라고 말했습니다.

그 효과는 아마도 스스로 메이크업 기술을 익히는 것일 것이라고 그녀는 말했습니다. "이전 뷰티 필터에서는 얼굴 메쉬가 사용자의 얼굴 위에 겹쳐서 손이나 머리카락이 얼굴을 가리면 효과가 깨졌습니다."라고 Gouillon은 말했습니다. "이 필터는 아마도 기계 학습 기술을 사용하여 이러한 특징을 얼굴에 혼합하고 있는 것 같습니다."

버클리 캘리포니아 대학의 컴퓨터 과학 교수인 하니 패리드(Hany Farid)는 필터가 아마도 웹에서 스크랩한 수많은 그림과 텍스트 샘플을 연구하여 새로운 이미지나 단어를 만드는 기술인 '생성 AI'를 사용하고 있을 것이라고 말했습니다. (Farid는 2020년부터 2022년까지 TikTok의 콘텐츠 자문위원회 회원이었습니다.)

Snapchat 및 Instagram 필터를 만드는 Luke Hurd는 Bold Glamour 효과가 기계 학습을 사용하고 있다고 트윗했습니다.

"그들은 생성적 적대 네트워크(Generative Adversarial Network)라는 것을 사용합니다"라고 그는 말했습니다. "그들은 사용자의 이미지를 촬영한 다음 이를 다른 이미지의 데이터 세트와 비교한 다음 카메라 피드의 출력에서 ​​픽셀 단위로 얼굴을 다시 그립니다."

필터의 접근성은 이전의 시각적 조작 수단과 차별화되는 점이라고 MIT Open Documentary Lab의 창의적인 기술자인 Halsey Burgund는 말했습니다.

모두가 말하는 새로운 AI 기술을 시도하는 방법

"동영상에서 자신과 다른 사람을 믿을 수 있을 만큼 조작하는 능력이 [이 효과를 통해] 상품화되었으며, 이것이 바로 진정한 도약입니다."라고 그는 말했습니다. "이 기술은 한동안 실험실, 회사 및 웹상의 보다 난해한 환경에서 사용되었지만 이제는 모든 사람이 무료로 사용하고 작동 방식을 확인할 수 있습니다."

Bold Glamour가 포함된 동영상은 사용자가 초현실적 효과를 적용했음을 나타내는 라벨 없이 인터넷에 게시될 수 있으며, 연구자들은 온라인에서 실제 내용을 믿기가 점점 더 어려워질 것이라고 경고했습니다.

"대담한 글램 효과는 머지않아 딥페이크를 만드는 기술도 주류화될 수 있다는 신호입니다."라고 샌디에이고에 있는 캘리포니아 대학교 컴퓨터 예술 및 디자인 교수인 메모 악텐(Memo Akten)은 말했습니다. "그건 기술이 공개된다는 뜻이 아니라, 단지 공개될 수 있다는 신호일 뿐이죠."

딥페이크는 인공 지능을 사용하여 사람들이 실제로 일어나지 않은 일을 하는 모습을 보여주는 비디오 또는 기타 미디어입니다.

Big Tech는 AI에 대해 조심스럽게 움직이고 있었습니다. 그런 다음 ChatGPT가 나왔습니다.