2026년 4월 22일 | AI 최신 트렌드
2026년 4월 22일 메모 | 모델 점수표보다 데이터 책임, 실행형 인터페이스, 오픈웨이트 배포, 반복 실행 신뢰성처럼 배포 이후의 문제를 먼저 보는 날이었다.
개인 사진 300만 장 삭제, 얼굴 딥페이크 탐지 확대, 앱 안에서 예약까지 끝내는 AI 비서, 무료에 가까운 오픈웨이트 공세, 그리고 한 번 성공한 에이전트가 같은 일을 다시 하면 왜 흔들리는지까지. 4월 22일 후보군은 성능 자랑보다 AI가 현실 서비스 안으로 들어간 뒤 생기는 문제를 더 선명하게 보여 줬다. 요즘은 모델 이름 하나보다 무슨 데이터로 학습했는지, 누가 누구의 얼굴을 통제하는지, 사용자가 실제로 일을 끝낼 수 있는지, 개발자가 어떤 모델을 자기 환경에 들고 갈 수 있는지, 에이전트가 재실행에서도 버티는지가 더 중요하게 읽힌다.
나는 이런 날의 트렌드 정리가 더 재밌다. 새 기능이 많아서가 아니라, AI가 이제 슬슬 "데모"를 벗어나고 있다는 느낌이 들기 때문이다. 오늘 다섯 건은 각각 규제, 플랫폼 통제, 소비자 앱, 모델 유통 전략, 평가 방식이라는 다른 층에 서 있지만, 한 줄로 묶으면 결국 배포 이후의 운영 감각으로 수렴했다.
1. 먼저 잡히는 장면: 오늘 다섯 건을 한 표로 묶어 보면
| 주제 | 무슨 변화인가 | 왜 눈여겨볼 만한가 |
|---|---|---|
| Clarifai 사진 삭제 | OkCupid에서 받은 사진 300만 장과 관련 모델이 삭제됐다. | 학습 데이터 책임이 뒤늦게라도 제품 운영을 뒤집을 수 있다는 신호다. |
| 유튜브 딥페이크 탐지 | 유명인 대상 likeness detection이 확대됐다. | 플랫폼이 AI 얼굴 복제 문제를 저작권 비슷한 관리 체계로 끌어들이기 시작했다. |
| Yelp AI 비서 | 추천을 넘어 예약·주문까지 처리하는 디지털 컨시어지로 확장됐다. | 검색형 챗봇보다 실제 행동 완료가 더 중요한 경쟁축이 되고 있다. |
| 중국 오픈웨이트 공세 | 중국 AI 랩들이 강한 모델을 open-weight로 빠르게 배포하고 있다. | API 종속 대신 직접 가져다 쓰는 개발자 친화 전략이 점점 힘을 얻고 있다. |
| 컴퓨터 사용 에이전트 신뢰성 | 같은 과제를 반복 실행할 때 왜 성능이 흔들리는지 분해해서 분석했다. | 에이전트 평가는 최고 점수보다 재실행 안정성을 같이 봐야 한다는 메시지를 준다. |
이 다섯 줄을 같이 놓고 보면 공통축이 꽤 분명하다. AI는 더 이상 "뭘 생성할 수 있나"만으로 평가되지 않는다. 무슨 권리 문제를 남기는가, 누가 실제 행동을 마무리하는가, 어떤 유통 경로로 퍼지는가, 반복 실행에서 얼마나 안정적인가가 같이 올라오고 있다.
2. Clarifai와 OkCupid: 학습 데이터는 나중에도 비용으로 돌아온다
TechCrunch 이미지: 오래전에 모인 데이터라도 학습 출처가 불투명하면 나중에 제품과 모델 자체를 되돌리는 비용으로 돌아온다.
TechCrunch에 따르면 Clarifai는 OkCupid에서 받은 사진 300만 장을 삭제했고, 그 데이터로 학습한 모델도 함께 지웠다. 배경은 FTC 합의다. 보도 내용을 보면 Clarifai는 2014년에 OkCupid 쪽에 데이터를 요청했고, 그 과정에서 사용자 업로드 사진뿐 아니라 인구통계·위치 정보까지 넘어간 정황이 법원 문서에 등장한다. 시간이 한참 지난 사건인데도 결국 다시 비용으로 돌아왔다는 점이 꽤 크다.
내가 이 뉴스를 그냥 오래된 프라이버시 스캔들로만 보지 않은 이유는, 지금 AI 업계가 계속 부딪히는 질문과 정확히 이어지기 때문이다. 모델은 계속 바뀌고 성능은 더 좋아지는데, 처음에 어떤 데이터가 어떤 동의 구조 위에서 들어왔는지가 불안하면 나중에 제품 운영 자체가 흔들린다. 특히 얼굴 인식처럼 민감한 분류 문제에서는 더 그렇다. 한 번 학습된 데이터는 그냥 과거 로그가 아니라, 서비스 신뢰와 규제 리스크를 동시에 끌고 다니는 부채가 된다.
요즘 생성형 AI 쪽에서는 "다들 비슷하게 긁어 왔다"는 식으로 말이 흐려질 때가 있는데, 이 사례는 그 낙관을 좀 세게 꺾는다. 결국 남는 건 기술적 변명이 아니라 삭제할 수 있는가, 추적할 수 있는가, 책임을 질 수 있는가다. 데이터 수집이 제품 초반의 성장 연료였다면, 이제는 데이터 정리 능력이 운영 품질의 일부가 되고 있다.
3. 유튜브 likeness detection: 딥페이크 통제가 플랫폼 기본 기능이 될 때
The Verge 이미지: 얼굴 딥페이크를 찾고 신고하는 기능이 이제는 실험이 아니라 플랫폼의 기본 통제 장치로 들어가고 있다.
The Verge는 YouTube가 유명인 대상 likeness detection 기능을 확대한다고 전했다. 이 기능은 얼굴 기반 AI 딥페이크를 찾아 당사자에게 알려 주고, 필요하면 삭제 요청으로 이어지게 한다. 참가자는 신분증과 셀피 영상을 제출해야 하고, 삭제 요청은 무조건 받아들여지는 게 아니라 프라이버시 정책 기준으로 심사된다. 패러디나 풍자처럼 보호되는 사용도 예외로 남는다.
중요한 건 유튜브가 이 기능을 거의 Content ID의 얼굴 버전처럼 다루기 시작했다는 점이다. 아직 저작권처럼 수익 분배까지 연결되진 않지만, 플랫폼이 "누구의 얼굴이 어디에 쓰였는가"를 추적 가능한 객체로 보기 시작했다는 건 의미가 크다. 딥페이크 대응이 더 이상 신고 메일과 언론 대응의 문제가 아니라, 플랫폼 레벨 검색·식별·정책 집행 문제로 이동하고 있다는 뜻이기도 하다.
나는 이 흐름이 꽤 빨리 커질 거라고 본다. AI 생성 퀄리티가 올라갈수록 플랫폼은 창작 자유와 사칭 피해 사이의 선을 더 자주 그어야 한다. 그래서 앞으로는 "생성 가능 여부"보다 누가 자기 얼굴의 사용권을 어떻게 확인하고 통제하는가가 더 중요한 상품 기능이 될 가능성이 크다. 얼굴, 목소리, 행동 스타일이 모두 상품화될 수 있는 시대에는 이런 통제면이 곧 플랫폼 경쟁력이 된다.
4. Yelp Assistant: 검색보다 행동 완료를 앞세우는 소비자 AI
The Verge 이미지: Yelp는 추천만 해 주는 챗봇을 넘어서 주문, 예약, 견적 요청까지 이어지는 디지털 컨시어지 쪽으로 움직이고 있다.
The Verge에 따르면 Yelp Assistant는 이제 앱의 중심 탭으로 올라오고 있다. 질문에 답하고 추천만 하는 수준이 아니라, DoorDash나 Grubhub를 통한 주문, 자동차·반려동물 관리 같은 서비스 견적 요청, Vagaro와 Zocdoc를 통한 예약까지 한 대화 흐름 안에서 묶으려는 방향이다. Yelp 쪽 표현을 빌리면 사용자가 "search less and do more" 하게 만드는 게 목표다.
이 소식이 반가웠던 건 AI 비서 얘기가 드디어 좀 덜 허공에 떠 보였기 때문이다. 대부분의 소비자용 챗봇은 말을 잘해도 마지막 한 단계에서 끊긴다. 맛집을 추천해 줘도 예약은 따로 해야 하고, 병원을 골라 줘도 일정은 다시 잡아야 한다. 그런데 Yelp는 자기들이 오래 쌓아 온 리뷰와 업체 데이터 위에 행동 완료 레이어를 붙이고 있다. 이런 방식은 모델이 아무리 좋아져도 결국 실행 연결부를 쥔 서비스가 유리하다는 걸 다시 보여 준다.
소비자 AI가 진짜로 생활 속에 들어오려면, 대화의 품질보다 마찰을 몇 번 줄였는지가 더 중요할 수 있다. Yelp Assistant는 거대한 새 모델을 발표한 뉴스는 아니지만, 실제로는 요즘 제품 경쟁의 본질에 더 가깝다. 추천을 잘하는 AI보다 일을 끝내게 해 주는 AI가 더 오래 남는다.
5. 중국의 open-weight 공세: 개발자 친화성이 다시 전략이 되는 장면
MIT Technology Review 이미지: 중국 AI 랩들은 API에 가두기보다 모델을 들고 가서 직접 돌리게 하는 전략으로 개발자 쪽 지지를 넓히고 있다.
MIT Technology Review의 China’s open-source bet는 제목은 open-source지만, 본문에서 더 정확하게는 open-weight 전략을 말한다. 핵심은 중국 주요 AI 랩들이 강한 모델을 API 안에만 묶어 두지 않고, 내려받아 직접 수정하고 자체 하드웨어에서 돌릴 수 있는 패키지로 배포하고 있다는 점이다. 기사에서는 DeepSeek R1 이후 이런 방식이 본격화됐고, Z.ai, Moonshot, Qwen, MiniMax가 그 흐름을 밀고 있다고 정리한다.
내가 여기서 특히 흥미롭게 본 건 가격보다도 개발자 goodwill이라는 표현이다. 미국 쪽 플레이북이 비밀 소스를 API 안에 두고 사용량마다 과금하는 방식이라면, 중국 쪽은 "가져가서 너희 환경에 맞게 돌려 보라"는 쪽에 가깝다. 이 차이는 단순히 비용 문제가 아니라, 누가 더 많은 실험과 파생 모델과 배포 사례를 끌어모으느냐의 문제다. 기사에 인용된 수치대로라면 중국 open-weight 모델의 다운로드 비중이 미국을 근소하게 앞섰고, Qwen 계열 파생 모델 수는 이미 Google과 Meta를 합친 것보다 많아졌다고 한다.
AI hype가 살짝 가라앉고 실제 도입 단계로 넘어갈수록, 이런 전략은 더 강해질 수밖에 없다. 기업 입장에서는 거창한 데모보다 싸고, 빠르게 붙고, 자기 데이터 안에서 통제 가능한 모델이 더 매력적이기 때문이다. 그래서 이 뉴스는 단순한 미중 경쟁 기사라기보다, 앞으로 모델 시장에서 폐쇄형 API와 배포 가능한 open-weight 사이의 줄다리기가 더 직접적인 사업 이슈가 될 거라는 신호로 읽혔다.
6. 컴퓨터 사용 에이전트 신뢰성: 한 번 되던 일이 왜 다시 하면 안 되는가
논문 Figure 1: Pass@10은 높아 보여도, 같은 작업을 10번 연속 안정적으로 성공하는 비율은 훨씬 낮다는 점을 보여 준다.
arXiv에 올라온 On the Reliability of Computer Use Agents는 제목 그대로 컴퓨터 사용 에이전트, 즉 CUA(Computer Use Agent)가 왜 반복 실행에서 흔들리는지 묻는다. 논문은 OSWorld에서 같은 작업을 여러 번 반복시켜 보면서 세 가지 요인을 분리한다. 실행 중 확률적 흔들림, 지시문의 모호함, 에이전트 행동 전략의 변동성이다. 이 framing이 좋았던 이유는, 요즘 에이전트 성능 뉴스가 보통 "한 번 성공했다"를 너무 쉽게 성취로 읽기 때문이다.
Figure 1에서 저자들이 보여 주는 숫자도 꽤 인상적이다. 강한 에이전트가 Pass@10 기준으로는 약 78% 수준까지 올라가지만, 같은 과제를 10번 모두 안정적으로 성공하는 Pass^10은 약 36% 정도에 그친다는 것이다. 한 번 되는 것과 늘 되는 것 사이에 생각보다 큰 간격이 있다는 얘기다. 논문은 그래서 평균 점수만 보는 대신, 작업 단위로 신뢰성이 어떻게 좋아지고 나빠지는지 paired analysis까지 붙여서 본다.
나는 이 논문이 꽤 실무적이라고 느꼈다. 실제 배포에서는 "가끔 된다"가 거의 의미가 없기 때문이다. 특히 웹 자동화나 데스크톱 작업처럼 눈에 보이는 상호작용을 다루는 에이전트는, 작은 UI 변화나 애매한 지시 하나에도 경로가 확 바뀐다. 그래서 앞으로는 에이전트 벤치마크도 최고 점수보다 재실행 안정성, 모호한 지시를 물어볼 수 있는지, 전략이 얼마나 흔들리지 않는지를 더 많이 보게 될 것 같다. 한 번의 멋진 데모보다 반복 실행에서 버티는 능력이 훨씬 더 비싼 품질이다.
7. 같이 보면: 배포 이후의 품질이 진짜 경쟁력이 되는 구간
오늘 다섯 건을 같이 보면, AI 산업의 무게중심이 꽤 분명하게 이동하고 있다. Clarifai 사례는 학습 데이터 책임이 뒤늦게라도 제품 구조를 흔들 수 있음을 보여 줬고, YouTube는 얼굴 딥페이크 통제를 플랫폼 기본 기능으로 끌어오고 있다. Yelp는 대화형 AI를 행동 완료 레이어로 밀어 붙이고, 중국 AI 랩들은 open-weight 전략으로 개발자 생태계 쪽 주도권을 넓히고 있다. 마지막으로 컴퓨터 사용 에이전트 논문은, 이런 서비스들이 실제로 믿고 맡길 만한 수준에 도달했는지를 어떻게 측정해야 하는지 다시 묻는다.
예전에는 더 큰 모델, 더 높은 점수, 더 화려한 데모가 하루치 뉴스를 다 설명했다. 그런데 지금은 그보다 데이터를 어떻게 정리하는가, 얼굴과 정체성을 어떻게 통제하는가, 사용자가 실제로 무엇을 끝낼 수 있는가, 모델을 누가 자기 환경으로 가져갈 수 있는가, 에이전트가 같은 작업을 다시 해도 믿을 만한가가 더 중요해지고 있다. 4월 22일 뉴스는 AI가 본격적으로 현실 운영 문제와 맞붙기 시작한 장면으로 읽혔다.
출처
- TechCrunch - Clarifai deletes 3 million photos that OkCupid provided to train facial recognition AI, report says
- The Verge - Celebrities will be able to find and request removal of AI deepfakes on YouTube
- The Verge - Yelp is making its AI chatbot way more useful
- MIT Technology Review - China’s open-source bet
- arXiv - On the Reliability of Computer Use Agents
- arXiv HTML - Figure source