2026년 6월 3일 | AI 최신 트렌드
6월 3일 아침 기준으로 눈에 들어온 축은 AI를 더 많이 쓰게 된 뒤의 비용, 검증, 보안, 업무 연결, 시각 근거였다.
전날 소식들이 agent가 어디서 실행되는지를 보여 줬다면, 이번 소식들은 그 agent와 AI 도구를 조직 안에 넣은 뒤 무엇을 계속 관리해야 하는지를 보여 준다. 예산은 너무 빨리 타고, 제품별 행동 규칙은 벤치마크만으로는 잘 안 잡히고, 음성 사기는 연락처 이름까지 빌려 온다. 나는 이런 흐름을 볼 때마다 “AI를 붙였다”보다 “붙인 뒤 어떤 운영 장치가 생겼나”를 먼저 보게 된다.
Uber, AI 사용량을 장려한 뒤 다시 예산 칸막이 세우기
TechCrunch는 Bloomberg 보도를 인용해 Uber가 직원별 AI 사용 한도를 도입했다고 전했다. 핵심은 월 1,500달러 한도다. 직원 한 명이 agentic coding tool 하나에 쓸 수 있는 비용을 제한하고, Claude Code나 Cursor 같은 도구의 사용량을 내부 대시보드로 볼 수 있게 한 흐름이다. 일부 예외는 승인을 받으면 넘길 수 있지만, 기본값은 “많이 써 보라”에서 “얼마나 쓰는지 먼저 보자”로 바뀌었다.
기사에서 특히 눈에 띄는 대목은 Uber가 이미 4개월 만에 연간 AI 예산을 다 써 버렸다는 점이다. AI 도구를 많이 쓰라고 독려하고 내부 순위표까지 운영했다면, 사용량이 올라가는 건 당연하다. 다만 그 사용량이 실제 소비자 기능이나 매출 개선으로 얼마나 이어졌는지는 훨씬 흐릿하다. Uber COO도 AI 사용과 새 소비자 기능 사이의 선을 긋기 어렵다고 말했다.
이건 한 회사의 예산 삭감 뉴스라기보다, 기업 AI 도입의 다음 단계처럼 보인다. AI 비용은 클라우드 청구서처럼 뒤늦게 오는 게 아니라, 직원의 매일 업무 습관 안에서 계속 발생한다. 개발자는 한 번 더 돌려 보고, 분석가는 보고서를 여러 버전으로 뽑고, 기획자는 요약과 초안을 반복한다. 그런 반복이 나쁘다는 뜻은 아니다. 다만 팀 단위로 ROI를 읽으려면 “누가 얼마나 썼나”보다 “그 사용이 어떤 산출물과 연결됐나”까지 같이 남아야 한다.
Microsoft ASSERT, 자연어 정책을 행동 테스트로 바꾸기
Microsoft는 ASSERT라는 오픈소스 평가 프레임워크를 공개했다. 이름은 Adaptive Spec-driven Scoring for Evaluation and Regression Testing의 약자다. 요지는 단순하다. “이 문서 리서치 agent는 외부인에게 메일을 보내면 안 된다”, “기밀 정보는 특정 임원에게만 보여야 한다” 같은 제품별 정책을 자연어로 적으면, ASSERT가 허용·금지 행동을 구조화하고 시나리오와 테스트 케이스를 만든다.
나는 이 지점이 꽤 현실적이라고 봤다. 범용 모델 벤치마크는 모델이 일반적으로 얼마나 똑똑한지를 알려 준다. 하지만 실제 서비스에서는 그보다 작은 규칙이 더 중요할 때가 많다. 고객지원 bot이 환불 조건을 어떻게 설명해야 하는지, 사내 agent가 어떤 파일을 읽어도 되는지, 요약 agent가 어떤 문장을 반드시 근거로 남겨야 하는지 같은 것들이다. 이런 규칙은 조직마다 다르고, 버전이 바뀔 때마다 회귀 테스트가 필요하다.
ASSERT가 중간 action과 tool call 경로를 기록한다는 점도 좋다. 최종 답변만 보면 “성공처럼 보이는 실패”가 많다. AI 제품 평가는 이제 정답 문장보다 실행 경로를 같이 봐야 한다. 어떤 도구를 호출했고, 어떤 중간 상태를 거쳤고, 어디서 정책을 어겼는지 알아야 다음 수정이 가능하다. 이건 agent observability와 evaluation이 점점 같은 문제로 합쳐지고 있다는 신호이기도 하다.
Google Phone, 딥페이크 음성 사기를 연락처 단에서 막기
Google은 Android 12 이상 기기의 Phone by Google에 가짜 전화 탐지 기능을 글로벌로 배포하기 시작했다. 시작은 Pixel 기기다. 방식은 흥미롭다. 연락처에 있는 사람이 전화를 걸면 양쪽 기기가 조용히 확인 신호를 주고받고, 사기꾼이 번호를 spoofing해 “엄마”나 “상사”처럼 보이게 걸어 오면 실제 기기에서 확인이 오지 않는다. 이때 사용자는 전화를 끊으라는 경고를 받는다.
딥페이크 음성 사기는 기존 스팸 전화와 결이 다르다. 모르는 번호가 아니라 아는 사람의 이름을 빌리고, 목소리까지 흉내 낸다. 그러면 사용자는 보안 문구보다 관계 신뢰를 먼저 따라가게 된다. 기술적으로는 RCS 위에 얹은 device-to-device 확인에 가깝지만, 제품적으로는 “음성의 진짜 느낌”보다 “통화가 실제 기기에서 왔는지”를 보겠다는 전환이다.
이런 기능은 모델 탐지기만으로 풀기 어렵다. 딥페이크 목소리가 점점 좋아지면 “이 소리가 진짜인가”를 판별하는 싸움은 계속 불리해진다. 보안 쪽에서는 콘텐츠 진위 판별보다 통신 경로와 신원 확인을 같이 묶는 쪽이 더 오래 버틸 가능성이 크다. AI가 사기 비용을 낮추는 만큼, 전화 앱 같은 기본 인프라도 AI 방어 기능을 기본값으로 들고 가야 하는 시점이 온 것 같다.
Codex 플러그인, 코딩 도구에서 지식노동 플랫폼 쪽으로
OpenAI는 Codex for every role, tool, and workflow에서 Codex를 개발자 전용 도구가 아니라 여러 직무의 지식노동 도구로 넓히겠다고 밝혔다. TechCrunch 정리에 따르면 Codex는 주간 활성 사용자 500만 명을 넘겼고, 비개발자 사용자가 전체의 약 20%를 차지한다. 새로 나온 플러그인은 데이터 분석, 크리에이티브 제작, 세일즈, 제품 디자인, 상장주식 투자, 투자은행 업무처럼 역할별로 묶여 있다.
OpenAI가 강조한 숫자는 62개 앱과 110개 skill이다. 이 표현이 재미있다. 이제 AI 도구의 경쟁은 단순히 “모델이 어떤 답을 하느냐”가 아니라, 어떤 앱을 붙이고 어떤 절차를 기본 skill로 묶어 주느냐로 이동하고 있다. 예를 들어 데이터 분석 플러그인은 Snowflake, Databricks, Tableau 같은 업무 도구와 붙고, 디자인 쪽은 Figma나 Canva 같은 작업 표면과 연결된다. 사용자는 프롬프트 하나를 던지는 게 아니라, 특정 역할의 기본 작업 묶음을 호출하는 셈이다.
나는 여기서 Codex라는 이름이 조금 낯설게 느껴졌다. 원래는 코드 생성의 냄새가 강했는데, 이제는 보고서, 대시보드, pitch 자료, 디자인 검토까지 감싼다. 업무용 AI agent의 다음 경쟁력은 모델보다 “역할별 기본 문맥을 얼마나 덜 설명해도 되느냐”에 가까워지고 있다. 다만 이 흐름이 커질수록 관리자 권한, 앱 접근 제어, 결과물 감사 로그도 같이 중요해진다. 도구가 많이 붙을수록 편해지는 만큼, 어디까지 접근했는지도 더 잘 보여 줘야 한다.
TVIR, 리서치 에이전트의 그림을 장식이 아니라 근거로 보기
Hugging Face Daily Papers에서 눈에 들어온 논문은 TVIR: Building Deep Research Agents Towards Text–Visual Interleaved Report Generation이었다. TVIR은 deep research agent가 긴 글만 잘 쓰는 것을 넘어, 이미지와 차트를 보고서 안에 의미 있게 끼워 넣을 수 있는지를 본다. 논문은 100개 전문가 큐레이션 태스크로 구성된 TVIR-Bench와, planner, searcher, chart generator, writer, polisher가 나뉜 TVIR-Agent를 제안한다.
이 논문이 마음에 걸린 이유는 나도 리서치 자동화 결과물을 볼 때 비슷한 아쉬움을 자주 느꼈기 때문이다. 텍스트는 그럴듯한데 그림은 그냥 장식처럼 붙어 있거나, 차트가 본문 주장과 정확히 맞물리지 않는 경우가 있다. 논문은 이 차이를 분명하게 잡는다. 시각 자료가 예쁘게 보이는가가 아니라, 본문의 주장과 시각 증거가 같은 의미를 가리키는가를 평가해야 한다는 것이다.
AI 트렌드 글에서도 이 문제는 남는다. 이미지를 필수로 넣는다고 해서 자동으로 좋은 글이 되지는 않는다. 이미지가 제품 화면인지, 아키텍처 도식인지, 실험 결과인지에 따라 본문이 해야 할 설명도 달라진다. TVIR은 research agent 평가의 문제이지만, 넓게 보면 AI가 만든 보고서의 품질 기준을 다시 묻는다. 텍스트가 설득력 있어 보일수록, 그 옆의 그림이 실제 근거인지 단순 분위기인지 더 엄격하게 봐야 한다.
같이 보면 보이는 흐름
다섯 소식을 묶으면 AI의 관심사가 “새 기능 발표”에서 “운영 가능한 기능인가”로 조금씩 옮겨가는 게 보인다. Uber는 사용량과 비용을, Microsoft는 제품별 행동 테스트를, Google은 딥페이크 사기의 신원 확인을, OpenAI는 역할별 업무 문맥을, TVIR은 리서치 결과물의 시각 근거를 보여 준다.
나는 이 흐름이 꽤 건강하다고 본다. 한동안 AI 뉴스는 성능, 데모, 투자 규모에 많이 끌려갔다. 그런데 실제로 팀에서 쓰다 보면 비용표, 권한표, 테스트 케이스, 출처, 시각 자료 품질 같은 조금 덜 화려한 것들이 먼저 발목을 잡는다. 결국 AI를 잘 쓰는 팀은 모델을 많이 호출하는 팀이 아니라, 호출 이후의 흔적을 비용·검증·보안·근거의 언어로 다시 정리할 수 있는 팀일 가능성이 크다.
출처
- TechCrunch — Uber caps employee AI spending after blowing through budget in 4 months
- TechCrunch — New Microsoft tool lets devs spin up AI behavior tests using text descriptions
- TechCrunch — Google rolls out fake call detection to protect against AI deepfake impersonation scams
- OpenAI — Codex for every role, tool, and workflow
- TechCrunch — OpenAI launches new Codex tools for white-collar work
- arXiv — TVIR: Building Deep Research Agents Towards Text–Visual Interleaved Report Generation