2026년 6월 2일 | AI 최신 트렌드
6월 2일 아침 기준으로 눈에 들어온 축은 에이전트가 어디서 실행되고, 실패는 어디서 드러나는가였다.
하루치 소식을 훑다 보니 “모델이 더 똑똑해졌다”보다 “그 모델을 PC, 브라우저, 고객지원, 관측 도구, 로컬 이미지 생성기 어디에 붙일 것인가”가 더 크게 보였다. 나는 이런 뉴스를 볼 때마다 기능 이름보다 운영 표면을 먼저 보려고 한다. 실제 제품에 들어가는 순간에는 모델 성능보다 권한, 비용, 보안, 디버깅, 하드웨어 제약이 먼저 튀어나오기 때문이다.
Nvidia RTX Spark, 에이전트 PC를 CPU 시장 이야기로 끌어오기
TechCrunch가 다룬 Nvidia RTX Spark 소식은 단순한 새 칩 발표라기보다, AI PC의 기준을 “코파일럿 버튼이 있는 노트북”에서 “로컬 agent를 굴릴 수 있는 작업 기계”로 바꾸려는 시도처럼 보였다. 기사에서는 Microsoft, Dell, HP 등 PC 파트너와 Windows 쪽 샌드박스 이야기가 같이 나왔고, Jensen Huang은 AI agent가 도구를 쓰는 만큼 CPU 수요도 커질 것이라고 봤다.
여기서 재미있는 점은 Nvidia가 GPU 회사의 문법으로만 말하지 않는다는 데 있다. agent가 로컬에서 움직이려면 GPU만이 아니라 CPU, 메모리, 샌드박스, 앱 연동이 같이 필요하다. 클라우드 API를 부르는 챗봇은 네트워크 너머에서 실패하지만, PC 위에서 도구를 쓰는 agent는 파일, 브라우저, 앱 권한, 사용자 데이터 근처에서 실패한다. 그래서 AI PC는 벤치마크 숫자보다 “어떤 권한 경계 안에서 무엇을 실행할 수 있느냐”가 더 중요해진다.
나는 이 흐름이 Apple Silicon 이후의 개인 컴퓨팅 경쟁과도 이어진다고 본다. 다만 “로컬 실행”이라는 말이 늘 비용 절감이나 개인정보 보호로만 끝나지는 않는다. 로컬에서 돌릴수록 사용자는 더 가까운 실패를 경험하고, 제조사는 그 실패를 감당할 업데이트·로그·복구 설계를 같이 내야 한다.
Gemini Spark, 24시간 agent가 만든 감탄과 불안
The Verge의 Gemini Spark 체험기는 읽으면서 고개가 끄덕여지는 장면이 많았다. Spark는 Google AI Ultra 플랜에서 제공되는 24/7 agent로 소개됐고, Gmail, Drive, Calendar 같은 개인 데이터에 들어가 사용자의 요청을 처리한다. 기사 속 테스트에서는 예산 스프레드시트를 찾아 계산하고, 이메일 초안을 쓰고, 일정까지 잡아 주는 장면이 나온다.
이건 데모 영상으로 보면 꽤 멋있다. 그런데 글을 차분히 읽으면 곧바로 다른 질문이 따라온다. 개인 agent의 품질은 모델의 추론력보다 “내 데이터를 얼마나 넓게 맡길 것인가”라는 신뢰 계약에 걸려 있다. 내가 쓰는 메일, 드라이브, 캘린더, 가족 이름, 평소 말투가 모두 agent의 작업 재료가 되면, 편리함과 부담이 동시에 커진다.
또 하나 인상적이었던 건 실패의 결이다. Spark는 어떤 작업에서는 사람처럼 문맥을 잘 맞췄지만, 다른 작업에서는 가짜 표를 만들거나 엉뚱한 링크를 붙였다고 한다. 이건 agent 제품에서 자주 보는 패턴이다. 처음 몇 번은 “어, 이걸 알아서 했네” 싶은데, 한 번 틀릴 때는 내가 직접 했으면 절대 만들지 않았을 종류의 오류가 나온다. 그래서 이런 개인 agent는 자동화 범위를 넓히기 전에 확인 지점과 되돌리기 경로를 먼저 보여 줘야 한다.
Meta AI 지원 챗봇 해킹, 고객지원 자동화의 가장 약한 고리
The Verge는 Meta의 AI 지원 챗봇이 Instagram 계정 탈취에 악용된 사례를 보도했다. 보도에 따르면 공격자는 AI 지원 챗봇을 설득해 피해자 계정에 새 이메일을 연결하고, 그 이메일로 비밀번호 재설정을 진행하는 식으로 계정을 가져갔다. Meta는 문제를 해결했고 영향을 받은 계정을 보호 중이라고 밝혔다.
이 뉴스는 기술적으로 아주 복잡한 해킹보다 더 불편하게 느껴졌다. 이유는 간단하다. 계정 복구는 원래도 공격자가 가장 집요하게 노리는 구간이다. 여기에 “사용자의 말을 이해해서 도와주는” AI를 붙이면, 친절함 자체가 공격 표면이 된다. 고객지원 AI는 답변 생성기가 아니라 권한 변경 워크플로우의 앞문이다. 그렇다면 prompt를 잘 알아듣는 능력보다 권한 변경을 절대 대신하지 않는 구조가 먼저다.
나는 회사들이 AI 지원을 붙일 때 “문의량을 줄인다”는 목표를 너무 앞에 두는 경우가 많다고 느낀다. 하지만 비밀번호, 이메일, 2FA, 계정 복구처럼 민감한 플로우에서는 자동 응대가 빠를수록 사고도 빠르게 커진다. 이 영역에서는 agent가 사용자 편의를 높이는 만큼, 사람이 승인해야 하는 단계와 감사 로그가 눈에 보이게 남아야 한다.
Spanlens, 에이전트 trace를 제품 기능처럼 다루기
GeekNews에 올라온 Spanlens 소개는 작지만 꽤 실무적인 소식이었다. Spanlens는 OpenAI, Anthropic, Gemini SDK의 baseURL을 바꾸거나 SDK로 trace 정보를 주입해 LLM 호출, 토큰, 비용, latency, 에이전트 trace를 기록하는 오픈소스 관측 플랫폼이다. LangGraph topology view, Critical Path 분석, 프롬프트 A/B 통계 비교까지 들어가 있다는 점이 눈에 띄었다.
요즘 agent를 붙여보면 “모델이 틀렸다”보다 “어느 호출이 늦었고, 어느 도구를 왜 두 번 불렀고, state가 언제 바뀌었는지 모르겠다”가 더 자주 막힌다. 그래서 나는 Spanlens 같은 도구가 단순 대시보드라기보다 agent 개발의 기본 장비에 가깝다고 본다. agent를 제품에 넣는 순간 observability는 선택 기능이 아니라 디버깅 언어가 된다.
특히 Critical Path를 자동으로 잡아 주는 기능은 작아 보여도 유용하다. 에이전트는 병렬 호출, 재시도, 도구 호출, 검색, 후처리가 섞이기 때문에 전체 latency만 봐서는 병목이 잘 안 보인다. trace를 “시간순 로그”가 아니라 “실행 그래프”로 볼 수 있어야, 프롬프트를 고칠지, 도구를 줄일지, 캐시를 넣을지 판단할 수 있다.
Bonsai Image 4B, 로컬 이미지 생성의 병목을 비트 수로 밀어붙이기
GeekNews의 Bonsai Image 4B 소개는 로컬 생성 모델 쪽에서 재미있게 본 소식이다. 요지는 FLUX.2 Klein 4B 계열 이미지 생성 모델을 1-bit 또는 ternary 표현으로 줄여, 노트북과 모바일에서도 쓸 수 있는 수준으로 메모리 요구량을 낮췄다는 것이다. 소개 글 기준으로 transformer 크기는 원본 7.75GB에서 1-bit는 0.93GB, ternary는 1.21GB 수준까지 내려간다.
이미지 생성은 텍스트 답변보다 반복 횟수가 훨씬 많다. 한 번 만들고 끝나는 게 아니라 seed, 스타일, 구도, 프롬프트를 계속 바꿔 본다. 그래서 로컬 실행의 장점이 꽤 직접적이다. 대기 시간이 줄고, 호출당 비용을 덜 의식하고, 아직 공개하고 싶지 않은 시각 자료도 자기 기기에서 돌려볼 수 있다.
물론 1-bit나 ternary라는 숫자만 보고 “이제 클라우드가 필요 없다”고 말하기는 이르다. 품질, 속도, 앱 경험, 모델 업데이트, 안전장치가 모두 남아 있다. 그래도 방향은 분명하다. 생성형 AI의 다음 경쟁은 거대한 모델 하나를 더 크게 만드는 일만이 아니라, 쓸 만한 모델을 사용자의 장치 가까이까지 압축하는 일이다. Nvidia의 agent PC 소식과 나란히 보면, 로컬 AI는 하드웨어 발표와 모델 압축이 서로 밀어 주는 흐름으로 커지고 있다.
같이 보면 보이는 흐름
다섯 소식을 한 줄로 묶으면, agent와 생성 모델이 “클라우드 안의 기능”에서 “내 기기와 계정, 업무 흐름 안의 실행 주체”로 내려오는 중이다. Nvidia는 하드웨어와 OS 표면을, Google은 개인 데이터와 장시간 작업을, Meta 사례는 민감한 권한 플로우의 위험을, Spanlens는 실행을 읽는 도구를, Bonsai는 로컬 생성의 메모리 병목을 보여 준다.
나는 이 흐름을 볼 때마다 agent 제품의 경쟁력이 모델 이름만으로 정해지지 않는다는 생각을 다시 한다. 좋은 모델을 붙이는 건 출발점이고, 그다음에는 어디까지 맡길지, 어떻게 관측할지, 잘못 움직였을 때 어떻게 멈출지가 남는다. 결국 2026년의 AI 제품은 “무엇을 생성하느냐”에서 “어디서 실행되고, 어떤 흔적을 남기며, 어떤 권한으로 움직이느냐”로 질문이 옮겨가는 중이다.
개발자 입장에서는 이 변화가 조금 피곤하기도 하다. 예전에는 API 응답 품질만 비교하면 됐는데, 이제는 기기 성능, 계정 권한, trace 저장 위치, 비용 계측, 보안 승인 흐름까지 같이 봐야 한다. 하지만 이 피곤함이 곧 제품의 차이가 되는 시점이 온 것 같다. agent가 더 많이 움직일수록, 그 움직임을 안전하게 좁히고 다시 읽을 수 있는 팀이 결국 더 빨리 배운다.
출처
- TechCrunch — Nvidia chases $200B CPU market with AI agent PCs from Microsoft, Dell, and HP
- The Verge — Gemini’s new AI agent is about as good as Google’s demo
- The Verge — Meta’s own AI was exploited to hijack Instagram accounts
- GeekNews — Spanlens: LLM 호출과 에이전트 trace를 한 곳에서 보는 오픈소스 관측 플랫폼
- GeekNews — Bonsai Image 4B: 로컬 기기용 1비트/터너리 이미지 생성 모델