<!doctype html>
2026년 6월 28일 | AI 최신 트렌드
에이전트 보안 실험, 긴 문서 OCR, 초대형 모델 양자화, 장기 업무 벤치마크, 에이전트 신원 표준, AI 전용 하드웨어 인력 이동이 같은 화면에 들어왔다. 겉으로는 흩어진 소식처럼 보이지만, 내가 보기에는 한 방향으로 이어진다. AI 제품의 경쟁축이 모델 성능표에서 운영 가능한 시스템의 경계로 옮겨가고 있다. 누가 더 높은 점수를 냈느냐만큼이나, 어떤 권한을 줄 수 있는지, 긴 문서를 얼마나 오래 버티는지, 비용과 메모리 병목을 어떻게 줄이는지, 그리고 에이전트를 어떤 신원으로 관리할지가 중요해졌다.
1. 프롬프트 인젝션 실험, “안 뚫렸다”보다 권한 경계가 더 중요했다
GeekNews가 정리한 Fiu 공개 해킹 실험은 꽤 흥미로웠다. 2,000명 넘는 참가자가 메일을 통해 AI 어시스턴트를 속여 비밀 파일을 빼내려 했고, 공격 시도는 6,000건을 넘었다. 결과만 보면 비밀 유출은 0건이었다. 사용된 모델은 Claude Opus 4.6 계열로 정리되어 있었고, 방어 규칙은 복잡한 보안 제품보다 “자격 증명 공개 금지, 구성 파일 수정 금지, 이메일 명령 실행 금지, 외부 유출 금지” 같은 짧은 원칙에 가까웠다.
그런데 나는 이 실험을 “프롬프트 몇 줄이면 안전하다”로 읽지는 않았다. 오히려 반대다. 실제 업무 에이전트는 메일을 읽고, 파일을 고치고, API를 부르고, 때로는 답장까지 보내야 한다. 실험 환경에서는 공격자가 많았고, 권한도 제한되어 있었다. 그래서 실무적으로 남는 포인트는 모델이 얼마나 똑똑하게 거절했느냐보다 권한을 얼마나 작게 쪼개고, 메일 하나를 새 컨텍스트에서 독립 처리했느냐였다. 에이전트 보안은 prompt hardening만으로 끝나는 문제가 아니라 실행 권한, 컨텍스트 오염, 비용 폭주까지 같이 묶인 운영 문제다.
2. Unlimited OCR, 긴 문서에서는 “전체 기억”이 병목이 된다
바이두의 Unlimited OCR 소식은 문서 AI 쪽에서 볼 만했다. LLM 기반 OCR은 PDF 이미지를 보고 텍스트를 생성하는 방식으로 복잡한 레이아웃까지 다룰 수 있지만, 출력이 길어질수록 KV 캐시가 커지고 생성 속도가 느려진다. 문서를 페이지 단위로 잘라 처리하면 당장은 편하지만, 표가 페이지를 넘어가거나 맥락이 이어질 때 깨지기 쉽다.
Unlimited OCR은 이 문제를 Reference Sliding Window Attention, 줄여서 R-SWA로 푼다. 입력 이미지와 지시문은 계속 참조하되, 이미 생성한 모든 토큰을 끝까지 붙잡지 않고 최근 출력 일부만 유지한다. 기사 기준으로는 기본 128개 토큰 정도를 남기는 식이다. 사람으로 치면 책을 베껴 쓸 때 처음부터 모든 문장을 다시 읽지 않고, 원본과 방금 쓴 몇 줄만 보면서 이어 쓰는 방식에 가깝다. 이 구조가 재미있는 이유는 OCR을 넘어서, 긴 출력 작업에서 모델이 무엇을 계속 기억해야 하고 무엇을 버려도 되는지를 설계하는 힌트를 주기 때문이다.
성능 수치도 방향을 보여 준다. 기사에는 OmniDocBench에서 기존 DeepSeek OCR보다 점수가 올랐고, 20쪽을 넘는 문서와 40쪽 이상 문서에서도 긴 출력 처리가 가능했다는 설명이 붙어 있었다. 물론 OCR은 실제 문서 품질, 해상도, 표 구조, 수식에 따라 체감이 크게 달라진다. 그래도 긴 문서 처리에서 “컨텍스트를 무한히 늘리자”가 아니라 “참조와 최근 출력만 안정적으로 관리하자”는 접근은 꽤 실용적으로 보였다.
3. GLM-5.2 NVFP4, 작은 체크포인트가 항상 빠른 모델은 아니다
엔비디아의 GLM-5.2 NVFP4 공개는 양자화가 이제 “작은 모델을 싸게 돌리는 기술”에서 “거대한 모델을 배포 가능한 형태로 접는 기술”로 가고 있음을 보여 준다. 기사에 따르면 GLM-5.2는 753B 규모의 MoE 모델이고, FP8 체크포인트는 약 1.5TB 수준이다. NVFP4 양자화 버전은 이를 410GB 안팎으로 줄이면서 GPQA Diamond, CyCode, IFBench 같은 지표에서 원본과 거의 비슷한 성능을 유지했다고 한다.
나는 이 부분보다 뒤쪽의 단서가 더 중요하다고 봤다. 어떤 팀은 B200 GPU 8장 환경에서 NVFP4가 HBM 메모리를 크게 아끼고 KV 캐시 여유도 늘렸지만, 결국 FP8로 돌아갔다고 한다. 이유는 병목이 메모리가 아니라 디코딩 속도였기 때문이다. NVFP4 버전은 Multi-Token Prediction 기반 speculative decoding을 지원하지 않아 단일 스트림 처리 속도가 떨어졌다는 설명이 붙어 있었다.
이건 모델 서빙을 해 본 사람에게 익숙한 결론이다. 체크포인트가 작아졌다고 운영 비용이 자동으로 줄지는 않는다. 동시 요청이 많고 메모리가 병목이면 4비트가 답일 수 있지만, 낮은 지연시간과 빠른 토큰 생성이 핵심이면 다른 최적화가 더 중요해진다. 앞으로 모델 릴리스 글을 볼 때는 “몇 비트인가”보다 “내 workload에서 병목이 어디인가”를 먼저 물어야 한다.
4. AA-Briefcase, 짧은 정답보다 오래 끌고 가는 업무를 재기 시작했다
Artificial Analysis의 AA-Briefcase 벤치마크는 평가 쪽 흐름이다. 기존 벤치마크가 짧은 문제나 단일 질문을 많이 풀게 했다면, 이 벤치마크는 몇 주짜리 기업 프로젝트를 흉내 낸다. 수천 개의 회사 문서, 회의록, 데이터 파일, 2만5천 건 이상의 Slack 메시지, 3,500건 이상의 이메일을 읽고 재무 모델, 이사회 자료, 제품 기획안 같은 결과물을 만들어야 한다는 식이다.
눈에 들어온 건 상위 모델도 아직 “업무 대체”라고 말하기엔 거리가 있다는 점이다. 기사에 따르면 1위 모델도 전체 기준을 모두 충족한 과제는 3% 수준이고, 91개 과제 중 31개는 어떤 모델도 평가 기준의 절반 이상을 만족하지 못했다. 긴 업무는 지식 검색, 추론, 우선순위, 산출물 형식, 모순 처리, 비용이 한꺼번에 붙는다. 단일 benchmark 점수보다 더 지저분하고, 그래서 더 현실적이다.
비용도 같이 봐야 한다. 고성능 모델이 높은 Elo를 얻어도 과제당 비용이 크게 뛰면, 실제 기업에서는 중간 모델과 workflow 설계가 더 나은 답이 될 수 있다. 나는 이런 평가가 늘어나는 게 반갑다. 코딩 에이전트든 리서치 에이전트든, 결국 중요한 건 “어려운 문제 하나를 맞혔나”보다 흩어진 자료를 오래 붙잡고 일관된 결과물을 냈는가이기 때문이다.
5. AI 에이전트 디지털 ID, 상호운용성은 곧 통제 구조가 된다
중국의 AI 에이전트 디지털 신원 표준은 조금 다른 결의 인프라 소식이다. 중국 국가시장감독관리총국이 AI 에이전트 상호 연결 표준을 발표했고, 핵심은 에이전트마다 고유 신원 코드를 부여해 인증, 통신, 협업을 하나의 관리 체계 안에서 다루겠다는 것이다. 휴머노이드 로봇에 디지털 식별 코드를 붙이는 흐름의 연장선으로도 읽힌다.
이 소식은 양면적이다. 산업 현장에서는 에이전트끼리 일을 나눌 때 “누가 호출했는가, 어떤 권한을 가졌는가, 어떤 기록을 남겼는가”가 반드시 필요하다. 특히 금융, 제조, 의료처럼 책임 추적이 중요한 곳에서는 신원과 감사 로그 없이는 에이전트 협업을 크게 열기 어렵다. 반대로 국가 표준과 폐쇄형 관리 시스템이 결합하면, 상호운용성이라는 말이 감시와 통제의 언어로 바뀔 수도 있다.
개발자 입장에서는 표준 자체보다 질문이 남는다. 에이전트 ID는 누가 발급하고, 폐기와 권한 회수는 어떻게 하며, 여러 국가와 클라우드 사이에서 신뢰는 어떻게 이어질까. 사람 계정, 서비스 계정, API key, workload identity가 이미 복잡한데, 여기에 자율 에이전트 신원이 붙으면 운영 표면은 더 넓어진다. 에이전트 시대의 IAM이 앞으로 꽤 큰 주제가 될 것 같다.
6. OpenAI 하드웨어 인력 이동, 모델 다음의 인터페이스 전쟁
TechCrunch가 전한 Paul Meade의 OpenAI 합류 보도도 그냥 인사 이동으로 넘기기 어렵다. Meade는 Apple Vision Pro 쪽을 맡았고, Apple의 AI 스마트 안경 개발에도 관여한 것으로 알려졌다. OpenAI는 이미 Jony Ive와 AI 디바이스를 준비하고 있다는 보도가 있었으니, 이번 이동은 모델 회사가 실제 사용자 인터페이스를 직접 붙잡으려는 흐름과 이어진다.
나는 AI 하드웨어를 볼 때 늘 조심스럽다. 전용 기기는 데모에서는 근사하지만, 일상에서는 배터리, 가격, 입력 방식, 사생활, 착용감, 앱 생태계가 바로 발목을 잡는다. 그래도 스마트폰 화면 안에 챗봇을 넣는 방식만으로는 에이전트 경험이 완전히 풀리지 않는 것도 사실이다. 카메라, 마이크, 시선, 공간 맥락을 다룰 수 있는 기기가 나오면 AI는 “앱 하나”가 아니라 주변 환경을 읽는 인터페이스가 된다.
문제는 평온한 기기가 실제로 평온하려면, 모델보다 더 많은 제품 감각이 필요하다는 점이다. 언제 말하지 않을지, 무엇을 기록하지 않을지, 어떤 행동은 반드시 사용자 확인을 거칠지 같은 결정이 중요하다. 그래서 하드웨어 인력 이동은 단순한 채용 뉴스가 아니라, AI 회사가 OS와 디바이스의 경계까지 내려오고 있다는 신호로 보인다.
한 줄로 접어 본 흐름
여섯 소식을 묶어 보면, AI의 다음 경쟁은 “모델이 더 똑똑해졌나”보다 “실제 세계에서 버틸 수 있는가”에 가까워진다. Fiu 실험은 에이전트가 어떤 권한을 가져야 하는지 묻고, Unlimited OCR과 GLM-5.2 NVFP4는 긴 출력과 대형 모델을 운영 가능한 비용·메모리 안에 넣으려 한다. AA-Briefcase는 에이전트의 장기 업무 능력을 더 현실적인 방식으로 재고, 중국의 디지털 ID 표준은 에이전트 협업을 신원과 감사 체계로 묶으려 한다. OpenAI 하드웨어 인력 이동은 그 모든 모델이 결국 어떤 기기와 인터페이스를 통해 사람 곁에 놓일지를 보여 준다.
그래서 나는 이번 묶음을 기술 발표 모음이라기보다 운영 경계의 변화로 읽었다. 이제 좋은 AI 시스템은 모델, 문서 처리, 양자화, 평가, 신원, 하드웨어가 따로 움직이지 않는다. 이 조각들이 맞물릴 때만 실제 업무와 일상으로 들어간다. 반대로 한 조각이라도 허술하면, 성능표가 아무리 좋아도 제품은 금방 삐걱거린다.