2026년 6월 26일 | AI 최신 트렌드
에이전트 경쟁이 모델 성능표 바깥으로 밀려나면서, 평가 환경·권한 경계·인프라 설계가 한꺼번에 뉴스가 됐다. 나는 이번 흐름을 보면서 “모델을 얼마나 똑똑하게 만들 것인가”보다 “그 똑똑함이 실제 작업 표면에서 어디서 새는가”를 더 자주 묻게 됐다. 벤치마크 숫자는 여전히 중요하지만, 장시간 작업을 맡길 때는 시뮬레이션 환경, 도구 호출 방식, 냉각 설비, 정책 리스크까지 같은 표에 올라온다.
Patronus AI: 에이전트 평가가 디지털 월드로 이동
TechCrunch는 Patronus AI가 5천만 달러 규모의 Series B 투자를 유치했다고 전했다. 핵심은 단순한 채점기가 아니라, 에이전트가 웹사이트·내부 소프트웨어·업무 흐름을 건너다니며 실제로 일을 끝내는지 보는 “디지털 월드”다. 기존 벤치마크가 문제 풀이를 잘 보는 시험지에 가깝다면, 이쪽은 업무 환경을 복제한 모의 훈련장에 가깝다.
이 소식이 눈에 들어온 이유는 에이전트 평가의 단위가 점점 길어지고 있기 때문이다. 짧은 질의응답이나 단일 코드 수정은 이미 꽤 많이 측정된다. 하지만 10시간, 10일, 10주 동안 돌아가는 에이전트는 중간에 편법을 찾거나, 요구사항을 잘못 고정하거나, 검증하기 쉬운 하위 목표만 골라 성공처럼 보일 수 있다. Patronus가 말하는 “현실적인 시나리오”는 바로 그 빈틈을 잡으려는 장치다.
나는 여기서 평가 회사의 성장보다, 평가 환경 자체가 제품이 되는 흐름이 더 중요해 보였다. 에이전트가 실제 업무를 맡으려면 모델 카드보다 재현 가능한 실패 환경이 먼저 필요하다. 소프트웨어 엔지니어링과 금융처럼 결과 검증이 비교적 분명한 영역에서 먼저 시작하는 것도 자연스럽다. 어려운 점은 그다음이다. “잘 끝냈다”를 숫자로만 말하기 어려운 업무까지 디지털 월드가 얼마나 확장될지가 관건이다. 원문은 TechCrunch 기사에서 확인했다.
Claude 추출 논쟁: 모델 증류가 보안 이슈가 되는 순간
Ars Technica 보도에서 가장 날카로운 숫자는 2만 5천 개 계정과 2천 880만 회의 Claude 교환이었다. Anthropic은 Alibaba 관련 주체가 Claude의 고급 역량을 불법적으로 추출하려 했다고 주장했고, 대상 능력으로 에이전틱 추론, 소프트웨어 엔지니어링, 장기 작업을 들었다. Alibaba 쪽의 반론과 법적 다툼까지 얽혀 있어, 이 사안은 단순한 기술 논문처럼 깔끔하게 정리되지 않는다.
그래도 이 이슈가 트렌드로 중요한 이유는 분명하다. 모델 증류는 원래 작은 모델을 효율적으로 학습시키는 정상적인 기법이기도 하다. 하지만 프런티어 모델 접근이 제한되고, 특정 능력이 보안·국가 경쟁력으로 해석되기 시작하면, 같은 기술이 “역량 탈취”라는 언어로 바뀐다. 특히 장기 에이전트와 코드 작업 능력은 바로 제품 경쟁력과 연결되기 때문에 민감도가 높다.
내가 흥미롭게 본 지점은 모델 접근 제어가 API 키 관리만으로 끝나지 않는다는 점이다. 많은 계정, 프록시, 반복 질의, 유사한 과제 패턴을 한꺼번에 봐야 한다. 결국 프런티어 모델 회사의 보안은 사이버 보안, 남용 탐지, 학습 데이터 정책, 수출 규제까지 걸친 운영 문제가 된다. 원문은 Ars Technica 보도와 GeekNews 요약을 함께 대조했다.
Krea 2: 오픈 가중치 이미지 모델의 운영 노트
Krea 2 기술 보고서는 오픈 가중치 이미지 모델을 단순히 “새 모델이 나왔다”로 보기 어렵게 만든다. 12B 규모의 Diffusion Transformer, Qwen 3 VL 텍스트 인코더, 3D Axial RoPE, 여러 단계의 학습 파이프라인이 등장하지만, 내 눈에는 데이터와 운영 이야기가 더 크게 보였다. Krea는 사전학습에서 AI 생성 이미지를 제외하고, 장기 꼬리 시각 개념을 살리기 위해 클러스터링 기반 큐레이션을 썼다고 설명한다.
이미지 생성 모델은 결과물이 예쁘면 끝나는 것처럼 보이지만, 실제로는 기본 미학이 너무 좁아지는 문제가 있다. 모델이 안정적인 그림만 잘 만들면 실사용 품질은 올라가도, 창작 탐색의 폭은 줄어든다. Krea 2가 “creative exploration”을 전면에 둔 점은 이 균형을 다시 묻는 신호처럼 보였다. 사용자 제어성과 미학 다양성을 동시에 잡으려면 데이터 필터링 기준부터 보상 모델까지 모두 영향을 받는다.
운영 노트도 재미있다. Weka 파일시스템으로 체크포인트 시간을 줄였고, GPU 온도·텐서 활성도·PCIe replay counter 같은 DCGM 지표를 학습 안정성 신호로 본다. 모델 카드보다 이런 부분에서 실제 대규모 학습의 냄새가 난다. 오픈 모델 경쟁은 가중치 공개만이 아니라 학습 운영 레시피 공개 경쟁으로도 이어지고 있다. 정리는 GeekNews의 Krea 2 요약을 기준으로 봤다.
Rubin 냉각: AI 인프라의 병목이 물과 열로 내려옴
AI 데이터센터 이야기는 자꾸 전력량으로만 요약되지만, 이번 Rubin 냉각 설계 요약은 물과 열을 더 앞에 세운다. NVIDIA Rubin 세대 인프라는 냉각수를 최대 45도까지 운용하는 100% 액체 냉각 구조를 내세우고, 조건이 맞는 지역에서는 기존 냉각탑 방식의 물 사용을 거의 0에 가깝게 줄일 수 있다고 설명한다. 기존 시스템이 6U를 차지하던 구성을 2U로 줄이는 밀도 개선도 같이 언급된다.
여기서 중요한 건 “액체 냉각이 새롭다”가 아니다. 고온 냉각을 전 시스템 단위로 통합해, 팬·냉각탑·칠러 의존도를 줄이려는 방향이다. 냉각수 온도를 너무 낮게 잡으면 장비는 편해질 수 있지만, 시설 전체는 복잡해지고 물과 전기를 더 많이 먹는다. 반대로 45도 정도로 높이면 외부 공기로 열을 버리거나, 일부 지역에서는 지역난방 같은 폐열 회수까지 생각할 수 있다.
나는 이 흐름을 보며 AI 인프라 경쟁이 점점 칩 단품 성능보다 시설 설계의 총합으로 이동한다고 느꼈다. GPU, 네트워킹, 냉각판, 랙, 건물 위치, 지역 수자원까지 한 묶음으로 최적화해야 한다. 모델을 더 크게 돌리는 일이 지역 사회의 물 사용량과 소음, 폐열 문제로 바로 이어진다는 점도 피하기 어렵다. 출처는 GeekNews의 Rubin 냉각 요약이다.
Constraint Tax: JSON 스키마가 도구 호출을 막는 버그
arXiv의 “Constraint Tax in Open-Weight LLMs”는 개발자 입장에서 꽤 찜찜한 실패 패턴을 다룬다. 도구 호출과 JSON 스키마 출력은 둘 다 에이전트 시스템의 기본 기능처럼 보인다. 그런데 여러 오픈 가중치 모델에서 두 조건을 동시에 걸면, 모델이 스키마는 잘 맞추면서 도구 호출을 아예 멈추는 현상이 관찰됐다고 한다. 논문은 이를 Tool Suppression이라고 부른다.
더 무서운 부분은 원인이 모델의 “의지”가 아니라 디코딩 레이어에 있을 수 있다는 설명이다. JSON Schema가 grammar-constrained decoding으로 컴파일되면서, XML 스타일 도구 호출을 시작하는 토큰이 마스킹될 수 있다. 그러면 모델은 도구를 써야 한다는 의도를 알아도, 실제 출력 경로에서는 도구 호출 토큰에 도달하지 못한다. 학습을 더 한다고 해결되지 않는 종류의 문제다.
실무적으로는 교훈이 간단하다. 도구 사용과 structured output을 각각 통과했다고 해서 조합도 안전하다고 믿으면 안 된다. 논문이 제안한 투패스 방식은 먼저 도구를 자유롭게 호출하게 하고, 그 결과를 넣은 뒤 별도 단계에서 JSON을 강제하는 구조다. 비용과 지연은 늘지만, 장애 원인이 디코딩 제약에 있다면 꽤 현실적인 우회다. 원문은 arXiv 초록을 확인했다.
하네스 흡수 논쟁: 모델이 스캐폴딩을 먹어 치울까
AI타임스는 Google DeepMind의 Logan Kilpatrick이 “모델이 스캐폴딩을 먹어 치울 것”이라고 본 관점을 정리했다. 지금은 LangChain, LlamaIndex, MCP, 코딩 에이전트 하네스처럼 모델 바깥의 조율 레이어가 커지고 있다. 하지만 시간이 지나면 도구 호출, 계획, 검색, 컨텍스트 관리 같은 기능이 모델이나 공식 플랫폼 안으로 더 흡수될 수 있다는 주장이다.
이 말은 한쪽으로만 받아들이기 어렵다. 실제로 프롬프트 엔지니어링, 함수 호출, RAG 일부는 외부 패턴에서 모델·플랫폼 기본 기능으로 들어갔다. 반면 현업에서는 여전히 UX, 권한 관리, 감사 로그, 조직별 워크플로가 너무 중요해서 범용 모델 하나로 다 흡수되기 어렵다. Google도 장기적으로 하네스 해자를 낮게 보면서, 동시에 Antigravity 같은 공통 에이전트 인프라를 만들고 있다는 점이 흥미롭다.
내 결론은 조금 중간에 있다. 모델이 많은 스캐폴딩을 삼키는 건 맞지만, 조직의 작업 방식과 검증 책임까지 자동으로 먹어 치우지는 못한다. 모델이 강해질수록 얇은 래퍼는 위험해지고, 반대로 감사 가능성·도메인 지식·실패 복구를 가진 하네스는 더 중요해질 수 있다. 그래서 에이전트 스타트업의 질문도 바뀐다. “모델을 잘 감쌌나”가 아니라 “모델이 좋아져도 남는 운영 문제를 잡았나”가 된다. 원문은 AI타임스 기사를 참고했다.
한 줄로 접어 둔 판단
이번 묶음의 공통점은 에이전트와 생성 모델이 더 이상 모델 파일 하나로 설명되지 않는다는 점이다. 평가 환경은 디지털 월드가 되고, 모델 역량은 추출·보안 이슈가 되고, 이미지 모델은 학습 운영 레시피를 같이 공개하고, 데이터센터는 물과 폐열 문제로 내려온다. 거기에 JSON 스키마 하나가 도구 호출을 막는 논문까지 붙으면, 실무자의 체크리스트는 훨씬 길어진다.
나는 당분간 AI 트렌드를 볼 때 “새 모델이 무엇을 할 수 있나”와 함께 “그 능력을 둘러싼 실행 표면이 어디까지 준비됐나”를 같이 보려고 한다. 성능이 올라갈수록 주변부는 사소해지는 게 아니라, 오히려 장애가 터지는 위치로 더 선명하게 드러난다.
출처
- TechCrunch, Patronus AI lands $50M to build digital worlds that stress-test AI agents
- Ars Technica, Anthropic says Alibaba must be punished for largest Claude cloning attack
- GeekNews, Krea 2: 오픈 가중치 12B 이미지 모델 기술 보고서
- GeekNews, 45°C 냉각 설계로 데이터센터 물 사용량을 거의 0으로 줄임
- arXiv, Constraint Tax in Open-Weight LLMs
- AI타임스, 모델이 하네스를 먹어 치울 것