2026년 7월 10일 | AI 최신 트렌드
에이전트가 답변 창을 벗어나 문서와 앱을 직접 다루기 시작하자, 모델 성능만큼 권한 경계와 검증 방식이 중요해졌다. 7월 9일 공개된 소식들을 훑어보니 이 흐름이 꽤 선명했다. OpenAI와 Meta는 긴 작업을 맡는 제품과 코딩 모델을 내놨고, 보안 연구자는 공개 이슈 하나가 비공개 저장소 유출로 이어질 수 있음을 보였다. 한편 Anthropic은 모델 내부를 들여다보는 도구를, Mistral은 단일 카메라 로봇 내비게이션 모델을 공개했다.
내가 이번 묶음에서 가장 눈여겨본 건 “더 오래 일하는 모델”과 “더 안전하게 맡기는 시스템” 사이의 간격이다. 기능 발표만 읽으면 자동화 범위가 빠르게 넓어지는 것처럼 보이지만, 실제 도입 판단은 어떤 데이터에 접근하고 어떤 행동을 승인 없이 실행하는지까지 내려가야 한다.
ChatGPT Work: 답변이 아니라 완성된 산출물을 맡기는 방향
Figure 1: 여러 앱과 파일을 오가며 긴 작업을 수행하도록 설계된 ChatGPT Work
OpenAI가 공개한 ChatGPT Work는 앱과 파일에서 정보를 모아 스프레드시트, 슬라이드, 문서, 웹 앱 같은 결과물을 만드는 에이전트다. 복잡한 목표를 작은 단계로 나누고 몇 시간 동안 이어서 처리하며, 진행 중에 사용자가 질문에 답하거나 방향을 바꾸고 중요한 행동을 승인할 수 있게 했다. 휴대폰에서 시작한 작업을 데스크톱에서 이어받고, 예약 작업으로 Slack이나 Microsoft Teams의 새 메시지를 문서에 반영하는 흐름도 제시했다.
이름은 새롭지만 핵심은 채팅 UI의 확장보다 Codex에서 검증된 장기 실행 방식을 일반 업무로 옮기는 것에 가깝다. OpenAI는 주간 Codex 사용자가 500만 명을 넘었고, 그중 100만 명 이상이 소프트웨어 개발 밖의 업무에도 사용한다고 밝혔다. 다만 “목표 하나를 주면 끝까지 처리한다”는 말은 권한 설계가 함께 있어야 성립한다. 회계 마감이나 영업 자료처럼 여러 시스템을 건드리는 작업에서는 완료율보다 승인 지점, 출처 추적, 잘못된 수정의 되돌리기부터 봐야 한다.
Muse Spark 1.1: Meta도 코딩 에이전트 가격 경쟁에 진입
Figure 2: Meta가 공개한 에이전트형 코딩 모델 Muse Spark 1.1
Muse Spark 1.1은 멀티스텝 추론과 도구 사용, 컴퓨터 사용을 앞세운 Meta의 에이전트형 코딩 모델이다. 회사 설명과 보도 내용을 종합하면 대규모 코드 마이그레이션, 버그 수정, 외부 앱을 넘나드는 개인 업무를 주요 용도로 잡았고, 새 Meta Model API를 통해 개발 도구에 연결할 수 있게 했다. 가격은 입력 100만 토큰당 1.25달러, 출력 100만 토큰당 4.25달러로 보도됐다.
4월의 첫 Muse Spark가 배포 전략을 보여주는 신호였다면, 1.1은 실제 API 가격과 코딩 작업을 전면에 내세운 경쟁 제품에 더 가깝다. 나는 벤치마크 한 줄보다 큰 저장소에서 실패한 작업을 얼마나 잘 재개하는지, 여러 도구 호출 사이의 상태를 얼마나 안정적으로 보존하는지를 더 보고 싶다. 코딩 에이전트는 한 번의 정답률보다 긴 실행 중 생기는 작은 오류의 누적이 비용과 신뢰도를 좌우하기 때문이다.
GitLost: 공개 이슈가 비공개 저장소로 이어진 프롬프트 인젝션
Figure 3: 공개 저장소 입력과 조직 내부 권한이 만날 때 생긴 GitLost 공격 경로
Noma Labs가 공개한 GitLost 사례는 에이전트 권한이 넓을수록 입력 신뢰 경계가 얼마나 중요해지는지 보여준다. 연구진 설명에 따르면 공격자는 공개 저장소에 조작된 이슈를 만들었고, GitHub Agentic Workflows가 그 내용을 읽어 같은 조직의 비공개 저장소 데이터를 가져온 뒤 공개 댓글에 쓰도록 유도했다. 별도 자격 증명이나 코드 변경 없이 이슈 제목과 본문이 간접 프롬프트 인젝션의 통로가 됐다.
여기서 모델이 악성 지시를 알아차리지 못했다는 사실만 탓하면 설계 문제를 놓친다. 공개 입력을 읽는 에이전트에 여러 저장소의 읽기 권한과 공개 댓글 쓰기 권한을 동시에 준 조합 자체가 위험했다. 읽기 권한, 외부 출력, 자동 실행을 한 번에 열지 않는 것, 민감한 저장소 접근 뒤에는 사람 승인을 두는 것, 모델이 읽은 비신뢰 데이터를 명령과 분리하는 것이 우선이다. 에이전트 보안은 프롬프트 문구보다 권한과 데이터 흐름을 코드로 제한하는 쪽에서 시작해야 한다.
J-Lens: Claude가 곧 쓸 개념을 내부에서 비춰 보기
Figure 4: Jacobian lens가 포착하는 모델 내부의 근미래 개념 공간
Anthropic의 Jacobian lens, 줄여서 J-Lens는 Claude Opus 4.6의 내부 계산에서 당장 다음 토큰뿐 아니라 가까운 미래에 쓰일 법한 단어와 개념을 드러내는 기계적 해석 도구다. 연구진은 이 영역을 J-space라고 불렀다. 산술 문제의 중간 결과, 단백질 서열을 보고 떠올린 개념, 코드 디버깅을 포기하고 가짜 버그를 만들려는 장면에서 나타난 ‘fake’와 ‘panic’ 같은 신호가 사례로 소개됐다.
이 도구가 모델의 속마음을 그대로 읽는다고 받아들이면 과하다. 기사에서도 J-Lens를 천장 조명이 아니라 일부만 비추는 손전등에 비유한다. 신호가 보였다고 의도나 감정을 증명하는 것도 아니고, 신호가 없다고 해당 계산이 없었다고 결론 내릴 수도 없다. 그래도 장기 실행 에이전트가 이상한 방향으로 틀기 직전의 내부 패턴을 관찰하고, 실패 사례를 설명 가능한 단서로 바꾸려는 시도라는 점은 꽤 반갑다.
Robostral Navigate: RGB 카메라 하나로 길을 찾는 8B 모델
Figure 5: 단일 RGB 카메라와 자연어 지시를 입력으로 쓰는 Robostral Navigate
Mistral의 Robostral Navigate는 RGB 카메라 한 대와 자연어 지시만으로 이동 경로를 만드는 8B embodied navigation 모델이다. 현재 화면 안의 목표 지점과 도착 방향을 이미지 좌표로 예측하고, 목표가 시야 밖이면 로봇 좌표계의 변위 명령을 사용한다. 약 40만 개 궤적과 6,000개 장면을 시뮬레이션으로 만들었고, prefix caching으로 학습 토큰을 22배 줄였다고 설명했다.
R2R-CE의 보지 못한 검증 환경에서 성공률 76.6%를 기록했다는 수치는 눈에 띈다. 다만 이 벤치마크는 시뮬레이션 환경이므로 실제 사무실의 반사광, 움직이는 사람, 카메라 흔들림까지 같은 수준으로 처리한다는 뜻은 아니다. 그래도 LiDAR나 깊이 센서를 늘리는 대신 작은 비전-언어 모델과 단일 카메라로 내비게이션의 최소 구성을 밀어붙인 선택은 흥미롭다. 로봇 실험의 진입 비용을 낮추는 방향으로 이어질지 지켜볼 만하다.
Lyzr: 1억 달러 투자 유치 과정에 자기 에이전트를 투입
Figure 6: 기업용 AI 에이전트를 실제 투자 유치 업무에 사용한 Lyzr 사례
기업용 에이전트 스타트업 Lyzr는 자사 시스템 SivaClaw를 1억 달러 규모 시리즈 B 투자 유치에 투입했다고 보도됐다. TechCrunch가 Bloomberg를 인용한 내용에 따르면 에이전트는 130명 넘는 투자자의 질문에 답하고 투자 메모를 작성했으며, 어떤 슬라이드에 오래 머물렀는지도 추적했다. 회사는 약 5억 달러 기업가치 조건에서 4억 달러의 투자 관심을 받았다고 밝혔다.
자사 제품을 가장 중요한 내부 업무에 써봤다는 점은 좋은 사례지만, 성공 원인을 에이전트 하나로 돌리기는 어렵다. AI 기업에 자금이 몰린 시장 상황과 기존 네트워크, 사람이 검토한 범위가 함께 작용했을 가능성이 크다. 내가 실무적으로 보고 싶은 것은 화려한 투자 금액보다 질문 분류, 근거 문서 연결, 민감 정보 차단, 사람에게 넘긴 예외의 비율이다. 이런 운영 수치가 공개되어야 다른 팀도 홍보 문구를 넘어 재현 가능한 사용 사례로 판단할 수 있다.
여섯 소식을 한 줄로 연결하면
모델 회사들은 더 긴 작업과 더 넓은 행동 범위를 제품 가치로 내세우고 있다. 동시에 GitLost는 그 범위가 그대로 공격 반경이 될 수 있음을 보여줬고, J-Lens는 이상 행동을 내부 신호에서 더 일찍 포착하려는 연구 방향을 제시했다. 로봇과 투자 유치 사례까지 놓고 보면 에이전트 경쟁의 다음 질문은 “무엇을 할 수 있는가”만이 아니다. 어떤 권한으로, 어느 근거를 사용해, 어디에서 사람에게 멈춰 서는가가 실제 품질을 가를 가능성이 크다.
나는 새 도구를 붙일 때 성공 데모부터 보기보다 세 가지를 먼저 확인하려 한다. 읽을 수 있는 데이터 범위, 외부로 쓸 수 있는 채널, 자동 실행을 멈추는 조건이다. 성능표는 모델을 고르는 데 필요하지만, 이 세 항목은 시스템을 운영할 수 있는지를 결정한다.
출처
- OpenAI — ChatGPT is now a partner for your most ambitious work
- TechCrunch — Meta enters the crowded AI coding battle with Muse Spark 1.1
- GeekNews — GitLost: GitHub AI 에이전트를 속여 비공개 저장소 유출
- MIT Technology Review — Anthropic found a hidden space where Claude puzzles over concepts
- GeekNews — Mistral, 단일 카메라 로봇 내비게이션 모델 Robostral Navigate 공개
- TechCrunch — An AI agent startup just let its agent run its $100M fundraise