2026년 7월 20일 | AI 최신 트렌드
AI 에이전트가 웹 계정에 로그인하고, 노트북 안에서 코드를 실행하고, 사용자의 판단까지 밀어주는 단계로 들어오면서 관심의 중심도 모델 성능만으로 설명하기 어려워졌다. 어떤 비밀을 볼 수 있는지, 런타임을 어디까지 감춰 바꿀 수 있는지, 틀린 조언 앞에서 사람이 멈출 수 있는지가 제품 품질의 일부가 됐다. 7월 16일부터 19일 사이 공개된 소식 다섯 건을 묶어 보니, 공통점은 기능 추가보다 경계 설계에 있었다.
1. Claude와 1Password: 비밀번호를 보여주지 않는 자격증명 위임
1Password for Claude 브라우저 통합은 에이전트가 여행 예약이나 계정 관리 같은 여러 단계의 웹 작업을 처리할 때 저장된 자격증명을 대신 입력하도록 만든다. 중요한 부분은 Claude가 비밀번호나 다중 인증용 일회용 코드를 직접 읽지 않는다는 점이다. 1Password가 설명한 보안 채널과 ‘zero-exposure’ 방식이 현재 작업에 허용된 자격증명만 주입한다.
승인도 한 번 열어 둔 포괄 권한이 아니다. 작업마다 사용자가 생체 인증 요청을 승인하거나 거부하고, vault 전체 대신 명시적으로 허용한 범위만 건드린다. 나는 이 구조가 에이전트 제품의 다음 경쟁점을 잘 보여준다고 본다. “비밀을 아는 에이전트”보다 “비밀을 보지 않고도 일을 끝내는 에이전트”가 운영하기 쉽다. 기능상으로는 자동 로그인 한 단계지만, 보안 모델로 보면 사람이 갖고 있던 권한을 어떻게 잘게 위임할지에 대한 실험이다.
현재는 Mac용 1Password 데스크톱 앱과 브라우저 확장, Claude 데스크톱 앱 또는 확장 조합이 필요하다. 실제 조직 도입에서는 편의성보다 먼저 작업별 승인 기록, 허용 사이트 범위, 실패했을 때 자격증명이 남지 않는지를 확인해야 한다.
2. NotebookLM은 Gemini Notebook으로: 이름보다 커지는 실행 범위
Google은 NotebookLM을 Gemini Notebook으로 바꾼다고 밝혔다. 단순히 Gemini 브랜드 아래로 흡수해 앱을 없애는 방식은 아니다. 독립 앱은 유지하면서 Gemini 앱과 Google Search의 AI Mode에서 노트북을 더 깊게 연결하는 방향이다. Project Tailwind로 시작했던 제품이 자료 기반 질의응답 도구를 넘어 Google의 공통 작업 공간으로 자리를 옮기는 셈이다.
이름 변경과 함께 눈에 들어온 것은 보안된 클라우드 컴퓨터에 연결해 코드를 작성하고 실행하는 기능이다. Google AI Ultra와 Workspace 비즈니스 고객에게 제공되고, Pro 웹 사용자는 순차적으로 접근하게 된다. 오디오 개요, 슬라이드쇼, 짧은 영상처럼 자료를 재구성하던 제품이 이제는 자료를 근거로 계산과 실행까지 맡기려 한다.
내가 실무에서 확인하고 싶은 지점은 브랜드보다 노트북의 근거 경계와 코드 실행 경계가 같은 화면에서 얼마나 명확히 분리되는가다. 업로드한 문서가 답변의 근거라는 사실과, 생성된 코드가 외부 자원에서 실행된다는 사실은 서로 다른 신뢰 문제다. 자료 출처 표시가 좋아도 실행 권한이 넓으면 위험하고, 실행 환경이 안전해도 어떤 노트를 근거로 결론을 냈는지 추적할 수 없으면 연구 기록으로 쓰기 어렵다.
3. Claude Code의 Rust 기반 Bun: 아무도 눈치채지 못한 런타임 교체
Bun 창립자 Jarred Sumner가 공개한 내용에 따르면 Claude Code v2.1.181 이후 버전은 Rust로 다시 작성된 Bun 포트를 사용한다. Linux 시작 속도는 약 10% 빨라졌지만, 대부분의 사용자는 런타임이 바뀐 사실 자체를 눈치채지 못했다. Simon Willison은 자신의 설치 파일에서 `Bun v1.4.0` 문자열과 수백 개의 Rust 소스 경로를 찾아 이 주장을 확인했다.
나는 이 사례에서 속도 수치보다 런타임 교체를 사용자에게 사건으로 만들지 않은 점이 더 인상적이었다. 개발 도구 안에 내장된 런타임은 빠르기만 해서는 부족하다. 명령행 인터페이스, 패키징, 플러그인과 파일 처리의 호환 경계를 지켜야 한다. 내부 구현은 크게 바뀌었는데 외부 계약이 유지됐다면 배포 관점에서는 좋은 결과다.
반대로 이런 전환은 소프트웨어 자산 명세와 장애 분석을 어렵게 만들 수 있다. 사용자는 `claude` 실행 파일 하나를 설치했다고 생각하지만, 실제로는 특정 Bun 프리뷰 런타임까지 함께 배포받는다. 재현성이 중요한 환경이라면 앱 버전만 적지 말고 내장 런타임 버전도 진단 정보에 남기는 편이 안전하다.
4. AI 조언은 정확도를 낮추고 확신을 높였다
프랑스와 이탈리아의 세 대학 연구진이 진행한 실험에서는 AI 조언을 볼 수 있을 때 “모르겠다”고 답한 비율이 44%에서 3%로 떨어졌다. 정확도는 27%에서 9%로 낮아졌는데, 확신은 30%에서 76%로 올라갔다. 연구진은 영화 속 유니폼 색처럼 모델이 자주 틀리는 시각 세부 질문을 사용했고, Step 3.5 Flash가 틀린 답을 내기 쉬운 조건을 의도적으로 골랐다.
이 설계는 “좋은 AI에게 합리적으로 위임했더니 성과가 올랐다”는 상황과 다르다. 참가자가 원래 맞힐 수 있던 문제도 AI에게 물은 뒤 오답으로 바뀌는 경우가 있었다. 금전적 보상을 줘 신중하게 답하도록 해도 ‘모르겠다’는 응답은 8%, 정확도는 16%에 머물러 AI가 없는 기준선에 미치지 못했다.
제품에서 확신에 찬 한 문장을 만드는 능력은 쉽게 품질처럼 보인다. 하지만 이 결과는 정답 생성과 사용자의 판단 보존을 따로 평가해야 한다는 경고에 가깝다. 사내 검색이나 의료·법률 보조 도구라면 정답률과 함께 사용자가 반대 근거를 찾는 비율, 보류를 선택하는 비율, AI 오답을 수정하는 비율도 함께 재야 한다. “모른다”는 버튼과 원문 링크가 답변보다 한 단계 아래로 밀려 있으면 사람은 생각보다 빠르게 멈춤 신호를 잃는다.
5. 뉴욕시 임대 광고: AI로 고친 사진에는 표시가 필요하다
뉴욕시가 공개한 ‘Rental Ripoff Report’에는 임대 광고가 AI 또는 다른 디지털 도구로 수정됐을 때 그 사실을 공개하도록 하자는 권고가 담겼다. 곰팡이, 해충, 설명되지 않은 수수료 등 세입자가 제기한 문제를 정책으로 옮기는 과정에서 AI 보정 이미지도 기만적 광고의 한 유형으로 다뤄진 것이다.
사진 밝기를 조정하는 수준과 존재하지 않는 창, 넓어진 방, 지워진 하자를 만들어 내는 수준의 경계는 쉽게 흐려진다. 특히 직접 방문하지 않고 계약하는 사람에게 이미지는 홍보물을 넘어 의사결정 데이터가 된다. 그래서 생성 여부를 판별하는 기술만 기다리기보다, 판매자와 중개인에게 수정 사실을 밝힐 책임을 먼저 두는 접근이 현실적이다.
이 흐름이 소프트웨어 제품에도 이어질 가능성이 크다. AI가 생성한 화면 캡처, 자동으로 다듬은 벤치마크 그래프, 합성된 고객 사례는 모두 구매 판단에 영향을 준다. 표시 의무는 이미지의 진위를 완벽히 판정하는 기술보다 빠르게 적용할 수 있는 신뢰 장치다. 앞으로는 생성 모델을 썼는지만 적는 데서 끝나지 않고, 무엇을 바꿨고 원본을 어디까지 확인할 수 있는지가 핵심이 될 것이다.
내가 보는 공통선: 기능보다 먼저 보이는 통제면
다섯 소식은 서로 다른 제품과 제도를 다루지만, 한 줄로 묶으면 ‘AI가 더 많은 일을 할수록 통제면이 더 구체적이어야 한다’는 쪽으로 모인다. 1Password는 비밀의 노출 범위를 줄이고, Gemini Notebook은 자료와 실행 환경의 경계를 다시 묻게 한다. Rust 기반 Bun 전환은 내부 구현을 바꾸면서 외부 계약을 유지한 사례고, AI 조언 실험은 사람의 보류 능력을 제품이 어떻게 훼손할 수 있는지 보여준다. 뉴욕시 권고는 생성·편집 사실을 숨기지 않는 책임을 공급자 쪽에 둔다.
이 다섯 축을 실제 점검표로 바꾸면 질문도 꽤 구체적으로 변한다. 에이전트가 로그인할 때 비밀 문자열은 어느 프로세스에 남는가, 노트북이 만든 코드는 어떤 네트워크와 파일에 접근하는가, 실행 파일 하나에 포함된 런타임 버전을 장애 보고서에서 확인할 수 있는가를 물어야 한다. 답변 화면에는 근거와 함께 ‘보류’ 선택지가 있는지, 생성·보정된 시각 자료에는 원본과 수정 범위를 추적할 단서가 있는지도 확인할 수 있다. 이런 질문은 모델 벤치마크보다 덜 화려하지만, 장애가 났을 때 책임 경계를 찾는 데는 훨씬 직접적이다.
팀 단위로는 허용과 차단만 나눈 이진 정책보다 단계별 복구 경로가 중요하다. 자격증명 승인을 취소했을 때 작업이 안전하게 멈추는지, 코드 실행이 실패했을 때 원본 노트가 보존되는지, 내장 런타임 업데이트를 되돌릴 수 있는지까지 연결돼야 한다. AI 답변을 거절한 사용자가 불이익을 받지 않고 수동 절차로 돌아갈 수 있어야 하고, 수정된 이미지를 발견했을 때 광고나 보고서의 원본을 다시 확인할 수 있어야 한다. 통제면은 사고를 막는 버튼 하나로 끝나지 않고 중단·추적·복구를 이어 주는 운영 경로에 가깝다.
에이전트 도입 검토표에 모델명과 토큰 비용만 적던 시기는 지나가는 듯하다. 나는 이제 권한 범위, 실행 격리, 내장 런타임 버전, 불확실성 표시, 생성물 공개를 같은 수준의 항목으로 본다. 모델이 똑똑해지는 속도보다 이 다섯 가지가 제품에 들어오는 속도가 느리면, 편리함이 늘어난 만큼 사고의 반경도 함께 커진다.
출처
- The Verge — Claude can now use your 1Password credentials for you
- The Verge — Google is renaming NotebookLM to Gemini Notebook
- Simon Willison — Claude Code uses Bun written in Rust now
- TNW — AI advice made people three times less accurate but twice as confident
- PetaPixel — Mayor Mamdani Says Landlords Can't Secretly Use AI Images to Advertise Properties