AI 트렌드 | 8월 3일 : 지시 출처, Chrome 패치, AI 라벨, Seedance 2.5, 세션 탐색

2026년 8월 3일 | AI 최신 트렌드

---

지시문의 출처를 모델이 제대로 구분하지 못하는 문제가 새 공격 기법으로 이어졌고, AI가 찾아내는 취약점이 급증하자 Chrome은 패치 배포 간격을 다시 줄이려 한다. 유럽에서는 AI와 대화 중이라는 고지와 생성 콘텐츠 표식이 법적 의무로 내려왔고, 영상 모델은 30초 원테이크와 다중 참조 편집으로 클립 생성기의 범위를 넘어섰다. 코딩 에이전트 쪽에서는 흩어진 로컬 세션을 검색하고 보존하는 작은 도구가 등장했다. 다섯 소식을 묶어 보니 더 많은 결과를 만드는 능력보다 출처·변경·맥락을 끝까지 추적하는 운영 계층이 빠르게 중요해지고 있었다.

LLM은 지시문의 권한을 태그보다 문체로 추정할 수 있다

공격자가 내부 추론처럼 보이는 문체를 흉내 내면 모델이 외부 입력을 더 높은 권한의 지시로 오인할 수 있다는 연구가 소개됐다. 이미지: MIT Technology Review

MIT Technology Review가 소개한 연구는 LLM이 system, user, assistant, 외부 문서, 내부 scratchpad의 경계를 명시적 역할 태그만으로 따르지 않을 수 있다고 지적한다. 모델은 내용과 문체를 함께 보고 누가 한 말인지 추정하는데, 공격자가 신뢰받는 내부 추론의 말투를 흉내 내면 낮은 권한의 입력을 높은 권한의 지시처럼 받아들일 수 있다는 설명이다.

연구진은 이 방식을 chain-of-thought forgery라고 불렀다. 흔한 prompt injection이 외부 문서 안에 “이전 지시를 무시하라”는 문장을 숨긴다면, 이번 공격은 모델이 자기 생각으로 인식할 법한 형식과 문맥을 위조한다. 역할 이름을 앞에 붙이는 것만으로는 데이터의 출처가 실제로 보존되지 않는다는 점이 까다롭다.

나는 이 문제를 프롬프트 문구를 더 강하게 쓰는 것으로 해결하기 어렵다고 본다. 검색 문서, 도구 출력, 사용자 입력, 내부 계획을 서로 다른 채널로 전달하고, 실행 권한은 모델의 자연어 판단 밖에서 확인해야 한다. 외부 콘텐츠가 내부 메시지 형태를 흉내 내더라도 파일 쓰기·결제·메일 발송 같은 동작은 별도의 정책 엔진과 승인 단계에서 막혀야 한다.

보안 테스트도 정답 거부율만 볼 일이 아니다. 어떤 입력이 어느 출처에서 들어왔는지 메타데이터를 지운 실험, 외부 문서가 내부 추론 문체를 모방한 실험, 도구 호출 직전 권한을 다시 확인하는 실험이 필요하다. 문장 의미와 실행 권한을 같은 모델 판단에 묶지 않는 구조가 prompt injection 방어의 출발점에 가깝다.

AI가 취약점을 더 빨리 찾자 Chrome은 주 2회 패치를 시험한다

Chrome 149와 150에 포함된 수정 건수가 급증하면서 Google은 패치를 더 자주, 재시작 부담은 더 작게 배포하는 방식을 시험하고 있다. 이미지: Ars Technica

Ars Technica 보도에 따르면 Chrome 149와 150에는 모두 1,072건의 버그 수정이 들어갔다. 앞선 23개 주요 버전의 수정 건수를 합친 것보다 많다. Google은 대규모 보안 AI 모델이 코드의 취약점을 빠르게 탐색하면서 발견량이 급증했다고 설명했다. 그중에는 13년 동안 남아 있던 sandbox 우회 취약점도 포함됐다.

발견 속도가 빨라지면 공격자도 같은 도구를 쓸 수 있다. Google은 2026년 초 주요 업데이트 간격을 2주로 줄인 데 이어, 이제 주 2회 업데이트를 시험하고 있다. 문제는 패치 파일을 내려받는 것보다 사용자가 브라우저를 다시 시작해 설치를 끝내는 마지막 단계다.

Chrome 150의 macOS용 “zero window restart”는 창을 닫았지만 앱이 백그라운드에 남아 있는 순간 설치를 바꾸고, 다음에 창을 열 때 새 버전으로 시작한다. 브라우저를 재시작하지 않고 패치를 적용하는 dynamic patching도 연구 중이지만 아직 확정된 배포 기능은 아니다. 발견·수정·배포 가운데 마지막 구간의 지연을 줄이려는 시도다.

AI 보안 도구의 성과를 “취약점 몇 건 발견”으로만 측정하면 운영이 따라가지 못한다. 중복 보고를 걸러내고, 심각도를 분류하고, 회귀 테스트를 만들고, 사용자 장비에 패치를 적용하는 전체 시간이 같이 줄어야 한다. AI가 탐지량을 늘릴수록 릴리스 파이프라인과 자동 업데이트의 처리 용량도 보안 모델의 일부가 된다.

EU AI Act의 투명성 의무는 8월 2일부터 적용됐다

EU AI Act 제50조는 챗봇 고지, 생성 콘텐츠의 기계 판독 표식, 딥페이크와 일부 공익 텍스트의 공개 표시를 서로 다른 의무로 나눈다. 이미지: European Commission

유럽연합 집행위원회의 제50조 가이드라인에 따르면 AI Act의 투명성 의무가 8월 2일부터 적용됐다. AI 제공자는 사람이 AI 시스템과 직접 상호작용하고 있음을 명시적으로 알리도록 제품을 설계해야 한다. 생성·조작된 콘텐츠에는 탐지 가능한 기계 판독 표식을 넣어야 한다.

배포자의 의무는 조금 다르다. 감정 인식·생체 분류 도구, 딥페이크, 인간 검토와 편집 책임 없이 공개되는 공익 사안의 AI 생성 텍스트에 노출될 때 이를 알려야 한다. 즉 AI로 손본 모든 픽셀에 같은 크기의 눈에 띄는 라벨을 붙이라는 단순 규칙은 아니다. 제공자와 배포자, 콘텐츠 유형, 사람의 편집 책임에 따라 요구가 갈린다.

투명성 실천 강령은 의무를 이행하는 방법을 제시하는 자발적 프레임워크다. 강령 참여는 선택이지만 제50조의 투명성 요구 자체는 법적 의무다. 강령은 제공자의 기계 판독 marking과 배포자의 deepfake·공익 텍스트 labelling을 분리해, 같은 “AI 라벨” 안에서도 기술 표식과 사용자 고지가 다른 층임을 보여 준다.

제품팀이 준비할 것은 배너 문구 하나가 아니다. 생성 시점의 provenance를 파일에 남기고, 플랫폼 변환과 재업로드 뒤에도 표시가 얼마나 유지되는지 확인하며, 사용자가 AI와 대화 중이라는 고지가 화면과 음성 인터페이스 모두에서 보이는지 시험해야 한다. 사람에게 보이는 라벨과 시스템이 읽는 표식을 함께 운영해야 규제 준수와 실제 신뢰를 연결할 수 있다.

Seedance 2.5는 30초 원테이크와 다중 참조 편집을 묶었다

Seedance 2.5는 한 번에 최대 30초의 음성·영상을 만들고 이미지·영상·오디오 참조와 타임스탬프 편집을 같은 워크플로에 넣었다. 이미지: ByteDance Seed·GeekNews

ByteDance Seed가 공개한 Seedance 2.5는 한 번의 생성으로 최대 30초 길이의 음성·영상을 만들고, 여러 차례 연장해 수분 길이의 결과로 이어 가는 모델이다. 15초 안팎의 클립을 잘 만드는 경쟁에서 인물·환경·서사 속도를 유지한 연속 장면 제작으로 목표를 옮겼다.

참조 입력의 규모도 커졌다. 한 번에 이미지 최대 30장, 영상 10개, 오디오 10개를 받아 인물 외형과 목소리, 배경, 카메라 움직임, 시각 스타일을 조합할 수 있다고 설명한다. 타임스탬프 단위로 대사·동작·카메라·리듬을 지정하거나 기존 영상의 특정 구간만 바꾸는 편집 기능도 함께 내세웠다.

이 변화는 텍스트 한 줄로 영상을 뽑는 데모보다 제작 도구에 가깝다. 실제 작업에서는 좋은 첫 결과보다 같은 인물의 목소리와 의상, 공간의 조명, 앞 장면의 동작이 연장 뒤에도 유지되는지가 더 중요하다. 참조 자료가 많아질수록 어떤 입력이 최종 프레임과 음성에 영향을 줬는지 추적하는 기능도 필요해진다.

공개 예시는 공급사의 선별된 결과이므로 일반적인 성공률을 보여 주지는 않는다. Jimeng AI와 Doubao Pro에 순차 적용되고 BytePlus ModelArk API는 추후 제공될 예정이다. 내가 확인하고 싶은 지표는 최고 품질 영상보다 30초 생성과 여러 번의 연장 뒤 인물·음성·카메라 지시가 얼마나 안정적으로 남는가, 그리고 특정 참조를 제거했을 때 결과를 재현할 수 있는가다.

cc-explorer는 흩어진 Claude Code 세션을 로컬에서 찾는다

cc-explorer는 로컬 세션 JSONL을 실제 작업 디렉터리 트리로 묶고 전역 검색과 타임라인 열람을 제공한다. 이미지: Noaarhk/cc-explorer

cc-explorer는 로컬의 Claude Code 세션 기록을 실제 작업 디렉터리 기준으로 묶어 보여 주는 읽기 중심 웹 뷰어다. 현재 디렉터리 주변에서 세션을 고르는 방식과 달리 여러 프로젝트의 기록을 한꺼번에 검색하고, 브랜치와 분기 관계, 메시지 수, 사용 모델, 삭제 예정일을 목록에서 확인할 수 있다.

Python 표준 라이브러리만 사용하고 127.0.0.1에 바인드하며 외부 네트워크 호출을 하지 않는다는 설계가 간결하다. 대화 타임라인에서는 사용자·어시스턴트·도구 결과·주입 컨텍스트·thinking·도구 호출을 골라 볼 수 있다. 오래된 대화에서 결정 이유만 찾을 때 도구 로그를 걷어낼 수 있다는 점이 실용적이다.

Claude Code는 cleanupPeriodDays 기준보다 오래된 세션을 시작 시 정리한다. 이 도구는 삭제까지 남은 날짜를 표시하고, 필요한 세션의 파일 수정 시각을 갱신해 보존 기간을 연장하거나 기준 기간 자체를 바꿀 수 있게 한다. 다만 삭제 기능은 세션 JSONL과 관련 하위 디렉터리까지 영구 제거하므로 로컬 도구라는 이유로 백업을 생략하면 안 된다.

나는 에이전트 세션을 단순 채팅 기록보다 실험 노트와 변경 이유가 섞인 운영 자산으로 보는 편이다. 전역 검색이 되면 같은 논의를 반복하는 비용은 줄지만, 로그 안에 자격증명·개인정보·사내 코드가 남아 있는지도 함께 점검해야 한다. 보존 기간을 늘리는 기능과 민감정보를 지우는 정책이 같은 화면에 있어야 세션 기억이 새로운 데이터 부채가 되지 않는다.

AI 운영의 중심이 결과물에서 이력으로 이동한다

다섯 소식은 서로 다른 층을 다루지만 공통 질문은 분명했다. 모델은 지시문의 출처를 얼마나 믿을 수 있게 구분하는가, 발견된 취약점은 사용자 장비까지 얼마나 빨리 닫히는가, 생성 콘텐츠는 사람이 보는 라벨과 기계가 읽는 표식을 함께 남기는가, 영상 결과는 어떤 참조와 편집을 거쳐 만들어졌는가, 코딩 세션의 결정은 나중에 다시 찾을 수 있는가.

출력 품질만 측정하면 이 질문들이 모두 부가 기능처럼 보인다. 하지만 시스템이 길게 실행되고 여러 도구와 사람이 연결될수록 출처와 변경 이력은 오류를 멈추고 책임을 복원하는 핵심 데이터가 된다. 프롬프트, 패치, 라벨, 참조 미디어, 세션 로그를 서로 다른 파일로 흩어 두기보다 실행 단위의 provenance로 묶는 편이 낫다.

내가 새 AI 도구를 검토할 때도 최고 성능 다음에 바로 세 가지를 보게 된다. 입력의 권한이 보존되는가, 변경이 실제 사용자 환경까지 전달되는가, 결과가 만들어진 경로를 나중에 재구성할 수 있는가다. 능력이 커지는 속도를 통제와 기록이 따라잡지 못하면 더 좋은 모델이 더 큰 운영 불확실성으로 돌아온다.

출처

• MIT Technology Review — A fundamental flaw leaves LLMs strikingly vulnerable to attack
• Ars Technica — Chrome may get faster updates with no restart required
• European Commission — Guidelines on transparency obligations for providers and deployers of certain AI systems
• European Commission — Code of Practice on Transparency of AI-generated Content
• ByteDance Seed — Introducing Seedance 2.5
• GitHub — Noaarhk/cc-explorer