2026년 6월 21일 | AI 최신 트렌드
2026년 6월 21일 아침 기준으로 눈에 들어온 흐름은 AI가 더 똑똑해졌다는 단순한 이야기가 아니라, 어디까지 접근권을 줘도 되는지와 어떤 데이터를 믿고 쓸 수 있는지에 가까웠다.
Signal CEO가 다시 꺼낸 말: 챗봇은 친구가 아니다
Signal의 Meredith Whittaker가 Bloomberg 인터뷰에서 AI 챗봇에 대해 꽤 직설적인 말을 했다. TechCrunch가 전한 핵심 문장은 “These are not your friends”였다. 의식 있는 대화 상대도 아니고, 나를 위해 존재하는 친구도 아니니 관계의 언어로 착각하지 말라는 이야기다. 나는 이 문장이 살짝 차갑게 들리면서도, 지금 시점에는 필요한 제동이라고 봤다.
특히 Copilot 같은 도구가 가족 채팅을 보고 선물 목록을 정리하고, 결제 카드와 브라우저와 주소록과 캘린더까지 붙잡는 장면을 생각해 보면 문제가 단순한 챗봇 품질이 아니다. Whittaker는 이런 구성을 Signal 문맥에서는 일종의 백도어로 볼 수 있다고 말했다. 엔드투엔드 암호화 앱이 지키려는 경계가, 편리한 에이전트 기능 하나로 흐려질 수 있다는 뜻이다.
실무에서도 비슷한 장면이 자주 생긴다. “메일 읽고 답장해 줘”, “슬랙 보고 이슈 만들어 줘”, “캘린더 보고 회의 잡아 줘” 같은 요청은 기능만 보면 자연스럽다. 그런데 권한을 하나씩 붙이다 보면 어느 순간 모델은 내 일의 문맥 전체를 통과하는 중간자가 된다. AI 비서가 쓸모 있으려면 접근권이 필요하고, 접근권이 넓어질수록 보안 모델은 급격히 어려워진다. 이번 발언은 그래서 반AI라기보다, 에이전트 제품을 만들 때 권한 설계를 먼저 보라는 신호에 가깝다.
원문은 TechCrunch 기사에서 확인할 수 있다.
John Jumper의 Anthropic 이동, 과학 AI도 인재 전쟁으로 들어갔다
AlphaFold 팀을 이끌었던 John Jumper가 Google DeepMind를 떠나 Anthropic으로 옮긴다는 소식도 눈에 띄었다. Jumper는 Demis Hassabis와 함께 AlphaFold 공로로 2024년 노벨 화학상을 받은 인물이다. 단순히 유명 연구자가 회사를 옮겼다는 차원을 넘어서, 과학 AI와 코딩 에이전트가 같은 인재 풀에서 경쟁하기 시작했다는 느낌이 강했다.
TechCrunch 기사에 따르면 Jumper는 DeepMind에서 거의 9년을 보냈고, Google 쪽 코딩 도구 개발에도 중요한 역할을 했다고 한다. 같은 주에 Character AI 공동창업자 Noam Shazeer도 DeepMind를 떠나 OpenAI로 이동했다는 점까지 겹치면, 지금 빅랩들의 경쟁은 모델 API 성능표만의 문제가 아니다. 연구 리더, 도구 개발자, 제품화 감각이 있는 과학자까지 한 번에 움직인다.
개인적으로는 이 흐름이 꽤 중요하다고 본다. 과학 AI는 예전에는 “논문 잘 쓰는 연구팀”의 영역처럼 보였는데, 이제는 모델 회사의 핵심 제품 전략과 붙고 있다. 단백질 구조 예측, 분자 설계, 실험 자동화, 코드 에이전트가 같은 플랫폼 안에서 만난다. AI가 실험을 제안하고, 코드를 고치고, 결과를 다시 해석하는 루프가 중요해지면, AlphaFold 같은 경험은 Anthropic 입장에서도 굉장히 직접적인 자산이 된다.
원문은 TechCrunch 기사에 정리돼 있다.
The Atlantic의 음악 데이터베이스, 학습 데이터 논쟁이 검색 화면으로 내려왔다
The Atlantic의 Alex Reisner가 AI 학습에 쓰이는 음악 데이터셋 네 개를 찾아내고, 이를 공개 검색 가능한 데이터베이스로 만들었다. The Verge 보도에 따르면 두 데이터셋은 각각 1,200만 곡과 900만 곡 규모이고, 나머지 두 개도 각각 10만 곡이 넘는다. 이름이 올라온 아티스트도 Lady Gaga, Radiohead, Aphex Twin, Wu-Tang Clan, Bruce Springsteen처럼 꽤 넓다.
여기서 중요한 건 데이터셋이 “인터넷에 있다”는 말과 “학습용으로 정당하게 쓸 수 있다”는 말이 다르다는 점이다. 일부 데이터셋은 YouTube나 Spotify 링크 목록으로 배포되고, 개발자는 별도 도구로 실제 오디오를 내려받는다. The Verge가 인용한 설명처럼 이런 방식은 플랫폼의 로그인, 광고, 창작자 수익 장치를 우회할 가능성이 있다. 그래서 음악 AI 논쟁은 모델이 그럴듯한 곡을 만들 수 있느냐보다 그 소리를 만들기 위해 어떤 경로로 데이터를 가져왔느냐로 옮겨간다.
나는 이게 앞으로 이미지, 영상, 코드 데이터셋에도 반복될 장면이라고 본다. 예전에는 “대규모 웹 데이터”라는 말이 너무 커서 개별 창작자는 자기 작품이 들어갔는지 확인하기 어려웠다. 그런데 검색 가능한 데이터베이스가 나오면 이야기가 달라진다. 데이터셋 투명성은 법정용 증거이기도 하지만, 모델 회사가 신뢰를 얻기 위한 제품 문서의 일부가 될 가능성이 크다.
원문은 The Verge 기사에서 볼 수 있다.
GLM-5.2 환각률 28%, 크기 경쟁만으로는 설명이 안 된다
GeekNews에 올라온 GLM-5.2 분석도 흥미로웠다. 요지는 단순하다. MIT 라이선스 오픈 웨이트 모델인 GLM-5.2가 AA-Omniscience 벤치마크에서 환각률 28%를 보였고, GPT-5.5는 86%, DeepSeek V4 Pro는 94%로 제시됐다. 수치 자체는 벤치마크 조건과 해석을 같이 봐야 하지만, 방향성은 꽤 선명하다. 모델이 모르는 질문을 만났을 때 그럴듯한 거짓말을 얼마나 자신 있게 내놓는지가 핵심이다.
이 분석에서 제일 마음에 남은 부분은 “I don't know”를 학습시키는 문제가 생각보다 어렵다는 지점이었다. 대부분의 벤치마크는 맞으면 1점, 틀리거나 모른다고 하면 0점에 가깝다. 그러면 모델은 모른다고 멈추기보다 찍어서 조금이라도 맞히는 쪽으로 유도된다. 실무에서는 이게 굉장히 위험하다. 모델이 틀렸다는 사실보다, 틀렸는데 자신 있어 보이는 답이 더 큰 비용을 만든다.
최근 모델 비교를 보면 파라미터 수, 컨텍스트 길이, 벤치마크 평균점수만 보기 쉽다. 그런데 실제 업무 자동화에서는 “언제 멈추는가”, “언제 검증을 요구하는가”, “확실하지 않은 답을 어떻게 표시하는가”가 더 중요하다. GLM-5.2 사례는 오픈 웨이트 모델도 이런 품질 축에서 꽤 강하게 경쟁할 수 있다는 신호다. 개인적으로 모델 선택표에 uncertainty calibration 항목을 따로 넣어야겠다는 생각이 들었다.
원문 요약은 GeekNews 글에서 확인했다.
Klorn, AI 메일 도구를 “더 추가하기”가 아니라 “덜 보이게 하기”로 풀었다
마지막으로는 GeekNews의 Show GN 글에 올라온 Klorn이 눈에 들어왔다. 설명만 보면 아주 큰 제품은 아니지만, 방향이 마음에 들었다. 요즘 AI 메일 도구는 초안 생성, 답장 추천, 요약 카드, 일정 추출처럼 화면에 뭔가를 계속 더한다. Klorn은 반대로 메일을 SILENT, QUEUE, PUSH, AUTO 네 단계 중 하나로만 떨어뜨리고, 나머지는 조용히 숨기는 방식을 택했다.
재미있는 건 LLM에게 최종 결정을 맡기지 않는다는 점이다. 모델은 확신도, 발신자 신뢰도, 되돌릴 수 있는지, 급한 정도 같은 숫자만 뽑고, 최종 tier는 고정된 규칙으로 계산한다. LLM이 죽거나 rate limit에 걸려도 키워드 기반 fallback이 같은 값을 만들게 해 둔 것도 실무 감각이 있다. 모델을 만능 판단자로 세우기보다, 흔들릴 수 있는 부분과 고정해야 하는 부분을 분리한 설계다.
나는 이런 작은 오픈소스 도구가 AI 제품의 다음 방향을 잘 보여준다고 생각한다. AI가 들어간다고 해서 늘 더 많은 버튼과 더 많은 초안을 보여줄 필요는 없다. 오히려 중요한 건 사람이 봐야 할 것만 남기는 것이다. 메일, 알림, 이슈 트래커, 로그 대시보드 모두 비슷하다. 잘 만든 AI 도구는 일을 대신한다기보다, 내가 신경 써야 할 표면적을 줄여준다.
원문은 GeekNews 글과 GitHub 저장소에서 볼 수 있다.
짧게 정리하면
다섯 소식을 묶어 보니 공통점은 의외로 단순했다. AI가 더 많은 일을 하려면 더 많은 권한, 더 많은 데이터, 더 많은 자동화 표면을 요구한다. 그런데 그 요구를 그대로 받아들이면 프라이버시, 저작권, 환각, 운영 안정성 문제가 같이 커진다. 그래서 지금 필요한 건 “더 큰 모델”이라는 한 줄보다 권한을 어디서 끊을지, 데이터 출처를 어떻게 증명할지, 모델이 모를 때 어떻게 멈출지에 대한 설계 감각이다.
AI 트렌드가 모델 발표만 보던 시기를 지나, 제품의 경계와 운영 규칙을 보는 시기로 넘어가는 것 같다. Signal의 경고, Anthropic으로 이동하는 과학 AI 인재, 음악 데이터셋 검색, GLM-5.2의 환각률, Klorn의 고정 규칙 설계가 전부 그쪽을 가리킨다. 화려한 데모보다 덜 흔들리는 시스템이 더 중요한 국면이다.
출처
- TechCrunch - Signal’s Meredith Whittaker wants you to remember that AI chatbots ‘are not your friends’
- TechCrunch - Nobel laureate John Jumper is leaving DeepMind for rival Anthropic
- The Verge - The Atlantic created a searchable database of the music used to train AI
- GeekNews - GPT-5.5, MIT 라이선스 GLM-5.2보다 환각률 3배
- GeekNews - Klorn 오픈소스 이메일 방화벽