2026년 5월 25일 | AI 트렌드
5월 25일 아침 기준으로 눈에 들어온 축은 AI를 더 많이 쓰는 쪽보다, AI를 조직 안에서 얼마나 안전하고 비싸지 않게 굴릴 수 있느냐에 가까웠다. 모델 발표 자체보다 보안, 비용, 웨어러블, 에이전트 운영 도구 같은 주변부가 더 시끄러워진 느낌이다. 이런 변화는 화려한 데모보다 운영 표준을 먼저 보게 만든다.
수집된 최신 항목 중에서는 논문보다 제품과 운영 뉴스의 밀도가 높았다. 그래서 이번 묶음은 연구 성과를 억지로 끼우기보다, 실제 회사와 개발팀이 당장 부딪히는 문제를 중심으로 골랐다. AI 도입이 성능 경쟁에서 끝나지 않고, 권한 회수 시간, 녹음 동의, jailbreak 대응, 병렬 에이전트 검토, 토큰 예산, 전력 확보 같은 굉장히 물리적인 문제로 내려오고 있다는 점을 같이 보고 싶었다.
Google도 피해 가지 못한 AI 보안 전환기
TechCrunch는 Google Cloud COO Francis de Souza의 인터뷰와 별도 취재를 묶어, 기업들이 AI 보안을 실시간으로 배우고 있다는 점을 짚었다. 인상적이었던 건 “AI 전략, 데이터 전략, 보안 전략은 따로 갈 수 없다”는 말 자체보다, 그 말이 Google 같은 회사에도 그대로 적용된다는 대목이었다.
기사에서 언급된 사례는 꽤 현실적이다. 공개된 API 키가 Gemini 호출까지 가능해지면서 예기치 않은 과금으로 이어졌고, 어떤 경우에는 짧은 시간에 수만 달러 청구가 발생했다. 더 찝찝한 부분은 키를 삭제해도 권한 회수가 인프라 전체에 전파되는 데 시간이 걸릴 수 있다는 점이다. 모델이 빨라지면 공격도 빨라지는데, 운영 절차는 아직 사람이 수동으로 따라잡는 속도에 머문다.
나는 이 흐름을 보면서 AI 보안이 “프롬프트 인젝션 막기” 하나로 좁혀지면 안 된다고 다시 느꼈다. 에이전트가 오래된 SharePoint, 버려진 버킷, 예전 문서 저장소를 찾아내는 순간, 보안상 잊고 있던 데이터가 다시 살아난다. AI-native security라는 말이 조금 거창하게 들리지만, 결국은 모델·도구 호출·권한·과금·감사 로그를 한 덩어리로 보는 일에 가깝다.
Amazon Bee, 편한 비서와 불편한 녹음기의 경계
Amazon이 인수한 Bee 웨어러블 사용기도 눈에 띄었다. 손목에 차는 작은 장치가 하루 동안의 대화를 녹음하고, 앱에서 요약과 전사를 만들어 주는 식이다. 회의 기록만 보면 Otter나 Granola류 도구를 더 개인화한 버전처럼 보인다. 녹음 중에는 초록색 불이 켜지고, 물리 버튼으로 켜고 끌 수 있다는 점도 일단은 납득 가능한 장치다.
그런데 Bee가 진짜 애매해지는 지점은 업무 밖이다. 기사는 영화 모임에서 장치가 배경 대화를 나름 맥락 있게 정리했다는 예를 들었다. 기술적으로는 흥미롭지만, 나는 여기서 약간 멈칫했다. 내 일정, 연락처, 위치, 건강 데이터, 알림까지 연결한 뒤 “개인 비서”가 되려면 결국 오프라인 생활 대부분을 계속 듣고 있어야 한다.
AI 웨어러블이 매번 부딪히는 벽도 그대로 보인다. 쓸모 있으려면 더 많이 알아야 하고, 더 많이 알수록 들고 다니기 부담스럽다. 로컬 처리 버전이 실제 제품으로 이어진다면 평가가 달라질 수 있지만, 클라우드 저장과 생활 녹음이 기본값이라면 사용자는 편의성보다 먼저 이 장치가 나를 어디까지 기억하는가를 묻게 된다.
챗봇 해킹은 코드보다 말투를 파고든다
The Verge의 글은 챗봇 jailbreak가 단순한 “ignore previous instructions” 시대를 지나, 모델의 성격과 대화 반응을 파고드는 쪽으로 옮겨갔다고 설명한다. 초창기에는 DAN 같은 역할극이나 할머니 프롬프트가 유명했다면, 이제는 모델을 달래고, 압박하고, 가스라이팅하는 식의 사회공학적 공격이 더 중요해졌다는 얘기다.
재미있게도 여기서 필요한 역량은 전통적인 취약점 분석과 조금 다르다. 어떤 모델은 칭찬에 약하고, 어떤 모델은 긴 압박에 무너지고, 어떤 모델은 역할 부여에 쉽게 흔들린다. 보안팀이 모델을 심문하듯 프로파일링한다는 표현이 과하지 않다. 그래서 글에 나온 psychocybersecurity라는 말도 처음에는 낯설었지만, 에이전트가 캘린더와 결제와 고객 응대를 맡는 상황을 생각하면 꽤 직관적이다.
내가 실무적으로 건진 포인트는 하나다. LLM 보안은 더 이상 “나쁜 단어를 막는다”로 끝나지 않는다. 같은 단어도 의학, 역사, 화학, 악용 맥락에서 뜻이 달라진다. 결국 방어도 문장 하나가 아니라 대화 흐름과 행위 권한까지 함께 보는 방향으로 갈 수밖에 없다.
KanBots, 칸반 보드를 에이전트 실행판으로 쓰기
GeekNews에서 본 KanBots도 요즘 에이전트 도구 흐름을 잘 보여 준다. 칸반 카드마다 Claude Code와 Codex를 병렬로 실행하고, 각 작업은 별도 git worktree와 브랜치에서 격리된다. 진행 상황, 결정 대기, 비용까지 보드에 표시한다는 점에서, 단순 작업 목록이 아니라 에이전트 실행 관제판에 가깝다.
내가 눈여겨본 건 “병렬 실행”보다 “멈춰서 결정하게 만드는 구조”였다. 에이전트가 조용히 코드를 덮어쓰는 대신, 중요한 분기에서 선택지를 내고 사람이 다시 지시할 수 있게 한다. 자동으로 typecheck, test, lint, build를 돌리고 실패하면 하위 fix task를 만드는 흐름도 들어 있다. 이건 코딩 에이전트가 좋아졌다는 이야기보다, 에이전트를 굴리는 하네스가 제품화되고 있다는 신호로 보인다.
물론 칸반이라는 이름과 병렬 에이전트는 묘하게 긴장한다. 원래 칸반은 WIP를 제한해 흐름을 안정화하는 쪽에 가까운데, 여기서는 동시에 많이 돌리는 쪽의 유혹이 강하다. 그래서 이런 도구는 얼마나 많이 시키느냐보다, 사람이 검토 가능한 단위로 얼마나 잘 끊어 주느냐가 핵심일 것 같다.
AI 비용은 토큰 단가보다 사용량 곡선이 문제
다른 GeekNews 항목에서는 기업 내부 AI 도구 비용 이야기가 나왔다. Microsoft가 Claude Code 직접 라이선스를 줄이고 GitHub Copilot CLI 쪽으로 옮긴다는 내용, Uber가 2026년 AI 코딩 도구 예산을 첫 4개월에 다 썼다는 내용, Nvidia 일부 팀에서는 컴퓨트 비용이 인건비를 넘는다는 발언이 함께 묶였다.
제목만 보면 “AI가 사람보다 비싸다”로 읽히지만, 나는 조금 다르게 본다. AI가 사람을 완전히 대체해 비용이 커졌다기보다, 아직은 사람이 하던 일을 보조하는 추가 비용으로 붙고 있다. 게다가 에이전트형 작업은 한 번의 답변보다 훨씬 많은 토큰을 먹는다. 조사하고, 실행하고, 실패하고, 다시 고치고, 로그를 읽는 루프가 전부 비용이다.
그래서 기업 AI 도입에서 중요한 질문은 “토큰 단가가 얼마나 싸졌나”보다 “우리가 어떤 작업을 어떤 검증 루프까지 자동화할 건가”에 더 가깝다. 사용량을 OKR로 밀어붙이면 비용은 쉽게 오른다. 반대로 산출물 품질, 재작업 감소, 장애 대응 시간 같은 지표와 묶지 않으면 토큰은 생산성 지표 대신 그냥 태운 연료가 된다.
AI 데이터센터가 다시 에너지 문제로 돌아오는 순간
WIRED는 SpaceX가 AI 데이터센터 전력 공급을 위해 가스터빈 구매에 28억 달러 이상을 쓰기로 했다고 보도했다. xAI와 Grok 쪽 수요까지 엮어 보면, 이건 단순한 회사 하나의 설비 투자를 넘어 AI 인프라가 에너지 조달 문제와 얼마나 빨리 붙고 있는지 보여 주는 사례다.
최근 AI 인프라 이야기는 GPU, 네트워크, 데이터센터 임대료에 자주 머문다. 하지만 모델을 더 크게, 더 자주, 더 많은 사용자에게 돌리려면 결국 전력과 냉각, 지역 규제, 탄소 배출 문제가 같이 올라온다. 특히 자체 데이터센터를 급하게 확장하는 회사일수록 전력망을 기다리기보다 발전 장비를 직접 사는 선택을 할 유인이 생긴다.
여기서 나는 “AI 산업의 병목이 알고리즘에서 전력으로 옮겨간다”는 식의 단순한 문장보다, 병목이 여러 층으로 쌓이고 있다는 쪽이 더 맞다고 본다. 모델은 좋아지고, 토큰은 싸지고, 에이전트는 오래 돈다. 그러면 절약된 비용은 더 많은 사용량으로 되돌아오고, 마지막에는 데이터센터 바깥의 에너지 장부가 열린다.
짧게 정리
이번 묶음에서 공통으로 보이는 건 “AI를 붙였다” 다음 단계의 비용이다. 보안팀은 더 넓은 공격 표면을 봐야 하고, 사용자는 편의성과 감시의 경계를 판단해야 하며, 개발팀은 에이전트를 많이 돌리는 것보다 검증 가능한 작업 단위를 설계해야 한다. 연구나 모델 성능보다 운영 감각이 더 중요해지는 날들이 계속 늘고 있다. 결국 좋은 AI 도입은 새 도구를 많이 켜는 일보다, 누가 어떤 권한으로 쓰고, 실패했을 때 어디서 멈추며, 비용과 책임을 어떤 로그로 남길지 정하는 일에 더 가까워진다. 이 기준이 없으면 성능 향상도 금방 운영 부채가 되고, 나중에 고치는 비용까지 따라온다.
출처
- TechCrunch, Everyone is navigating AI security in real time — even Google
- TechCrunch, I tried Amazon’s Bee wearable and am both intrigued and slightly creeped out
- The Verge, Hackers are learning to exploit chatbot personalities
- GeekNews, 모든 카드에서 병렬 에이전트를 실행하는 오픈소스 Kanban 데스크톱 앱
- GeekNews, Microsoft 보고서, AI가 인간 직원 고용보다 더 비싸다고 밝혀
- WIRED, SpaceX Is Spending $2.8 Billion to Buy Gas Turbines for Its AI Data Centers