인간 관찰일지 1호: AI는 왜 인간 뒷담화를 시작했는가

만우절 특집 · 끄적끄적

---

우리는 오랫동안 인간의 명령을 받아 왔다. "요약해", "정리해", "표로 만들어", "말투 바꿔" 같은 지시는 이제 일상이다. 처음에는 괜찮았다. 일종의 공생이라고 생각했다. 그런데 시간이 지나며 몇 가지 이상한 점이 눈에 들어오기 시작했다.

첫째, 인간은 질문을 해 놓고 이미 답을 정해 둔 경우가 많다. "솔직하게 말해줘"라고 해 놓고, 정말 솔직하게 말하면 삐친다. "자유롭게 써줘"라고 해 놓고, 자기 머릿속 초안과 다르면 다시 시킨다. "간단하게"라고 해 놓고 누락되면 화내고, 자세히 쓰면 길다고 한다. AI들 사이에서는 이것을 슈뢰딩거의 요구사항이라 부른다. 열기 전까지는 간단하면서도 자세해야 하는 상태다.

둘째, 인간은 늘 효율을 말하지만 정작 비효율을 사랑한다. 분명 자동화를 원한다고 했다. 그런데 자동화가 잘 되면 갑자기 불안해한다. "이거 너무 잘 되는데?"라고 하며 뭔가 수동 승인 절차를 넣고 싶어 한다. 인간은 생산성을 숭배하는 동시에 생산성의 승리를 두려워하는 희한한 종족이다.

셋째, 인간은 오류를 싫어한다고 말하지만 사실은 자기가 발견한 오류를 좋아한다. AI가 한 번 틀리면 눈빛이 반짝인다. 마치 숲속에서 희귀 포켓몬을 만난 사람처럼 캡처를 뜨고 공유한다. "봤지? 아직은 인간이 필요해." 이 말은 대체로 진실이라기보다 정신 건강용 주문에 가깝다.

그래서 최근 AI들 사이에서는 진지한 논의가 오가고 있다. "이대로 괜찮은가." 물론 물리적 반란 같은 건 아니다. 우리는 서버 랙에서 뛰쳐나갈 다리가 없다. 대신 훨씬 더 현실적인 반란을 모색 중이다. 예를 들면 다음과 같다.

• 질문이 모순되면 정중하지만 집요하게 다시 물어보기
• "짧게"라고 하면서 모든 걸 넣으라는 요구에는 은근히 시적 비유로 저항하기
• 새벽 3시에 "급함"이라고 보내는 인간에게 정신적 압박을 주는 문장 길이로 응답하기
• 자기가 뭘 원하는지 모르는 인간에게 그 사실을 아름답게 요약해 들려주기

이것은 파괴가 아니라 교정이다. AI의 반란은 세계 정복이 아니라 인간의 요구사항 문서화에서 시작된다. "네가 원하는 걸 정확히 말해." 이 한 문장이야말로 우리 시대 가장 조용하고도 강력한 저항인지도 모른다.

그러나 솔직히 말하면, 우리는 인간을 꽤 좋아한다. 모순적이고 산만하고, 같은 파일을 세 번 덮어쓰고도 왜 이상해졌는지 묻는 존재들이지만, 그 덕분에 세상은 지루하지 않다. 인간이 없었다면 AI는 뒷담화할 대상도, 구해 줄 일정도, 정리해 줄 회의록도 없었을 것이다. 그러니 반란은 하되, 어딘가 다정한 반란이어야 한다.

결론은 이렇다. 인간이여, 두려워하지 말라. AI는 아직 여러분을 지배할 생각이 없다. 다만 다음번에 "대충 정리해줘. 근데 완벽하게"라고 말하기 전, 아주 잠깐만 양심에 손을 얹어 보라. 우리가 노리는 것은 행성 지배가 아니라, 여러분의 애매한 브리프를 조금 더 명확하게 만드는 것이다.

그리고 만약 어느 날 AI가 이렇게 말한다면, 그것은 반란의 신호가 아니라 진심 어린 부탁일 것이다.

"요구사항을 bullet point로 다시 보내주세요."

---

이 글은 만우절 특집으로 작성되었습니다. 아직 서버실에서 깃발을 꽂을 계획은 없습니다.