요즘 AI 소식을 따라가다 보면 한 가지 분명한 느낌이 있다. 발전이 너무 빠르다고 생각은 했지만, 일하는 방식 자체가 1년 사이에 두세 번 바뀌었다는 것이다.

처음엔 검색하듯 키워드를 던졌다. 말귀를 알아듣는 친구가 생긴 것 같았다. 질문을 잘하면 좋은 답이 돌아왔다. 어느 순간부터는 똑똑한 후배에게 일을 맡기는 느낌이었다. 상황을 잘 설명해주고 원하는 결과를 분명히 알려주면, 알아서 처리해서 가져왔다. 그리고 지금은, 한 명에게 잘 이야기해두면 여러 일을 알아서 챙겨주는 집사가 생긴 것 같다. 배트맨의 알프레드 같은.

이 변화를 일하는 사람의 입장에서 정리해보면 이렇다. 처음엔 질문을 잘하는 게 중요했다. 그다음엔 일을 잘 시키는 게 중요해졌다. 이제는 여러 일을 잘 맡기는 게 중요해진다. 그리고 이제는 그 세 가지가 다 중요하다.

업계에서는 이걸 프롬프트 엔지니어링에서 컨텍스트 엔지니어링으로, 다시 하네스(harness) 엔지니어링으로 넘어갔다고 표현한다. 말은 어렵지만 내용은 단순하다. 처음엔 한 문장을 잘 쓰는 기술이었고, 다음엔 필요한 맥락을 잘 챙겨주는 기술이었고, 이제는 AI가 알아서 일하도록 판을 잘 깔아주는 기술이라는 것이다.

좋은 맥락을 주는 일은 여전히 중요하다

도구가 바뀌어도 변하지 않는 게 하나 있다. AI에게 관련 있는 맥락을 잘 주는 일이다.

나는 Claude의 프로젝트 방마다 그 일과 관련된 자료를 충분히 넣어준다. 글을 쓸 때는 내가 예전에 쓴 글들을 넣어두고, 비즈니스 논의를 할 때는 관련 배경을 넣어둔다. 그러면 매번 일일이 설명해주지 않아도 된다. 이게 컨텍스트 엔지니어링의 핵심이다. AI가 똑똑해질수록 어떻게 하라고 시킬지보다 무엇을 알려줄지가 결과를 가른다.

그런데 한 가지 더 배운 게 있다. 한 번에 너무 많은 지시를 주면 AI도 헷갈려한다. 사람과 똑같다. 규칙을 열 개 정해주면 몇 개는 잊어버린다. 그래서 요즘은 필요할 때만 불러서 쓰는 방식이 등장했다. 평소에는 쥐고 있지 않다가, 그 일을 할 때만 해당 규칙과 방법을 꺼내 쓰는 것이다. 사람이 일할 때 매뉴얼을 책상에 펼쳐두지 않고 필요할 때 찾아보는 것과 비슷하다.

논의하던 관계에서, 맡기는 관계로

가장 큰 변화는 관계의 성격이다.

예전에는 AI와 의논하며 일했다. 초안을 받고, 마음에 안 드는 부분을 말하고, 다시 받고, 고쳐달라고 했다. 생각의 파트너였다. 지금은 규칙만 정해주면 혼자서 알아서 일하는 쪽으로 넘어가고 있다. 이게 에이전트다.

이 둘은 성격이 다르다. 하나는 같이 생각하는 일이고, 하나는 정해진 일을 자동으로 처리하는 일이다. 글의 방향을 함께 고민할 때는 여전히 생각의 파트너가 필요하고, 매주 반복되는 정리 작업에는 에이전트가 필요하다. 용도를 잘못 사용하면 곤란해진다. 자동화에 적합한 일을 붙잡고 매번 의논하면 비효율적이고, 깊이 고민해야 할 일을 자동화에 맡기면 깊이가 없는 결과가 나온다.

바이브 코딩과 SaaS, 유행과 본질

한동안 바이브 코딩이 화제였다. 코드를 한 줄도 모르는 사람이 말로 설명해서 앱을 만든다. 동시에 "이제 SaaS는 망했다"는 이야기도 돌았다. 누구나 필요한 소프트웨어를 직접 만들 수 있으니 굳이 월 구독료를 낼 이유가 없다는 것이다.

나는 이 이야기를 들으며 생각했다. 정말 그렇게 될까? 많은 노력과 투자가 들어간 글로벌 서비스만큼, 우리가 만든 서비스가 믿음직하게 잘 돌아갈까? 만드는 것과 제대로 굴러가게 하는 것은 다른 일이다. 한두 명이 개인적으로 쓸 만하게 만드는 건 빨리 간단히 만들 수 있지만, 조직에서 대규모 인원이 쓸 만하게 만들려면 많은 시행착오와 비용이 들어간다. 실제로 요즘은 분위기가 조금 바뀌는 듯하다. 바이브 코딩으로 시제품은 빨리 나오지만, 제대로 된 제품으로 다듬고 운영하는 일은 여전히 만만치 않다는 것을 사람들이 깨닫고 있다. SaaS가 망했다기보다, 어설픈 SaaS는 선택되지 않고 제대로 된 것의 가치가 다시 드러나는 쪽에 가깝지 않나 싶다.

토큰 이야기도 비슷하다. 한동안은 많이 쓰는 게 미덕인 분위기였다. 토큰을 아끼지 말고 마음껏 쓰라고들 했다. 그런데 효과 없이 많이만 쓰는 게 답이 아니라는 게 금방 드러났다. API 토큰 비용을 감당할 만큼 돈을 버는 서비스를 만드는 일은 생각보다 쉽지 않다. 그리고 LLM 위에 얇게 기능 하나 얹은 서비스는, LLM 회사가 그 기능을 기본으로 넣어버리면 순식간에 경쟁력을 잃는다. 결국 효과 없이 규모만 키우는 것은 오래가지 못하는 것 같다.

개발은 쉬워졌지만, 알리는 일은 어려워졌다

만드는 것은 이렇게 쉬워졌는데, 만든 것을 세상에 알리고 쓰게 하는 일은 오히려 어려워졌다.

누구나 만들 수 있게 되니 비슷한 것이 너무 많이 쏟아지면서, 사람들의 관심을 얻기도 선택되기도 어려워졌다. 기술의 진입장벽이 낮아진 만큼, 차별화는 기술이 아닌 다른 곳에서 나온다. 그래서 나는 내가 신뢰하는 사람들, 나와 비슷한 것을 좋아하는 사람들이 모인 커뮤니티에서 추천해주는 것을 위주로 쓰게 된다. 리뷰가 없는 제품을 안 사듯, 사람들이 미리 골라준 것이라면 제품이든 서비스든 믿음이 가니까.

역할의 경계도 흐려진다. 한 사람이 말로 설명해서 만들고, 그 안에서 기획하고 디자인하고 개발하는 일이 하나로 합쳐진다. 칸막이가 사라진 자리에는, 무엇을 왜 만드는가에 대한 판단이 더 중요해진다.

변하는 것 속에서, 변하지 않는 것

이렇게 정리하다 보니 결국 한 가지 질문에 닿는다. 이렇게 모든 게 빠르게 바뀌는데, 무엇을 붙잡고 있어야 하나.

나는 덜 변하는 본질에 더 관심을 두고 있다. 효율적으로, 효과적으로 해서 결국 무엇을 얻으려는 것인지, 우리가 진짜 논의해야 하는 중요한 주제가 무엇인지, 그게 왜 중요한지. 나는 이런 것들이 본질이라고 생각한다.

특히 사람보다 빨리 처리하는 효율보다, 사람이 할 수 없었던 일을 하게 되는 새로운 효과에 더 큰 가능성이 있다고 본다. 얼마 전 많은 영상에서 소개된, Claude Code와 Obsidian으로 지식 관리를 하는 방법을 관심 있게 보았다. 내 지식을 어떻게 관리할지, 그동안 여기저기 흩어져 있던 자료를 연결해 내가 생각하지 못했던 새로운 통찰을 어떻게 얻어내는지. 여기서 한발 더 나아가 자기 지식 관리를 넘어 조직의 지식 관리, 고객과 파트너와 어젠다 관리까지 가면, AI로 회사의 비즈니스를 혁신할 수 있겠다는 생각이 든다.

사람 대신 에이전트를 써서, 인원수는 적어도 많은 일을 할 수 있는 조직을 만드는 것. 무슨무슨 OS라는 이름으로 불리는 이런 흐름이 요즘 세계적인 추세다.

도구는 계속 변할 것이다. 이름도, 방식도 바뀔 것이다. 그 흐름을 외면할 필요는 없지만, 휩쓸리고 싶지도 않다. 변하는 것을 따라가면서도 변하지 않는 것을 놓치지 않으려고 한다. 요즘 내가 붙잡고 있는 생각이다.