이번 주에도 AI에게 같은 실수를 고치라고 몇 번을 시켰는데 또 틀렸다. 지시는 구체적이었다. 전에도 같은 지적을 했고, 이번에도 똑같이 말했다. 그런데 또 틀렸다. 나는 Fable과 Opus를 섞어 쓰는데, 잠깐 이상한 생각이 들었다. 최고급 모델을 쓰게 하려고 일부러 성능을 낮춘 건 아닐까.

요즘 이 두 가지 말을 동시에 듣는다. 인류사에 몇 없는 혁신이라는 말과, 이제 거품이 꺼질 때가 됐다는 말. 토큰을 최대한 써서 정확도를 올릴지, 아껴서 비용을 줄일지도 의견이 갈린다. 정확도가 오르면 사람을 다시 뽑아야 하나 하는 이야기도 나온다. 이런 이야기 자체가 몇 달 전과 지금이 다르다.

방법을 부르는 말도 계속 바뀌었다. 지시를 잘 주는 것에서 시작해서, 배경 설명을 잘 해주는 것, 규칙을 잘 세워주는 것, 그리고 AI가 스스로 실행하면서 더 나은 방법을 찾아가게 하는 것까지 왔다. 이름이 계속 바뀐다는 건, 정답이 나오기 어려운 문제를 시행착오로 계속 발전시키고 있다는 뜻이라고 생각한다.

결국 핵심은 일을 잘 하게 만드는 것이다. 예전에는 시키고, 결과를 보고, 다시 시키는 식이었다. 지금은 AI가 여러 일을 동시에 처리하고, 사람은 꼭 필요할 때만 들어가는 방향으로 가고 있다. 다만 그러려면 예측 못 한 행동을 안 해야 하는데, 아직 거기까지는 못 갔다.

사람이 확인하는 몫도 줄지 않았다. 처리하는 양이 늘면서 확인이 느슨해지고, 그러면서 실수가 는다. 그러면 AI가 쓸모없다는 이야기가 다시 나온다.

예전에 한 대기업에서 일할 때, 본부 사람들이 2, 3주 걸려서 만든 기획안을 10분 만에 읽고 피드백을 준 적이 있다. 보통 임원 피드백은 1, 2주 걸리고, 반영하는 데 다시 1, 2주가 걸리니 그사이 다른 일을 할 여유가 있었다. 그런데 내가 너무 빨리 돌려주니, 쉬지도 못하고 바로 다시 해야 한다며 힘들어하는 사람들이 있었다. 지금 AI 앞에서 비슷한 일이 일어난다. AI가 결과물을 너무 빨리 만들어 내니, 이제는 사람이 검토하는 속도가 병목이 된다.

그래도 사람이 필요 없어진다고는 생각하지 않는다. 한동안은 사람이 없어도 된다는 이야기가 많았지만, 지금은 사람이 계속 필요하다는 이야기가 많아지는 것 같다. 결과에 책임질 사람이 있어야 하니, 전문직 수는 줄어도 완전히 대체되기는 어려울 거라고 본다. 기업을 상대하는 비즈니스도 마찬가지다. 문제가 생겼을 때 책임질 공급자가 분명해야 계약이 된다. 소송까지 걸릴 수 있는 일일수록, 그 책임을 AI에게 맡기기는 더 어려울 거라고 본다.

직접 써 보면서 느낀 건, 늘 만족스럽지는 않아도 놀라울 때가 많다는 것이다. 글을 쓰거나 그림을 그려주는 것도 신기하지만, 진짜 놀라운 건 사람이 그만한 시간과 비용으로는 할 수 없는 리서치와 대조, 분석을 해낸다는 점이다. 전략을 상의할 때는 똑똑한 동료가 옆에 있는 느낌이 들 때도 있다. 클로드가 영어로 써준 글은 가끔 AI가 썼다는 티가 나면서도 놀랍다.

처음 챗GPT가 나왔을 때 신기해하던 기분과, 지금 내 일을 많이 맡길 수 있겠다고 생각하면서 할 일이 많이 남아 있다고 느끼는 기분 중 어느 쪽이 더 나은지는 잘 모르겠다. 발전 속도를 따라가기 벅차고, 너무 많이 나오는 AI 콘텐츠에 지치기도 한다. 그런데 한 번 그 가치를 느끼고 나면, 다른 건 줄여도 이것만은 줄지 않는다.

바보 같은 실수를 반복하는 걸 보면 회의가 들다가도, 놀라운 모델이나 서비스가 나오면 거품 얘기는 사라지고 다시 칭찬만 나온다. 보안과 정보 보호 때문에라도 완전히 대체되지는 않을 거라고 생각하지만, 그것도 확신은 아니다.

앞으로 몇 년은 계속 과정일 것이고, 어디까지 갈지는 아직 아무도 모른다. 전문가도, 만드는 사람도 예측을 말할 뿐이고, 그중 이해관계가 있는 사람의 말을 특별히 더 믿을 필요는 없다.