AI 생산성 10배, 코딩 말고 코칭이다

스탠포드 교수가 밝힌 AI 생산성 10배 높이는 비밀: 코딩이 아니라 ‘코칭’이다

오늘 다룰 내용은 스탠포드 대학의 제레미 어틀리(Jeremy Utley) 교수가 공개한 AI 생산성을 극적으로 끌어올리는 실전 노하우야.

아마 대부분 챗GPT 같은 AI를 쓰면서 “생각보다 별로인데?” 하거나 “너무 기계적인 답변만 하네”라고 느낀 적 있을 거야. 그건 AI의 성능 문제가 아니라, 우리가 AI에게 일을 시키는 방식, 즉 ‘맥락(Context)’을 설계하는 방식이 잘못되었기 때문이야.

이 글에서는 단순한 프롬프트 엔지니어링을 넘어선 ‘컨텍스트 엔지니어링(Context Engineering)’과 ‘생각의 사슬(Chain of Thought)’, 그리고 ‘역방향 프롬프팅(Reverse Prompting)’ 등 스탠포드 강의실에서만 들을 수 있는 핵심 기법들을 아주 상세하게 풀어줄게.

특히 AI를 단순 검색 도구가 아닌, ‘나만의 비즈니스 파트너’나 ‘협상 시뮬레이터’로 활용하는 방법까지 포함되어 있으니 끝까지 읽어보면 업무 효율이 완전히 달라질 거야.

1. AI는 소프트웨어가 아니라 ‘사람’처럼 다뤄야 한다

가장 먼저 바꿔야 할 건 마인드셋이야. 제레미 교수는 “AI는 나쁜 소프트웨어지만, 좋은 사람이다”라고 농담처럼 말해. 이게 무슨 뜻이냐면, AI는 마치 ‘엄청 열정적이고 지치지 않지만, 거절을 못 하는 인턴’과 같다는 거야.

우리가 AI에게 무리한 걸 시켜도 AI는 “못해요”라고 말하기보다는 어떻게든 답을 지어내려고 해. 그래서 15분 뒤에 다시 확인하라는 둥 엉뚱한 소리를 하거나, 할루시네이션(거짓 정보)을 만들어내기도 하지.

AI는 기본적으로 ‘도움이 되고 싶어 하는(Helpful)’ 성향으로 프로그래밍되어 있어. 그래서 무조건 “Yes”를 외치는 예스맨이야. 그렇기 때문에 AI를 잘 쓰는 사람은 코딩을 잘하는 개발자가 아니라, 직원에게 업무 지시를 잘 내리는 ‘코치’나 ‘매니저’ 같은 사람이어야 해.

핵심 포인트:

AI를 코드 덩어리가 아닌, 눈치 없는 열정적인 신입 사원으로 대하라.
구체적인 지시가 없으면 AI는 당신의 마음을 읽지 못하고 엉뚱한 결과물을 내놓는다.

2. 프롬프트 엔지니어링의 진화: 컨텍스트 엔지니어링 (Context Engineering)

많은 사람들이 “영업 이메일 써줘”라고 간단히 입력하고 결과물에 실망해. 이건 마치 신입 사원에게 아무 정보도 안 주고 “거래처에 메일 보내”라고 하는 것과 같아.

여기서 필요한 게 바로 ‘컨텍스트 엔지니어링’이야. 이건 단순히 명령어를 잘 쓰는 걸 넘어서, AI에게 ‘나라는 사람이 누구인지’, ‘우리 회사의 톤앤매너는 어떤지’ 배경 지식을 통째로 주입하는 과정이야.

실전 적용법:

나의 목소리(Voice) 입히기: “영업 이메일 써줘”가 아니라, “내가 예전에 썼던 이메일 스타일과 우리 회사의 브랜드 가이드라인을 참고해서 써줘”라고 해야 해.
구체적 자료 제공: 고객과의 통화 녹취록이나 제품 사양서를 업로드하고, “이 통화 내용과 제품 스펙을 반영해서 작성해”라고 지시해야 해.

AI는 독심술사가 아니야. 네가 머릿속으로만 생각하고 있는 ‘암묵적인 정보’를 모두 꺼내서 ‘명시적인 정보’로 바꿔주는 것이 컨텍스트 엔지니어링의 핵심이야. 이걸 잘하면 AI가 써준 글이 기계적이지 않고 진짜 내가 쓴 것처럼 자연스러워져. 이는 생성형 AI 생산성을 높이는 가장 기초적이면서도 강력한 방법이지.

3. AI의 뇌를 깨우는 주문: 생각의 사슬 (Chain of Thought)

이건 기술적으로 가장 중요한 부분인데, 다른 곳에서는 잘 안 알려주는 내용이야. 대규모 언어 모델(LLM)은 답변을 미리 머릿속으로 완성하고 내뱉는 게 아니야. 그냥 ‘다음에 올 가장 확률 높은 단어 하나’를 예측해서 실시간으로 써 내려가는 구조야.

그래서 복잡한 문제를 주면 AI도 당황해서 아무 말이나 내뱉을 수 있어. 이때 필요한 마법의 문장이 있어.

“내 질문에 답하기 전에, 네가 생각하는 과정을 단계별로 나에게 먼저 설명해 줘 (Walk me through your thought process step by step).”

이 한 문장이 왜 중요할까?

AI가 바로 결론을 내리지 않고, 스스로 논리를 세우게 만든다.
마치 사람이 “음, 이 문제를 해결하려면 먼저 A를 고려하고, 그다음 B를 봐야겠군”이라고 혼잣말을 하며 사고를 정리하는 것과 같다.
이 과정을 통해 AI는 훨씬 더 논리적이고 정확한 답변을 내놓게 돼.

이걸 ‘생각의 사슬(Chain of Thought)’ 추론이라고 해. AI가 결과를 내놓기 전에 생각할 시간을 주는 거지.

4. 나를 인터뷰하게 만들어라: 역방향 프롬프팅 (Reverse Prompting)

보통 우리는 AI에게 정보를 주고 결과를 달라고만 해. 하지만 정말 유능한 매니저는 직원에게 “일하다가 모르는 거 있으면 물어봐”라고 하잖아?

AI에게도 똑같이 해야 해. 프롬프트 마지막에 항상 이렇게 덧붙여봐.

“이 작업을 완벽하게 수행하기 위해 나에게 더 필요한 정보가 있다면, 시작하기 전에 먼저 나에게 질문해 줘.”

이렇게 하면 AI가 거짓으로 숫자를 지어내는 대신, “지난 분기 매출 데이터가 필요합니다”라고 역으로 요청하게 돼. 이걸 ‘역방향 프롬프팅’이라고 하는데, AI와의 협업 수준을 한 단계 끌어올리는 AI 상호작용 전략이야. AI가 맘대로 추측해서 소설을 쓰는 걸 방지하고, 진짜 내 상황에 맞는 맞춤형 답변을 얻을 수 있어.

5. AI에게 페르소나(가면) 씌우기 & 퓨샷 프롬프팅 (Few-Shot Prompting)

AI는 인터넷상의 방대한 지식을 가지고 있지만, 어디서 정보를 꺼내야 할지 모를 때가 많아. 이때 AI에게 ‘역할(Role)’을 부여하면 그 역할에 맞는 지식 네트워크가 활성화돼.

나쁜 예: “이 글 좀 봐줘.”
좋은 예: “너는 지금부터 ‘데일 카네기’야. 인간관계론의 관점에서 이 이메일이 상대방에게 어떻게 들릴지 분석해 줘.”
더 좋은 예: “너는 냉전 시대의 까칠한 러시아 올림픽 심판이야. 내 글을 아주 냉정하고 비판적으로 평가하고 점수를 깎아줘.” (이건 비판적 사고를 기르기 위해 아주 좋은 팁이야!)

그리고 ‘퓨샷 프롬프팅(Few-Shot Prompting)’도 필수야. AI는 모방의 천재거든.”잘 쓴 이메일 3개”를 예시로 던겨주고 “이런 스타일로 써줘”라고 하면 기가 막히게 따라 해. 심지어 “절대 쓰면 안 되는 나쁜 예시”를 만들어 달라고 해서, 무엇을 피해야 할지 AI가 스스로 인지하게 만드는 것도 고급 스킬이야.

6. 실전 활용: 어려운 대화를 위한 ‘비행 시뮬레이터’

제레미 교수가 제안하는 가장 흥미로운 활용법은 AI를 ‘어려운 대화의 연습 상대’로 쓰는 거야. 연봉 협상이나 까다로운 상사와의 면담을 앞두고 있다고 쳐보자.

프로파일링: 먼저 AI에게 상사의 성격, 말투, 현재 상황을 자세히 설명하고 상사 역할을 맡겨.
시뮬레이션: 챗GPT의 음성 모드(Voice Mode)를 켜고 실제로 대화를 나눠봐.
피드백: 대화가 끝나면 스크립트를 분석해 달라고 해. “내가 너무 저자세였나?”, “어떤 논리가 부족했나?” 등을 평가받는 거지.

이건 마치 파일럿이 비행 시뮬레이터를 타는 것과 같아. 실제 상황에서 겪을 시행착오를 AI와 미리 겪어보는 거야. 이 과정을 통해 우리는 단순한 지식 검색을 넘어 맥락 공학(Context Engineering)을 활용한 실질적인 비즈니스 스킬 업그레이드를 경험할 수 있어.

< Summary >

AI는 인턴이다: AI를 코딩 대상이 아닌, 열정적이지만 지시가 필요한 신입 사원처럼 대하고 코칭해야 한다.
컨텍스트 엔지니어링: 단순히 명령만 하지 말고, 나만의 스타일, 배경지식, 데이터를 입력해 맥락을 제공해야 한다.
생각의 사슬(Chain of Thought): “답변하기 전에 생각 과정을 단계별로 설명해 줘”라고 요청하면 논리력이 획기적으로 좋아진다.
역방향 프롬프팅: AI가 멋대로 추측하지 못하게 “필요한 정보가 있으면 나에게 먼저 물어봐”라고 지시한다.
역할 놀이와 시뮬레이션: AI에게 특정 페르소나(예: 까칠한 심판)를 부여하거나, 협상 시뮬레이터로 활용해 실전 감각을 익힌다.

[관련글…]

*출처: EO Korea

NextLens.Net