다시는 챗GPT를 사용하지 않겠다

김형정2025년 4월 21일About 2 min

다시는 챗GPT를 사용하지 않겠다 관련

다시는 챗GPT를 사용하지 않겠다

AI는 실생활에 도움이 되는 것도 맞고, 개발에 필수적인 툴은 맞다. 하지만 이를 남용하는 것이 개발자에게 있어 얼마나 큰 영향을 끼칠지 생각을 해보는 편이 좋을 듯하다. 우리는 포스트 AI 시대에 발맞춰서 AI에 대한 사용법을 익히고, 그에 따른 영향력을 몸소 체감하며, AI에 대한 긍정적이면서도 비판적인 ‘내’ 시각을 가져야만 한다. AI가 결국 내 밥그릇을 뺏을 놈이란 것을 인지하고 있어야 하며, 내 밥그릇 말고도 어떤 영향을 끼칠 수 있는지를 항상 생각하자. 내가 과연 AI를 활용하는 방식이 내 삶이나 내 사고에 있어서 도움이 되는가를 되새기며, 내 뇌를 AI에게 맡기는 방식을 지양하자. 개발 및 AI에 대한 철학적인 내 생각을 글로 표현했다.

AI는 실생활에 도움이 되는 것도 맞고, 개발에 필수적인 툴은 맞다.

하지만 이를 남용하는 것이 개발자에게 있어 얼마나 큰 영향을 끼칠지 생각을 해보는 편이 좋을 듯하다.

개발 및 AI에 대한 철학적인 내 생각을 글로 표현했다.

AI

AI를 단순히 내 밥그릇 뺏는 나쁜 도구로 보아야 할까? 난 아니라고 생각한다.

챗GPT 3.0이 나온 이후로, AI에 대한 아티클을 3년 넘게 보고 있다. 3년 넘게 같은 주제를 계속 보고 있다는 것은 그 자체로 흥미로웠다. 매일매일 새로운 뉴스를 접할 수 있었기 때문이었다.

그렇게 2024년 노벨상은 AI가 휩쓸었으며, 전 세계는 챗GPT에 열광하고 있다.

말 그대로 지수적으로 발전을 하고 있으며 현재는 AGI(Artificial General Intelligence) 직전 단계라고 생각한다. 물론 LLM(Large Language Model)으로 인한 생성형 AI(Gen AI)가 AI 발전의 선두를 이끌고 있지만, 과거에는 ML, DL 등 이미지 처리, 영상 처리에 대한 것이 인기였고, 그때도 파급력이 컸었던 것으로 기억한다.

그전에는 인터넷 보급으로 인한 정보화 시대가 열리게 되었고,

그전에는 기계의 보급으로 인한 산업 혁명이 이루어졌다.

그보다 훨씬 전에는 도구의 보급으로 인한 농업 혁명이 이루어졌다.

이 시점에서 그 모든 것들이 과연 순탄하게 이루어졌는가에 대해 고민해 볼 필요가 있었다.

(앞으로 말하는 AI는 전부 LLM을 이용한 생성에 대해 논할 것이다.)

산업 혁명

산업 혁명은 과연 우리에게 어떤 것을 남겨주었을까?

혁신적인 공산품 제작 속도, 한층 더 편해진 노동 환경, 막대한 부.

이 모든 것들은 산업 혁명으로 인해 현재의 우리가 누리고 있는 것이다. 그러나 과연 산업 혁명이 이루어진 그때 그 시절 사람들도, 지금 우리가 누리고 있는 것들을 누렸을까?

산업 혁명의 뒤편

기계의 보급이 이루어지고 나서 과연 노동 환경은 전보다 좋게 바뀌었을까?

당시 많은 힘이 필요하던 노동이 단순 기계 조작으로 바뀌며 기존 노동자들은 어린아이들로 대체되는 경우가 많았다. 전보다 급격하게 올라간 작업 효율에 공장은 24시간 돌아가게 되었다. 이 과정에서 생겨난 막대한 부는 노동자들에게 돌아가는 것이 아닌 공장 소유자(부르주아)에게 돌아가게 되었다. 노동자들은 가만히 있었을까? 아니다. 그로 인해 생겨난 운동이 러다이트 운동이다.

이러한 문제들에도 불구하고 지금의 우리는 아직도 기계의 도입이 많은 사람들의 삶을 바꿨다고 생각하는가?

내 생각은 ‘그렇다’이다. 당연히 긍정적으로 바뀌었다.

뭐야 위에는 다 부정적으로 써놓고 왜 긍정적이라고 해?

실제로 우리 삶이 바뀐 것도 맞고, 산업 혁명의 여러 문제는 기계의 보급으로 인한 사회적인 충격을 고려하지 않은 채로 경착륙한 상황 때문이라고 생각한다. 사회안전망을 구축한 채로 도입했다면, 그에 피해받는 사람이 적었을 것이고, 위와 같은 상황은 일어나지 않았을 것이다.

근데 그래서 이게 AI랑 무슨 상관인데?

AI는 제2의 산업 혁명이 될 것이다

트럼프 미국 대통령은 취임하며 소프트뱅크, 오픈AI 등 AI 기업에 700조 원을 투자할 계획이라고 밝혔다.

LLM은 그 특성상 높은 전력량을 요구한다. 그에 따른 전력을 생산하는 회사들은 꾸준히 성장하고 있으며, 연산을 위한 AI 칩을 개발하는 엔비디아는 전 세계 시가총액 1위를 달성하기도 했다.

이러한 기업들은 어디에 투자할까? 당연히 돈 되는 곳에 투자한다.

그렇다면 전 세계는 현재 어디에 투자하고 있는가? AI에 투자하고 있다.

AI의 수익성

그렇다면 AI의 수익성은 어디서 나와야 하는가?

AI는 제품을 생산하지 않는다. AI는 공장도 돌리지 않는다.

그러나 AI는 장기적으로 사람이 하는 일을 대체하여 기업 입장에서 인력에 대한 가격 부담을 낮출 수 있다.

경제적으로 보았을 때, 사람 1명의 가격은 얼마라고 생각하는가? 늘어나는 인간의 기대 수명을 생각하지 않고, 30살에 취업해서 60살에 회사를 그만둔다고 해보자. 전체 평균 연봉을 4,500만 원이라고 가정했을 때, 기업은 노동자 한 명에게 13억 5천만 원이라는 급여를 지불한다.

즉, 회사는 사람 한 명을 13억 5천만 원이라는 가격을 주고 사는 것이다. 300명 넘게 일하는 규모의 회사라면 단순 계산으로도 30년간 400억 원이라는 가격을 노동자에 지불해야 한다.

아직도 AI는 수익성이 없다고 생각하는가? 전 세계가 투자하는 이유를 찾을 수 없다고 생각하는가?

AI로 인한 인력 감축은 기업에 돈을 가져다준다. 이것이야말로 AI 투자에 대한 알파이자 오메가라고 생각한다.

AI의 맹점

AI는 100%의 성공과 100%의 실패를 보장하지 않는다.

졸음운전 판별에 대한 딥러닝(Deep Learning) 모델을 사람들 앞에서 시연한 적이 있다. 당시 모델은 결과적으로 어떤 상황을 두고 ‘졸음운전을 하고 있다’고 판별했지만, 이를 개발한 우리는 ‘일정 확률 이상이면 졸음운전일 것이다’라고 정의했다.

다시금 강조하겠다. AI는 100%의 성공과 100%의 실패란 없다.

환각도 같은 개념이다. 모델은 추론을 하기 때문에 틀린 답을 생성하기도 하는데, 이는 AI의 발전 가능성을 열어두는 개념이자 단점이라고도 볼 수 있다.

만약 내가 졸지 않았는데 모델이 졸았다고 판단한다면 그에 대한 책임은 누가 져야 하는가?

당연히 그렇게 정의한 우리 팀에게 책임이 있다.

AI는 책임을 지지 않는다. AI가 내린 답에 대해 결정하는 것은 우리다.

뭐 어쩌라고? 그러면 우리는 이제 뭘 해야 하는데? 결국 밥그릇 뺏는 게 맞다는 거잖아?

AI에 대한 접근법

맞는 얘기다. 밥그릇 뺏는 것, 맞다.

전 세계는 AI로 우리의 밥그릇을 뺏기 위해 혈안이 되어 있다.

난 이것이 기정사실이라고 보았고, 그렇게 ‘제2의 산업 혁명’이 올 것이라고 생각했다.

그에 따른 연착륙을 위해 우리는 무엇을 해야 할까?

관심을 갖기도 해야 하고, 실제로 사용도 해보며, 이에 대한 긍정적인 시각과 비판적인 시각을 동시에 가져야 한다.

아마 많은 이들이 이러한 정보에 차근차근 접근해 본다면, 인생에 대해 회의적인 시각을 가질 수도 있을 것이다. 필자도 그랬다.

어차피 대체될 건데 내가 왜 자기 계발을 하며, 개발에 대한 공부를 하는거지?
그냥 AI 쓰면 개발해 줄 건데 내가 왜?

여기서부터는 인본주의에 대한 생각이 조금 필요할 것 같다.

인본주의에 대한 탈피

종교가 나라를 통치한 신권정치 체제에서 ‘왕’이 그것을 이용하는 시대로 가기 위해서는 ‘신’을 넘어서는 어떠한 것이 필요했다. 왕은 신을 이용했지만, 생산 수단을 가진 부르주아는 그에 준한 것이 없었다. 이에 인간 자체가 중요하다는 사상을 펼치기 시작했고, 그에 따라 생겨난 것이 ‘인본주의’이다. 그 인본주의로 인해 자본주의, 공산주의, 파시즘 등이 생겨났다.

즉, 인본주의는 신권정치 사회의 신을 벗어나려는 노력이다.

일부는 저 종교적인 사회를 벗어나려다 이단으로 불리고 마녀로도 불리며, 당시에는 엄청난 범죄자로 몰리기도 했다. 현재 시점으로 봤을 땐 어떠한가? 그 혹은 그녀가 옳았다고 보이지 않는가?

‘AI가 인간보다, (스코프를 좁힌다면) 나보다 낫지 않은가’에 대한 사고는 인본주의를 벗어나는 행위이다.

어쩌면 이는 누구나 할 수 있는 자연스러운 사고방식이다. 나는 지금 이 상황이 AI 발전으로 인해 인본주의에서 조금씩 탈피해 가는 과도기에 있다고 생각한다. 이는 자연스러운 것이지만, 그에 따른 패닉을 조금은 줄였으면 좋겠다.

우리는 어떻게 해야 하는데?

위에서 언급했듯, 그저 자연스럽게 이용하고, 즐기고, 비판적인 시각도 가지며, 무엇보다 본인이 하고 싶은 것을 꼭 했으면 좋겠다.

그 과정에서 부정적인 면들이 있을 수도 있다. 앞으로 말할 내용은, 드디어 ‘왜 내가 개발에 있어서 AI 사용을 멈추고자 하는지’에 대한 내용이다.

출처: 호모 데우스, <FontIcon icon="fas fa-globe"/>교보문고 — 출처: 호모 데우스, 교보문고

한참 패닉에 빠져 있을 때, 내 삶의 방향성을 정할 수 있게 도와준 책이다. 만약 위와 같은 고민으로 힘들다면 이 책을 한번 봤으면 좋겠다.

개발에 있어서 AI란?

당연히 생산성을 높여준다.

우리가 쓰고 있는 언어들은 프로그래밍 언어다. 쉽게 말해, 우리가 한국어를 써서 지금 블로그를 쓰고 있듯이, 프로그래밍 언어를 써서 프로그램을 개발한다.

한편 LLM 기반 생성형 AI는 글을 쓰는 데 특화되어 있다. 즉, 프로그래밍 언어를 쓰는데도 당연히 당연히 효과적일 것이다. 그렇다면 우리는 프로그래밍에 AI를 써야 할까? 당연히! 써야 한다.

하지만 당신이 ‘공부’하고 있는 개발자라면, 어떤 식으로 활용할지를 고민해 보는 편이 좋다.

나는 아래와 같은 이유로 적어도 공부하는 과정에서는 AI를 사용하지 않기로 했다.

오답 노트를 AI가 뺏어서 쓴다

보통 AI를 쓸 때 언제 많이 쓰는가? 나는 디버깅 할 때 많이 썼다.

아니 왜 안 돼? → 에러 코드, 해당 코드 복사 → 챗GPT 붙여넣기

문제점이 무엇일까? 에러와 디버깅에 찌든 개발자가 과연 챗GPT의 코드를 항상 주의 깊게 보고, 이해하고, 가져다 쓸까? 많은 경우, 이미 지친 나머지 그대로 복사해서 붙여 넣고 안 되면 또 쓸 것이다.

사용자 프롬프트(User Prompt): 이거 안 되잖아 오류 이렇게 떠
챗GPT: 앗 제가 실수했군요, 코드를 다시 바꿔보겠습니다.

그렇다면 나는 앞으로 이 실수를 다시 하지 않을 것인가? 높은 확률로 다시 실수하고, 다시 AI를 찾을 것이다. 본인의 지적 능력으로 승화할 가능성이 매우 낮아지는 것이다.

이렇게 99%의 계산 과정을 알아도 1%의 결말을 내지 못한다면, 나는 코딩을 잘한 것일까? 그저 지친 나머지 내 뇌를 빼서 AI에 맡긴다고 생각한다. 가장 핵심적인, 내가 모르는 내용이어서 못하는 그 가장 중요한 부분을 AI에 맡기는 것이다.

개발 친화적인, 무의식적 환경을 빼앗다

세상에는 많은 개발자가 있다. 내가 겪은 오류는 지구 반대편의 개발자가 똑같이 겪었을 가능성이 높다. 헌데 그 개발자는 완전 똑같은 상황에서 그 오류를 겪었을까? 내가 짠 코드와 그가 짠 코드는 같을까? 다를 것이다. 같은 오류여도 완전 다른 상황에서 날 수 있다.

AI는 그에 대한 정보 접근 능력을 차단한다. 오직 내가 보낸 코드에 대해 디버깅을 하고, 그에 대한 정보를 내뿜을 뿐, 그 코드를 짜는 데에 필요한 과정을 보여주지 않는다.

“당연히 프롬프트 엔지니어링(Prompt Engineering)으로 자세히 보여달라고 하면 보여줄 것이 아닌가?”
가슴에 손을 얹고 생각해 보자, 너무 지친 나머지 그저 복붙을 때려버리는 상황이 많지 않았는지를

그 오류에 대해 검색하고 찾아보려면 그에 따른 사전 지식이 필요하다. 나는 그 사전 지식에 대해 모든 것을 명확하게 알고 있는가? 이 블로그에선 다른 상황을 설명하고, 저 블로그에선 다른 상황을 설명하는데, 그 상황을 전부 다 이해하고 있는가? 구글링해서 찾아볼 때는 읽어 보고 ‘아~ 나랑 다르네’라고 이해할 수 있어야만 다른 정보를 또 찾아볼 수 있다.

단순 이런 찾아보는 행위마저도 개발자를 코드 친화적(Code-friendly)인 상황에 놓이게끔 만들 수 있다.

아니 그건 챗GPT도 그렇잖아. 계속 코딩할 때 쓰면 똑같은 거 아님?

무의식적 환경의 중요성

무의식의 예시로 들기 가장 좋은 환경은 가정 환경이다.

여기 두 아이가 있다. 각각 다른 가정에서 자라고 있는 상황이다. 아이가 지나가는 새를 보며, 부모님에게 질문한다

“엄마(아빠), 저 새는 뭐야?”

서로 다른 부모의 답은 둘로 갈린다.

까치
어떤 새인지 궁금해서 엄마(아빠)도 찾아봤어, 검색해 보니까 까치이거나 까마귀일 수도 있다는데, 잘 보니까 까치인 것 같아.

1번 가정은 직설적으로 정답을 알려주며, 현실적인 방안을 제시한다.

2번 가정은 간접적으로 정답을 제시하며, 탐색하는 창의적인 방안을 제시한다.

이러한 가정 환경이 지속된다면 아이들은 어떤 식으로 자라나게 될까?

1번 가정의 아이는 정답을 찾는 데에는 효율적으로 잘 해내지만, 정답을 찾기 어려운 일에는 효율적이지 않을 가능성이 있다. → 챗GPT

2번 가정의 아이는 단순한 정답을 찾는 데에는 시간이 오래 걸릴 수 있지만, 정답을 찾기 어려운 일에 대해 사고하는 것에 부담이 없을 가능성이 있다. → 검색과 학습(구글링)

무의식적 환경은 위와 같이 조성되며, 사용처는 일상의 모든 상황이다.

개발은 어떤 것이라고 생각하는가? 난 후자지만, 각자의 선택에 맡기겠다.

출처: 오스트리아의 정신분석학자 '프로이트'가 말하는 '무의식'에서 오는 불안, <FontIcon icon="fas fa-globe"/>교보문고 CASTing — 출처: 오스트리아의 정신분석학자 '프로이트'가 말하는 '무의식'에서 오는 불안, 교보문고 CASTing

위는 프로이트 빙산 모델에 대한 사진이다. 우리는 알게 모르게 주변 사람들이나, 접하는 모든 것들에게 영향을 받는다. 지나가던 사람에게서 언뜻 들은 “요즘 A 음식이 맛있대”라는 말은 주의 깊게 듣지 않아도 ‘A 음식은 맛있다’라는 얕은 인식을 심어준다. 그다음에 A 음식을 보았을 때, 우리는 실제보다 훨씬 맛있게 먹을 수도, 혹은 그 기대에 못 미쳐 더 아쉬운 결과를 얻을 수 있다. 이는 지나가는 사람의 말을 듣지 않았을 때와 크나큰 차이를 가져온다.

항상 개발에 대해 열심히 찾아보다 만난 그 작은 정보-무의식적으로 보지 않은 정보-도 결국 나에게 자산이 되어 돌아올 것이다. 무의식은 우리의 생각보다 훨씬 더 막대한 영향을 끼친다.

마치며: 나의 개발 철학

내 결론은 ‘공부할 때는 LLM 사용을 최대한 지양하고, 생산적인 활동을 할 때는 사용해도 된다’는 것이다.

우리는 포스트 AI 시대에 발맞춰서 AI에 대한 사용법을 익히고, 그에 따른 영향력을 몸소 체감하며, AI에 대한 긍정적이면서도 비판적인 시각을 가져야만 한다. AI가 결국 내 밥그릇을 뺏을 놈이란 것을 인지하고 있어야 하며, 내 밥그릇 말고도 어떤 영향을 끼칠 수 있는지를 항상 생각하자. 내가 과연 AI를 활용하는 방식이 내 삶이나 내 사고에 있어서 도움이 되는가를 되새기며, 내 뇌를 AI에게 맡기는 방식을 지양하자.

수많은 혼란 끝에 결국 정립한 내 개발 철학은 아래와 같다.