LLM과 소프트웨어 개발의 미래: 환상과 현실 사이

AI와 대규모 언어 모델(LLM)은 지금 개발자와 IT 업계 전반에서 가장 뜨거운 화두입니다. 한편으로는 “개발 효율이 폭발적으로 늘어날 것”이라는 기대가 있고, 다른 한편으로는 “직업 안정성이 위협받을 수 있다”는 불안도 공존합니다. 마틴 파울러는 최근 글에서 이 문제를 여러 각도에서 짚으며, LLM이 가진 가능성과 위험, 그리고 우리가 가져야 할 태도를 이야기했습니다. 이번 글에서는 그 내용을 바탕으로 LLM이 개발 생산성, 소프트웨어 공학, 보안, 그리고 개발자의 미래에 어떤 의미를 갖는지 정리해 보겠습니다.

반응형

---

LLM 사용 방식과 개발자 생산성

현재 많은 개발자는 LLM을 **자동완성 도구(co-pilot)**처럼 활용합니다. 코드 작성 시 보일러플레이트를 빠르게 완성하거나, 단순 반복 작업을 줄이는 용도로 쓰는 것이죠. 하지만 실제로 가장 효과적으로 활용하는 사람들은 조금 다릅니다. 이들은 LLM에게 코드 파일을 직접 읽고 수정하게 하거나, 대규모 맥락을 이해하게 하는 방식을 선호합니다.

즉, 단순히 코드 한 줄을 예측하는 차원을 넘어, LLM을 코드 이해 도우미로 쓰는 방식이 더 큰 효과를 낸다는 것입니다. 이 차이를 무시하고 “AI가 개발 효율을 몇 % 높였다” 같은 조사를 하면 현실을 왜곡할 수 있습니다.

---

프로그래밍 직업과 미래의 불확실성

많은 개발자가 궁금해하는 부분은 “AI가 내 직업을 대체할까?”라는 질문입니다. 초급 개발자의 필요성, 경력자의 역할, 프로그래밍 직업의 장기적 전망까지 다양한 논의가 있지만, 결론은 명확합니다. 아직 누구도 확실히 답할 수 없다는 것입니다.

지금 필요한 것은 확정적인 예측이 아니라, 실험과 경험 공유입니다. 실제로 다양한 개발자들이 자신만의 워크플로우를 만들어내고 있고, 그 과정을 서로 관찰하고 배워야 합니다.

---

AI 산업의 버블과 역사적 교훈

AI가 버블이라는 지적도 많습니다. 하지만 파울러는 “모든 기술 혁신에는 버블이 있었다”고 강조합니다. 닷컴 버블 시기 수많은 기업이 사라졌지만, Amazon처럼 살아남아 거대한 기업으로 성장한 사례도 있었습니다.

즉, 버블은 필연적이지만 그 끝이 곧 기술의 종말을 뜻하지는 않습니다. 중요한 것은 버블 이후에도 살아남는 지속 가능한 가치를 찾는 것입니다.

---

LLM의 환각(Hallucination)과 본질적 특성

많은 사람이 LLM의 환각을 결함으로 봅니다. 하지만 파울러는 오히려 이것이 LLM의 본질적 특성이라고 지적합니다. LLM은 원리적으로 사실 검증보다 그럴듯한 텍스트를 생성하는 데 초점이 맞춰져 있습니다.

따라서 같은 질문을 여러 번 변형해 던지고, 나온 답변을 비교하며 패턴을 읽는 과정 자체가 유용합니다. 숫자 계산처럼 확실한 정답이 필요한 문제를 직접 맡기기보다는, 아이디어 탐색이나 다양한 시각을 얻는 도구로 쓰는 것이 바람직합니다.

---

소프트웨어 공학에 비결정성 도입

전통적 소프트웨어 공학은 결정적 환경을 전제로 설계되고 구현되어 왔습니다. 하지만 LLM은 **비결정성(불확실성)**을 본질적으로 포함합니다. 동일한 질문을 해도 답변이 달라지고, 항상 일관된 출력을 보장할 수 없기 때문입니다.

이는 개발자들에게 새로운 사고 전환을 요구합니다. 마치 하드웨어 엔지니어가 현실 세계의 불확실성을 고려해 설계하듯, 앞으로의 소프트웨어 공학도 비결정성을 다루는 방식을 고민해야 합니다.

---

보안 위협 확대와 브라우저 에이전트 문제

LLM은 소프트웨어 시스템의 공격 표면을 크게 확장시킵니다. Simon Willison은 이를 “치명적 삼중(trifecta)”라 부르며, 세 가지 위험을 강조했습니다.

• 비공개 데이터 접근
• 외부 통신
• 신뢰할 수 없는 콘텐츠 노출

특히 브라우저 기반 LLM 에이전트는 근본적으로 안전하게 만들 수 없다는 지적이 있습니다. 예를 들어, 웹 페이지에 숨겨진 텍스트 명령을 삽입해 LLM을 속이면 민감한 정보를 유출하거나 심지어 계좌 이체 같은 악의적 행위를 유도할 수도 있습니다.

따라서 LLM을 활용하는 개발자라면 반드시 보안을 우선 고려하는 태도가 필요합니다.

---

728x90

LLM은 소프트웨어 개발에 새로운 가능성을 열었습니다. 하지만 동시에 환각, 비결정성, 보안 위협 같은 구조적 한계도 분명 존재합니다. AI 산업이 버블 속에 있다 하더라도, 결국 일부 기업과 기술은 살아남아 산업을 재편할 것입니다.

개발자에게 중요한 것은 명확합니다. LLM을 실험적으로 사용해보고, 경험을 공유하며, 위험을 인식하고 대비하는 태도입니다. 이런 과정을 통해 LLM은 단순한 자동완성을 넘어, 개발 문화와 소프트웨어 공학을 바꾸는 중요한 전환점이 될 수 있습니다.

https://martinfowler.com/articles/202508-ai-thoughts.html

Some thoughts on LLMs and Software Development