◆…자료:블로그(영원한 슬롭템버)
아이폰 최초 탈옥과 플레이스테이션3 해킹으로 알려진 해커 조지 호츠가 인공지능(AI) 코딩 에이전트의 대규모 도입에 대해 강하게 경고했다.
호츠는 최근 '영원한 슬롭템버(The Eternal Sloptember)'라는 제목의 블로그 글에서 "소프트웨어 개발에 AI 에이전트를 도입하는 것은 이 분야 역사상 가장 큰 실수 중 하나가 될 것"이라고 공개 경고했다.
이어 AI 에이전트가 프로그래밍을 제대로 할 수 없는 것은 물론 AI가 만들어낸 오류를 알아차리는 데 점점 더 오랜 시간이 걸리고 있다는 점이라고 지적하면서 단순한 관찰이 아니라 실제 사용한 경험이라고 덧붙였다.
호츠는 6개월 동안 자신의 오픈소스 딥러닝 프레임워크 타이니그래드 일부 작업과 USB-PCIe 칩 펌웨어 역설계 프로젝트에 AI 에이전트를 직접 활용했지만, 에이전트가 작업을 상당 부분 진행해 주는 것처럼 보이더라도 결국 사용자가 결과물을 검토하고 수동으로 마무리해야 하는 상황이 반복됐다고 설명했다.
그가 우려하는 핵심은 개발자의 일자리 대체가 아니라 코드 품질로 뛰어난 엔지니어라면 AI 에이전트가 만든 잘못된 결과물을 식별할 수 있지만, 그렇지 못한 조직에서는 문제가 배포 전 걸러지지 않을 수 있다고 봤다.
특히 실력이 부족한 엔지니어들이 AI 에이전트를 활용해 이전보다 훨씬 많은 코드를 생산할 경우, 대규모 조직에서는 코드 생산량 증가에 가려 평균 품질 저하를 뒤늦게 인식할 수 있다는 주장이다.
호츠는 성과가 높은 조직은 코드 리뷰와 피드백 체계가 촘촘해 AI 에이전트의 오류를 잡아낼 가능성이 크지만, 성과가 낮은 조직은 이런 자체 검증 시스템이 부족하다면서 바로 이런 조직들이 AI 에이전트를 통해 더 많은 코드를 생산하게 되면 "엉터리 제품이 넘쳐나는 황금시대와 질 좋은 제품의 암흑시대"가 올 수 있다고 주장했다.
특히 빅테크와 월스트리트가 뒤처질 수 있다는 두려움을 자극하며 AI 코딩 도구의 대량 도입을 부추기고 있다며 이 과정에서 코드 품질에 대한 충분한 검증 없이 AI 에이전트 도입 경쟁이 확산될 수 있다고 우려했다.
그의 경고는 AI 코딩 에이전트의 한계를 둘러싼 논쟁 속에서 나온 것으로 언어모델이 기존 코드 패턴을 모방할 수는 있어도 새로운 문제를 안정적으로 추론·해결하는 데는 한계가 있다는 점을 분명히 하고 있다.
반면 안드레이 카르파티와 주요 AI 연구소·빅테크 기업들은 자연어로 기능을 설명하면 AI가 코드를 구현하는 '바이브 코딩'과 에이전트 기반 개발 도구가 이미 소프트웨어 개발 방식을 바꾸고 있다고 보고 있다.
마이크로소프트와 앤트로픽 등 주요 AI 기업들은 개발자가 직접 코드를 쓰기보다 AI가 만든 결과물을 검토하는 방식으로 개발 패러다임이 바뀌고 있다고 보고 있다. 그러나 호츠는 자신도 같은 방식으로 작업해 봤지만, 매번 사람이 직접 수정해야 했다고 반박했다.
그의 주장은 AI 코딩 도구가 무용하다는 의미라기보다, 이를 대규모 조직에서 검증 체계 없이 생산성 확대 수단으로 사용할 경우 오류가 누적되고 품질 저하가 뒤늦게 드러날 수 있다는 경고인 것이다.
댓글
0