[ AI Agents ]
2024년의 생성형 AI
2024년은 인공지능(AI) 산업에 있어 전환점이 된 해였다. 생성형 AI가 단순한 기술적 가능성을 넘어 실질적인 실용성을 입증하며, 다양한 산업 분야에서 적극적으로 도입되었다. 특히 GPT-4o, o1 등 기초모델의 성능이 비약적으로 향상되며, 생성형 AI는 단순한 예측을 넘어 스스로 추론하고 복합적인 문제를 해결할 수 있는 영역으로 진입하였다.
기초모델(Foundation Model)은 특정 업무에만 국한되지 않고, 다양한 작업을 수행할 수 있도록 설계된 범용적이고 강력한 인공지능 모델을 의미한다. 이러한 모델은 대규모 텍스트, 음성, 이미지 등의 데이터를 기반으로 사전 학습되며, 언어 이해 및 생성, 코드 작성, 멀티모달 처리 등 다양한 형태의 입력을 유연하게 처리할 수 있는 능력을 갖춘다.
2024년에는 OpenAI 외에도 다양한 기업들이 고성능의 기초모델을 발표하며 전체적인 기술 수준이 한층 높아졌다. Anthropic의 Claude, Google의 Gemini와 같은 모델들은 대학 수준의 지식, 논리적 추론 능력, 복잡한 코딩 작업 수행 능력을 보유한 것으로 평가받으며, 기초모델의 실용 가능성을 더욱 확장시켰다. 이러한 발전은 기초모델을 각 산업의 특성과 수요에 맞게 파인튜닝할 수 있는 기반을 마련하였고, 이에 따라 더욱 정교하고 맞춤화된 AI 서비스가 본격적으로 구현되기 시작하였다.
AI Agents란?
AI 에이전트(AI Agents)는 생성형 AI의 진화의 최신 단계로, 인간의 행동을 모방하고 작업을 수행할 수 있는 기술을 의미한다. 사용자나 다른 시스템을 대신하여 자율적으로 작업을 수행할 수 있으며, 자연어 처리 외에도 의사 결정, 문제 해결, 외부 환경과의 상호 작용, 작업 실행 등 다양한 기능을 포괄한다.
생성형 AI는 지난 2년동안 프롬프트 엔지니어링과 명령어 미세 조정 등 챗봇 답변의 정확성을 높이기 위해 외부 지식 소스를 통합하는 방향으로 빠르게 발전해왔다. 가장 최근의 진전은 자율 에이전트(Autonomous Agents)다. 자율 에이전트는 환경을 인식하고 결정을 내리며, 특정 목표를 달성하기 위해 행동을 취할 수 있는 AI 기반 애플리케이션을 의미한다. 여기서 핵심은 'Agency', 즉 소프트웨어가 독립적으로 행동할 수 있는 능력이다. 기존 생성형 AI 도구가 텍스트, 이미지, 음악 등 콘텐츠 생성에 초점을 두었다면, AI Agents는 문제 해결과 복잡한 작업 실행에 더욱 중점을 둔다.
즉, AI Agents는 LLM과 정통적인 소프트웨어 애플리케이션이 결합되어 자율적으로 작업을 수행하는 시스템이라고 정리할 수 있다.
AI Agents 시장
딜로이트 보고서에 따르면, 2025년에는 생성형 AI를 사용하는 기업의 25%가 AI Agents의 파일럿 프로젝트나 개념 증명을 시작할 것으로 예상되며, 2027년은 이 비율이 절반까지 증가할 전망이라고 밝혔다. 또한 OpenAI의 샘 올트먼은 AI Agents가 올해 안에 '가상 직원(virtual employee)'으로서 회사의 노동자로 합류하게 될 것이라는 전망을 내놓았다. 이처럼 AI 업계의 거물들은 2025년 인공지능 업계에서 가장 주목해야할 트렌드 중 하나로 AI Agents를 주목하고 있다.
뜨거운 관심만큼이나 기업들의 AI Agents를 향한 기대감과 투자 규모 역시 확대되고 있다. 시장조사업체 리서치앤드마켓은 글로벌 AI 에이전트 시장이 2024년 128억6000만달러(약 18조6500억원)에서 오는 2030년 332억1000만달러(약 48조1600억원)까지 성장할 것으로 전망했다.
AI Agents의 활용 사례
- 마이크로소프트의 MS 365 코파일럿 에이전트
마이크로소프트는 AI 기반 작업 도우미 MS 365 코파일럿에서 작동하는 다양한 AI Agents를 선보이며, MS Excel, Powerpoint 등 다양한 애플리케이션을 운영해 온 노하우를 바탕으로 문서 작업 등의 업무 자동화를 선보이고 있다.
- 앤트로픽(Anthropic)의 컴퓨터 우즈
앤트로픽에서 최근 발표한 '컴퓨터 우즈'는 키보드 입력, 버튼 클릭, 마우스 커서 이동 등 컴퓨터 조작에 필요한 모든 작업을 마치 사람처럼 수행이 가능하다. Cluade-3.5-sonnet 모델 기반의 컴퓨터 우즈는 실제 사용자 컴퓨터의 다양한 소프트웨어와 시스템에 접근하고, 사용자 명령을 이해하며 복잡한 작업 실행 능력을 갖추었다. 이를 바탕으로 문서 작성, 인터넷 검색, 스프레드시트 작업 뿐만 아니라 프로그램 설치와 같은 작업도 스스로 실행이 가능하다.
AI Agents의 과제
- 다중 에이전트의 종속성
특정 복잡한 작업을 수행하기 위해서는 여러 AI 에이전트가 상호작용하며 협력해야 한다. 이러한 다중 에이전트 시스템은 기능의 분산을 통해 효율성을 높일 수 있으나, 동시에 여러 가지 위험 요소를 내포하고 있다. 특히 동일한 기초 모델에 기반한 에이전트들이 공통된 약점을 공유하게 되면, 하나의 결함이 전체 시스템으로 확산될 수 있다는 점에서 리스크가 크다. 따라서 기초 모델의 설계 단계부터 철저한 검증과 테스트를 거쳐야 하며, 이를 통해 데이터 거버넌스를 강화해야 한다. - 개인 정보 유출 가능성
다중 에이전트가 사용자 데이터를 주고받으며 작업을 수행하는 과정에서, 명확한 권한 분리와 암호화가 이루어지지 않는다면 개인정보가 의도치 않게 외부로 노출될 수 있다. 특히 에이전트 간 통신에서 사용자의 위치, 건강 정보, 금융 정보 등이 평문으로 처리될 경우 치명적인 보안 위협이 된다. - 데이터 일관성 붕괴
각 에이전트가 다른 목적 또는 다른 알고리즘을 바탕으로 데이터를 해석하거나 조작할 경우, 전체 시스템 내에서 데이터의 일관성이 무너질 수 있다. 특히 사용자와 관련된 기록이나 설정값이 다르게 적용되면, 개인정보가 부정확하게 저장되거나 불필요하게 중복 저장되는 문제가 발생할 수 있다.