인공지능(AI)가 발전함에 따라 사람들이 해야 할 일을 AI가 대신 수행해주는 비서 서비스를 꿈꾸는데, 지난 1월에 오픈AI는 오퍼레이터(Operator)라는 서비스를 출시한 바 있다. 해외 여행 계획을 AI에게 물어보면 아주 멋진 계획을 제시해 주는데, 이제는 AI가 항공권을 검색해서 가장 저렴한 것으로 예약하는 것까지 가능한 시대가 된 것이다. 

중국의 딥시크(DeepSeek) 충격이 채 가시기 전에 또 다른 중국 AI 회사(회사명이 나비효과 Butterfly Effect)가 선보인 마누스(Manus)라는 AI 에이전트가 등장해서 큰 충격을 주기도 했다. 초대제로 운영하는 마누스는 단순 AI 챗봇을 넘어 사용자의 지시를 받아 독립적으로 작업을 수행하는 AI 에이전트이다. 일부에서는 기능이 과대평가되었다는 평가를 하고, 중국 기업이기 때문에 보안에 대한 문제제기가 있지만  AI 에이전트에 대한 폭발적인 관심을 끄는 또 하나의 계기가 되었다.

이런 가운데 오픈AI가 개발자와 기업을 위한 새로운 도구를 선보이며, 누구나 자신만의 AI 에이전트를 만들 수 있는  가능성을 한층 넓혔다. 이 도구들은 오픈AI의 최신 Responses API를 기반으로, 독립적으로 작업을 수행하는 자동화 시스템, 즉 AI 에이전트를 누구나 손쉽게 만들 수 있도록 설계됐다. 기존 제공되는 Assistants API는 2026년 상반기까지만 유지되며, 이후 Responses API가 그 자리를 완전히 넘겨받을 예정이다.

Responses API는 단순한 챗봇을 넘어서는 기능을 제공한다. 웹에서 실시간 정보를 검색(Web Search)하고, 회사 데이터베이스 속 파일을 찾아서(File Search) 필요한 정보를 꺼내오며, 심지어 컴퓨터 작업(Computer Use)을 자동화할 수도 있다. 예를 들어, 고객이 “최신 시장 동향이 뭐야?”라고 물으면 웹을 뒤져 최신 데이터를 찾아 답하고, 직원이 “지난 분기 보고서 어디 있지?”라고 묻는다면 내부 문서를 찾아서 바로 답을 줄 수 있다. 더 나아가 반복적인 데이터 입력이나 소프트웨어 워크플로 같은 작업을 대신 처리해 시간을 아껴준다.

이 모든 기능은 오픈AI의 강력한 AI 모델에서 비롯된다. ChatGPT Search에 활용된 GPT-4o search와 GPT-4o mini search는 질문에 답하며 출처까지 제시하는데, 사실 정확도가 각각 90%, 88%로 높은 편이다. 최근 출시된 GPT-4.5(63%)와 비교해도 월등하다. 또 다른 핵심 기능은 Computer-Using Agent(CUA) 모델로, 마우스와 키보드를 움직여 작업을 자동화한다. 기업은 이 모델을 로컬 시스템에 설치해 활용할 수도 있다.

AI 에이전트에 대한 기대는 크지만, 현실은 그리 녹록지 않다. 최근 중국 스타트업 Butterfly Effect의 Manus가 화제 속에 데뷔했지만, 약속한 기능을 구현하지 못해 실망을 안겼다. 오픈AI 역시 완벽함을 장담하지 않는다. GPT-4o search는 여전히 10%의 사실 오류를 범하고, “오늘 레이커스 점수” 같은 간단한 질문엔 서툴다. 인용의 신뢰성도 논란이며, CUA는 운영체제 작업에서 실수를 저지를 가능성이 있다. 오픈AI는 “이건 시작일 뿐”이라며 개선을 약속했다.

Responses API와 함께 공개된 Agents SDK는 오픈소스 툴킷으로, 개발자가 AI 에이전트를 내부 시스템에 맞춰 통합하고, 안전성을 높이며, 문제를 추적해 최적화할 수 있게 돕는다. 지난해 출시된 Swarm 프레임워크를 잇는 이 도구는 무료로 제공돼 더 많은 이들이 AI 에이전트를 실험해볼 기회를 준다.

오픈AI의 API 책임자 올리비에 고드먼은 “데모는 쉽지만, 실질적인 제품으로 만드는 건 어렵다”면서도 “에이전트는 AI의 가장 큰 혁신이 될 것”이라고 자신했다. 이는 CEO 샘 알트먼이 “2025년은 AI 에이전트가 직장에 들어오는 해”라고 선언한 비전과 맞닿아 있다. 웹 검색으로 정보를 모으고, 파일을 분석하며, 반복 작업을 줄여주는 AI 에이전트는 기업의 효율성을 끌어올릴 잠재력을 품고 있다.

오픈AI는 이미 에이전트 서비스인 오퍼레이터를 제공하고 있지만, 오픈AI가 모든 것을 잘할 수 있는 것은 아니다. 이번에 공개한 API와 SDK를 이용해서 어떤 AI에이전트가 등장할지 기대된다.