기업이 AI 에이전트를 도입할 때는 모델 성능보다 먼저 어떤 업무를 맡길지, 어디까지 접근하게 할지, 어떤 행동에 사람의 승인을 받을지를 정해야 합니다. OpenAI Agents API가 공개 베타로 제공되면서 장시간 실행되는 업무 자동화를 구현하기는 쉬워졌지만, 도입 효과와 운영 위험까지 자동으로 해결되는 것은 아닙니다.
이 글에서는 개발 코드를 다루기보다 기업과 실무자가 AI 에이전트 도입 전에 확인해야 할 업무 적합성, 데이터 권한, 실행환경, 비용, 감사 기준을 정리합니다. Agents API의 구현 구조와 MCP·장기 세션·서브에이전트 예제가 필요하다면 아래 전문 글을 먼저 확인할 수 있습니다.
핵심 요약
- OpenAI Agents API는 2026년 9월 10일 공개 베타로 발표됐습니다.
- 장기 세션과 작업 진행 상태를 OpenAI가 관리하는 개발자용 API입니다.
- 기업은 관리형 샌드박스, 자체 인프라, 협력사 환경의 책임 범위를 구분해야 합니다.
- 외부 전송·삭제·구매·배포처럼 되돌리기 어려운 행동에는 사람 승인 기준이 필요합니다.
- 도입 판단은 정확도뿐 아니라 권한, 비용 상한, 감사 로그, 실패 복구까지 포함해야 합니다.
목차
Agents API 공개 베타가 의미하는 변화
OpenAI는 2026년 9월 10일 Agents API를 공개 베타로 발표했습니다. 정식 일반 제공 단계로 단정해서는 안 되며, 베타 기간에는 기능과 인터페이스가 변경될 가능성을 고려해야 합니다.
Agents API의 핵심은 OpenAI가 Codex 기반 에이전트 하네스와 장기 세션, 작업 진행 상태, 컨텍스트 압축 및 복구 같은 실행 기반을 관리한다는 점입니다. 일반적인 챗봇처럼 질문 한 번에 답변 하나를 만드는 데 그치지 않고, 여러 단계로 이어지는 조사·분석·코딩·문서 작업을 계속 실행하도록 설계됐습니다.
MCP 서버와 사용자 정의 함수, 웹 검색 같은 도구를 연결할 수 있고, 독립된 컨텍스트를 가진 서브에이전트가 작업을 나눠 수행하도록 구성할 수도 있습니다. 다만 이러한 기능은 기업의 권한 정책이나 승인 절차를 대신하지 않습니다. 사용할 도구와 데이터, 실행 범위는 도입 조직이 별도로 제한해야 합니다.
Agents API의 구조와 최소 구현 예제가 필요하신가요?
OpenAI Agents API 전문 가이드 보기Responses API·Agents SDK와의 차이
Agents API, Agents SDK, Responses API는 모두 AI 기능을 개발하는 데 사용되지만 관리 책임과 제어 범위가 다릅니다. 이름이 비슷하다는 이유로 동일한 제품처럼 이해하면 설계 단계에서 혼선이 생길 수 있습니다.
| 구분 | 적합한 업무 | 주요 관리 주체 | 도입 판단 |
|---|---|---|---|
| Agents API | 오래 실행되는 복합 작업과 상태 유지 | OpenAI가 하네스·세션·진행 상태 관리 | 인프라 운영 부담을 줄이고 빠르게 구축할 때 |
| Agents SDK | 자체 도구·핸드오프·승인 흐름 통합 | 애플리케이션이 배포·저장·런타임 관리 | 세부 제어와 기존 시스템 통합이 중요할 때 |
| Responses API | 직접적인 모델 호출 또는 자체 에이전트 구성 | 통합 조직이 상태와 실행 흐름을 설계 | 필요한 기능만 조합하고 직접 통제할 때 |
따라서 “어느 API가 더 뛰어난가”보다 우리 조직이 어떤 운영 책임을 직접 맡을 것인가를 기준으로 선택해야 합니다. 단순 문서 요약이나 답변 생성만 필요하다면 장기 실행 에이전트를 도입하는 것이 오히려 복잡성과 비용을 늘릴 수 있습니다.
기업 AI 에이전트 도입 전 확인할 7가지
1. 에이전트가 필요한 업무인지 확인
먼저 업무를 대화형 지원, 반복 자동화, 장기 실행 작업으로 나눠야 합니다. 사용자가 질문할 때 참고 자료를 찾아 답하는 수준이면 일반적인 ChatGPT 활용이나 Responses API만으로 충분할 수 있습니다.
여러 자료를 수집하고, 중간 결과를 저장하고, 도구를 차례로 호출하며, 실패한 단계부터 다시 시작해야 하는 업무라면 에이전트 도입의 효과가 커집니다. 업무 시간이 길다는 이유만으로 자동화하지 말고, 입력과 완료 기준을 명확하게 정의할 수 있는지 확인해야 합니다.
2. 연결할 데이터의 등급과 사용 범위 결정
에이전트가 사내 문서, 고객 정보, 개발 저장소, 계약 자료에 접근한다면 데이터별 허용 범위를 먼저 정해야 합니다. 모든 데이터 소스를 한 번에 연결하기보다 공개 자료, 내부 일반 자료, 제한 자료, 민감 자료처럼 등급을 나누는 방식이 안전합니다.
시범 도입 단계에서는 원본 데이터를 직접 수정하지 못하는 읽기 전용 권한부터 부여하는 것이 좋습니다. 개인식별정보, 인증정보, 결제정보처럼 피해가 큰 데이터는 별도 저장소와 접근 정책을 유지해야 합니다.
3. 도구별 최소 권한 적용
AI 에이전트는 연결된 도구의 권한 안에서 행동합니다. 문서 검색만 필요한 에이전트에 파일 삭제 권한을 주거나, 초안 작성만 필요한 에이전트에 메일 발송 권한을 주면 사고 범위가 커집니다.
권한은 업무별 서비스 계정으로 분리하고 읽기, 작성, 수정, 삭제, 외부 전송 권한을 따로 관리하는 것이 좋습니다. MCP나 사용자 정의 함수를 연결할 때도 호출 가능한 기능과 입력값, 대상 시스템을 제한해야 합니다.
4. 사람 승인이 필요한 행동 지정
모든 작업을 사람이 확인하면 자동화 효과가 낮아지고, 모든 행동을 자동 승인하면 운영 위험이 커집니다. 따라서 결과의 영향과 복구 가능성을 기준으로 승인 단계를 나눠야 합니다.
| 행동 | 권장 처리 | 판단 이유 |
|---|---|---|
| 자료 검색·분류·요약 | 범위 내 자동 실행 | 원본을 변경하지 않는 읽기 작업 |
| 사내 문서 초안 작성 | 작성 후 담당자 검토 | 수정과 취소가 비교적 쉬움 |
| 외부 이메일·게시물 발송 | 발송 직전 명시적 승인 | 외부 공개 이후 완전한 회수가 어려움 |
| 결제·계약·파일 삭제 | 강화된 승인과 권한 분리 | 금전·법적 책임 또는 데이터 손실 가능 |
| 운영 시스템 코드 실행 | 격리 환경 검증 후 별도 승인 | 서비스 장애와 보안 사고 가능 |
5. 실행환경과 책임 범위 구분
Agents API는 OpenAI가 제공하는 관리형 샌드박스를 사용할 수 있고, 기업의 자체 인프라에서 실행환경을 운영할 수도 있습니다. 샌드박스 협력사가 제공하는 환경을 연결하는 선택지도 있지만, 이를 별도의 네 번째 API 환경 형식으로 이해해서는 안 됩니다.
관리형 환경은 빠른 구축과 운영 부담 감소에 유리하고, 자체 인프라는 네트워크와 실행 정책을 세밀하게 통제하는 데 유리합니다. 협력사 환경은 기존 보안 도구와의 통합 가능성, 데이터 처리 위치, 로그 접근 범위, 장애 책임을 계약 단계에서 확인해야 합니다.
6. 비용 상한과 중단 조건 설정
OpenAI 발표 기준으로 Agents API 자체에 별도의 추가 이용료가 붙는 것은 아니지만, 사용하는 모델 토큰과 도구, OpenAI 호스팅 샌드박스 자원에는 각각 비용이 발생할 수 있습니다.
특히 장기 세션과 서브에이전트는 한 번의 요청이 여러 모델 호출과 도구 실행으로 이어질 수 있습니다. 작업당 최대 실행시간, 모델 호출 횟수, 서브에이전트 수, 토큰 사용량, 재시도 횟수를 제한해야 예상하지 못한 비용 증가를 막을 수 있습니다.
7. 로그·평가·복구 책임자 지정
AI 에이전트 운영에서는 최종 결과뿐 아니라 어떤 자료를 참고했고, 어떤 도구를 호출했으며, 어느 단계에서 사람의 승인을 받았는지 확인할 수 있어야 합니다. 업무 식별자, 실행 시각, 입력 자료, 도구 호출, 승인자, 결과 상태를 기록할 항목으로 정하는 것이 좋습니다.
오류가 발견됐을 때 작업을 중지할 사람, 잘못 변경된 데이터를 복구할 사람, 프롬프트와 권한 정책을 수정할 사람도 미리 지정해야 합니다. 책임자가 없는 자동화는 초기 시연에서는 빠르게 보이지만 실제 운영 단계에서 관리 공백을 만들 수 있습니다.
관리형 샌드박스·자체 인프라·협력사 환경 비교
| 구분 | 장점 | 확인할 사항 | 적합한 조직 |
|---|---|---|---|
| OpenAI 관리형 샌드박스 | 구축이 빠르고 실행 기반 운영 부담이 적음 | 비용, 네트워크 접근, 데이터 정책, 베타 변경 가능성 | 소규모 개발팀, 빠른 시범 사업 |
| 자체 인프라 | 보안·네트워크·실행 정책을 직접 통제 | 배포, 격리, 패치, 모니터링, 장애 복구 책임 | 기존 플랫폼·보안 운영 조직이 있는 기업 |
| 협력사 제공 환경 | 전문 인프라와 기존 보안 제품을 활용 가능 | 데이터 위치, 하도급, 로그 소유권, 장애 책임, 계약 종료 절차 | 외부 운영 지원이나 특정 보안 통합이 필요한 조직 |
실행환경은 보안성 하나만으로 선택하기 어렵습니다. 자체 인프라를 사용하더라도 권한 관리와 패치가 부실하면 안전하다고 볼 수 없고, 관리형 환경을 사용하더라도 접근 범위와 승인 기준을 잘 제한하면 운영 위험을 줄일 수 있습니다.
기업 AI 에이전트의 안전한 시범 도입 순서
- 후보 업무 선정: 반복 횟수가 많고 입력 자료와 완료 기준이 분명한 업무를 고릅니다.
- 현재 기준 측정: 기존 처리시간, 오류율, 인건비, 대기시간을 기록합니다.
- 읽기 전용 실험: 원본 수정 없이 검색·분류·초안 작성부터 테스트합니다.
- 평가표 작성: 정확성, 누락, 근거 추적, 처리시간, 작업당 비용을 비교합니다.
- 제한된 쓰기 권한: 되돌릴 수 있는 내부 작업에만 수정 권한을 허용합니다.
- 사람 승인 연결: 외부 발송과 삭제, 결제, 배포 직전에 승인을 받도록 합니다.
- 확대 또는 중단: 목표 수치를 충족한 업무만 적용 범위를 넓힙니다.
도입을 잠시 미루는 편이 나은 경우
업무 절차가 담당자마다 다르거나, 정확한 완료 기준이 없거나, 접근권한을 분리할 수 없거나, 오류 발생 시 원상 복구 방법이 없다면 에이전트보다 업무 표준화와 데이터 정리가 먼저입니다.
도입 승인 전에 사용할 최종 점검표
- 자동화할 업무의 시작 조건과 완료 기준이 문서화돼 있는가?
- 에이전트가 접근할 데이터와 접근하지 못할 데이터가 구분돼 있는가?
- 검색·작성·수정·삭제·외부 전송 권한이 분리돼 있는가?
- 외부 발송, 결제, 계약, 삭제, 운영 배포에 사람 승인 절차가 있는가?
- 관리형·자체 인프라·협력사 환경별 책임 범위를 비교했는가?
- 작업당 비용과 실행시간, 호출 횟수의 상한을 설정했는가?
- 도구 호출과 승인 이력, 오류 내용을 확인할 로그가 남는가?
- 중단·복구·정책 수정의 담당자가 지정돼 있는가?
- 베타 기능의 변경 가능성을 고려한 대체 절차가 있는가?
자주 묻는 질문
Agents API는 정식 출시된 서비스인가요?
아닙니다. OpenAI가 2026년 9월 10일 공개 베타로 발표했습니다. 실제 서비스에 적용할 때는 사양 변경 가능성과 대체 절차를 함께 고려해야 합니다.
ChatGPT를 업무에 사용하는 것과 무엇이 다른가요?
ChatGPT는 사용자가 대화형 인터페이스에서 질문하고 결과를 확인하는 활용에 적합합니다. Agents API는 개발자가 장기 실행 작업과 도구 호출, 세션, 자체 업무 시스템을 연결하는 용도에 가깝습니다.
Agents API를 사용하면 사람의 검토가 없어도 되나요?
그렇지 않습니다. 외부 메시지 발송, 게시, 결제, 삭제, 운영 시스템 변경처럼 영향이 큰 행동은 조직이 사람 승인 기준을 별도로 설계하는 것이 안전합니다.
관리형 샌드박스가 항상 자체 인프라보다 안전한가요?
실행환경의 이름만으로 안전성을 판단할 수 없습니다. 데이터 민감도, 네트워크 접근, 비밀정보 관리, 로그, 패치, 장애 대응 능력을 함께 비교해야 합니다.
Agents API 이용료는 별도로 부과되나요?
OpenAI 발표 기준으로 Agents API 자체의 추가 이용료는 없지만, 모델 토큰과 사용 도구, OpenAI 호스팅 샌드박스 자원에는 각각 비용이 발생할 수 있습니다. 도입 전 최신 가격 문서를 다시 확인해야 합니다.
처음 도입하기 좋은 업무는 무엇인가요?
자료 조사, 문서 분류, 여러 내부 자료를 이용한 보고서 초안처럼 결과를 사람이 검토할 수 있고 원본 데이터를 변경하지 않는 업무가 시범 도입에 적합합니다.
결론
Agents API는 기업이 오래 실행되는 AI 업무를 구축할 때 세션과 실행 기반을 직접 개발해야 하는 부담을 줄여주는 선택지입니다. 그러나 관리형 기술이 제공된다는 사실과 기업의 업무 통제가 자동으로 완성된다는 의미는 다릅니다.
도입 전에는 업무 적합성, 데이터 등급, 최소 권한, 사람 승인, 실행환경, 비용 상한, 감사 로그를 하나의 운영 기준으로 묶어야 합니다. 처음부터 전사 업무를 자동화하기보다 읽기 전용 작업에서 효과와 위험을 측정하고, 검증된 업무에 한해 권한을 단계적으로 확대하는 방식이 현실적입니다.
함께 보면 좋은 AI 업무 활용 글
공식 출처
자료 확인일: 2026년 9월 11일. 공개 베타 기능과 가격, 지원 범위는 변경될 수 있으므로 실제 도입 전 공식 문서를 다시 확인하시기 바랍니다.