기업용 AI 툴 총정리: 코파일럿부터 에이전트포스까지

최종 업데이트: 2026년 7월 7일 · 읽는 데 약 14분 · 시리즈 "AI 툴의 역사와 종류" 13/15편

1편에서 다룬 AI 발전의 흐름은 개별 도구를 넘어 기업 전체의 시스템으로 자리 잡았습니다. 9편에서 코딩 AI를, 10편에서 업무 자동화 AI를 다뤘다면, 이 글은 대기업이 AI를 어떤 방식으로 도입·통제하는지, 그리고 그 도입이 실제로 얼마나 성과를 내고 있는지를 다룹니다.

2023년, 기업용 AI 플랫폼이 자리 잡다

기업이 AI 모델을 도입하는 방식은 크게 세 갈래입니다. 오픈AI·앤트로픽 같은 회사의 API를 직접 쓰는 방식, 마이크로소프트·아마존·구글의 클라우드에 통합된 플랫폼을 쓰는 방식, 그리고 자체 서버에 모델을 두는 방식입니다. 2023년은 두 번째 방식, 즉 클라우드 통합 플랫폼이 자리 잡은 해였습니다. 마이크로소프트 "애저 오픈AI 서비스"는 2023년 1월 16일 정식 출시됐고, 아마존 "베드록(Bedrock)"은 같은 해 4월 제한 프리뷰를 거쳐 9월 28일 정식 출시됐습니다(아마존 공식 발표). 구글의 "버텍스 AI 에이전트 빌더"도 2024년 4월 공개된 뒤 여러 기능이 순차 출시됐고, 2026년 4월 22일 클라우드 넥스트 행사에서 "제미나이 엔터프라이즈 에이전트 플랫폼"으로 개편됐습니다. 구글 클라우드 CEO 토마스 쿠리안은 이번 개편이 대화형 AI를 넘어 실제 업무를 처리하는 방향으로 나아가는 전환점이라는 취지로 설명했습니다 (구글 클라우드 공식 블로그).

마이크로소프트 코파일럿: 라이선스는 늘었지만

마이크로소프트는 2023년 3월 16일 "마이크로소프트 365 코파일럿"을 처음 발표했고, 같은 해 11월 1일 월 30달러에 기업 대상으로 정식 출시했습니다. CNBC 테크놀로지 이그제큐티브 카운슬이 정기적으로 실시하는 설문(2024년 10월 조사분)에 따르면, 코파일럿이 월 30달러라는 비용만큼의 가치가 있는지 묻는 질문에 응답 기업의 절반이 "아직 판단하기 이르다"고 답했습니다. 같은 설문의 별도 질문에서는, 코파일럿을 전 직원에게 도입하기로 결정한 곳이 50%, 도입하지 않기로 한 곳이 17%, 나머지는 여전히 시범 사용 단계라고 답했습니다. 2025년 11월 23일 CNBC는 이런 판단 유보 분위기가 이어지고 있다고 후속 보도했습니다. 포춘은 2026년 5월 29일 마이크로소프트가 코딩·채팅 등 코파일럿 관련 도구를 하나의 앱으로 통합하는 작업을 진행 중이라고 먼저 보도했고, 테크타임스는 7월 4일 실제 통합과 일부 기능 축소가 이뤄졌다며 이를 업계에서 "유료 전환 위기"의 신호로 해석하고 있다고 전했습니다.

2026년 7월 2일에는 마이크로소프트가 25억 달러 규모의 "프런티어 컴퍼니"라는 새 조직을 만들어 약 6,000명의 인력을 기업 AI 도입 지원에 투입한다는 보도도 나왔습니다. 라이선스 판매량과 별개로, 마이크로소프트 스스로도 실제 도입을 끌어올리기 위해 대규모 인력을 투입해야 할 만큼 도입과 활용 사이에 간극이 있다는 뜻으로 읽힙니다. 참고로 포레스터가 마이크로소프트의 의뢰를 받아 진행한 "총 경제효과(TEI)" 연구는 기업 도입 시 3년간 투자수익률(ROI) 116%를 추정했고, 액센츄어가 자사 직원 20만 명을 대상으로 한 자체 설문에서는 97%가 반복 업무를 최대 15배 빠르게 끝냈다고 답했다고 밝혔습니다. 다만 두 수치 모두 마이크로소프트가 의뢰했거나 도입사가 자체 발표한 자료이므로, 독립적으로 검증된 결과는 아니라는 점을 감안해야 합니다.

세일즈포스 에이전트포스와 블룸버그의 폭로

세일즈포스는 2024년 9월 12일 CRM에 자율 AI 에이전트를 접목한 "에이전트포스(Agentforce)"를 발표했습니다(세일즈포스 공식 보도자료). 이후 2.0(2024년 12월), 2dx(2025년 3월), 3(2025년 6월, 세일즈포스 공식 발표), 360(2025년 10월, 세일즈포스 공식 발표)까지 빠르게 버전을 올렸습니다. 세일즈포스의 실적 발표를 분석한 업계 매체 보도에 따르면, 에이전트포스와 데이터360을 합친 연환산매출은 14억 달러에 이르렀습니다. 2025년 한 해 거래 1만 8,500건을 성사시켰지만, 그중 실제 유료 계약으로 이어진 건 약 9,500건에 그쳤습니다.

2026년 5월 22일 블룸버그의 조사 보도는 더 구체적입니다. 세일즈포스가 대표 사례로 홍보한 고객사 3곳, 윌리엄스소노마·핀에어·시카고대 메디컬센터를 확인한 결과, 홍보 영상에 나온 핵심 기능이 6개월이 지나도 실제로는 가동되지 않고 있었습니다. 윌리엄스소노마의 전화 시스템에는 에이전트포스가 아직 연동되지 않았고, 핀에어 홈페이지는 재예약 기능을 "향후 개발 계획" 이라고만 표기하고 있었으며, 시카고대 메디컬센터 환자들은 여전히 키패드 메뉴나 사람 상담원을 거쳐야 했습니다. 에이전트포스 사업총괄 수석부사장(EVP) 마다브 타타이는 지연 원인이 기술적 한계가 아니라 고객사 측 컴플라이언스 절차 때문이라고 해명했습니다.

파일럿의 무덤: 도입은 늘었지만 성과는

이 간극은 특정 회사만의 문제가 아닙니다. MIT 미디어랩의 스핀오프 프로젝트인 "프로젝트 난다 (NANDA)"가 2025년 8월 공개한 보고서는, 임원 52명 인터뷰·리더 153명 설문·실제 배포 사례 300건을 분석한 결과 기업 생성형 AI 파일럿 프로젝트의 95%가 측정 가능한 손익 개선 효과를 내지 못했다고 밝혔습니다. 연간 300~400억 달러가 투자된 것과는 대조적인 결과입니다. 다만 같은 연구는 자체 개발 대신 전문 벤더 제품을 도입하고 파트너십을 맺은 경우 성공률이 약 67%로, 자체 개발보다 3배 가까이 높았다는 구체적 시사점도 함께 내놨습니다. 이 95%라는 수치의 조사 방법론에 의문을 제기하는 반박도 나왔다는 점은 참고할 필요가 있습니다.

맥킨지가 2025년 7~8월 105개국 1,993명을 대상으로 한 조사에서도 88%가 최소 한 개 업무에서 정기적으로 AI를 쓰고 있다고 답했지만(전년 78%에서 상승), 실제로 손익에서 5% 이상의 영향을 확인했다는 "AI 고성과 기업"은 전체의 약 6%에 그쳤습니다. 2026년 6월 17일 발표된 퍼블리시스 사피엔트의 조사(의사 결정권자 1,550명 대상)에서도 73%가 AI를 업무 전반에 정기적으로 쓴다고 답했지만, AI가 "사업의 핵심"이라고 답한 비율은 10%뿐이었습니다.

기업은 왜 AI 사용을 막기도 할까: 삼성의 사례

2023년 4월 삼성전자는 사내에 챗GPT 사용을 허용했다가, 약 20일 사이 정보 유출 사고가 3건 발생하자 같은 해 5월 2일 챗GPT를 포함한 생성형 AI의 사내·개인 기기 사용을 전면 금지했습니다. 한 반도체 엔지니어는 오류 확인을 위해 회사 소스코드를 챗GPT에 붙여넣었고, 다른 직원은 설비 결함 개선을 요청하며 코드를 업로드했으며, 세 번째 직원은 회의 녹음을 텍스트로 바꿔 회의록 작성을 시켰습니다. 위반 시 해고까지 이어질 수 있다고 회사는 밝혔습니다(포브스, CNBC, 블룸버그, 테크크런치가 각각 독립적으로 보도).

규제도 따라온다: EU AI법

유럽연합의 AI법은 2025년 2월 금지된 관행에 대한 조항이, 같은 해 8월에는 범용 AI 모델의 투명성 의무 조항이 시행됐습니다. 원래 2026년 8월 2일부터 적용될 예정이던 고위험 시스템(부속서 III) 관련 기업 의무는, 2026년 5월 "옴니버스" 합의를 거쳐 2027년 12월 2일로 미뤄졌습니다. 다만 이런 시행일은 이번처럼 재조정된 전례가 있으므로, 최종 확정으로 단정하기보다는 계속 확인이 필요한 사안으로 봐야 합니다.

모더나와 모건스탠리: 성공 사례, 다만

제약사 모더나는 2023년부터 챗GPT 엔터프라이즈를 전사 도입해, 두 달 만에 직원들이 자체 GPT 750개를 만들었고 활성 사용자의 40%가 직접 GPT를 제작했다고 오픈AI는 밝혔습니다. 법무팀은 도입률 100%에 이르렀고, 임상시험계획서 초안 작성 같은 일부 업무는 몇 주에서 몇 시간으로 줄었다고 설명합니다. 모건스탠리도 2023년 3월부터 도입한 자체 AI 어시스턴트가 재무설계사 팀 사이에서 도입률 98% 이상을 기록했고, 검색 가능한 문서가 7,000건에서 10만 건으로 늘었다고 밝혔습니다.

다만 두 사례 모두 오픈AI가 직접 발표한 고객 사례라는 점은 밝혀둡니다. 하버드경영대학원 케이스 등에서 재인용되긴 했지만, 독립적으로 감사된 수치는 아닙니다. 앞서 본 MIT·맥킨지의 "성과 없는 파일럿" 연구와 함께 놓고 봐야, 성공 사례와 실패 사례 양쪽의 균형 잡힌 그림을 볼 수 있습니다.

한국 기업의 AI 도입률

정보통신정책연구원(KISDI)이 2010~2024년 국내 기업 사업보고서 3만 8,522건을 텍스트 마이닝으로 분석한 2025년 11월 보고서에 따르면, 국내 기업의 AI 도입률은 2024년 약 53.7%로, 이 해 처음으로 AI를 도입한 기업이 도입하지 않은 기업 수를 넘어섰습니다. 시장조사업체마다 한국 기업의 생성형 AI 도입률을 다르게 발표하는 경우가 많은데, 이 글에서는 방법론이 공개된 KISDI 수치를 기준으로 삼았습니다.

가트너는 2026년 전 세계 AI 관련 지출이 전년 대비 47% 늘어난 2조 5,900억 달러에 이를 것으로 전망했습니다(가트너, 2026년 5월 19일 발표). 별도 발표에서는 AI 에이전트 소프트웨어 지출만 2025년 864억 달러에서 2026년 2,065억 달러, 2027년에는 3,763억 달러로 늘어날 것으로 내다봤습니다(가트너, 2026년 5월 5일 발표). 도입 라이선스는 늘고 시장 규모 전망도 커지고 있지만, 앞서 본 것처럼 실제 성과로 이어지는 비율은 아직 그만큼 따라가지 못하고 있습니다. 다음 편에서는 AI 에이전트 시대의 전망을 살펴보겠습니다.

자주 묻는 질문

Q. 기업들은 마이크로소프트 코파일럿을 얼마나 실제로 쓰고 있나요?

라이선스 도입 자체는 빠르게 늘었지만, CNBC 테크놀로지 이그제큐티브 카운슬 설문에서 응답 기업의 절반이 "코파일럿이 비용만큼 가치가 있는지 아직 판단하기 이르다"고 답했습니다. 마이크로소프트도 도입 지원을 위해 25억 달러 규모의 별도 조직을 꾸릴 만큼 활용도를 끌어올리는 데 힘쓰고 있습니다.

Q. 세일즈포스 에이전트포스는 정말 효과가 있나요?

2026년 5월 블룸버그 조사에서는 세일즈포스가 홍보한 대표 고객사 3곳의 핵심 기능이 6개월이 지나도 실제로는 가동되지 않고 있다는 사실이 확인됐습니다. 세일즈포스는 지연이 고객사의 절차 문제 때문 이라고 해명했습니다.

Q. AI 파일럿 프로젝트는 왜 대부분 실패하나요?

MIT의 2025년 연구에 따르면 기업 생성형 AI 파일럿의 95%가 측정 가능한 손익 개선 효과를 내지 못했습니다. 다만 자체 개발 대신 전문 벤더 제품과 파트너십을 택한 경우 성공률이 약 3배 높았습니다.

Q. 기업이 직원의 챗GPT 사용을 막는 이유는 무엇인가요?

정보 유출 우려 때문입니다. 삼성전자는 2023년 직원이 반도체 소스코드나 회의록을 챗GPT에 입력한 사고가 20일 사이 3건 발생하자 사내 챗GPT 사용을 전면 금지했습니다.

Q. 한국 기업의 AI 도입률은 얼마나 되나요?

정보통신정책연구원(KISDI)의 2025년 11월 보고서에 따르면 2024년 국내 기업의 AI 도입률은 약 53.7%로, 이 해 처음 AI 도입 기업이 미도입 기업 수를 넘어섰습니다.