AI가 항상 정답일까? 내 비즈니스에 효율적인 방법은!?

December 16, 2024
Tech

많은 사람들이 AI를 해결책으로 여깁니다. 혁신적인 기술로 모든 문제를 해결할 수 있다고 생각하죠. 하지만 AI 도입이 항상 옳은 결과로 연결되는 것은 아닐 수도 있습니다.

회사 시스템에 AI를 도입하기 전에 반드시 물어봐야 할 질문이 있습니다:

"현재 상황에서 AI 도입하는 것이 경제적인가?"

AI와 기존 자원 사용의 비교: 비용 효율성을 평가하는 방법

단순히 "AI가 인간의 노동보다 저렴하고 효율적이다"라고 가정하는 것은 충분하지 않습니다. AI를 도입했을 때 경제적 영향을 정확히 판단하려면, 기업은 정량적인 비용 분석을 실행해야 합니다. 가장 대표적인 지표 중 하나는 작업당 비용(Cost Per Task)입니다. 이를 통해 AI와 인적 자원의 비용을 직접 비교할 수 있습니다.

물론, 작업 품질도 중요한 고려 요소입니다. (아직도 AI가 인간의 창의력과 섬세함 등 대체할 수 없는 영역은 무수히 많습니다.) 그러나 이 글에서는 편의상 AI와 인적 자원의 작업 품질이 동일하다고 가정 하에 진행하였습니다.

작업당 비용 계산 방법

AI와 인적 자원을 비교할 때 기준은 한 가지 작업을 완료하는 데 드는 1) 비용과 2) 시간 입니다.

1. AI(LLM) 작업당 비용

  • AI 서비스는 주로 입력 및 출력에 사용되는 토큰(Token)의 수를 기준으로 비용을 책정합니다. 계산식은 다음과 같습니다:
    • 입력 토큰: AI에 입력하는 질문 또는 명령의 크기
    • 출력 토큰: AI가 생성하는 응답의 크기
    • 토큰 요금: 1,000 토큰당 요금(사용하는 LLM 모델에 따라 요금은 다릅니다.)‍

토큰 크기 계산 방법

정확한 토큰 사용량을 알고 싶다면, 토큰 크기 계산기를 활용하시면 됩니다. 이 도구는 입력 및 출력 텍스트를 분석해 사용된 토큰 수를 제공하며, 비용을 효율적으로 예측할 수 있도록 도와줍니다.

아래는 OpenAI에서 제공하는 토큰 계산기입니다:

2. AI 처리 시간

  • AI가 인간보다 높은 비용을 초래하는 경우는 드물지만, 작업 완료에 걸리는 시간 역시 중요한 평가 요소입니다. 시간은 작업 효율성에서 중요한 역할을 하기 때문이죠.
  • AI는 일반적으로 속도 면에서 인간 노동을 능가합니다. 하지만 AI 처리 시간이 인간과 비슷하거나 조금 더 걸리는 경우에는 다음 두 가지를 고려해야 합니다:
    • 일관성: 인간의 작업 품질은 다소 변동성이 있지만, AI 출력은 항상 일정하게 유지
    • 병렬 처리: AI는 한 번에 수십에서 수백 개의 작업을 병렬로 처리할 수 있어 대규모 작업에서 효율성 크게 향상

실제 사례: 다중 플랫폼 상품 데이터 수집

다음은 사내에서 AI를 활용하여 기존 방식 보다 비용적인 측면에서 효율적인 결과를 얻은 사례입니다.

10개의 서로 다른 플랫폼에서 500개의 상품 정보(플랫폼당 50개)를 매일 30일 동안 수집한 작업을 수행했습니다. 이 과정에서 제목, 설명, 가격, 이미지 등의 상품 정보를 모집한 뒤, 이를 통합된 데이터베이스로 정리했습니다. (*AI 엔지니어와 개발자 모두 평균 시급은 50,000원으로 가정)

AI 활용

  • 개발 & 유지보수 비용
    • 개발: 플랫폼 당 1.5시간 소요 - 총 15시간
    • 유지보수: 플랫폼 당 0.5시간 소요 - 총 5시간

→ 20시간 × 50,000원/시간 = 1,000,000원

  • 작업당 비용
    • 작업 당 비용: 300원 (*LAM 사용)

→ 500개 × 300원 × 30일 = 4,500,000원

  • 총 비용: 5**,500,000원**

최초 개발 이후 유지보수 비용 월/25만원

*일반적인 LLM 비용보다 비용이 높은 이유는 LAM(Large Action Model) 기능을 사용했기 때문입니다. 이 기능은 단순히 질문에 답변을 제공하는 것뿐만 아니라, 여러 페이지를 동적으로 탐색하고, 버튼을 클릭하며, 다양한 소스에서 정보를 가져오는 등의 필요한 작업을 수행합니다.

인적 자원 활용 (Rule-Based 웹 크롤링 개발)

  • 개발 & 유지보수 비용
    • 개발: 플랫폼 당 20시간 소요 - 총 200시간
    • 유지보수: 플랫폼 당 2.5시간 소요 - 총 25시간

→ 225시간 × 50,000원/시간 = 11,250,000원

  • 작업당 비용: 데이터 수집 중 추가 비용은 거의 없음.
  • 총 비용: 11,250,000원

최초 개발 이후 유지보수 비용 월/125만원

비교 결과

AI를 활용한 대규모 데이터 수집 작업에서 우리는 다음과 같은 결과를 얻을 수 있었습니다:

  • 비용 절감: 인적 자원의 총비용 11,250,000원에서 AI를 활용해 5,500,000원으로 절감 - 약 60**%**
  • 시간 절약: 기존 방식에서 225시간을 소요하였지만 AI 활용을 통해 20시간으로 단축 - 약 91**%**
  • 유연성 강화: AI는 다양한 형태의 데이터를 유연하게 처리해 플랫폼 변경에도 적응 가능 - 규칙 기반 개발보다 유지보수 용이.

그럼 어떤 AI 서비스를 선택해야 할까?

AI의 비용과 이점대한 파악이 끝났다면 다음으로 생각해봐야 할 것은 어떤 AI 서비스를 사용할지 일 것입니다. 현재 인터넷 상에 “AI 서비스”라고 검색만 하더라도 수백, 수천개의 서비스가 나옵니다. 이러한 다양한 서비스를 하나씩 비교하며 나에게 적합한 서비스를 찾는다는 것은 결코 쉬운일이 아닙니다.

저희 Enhans Model Generator는 이러한 복잡한 과정을 단순화해 드립니다.

Enhans Model Generator의 강점

  1. 다양한 엔진 기반 맞춤형 AI 모델 생성
    • GPT-4, Claude 등 다양한 AI 엔진을 한번에 테스트하고 비교해, 작업에 가장 적합한 모델 선택 가능.
  2. 다양한 입력 지원
    • 텍스트, 이미지, 비디오 등 다양한 입력 형식 지원.
      • 이미지나 비디오의 경우, 링크만 제공 하더라도 자동으로 처리.
  3. 즉시 배포 및 API 통합
    • 모델 생성 시 자동 배포.
    • API를 통해 간단한 코드로 시스템이나 앱에 연결해 즉시 활용 가능.

결론: 올바른 선택을 위한 접근법

AI 사용 여부를 결정할 때는 특정 요구사항에 맞춘 명확한 작업당 비용 비교를 통해 판단해야 합니다. 이를 통해 "AI가 더 저렴하다"는 단순한 믿음에서 벗어나, 데이터에 근거한 합리적인 결정을 내릴 수 있습니다.

AI 서비스를 제공하는 입장에서, AI는 인적 자원을 대체하는 것이 아니라 보완하여 효율성과 생산성을 극대화하는 도구라고 생각합니다. AI와 인적 자원의 강점을 적절히 결합해 더 경제적이고 전략적인 방식으로 비즈니스를 운영해 보시길 바랍니다.

Interested in solving your
problems with Enhans?

  • 01.
    Tell us about yourself
  • 02.
    Which company or organization do you belong to?
  • 03.
    Which company or organization do you belong to?
Next
Next

Please see our Privacy Policy regarding how we will handle this information.

Thank you for your interest
in solving your problems with Enhans!
We'll contact you shortly!
Oops! Something went wrong while submitting the form.