AutoGPT 요금 폭탄 유의 사항

"AutoGPT 실행 한 번 했을 뿐인데... 요금이 왜 이리 많이 나왔지??"

 

 

AutoGTP. 혹자는 외계인을 고문해서 만든 AI라며 현재 GitHub에서도 상당한 인기를 구가하고 있는데요. 하지만 잘 모르고 생각 없이 사용했다간 자칫 요금 폭탄을 맞을 수도 있으니 주의하셔야 합니다!

 

이번 포스팅에서는 AutoGPT 사용하면서 유의하셔야 할 내용을 정리해 봅니다. 먼저 AutoGTP를 다운로드 받아서 설치 및 환경 설정 방법에 대한 내용은 지난 포스팅에서 상세히 다뤘으니 궁금하시면 글 맨 아래의 이전 발행 글을 참고해 보세요.

AutoGPT 요금 폭탄 맞는 이유

보통은 프롬프트로 자율로 실행 하도록 내버려 두는 경우에 발생합니다. 이 경우 OpenAI API 자동 승인 후 무한으로 실행이 되어 요금 폭탄으로 이어질 가능성이 높아집니다.

 

 

또한 사용자가 프롬프트를 부정확하게 하는 것이 원인이 되어 로직이 무한루프로 빠지는 경우에도 비슷한 문제가 발생하게 됩니다. 물론 이런 경우라도 아래에 설명할 피드백 기능만 제대로 설정을 하시면 문제 되지는 않습니다. 그러면 AutoGPT 사용 시 요금 폭탄을 피하는 방법에 대해서도 알아보겠습니다.

AutoGPT 요금 폭탄 피하는 꿀팁, 유의 사항 정리

다음 OpenAI 웹사이트를 방문 하셔서 '본인 계정 - Manage account - Usage'로 가셔서 요금 설정 제한을 걸어두셔야 합니다.

 

요금 설정 제한은 다음 두 가지로 설정이 가능합니다.

 

1. Hard Limit

하드 리밋은 특정 비용을 설정 해두면 그 비용 이상이 넘어가지 못하도록 강제로 설정하는 리밋입니다.

 

2. Soft Limit

소프트 리밋을 설정하면 비용 발생시에는 항상 알림으로 알려줍니다.

 

Usage

피드백 기능 사용법

프롬프트상에서 AI로부터 피드백 받으면 Open API Key를 사용할지 말지를 설정할 수 있습니다. 피드백이 오면 OpenAI API Key 사용을 승인할지를 물어보면 "continue"로 설정하시면 이후부터는 물어보지 않고 계속 승인을 하게 됩니다. 하지만 이럴 경우 예상치 못하게 요금이 발생할 수 있으니, 사용자가 직접 보고 판단하여 "y"로 입력하셔도 되는데, 또 이러면 사용자가 직접 모니터링을 해야 하기에 "y -5"처럼 뒤에 Key 사용 횟수를 정해 둘 수 있습니다.

 

gpt3 사용하기

또 다른 방법으로는 아예 gpt4가 아닌 gpt3만 사용하는 프롬프트에서 설정해 주는 방법인데요. 이유는 gpt4가 기존 gpt3보다 대략 10배 정도의 고비용이 발생하기 때문입니다. 설정 방법은 파이썬 명령어와 옵션으로 설정해 주시면 됩니다.

python -m autogpt --gpt3only

 다만, 비용은 절감할 수 있으니 로직 성능은 당연히 gpt4보다 낮기에 이 점은 알고 사용하셔야 합니다.

 

마지막으로 autogpt가 스스로 실행을 하는 인공지능이라고 하지만 대화형 AI라는 점에서는 한계가 있습니다. 이 한계를 보여주는 예는 사용자가 다소 명확하지 않은 명령을 지시했을 경우나 또는 AI의 오류가 있는 경우에는 구문에서 무한루프가 발생할 소지가 있는데요. 이 경우에는 OpenAI API를 무한 반복 사용이 되기에 당연히 과금이 무한 발생하게 되니 이 점도 유의 하셔야 합니다. 따라서 보다 정확한 프롬프트를 사용하셔야 합니다. 이를 위한 대안 중 하나는 이 전 포스팅에서 다룬 chatGPT 프롬프트 지니를 사용하는 방법도 있겠습니다. 또한 위에서 언급한 피드백 기능을 설정하여 실행 되는 동안에도 직접 판단해서 설정을 해주준다면 보다 품질이 높은 결과를 얻으실 수 있을 겁니다.

 

AutoGTP 다른 글 보기

AutoGPT 주요 기능 및 장점

AutoGPT 다운로드 설치 및 사용법