Vercel 무료 플랜 10초 타임아웃, LLM API 연동 시 우회하는 실전 방법

ChatGPT API를 Vercel에 붙였더니 함수가 10초 만에 죽어버렸어요. GPT-4o 응답 하나 받는 데 보통 15~25초, 긴 문서 요약은 40초도 넘는데 말이죠. Vercel 무료 플랜의 10초 벽은 LLM을 서버리스로 돌리려는 개발자들에게 가장 먼저 마주치는 장벽이에요.

사이드 프로젝트 규모의 AI 앱을 Vercel 무료 플랜 위에서 굴리려는 시도가 요즘 폭발적으로 늘었어요. Vercel 공식 문서 기준으로, Hobby 플랜의 Serverless Function 최대 실행시간은 10초, Edge Function은 25초로 고정돼 있어요. Pro 플랜으로 올리면 300초까지 늘어나지만, 월 $20 비용이 발생하죠. LLM API를 쓰는 프로젝트 입장에서 이 제약은 꽤 현실적인 고통이에요.

이 글에서 다룰 것들:

• Vercel 타임아웃 구조를 정확히 이해하는 법
• Edge Function + Streaming으로 우회하는 핵심 패턴
• 외부 프록시(Render 등)를 쓰는 구조적 대안
• 각 방법의 트레이드오프 비교

핵심 요약

• Vercel Hobby 플랜 Serverless Function은 10초, Edge Function은 25초 제한이 있으며, LLM API 응답 대기시간이 이를 초과하는 경우가 빈번하다.
• SSE(Server-Sent Events) 기반 스트리밍을 적용하면 Edge Function 25초 한도 안에서 토큰을 실시간으로 전달해 체감 타임아웃을 사실상 없앨 수 있다.
• Vercel AI SDK의 streamText API는 Edge Runtime에서 바로 동작하며, 설정 5줄로 스트리밍 응답 구조를 만들 수 있다.
• 응답이 25초를 초과하거나 배치 처리가 필요한 경우, Render 무료 티어에 별도 프록시 서버를 두는 방식이 실질적 대안이다.

Vercel 타임아웃 구조: 10초 벽의 정확한 위치

Vercel에는 함수 유형이 두 가지예요. Serverless Function과 Edge Function이에요.

/api 경로에 .js, .ts 파일을 놓으면 기본으로 Serverless Function으로 배포돼요. Hobby 플랜에서 최대 실행시간은 10초예요. OpenAI API를 await fetch(...)로 호출하면 응답 자체가 10초를 넘기는 순간 그냥 잘려요. 502 에러 하나 달랑 뜨고요.

Edge Function은 달라요. V8 런타임 기반이라 Node.js 일부 API를 못 쓰지만, Hobby 플랜에서도 최대 실행시간이 25초예요. 그리고 결정적으로, 스트리밍 응답을 지원해요.

스트리밍의 핵심은 이거예요. 함수가 살아있는 동안 데이터를 조금씩 계속 내보내면, 브라우저 입장에서는 연결이 유지된 채로 토큰을 받는 거예요. GPT가 첫 토큰을 500ms 안에 돌려주기 시작하면 함수는 타임아웃 없이 계속 흘러요. 25초 제한이 있긴 하지만, 스트리밍 중에는 “응답 없음” 상태가 아니거든요.

핵심 우회 패턴: Edge + Streaming 실전 적용

Edge Runtime 선언과 스트리밍 핸들러 구성

/app/api/chat/route.ts 파일 상단에 딱 한 줄 추가해요.

export const runtime = 'edge';

이걸 선언하면 Vercel이 이 라우트를 Edge Function으로 배포해요. 그다음 Vercel AI SDK의 streamText를 쓰면 돼요.

import { streamText } from 'ai';
import { openai } from '@ai-sdk/openai';

export const runtime = 'edge';

export async function POST(req: Request) {
  const { messages } = await req.json();

  const result = await streamText({
    model: openai('gpt-4o'),
    messages,
  });

  return result.toDataStreamResponse();
}

Vercel AI SDK 공식 문서 기준으로, streamText는 내부적으로 SSE(Server-Sent Events) 방식으로 응답을 흘려보내요. toDataStreamResponse()가 연결을 유지하면서 토큰이 올 때마다 클라이언트에 밀어주는 구조예요.

클라이언트 사이드 연결 유지

프론트에서는 useChat 훅 하나면 돼요.

import { useChat } from 'ai/react';

export default function Chat() {
  const { messages, input, handleInputChange, handleSubmit } = useChat();
  // ...
}

이 패턴의 장점은 타임아웃을 “늘리는” 게 아니라 “측정 방식을 바꾸는” 거예요. 스트리밍 중인 함수는 응답을 내보내고 있는 상태라 Vercel이 타임아웃으로 처리하지 않아요.

25초도 부족할 때: 외부 프록시 구조

LLM으로 긴 문서를 요약하거나, 멀티스텝 체인을 돌리거나, 배치 작업을 하면 25초도 짧아요. 이 경우엔 Vercel 바깥으로 연산을 빼는 게 맞아요.

Render의 무료 Web Service는 기본 타임아웃이 없어요. Express나 FastAPI로 프록시 서버를 만들어서, Vercel 프론트가 그쪽으로 요청을 넘기는 구조예요. Vercel은 UI와 라우팅만 담당하고, 실제 LLM 호출은 Render 서버가 처리하는 거죠.

다만 Render 무료 티어는 15분 비활성 상태면 컨테이너가 슬립 상태로 빠져요. 첫 요청에 콜드 스타트가 30~50초 걸릴 수 있어요. 배포 직후나 저트래픽 시간대에 첫 요청이 느릴 수 있다는 점은 감안해야 해요.

방법별 트레이드오프 비교

Edge Function + Streaming이 대부분의 사이드 프로젝트에 맞는 선택지예요. 설정이 간단하고, Vercel AI SDK가 복잡한 부분을 처리해주거든요. Render 프록시는 스트리밍으로도 감당 안 되는 작업에 쓰는 플랜 B예요.

실제 적용 시나리오별 권장 흐름

시나리오 A — 채팅 앱, 짧은 Q&A 응답: Edge Function + streamText 조합으로 충분해요. 설정 10분이면 동작해요. 타임아웃 문제를 가장 빠르게 우회하는 경로예요.

시나리오 B — PDF 요약, 긴 문서 처리: 입력 문서를 청크(chunk)로 나눠서 여러 번 Edge Function 호출로 처리하거나, Render 프록시로 넘기는 방식을 써요. 단일 함수 호출 하나에 전체 문서를 밀어넣는 구조는 타임아웃을 피하기 어려워요.

시나리오 C — 멀티스텝 에이전트, 툴 호출 체인: 이건 Vercel 위에서 무료로 돌리기 어려운 케이스예요. Render나 Railway의 유료 티어, 혹은 백그라운드 잡 서비스(Inngest, Trigger.dev 등)를 쓰는 게 현실적이에요.

정리

• Edge Function + Streaming은 Vercel 무료 플랜에서 LLM API 타임아웃 우회의 가장 실용적인 방법이에요.
• Vercel AI SDK의 streamText + runtime: 'edge' 조합은 설정 최소화 + 즉시 동작이에요.
• 25초 초과 작업은 구조적으로 분리하거나 Render 프록시로 넘기는 게 맞아요.
• 무료 플랜 내에서 해결이 안 된다면, 작업 단위를 나누는 게 비용을 쓰는 것보다 먼저예요.

참고로 Vercel 팀은 2026년 초 블로그에서 Edge Middleware의 스트리밍 개선을 언급했어요. 향후 Hobby 플랜에서 스트리밍 제한이 더 완화될 가능성도 있어요. 지금은 Edge + Streaming이 정답에 가장 가까운 조합이에요.

지금 만들고 있는 LLM 앱에서 단일 요청당 평균 응답시간이 얼마나 되나요? 그 숫자가 어떤 구조를 선택할지를 결정해요.

참고자료

1. Vercel을 이용한 무료 웹 배포 이용해보기 - 코딩은재밌어
2. Render 을 사용하여 프록시 구현하기
3. Vercel AI SDK 사용법: 초보자 가이드

Photo by Luca Bravo on Unsplash