AnythingLLM MCP 서버: Sume를 streamable로 추가

AnythingLLM에 MCP 서버를 추가하려면 AnythingLLM 스토리지 디렉터리에 있는 plugins/anythingllm_mcp_servers.json의 mcpServers 객체에 항목을 추가한 뒤, Agent Skills 페이지에서 Refresh를 클릭하세요. Sume 호스팅 MCP 같은 원격 서버에는 "type": "streamable", url 값 https://mcp.sume.com/mcp, 그리고 headers에 넣은 Sume API 키가 필요합니다. type은 명시적으로 설정하세요. 없으면 AnythingLLM은 sse로 간주합니다.

AnythingLLM 쪽 내용은 MCP 개요, Desktop의 MCP, Docker의 MCP, AI 에이전트 사용하기 페이지에서, Sume 쪽 내용은 MCP OAuth와 API 키, MCP 도구와 게이트, Job과 결과 (영문)에서 가져왔으며, 모두 2026-09-28에 확인했습니다. MCP에는 AnythingLLM Desktop v1.8.0 이상이 필요하며, Docker에서는 셀프 호스팅에서만 쓸 수 있고 AnythingLLM Cloud에는 없습니다. Sume에는 AnythingLLM 전용 연동이 없습니다. AnythingLLM은 다른 원격 MCP 서버와 똑같이 Sume 원격 MCP 서버에 연결하며, Sume 기초 페이지는 호스팅 MCP가 여전히 동작하지만 현재 주 경로는 아니라고 설명합니다. 다른 로컬 모델 호스트는 LM Studio MCP 서버에서 다룹니다.

anythingllm_mcp_servers.json에 Sume를 어떻게 추가하나요?

Agent Skills 페이지를 열 때 파일이 없으면 자동으로 만들어집니다. Docker에서는 STORAGE_LOCATION 환경 변수가 가리키는 디렉터리가 스토리지 디렉터리입니다. AnythingLLM의 원격 서버 예제는 headers에 API 키를 담아 보내고, Sume는 키를 x-api-key나 Authorization: Bearer로 받으므로 둘 중 하나를 보내세요. 이미 있는 서버 옆, mcpServers 안에 Sume를 추가하세요.

{
  "mcpServers": {
    "sume": {
      "type": "streamable",
      "url": "https://mcp.sume.com/mcp",
      "headers": {
        "x-api-key": "<SUME_API_KEY>"
      }
    }
  }
}

AnythingLLM이 Sume를 불러왔는지 어떻게 확인하나요?

Agent Skills 페이지에서 Refresh를 클릭하세요. AnythingLLM이 파일에서 서버를 다시 불러와 재시작하며, 앱이나 컨테이너는 재시작하지 않습니다. 같은 페이지에 MCP 서버마다 상태가 표시되고, 오류가 있으면 해당 서버 카드에 오류가 나타나며, 불러온 서버의 도구 목록도 나옵니다.

MCP 서버는 Agent Skills를 열거나 @agent를 호출할 때 시작됩니다. 프롬프트 입력란에 @ 기호가 보이면 @agent로 에이전트 세션을 시작하고, 보이지 않으면 모든 채팅이 에이전트 방식으로 동작합니다. /exit는 에이전트 세션을 끝냅니다. 비용이 드는 작업에 앞서, 에이전트에게 Sume의 읽기 전용 탐색 도구인 mcp_health와 tools_list를 먼저 호출해 달라고 하세요.

type은 왜 streamable이어야 하나요?

AnythingLLM의 원격 서버 유형은 sse와 streamable이며, 둘 다 url이 필요하고 type이 없으면 sse로 간주됩니다. Sume 문서는 클라이언트가 streamable HTTP MCP 서버를 가리키도록 안내하며, 현재 코드에서 Sume 엔드포인트는 GET에 405와 Remote MCP uses POST JSON-RPC requests. 메시지로 응답합니다. Sume를 SSE 기본값으로 두지 마세요. 두 트랜스포트의 차이는 MCP SSE vs Streamable HTTP에서 설명합니다.

실제로 쓰기 전에 무엇을 알아야 하나요?

• API 키 세션에는 유료 도구를 포함한 Sume의 전체 호스팅 도구 세트가 보이며, 지출은 그 키의 워크스페이스로 귀속됩니다. AnythingLLM의 MCP 페이지는 MCP 도구가 실행되기 전의 확인 단계를 설명하지 않습니다.
• Sume 유료 도구에는 idempotency_key가 필요하고, dry_run=true는 제출하지 않고 접수 여부와 비용을 미리 보여 주며, max_spend_usd는 값을 보낸 경우에만 호출의 상한이 됩니다. 이 인수들은 모델이 직접 작성합니다.
• 키는 JSON 파일에 평문으로 들어갑니다. 파일은 남에게 공개하지 말고, 키가 로그나 채팅 기록에 나타나면 교체하세요.
• AnythingLLM은 MCP 도구만 불러오며, 리소스, 프롬프트, 샘플링은 불러오지 않습니다. Sume에는 이 방식이 맞습니다. 현재 Sume 서버는 도구만 선언하기 때문입니다.
• jobs_wait 호출 한 번은 최대 55초 동안 대기합니다. 렌더링이 그보다 길면 에이전트는 같은 id로 다시 호출해야 하며, 유료 create는 절대 다시 제출하면 안 됩니다.
• 모델이 Sume를 전혀 호출하지 않는다면, AnythingLLM은 서버가 실행 중이고 도구가 나열되는지 먼저 확인한 다음 모델을 살펴보라고 안내합니다. 컨텍스트 윈도가 제한된 작은 로컬 모델이라면 특히 그렇습니다.